Analisis Kombinasi Message-Digest Algorithm 5 (MD5) dan Affine Block Cipherterhadap Serangan Dictionary Attack Untuk Keamanan Router Weblogin Hotspot

(1)

ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5)

DAN AFFINE BLOCK CIPHERTERHADAP SERANGAN

DICTIONARY ATTACK UNTUK KEAMANAN

ROUTER WEBLOGIN HOTSPOT

TESIS

AIDIL HALIM LUBIS

137038029

PROGRAM STUDI S2 TEKNIK INFORMATIKA

FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI

UNIVERSITAS SUMATERA UTARA

(2)

ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5)

DAN AFFINE BLOCK CIPHER TERHADAP SERANGAN

DICTIONARY ATTACK UNTUK KEAMANAN

ROUTER WEBLOGIN HOTSPOT

TESIS

Diajukan untuk melengkapi tugas dan memenuhi syarat memperoleh ijazah

Magister Teknik Informatika

AIDIL HALIM LUBIS

137038029

PROGRAM STUDI S2 TEKNIK INFORMATIKA

FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI

UNIVERSITAS SUMATERA UTARA

(3)

PERSETUJUAN

Judul : ANALISIS KOMBINASI MESSAGE-DIGEST

ALGORITHM 5 (MD5) DAN AFFINE BLOCK CIPHER

TERHADAP SERANGAN DICTIONARY ATTACK

UNTUK KEAMANAN ROUTER WEBLOGIN HOTSPOT

Kategori : TESIS

Nama : AIDIL HALIM LUBIS

Nomor Induk Mahasiswa : 137038029

Program Studi : S2 TEKNIK INFORMATIKA

Fakultas : ILMU KOMPUTER DAN TEKNOLOGI INFORMASI

UNIVERSITAS SUMATERA UTARA

Komisi Pembimbing :

Pembimbing 2 Pembimbing 1

Dr. Poltak Sihombing, M.Kom Prof. Dr. Opim Salim Sitompul, M.Sc

Diketahui / disetujui oleh

Program Studi S2 Teknik Informatika

Ketua,

(4)

PERNYATAAN

ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5) DAN AFFINE

BLOCK CIPHER TERHADAP SERANGAN DICTIONARY ATTACK UNTUK

KEAMANANROUTER

WEBLOGIN HOTSPOT

TESIS

Saya mengakui bahwa tesis ini adalah hasil karya saya sendiri, kecuali beberapa kutipan dan

ringkasan yang masing-masing telah disebutkan sumbernya.

Medan, Agustus 2016

(5)

PERNYATAAN PERSETUJUAN PUBLIKASI KARYA ILMIAH UNTUK KEPENTINGAN

AKADEMIS

Sebagai sivitas akademika Universitas Sumatera Utara, saya yang bertanda tangan di

bawah ini :

Nama : AIDIL HALIM LUBIS

NIM : 137038029

Program Studi : S2 TEKNIK INFORMATIKA

Jenis Karya Ilmiah : TESIS

Demi pengembangan ilmu pengetahuan, menyetujui untuk memberikan kepada Universitas

Sumatera Utara Hak Bebas Royalti Non-Eksklusif (Non-Exclusive Royalty Free Right) atas

tesis saya yang berjudul :

ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5) DAN AFFINE

BLOCK CIPHER TERHADAP SERANGAN DICTIONARY

ATTACK UNTUK KEAMANANROUTER

WEBLOGIN HOTSPOT

Beserta perangkat yang ada (jika diperlukan). Dengan Hak Bebas Royalti Non-Eksklusif ini,

Universitas Sumatera Utara berhak menyimpan, mengalih media, memformat, mengelola

dalam bentuk database, merawat dan mempublikasikan tesis saya tanpa meminta izin dari

saya selama tetap mencantumkan nama saya sebagai penulis dan sebagai pemegang dan/atau

sebagai pemilik hak cipta.

Demikian pernyataan ini dibuat dengan sebenarnya.

Medan, 26 Agustus 2016

(6)

Telah diuji pada

Tanggal : 26 Agustus 2016

PANITIA PENGUJI TESIS

Ketua : 1. Prof. Dr. Opim Salim Sitompu, M.Sc

2. Dr. Poltak Sihombing, M.Kom

3. Prof. Dr. Muhammad Zarlis

(7)

RIWAYAT HIDUP

DATA PRIBADI

Nama Lengkap : Aidil Halim Lubis, S.Kom

Tempat dan Tanggal Lahir : Binjai, 27 Mei 1988

Alamat Rumah : Jl. Hah. Hasan No.82 A Binjai

Telepon : 081397214108

E-mail : [email protected]

Instansi Tempat Bekerja : SMK Negeri 2 Binjai

Alamat Kantor : Jl. Bejomuna

DATA PENDIDIKAN

SD : SDN 023907 Binjai Tamat : 2000

SLTP : SMPN 5 Binjai Tamat : 2003

SLTA : SMKS Tunas Pelita Binjai Tamat : 2006

DIPLOMA : D-III Politeknik Negeri Medan Tamat : 2010

S1 : Universitas Pembangunan Panca Budi Tamat : 2013

(8)

KATA PENGANTAR

Assalamu’alaikum Wr.Wb

Puji dan syukur penulis panjatkan Kehadirat Allah SWT karena atas berkah

dan rahmat serta karunia-Nya sehingga tesis ini dapat diselesaikan tepat pada

waktunya.

Pada kesempatan ini pula penulis ingin mengucapkan terima kasih yang

sebesar-besarnya kepada berbagai pihak yang telah banyak membantu peneliti baik

secara moril maupun materil, langsung maupun tidak langsung. Untuk itu penulis

ingin mengucapkan terimakasih kepada :

1. Rektor Universitas Sumatera Utara, Prof. Dr. Runtung, S.H., M.Hum atas

kesempatan yang diberikan kami untuk mengikuti dan menyelesaikan

pendidikan Program Magister.

2. Bapak Prof. Dr. Opim Salim Sitompu, M.Sc, selaku Pembimbing Utama,

Dekan Fakultas Ilmu Komputer dan Teknologi Informasi yang penuh

perhatian telah memberikan dorongan, bimbingan dan arahan.

3. Bapak Prof. Dr. Muhammad Zarlis, selaku ketua komisi pembanding, Ketua

Program Studi Magister Teknik Informatika Universitas Sumatera Utara atas

kesempatan yang diberikan kepada saya menjadi mahasiswa Program

Magister.

4. Bapak M. Andri Budiman, M.Comp.Sc., M.E.M selaku sekretaris Program

Studi Magister Teknik Informatika.

5. Bapak Dr. Poltak Sihombing, M.Kom selaku Pembimbing Anggota yang telah

membimbing penulis hingga selesainya penelitian ini.

6. Ibu Dr. Erna Budhiarti Nababan selaku anggota komisi pembanding

7. Seluruh Dosen Pengajar Pascasarjana Program Studi Magister Teknik

Informatika yang telah memberikan banyak ilmu pengetahuan selama penulis

mengikuti pendidikan.

8. Teristimewa kepada Orang tua penulis, ayahanda Ahmad Rifai Lubis dan

(9)

memberikan semangat dan dukungan baik berupa moril maupun materil

hingga selesai proses pendidikan ini.

9. Rekan-rekan seperjuangan pada Program Studi Magister Teknik Informatika

yang tergabung dalam Kom A 2013, serta teman-teman yang tidak bisa penulis

sebutkan namanya satu-persatu yang senantiasa memberikan dukungan.

Akhirnya, penulis menyadari didalam penulisan tesis ini masih terdapat

banyak kekurangan, oleh karena itu untuk kesempurnaan penulisan tesis ini penulis

mengharapkan kritik dan saran yang bersifat membangun. Semoga Allah SWT selalu

mengabulkan doa-doa kita dalam meraih cita-cita dan harapan kita semua, serta

dengan S2 ini mampu mencerdaskan kehidupan bangsa.

Akhir kata penulis berharap semoga tesis ini dapat bermanfaat bagi semua

pihak, khususnya dalam bidang pendidikan.

Wassalamu’alaikum Wr.Wb

Medan, 26 Agustus 2016

Aidil Halim Lubis

(10)

ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5)

DAN AFFINE BLOCK CIPHER TERHADAP SERANGAN

DICTIONARY ATTACK UNTUK KEAMANAN

ROUTER WEBLOGIN HOTSPOT

ABSTRAK

Kriptografi adalah ilmu yang digunakan untuk menyamarkan pesan yang akan dikirim

oleh pengirim ke penerima pesan. Salah satu algoritma yang cukup banyak digunakan

sampai saat ini yaitu algoritma message-digest 5 atau MD5. Output yang dihasilkan

oleh algoritma MD5 berupa hash. Namun algoritma ini telah banyak ditemui

kelemahannya karena panjang bit yang digunakan. Pada penelitian ini, penulis

menganalisa kinerja dari algoritma MD5serta mengkombinasikan dengan algoritma

affine block cipher untuk dapat mengurangi kelemahan yang ada pada algoritma MD5.

Hasil yang diperoleh dari penelitian ini adalahalgoritma affine block cipher memiliki

tingkat keamanan yang cukup baik karena memiliki panjang kunci yang bernilai n

sebesar 255255255255 dan memiliki bilangan relatif prima yang tersedia sebanyak

117710117810.

(11)

ANALYSIS OF THE COMBINATION MESSAGE-DIGEST ALGORITHM 5 (MD5) AND AFFINE BLOCK CIPHER AGAINTS ATTACK OF

DICTIONARY ATTACK TO ROUTER

SECURITY HOTSPOT

WEBLOGIN

ABSTRACT

Cryptography is the science of disguising the messages so that only well known by the

provider and the recipient. One of the algorithm that is quite a lot of used until this

time is algorithm message-digest 5 or MD5. The output produced by the algorithm

MD5 be hash. But this algorithm has many found weakness because the length of the

bit is used. In this research, the authors analyze the performance of the algorithm MD5

and combine with affine algorithm block cipher for can reduce the weakness that exist

on the algorithm MD5. The results obtained from this research is the affine algorithm

block cipher have a good security level because it has the key length of value n of

255255255255 and have numbers relatively prima available as much as

117710117810.

(12)

DAFTAR ISI

Hal

KATA PENGANTAR i

ABSTRAK iii

DAFTAR ISI v

DAFTAR GAMBAR viii

DAFTAR TABEL ix

BAB II TINJAUAN PUSTAKA

2.1. Keamanan 4

2.2. Mekanisme Kriptografi 5

2.3. Tujuan Kriptografi 8

2.4. Kriptografi Simentrik dan Asimentris 8

2.4.1. Kriptografi Simetris 9

2.4.2. Kriptografi Asimetris 10

2.5. Keamanan Sistem Kriptografi 11

2.6. Algoritma Message Digest 5 12

2.7. Serangan Pada Algoritma Message-Digest 13

2.8. Analisa Keamanan Algoritma MD5 14

2.9. Algoritma Affine Cipher 17

(13)

BAB III METODOLOGI PENELITIAN

3.1. Bahan-bahan 15

3.2. Analisis Algoritma 15

3.3. Analisis Algoritma Message Digest 5 (MD5) 15

3.4. Analisis Algoritma Affine Cipher 27

3.5. Analisis Algoritma Affine Block Cipher 30

3.6. Rancangan Penelitian 32

BAB IV HASIL DAN PEMBAHASAN

4.1. Hasil dan Implementasi 34

4.2. Fungsi Hash Menggunakan Algoritma MD5 34

4.2.1. Percobaan Pertama Fungsi Hash Menggunakan Algoritma MD5 34

4.2.2. Percobaan Kedua Fungsi Hash Menggunakan Algoritma MD5 37

4.2.3. Percobaan Ketiga Fungsi Hash Menggunakan Algoritma MD5 40

4.3. Proses Enkripsi Menggunakan Algoritma Affine Block Cipher 43

4.3.1. Percobaan Pertama Proses Enkripsi Menggunakan Algoritma

Affine Block Cipher 43

4.3.2. Percobaan Kedua Proses Enkripsi Menggunakan Algoritma

4.3.3. Percobaan Ketiga Proses Enkripsi Menggunakan Algoritma

4.4. Kombinasi Algoritma MD5 dengan Algoritma Affine Block Cipher 46

4.4.1. Percobaan Pertama Kombinasi Algoritma MD5 dengan

Algoritma Affine Block Cipher 46

4.4.2. Percobaan Kedua Kombinasi Algoritma MD5 dengan

4.4.3. Percobaan Ketiga Kombinasi Algoritma MD5 dengan

4.5. Analisa Waktu 53

4.5.1. Analisa Waktu Algoritma MD5 53

4.5.2. Analisa Waktu Algoritma Affine Block Cipher 54

4.5.3. Analisa Waktu Kombinasi Algoritma MD5 dengan Algoritma

(14)

4.6. Analisa Keamanan 59

4.6.1. Analisa Keamanan Kombinasi Algoritma MD5 dan Algoritma

BAB V KESIMPULAN DAN SARAN

5.1. Kesimpulan 61

5.2. Saran 61

(15)

DAFTAR GAMBAR

HAL

Gambar 2.1. Mekanisme Kriptografi 6

Gambar 2.2. Kriptografi Berbasis Kunci 7

Gambar 2.3. Diagram Proses Enkripsi dan Dekripsi 9

Gambar 2.4. Diagram Proses Enkripsi dan Dekripsi Algoritma Simetris 11

Gambar 3.1. Ilustrasi Pembuatan Message Digest Algoritma MD5 21

Gambar 3.2. Pengolahan Blok 512 bit 21

Gambar 3.3. Proses Operasi Dasar MD5 22

Gambar 3.4. Proses Hash Algoritma MD5 27

Gambar 3.5. Proses Enkripsi dan Dekripsi pada Algoritma Affine Cipher 28

Gambar 3.6. Proses Enkripsi dan Dekripsi pada Algoritma Affine Cipher 30

Gambar 3.7. Proses Enkripsi dan Dekripsi pada Algoritma Affine Block Cipher 32

Gambar 3.8. Rancangan Penelitian Kombinasi Algoritma MD5 dengan Algoritma

Gambar 4.1. Analisa Waktu Algoritma Affine Block Cipher 56

Gambar 4.2. Analisa Waktu Kombinasi Algoritma MD5 dan Algoritma

(16)

DAFTAR TABEL

3.7. Proses Enkripsi pada Algoritma Affine Cipher 29

3.8. Proses Dekripsi pada Algoritma Affine Cipher 29

3.9. Proses Enkripsi pada Algoritma Affine Block Cipher 31

4.1. Hasil putaran 1 dan 2 Message-Digest dari Plainteks medan 35

4.2. Hasil Putaran 3 dan 4 Message-Digest dari Plainteks medan 36

4.3. Operasi Hasil Penambahan dan Konversi 37

4.4. Hasil Putaran 1 dan 2 Message-Digest dari Plainteks Universitas 38

4.5. Hasil Putaran 3 dan 4 Message-Digest dari Plainteks Universitas 39

4.7. Hasil Putaran 1 dan 2 Message-Digest dari Plainteks Informatika 41

4.8. Hasil Putaran 3 dan 4 Message-Digest dari Plainteks Informatika 42

4.10. Analisa Waktu pada Algoritma MD5 54

4.11. Analisa Waktu pada Algoritma Affine Block Cipher 55

4.12. Analisa Waktu pada Kombinasi Algoritma MD5 dan Algoritma