Implementasi Steganografi Modified Least Significant Bit (MLSB) Untuk Enkripsi Pesan Pada Citra Dengan Algoritma Triple Transposition Vigenere Cipher

(1)

IMPLEMENTASI STEGANOGRAFI MODIFIED LEAST SIGNIFICANT BIT (MLSB) UNTUK ENKRIPSI PESAN PADA CITRA DENGAN

ALGORITMA TRIPLE TRANSPOSITION VIGENERE CIPHER

SKRIPSI

SHINDI WULANDARI 130803005

DEPARTEMEN MATEMATIKA

FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SUMATERA UTARA

(2)

SKRIPSI

Diajukan untk melengkapi tugas dan memenuhi syarat untuk mencapai gelar Sarjana Sains

SHINDI WULANDARI 130803005

DEPARTEMEN MATEMATIKA

FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SUMATERA UTARA

(3)

PERSETUJUAN

Judul : Implementasi Steganografi Modified Least

Significant Bit (MLSB) Untuk Enkripsi Pesan

Pada Citra Dengan Algoritma Triple

Transposition Vigenere Cipher

Kategori : Skripsi

Nama : Shindi Wulandari Nomor Induk Mahasiswa : 130803005

Program Studi : Sarjana (S1) Matematika Departemen : Matematika

Fakultas : Matematika dan Ilmu Pengetahuan alam (FMIPA) Universitas Sumatera Utara

Disetujui di Medan, Agustus 2017

Komisi Pembimbing:

Pembimbing 2, Pembimbing 1,

Dr. Mardiningsih, M.Si Dr. Syahriol Sitorus, M.IT NIP. 19630405 198811 2 001 NIP. 19710310 199703 1 004

Disetujui oleh

Departemen Matematika FMIPA USU Ketua,

Dr. Suyanto, M.Kom

(4)

PERNYATAAN

SKRIPSI

Saya mengakui bahwa skripsi ini adalah hasil karya sendiri. Kecuali beberapa kutipan dan ringkasan yang masing-masing disebutkan sumbernya.

Medan, Agustus 2017

(5)

PENGHARGAAN

Bismillaahirrahmaanirrahiim

Puji dan syukur penulis ucapkan kepada Allah SWT Yang Maha Kuasa, karena

atas limpahan rahmat dan karunia-Nya sehingga skripsi ini dapat diselesaikan.

Pada skripsi ini penulis mengambil judul tentang Implementasi Steganografi Modified Least Significant Bit (MLSB) Untuk Enkripsi Pesan Pada Citra

Dengan Algoritma Triple Transposition Vigenere Cipher.

Dalam penyusunan skripsi ini, penulis mendapatkan bimbingan, bantuan,

dan dorongan dari berbagai pihak. Sehingga dengan segala hormat penulis

mengucapkan terima kasih kepada:

1. Ibunda tercinta Syamsinar Miati dan ayahanda tercinta Berlin Purba serta

kedua saudara penulis yaitu abangda tercinta Ade Linhar Purba dan adik

tercinta Shella Miranda, atas segala pengertian, kesabaran, dukungan,

semangat, dan kasih sayang yang telah diberikan kepada penulis. Mereka

adalah penyemangat terbesar dalam hidup penulis hingga penulis dapat

menyelesaikan skripsi ini.

2. Bapak Dr. Syahriol Sitorus, M.IT, selaku dosen pembimbing satu yang

berkenan dan rela mengorbankan waktu, tenaga, dan pikiran, guna

memberikan petunjuk, arahan, dan bimbingannya dalam penulisan skripsi ini.

3. Ibu Dr. Mardiningsih, M.Si selaku dosen pembimbing dua yang juga berkenan

dan rela mengorbankan waktu, tenaga, dan pikiran, guna memberikan

petunjuk, arahan, dan bimbingannya dalam penulisan skripsi ini.

4. Bapak Syawaluddin, M.IT dan Bapak Drs. Marihat Situmorang, M.Kom,

selaku komisi penguji atas masukan dan saran yang telah diberikan demi

perbaikan skripsi ini.

5. Bapak Dr. Kerista Sebayang, MS, selaku dekan FMIPA USU.

6. Bapak Dr. Drs. Suyanto, M.Kom dan Bapak Rosman Siregar, M.Si selaku

(6)

7. Ibu Maimunah selaku wali kelas XII IPA 1 yang selalu memberi arahan dan

dorongan semasa SMA dan Bapak Jeristen Sinaga selaku guru matematika

penulis yang membuat penulis terinspirasi untuk masuk di jurusan matematika

ini.

8. Erfi Indriani, Putri Annisa, M. Rizky Ananda, dan Kakanda Fariza

Zulmividya, sahabat penulis yang menemani perjuangan penulis dari awal

hingga saat ini, selalu memotivasi serta memberikan kekuatan spiritual.

9. Abangda Hafizh Al-Kautsar Aidilof, Abangda Zulfikri Lubis, dan Kakanda

Hasina Tony. Abang−kakak senior yang telah bersedia meluangkan waktunya untuk berdiskusi mengenai metode yang penulis gunakan dalam skripsi ini.

10.Sahabat-sahabat Muslimah Kece (Dilla, Indri, Fitri, Mia, dan Dhirah) dan

Ghaaziyah Circle. Walau baru mengenal mereka selama perkuliahan ini,

namun mereka sudah seperti keluarga sendiri bagi penulis.

11.Teman-teman matematika 2013 tersayang terutama Ema Sri Rezeki dan

Agustiany, serta teman-teman lainnya yang tidak dapat disebutkan namanya

satu persatu yang telah membantu penulis dengan memberikan dukungan dan

doa dalam menyelesaikan skripsi ini.

Semoga Allah SWT yang akan membalas segalanya. Penulis juga

menyadari masih terdapat banyak kekurangan dalam pembuatan skripsi ini, baik

dalam teori maupun penulisannya. Oleh karena itu, penulis mengharapkan saran

dari pembaca demi perbaikan bagi penulis. Semoga segala kebaikan dalam bentuk

bantuan yang telah diberikan mendapat balasan dari Allah SWT. Akhir kata,

penulis berharap semoga tulisan ini bermanfaat bagi para pembaca.

Medan, Agustus 2017 Penulis

(7)

ABSTRAK

Steganografi merupakan teknik menyembunyikan pesan rahasia di dalam media digital agar orang lain tidak menyadari ada suatu pesan rahasia di dalam media tersebut. Agar pesan rahasia yang disembunyikan lebih aman, dapat menggunakan teknik kriptografi untuk menyandikan pesan rahasia ke dalam karakter yang tidak dapat mengerti maknanya. Algoritma yang digunakan dalam penelitian ini adalah algoritma Steganografi Modified Least Significant Bit (MLSB) dan algoritma

Triple Transposition Vigenere Cipher. MLSB merupakan metode LSB yang telah

dimodifikasi dengan mengubah data dari bilangan 8 bit menjadi 5 bit, kemudian disisipkan ke dalam cover image. Teknik Triple Transposition Vigenere Cipher juga merupakan modifikasi dari teknik Vigenere Cipher dengan melakukan proses substitusi dan transposisi sebanyak 3 kali. Meskipun hasil yang diperoleh sama dengan panjang plainteks, cipherteks hasil enkripsi dengan metode ini agak sulit untuk dipecahkan karena dilakukan tiga kali proses pengenkripsian pesan yang setiap plainteksnya memiliki kunci yang berbeda. Kualitas citra steganografi dengan metode ini menunjukkan kualitas yang cukup baik, karena nilai Means

Square Error (MSE) yang dihasilkan sebesar 3.9 yang artinya hanya sedikit nilai

piksel error yang ditimbukan akibat penyisipan pesan menggunakan metode MLSB. File citra sebelum dan sesudah disisipi pesan, tidak menunjukkan perbedaan yang signifikan dan pesan yang diekstrak tidak mengalami perubahan.

Kata Kunci: Kriptografi, Steganografi, Triple Transposition Vigenere Cipher,

(8)

IMPLEMENTATION STEGANOGRAPHY MODIFIED LEAST SIGNIFICANT BIT (MLSB) FOR MESSAGES ON IMAGE

ENCRYPTION WITH TRIPLE TRANSPOSITION VIGENERE CIPHER ALGORITHM

ABSTRACT

Steganography is a technique to hide secret messages in digital media so that others don’t realize there is a secret message in the media. For hidden secret messages to be more secure, use Cryptographic techniques to encrypt secret messages into characters who can’t understand it’s meaning. Algorithm used in this research is Steganography Modified Least Significant Bit (MLSB) algorithm and Triple Transposition Vigenere Cipher algorithm. MLSB is a modified LSB method by converting data from an 8 bit number to 5 bit, then inserted into the cover image. Triple Transposition Vigenere Cipher Technique is also a modification of Vigenere Cipher technique by substitution and transposition process 3 times. Although the results obtained are the same as the length of the plaintext, the encrypted ciphertext with this method is somewhat difficult to solve because three encryption processes are performed which each plaintext has a different key. The quality of steganographic image with this method shows good enough quality, because the value of Means Square Error (MSE) generated is 3.9 which means only a few pixel error value caused by message insertion using MLSB method. The image file before and after the message inserted, didn’t show any significant difference and the extracted message didn’t change.

(9)

DAFTAR ISI

1.7 Metodologi Penelitian 5

BAB 2 LANDASAN TEORI

2.1 Keamanan Informasi 7

2.2 Kriptografi 7

2.2.1 Pengertian Kriptografi 7

2.2.2 Sejarah Kriptografi 8

2.2.3 Terminologi dan Konsep Dasar Kriptografi 9 2.2.4 Algoritma Triple Transposition Vigenere Cipher 12

2.3 Steganografi 15

2.3.1 Pengertian Steganografi 15

2.3.2 Sejarah Steganografi

2.3.3 Terminologi dan Konsep Dasar Steganografi 16

2.3.4 Proses Steganografi 16

2.3.5 Modified Least Significant Bit (MLSB) 17 2.4 Citra Digital

2.4.1 Pengertian Citra Digital 18 2.4.2 Jenis-jenis Citra Digital 18

2.5 Means Square Error (MSE) 20

2.6 Penelitian Terdahulu 21

BAB 3 ANALISI DAN PERANCANGAN APLIKASI

3.1 Analisis Sistem 23

(10)

(MLSB)

3.4 Analisis Means Square Error (MSE) 31

BAB 4 IMPLEMENTASI

4.1 Kebutuhan Perangkat Lunak dan Perangkat Keras 33

4.2 Implementasi 33

4.2.1 Proses Enkripsi dan Encoding 34 4.2.2 Proses Decoding dan Dekripsi 38

4.3 Analisis dalam Aplikasi 41

4.4 Means Square Error (MSE) 66

4.5 Hasil Pengujian 67

4.5.1 Hasil Kriptografi 67

4.5.2 Hasil Steganografi 68

BAB 5 KESIMPULAN DAN SARAN

5.1 Kesimpulan 73

5.2 Saran 73

DAFTAR PUSTAKA 75

(11)

DAFTAR TABEL

Nomor Tabel

Judul Halaman

2.1 Hasil Penelitian Terdahulu 21

4.1 Proses Memasukkan Plainteks 1 42

4.2 Proses Transposisi Pertama 42

4.3 Kode ASCII Plainteks dan Kunci Pertama 43 4.4 Hasil Konversi Plainteks dan Kata Kunci Pertama 44 4.5 Hasil Penjumlahan Plainteks dengan Kata Kunci Pertama 44 4.6 Hasil Pengurangan Plainteks pada Proses Pertama 45 4.7 Pengembalian Plainteks ke Bentuk Semula pada Proses

Pertama

45

4.8 Hasil Proses Enkripsi pada Transposisi Pertama 46 4.9 Proses Memasukkan Plainteks 2 46

4.10 Proses Transposisi Kedua 47

4.11 Kode ASCII Plainteks dan Kunci Kedua 47 4.12 Hasil Konversi Plainteks dan Kata Kunci Kedua 48 4.13 Hasil Penjumlahan Plainteks dengan Kata Kunci Kedua 49 4.14 Pengembalian Plainteks ke Bentuk Semula pada Proses

Kedua

49

4.15 Hasil Proses Enkripsi pada Transposisi Kedua 50 4.16 Proses memasukkan plainteks 3 51

4.17 Proses Transposisi Ketiga 51

4.18 Kode ASCII Plainteks dan Kunci Ketiga 52 4.19 Hasil Konversi Plainteks dan Kata Kunci Ketiga 52 4.20 Hasil Penjumlahan Plainteks dengan Kata Kunci Ketiga 53 4.21 Hasil Pengurangan Plainteks pada Proses Ketiga 53 4.22 Pengembalian Plainteks ke Bentuk Semula pada Proses

Ketiga 54

4.23 Hasil Proses Enkripsi pada Transposisi Ketiga 54

4.24 Nilai RGB Citra Cover 57

4.25 Citra Cover Dalam Bentuk Biner 58 4.26 Biner Citra Setelah Disisipkan Pesan 58

4.27 Nilai Piksel Citra Stego 59

4.28 Hasil Ekstraksi Citra Stego 60

4.29 Pengambilan Karakter Control Symbol dari Komponen RGB 60 4.30 Konversi Control Symbol Menjadi Nilai Hexadecimal 60 4.31 Hasil Proses Dekripsi pada Substitusi Ketiga 63 4.32 Proses Dekripsi pada Proses Substitusi Ketiga 63 4.33 Pengurangan Plainteks dan Kunci pada Proses Dekripsi

Ketiga 64

4.34 Pengurangan Plainteks dengan Kata Kunci pada Proses

Dekripsi Ketiga 64

(12)

4.36 Pengembalian Plainteks dalam Bentuk Semula pada Dekripsi

Ketiga 65

4.37 Perbandingan antara Citra Cover dan Citra Stego 68 4.38 Kapasitas Maksimum Karakter yang Mampu Ditampung

Tanpa Merusak Citra Cover 70

(13)

DAFTAR GAMBAR

Nomor Gambar

Judul Halaman

1.1 Diagram Konsep Penyembunyian Pesan 5 2.1 Scytale, Media Kriptografi yang Digunakan Oleh Bangsa

Yunani Kuno 8

2.2 Mesin Enigma 9

2.3 (a) Plainteks; (b) Cipherteks 10

2.4 Skema Enkripsi dan Dekripsi 11

2.5 Proses Algoritma Triple Transposition Vigenere Cipher 12

2.6 Bujursangkar Vigenere Cipher 13

2.7 (a) Skema Encoding; (b) Skema Decoding 17

2.8 Control Symbol 17

2.9 (a) Citra Biner; (b) Representasi Citra Biner 19

2.10 Citra Grayscale 19

2.11 Citra Warna 20

3.1 (a) Flowchart Enkripsi dan Encoding; (b) Flowchart

Decoding dan Dekripsi 23

3.2 Flowchart Proses Enkripsi 25

3.3 Flowchart Proses Dekripsi 26

3.4 Flowchart Proses Encoding 29

3.5 Flowchart Proses Decoding 30

3.6 Flowchart Proses Perhitungan Means Square Error (MSE) 32

4.1 Menu Utama 34

4.9 Bebatuan_Stego.png 38

(14)

DAFTAR LAMPIRAN

Nomor Lamp

Judul Halaman

1 Fungsi Menu Utama 77

2 Fungsi Enkripsi dan Encoding 79

3 Fungsi Decoding dan Dekripsi 84