SYARAF TIRUAN
PENGENALAN
PROGRAM STUDI
FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI
UNIVERSITAS SUMATERA UTARA
TIRUANBACKPROPAGATIONUNTUK
PENGENALAN KARAKTERALFANUMERIK
TESIS
ANINDA MULIANI
127038015
PROGRAM STUDI S2 TEKNIK INFORMATIKA
FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA
MEDAN
2014
UNTUK
ALFANUMERIK
TEKNIK INFORMATIKA
PENGARUH KOMBINASI ALGORITMA NGUYEN WIDROW
DAN ADAPTIVE LEARNING RATE PADA JARINGAN
SYARAF TIRUAN BACKPROPAGATION UNTUK
PENGENALAN KARAKTER ALFANUMERIK
Diajukan untuk melengkapi tugas dan memenuhi
PROGRAM STUDI S2 TEKNIK INFORMATIKA
FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INF
UNIVERSITAS SUMATERA UTARA
PENGARUH KOMBINASI ALGORITMA NGUYEN WIDROW
DAN ADAPTIVE LEARNING RATE PADA JARINGAN
SYARAF TIRUAN BACKPROPAGATION UNTUK
PENGENALAN KARAKTER ALFANUMERIK
TESIS
Diajukan untuk melengkapi tugas dan memenuhi syarat memperoleh ijazah
Magister Teknik Informatika
ANINDA MULIANI
127038015
PROGRAM STUDI S2 TEKNIK INFORMATIKA
FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA
MEDAN
2014
PENGARUH KOMBINASI ALGORITMA NGUYEN WIDROW
JARINGAN
SYARAF TIRUAN BACKPROPAGATION UNTUK
PENGENALAN KARAKTER ALFANUMERIK
syarat memperoleh ijazah
PROGRAM STUDI S2 TEKNIK INFORMATIKA
PERSETUJUAN
Judul Tesis : PENGARUH KOMBINASI ALGORITMA NGUYEN
WIDROW DAN ADAPTIVE LEARNING RATE
PADA JARINGAN SYARAF TIRUAN
BACKPROPAGATION UNTUK PENGENALAN
KARAKTER ALFANUMERIK
Kategori : TESIS
Nama Mahasiswa : ANINDA MULIANI
Nomor Induk Mahasiswa : 127038015
Program Studi : Magister (S2) Teknik Informatika
Fakultas : ILMU KOMPUTER DAN TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA
Komisi Pembimbing :
Pembimbing 2, Pembimbing 1,
Dr. Erna Budhiarti Nababan, M.IT Prof. Dr. Muhammad Zarlis
Diketahui / Disetujui Oleh,
Program Studi Magister (S2) Teknik Informatika,
Ketua,
Prof. Dr. Muhammad Zarlis
PERNYATAAN
PENGARUH KOMBINASI ALGORITMA NGUYEN WIDROW DAN
ADAPTIVE LEARNING RATE PADA JARINGAN SYARAF
TIRUAN BACKPROPAGATION UNTUK PENGENALAN
KARAKTER ALFANUMERIK
TESIS
Saya mengakui bahwa tesis ini adalah hasil karya saya sendiri, kecuali beberapa
kutipan dan ringkasan yang masing-masing telah disebutkan sumbernya.
Medan, 24 Juli 2014
Aninda Muliani
PERNYATAAN PERSETUJUAN PUBLIKASI KARYA ILMIAH UNTUK KEPENTINGAN
AKADEMIS
Sebagai sivitas akademika Universitas Sumatera Utara, saya yang bertanda tangan di
bawah ini:
Nama : Aninda Muliani
NIM : 127038015
Program Studi : Teknik Informatika
Jenis Karya Ilmiah : Tesis
Dengan pengembangan ilmu pengetahuan, menyetujui untuk memberikan kepada
Universitas Sumatera Utara Hak bebas Royalti Non-Eksklusif (non-Exlusive Royalty
Free Right) atas tesis saya yang berjudul:
PENGARUH KOMBINASI ALGORITMA NGUYEN WIDROW DAN ADAPTIVE
LEARNING RATE PADA JARINGAN SYARAF TIRUAN BACKPROPAGATION
UNTUK PENGENALAN KARAKTER ALFANUMERIK
Beserta perangkat yang ada (jika diperlukan). Dengan Hak Bebas Royalti
Non-Eksklusif ini, Universitas Sumatera Utara berhak menyimpan, mengalih media,
memformat, mengelola dalam bentuk data-base, merawat dan mempublikasikan Tesis
saya tanpa minta izin dari saya selama tetap mencantumkan nama saya sebagai penulis
dan sebagai pemegang dan atau sebagai pemilik hak cipta.
Dengan pernyataan ini dibuat dengan sebenarnya.
Medan, 24 Juli 2014
Aninda Muliani
Telah diuji pada Tanggal : 24 Juli 2014
PANITIA PENGUJI TESIS
Ketua : Prof. Dr. Muhammad Zarlis
Anggota : 1. Dr. Erna Budhiarti Nababan, M.IT
2. Prof. Dr. Herman Mawengkang
3. Prof. Dr. Tulus, Vor. Dipl. Math, M.Si
RIWAYAT HIDUP
DATA PRIBADI
Nama Lengkap (berikut gelar) : Aninda Muliani, M.Kom
Tempat dan Tanggal Lahir : Padangsidimpuan, 29 November 1986
Alamat Rumah : Jl. Surya Haji Komplek Taman Surya
Indah No.3 Medan 20371
Telepon/Faks/HP : 085214910829
E-mail : [email protected]
Instansi Tempat Bekerja : Politeknik LP3M
Alamat Kantor : Jl.Iskandar Muda No. 4-5 Medan
DATA PENDIDIKAN
SD : SD Negeri 26 Padangsidempuan TAMAT : 1999
SLTP : MTsN Model Padangsidempuan TAMAT : 2002
SLTA : SMAN 1 Plus Matauli Sibolga TAMAT : 2005
S1 : S1 Teknik Informatika UIN Jakarta TAMAT : 2012
KATA PENGANTAR
Bismillahirrahmanirrohim. Alhamdulillahirobbil’alamin, Puji Syukur penulis
panjatkan kehadirat Allah SWT, yang telah melimpahkan rahmat dan hidayahNya,
sehingga tesis ini dapat diselesaikan tepat pada waktunya. Penulis mengucapkan
ribuan terimakasih kepada:
1. Rektor Universitas Sumatera Utara, Bapak Prof. Dr. dr. Syahril Pasaribu
DTM&H, M.Sc (CTM), Sp. A(K) atas kesempatan yang telah diberikan
kepada penulis untuk dapat mengikuti dan menyelesaikan pendidikan Program
Magister.
2. Dekan Fakultas Ilmu Komputer Universitas Sumatera Utara, Bapak Prof. Dr.
Muhammad Zarlis atas kesempatan yang telah diberikan kepada penulis untuk
menjadi mahasiswa Program Magister pada Program Pascasarjana
Fasilkom-TI Universitas Sumatera Utara.
3. Ketua Program Studi Magister Teknik Informatika, Bapak Prof. Dr.
Muhammad Zarlis. Sekretaris Program Studi Teknik Informatika, Bapak M.
Andri Budiman, ST, M.Comp. Sc, MEM. Beserta seluruh Staf Pengajar
Program Studi Magister Teknik Informatika Program Pascasarjana Fakultas
Ilmu Komputer Universitas Sumatera Utara.
4. Terimakasih tak terhingga dan penghargaan yang setinggi-tingginya atas
bimbingan, pengarahan dan dorongan yang telah diberikan selama penyusunan
tesis ini kepada Bapak Prof. Dr. Muhammad Zarlis, selaku
Promotor/Pembimbing Utama, demikian juga kepada Ibu Dr. Erna Budhiarti
Nababan, M.IT selaku Promotor/Pembimbing Kedua yang dengan penuh
kesabaran menuntun dan membimbing penulis hingga selesainya tesis ini
dengan baik.
5. Terimakasih yang tak terhingga serta penghargaan setinggi-tingginya juga
penulis ucapkan kepada Bapak Prof. Tulus, Vor. Dipl. Math, M.Si, Bapak
Prof. Dr. Herman Mawengkang, dan Bapak Dr. Mahyuddin, M.IT sebagai
pembanding yang telah memberikan saran dan masukan serta arahan yang baik
demi penyelesaian tesis ini.
6. Terimakasih yang tak terhingga juga penulis ucapkan kepada suami dan kedua
memberikan dukungan penuh hingga tiada mampu penulis untuk
membalasnya.
7. Staff Pegawai Pasca Sarjana S2 Teknik Informatika serta rekan mahasiswa/i
seangkatan (2012) yang telah banyak membantu penulis selama perkuliahan.
Dan seluruh pihak yang tidak dapat penulis sebutkan satu persatu dalam tesis
ini, sekali lagi terima kasih atas segala bantuan dan doa yang telah diberikan.
Dengan penuh kesadaran dan rendah hati, penulis menyadari bahwa penelitian
ini masih jauh dari kesempurnaan, hal ini karena keterbatasan, kemampuan, dan
pengetahuan penulis. Harapan penulis semoga penelitian ini bermanfaat bagi penulis
khususnya dan pembaca pada umumnya. Sekali lagi penulis mengucapkan
terimakasih. Semoga kiranya Allah SWT membalas kebaikan yang telah diberikan.
Medan, 24 Juli 2014
Penulis,
Aninda Muliani
ABSTRAK
Jaringan syaraf tiruan backpropagation merupakan metode yang sangat baik dalam
proses pengenalan pola mengingat kemampuannya dalam mengadaptasikan kondisi
jaringan dengan data yang diberikan dengan proses pembelajaran. Selain itu,
backpropagation juga memiliki kemampuan mengurangi error dengan melakukan
koreksi bobot secara terus menerus hingga mencapai target maksimal. Namun dibalik
kelebihannya tersebut, backpropagation memiliki kelemahan yang sangat menonjol,
yaitu membutuhkan waktu yang cukup lama dalam proses pembelajaran. Untuk itu
diperlukan sebuah pengembangan metode yang dapat mempercepat proses
pembelajaran. Adaptive learning rate dan pembobotan dengan inisialisasi
Nguyen-Widrow merupakan kombinasi dua metode yang dapat meningkatkan kecepatan
pembelajaran backpropagation. Aplikasi diuji pada 72 citra alfanumerik yang sudah
mengalami kerusakan. Hasil pengujian yang dilakukan pada pengenalan citra
alfanumerik meningkatkan proses pembelajaran sampai dengan 15 kali lebih cepat
(dalam satuan detik), dibandingkan dengan backpropagation biasa, dengan tingkat
akurasi maksimum 90%.
Kata kunci : Pengenalan citra, Backpropagation, Adaptive learning rate,
THE EFFECT OF NGUYEN WIDROW AND ADAPTIVE LEARNING RATE COMBINATION IN BACKPROPAGATION NEURAL NETWORKS FOR
ALPHANUMERIC RECOGNITION
ABSTRACT
Backpropagationneural networkis anexcellent methodin pattern recognition process
due to it’sability inadaptingnetwork conditions withdata providedthroughthe
learningprocess. In addition, the backpropagationcan minimize the network error by
performing errorcorrectioncontinuouslyuntil it reaches themaximum target. However,
behindtheseadvantages, backpropagationhas the really stands out disadvantage, that it
takesa long timein the learning process. So it needsadevelopingmethod
thatcanacceleratethe learningprocess. Adaptivelearning rateandweighting
byNguyen-Widrow initializationis a combinationof twomethodsthatcanincrease thespeed
ofbackpropagationlearning. This method has been tested on 72 brokenimages of
alphanumeric. Results ofthe tests improvethe learningprocessup to 15times faster(in
seconds), comparedwiththe standardbackpropagation, witha maximumaccuracy rate
of90%.
Keywords: Image recognition, Backpropagation, Adaptivelearning rate,
DAFTAR ISI
BAB II LANDASAN TEORI 5
2.1. Citra Digital 5
2.2.1 Grayscaling 5
2.2.2 Binarization 5
2.2.3 Image Thinning 5
2.2. Jaringan Syaraf Biologi 6
2.3. Jaringan Syaraf Tiruan 8
2.3.2 Bentuk dan Arsitektur Jaringan Syaraf Tiruan 11
2.3.3 Fungsi Aktivasi 13
2.4. Proses Pembelajaran 16
2.4.1. Proses Pembelajaran Terawasi 17
2.4.2. Proses Pembelajaran Tidak Terawasi 18
2.5. Backpropagation 18
2.6. Adaptive Learning Rate 18
2.7. Inisialisasi Pembobotan Nguyen Widrow 19
2.8. Riset-Riset Terkait 20
BAB III METODOLOGI PENELITIAN 22
3.1. Spesifikasi Perangakat Keras dan Perangkat Lunak yang Digunakan 22
3.2. Data yang Digunakan 22
3.3. Pra-Pengolahan Citra 23
3.3.1. Normalisasi (Scaling) 23
3.3.2. Pembentukan Matriks Biner 24
3.3.3. Pembentukan Matriks Tulang 25
3.3.4. Ekstraksi Fitur 27
3.4. Pelatihan Jaringan Menggunakan Nguyen Widrow dan Adaptive
Learning Rate 28
3.5. Perancangan Jaringan Propagasi Balik 31
3.5.1. Arsitektur Jaringan Propagasi Balik 31
3.5.2. Algoritma Backpropagation 32
BAB IV HASIL DAN PEMBAHASAN 33
4.1. Hasil Pembobotan dengan metode Nguyen Widrow 33
4.2. Hasil Trainingdata dengan Metode Nguyen Widrowdan Adaptive
Learning Rate 34
4.3. Hasil Trainingdata dengan Metode Nguyen Widrow dan Adaptive
Learning Rate 36
4.4. Pembahasan 39
4.4.1. Pembobotan Awal 39
4.4.1.2. Pembobotan Awal dengan metode Nguyen Widrow 42
4.4.2. Pelatihan (Training) Backpropagation 49
BAB V KESIMPULAN DAN SARAN 56
5.1.Kesimpulan 56
5.2.Saran. 56
DAFTAR PUSTAKA 55
LAMPIRAN 1DAFTAR PUBLIKASI ILMIAH PENULIS 57
DAFTAR TABEL
Hal.
TABEL 4.1 Hasil Training Data 36
TABEL 4.2 Hasil Pengujian Data 37
TABEL 4.3 Contoh pembobotan secara acak 39
TABEL 4.4 Bobot input ke hidden layer (sebelum inisialisasi) 42
DAFTAR GAMBAR
Hal.
GAMBAR 2.1 NeuronBiologis 8
GAMBAR 2.2 NeuronBuatan 8
GAMBAR 2.3 Struktur neuronjaringan saraf 10
GAMBAR 2.4 Neuron berinput tunggal 12
GAMBAR 2.5 Jaringan Saraf multilayer 13
GAMBAR 2.6 Fungsi Undak Biner 14
GAMBAR 2.7 Fungsi Threshold 14
GAMBAR 2.8 Fungsi Aktivasi Bipolar 15
GAMBAR 2.9 Fungsi Aktivasi Bipolar (dengan threshold) 15
GAMBAR 3.1 Diagramgaris besar sistem; a) Pelatihan, b) Pengujian 23
GAMBAR 3.2 Tahapanpra-pengolahan citra 23
GAMBAR 3.3 Citra hasil normalisasi; a) citra asal, b) citra hasil normalisasi 24
GAMBAR 3.4 Citra hasil binerisasi 24
GAMBAR 3.5 Diagram Pembentukan Matriks Biner 25
GAMBAR 3.6 Pembentukan matriks tulang; a) citra biner, b) citra hasil thinning 26
GAMBAR 3.7 Citra hasil ekstraksi fitur 27
GAMBAR 3.8 Diagram ekstraksi fitur 27
GAMBAR 3.9 Diagram alur proses training citra alfanumerik 30
GAMBAR 3.10 Arsitektur Jaringan 31
GAMBAR 4.1 Bobot akhir yang disimpan pada saat proses training 34
GAMBAR 4.2 Proses pada saat training 35
