PENGEMBANGAN METODE BACKPROPAGATION DENGAN MENGGUNAKAN ADAPTIVE LEARNING RATE DAN
PARALLEL TRAINING DALAM PENGENALAN HURUF ATAU ANGKA PADA CITRA DIGITAL
TESIS
MUFIDA KHAIRANI 117038079
PROGRAM STUDI (S2) TEKNIK INFORMATIKA
FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA
MEDAN 2013
PENGEMBANGAN METODE BACKPROPAGATION DENGAN MENGGUNAKAN ADAPTIVE LEARNING RATE DAN
PARALLEL TRAINING DALAM PENGENALAN HURUF ATAU ANGKA PADA CITRA DIGITAL
TESIS
Diajukan untuk melengkapi tugas dan memenuhi syarat memperoeh ijazah Magister Teknik Informatika
MUFIDA KHAIRANI 117038079
PROGRAM STUDI (S2) TEKNIK INFORMATIKA
FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA
MEDAN 2013
PERNYATAAN
PENGEMBANGAN METODE BACKPROPAGATION DENGAN MENGGUNAKANADAPTIVE LEARNING RATE DAN
PARALLEL TRAINING DALAM PENGENALAN HURUF ATAU ANGKA PADA CITRA DIGITAL
TESIS
Saya mengakui bahwa tesis ini adalah benar hasil karya sendiri, kecuali beberapa kutipan dan ringkasan yang masing – masing telah disebutkan sumbernya.
Medan, 30 Ocktober 2013
Mufida Khairani 117038079
PERNYATAAN PERSETUJUAN PUBLIKASI KARYA ILMIAH UNTUK KEPENTINGAN
AKADEMIS
Sebagai civitas akademik Universitas Sumatera Utara, saya yang bertanda tangan dibawah ini :
Nama : Mufida Khairani
Nim : 117038079
Program Studi : Teknik Informatika Jenis Karya Ilmiah : Tesis
Demi pengembangan ilmu pengetahuan, menyetujui memberikan kepada Universitas Sumatera Utara Hak Bebas Royaliti Non – Ekslusif (Non-Exclusive Royality Fre Right) atas tesis saya yang berjudul :
PENGEMBANGAN METODE BACKPROPAGATION DENGAN MENGGUNAKANADAPTIVE LEARNING RATE DAN
PARALLEL TRAINING DALAM PENGENALAN HURUF ATAU ANGKA PADA CITRA DIGITAL
Beserta perangkat yang ada (jika diperlukan).Dengan hak bebas Royaliti Non-Exclusive ini, Universitas Sumatera Utara berhak menyimpan, mengalih media, memformat, mengelola dalam bentuk database,merawat dan mempublikasikan tesis saya tanpa meminta izin dari saya selama tetap mencantumkannama saya sebagai penulis dan sebagai pemegang dan/atau sebagai pemilik hak cipta
Demikian pernyataan ini dibuat dengan sebenarnya.
Medan, 30 0cktober 2013
Mufida Khairani 117038079
Telah di uji pada 30 Ocktober 2013
PANITIA PENGUJI TESIS Ketua : Prof.Dr.Tulus
Anggota : 1. Dr.Marwan Ramli,M.Si 2. Prof.Dr.Muhammad Zarlis 3. Prof.Dr.Herman Mawengkang 4. Dr.Zakarias Situmorang
RIWAYAT HIDUP
DATA PRIBADI
Nama Lengkap : Mufida Khairani,ST
Tempat dan Tanggal Lahir : Tg.Morawa, 19 Desember 1989
Alamat Rumah : Jl.Dahlan Tanjung no.69 Tanjung morawa Telepon Rumah/Faks/Hp : (061) 7940856 / - / 0853 5858 5503
E-mail : mufida.khairani@gmail.com
Instansi Tempat Bekerja : - Sekolah Tinggi Teknik Harapan Medan - Smk Swasta Nur Azizi
Alamat Kantor : - Jl.H.M Joni No.70C Medan - Jl.Pahlawan Tg.Morawa DATA PENDIDIKAN
SD : SD Negeri I 101896 TAMAT : 2001 SMP : SMP Swasta Nur Azizi TAMAT : 2003 SMA : SMA Swasta Nur Azizi TAMAT : 2007 S1 : Sekolah Tinggi Teknik Harapan Medan TAMAT : 2011 S2 : Teknik Informatika USU TAMAT : 2013
KATA PENGANTAR
Puji syukur penulis panjatkan kehadirat Allah SWT atas berkat, rahmat dan karunianya berupa pengetahuan, kesehatan dan kesempatan yang diberikan kepada penulis sehingga dapat menyelesaikan TESIS dengan judul “PENGEMBANGAN METODE BACKPROPAGATION DENGAN MENGGUNAKAN ADAPTIVE LEARNING RATE DAN PARALLEL TRAINING DALAM PENGENALAN HURUF ATAU ANGKA PADA CITRA DIGITAL”.
Penulis dalam penyusunan untuk menyelesaikan TESIS ini banyak mendapati kesulitan dan kendala–kendala yang dihadapi, namun berkat bantuan, dorongan, nasehat dari berbagai pihak terutama dari dosen pembimbing serta dari para dosen, maka tugas tesis ini dapat diselesaikan dengan baik. Terutama tidak lepas dari dorongan orang tua, kakak,adik dan aswar aghi yang juga telah banyak memberikan bantuan dan dorongan hingga penulis dapat sampai pada TESIS ini.
Untuk itu penulis ingin menyampaiakan ucapan terimakasih yang sebesar– besarnya kepada :
1. Kedua Orangtua saya Ayahanda H.Ibrahim dan Ibunda Hj.Nazmah Nasution,S.Pd tercinta yang telah memberikan kasih sayangnya, doa yang tak pernah putus serta dorongan moril maupun materil kepada saya sehingga dapat menyelesaikan TESIS ini dengan baik.
2. Bapak Prof.Dr.Muhammad Zarlis, selaku Ketua Program Studi Pascasarjana Teknik Informatika Fakultas Ilmu Komputer dan Teknologi Informasi Sumatera Utara Medan.
3. Bapak Prof.Dr.Tulus selaku Pembimbing I yang telah bersedia memberikan bimbingan serta pengarahan hingga selesainya penulisan tesis ini.
4. Bapak Dr.Marwan Ramli,M.Si selaku Dosen Pembimbing II yang telah bersedia memberikan bimbingan serta pengarahan hingga selesainya penulisan tesis ini.
5. Bapak Dosen Penguji yang telah memberikan saran untuk perbaikan dan penyelesaian tesis ini.
6. Bapak dan Ibu Dosen yang telah memberikan materi perkuliahan dan ilmu pengetahuan selama penulis menyelesaikan Program Studi Pascasarjana Teknik Informatika
7. Segenap civitas akademika Program Studi Pascasarjana Teknik Informatika Sumatera Utara
8. Saudara kandung saya Syarah Aisha,S.Pd,Nazliza Ramadhani,Helmi Munawar yang telah memberikan support dan semangatnya dalam perkuliahan saya juga yang mendorong saya sehingga saya bersemangat untuk menyelesaikan TESIS ini.
9. Teristimewa Aswar Aghi,ST beserta keluarga yang telah memberikan kasih sayang, support dan semangatnya kepada penulis sehingga terselesaikan TESIS ini.
10. STTH-Medan yang telah membesarkan nama saya dan membuat saya menjadi seseorang yang berarti dalam pekerjaan saya. Serta semangat dan dorongan dari rekan – rekan dilingkungan STTH-Medan
11. SMK SWASTA NUR AZIZI yang telah membesarkan nama saya dan membuat saya menjadi seseorang yang berarti dalam pekerjaan saya. Serta semangat dan dorongan dari rekan – rekan dilingkungan SMK SWASTA NUR AZIZI.
12. Teman – teman seperjuangan Angkatan 2011 Kom-C yang telah memberikan dukungan dalam penyelesaian TESIS ini.
Tentulah tiada yang sempurna di dunia ini begitu pula dalam penulisan TESIS ini, Untuk itu, penulis mengharapkan kritik dan saran dari pembaca demi kesempurnaan TESIS ini selanjutnya.
Akhir kata penulis berharap semoga laporan ini dapat bermanfaat bagi semua pihak, khususnya dalam bidang pendidikan.
Medan, 30 Ocktober 2013 Penulis
Mufida Khairani 117038079
ABSTRAK
Identifikasi karakter pada media digital menjadi salah satu perhatian utama di era perkembangan teknologi saat ini. Latar belakang munculnya upaya untuk mengidentifikasi karakter menjadi bentuk digital adalah tidak terlepasnya aktifitas manusia dari dokumen atau berkas manual dalam kegiatan sehari-hari. Proses transformasi manual dengan cara menginputkan data dan informasi secara manual membutuhkan waktu lama, sehingga dianggap perlu adanya sebuah mekanisme untuk mentransformasikan data dan informasi manual tersebut ke dalam bentuk digital secara otomatis. Kegiatan identifikasi tidak terlepas dari proses klasifikasi. Jaringan syaraf tiruan telah lama digunakan dalam proses klasifikasi, dimana jaringan syaraf tiruan menawarkan fleksibilitas terhadap fitur dari objek yang akan diklasifikasikan dan ruang penyimpanan yang kecil. Salah satu metode jaringan syaraf tiruan yang terkenal adalah metode backpropagation. Kelemahan terbesar dari jaringan backpropagation adalah waktu yang dibutuhkan oleh jaringan untuk belajar menjadi sangat lama untuk kondisi data pembelajaran yang besar dan kondisi dimana fitur antara objek yang berbeda memiliki perbedaan yang kecil. Untuk mengatasi kelemahan itu maka dilakukan implementasi pengembangan dengan menerapkan konsep adaptvie learning rate dan parallel training dalam rangka meningkatkan kemampuan jaringan dalam proses pembelajaran.
Keywords : Identifikasi Karakter, Klasifikasi, Jaringan Syaraf Tiruan, Backpropagatio, Adaptive Learning Rate, Parallel Training.
BACKPROPAGATION DEVELOPMENT METHOD USING ADAPTIVE LEARNING RATE AND PARALLEL TRAINING IN RECOGNITION
LETTERS OR NUMBERS ON THE DIGITAL IMAGE
ABSTRACT
Identification of characters in digital media to be one of the major concerns in the current era of technological development . Background of attempts to identify characters into digital form is not human activities release of documents or files manually in daily activities . Transformation process manually by way of input data and the information manually takes a long time , so it is considered a need for a mechanism to transform data and manual information into digital form automatically. The identification can’t be separated from the process of classification . Artificial neural networks have long been used in the classification process , which offers the flexibility of neural networks to the features of the object to be classified and small storage space . One method which is well-known artificial neural network is backpropagation method . The biggest drawback of the backpropagation network is the time taken by the network to learn to be very long for large data conditions of learning and the conditions in which the features between different objects have small differences . To overcome the weaknesses of the implementation of the development is carried out by applying the concept of parallel adaptive learning rate and training in order to improve the ability of the network in the learning process.
Keywords : Character Identification, Classification, Artificial Neural Network, Backpropagation, Adaptive Learning Rate, Parallel Training.
DAFTAR ISI
Halaman
HALAMAN JUDUL i
PERSETUJUAN ii
PERNYATAAN ORISINALITAS iii
PERSETUJUAN PUBLIKASI iv
PANITIA PENGUJI v
RIWAYAT HIDUP vi
KATA PENGANTAR vii
ABSTRAK x
ABSTRACT xi
DAFTAR ISI xii
DAFTAR GAMBAR xiv
DAFTAR TABEL xv BAB I PENDAHULUAN 1 1.1 Latar Belakang 1 1.2 Rumusan Masalah 3 1.3 Tujuan Masalah 3 1.4 Batasan Masalah 3 1.5 Metodologi Penelitian 4
1.5.1 Tahap pengumpulan Data 4
BAB II DASAR TEORI 5
2.1. Citra Digital 5
2.2 Sifat Citra Digital 5
2.3. Citra Grayscale 7
2.4. Image Thinning 7
2.5. Jaringan Syaraf Tiruan 9
2.6. Jaringan Syaraf Tiruan Backpropagation 10
2.7. Adaptive Learning Rate 13
2.8. Perbandingan Backpropagation Konvensional dan
Adaptive Learning Rate. 14
2.9. Parallel Training 19
BAB III MOTODOLOGI PENELITIAN 23
3.1. Rancangan Penelitian 23
3.1.1 Analisis Proses Identifikasi Karakter atau Huruf Pada
Citra Digital 24
3.2 Alat Penelitian dan Bahan 25
3.2.1 Alat Penelitian 25
3.2.2 Bahan Penelitian 26
3.2.2.2 Parameter Jaringan Backpropagation 29 3.2.2.3 Target Output Backpropagation 30
BAB IV HASIL DAN PEMBAHASAN 34
4.1 Pengantar 34
4.2 Data dan Konfigurasi Pengujian 38
4.3 Hasil dan Pengujian 40
4.3.1 Hasil Pelatihan Pengujian Pertama 41 4.3.2 Hasil Pelatihan Pengujian Kedua 43
4.4 Pembahasan 45
4.4.1 Pembahasan Hasil Pengujian pertama 46 4.4.2 Pembahasan Hasil Pengujian Kedua 47
BAB V KESIMPULAN DAN SARAN 48
5.1 Kesimpulan 48
5.2 Saran 48
DAFTAR PUSTAKA LAMPIRAN
DAFTAR GAMBAR
Halaman
Gambar 2.1 Proses Akuisisi Citra 5
Gambar 2.2 Representasi Citra Digital 6
Gambar 2.3 Arsitektur Multilayer Neural Network 10 Gambar 2.4 Ilustrasi Pembelajaran Karakter Angka 14 Gambar 2.5 Ilustrasi Lokal Minimal dan Global Minimal 15 Gambar 2.6 Perbandingan Laju Error Pada Percobaan Learning Rate. 18 Gambar 2.7 Grafik Perbandingan Implementasi Learning Rate 19 Gambar 2.8 Ilustrasi Parallel Training pada Data Input Karakter dan Angka 21 Gambar 2.9 Presentasi Skema Pelatihan Pada Jaringan 22 Gambar 3.1. Diagram Flowchart Proses Identifikasi Karakter Huruf atau
Angka Pada Citra Digital 24
Gambar 3.2 Karakter A 26
Gambar 4.1 Tampilan Output Aplikasi Pengenalan Karakter Menggunakan Metode Jaringan Syaraf Backpropagation 35
Gambar 4.2 Tampilan Data Karakter 36
Gambar 4.3 Tampilan Input Data karakter 36
Gambar 4.4 Proses Pelatihan Jaringan Backpropagation 37 Gambar 4.5 Proses Pelatihan Pada Pengujian Pertama 41 Gambar 4.6 Proses Pelatihan Pada Pengujian Kedua 43 Gambar 4.7 Perbandingan Laju Error Jaringan Backpropagation Normal
dengan Backpropagation Pengembangan Pada Pelatihan
Pengujian Pertama 45
Gambar 4.8 Perbandingan Laju Error Jaringan Backpropagation Normal dengan Backpropagation Pengembangan Pada Pelatihan
DAFTAR TABEL
Halaman
Tabel 3.1 Bagian dari karakter akan diberi nilai 1dan 0 28 Tabel 3.2 Jumlah Partisi dan Unit Jaringan pada pelatihan paralel 30
Tabel 4.1 Atribut Citra Digital 38
Tabel 4.2 Hasil Pengujian Pelatihan Pertama 42 Tabel 4.3 Nilai Alpha Dari Pengujian Pertama 42
Tabel 4.4 Hasil Pengujian Pelatihan Kedua 44