ANALISIS PERBANDINGAN ONLINE DAN OFFLINE TRAINING
PADA JARINGAN BACKPROPAGATION PADA KASUS
PENGENALAN HURUF ABJAD
TESIS
MUHAMMAD ANGGI RIVAI NST
117038015
PROGRAM STUDI S2 TEKNIK INFORMATIKA
FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA
ANALISIS PERBANDINGAN ONLINE DAN OFFLINE TRAINING
PADA JARINGAN BACKPROPAGATION PADA KASUS
PENGENALAN HURUF ABJAD
TESIS
Diajukan untuk melengkapi tugas dan memenuhi syarat memperoleh ijazah
Magister Teknik Informatika
MUHAMMAD ANGGI RIVAI NST
117038015
PROGRAM STUDI S2 TEKNIK INFORMATIKA
FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA
PERSETUJUAN
Judul : Analisis Perbandingan Online Dan Offline Training Pada Jaringan Backpropagation Pada Kasus
Pengenalan Huruf Abjad
Nama : M. Anggi Rivai Nst
Nomor Induk Mahasiswa : 117038015
Program Studi : Magister (S2) Teknik Informatika Fakultas : Ilmu Komputer dan Teknologi Informasi
Universitas Sumatera Utara Komisi Pembimbing :
Pembimbing 2 Pembimbing 1
Dr. Zakarias Situmorang Prof. Dr. Muhammad Zarlis
Diketahui/disetujui oleh
Magister (S2) Teknik Informatika Ketua,
PERNYATAAN
ANALISIS PERBANDINGAN ONLINE DAN OFFLINE TRAINING PADA JARINGAN BACKPROPAGATION PADA KASUS
PENGENALAN HURUF ABJAD
TESIS
Saya mengakui bahwa tesis ini adalah hasil karya saya sendiri, kecuali beberapa kutipan dan ringkasan yang masing-masing telah disebutkan sumbernya.
Medan,18 April 2015
PERNYATAAN PERSETUJUAN PUBLIKASI KARYA ILMIAH UNTUK KEPENTINGAN
AKADEMIS
Sebagai sivitas akademika Universitas Sumatera Utara, saya yang bertanda tangan di bawah ini:
Nama : M. Anggi Rivai Nst
NIM : 117038015
Program Studi : Magister (S2) Teknik Informatika Jenis Karya Ilmiah : Tesis
Demi pengembangan ilmu pengetahuan, menyetujui untuk memberikan kepada Universitas Sumatera Utara Hak Bebas Royalti Non-Eksklusif (Non-Exclusive Royalty Free Right) atas tesis saya yang berjudul:
ANALISIS PERBANDINGAN ONLINE DAN OFFLINE TRAINING PADA JARINGAN BACKPROPAGATION PADA KASUS
PENGENALAN HURUF ABJAD
Beserta perangkat yang ada (jika diperlukan). Dengan Hak Bebas Royalti Non-Eksklusif ini, Universitas Sumatera Utara berhak menyimpan, mengalih media, memformat, mengelola dalam bentuk database, merawat dan mempublikasikan tesis saya tanpa meminta izin dari saya selama tetap mencantumkan nama saya sebagai penulis dan sebagai pemegang dan/atau sebagai pemilik hak cipta.
Demikian pernyataan ini dibuat dengan sebenarnya.
Medan, 18 April 2015
Telah diuji pada
Tanggal: 18 April 2015
PANITIA PENGUJI TESIS
Ketua : Prof. Dr. Muhammad Zarlis Anggota : 1. Dr. Zakarias Situmorang
RIWAYAT HIDUP
DATA PRIBADI
Nama Lengkap (berikut gelar) : M. Anggi Rivai Nst, S.kom Tempat dan Tanggal Lahir : Medan, 06 Agustus 1988
Alamat Rumah : Prof. H. M. Yamin SH
Gg. Pisang No. 2 Medan
Telepon/Faks/HP : 085261036037
E-mail : [email protected]
Instansi Tempat Bekerja : Angkasapura II
Alamat Kantor : Perhubungan Perkantoran Bandara Internasional Sultan Syarif Kasim II Pekanbaru
DATA PENDIDIKAN
SD : SD N 0608053 Medan TAMAT: 2000 SLTP : SLTP N 14 Medan TAMAT: 2003
SLTA : SMA N 8 Medan TAMAT: 2006
KATA PENGANTAR
Puji syukur kepada Allah SWT atas segala rahmat dan karunia-Nya sehingga tesis ini dapat diselesaikan walaupun dengan waktu yang cukup lama. Penulis ucapkan terima kasih yang sebesar-besarnya kepada:
1. Rektor Universitas Sumatera Utara, Prof. Dr. dr. Syahril Pasaribu, DTM&H, M.Sc (CTM), Sp. A(K) atas kesempatan yang diberikan kepada penulis untuk mengikuti dan menyelesaikan pendidikan Program Magister.
2. Dekan Fakultas FASILKOM-TI dan Ketua Program Studi Magister (S2) Teknik Informatika Universitas Sumatera Utara Prof. Dr. Muhammad Zarlis atas kesempatan yang diberikan kepada saya menjadi mahasiswa Program Magister.
3. Sekretaris Program Studi Magister (S2) Teknik Informatika M. Andri Budiman, S.T, M.Comp, M.E.M beserta seluruh staff pengajar pada Program Studi Magister (S2) Teknik Informatika Universitas Sumatera Utara, yang telah bersedia memberi bimbingan dan semangat serta selalu mengingatkan penulis sehingga dapat menyelesaikan pendidikan.
4. Terimakasih yang tak terhingga dan penghargaan setinggi-tingginya saya ucapkan kepada Prof. Dr. Muhammad Zarlis, selaku pembimbing utama dan
kepada Dr. Zakarias Situmorang, selaku pembimbing lapangan yang dengan penuh kesabaran menuntun serta membimbing saya hingga selesainya tesis ini dengan baik.
5. Terimakasih yang tak terhingga dan penghargaan setinggi-tingginya saya ucapkan kepada Prof. Dr. Herman Mawengkang, Prof. Dr. Opim Salim Sitompul dan Dr. Syahril Effendi, S.Si, M.IT, sebagai pembanding yang telah memberikan saran dan masukan serta arahan yang baik demi penyelesaian tesis ini.
7. Terimakasih kepada Bapak, Ibu, Abang dan Adek yang telah memberikan support baik secara moril serta materil sehingga dapat tercapai apa yang
diharapkan dan dapat menjadi kenangan yang terindah buat kita selaku keluarga.
8. Terimakasih banyak kepada teman-teman satu angkatan Program Studi Magister (S2) Teknik Informatika Universitas Sumatera Utara serta teman-teman diluar sivitas akademika yang telah mensupport dan mengingatkan penulis untuk bisa menyelesaikan program magister.
Dengan segala kekurangan dan kerendahan hati, sekali lagi penulis mengucapkan terimakasih. Semoga kiranya Allah SWT membalas segala bantuan dan kebaikan yang telah kalian berikan.
Medan, 18 April 2015
ABSTRAK
Penelitian ini dibuat untuk pembelajaran tentang model jaringan syaraf tiruan yaitu
ANALISIS PERBANDINGAN ONLINE DAN OFFLINE TRAINING PADA JARINGAN BACKPROPAGATION PADA KASUS
PENGENALAN HURUF ABJAD
ABSTRACT
DAFTAR ISI
1.5.1 Tahap Identifikasi Masalah 4
1.5.2 Tahap Pengembangan Algoritma 4
1.5.3 Tahap Implementasi dan Pengujian 4
1.6Sitematika Penulisan 5
BAB II Dasa Teori 6
2.1Jaringan Syaraf Tiruan 6
2.2Backpropagation 7
2.3Online Backpropagation 10
2.4Offline Backpropagation 11
2.5Klasifikasi Pada Jaringan Syaraf Tiruan 12
BAB III Metode Penelitian 14
3.1 Rancangan Penelitian 14
3.1.1 Analisis Proses Offline dan Online Jaringan Backpropagation 16 3.1.1.1Analisis Proses Pelatihan Offline 16
3.1.1.2Analisis Proses Pelatihan Online 18
3.2.1 Alat Penelitian 20
3.2.2 Bahan Penelitian 21
3.2.2.1Bahan Penelitian Karakter Huruf 21
3.2.2.2Parameter Jaringan Backpropagation 21
3.2.2.3Target Output Backpropagation 22
3.3 Kerangka Kerja Penelitian (Frame Works) 23
BAB IV Hasil dan Pembahasan 24
4.1 Pengantar 24
4.2 Persiapan Analisis dan Pengujian 26
4.3 Pengujian 30
4.3.1 Pengujian A (Karakter A – B) 30
4.3.2 Pengujian B (Karakter A – J) 32
4.3.3 Pengujian B (Karakter A – Z) 35
4.4Pembahasan 37
BAB V Kesimpulan dan Saran 39
5.1Kesimpulan 39
5.2Saran 40
DAFTAR TABEL
Hal.
Tabel 3.1 Target Output Data Pelatihan 22
Tabel 4.1 Data Pengujian Karakter 26
Tabel 4.2 Hasil Pengujian Pelatihan Online 37
DAFTAR GAMBAR
Hal. Gambar 2.1 Arsitektur Multilayer Neural Network 8 Gambar 2.2 Model dari sebuah jaringan neuron 12 Gambar 2.3 Ilustrasi Klasifikasi Pola Menggunakan Jaringan Syaraf Tiruan 13 Gambar 3.1 Rancangan Arsitektur Jaringan Syaraf Tiruan 15
Gambar 3.2 Karakter Pelatihan 15
Gambar 3.3 Proses Pelatihan Offline 18
Gambar 3.4 Proses Pelatihan Online 20
Gambar 3.5 Proses Kerangka Kerja 23
Gambar 4.1 Tampilan Utama Aplikasi 24
Gambar 4.2 Antarmuka Data Training 25
Gambar 4.3 Pelatihan Online pengujian A 31
Gambar 4.4 Pelatihan Offline pengujian A 31
Gambar 4.5 Perbandingan Error Pengujian A 32
Gambar 4.6 Pelatihan Online pengujian B 33
Gambar 4.7 Pelatihan Offline pengujian B 33
Gambar 4.8 Perbandingan Error Pengujian B 34
Gambar 4.9 Pelatihan Online pengujian C 35
Gambar 4.10 Pelatihan Offline pengujian C 36
ABSTRAK
Penelitian ini dibuat untuk pembelajaran tentang model jaringan syaraf tiruan yaitu
ANALISIS PERBANDINGAN ONLINE DAN OFFLINE TRAINING PADA JARINGAN BACKPROPAGATION PADA KASUS
PENGENALAN HURUF ABJAD
ABSTRACT
BAB I
PENDAHULUAN
1.1 Latar Belakang
Artificial Neural Network atau jaringan syaraf tiruan merupakan bidang yang sangat berkembang saat ini. Pemanfaatan teknologi mesin dan computer yang tidak terbatas sebagai alat bantu dalam aktifitas manusia mendorong penelitian secara besar-besaran terhadap kecerdasan buatan atau artificial intelligence. Mesin yang selama ini hanya bekerja sesuai dengan instruksi yang ditentukan diharapkan mampu bekerja dan
mengambil keputusan sekaligus layaknya manusia (Parker, 2006).
Identifikasi dan klasifikasi merupakan kegiatan menggolongkan objek kedalam kategori tertentu untuk tujuan – tujuan tertentu. Kegiatan identifikasi dan klasifikasi yang membutuhkan pengetahuan dan intuisi manusia dapat digantikan oleh mesin sehingga dapat meningkatkan kecepatan dalam kegiatan produksi pada beberapa bidang industri maupun kecepatan pengolahan data pada bidang – bidang lain. Jaringan syaraf tiruan merupakan model matematika yang meniru cara kerja syaraf manusia sehingga computer atau mesin dapat belajar dari data yang diberikan dan memberikan output yang ditentukan. Mesin yang telah dilengkapi dengan jaringan syaraf tiruan dapat belajar terhadap lingkungan yang diberikan dan mampu melakukan kegiatan yang selama ini masih dilakukan oleh manusia yaitu mengambil keputusan terhadap identifikasi maupun klasifikasi.
Jaringan backpropagation merupakan metode yang banyak digunakan dalam
proses identifikasi dan proses klasifikasi karena kemampuannya dalam mempelajari beberapa kelas sekaligus melalui proses propagasi balik.
BackPropagation merupakan metode yang sangat baik dalam proses pengenalan mengingat kemampuannya dalam mengadaptasikan kondisi jaringan dengan data yang diberikan dengan proses pembelajaran (Hermawan, 2006). Proses pembelajaran jaringan syaraf tiruan terbagi menjadi dua jenis yaitu pembelajaran
online dan offline. Pembelajaran online merupakan pembelajaran dimana proses perbaikan bobot dilakukan pada tiap sample data yang dilatih pada tiap iterasi sedangkan pembelajaran offline melakukan perbaikan bobot jaringan menggunakan error dari seluruh sample data (Duffner & Garcia, 2007). Pembelajaran online maupun
offline memiliki kelebihan dan kelemahan tersendiri. Beberapa penelitian menilai pembelajaran online lebih baik daripada pembelajaran offline, beberapa penelitian lain mengatakan sebaliknya (Lemme, 2010), (Singh, 2012), (Sha & Bajic, 2000).
Secara teoritis pembelajaran offline memberikan performa yang lebih baik daripada pembelajaran online, dimana pembelajaran offline memberikan kecepatan belajar yang lebih baik dibandingkan dengan pembelajaran online. Sistem nyata atau
real time system yang menggunakan data actual atau data terus berkembang dan bervariasi membuat pembelajaran offline menjadi pembelajaran yang tidak efektif, dan
pada kasus ini online training memberikan kinerja yang lebih baik dibandingkan dengan pembelajaran offline (LeCun, 1998)(Istook, 2003).
Perbedaan kinerja baik itu kecepatan maupun akurasi pada pelatihan online
dan offline pada beberapa kasus tidak diuraikan secara rinci pada beberapa penelitian yang ada sehingga penulis bermaksud untuk meneliti lebih lanjut perbedaan kinerja dari kedua jenis pelatihan tersebut. Dari uraian diatas maka penulis bermaksud untuk melakukan penelitian terhadap pembelajaran online dan offline pada algoritma
1.2 Rumusan Masalah
1. Bagaimana implementasi pelatihan offline dan online jaringan saraf tiruan
backpropagation pada kasus pengenalan huruf abjad pada citra digital.
2. Bagaiman perbandingan performa pelatihan offline dan online pada sisi akurasi dan
waktu.
1.3 Maksud dan Tujuan
Maksud dari penulisan ini adalah mengetahui perbandingan pembelajaran online dan
offline pada jaringan backpropagation pada kasus pengenalan huruf abjad sehingga lebih mudah didapat hasil secara efektif.
Tujuan yang ingin dicapai dari penelitian ini adalah sebagai berikut:
1. Mengetahui perbandingan kinerja pembelajaran online dan offline pada jaringan backpropagation pada kasus pengenalan huruf abjad.
2. Mengetahui jenis pembelajaran yang lebih baik pada kasus pengenalan huruf abjad baik dari segi errorny maupun kecepatan mencapaian hasil dan dapat memberikan referensi tambahan pada penelitian jaringan syaraf tiruan khususnya jaringan backpropagation.
1.4 Batasan Masalah
Dalam penelitian ini telah ditentukan batasan – batasan dari topik yang dibahas sehingga
tidak menyebabkan cakupan pembahasan yang terlalu luas sehingga fokus utama dari
penelitian menjadi kabur. Beberapa batasan masalah yang ditentukan pada penelitian ini
dapat dijabarkan sebagai berikut.
1. Media yang digunakan dalam penelitian ini adalah citra digital.
2. Pembelajaran online dan offline pada metode backpropagation akan menjadi topik
3. Jaringan Backpropagation yang digunakan adalah jaringan backpropagation normal
dimana tidak menggunakan teknik adaptive dan momentum.
4. Implementasi penelitan dilakukan dengan penerapan pembelajaran online dan
offline dalam pengenalan huruf abjad pada citra digital.
5. Ukuran default huruf atau angka adalah tinggi 10 piksel dan lebar 9 piksel.
6. Jenis huruf (font) dari karakter yang digunakan pada penelitian adalah Arial dan
huruf yang digunakan adalah huruf latin.
7. Karakter yang digunakan merupakan karakter alphabet dalam huruf besar atau capital
dan karakter numeric dari “0” sampai “9”.
8. Pengujian dan implementasi akan menggunakan perangkat lunak yang dibangun pada
penelitian ini dengan menggunakan Visual Studio 2010.
1.5 Metodologi Penelitian
Metode penelitian dalam penyusunan penelitian ini secara garis besar dibagi menjadi beberapa tahap yaitu, tahap mengidentifikasi masalah, pengembangan algoritma, dan implementasi dan pengujian.
1.5.1 Tahap Identifikasi masalah
Tahap identifikasi masalah yang dilakukan adalah analisis terhadap beberapa
penelitian dan jurnal mengenai jaringan saraf tiruan backpropagation khususnya pada teknik pelatihan offline dan online untuk mengidentifikasi masalah yang timbul pada topic tersebut.
1.5.2 Tahap Pengembangan Algoritma
Tahap pengembangan algoritma merupakan tahap dimana dilakukan kegiatan perancangan dan pengembangan jaringan saraf tiruan backpropagation, algoritma pelatihan jaringan saraf tiruan backpropagation yang dikembangkan akan menghasilkan dua buah model yaitu model pelatihan offline dan model pelatihan
1.5.3 Tahap Implmentasi dan Pengujian
Tahap implementasi dan pengujian merupakan tahap dimana model yang dihasilkan dari pengembangan algoritma pelatihan jaringan saraf tiruan backpropagation di-implementasikan pada kasus identifikasi dan pengenalan huruf abjad pada citra digital, hasil implementasi kemudian akan di-uji pada beberapa lingkungan dan kondisi untuk memperoleh hasil perbandingan kinerja pada kedua model pelatihan yang dibangun yaitu model offline dan model online.
1.6 Sistematika Penulisan
Sistematika penulisan penelitian ini disusun untuk memberikan gambaran umum tentang penelitian yang dilakukan. Dalam menyajikan laporan tesis ini digunakan sistematika penulisan sebagai berikut:
BAB I PENDAHULUAN
Bab ini berisi latar belakang rumusan masalah, maksud dan tujuan, batasan masalah, metodologi penelitian dan sistematika penulisan.
BAB II TINJAUAN PUSTAKA
Bab ini menjelaskan konsep dasar dan teori-teori dari tugas akhir yang digunakan.
BAB III ANALISIS DAN PERANCANGAN
Bab ini menjelaskan analisis dan perancangan sistem Analisis yang dilakukan berupa analisis basis data, analisis kebutuhan non-fungsional, dan analisis kebutuhan fungsional.
BAB IV IMPLEMENTASI DAN PENGUJIAN
Bab ini berisi implementasi dari hasil analisis dan perancangan serta hasil pengujian perangkat lunak. Sistem diuji dengan menggunakan metode pengujian white box.
BAB V KESIMPULAN DAN SARAN
BAB II
DASAR TEORI
Landasan teori adalah teori-teori yang relevan dan dapat digunakan untuk menjelaskan variabel-variabel penelitian. Landasan teori ini juga berfungsi sebagai dasar untuk memberi jawaban sementara terhadap rumusan yang diajukan serta membantu dalam penyusunan instrument penelitian.
2.1. Jaringan Syaraf Tiruan
Jaringan Syaraf Tiruan (artifical neural network) atau di singkat JST adalah sistem komputasi dimana arsitektur dan operasi di ilhami dari pengetahuan tentang sel syaraf biologi di dalam otak (Hermawan, 2006). JST dapat digambarkan sebagai model matematis dan komputasi untuk fungsi aproksimasi non-linear, klasifikasi data cluster dan regresi non-parametrik atau sebuah simulasi dari koleksi model saraf biologi.
Setiap pengolahan elemen membuat perhitungan berdasarkan pada jumlah masukan (input). Sebuah kelompok pengolahan elemen disebut layer atau lapisan
dalam jaringan. Lapisan pertama adalah input dan yang terakhir adalah output. Lapisan di antara lapisan input dan output disebut dengan lapisan tersembunyi (hidden layer). Jaringan sayaraf tiruan merupakan suatu bentuk arsitektur yang terdistribusikan paralel dengan sejumlah besar node dan hubungan antar-node tersebut. Tiap titik hubungan dari satu node ke node yang lain mempunyai harga yang diasosiasikan dengan bobot. Setiap node memiliki suatu nilai yang diasosiasikan sebagai nilai aktivasi node.
2.2. Backpropagation
Jaringan perambatan galat (backpropagation) merupakan salah satu algoritma yang
sering digunakan dalam menyelesaikan masalah – masalah yang rumit. Hal ini dimungkinkan karena jaringan dengan algoritma ini dilatih dengan menggunakan
metode belajar terbimbing. Pada jaringan diberikan sepasang pola yang terdiri atas pola masukan dan pola yang diinginkan. Ketiak suatu pola diberikan kepada jaringan, bobot-bobot diubah untuk memperkecil perbedaan pola keluaran dan pola yang diinginkan. Latihan ini dilakukan berulang-ulang sehingga semua pola yang dikeluarkan jaringan dapat memenuhi pola yang diinginkan (Hermawan, 2006).
Backpropagation atau biasa sering disebut jaringan feed forward, mampu berevolusi melalui perubahan bobot pada jaringan yang biasa digunakan untuk bidang prediksi, klasifikasi dan fungsi aproksimasi (Tiwari, 2013). Algoritma pelatihan jaringan saraf perambatan galat mundur terdiri atas dua langkah, yaitu perambatan maju dan perambatan mundur. Langkah perambatan maju dan perambatan mundur ini dilakukan pada jaringan untuk setiap pola yang diberikan selama jaringan mengalami pelatihan.
masukan. Pola masukan ini merupakan nilai aktivasi unit-unit masuka. Dengan melakukan perambatan maju dihitung nilai aktivasi pada unit-unit di lapisan
berikutnya. Pada setiap lapisan, tiap unit pengolah melakukan penjumlahan berbobot dan menerapkan fungsi sigmoid untuk menghitung keluarannya.
Gambar 2.1 : Arsitektur Multilayer Neural Network
Sumber : Hermawan, A
Algoritma selengkapnya elatihan jaringan backpropagation adalah sebagai berikut (Hermawan, 2006) :
Langkah 0 :Inisialisasi bobot (ambil bobot awal dengan nilai random yang cukup kecil).
Langkah 1 :Bila syarat berhenti adalah salah, kerjakan langkah 2 sampai 9 Langkah 2 :Untuk setiap pasangan pelatihan, kerjakan langkah 3-8.
Feedforward:
Langkah 3 : Tiap-tiap unit input (Xi, i=1,2,3,...,n) menerima sinyal xi dan
meneruskan sinyal ke semua unit pada lapisan hidden (lapisan tersembunyi).
sinyal-sinyal input terbobot:
Gunakan fungsi aktivasi untuk menghitung sinyal outputnya:
zj = f(z_inj) (2.2)
dan mengirimkan sinyal tersebut ke semua unit di lapisan atasnya (unit unit output).
Langkah 5 : Tiap-tiap output (Yk, k=1,2,3,...,m) menjumlahkan sinyal-sinyal
input terbobot.
gunakan fungsi aktivasi untuk menghitung sinyal outputnya:
yk = f(y_ink) (2.4)
dan kirimkan sinyal tersebut ke semua unit di lapisan hidden (lapisan tersembunyi).
Catatan: Langkah (b) dilakukan sebanyak jumlah lapisan tersembunyi.
Backpropagation
Langkah 6 : Tiap-tiap unit output (Yk, k=1,2,3,...,m) menerima target pola yang
berhubungan dengan pola input pembelajaran, hitung informasi errornya
k = (tk-yk) f’(y_ink) (2.5)
Kemudian hitung koreksi bobot (yang nantinya akan digunakan
wjk = kzj
(2.6)
Hitung juga koreksi bias
w0k = k (2.7)
Langkah 7 : Tiap-tiap unit lapisan tersembunyi (Zj, j=1,2,3,...,p) menjumlahkan delta inputnya (dari unit-unit yang berada dilapisan hidden).
_inj =
Kalikan nilai ini dengan turunan dari fungsi aktivasi untuk menghitung informasi error:
Tiap-tiap unit lapisan tersembunyi (Zj, j=1,2,3,...,p) memperbaiki nilai bias dan bobotnya (i=1,2,3,...,n. ):
vij(baru) = vij(lama) + vij (2.12)
Langkah 9 : Uji syarat berhenti.
Online backpropagation merupakan jaringan backpropagation yang menggunakan proses update secara online. Online dimaksudkan setiap perubahan bobot dilakukan
pada setiap sample atau pada setiap input. Pelatihan dimulai dengan memasukkan nilai input dan melakukan perambatan maju, error kemudian dikalkulasi dan update bobot baru langsung diterapkan untuk input tersebut. Proses update bobot dilakukan untuk setiap varian input (Istook, 2003).
Online training dapat juga disebut sebagai stochastic training, dimana pelatihan dilakukan dengan memilih sebuah sample tunggal yang dapat dilakukan secara acak untuk digunakan sebagai input pada tiap iterasi pelatihan (LeCun, 1998). Perkiraan terhadap gradient kemudian dikomputasi berdasarkan error dari iterasi tersebut dan perubahan bobot kemudian dapat dilakukan. Beberapa kelebihan On-Line training yaitu sebagai berikut (LeCun, 1998) :
Online training biasanya lebih cepat daripada Offline training
Pelatihan Online training juga biasanya memberikan hasil yang lebih baik ketimbang
Offline training.
Online training dapat dilakukan untuk mendeteksi pola input.
Backpropagation mungkin algoritma pembelajaran yang paling popular, algoritma untuk perceptron multilayer merupakan jenis arsitektur jaringan saraf yang sederhana dan efekif. Ini adalah metode backpropagtion secara online dengan tingkat adaptif pembelajaran secara global yang didasari oleh ide yang disebut sudut tingkat peringatan yang di inisiasikan. Dengan nilai yang sangat kecil dan ditambah atau di kurangi sesuai dengan evolusi criteria kesalahan dari interiaksi terakhir.
Terdapat dua kelompok tingkat pembelajaran :
1. Mengacu kepada metode penyesuaian tingkat pembelajaran secara keseluruhan
untuk seluruh jaringan
2. Adaptasi secara independen tergantung tingkat masalah yang dihadapi
2.4. Offline Backpropagation
input dan melakukan perambatan maju, error kemudian ditampung dan disumarikan sampai pada sample input terakhir. Proses update bobot dilakukan berdasarkan error
yang diperoleh dari semua set input (Istook, 2003).
Offline training dapat juga disebut sebagai batch training, dimana pelatihan
dilakukan dengan error dari setiap sample input ditampung terlebih dahulu kemudian digunakan untuk proses update bobot pada saat semua sample telah dilatih. Beberapa kelebihan Offline training yaitu sebagai berikut (LeCun, 1998) :
Kondisi dari konvergensi dapat dengan mudah dilacak dan dipelajari.
Beberapa teknik peningkatan pembelajaran hanya bekerja pada off-line training. Analisis teori terhadap perubahan bobot dan konvergensi lebih mudah.
2.5. Klasifikasi Pada Jaringan Syaraf Tiruan
Jaringan syaraf tiruan merupakan bidang pengetahuan yang mana bertujuan untuk menciptakan mesin yang memiliki kecerdasan dan pemahaman dengan menerapkan simulasi dari system syaraf manusia (Cheriet, 2007). Sebuah jaringan syaraf tiruan terdiri dari beberapa neuron – neuron yang saling terhubung satu sama lain.
Pada jaringan syaraf tiruan sebuah neuron sering juga disebut dengan sebuah unit atau sebuah node. Sebuah model neuron memiliki beberapa koneksi yang memiliki bobot, unit penjumlah dan sebuah fungsi aktivasi.
Jaringan syaraf tiruan mampu merekam pengetahuan yang direpresentasikan dengan bobot
pada koneksi antar neuron. Proses pelatihan sebuah jaringan syaraf tiruan merupakan
kegiatan memberikan sejumlah input pada jaringan sehingga jaringan memodifikasi bobot –
bobot pada tiap koneksi neuronnya dalam rangka mempelajari input yang diberikan.
Jaringan syaraf yang telah mampu memahami input yang telah diberikan kemudian dapat
digunakan untuk kegiatan identifikasi dan klasifikasi. Kemampuan jaringan syaraf dalam
melakukan identifikasi dan klasifikasi tidak terlepas pada kemampuannya beradaptasi
terhadap input yang diberikan dalam bentuk perubahan bobot pada koneksi antar neuron.
Gambar 2.3 Ilustrasi Klasifikasi Pola Menggunakan Jaringan Syaraf Tiruan (McClelland, 2013)
Kemampuan klasifikasi yang dimiliki oleh jaringan syaraf tiruan kemudian dimanfaatkan pada
berbagai bidang seperti bidang identifikasi objek dan klasifikasi pola. Beberapa set objek
diberikan kepada jaringan dalam proses pelatihan sehingga jaringan mampu mengenali dan
mengidentifikasi objek – objek tersebut.
Jaringan syaraf memberikan kelebihan tersendiri dibandingkan dengan metode identifikasi
dan klasifikasi lain seperti metode yang menggunakan teknik pengolahan citra pada
umumnya, dimana jaringan syaraf membutuhkan media penyimpanan yang jauh lebih sedikit
disbandingkan dengan metode lain yang menggunakan teknik pengolahan citra sebagai
BAB III
METODOLOGI PENELITIAN
Backpropagation merupakan model jaringan syaraf tiruan yang memiliki performa yang sangat baik dalam operasi klasifikasi dan identifikasi. Backpropagation memiliki dua proses utama yaitu forward propagation dimana input akan diproses melalui neuron yang terdapat pada jaringan dan menghasilkan output atau tanggapan. Tahap kedua adalah backward propagation dimana bobot yang menghubungkan antar neuron di koreksi sebagai reaksi atas perbaikan tanggapan yang tidak sesuai dengan yang diharapkan. Kedua operasi tersebut akan terus dilakukan sampai jaringan mampu memberikan output atau tanggapan yang diharapkan.
Operasi pelatihan pada jaringan backpropagation terdiri dari dua kategori yaitu pelatihan online dan pelatihan offline. Pada penelitian ini akan dilakukan analisis dan perbandingan kinerja dari kedua jenis pelatihan pada kasus klasifikasi karakter dengan
menggunakan perangkat lunak yang dibangun.
3.1 Rancangan Penelitian
Langkah – langkah yang akan dilakukan dalam penelitian ini adalah
1. Persiapan karakter yang akan digunakan pada proses pelatihan online dan offline
pada jaringan backpropagation dalam bentuk format citra digital.
2. Perancangan jaringan backpropagation yang akan digunakan pada penelitian.
3. Menentukan parameter bobot, bias dan target yang akan digunakan pada pelatihan
online dan offline.
4. Melakukan pengamatan terhadap performa pembelajaran pada pelatihan online dan
5. Melakukan analisa terhadap kecepatan pelatihan, perubahan gradien dan akurasi
dari kedua jenis pelatihan.
Arsitektur jaringan syaraf tiruan backpropagation yang akan digunakan pada penelitian ini dapat dilihat pada gambar 3.1 berikut ini.
x1
x2
x100
h1
h2
h72
o1
o2
o5 Unit Input
Unit Hidden
Unit Output
Gambar 3.1 Rancangan Arsitektur Jaringan Syaraf Tiruan.
Karakter yang digunakan pada penelitian ini adalah karakter ‘A’ –‘Z’ dengan jenis kapital seperti yang terlihat pada gambar 3.2 berikut.
3.1.1 Analisis Proses Pelatihan Offline dan Online Jaringan Backpropagation
Pada penelitian ini perhatian utama yang akan dianalisis adalah kinerja dari pelatihan atau
training pada jaringan backpropagation menggunakan dua jenis pelatihan yang berbeda
yaitu offline dan online. Kasus yang digunakan adalah kasus identifikasi karakter pada citra
digital. Setiap jenis pelatihan pada jaringan saraf tiruan backpropagation baik itu pelatihan
offline maupun pelatihan online memiliki tahapan proses yang berbeda. Tahapan – tahapan
proses dari masing – masing jenis pelatihan dapat dijabarkan sebagai berikut.
3.1.1.1. Analisis Proses Pelatihan Offline
Pelatihan offline merupakan pelatihan jaringan saraf tiruan yang menganut konsep
batch. Secara garis besar tahapan pelatihan pada jenis pelatihan offline dapat
dijabarkan sebagai berikut.
1. Baca nilai input dari data latih ke – n.
2. Teruskan nilai input ke unit input.
3. Teruskan nilai input yang diterima oleh unit input ke unit tersembunyi atau
hidden.
4. Hitung nilai keluaran dari unit tersembunyi menggunakan nilai sinyal input
terbobot menggunakan persamaan 2.2 dan melakukan perhitungan fungsi
aktivasi untuk memperoleh nilai keluaran dari unit tersembunyi menggunakan
persamaan 2.3.
5. Teruskan nilai keluaran dari unit tersembunyi ke unit output.
6. Hitung nilai keluaran dari unit output dengan menghitung nilai sinyal keluaran
unit keluaran terbobot menggunakan persamaan 2.3 yang kemudian diikuti
dengan menghitung nilai output menggunakan fungsi aktivasi menggunakan
persamaan 2.4.
7. Hitung galat error untuk data latih ke – n menggunakan persamaan 2.5.
8. Hitung koreksi untuk tiap bobot pada lapisan tersembunyi menggunakan
persamaan 2.6.
9. Hitung galat error pada unit tersembunyi menggunakan persamaan 2.9.
10. Hitung koreksi untuk tiap bobot pada lapisan input menggunakan persamaan
2.10.
12. Setelah semua data latih telah di presentasikan ke dalam jaringan lakukan
perubahan bobot pada unit tersembunyi menggunakan nilai koreksi bobot hasil
dari perhitungan menggunakan persamaan berikut.
Dimana :
= nilai koreksi bobot lapisan tersembunyi.
= jumlah data latih
13. lakukan perubahan bobot pada unit input menggunakan nilai koreksi bobot hasil
dari perhitungan menggunakan persamaan berikut.
Dimana :
= nilai koreksi bobot lapisan input.
= jumlah data latih
START
Gambar 3.3 Proses Pelatihan Offline
3.1.1.2. Analisis Proses Pelatihan Online
Pelatihan online merupakan pelatihan jaringan saraf tiruan yang menganut konsep
linear atau stochastic. Secara garis besar tahapan pelatihan pada jenis pelatihan online
dapat dijabarkan sebagai berikut.
1. Baca nilai input dari data latih ke – n.
2. Teruskan nilai input ke unit input.
3. Teruskan nilai input yang diterima oleh unit input ke unit tersembunyi atau
hidden.
4. Hitung nilai keluaran dari unit tersembunyi menggunakan nilai sinyal input
terbobot menggunakan persamaan 2.2 dan melakukan perhitungan fungsi
aktivasi untuk memperoleh nilai keluaran dari unit tersembunyi menggunakan
persamaan 2.3.
6. Hitung nilai keluaran dari unit output dengan menghitung nilai sinyal keluaran
unit keluaran terbobot menggunakan persamaan 2.3 yang kemudian diikuti
dengan menghitung nilai output menggunakan fungsi aktivasi menggunakan
persamaan 2.4.
7. Hitung galat error untuk data latih ke – n menggunakan persamaan 2.5.
8. Hitung koreksi untuk tiap bobot pada lapisan tersembunyi menggunakan
persamaan 2.6.
9. Lakukan update bobot pada lapisan tersembunyi menggunakan persamaan 2.11.
10. Hitung galat error pada unit tersembunyi menggunakan persamaan 2.9.
11. Hitung koreksi untuk tiap bobot pada lapisan input menggunakan persamaan
2.10.
12. Lakukan update bobot pada lapisan input menggunakan persamaan 2.12
13. Lanjutkan tahap pelatihan untuk data latih n+1.
Seperti yang dapat dilihat pada tahapan proses diatas, pelatihan online tidak melakukan
pendataan koreksi bobot yang disebabkan oleh setiap data latih. Nilai koreksi bobot yang
diperoleh dari tiap data latih langsung diterapakan untuk melakukan perubahan bobot pada
START
Gambar 3.4 Proses Pelatihan Online.
3.2 Alat Penelitian dan Bahan Penelitian
3.2.1 Alat Penelitan
Pada penelitian ini digunakan alat penelitian berupa perangkat keras dan perangkat lunak sebagai berikut:
a. Perangkat keras
- Prosessor Intel Pentium Core2Duo 3.0 GHz.
Bahan yang digunakan pada penelitian ini adalah databinerisasi dari karakter huruf dan angka pada citra digital yang digunakan, jumlah node input, jumlah node hidden, jumlah node output beserta bobot – bobot pada tiap koneksi node pada jaringan
backpropagation. Berikut rincian dari bahan – bahan penelitian yang akan digunakan.
3.2.2.1 Bahan Penelitian Karakter Huruf
Bahan penelitian yang akan digunakan pada penelitian ini adalah huruf karakter huruf kapital. Berdasarkan batasan masalah yang telah penulis jabarkan, ukuran jendela untuk tiap karakter adalah 10 x 10 piksel. Arah pembacaan nilai dilakukan dari sumbu Y menuju sumbu X, dengan kata lain pembacaan nilai piksel dilakukan kebawah dan dilanjutkan ke samping. Bagian dari karakter akan diberi nilai 0, dan selain dari bagian karakter atau background akan bernilai 1.
3.2.2.2 Parameter Jaringan Backpropagation
Pada jaringan backpropagation terdapat beberapa parameter yang harus ditentukan untuk membentuk jaringan backpropagation itu sendiri, berikut parameter – parameter yang akan digunakan pada penelitian ini.
1. Jumlah Node Input.
Sesuai dengan batasan masalah yang telah penulis uraikan mengenai ukuran
piksel pada tiap karakter yaitu 10 x 10, maka jumlah node input pada jaringan
harus dapat menampung tiap nilai dari tiap piksel karakter, sehingga jumlah node
input yang digunakan adalah 100 Node.
2. Jumlah Node Output.
itu harus disusun pola output biner yang dapat mengakomodasi jumlah karakter,
sehingga digunakan jumlah node output sebanyak 5 node, dimana 2 ^ 5 adalah
32 sehingga dengan menggunakan 5 node akan memberikan kemungkinan 32
nilai keluaran berbeda yang mana sudah lebih dari cukup untuk mengakomodasi
26 karakter yang digunakan pada penelitian ini.
3. Jumlah Node Hidden.
Jumlah node hidden dapat dikalkulasikan sebagai berikut.
NH = = (2/3 * 100) + 5 = 72 Hiden Node.
3.2.2.3 Target Output Backpropagation
Pada proses pelatihan harus ditentukan target output dari tiap karakter yang dipelajari. Berikut table target output pada tiap karakter.
Tabel 3.1 Target Output Data Pelatihan
25. Y 1 1 0 0 0
26. Z 1 1 0 0 1
3.3 Kerangka kerja Penelitian (Frame Works)
Berikut kerangka kerja yang digunakan sebagai langkah-langkah dalam penyelesaian
permasalahan diatas.
Gambar 3.5 Proses Kerangka Kerja. Masukkan Huruf yang sudah
ditentukan targetnya
Konversi Ke Biner
Model Offline Model Online
Perbandingan dari Sisi Akurasi, Error yang didapat, Waktu yang dicapai, dan Pencapaian yang
BAB IV
HASIL DAN PEMBAHASAN
4.1. Pengantar
Penelitian ini bertujuan untuk meneliti perbedaan kinerja pada jaringan saraf tiruan
bakcpropagation menggunakan pelatihan online dan pelatihan offline dengan
menggunakan kasus identifikasi karakter pada citra digital sebagai kasus perbandingan. Pengujian yang dilakukan pada penelitian ini dilakukan dengan mengembangkan sebuah aplikasi perangkat lunak yang digunakan untuk melatih jaringan saraf tiruan backpropagation dan mengidentifikasi karakter pada citra digital menggunakan jaringan yang telah dilatih. Aplikasi yang digunakan pada penelitian ini dibangun menggunakan MS Visual Studio 2010. Tampilan utama dari aplikasi yang dikembangkan dapat dilihat pada gambar 4.1 berikut.
Aplikasi yang dibangun memiliki beberapa fitur utama yaitu pelatihan jaringan
saraf tiruan backpropagation terhadap data karakter dan kemudian identifikasi. Seperti yang telah dijelaskan sebelumnya, aplikasi yang dibangun merupakan alat bantu untuk meneliti kinerja jaringan dan bukanlah output utama dari penelitian ini. Untuk mengakomodasi kebutuhan akan pelatihan dan identifikasi terhadap karakter pada citra digital maka aplikasi dilengkapi dengan beberapa antarmuka seperti antarmuka data training yang dapat dilihat pada gambar 4.2 berikut.
Gambar 4.2 Antarmuka Data Training
Antarmuka data training seperti yang terlihat pada gambar 4.2 memiliki beberapa fungsi yang dapat digunakan untuk melakukan penambahan dan penghapusan data latih yang digunakan untuk melatih jaringan saraf tiruan
4.2. Persiapan Analisis dan Pengujian
Analisis yang dilakukan pada penelitian ini adalah analisis terhadap kinerja jaringan saraf tiruan backpropagation menggunakan pelatihan yang berbeda yaitu online dan
offline training. Untuk dapat melakukan analisis terhadap jaringan saraf
backpropagation tersebut maka akan dilakukan pengujian terhadap jaringan
backpropagation yang dibangun. Parameter – parameter dan data yang diperlukan oleh kegiatan pengujian pertama sekali harus ditentukan dan disiapkan seperti data karakter, parameter tingkat pembelajaran, bobot dan lain sebagainya.
Data karakter yang digunakan pada penelitian ini seperti dijelaskan pada bab-bab sebelumnya bersumber dari citra karakter yang dibuat menggunakan software bantu (Adobe Photoshop) dengan ukuran 10 x 10 piksel. Setiap data karakter yang
digunakan akan diberikan target output sehingga dapat digunakan pada proses pelatihan seperti yang terlihat pada tabel 4.1 berikut.
1 0 1 1 1 1 1 0 1 1 1 1 0 0 0 0 0 1 0 1
Pada table 4.1 dapat dilihat atribut dari data karakter pelatihan yang akan digunakan pada proses pelatihan jaringan. Penjelasan atribut dari data karakter pelatihan dapat dijabarkan sebagai berikut.
piksel berwarna hitam dimana merupakan piksel penyusun karakter direpresentasikan dengan nilai “0”.
b. Target, target merupakan nilai acuan kepada jaringan selama pelatihan. Jaringan akan memproses input berupa fitur dari citra karakter yang kemudian memeriksa output jaringan dengan nilai target pada karakter yang bersangkutan, jika output dan target tidak sesuai, maka jaringan akan melakukan perambatan balik atau backpropagation sebagai langkah pembelajaran.
Jaringan saraf tiruan backpropagation memiliki arsitektur jaringan yang tetap sehingga diperlukan pengaturan konfigurasi dan penentuan parameter dalam membangun jaringan saraf tiruan backpropagation sebelum dapat digunakan. Seperti yang telah disebutkan pada sub bab sebelumnya, jaringan saraf backpropagation yang digunakan pada penelitian ini memiliki arsitektur sebagai berikut.
a. Jumlah unit input : 100 unit.
b. Jumlah unit tersembunyi (hidden node) : 60 unit. c. Jumlah unit output : 6 unit.
Penggunaan jumlah unit input dengan jumlah 100 unit bertujuan untuk dapat mengakomodasi citra karakter yang berukuran 10 x 10 piksel, dimana citra dengan ukuran 10 x 10 piksel memiliki total piksel berjumlah 100 piksel sehingga diperlukan
100 unit input untuk dapat menerima nilai dari piksel dari citra karakter yang digunakan. Jumlah unit tersembunyi dipilih sebanyak 60 unit dengan mempertimbangkan bahwa jumlah unit tersembunyi harus diantara jumlah unit input dan jumlah unit keluaran. Unit output atau unit keluaran menggunakan 6 unit untuk dapat mengakomodasi rentang target karakter yang digunakan yaitu berjumlah 26 karakter.
Pengujian akan dilakukan secara bertahap yang mana setiap tahap akan menggunakan jumlah data karakter yang berbeda – beda. Secara garis besar pengujian yang akan
dilakukan pada penelitian ini terdiri dari 5 pengujian yaitu pengujian A dengan menggunakan jumlah data pelatihan sebanyak dua data, pengujian B dengan menggunakan jumlah data pelatihan sebanyak 10 buah data, pengujian C dengan menggunakan jumlah data pelatihan sebanyak 26 buah data.
Pembagian pengujian berdasarkan jumlah data pelatihan bertujuan untuk melakukan analisis terhadap jaringan saraf backpropagation menggunakan jenis pelatihan yang berbeda dengan menggunakan beban data latih yang berbeda. Sehingga diharapkan dapat dilihat kelebihan dan kekurangan dari setiap jenis pelatihan yang akan dianalisis pada penelitian ini.
4.3.1. Pengujian A (Karakter A – B)
Pengujian A dilakukan dengan melakukan pelatihan pada jaringan saraf tiruan
backpropagation menggunakan dua data latih yaitu karakter A dan B. Pelatihan pada
pengujian A akan dilakukan sebanyak dua pelatihan yaitu pelatihan online dan pelatihan offline. Proses pelatihan pada jaringan saraf tiruan backpropagation pada
pengujian ini menggunakan parameter pelatihan sebagai berikut. a. Maksimum Epoch : 5000
b. Alpha (Tingkat Pembelajaran) : 0.5
c. Minimum Error / Goal : 0.001
Gambar 4.3 Pelatihan Online pengujian A
Pelatihan online pada pengujian A seperti yang terlihat pada gambar 4.3 mampu mencapai goal atau target minimum error pada epoch ke 112. Statistik memperlihatkan pelatihan online membutuhkan waktu 16 detik dalam proses pelatihannya.
Gambar 4.4 Pelatihan Offline pengujian A
Pelatihan offline pada pengujian A seperti yang terlihat pada gambar 4.3 mampu mencapai goal atau target minimum error pada epoch ke 262. Statistik
Gambar 4.5 Perbandingan Error Pengujian A
4.3.2. Pengujian B (Karakter A – J)
Pengujian B dilakukan dengan melakukan pelatihan pada jaringan saraf tiruan
backpropagation menggunakan sepuluh data latih yaitu karakter A sampai J. Pelatihan pada pengujian B akan dilakukan sebanyak dua pelatihan yaitu pelatihan online dan pelatihan offline. Proses pelatihan pada jaringan saraf tiruan backpropagation pada pengujian ini menggunakan parameter pelatihan sebagai berikut.
a. Maksimum Epoch : 5000
b. Alpha (Tingkat Pembelajaran) : 0.5
c. Minimum Error / Goal : 0.001
Proses pelatihan dilakukan menggunakan aplikasi yang telah dikembangkan dengan menggunakan data latih citra karakter yang telah disiapkan pada bagian sebelumnya. Proses pelatihan dapat dilihat pada gambar 4.6 dan gambar 4.7 berikut.
Gambar 4.6 Pelatihan online pengujian B
Pelatihan online pada pengujian B seperti yang terlihat pada gambar 4.6 mampu mencapai goal atau target minimum error pada epoch ke 176. Statistik memperlihatkan pelatihan online membutuhkan waktu 2 menit 11 detik dalam proses pelatihannya.
Pelatihan offline pada pengujian B seperti yang terlihat pada gambar 4.7 mampu mencapai goal atau target minimum error pada epoch ke 1571. Statistik
memperlihatkan pelatihan offline membutuhkan waktu 19 menit 40 detik dalam proses pelatihannya. Tabel rincian dari nilai error tiap epoch dari masing – masing pelatihan dapat dilihat pada lampiran A.2. Berikut grafik dari error komparatif pada pengujian B.
Gambar 4.8 Perbandingan Error Pengujian B
4.3.3. Pengujian C (Karakter A – Z)
Pengujian C dilakukan dengan melakukan pelatihan pada jaringan saraf tiruan
backpropagation menggunakan 26 data latih yaitu karakter A sampai Z. Pelatihan pada pengujian C akan dilakukan sebanyak dua pelatihan yaitu pelatihan online dan pelatihan offline. Proses pelatihan pada jaringan saraf tiruan backpropagation pada pengujian ini menggunakan parameter pelatihan sebagai berikut.
a. Maksimum Epoch : 5000
b. Alpha (Tingkat Pembelajaran) : 0.5
Proses pelatihan dilakukan menggunakan aplikasi yang telah dikembangkan dengan menggunakan data latih citra karakter yang telah disiapkan pada bagian
sebelumnya. Proses pelatihan dapat dilihat pada gambar 4.9 dan gambar 4.10 berikut.
Gambar 4.9 Pelatihan online pengujian C
Gambar 4.10 Pelatihan offline pengujian C
Gambar 4.11 Perbandingan Error Pengujian C
4.4. Pembahasan
Pengujian yang telah dilakukan pada sub bab sebelumnya memberikan hasil statistik yang berbeda untuk tiap jenis pelatihan. Pada sub bab ini akan dilakukan analisis hasil pengujian serta pembahasan terhadap kinerja kedua jenis pelatihan jaringan saraf tiruan backpropagation berdasarkan hasil analisis yang dilakukan. Berdasarkan pengujian yang telah dilakukan maka dapat diperoleh data kinerja dari kedua jenis pelatihan seperti yang terlihat pada tabel berikut.
Tabel 4.2 Hasil Pengujian Pelatihan Online
No. Pengujian Data Latih Target Epoch yang
105 118 131 144 157 170 183 196 209 222 235 248 261 274 287 300
Detik
Tabel 4.3 Hasil Pengujian Pelatihan Offline
No. Pengujian Data Latih Target Epoch yang
dibutuhkan
Waktu
1. Pengujian A A – B Tercapai 262 39 Detik
2. Pengujian B A – J Tercapai 1571 19 Menit 40
Detik
3. Pengujian C A – Z Tidak 300 9 Menit 44
Detik
Berdasarkan hasil pengujian seperti yang dapat dilihat pada tabel 4.2 dan 4.3 diatas, dapat dilihat bahwa pelatihan jaringan backpropagation menggunakan
pelatihan online memberikan kinerja yang jauh lebih baik dibandingkan dengan pelatihan offline baik dari sisi waktu maupun epoch yang dibutuhkan untuk mencapai
goal. Namun seiring bertambahnya jumlah data latih atau data training, pelatihan
BAB V
KESIMPULAN DAN SARAN
5.1. Kesimpulan
Kesimpulan yang dapat diambil dari penelitian ini adalah sebagai berikut :
1. Analisis terhadap kinerja pelatihan jaringan backpropagation menggunakan pelatihan online memberikan hasil lebih baik dibandingkan dengan pelatihan menggunakan offlinetraining.
2. Proses pembelajaran menggunakan pelatihan online training terkesan tidak stabil dimana terlihat pergerakan error pada onlinetraining bergerak naik turun sebelum mencapai global optima. Tingkat ketidak stabilan jaringan cenderung meningkat seiring meningkatnya jumlah data latih.
3. Proses pembelajaran menggunakan pelatihan offline training memiliki kinerja
yang tidak sebaik jaringan online dimana pergerakan error menuju global optima terkesan bergerak halus sepanjang kurva. Namun pelatihan offline bersifat stabil dan toleran terhadap meningkatnya jumlah data latih.
4. Pada kasus identifikasi karakter yang mana objek karakter memiliki jumlah yang terbatas yaitu berkisar 64 karakter untuk karakter latin, pelatihan online lebih cocok diterapkan dibandingkan dengan pelatihan offline. Namun jika objek karakter terus bertambah seperti penambahan karakter khusus dan karakter-karakter dalam bahasa lain maka pelatihan offline lebih direkomendasikan karena kestabilan nya dalam proses pelatihan.
Saran – saran yang dapat penulis sampaikan setelah melakukan penelitian ini adalah sebagai berikut :
1. Untuk penelitian lebih lanjut alangkah baiknya dilakukan penelitian terhadap faktor – faktor pengaruh lainnya seperti tingkat pembelajaran dan momentum.
DAFTAR PUSTAKA
ALGORITHM FOR MLP AND APPLICATION TO AN IDENTIFICATION PROBLEM. Durban: Centre For Engineering Research, Technikon Natal.
Baxes, & Gregory, A. (1994). Digital Image Processing : Principles and Applications.
New York: John Wiley & Sons.
Cheriet, M. (2007). Character Recognition System. Canada: John Willey & Son.
Duffner, S., & Garcia, C. (2007). An Online Backpropagation Algorithm with Validation Error-Based Adaptive Learning Rate. Cesson-Sevigne: Orange Labs.
Hermawan, A. (2006). Jaringan Saraf Tiruan. Yogyakarta: Penerbit Andi.
Istook, E. (2003). IMPROVED BACKPROPAGATION LEARNING IN NEURAL NETWORKS WITH WINDOWED MOMENTUM. International Journal of Neural Systems , vol. 12, No. 3 &4 .
LeCun, Y. (1998). Efficient BackProp. New Jersey: Springer.
Lemme, A. (2010). Efficient online learning of a non-negative sparse autoencoder.
Bielefeld: CoR-Lab.
McClelland, J. (2013). Explorations in Parallel Distributed Processing: A Handbook of Models, Programs, and Exercises. Stanford.
Muijrers, V. (2011). Training a Back-Propagation Network with Temporal Difference Learning and a database for the board game pente. Philedelphia: ECTS.
Parker, L. R. (2006). Notes on Multilayer, Feedforward Neural Networks. CS494/594: Projects in Machine Learning.
Sha, D., & Bajic, V. B. (2000). ON-LINE ADAPTIVE LEARNING RATE BP
Singh, G. (2012). Recognition of Handwritten Hindi Characters using
Sutoyo, T. (2009). Pengolahan Citra Digital. Yogyakarta: Penerbit Andi.
Tiwari, R. R. (2013). HANDWRITTEN DIGIT RECOGNITION USING BACKPROPAGATION NEURAL NETWORK& K-NEAREST
