=
Fungsi Error pada iterasi ke –kPada operasi backpropagation normal, parameter learning rate bernilai statis dimana nilai parameter dipilih pada awal pembelajaran dan terus digunakan pada setiap iterasi tanpa mengalami perubahan.
Penggunaan adaptive learning rate memberikan dampak positif dimana proses menuju local optima akan semakin cepat. Dimana dengan tingkat pembelajaran yang selalu menyesuaikan diri dengan nilai error yang dihasilkan mampu memberikan stabilitas dalam proses pembelajaran dibandingkan dengan tingkat pembelajaran yang konstan atau statis.
Berdasarkan penelitian yang dilakukan oleh Plagianakos, berikut usulan persamaan dalam menghitung nilai learning rate pada tiap iterasi (Plagianakos, 1998).
(2.17)
Dimana :
=
Learning Rate pada iterasi ke – k=
=
Pada penelitian yang dilakukan oleh Daohang Sha dan Vladimir mengenai
adaptive learning rate, mereka melakukan perbandingan performa dari learning rate statis
dan penggunaan adaptive learning rate yang dapat dilihat pada gambar berikut.
Gambar 2.6 Perbandingan Laju Error Pada Percobaan Learning Rate (Sumber : Sha & Bajic, 2000)
Pada gambar 2.6 dapat dilihat lajur error dari Variable rate atau dengan kata lain
Adaptive learning rate memiliki laju eror yang paling baik dibandingkan dengan Fixed rate atau nilai learning rate statis. Pada penelitian lain yang dilakukan oleh Rajesh et al, penggunaan metode adaptive learning rate memberikan kecepatan laju pembelajaran yang signifikan seperti yang terlihat pada gambar 2.7 berikut ini.
Gambar 2.7 Grafik Perbandingan Implementasi Learning Rate.
(Sumber : Ranganath, 2013)
2.9 Parallel Training
Parallel training merupakan pendekatan implementasi pelatihan jaringan
Backpropagation dimana proses pelatihan dilakukan secara parallel. Dipandang dari sudut
pandang perangkat keras, parallel training dapat dibagi menjadi dua kategori yang mana kategori pertama adalah pelatihan parallel dengan memanfaatkan unit pengolah atau CPU lebih dari satu sedangkan kategori kedua adalah pelatihan parallel dengan menggunakan teknologi multithreading (Mumtazimah, 2012).
Jaringan backpropagation adalah sebuah proses berulang yang seringkali menbutuhkan waktu yang sangat lama dalam prosesnya. Ketika proses pelatihan dibagi menjadi beberapa unit dan diproses secara bersamaan maka waktu yang dibutuhkan juga akan jauh lebih sedikit. Berikut tahap – tahap dalam implementasi Parallel Training pada jaringan Backpropagation (Schuessler & Loyola, 2011).
1. Partisi set data pelatihan T menjadi bagian – bagian yang sama besar (T1, T2,…, Tn). Pada penelitian ini objek yang akan di-identifikasi adalah objek karakter huruf dan angka dimana jumlah karakter huruf dan angka dapat dijabarkan menjadi :
Jumlah Huruf Biasa = 26 Jumlah Angka = 10 Total Karakter = 62
Jika terdapat sepuluh unit jaringan backpropagation maka data karakter akan dipartisi menjadi sepuluh partisi dengan rincian sebagai berikut.
T1 = 6 Karakter (A,B,C,D,E,F) T2 = 6 Karakter (G,H,I,J,K,L) T3 = 6 Karakter (M,N,O,P,Q,R) T4 = 6 Karakter (S,T,U,V,W,X) T5 = 6 Karakter (Y,Z,a,b,c,d) T6 = 6 Karakter (e,f,g,h,i,j) T7 = 6 Karakter (k,l,m,n,o,p) T8 = 6 Karakter (q,r,s,t,u,v) T9 = 6 Karakter (w,x,y,z,0,1) T10 = 8 Karakter (2,3,4,5,6,7,8,9)
2. Masukkan partisi – partisi data pelatihan ke dalam unit – unit jaringan backpropagation yang telah disediakan, tiap unit jaringan memiliki struktur dan parameter yang sama atau identik.
Gambar 2.8 Ilustrasi Parallel Training pada Data Input Karakter dan Angka 3. Lakukan proses forward propagation pada tiap unit.
4. Hitung total perubahan bobot dari semua unit jaringan, dan terapkan koreksi perubahan bobot pada tiap jaringan.
Perhitungan fungsi error dilakukan dengan menghitung rata-rata dari jumlah fungsi error pada tiap unit backpropagation menggunakan persamaan berikut.
(2.18)
Dimana :
=
Fungsi Error total ke - k=
fungsi error pada unit backpropagation ke - i=
Jumlah unit backpropagationBerdasarkan persamaan diatas nilai fungsi error total digunakan dalam menghitung nilai learning rate seperti yang telah dibahas pada sub bab analisis sebelumnya, dan dilanjutkan dengan perhitungan bobot baru atau . Nilai perubahan bobot akan dikirimkan ke setiap unit backpropagation untuk mengoreksi bobot pada setiap unit.
5. Ulangi langkah tiga sampai kondisi berhenti tercapai. ! " # $$ % & ' $$ ( ! " # ) * + , - . % & / 0 (
Gambar 2.9 Presentasi skema pelatihan pada jaringan (a) Pelatihan tanpa implementasi parallel, (b) Pelatihan dengan implementasi parallel.
BAB III
METODOLOGI PENELITIAN
Backpropagation merupakan metode jaringan syaraf tiruan yang mampu mempelajari
pengetahuan yang diberikan. Backpropagation memiliki performa yang sangat baik dalam operasi klasifikasi dan identifikasi. Backpropagation memiliki dua proses utam yaitu
forward propagation dimana input akan diproses melalui neuron yang terdapat pada jaringan dan menghasilkan output atau tanggapan. Tahap kedua adalah backward propagation dimana bobot yang menghubungkan antar neuron di koreksi sebagai reaksi atas perbaikan tanggapan yang tidak sesuai dengan yang diharapkan. Kedua operasi tersebut akan terus dilakukan sampai jaringan mampu memberikan output atau tanggapan yang diharapkan.
Dengan penerapan operasi forward propagation dan backwardpropagation,
backpropagation menjadi salah satu metode yang sangat baik dalam akurasinya. Dibalik
kelebihannya backpropagation memiliki kelemahan dalam segi konsumsi sumber daya waktu dalam proses pembelajarannya. Pada penelitian ini akan dilakukan penerapan pengembangan pada metode backpropagation dengan menambahkan kombinasi algoritma
adaptive learning rate dan parallel training. Implementasi dari pengembangan metode
backpropagation akan dilakukan pada proses identifikasi karakter atau huruf pada citra digital.
3.1 Rancangan Penelitian
Dalam menerapkan pengembangan algoritma adaptive learning rate dan parallel training
pada metode backpropagation dalam proses identifikasi karakter atau huruf pada citra digital penulis menyusun langkah – langkah yang akan dilakukan dalam penelitian ini yang dapat dijabarkan sebagai berikut.
3.1.1 Analisis Proses Identifikasi Karakter atau Huruf Pada Citra Digital
Pada penelitian ini proses identifikasi karakter atau huruf pada citra digital dapat dibagi menjadi dua tahap, yaitu tahap pembelajaran dan tahap identifikasi. Tahap – tahap tersebut dapat dilihat pada diagram flowchart pada gambar 3.1 berikut.
Gambar 3.1 Diagram Flowchart Proses Identifikasi Karakter Huruf atau Angka Pada Citra Digital.
Pada gambar 3.1 dapat dilihat bahwa pada tahap pembelajaran proses diawali dengan input citra yang kemudian dilanjutkan dengan proses praproses citra dan terakhir pembelajaran jaringan backpropagation. Proses praproses citra merupakan kumpulan proses – proses yang digunakan untuk menyiapkan citra input untuk dijadikan masukan ke dalam jaringan backpropagation. Proses praproses pada penelitian ini terbagi menjadi tiga tahap yaitu :
1. Proses Grayscaling 2. Proses Binerisasi 3. Proses Thining
Penjelasan dari tiap proses diatas akan dibahas pada sub bab selanjutnya. Berikutnya pada tahap identifikasi tahap terdiri dari input citra yang kemudian dilanjutkan dengan proses praproses citra dan kemudian diproses pada jaringan backpropagation. Pada tahap jaringan backpropagation, proses yang dilakukan adalah proses forward backpropagation mengingat pada saat identifikasi yang diharapkan adalah output dari jaringan langsung tanpa ada koreksi atau target output seperti pada saat pembelajaran.
3.2 Alat Penelitian dan Bahan Penelitian 3.2.1 Alat Penelitan
Pada penelitian ini digunakan alat penelitian berupa perangkat keras dan perangkat lunak sebagai berikut:
a. Perangkat keras
1. 1 (satu)unit PC dengan spesifikasi sebagai berikut. - Prosessor Intel Pentium Core2Duo 3.0 GHz. - RAM DDR2 2 GB.
- HDD 500 GB.
- Monitor 14” dengan resolusi layar 1024x768 piksel. b. Perangkat lunak
1. Sistem Operasi Windows 7 Ultimate 2. Microsoft Visual Basic 2010. 3.2.2 Bahan Penelitian
Bahan yang digunakan pada penelitian ini adalah databinerisasi dari karakter huruf dan angka pada citra digital yang digunakan, jumlah node input, jumlah node hidden, jumlah node output beserta bobot – bobot pada tiap koneksi node pada jaringan backpropagation. Berikut rincian dari bahan – bahan penelitian yang akan digunakan.
3.2.2.1Bahan Penelitian Karakter Huruf dan Angka
Bahan penelitian huruf karakter huruf dan angka terdiri dari himpunan karakter huruf besar dan huruf kecil serta karakter huruf angka mulai dari karakter 0 sampai 9. Berdasarkan batasan masalah yang telah penulis jabarkan, ukuran jendela untuk tiap karakter adalah 9 x 10 piksel. Berikut sample dari bahan penelitian karakter huruf ‘A’, arah pembacaan nilai dilakukan dari sumbu Y menuju sumbu X, dengan kata lain pembacaan nilai piksel dilakukan kebawah dan dilanjutkan ke samping. Bagian dari karakter akan diberi nilai 1, dan selain dari bagian karakter akan bernilai 0.
Karakter ‘A’.
Gambar 3.2 Karakter A
Node Input Nilai Input Node Input Nilai Input
X1 0 X46 0
X2 0 X47 1
X3 0 X48 0
X4 0 X49 0
X6 0 X51 0 X7 0 X52 0 X8 0 X53 1 X9 1 X54 1 X10 1 X55 1 X11 0 X56 1 X12 0 X57 1 X13 0 X58 0 X14 0 X59 0 X15 0 X60 0 X16 0 X61 0 X17 1 X62 0 X18 1 X63 0 X19 1 X64 0 X20 0 X65 0 X21 0 X66 0 X22 0 X67 1 X23 1 X68 1 X24 1 X69 1 X25 1 X70 0 X26 1 X71 0 X27 1 X72 0 X28 0 X73 0
X29 0 X74 X30 0 X75 0 X31 1 X76 0 X32 1 X77 0 X33 1 X78 0 X34 0 X79 1 X35 0 X80 1 X36 0 X81 0 X37 1 X82 0 X38 0 X83 0 X39 0 X84 0 X40 0 X85 0 X41 1 X86 0 X42 1 X87 0 X43 1 X88 0 X44 0 X89 0 X45 0 X90 0
Tabel 3.1 Bagian dari karakter akan diberi nilai 1dan 0 3.2.2.2Parameter Jaringan Backpropagation
Pada jaringan backpropagation terdapat beberapa parameter yang harus ditentukan untuk membentuk jaringan backpropagation itu sendiri, berikut parameter – parameter yang akan digunakan pada penelitian ini.
Sesuai dengan batasan masalah yang telah penulis uraikan mengenai ukuran piksel pada tiap karakter yaitu 9 x 10, maka jumlah node input pada jaringan harus dapat menampung tiap nilai dari tiap piksel karakter, sehingga jumlah node input yang digunakan adalah 90 Node.
2. Jumlah Node Output.
Karakter huruf terdiri dari karakter huruf besar dengan jumlah 26 karakter dan karakter huruf kecil dengan jumlah 26 karakter, ditambah dengan jumlah karakter angka yaitu 10, sehingga total jumlah karakter yang harus dikenali adalah 62 karakter. Untuk itu harus disusun pola output biner yang dapat mengakomodasi jumlah karakter, sehingga digunakan jumlah node output sebanyak 6 node, dimana 2 ^ 6 adalah 64 sehingga dengan menggunakan 6 node akan memberikan kemungkinan 64 nilai keluaran berbeda.
3. Jumlah Node Hidden.
Jumlah node hidden dapat dikalkulasikan sebagai berikut. NH = = (2/3 * 90) + 6 = 66 Hiden Node. 4. Jumlah Partisi dan Unit Jaringan pada pelatihan paralel.
Jumlah Partisi dan Unit Jaringan yang digunakan adalah sebanyak 10 Partisi dengan data sebagai berikut.
No. Partisi Unit Jaringan Karakter Input
1 T1 U1 A,B,C,D,E,F 2 T2 U2 G,H,I,J,K,L 3 T3 U3 M,N,O,P,Q,R 4 T4 U4 S,T,U,V,W,X 5 T5 U5 Y,Z,a,b,c,d 6 T6 U6 e,f,g,h,i,j 7 T7 U7 k,l,m,n,o,p 8 T8 U8 q,r,s,t,u,v 9 T9 U9 w,x,y,z,0,1 10 T10 U10 2,3,4,5,6,7,8,9
Tabel 3.2 Jumlah Partisi dan Unit Jaringan pada pelatihan parallel 3.2.2.3Target Output Backpropagation
Pada proses pelatihan harus ditentukan target output dari tiap karakter yang dipelajari. Berikut table target output pada tiap karakter.
No. Karakter Target
1 A 000001 2 B 000010 3 C 000011 4 D 000100 5 E 000101 6 F 000110 7 G 000111 8 H 001000 9 I 001001 10 J 001010 11 K 001011 12 L 001100 13 M 001101 14 N 001110 15 O 001111 16 P 010000
17 Q 010001 18 R 010010 19 S 010011 20 T 010100 21 U 010101 22 V 010110 23 W 010111 24 X 011000 25 Y 011001 26 Z 011010 27 A 011011 28 B 011100 29 C 011101 30 D 011110 31 E 011111 32 F 100000 33 G 100001 34 H 100010 35 I 100011 36 J 100100
37 K 100101 38 L 100110 39 M 100111 40 N 101000 41 O 101001 42 P 101010 43 Q 101011 44 R 101100 45 S 101101 46 T 101110 47 U 101111 48 V 110000 49 W 110001 50 X 110010 51 Y 110011 52 Z 110100 53 0 110101 54 1 110110 55 2 110111 56 3 111000
57 4 111001 58 5 111010 59 6 111011 60 7 111100 61 8 111101 62 9 111110
BAB IV
HASIL DAN PEMBAHASAN
Pada bab ini akan dijelaskan mengenai hasil pengujian yang dilakukan penulis dalam melakukan pelatihan dan pengenalan karakter yang berjumlah 62 karakter menggunakan metode jaringan syaraf backpropagation yang telah dikembangkan menggunakan kombinasi algoritma adaptive learning rate dan parallel training. Data tersebut akan dilatih menggunakan aplikasi yang penulis bangun menggunakan Software (MS Visual Studio 2010), dimana aplikasi yang dibangun menggunakan metode backpropagation
backpropagation yang telah dikembangkan menggunakan adaptive learning rate dan
parallel training. Untuk mengukur kinerja jaringan syaraf backpropagation yang telah dikembangkan tersebut digunakan variable epoch atau iterasi dan fungsi timer pada aplikasi yang dibangun. Berdasarkan hasil hasil pengujian pelatihan dan identifikasi tersebut nantinya dapat ditarik kesimpulan, apakah pengembangan metode
backpropagation menggunakan algoritma adaptive learning rate dan parallel training
yang dilakukan penulis mampu meningkatkan efisiensi waktu dan iterasi yang lebih baik dibandingkan metode backpropagation biasa dalam melakukan pelatihan data. Pada gambar 4.1 akan terlihat tampilan output program yang penulis bangun tersebut.
Gambar 4.1. Tampilan Output Aplikasi Pengenalan Karakter Menggunakan Metode Jaringan Syaraf Backpropagation
Untuk menggunakan aplikasi yang dibangun, pertama sekali yang harus dilakukan adalah melakukan input data pelatihan berupa karakter yang akan dilatih. Proses input data pelatihan dilakukan dengan menyiapkan citra digital karakter yang akan dilatih, kemudian membuka tampilan data karakter pelatihan dengan mengklik tombol “Data Karakter Pelatihan” pada tampilan utama aplikasi. Setelah tampilan data karakter telah muncul, klik tombol “Tambah Data Karakter” seperti yang terlihat pada gambar 4.2. pada tampilan input data karakter klik tombol “Open Char Image” untuk membuka citra karakter yang akan dimasukkan, secara otomatis fitur dari karakter akan diproses sesaat setelah citra karakter dibuka. Berikutnya adalah mengisi nama karakter dan target output dari karakter tersebut pada saat pelatihan. Gambar 4.3 memperlihatkan ilustrasi input data pelatihan.
Gambar 4.2 Tampilan Data Karakter
Setelah data – data karakter telah di-input proses pelatihan jaringan backpropagation
dapat dimulai dengan membuka tampilan pelatihan dengan meng-klik tombol “Pelatihan Backpropagation” pada tampilan utama. Gambar 4.3 memperlihatkan tampilan pelatihan setelah tampilan dibuka. Pada tampilan pelatihan terdapat dua indicator yang memperlihat atribut dua pelatihan yang berbeda yaitu pelatihan backpropagation normal dan backpropagation yang telah dikembangkan. Parameter pelatihan seperti maksimum iterasi, init alpha dan minimum error dipilih terlebih dahulu sebelum pelatihan dimulai. Proses pelatihan dapat dimulai dengan mengklik tombol “Proses”. Contoh proses pelatihan dapat dilihat pada gambar 4.4 berikut.
4.1. Data dan Konfigurasi Pengujian
Data karakter yang diuji pada penelitian ini seperti dijelaskan pada bab-bab sebelumnya bersumber dari citra karakter yang dibuat menggunakan software bantu (Adobe Photoshop) dengan ukuran 10 x 10 piksel. Pada tabel 4.1 berikut dapat dilihat atribut dari citra karakter yang digunakan.
Citra ke Image Fitur Target
1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 1 1 1 1 1 0 0 0 1 1 1 1 0 0 0 1 0 1 1 1 1 0 1 1 1 1 0 1 1 1 1 1 0 0 0 1 0 1 1 1 1 1 1 1 1 0 0 0 1 1 1 1 1 1 1 1 1 1 0 0 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 0 0 1 2 1 1 1 1 1 1 1 1 1 1 0 0 0 0 0 0 0 0 0 1 0 1 1 1 0 1 1 1 0 1 0 1 1 1 0 1 1 1 0 1 0 1 1 1 0 1 1 1 0 1 0 1 1 1 0 1 1 1 0 1 1 0 0 0 0 0 0 0 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 0 1 0 3 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 0 0 1 1 1 1 0 1 1 1 1 1 0 1 1 0 1 1 1 1 1 1 1 0 1 0 1 1 1 1 1 1 1 0 1 0 1 1 1 1 1 1 1 0 1 1 0 1 1 1 1 1 0 1 1 1 1 0 1 1 1 0 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 0 1 1
Pada table 4.1 dapat dilihat atribut dari data karakter pelatihan yang akan digunakan pada proses pelatihan jaringan. Penjelasan atribut dari data karakter pelatihan dapat dijabarkan sebagai berikut.
a. Image, berkas dari citra karakter yang akan digunakan pada proses pelatihan, b. Fitur, nilai fitur diperoleh dari nilai piksel yang membentuk citra dari karakter
pelatihan dimana piksel berwarna putih direpresentasikan dengan nilai “1” dan piksel berwarna hitam dimana merupakan piksel penyusun karakter direpresentasikan dengan nilai “0”.
c. Target, target merupakan nilai acuan kepada jaringan selama pelatihan. Jaringan akan memproses input berupa fitur dari citra karakter yang kemudian memeriksa output jaringan dengan nilai target pada karakter yang bersangkutan, jika output dan target tidak sesuai, maka jaringan akan melakukan perambatan balik atau
backpropagation sebagai langkah pembelajaran.
Konfigurasi jaringan syaraf backpropagation yang digunakan menggunakan aturan sebagai berikut.
a. Input node : 100 unit b. Hidden node : 76 unit c. Output node : 6 unit
Input node merupakan jumlah node atau neuron input dimana sesuai konfigurasi diatas digunakan node input sebanyak 100 unit, jumlah node input disesuaikan dengan jumlah nilai fitur yang diperoleh dari data karakter pelatihan dimana citra yang digunakan berukuran 10 x 10 piksel, maka diperlukan unit input sebanyak 100 unit untuk dapat mengakomodasi jumlah nilai fitur yang diperoleh dari karakter pelatihan.
Hidden node merupakan jumlah neuron pada lapisan hidden, jumlah neuron pada lapisan hidden dipilih sebanyak 76 unit mengingat jumlah lapisan hidden diupayakan memiliki jumlah diantara jumlah node input dan jumlah node output.
Output node merupakan jumlah output yang mana pada penelitian ini dipilih sebanyak 6 unit. Pemilihan jumlah node output disesuaikan dengan jumlah jenis data dan
ukuran dari target yang ditentukan, mengingat total karakter yang akan dikenali berjumlah 62 maka target output memiliki rentang nilai dari “1” sampai “1 1 1 1 1 0” sehingga ditetapkan jumlah output node sebanyak 6 unit. Pada jaringan syaraf backpropagation yang telah dikembangkan unit parallel yang digunakan adalah sebanyak dua unit.
Laju error merupakan pergerakan nilai error pada tiap iterasi, nilai error pada tiap iterasi diperoleh dari persamaan berikut.
Keterangan :
OutputError(i) = Error pada node output ke-i
Output(i) = Nilai keluaran pada node output ke-i Target(i) = Nilai target untuk node output ke-i Error(k) = Error output jaringan pada iterasi ke-k 4.2. Hasil Pengujian
Seluruh data yang dijelaskan pada sub bab sebelumnya yang diuji dalam penelitian ini akan dijadikan bahan pelatihan untuk melatih jaringan syaraf backpropagation menggunakan aplikasi yang dibangun oleh penulis, dimana aplikasi tersebut dibangun berdasarkan flowchart yang telah disusun oleh penulis, sehingga kinerja iterasi dan error minimum yang dicapai dapat terlihat hasilnya. Ukuran kinerja dari jaringan syaraf backpropagation adalah jumlah iterasi dan error minimum yang dicapai, semakin sedikit nilai iterasi yang dibutuhkan untuk mencapai nilai error minimum tertentu maka semakin baik kinerja jaringan syaraf backpropagation tersebut. Pada sub bab berikut ini akan
terlihat kinerja dari jaringan syaraf backpropagation berdasarkan hasil pengujian yang dilakukan.
4.2.1 Hasil Pelatihan Pengujian Pertama
Pada sub bab ini dilakukan proses pelatihan pertama terhadap jaringan syaraf backpropagation menggunakan parameter pelatihan sebagai berikut.
a. Maksimum iterasi : 5000 iterasi b. Init alpha : 0.3
c. Minimum error : 0.001
Dengan menggunakan parameter pelatihan yang telah disebutkan, berikut hasil pelatihan jaringan syaraf backpropagation normal dan backpropagation yang telah dikembangkan oleh penulis.
No Jaringan BackPropagation Iterasi yang dilakukan Target Error Minimum Error yang dicapai Jaringan Mampu Belajar 1 Normal 4999 0,001 0,00293 Tidak 2 Pengembangan 1146 0,001 0,00099 Ya
Tabel 4.2. Hasil Pengujian Pelatihan Pertama
Adaptive learning rate dan normal learning rate pada 10 iterasi pertama yang diperoleh dari pengujian pertama dapat dilihat pada table 4.3 berikut.
Tabel 4.3. Nilai Alpha dari pengujian kedua 4.2.2 Hasil pelatihan pengujian kedua
Iterasi Alpha Advance Error Advance Alpha Normal Error Normal
1 0.3 0.760364106800193 0.3 1.01247815768422 2 0.1 0.88617412369476 0.3 0.973756206958582 3 0.395778910945667 0.86489219110393 0.3 1.02310546665621 4 0.874332698030168 0.950282131327561 0.3 1.04790460341847 5 0.1 0.808797281748842 0.3 1.08794670442527 6 0.570833410727858 0.768440639886003 0.3 1.1386736661752 7 0.692004128811728 0.803604896847534 0.3 1.17694526623464 8 0.206889048867628 0.761888760182582 0.3 1.20626559702579 9 0.225202743552941 0.731125524643334 0.3 1.22964490712759 10 0.582224517916326 0.750385833627629 0.3 1.24887981845758
Pada sub bab ini dilakukan proses pelatihan pengujian kedua terhadap jaringan syaraf backpropagation menggunakan parameter pelatihan sebagai berikut.
a. Maksimum iterasi : 5000 iterasi b. Init alpha : 0.6
c. Minimum error : 0.0001
Dengan menggunakan parameter pelatihan yang telah disebutkan, berikut hasil pelatihan jaringan syaraf backpropagation normal dan backpropagation yang telah dikembangkan oleh penulis.
Tabel 4.4. Hasil Pengujian Pelatihan Kedua
Adaptive learning rate dan normal learning rate pada 10 iterasi pertama yang diperoleh dari pengujian kedua dapat dilihat pada table 4.5 berikut.
Iterasi alpha1 error1 alpha2 error2
1 0.6 0.852622718765825 0.6 0.963296393741295 2 0.532487054789904 0.966394656403673 0.6 1.11982195074412 3 0.523040370125775 1.21903609534341 0.6 1.15106469779801 4 0.1 1.10288292518133 0.6 1.23711713202327 5 0.318150175884484 0.93032313467543 0.6 1.2749306386708 6 0.867032469789202 0.97106219901504 0.6 1.30069456207599 7 0.1 0.966562049512227 0.6 1.3200722587003 8 0.539078632873318 1.04505883272528 0.6 1.33545796008408 9 0.1 0.922067679486476 0.6 1.34811645333329 10 1 0.829347971181411 0.6 1.4052477920053
Tabel 4.5 Nilai Alpha dari pengujian kedua 4.3. Pembahasan No Jaringan BackPropagation Iterasi yang dilakukan Target Error Minimum Error yang dicapai Jaringan Mampu Belajar 1 Normal 4999 0,0001 0,00838 Tidak 2 Pengembangan 770 0,0001 0,00099 Ya
Berdasarkan hasil pengujian diatas dapat dilihat bahwa proses iterasi pada backpropagation hasil pengembangan lebih lambat dari backpropagation normal, hal ini disebabkan oleh meningkatnya kompleksitas proses pada backpropagation hasil pengembangan dibandingkan dengan backpropagation normal, kompleksitas proses tersebut terlihat sedikit membebani system komputer yang digunakan. Dibalik proses iterasinya yang lambat backpropagation hasil pengembangan memberikan laju error yang lebih baik seperti yang terlihat pada gambar 4.7 dan 4.8 berikut.
Gambar 4.7 Perbandingan Laju Error Jaringan Backpropagation Normal dengan Backpropagation Pengembangan Pada Pelatihan Pengujian Pertama
Laju error merupakan laju dari nilai error yang dihasilkan oleh jaringan backpropagation pada setiap iterasi. Nilai error sendiri diperoleh dari akumulasi selisih nilai yang dihasilkan oleh node output jaringan dengan nilai target dari karakter yang telah ditetapkan. Seperti yang terlihat pada gambar 4.8, laju error pengujian pertama pada backpropagation hasil pengembangan (merah) memberikan laju error yang lebih baik, dimana nilai error lebih cepat menuju target dibandingkan dengan backpropagation normal (biru).
Gambar 4.8 Perbandingan Laju Error Jaringan Backpropagation Normal dengan Backpropagation Pengembangan Pada Pelatihan Pengujian Kedua
Pada gambar 4.8 dapat dilihat jaringan backpropagation pengembangan (merah) pada pengujian kedua juga memperlihatkan laju error yang lebih baik dari backpropagation normal (biru). Pada gambar 4.8 dan gambar 4.9 dapat dilihat juga backpropagation pengembangan membutuhkan iterasi yang lebih sedikit untuk mencapai target error minimum dibandingkan dengan backpropagation normal.
4.3.1. Pembahasan hasil pengujian pertama
Berdasarkan gambar 4.8 terlihat bahwasanya untuk pengujian pertama, iterasi yang dibutuhkan pengembangan backpropagation yang dilakukan penulis dalam proses pelatihan data karakter lebih efisien dibandingkan dengan backpropagation sebelumnya. Baik pengembangan backpropagation yang dilakukan penulis maupun backpropagation sebelumnya sama – sama mampu mencapai error minimum yang ditentukan dan hanya membutuhkan iterasi yang sedikit. Pengembangan backpropagation yang dilakukan penulis mampu mencapai error minimum yang ditentukan dengan iterasi yang lebih sedikit dibandingkan dengan backpropagation sebelumnya, sehingga dalam pengujian pertama ini dapat dikatakan pengembangan backpropagation yang dilakukan oleh penulis lebih unggul dibandingkan backpropagation sebelumnya.
4.3.2. Pembahasan hasil pengujian untuk kedua
Berdasarkan grafik pada gambar 4.8 terlihat bahwasanya untuk pengujian dengan menggunakan parameter init alpha yang berbeda dari pengujian sebelumnya, baik pengembangan propagation yang dilakukan oleh penulis maupun propagation sebelumnya sama – sama tidak mampu mencapai nilai error minimum yang ditentukan. Ketidak mampuan jaringan backpropagation mencapai nilai error minimum yang ditentukan bisa disebabkan oleh banyak hal seperti tingkat pembelajaran, iterasi yang diberikan tidak mencukupi, pembangkitan acak nilai bobot dan lain sebagainya. Namun pengembangan backpropagation yang dilakukan oleh penulis mampu mencapai nilai global minima lebih cepat dibandingkan dengan backpropagation sebelumnya.
Berdasarkan kedua pembahasan diatas, dapat disimpulkan bahwasanya iterasi yang dibutuhkan pengembangan backpropagation yang dilakukan penulis lebih efisien dibandingkan dengan backpropagation sebelumnya, faktor seperti jumlah data pelatihan dan tingkat perbedaan anta tiap data pelatihan menjadi penentu kecepatan jaringan dalam mencapai global minima.
BAB V
KESIMPULAN DAN SARAN
5.1. Kesimpulan
Kesimpulan yang dapat diambil dari penelitian ini adalah sebagai berikut :
1. Pengembangan backpropagation yang dilakukan penulis dalam penelitian ini bertujuan untuk meningkatkan efisiensi kompleksitas iterasi pada proses pelatihan backpropagation, yakni dengan cara menerapkan adaptive learning rate dan parallel training pada proses pelatihan.
2. Dalam kasus rata-rata dan kasus terburuk, pengembangan backpropagation yang dilakukan penulis membutuhkan jumlah iterasi lebih efisien dalam mencapai error minimum dibandingkanbackpropagation sebelumnya dalam proses pelatihan.
5.2. Saran
Penelitian ini dapat dikembangkan lagi sehingga jaringan syaraf backpropagation memiliki kinerja yang lebih baik dengan efisiensi iterasi dan pencapaian error minmum yang lebih optimal dibandingkan dengan yang dicapai pada penelitian ini.