PELATIHAN JARINGAN SYARAF TIRUAN MULTI LAYER
PERCEPTRON MENGGUNAKAN
GENETIC ALGORITHM LEVENBERG MARQUARDT
SKRIPSI
Diajukan untuk memenuhi sebagian persyaratan mendapatkan gelar Strata Satu
Jurusan Informatika
Disusun Oleh:
ANISA ATILIANI
NIM. M0508005
JURUSAN INFORMATIKA
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN
ALAM UNIVERSITAS SEBELAS MARET
SURAKARTA
Februari, 2013
PELATIHAN JARINGAN SYARAF
TIRUAN MULTI LAYER
PERCEPTRON MENGGUNAKAN
GENETIC ALGORITHM LEVENBERG MARQUARDT
SKRIPSI
Diajukan untuk memenuhi sebagian persyaratan mendapatkan gelar Strata Satu
Jurusan Informatika
Disusun Oleh:
ANISA ATILIANI
NIM. M0508005
JURUSAN INFORMATIKA
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN
ALAM UNIVERSITAS SEBELAS MARET
ii
SKRIPSI
PELATIHAN JARINGAN SYARAF TIRUAN MULTI LAYER
PERCEPTRON MENGGUNAKAN
GENETIC ALGORITHM LEVENBERG MARQUARDT
Disusu n Oleh:
ANISA ATILIANI
NIM. M0508005
Skripsi ini telah disetujui untuk dipertahankan di hadapan Dewan Penguji
pada tanggal: 11 Februari 2013
SKRIPSI
PELATIHAN JARINGAN SYARAF TIRUAN MULTI LAYER
PERCEPTRON MENGGUNAKAN
GENETIC ALGORITHM LEVENBERG MARQUARDT
HALAMAN PENGESAHAN
Disusun o leh : ANISA ATILIANI
M0508005
Telah dipertahankan di hadapan Dewan Penguji Pad a tanggal : 11 Febru ari 2013
iv
MOTTO
“Karena sesungguhn ya sesudah kesulitan itu ada kemudahan, sesungguhn ya
sesudah kesu litan itu ada kemudahan, Maka apabila ka mu telah selesai (dari
sesuatu u rusan ), kerjakan lah dengan sungguh-sungguh (urusan) yang lain”
(Q.S Alam Nasyrah : 5 -7)
Apa sulitnya bagi yang Maha Mulia
dengan keikhlasan doa
Dia akan melimpahkan keridhaan dan kasih sayang-Nya
(Muhammad Zakariya Al Kandahlawi)
"Sesungguhnya keba ikan itu men yebab kan caha ya di dala m ha ti, sinar di wajah,
keku atan pada tubuh, bertambahnya rezeki dan kecintaan di dalam hati orang
lain.
Sementara keburukan men yebab kan hitam (sura m) di wajah, keg elapan di hati,
kelemahan pada tubuh, berkurangnya rezeki dan kebencian d i hati orang lain."
(Ibnu Abbas RA)
PERSEMBAHAN
Kupersembahkan karya ini kepada :
Ibu, Bapak, serta adik tercinta Isna
Semua teman Informatika UNS khususnya angkatan 2008
Teman dekatku Diah, Upi, Ery
PELATIHAN JARINGAN SYARAF TIRUAN MULTI LAYER PERCEPTRON
vi
ANISAATILIANI
Jurusan Informatika. Fakultas MIPA. Universitas Seb elas Maret.
ABSTRAK
Optimasi proses pelatihan jaringan syaraf tiruan (JST) multilayer perceptron (MLP) dap at d ilakukan dengan b eberapa cara, salah satunya adalah dengan menggunakan Genetic Algo rith m (GA). Penelitian ini membahas mengenai kinerja GA yang diinjeksikan terhad ap algoritma p elatihan JST
Levenberg Marqua rdt (LM) yang kemudian disebut dengan Genetic Algoritm Levenberg Marquardt (GALM) terhadap kinerja algoritma LM untuk kasu s prediksi kekuatan tekan beton mutu tinggi.
Proses p elatihan JST MLP GALM dilaku kan dengan menggunakan GA seb agai optimasi b obot awal sebelum dilakukan pelatihan jaringan dengan LM . Pelatihan kedu a dengan menggunakan algoritma LM saja. Proses pelatihan dilakukan sampai nilai Mean Square Error (MSE) mencapai konvergen.
Algoritma GALM mampu memperbaiki proses training dengan menghilangkan kegaga lan proses training p ada arsitektur dengan 16 dan 24
hidden n eu ron. Pengukuran kinerja pelatihan algoritma GALM dan LM menunjukkan b ahwa arsitektur 8 -5-1 merup akan arsitektur terbaik untuk kedua algoritma. Hasil pengujian terhad ap arsite ktur 8-5-1 menggunaka n kedua algoritma mendap atkan nilai MAPE rata-rata 9.73% untuk LM dan 1 0.99 % untuk GALM.
Kata Kunci: Pelatihan Jaringan Syaraf Tiruan, Algoritma Genetika, Levenberg Marqu ardt, Prediksi Kuat Tekan Beton
MULTILAYER PERCEPTRON ARTIFICIAL NEURAL NETWORK TRAINING
USING GENETIC ALGORITHM LEVENBERG MARQUARDT
ANISA ATILIANI
Department o f Informatics. M athematic and Natural Science Faculty. Seb elas Maret University
ABSTRACT
Multilayer percep tron artificial neural network (M LP ANN) training process op timization can be done by several wa ys, one of them is using Genetic Algorithm. This study discusses the performance o f the GA that is injected to the Levenberg M arquard t (LM ) ANN training algorithm, which is then called the Genetic Algoritm Levenberg Marqu ardt (GALM) on the performance of the LM algorithm, for concrete compressive strength prediction.
GALM M LP ANN training process is done b y using GA as the optimization of initial weight b efore this weight is u sed to train the network with LM. The second training pro cess is using the LM algorithm. The training process carried ou t until the value of M ean Square Error (MSE) achieved convergent.
GALM algorithm can improve the LM training process by eliminating the training process failure o n architectures with 16 and 24 hidd en neurons. Measu ring the performance of GALM and LM training algo rithm showed that the architectu re 8 -5-1 is the best compared to the other architectures. This research sho wed that 8-5-1 architecture with GALM training metho d have a good prediction where MAPE 10.99%, in the other hand LM training method sho ws 9.37% of MAPE.
Keywords: Artificial Neural Network Training, Genetic Algorithm, Levenberg Marqu ardt, Concrete Compressive Strength Prediction
viii
Bismillahirrahmaanirrahiim
Puji syu kur penulis panjatkan kehadirat Allah Subhanahu Wa Ta’ala yang senantiasa memberikan nikmat dan karunia-Nya sehingga penulis dap at menyelesaikan skripsi d engan judul Pelatihan Jaringan Syaraf Tiruan Multi Layer Perceptron Menggunakan Genetic Algo rithm Levenberg Marquardt, yang menjadi salah satu syarat wajib untuk memperoleh gelar Sarjana Informatika d i Universitas Seb elas Maret (UNS) Surakarta.
Penulis menyad ari akan keterbatasan yang dimiliki, begitu banya k bimbingan, bantu an, serta motivasi yang diberikan d alam p roses penyusu nan skripsi ini. Oleh karena itu, ucapan terima kasih penu lis sampaikan kepada :
1. Bap ak Wiharto, S.T., M .Kom. selaku Dosen Pembimbing I yang pe nuh kesab aran membimbing, mengarahkan, dan memb eri motivasi kepada penulis selama proses penyusu nan skripsi ini,
2. Ristu Sapto no, S.Si., M.T. selaku Dosen Pembimb ing II yang penuh kesab aran membimbing, mengarahkan, dan memberi motivasi kep ada penulis selama proses penyusu nan skripsi ini,
3. Ibu Umi Salamah,S.Si.,M.Kom. selaku Ketua Jurusan S1 Informatika, 4. Ibu Umi Salamah,S.S i.,M.Kom. selaku Pemb imbing Akademik yang tela h
banyak memberi b imbingan dan pengarahan selama penulis menempuh studi di Jurusan Informatika F MIPA UNS,
5. Bap ak dan Ibu dosen serta karyawan di Jurusan Informatika FMIPA UNS yang telah mengajar p enu lis selama masa studi dan membantu dalam proses penyusu nan skrip si ini,
6. Ibu, Bapak, dan adikku, serta teman-teman yang telah memberikan bantuan sehingga p enyu sunan skripsi ini dapat terselesaikan.
HALAM AN PENGESAHAN ... iii
MOTTO... iv
PERSEM BAHAN ... v
ABSTRAK ... vi
ABSTRACT ... ... ... vii
KATA PENGANTAR ... vii
DAFTAR ISI ... viii
DAFTAR GAM BAR ... x
DAFTAR TABEL ... ... xi
DAFTAR LAMPIRAN ... xii
BAB 1 PENDAHULUAN ... 1
1. 1. Latar Belaka ng ... 1
1. 2. Ru musan M asalah ... 3
1. 3. Batasan Masalah ... 3
1. 4. Tu juan Penelitian ... ... 3
1. 5. M anfaat Penelitian ... 3
1. 6. Sistematika Penulisan ... 4
BAB 2 TINJAUAN PUSTAKA ... 5
2. 1. Dasar Teori ... ... 5
2. 1. 1 Jaringan Syaraf Tiruan... 5
2. 1. 2 Algoritma Genetika ... 10
2. 1. 3 Beton ... 15
2. 2. Penelitian Terkait ... ... 16
2. 3. Rencana Penelitian ... 20
BAB 3 METODOLOGI PENELITIAN ... 21
3. 1. Pengu mpulan Data ... 21
x
3. 1. 2 Dataset ... ... 21
3. 2. Analisa dan P erancangan ... 22
3. 2. 1 Proses Normalisasi ... ... ... 22
3. 2. 2 Arsite ktur Jaringan S yaraf Tiruan ... 22
3. 2. 3 Pre Compu ting dengan GA ... 22
3. 2. 4 Pelatihan dengan Algoritma LM ... 25
3. 2. 5 Skenario Proses Pelatihan ... 28
3. 3. Implementasi ... 28
3. 4. Analisa Hasil Pelatihan dan P engujian ... 29
BAB 4 PEMBAHASAN ... ... ... 31
4. 1. Hasil Pelatihan Awal GALM d an LM ... 31
4. 1. 1 Pelatihan Tiga Hid den Neuron ... 31
4. 1. 2 Pelatihan Lima Hid den Neu ron ... ... 32
4. 1. 3 Pelatihan Enam Hidden Neuron ... 32
4. 1. 4 Pelatihan Enam Belas Hidden Neu ron ... 33
4. 1. 5 Pelatihan Tu juh Belas Hidden Neuro n ... 33
4. 1. 6 Pelatihan Du a Puluh Empat Hidden Neuron ... 34
4. 2. Analisa Hasil P elatihan Awal GALM dan LM ... 35
4. 3. Analisa Hasil P elatihan Lanjut ... 35
4. 4. Hasil Pengu jian Arsitektur 8 -5-1 ... 39
Gambar 2. 1 Pembentukan Kromoso m GA berisi Bobo t dan Bias JST ... 11
Gambar 2.2 Proses Seleksi Ro da Roulette ... 12
Gambar 2.3 Kemungkinan Anak Crossover Menengah ... ... 14
Gambar 2.4 Proses Otomatisasi GA - JST ... 19
Gambar 3.1 Arsitektu r JST ... 23
Gambar 3.2 Pengkodean Kromo som ... .. 23
Gambar 3.3 Proses Pre Compu ting dengan GA ... 24
Gambar 3. 4 Proses Pelatiha n GALM ... 27
Gambar 3.5 Proses Pelatihan LM ... 29
Gambar 4.1 Hasil Pelatihan 3 Hidden Neuron ... ... 31
Gambar 4.2 Hasil Pelatihan 5 Hidden Neuron ... ... 32
Gambar 4.3 Hasil Pelatihan 6 Hidden Neuron ... ... 32
Gambar 4.4 Hasil Pelatihan 16 Hidden Neuron ... 33
Gambar 4.5 Hasil Pelatihan 17 Hidden Neuron ... 34
Gambar 4.6 Hasil Pelatihan 10 Hidden Neuron ... 34
Gambar 4.8 Perbandingan Runtime GALM dan LM Pelatihan Lanju t ... 37
Gambar 4.9 Grafik Perb andingan Rata-rata Runtime Keselu ruhan GALM dan LM Pelatihan Lanjut ... 38
Gambar 4.1 0 Kesesuaian Target Data Testing dan Hasil Peramalan (Output) GALM d engan MAPE 6.43% ... 41
Gambar 4.11 Kesesuaian Target Data Testing dan Hasil Peramalan (Output) LM dengan MAPE 6.31% ... 41
xii
Tabel 3.1 Parameter Dataset Beton Mutu Tinggi ... 21
Tabel 3.2 Rumus Emp iris Penentuan Hidden Neuron (Fahmi, 2011) ... 22
Tabel 4.1 Perbandingan Nilai MSE Pelatihan Awal... 35
Tabel 4.2 Perbandingan Iterasi GALM dan LM Pelatihan Lanjut ... 35
Tabel 4. 3 Perbandingan Runtime GALM dan LM Pelatihan Lanjut ... 36
Tabel 4.4 Runtime GA pada Proses GALM ... 37
Tabel 4.5 Prosentase Kegagalan Proses Pelatihan ... 38
Tabel 4.6 Nilai MAPE Hasil Pengujian Arsitektu r 8-5-1 ... 40
DAFTAR LAMPIRAN
BAB 1 satu nya adalah optimasi proses pelatihan jaringan syaraf tiruan (Ahmed , 2009).
Jaringan s yaraf tiruan (JST) dikemb angkan berdasarkan proses pembelajaran otak manu sia, disebut tiruan karena jaringan syara f ini diimplementasikan dengan program komputer yang mampu menyelesaikan seju mlah proses p erhitu ngan selama pemb elajaran. Ada beberap a teknik pembelajaran JST, salah satu yang paling sering digu nakan adalah backp ropagation (BP). Inti dari BP adalah melakukan perhitu ngan maju u ntuk mengetahui output dan kinerja jaringan, perhitungan mundur untuk mengetahui erro r jaringan yang kemudian digunakan sebagai perubahan bobo t. Seiring d engan kebutuhan mendap atkan proses pembelajaran yang leb ih cepat, maka dikembangkan beberapa algoritma pembelajaran baru dengan prinsip BP,diantaranya: grad ient descent, resillent backpropagation, qu asi newton, dan Levenberg Marquardt (LM) (Ku sumadewi, 2004).
Beberapa penelitian dilakukan untu k memperb aiki kinerja jaringan s yaraf tiruan, seperti mengguna kan GA u ntuk o ptimasi p elatihan. Moghadassi, et al., melakukan penelitian menggabungkan GA dengan LM, kemudian d ilaku kan perbandingan dengan metode BP lain. Hasil penelitian menunju kkan bahwa GALM memberikan hasil yang lebih baik untuk kasus pencampuran gas CH4+CF4 (Moghadassi, 2011).
Ahmed, et al., melakukan p enelitian serupa dengan menggunakan tiga dataset berb eda. Penelitia n ini menekankan oto matisasi proses optimalisasi jaringan syaraf tiruan dengan menggunakan algoritma genetika, sehingga meminimalisasi peran manusia d alam mengoperasikannya. Hasil penelitian juga menunjukkan bahwa algoritma GALM memb erikan hasil yang leb ih baik dilihat dari korelasi o utput dan target yang tinggi (Ahmed, 2009).
Penerapan GA dalam proses pelatihan jaringan syaraf tiruan selalu memberikan hasil yang lebih baik d ibanding dengan menggunakan algoritma pelatihan JST lain. Namun proses p elatihan tidak memperhatikan tambahan waktu yang d igunakan untuk menjalankan algoritma genetika.
Seyed Hakim, et al., melakukan penelitian terhadap prediksi kekuatan tekan beto n mutu tinggi dengan menggunakan jaringan s yaraf tiruan BP. Penelitian ini berfokus pada p engujia n arsitektur yang d igunakan (Se yed Hakim, 2011).
Penelitian ini menerapkan GA d an algo ritma pemb elajaran JST LM u ntuk kasus prediksi kekuatan beton mutu tinggi usia 3, 14, 28, 56, d an 100 hari. GA digunakan untuk op timalisasi bobot JST pada proses preco mputing sebelum bobot tersebut digunakan untuk p elatihan JST d engan menggu nakan algoritma LM. Algoritma ini selanjutnya disebut dengan GALM . Algoritma LM dip ilih karena pembelajaran yang singkat dengan hasil ya ng leb ih baik dibandingkan algoritma BP yang lainnya (Mo ghadassil, 2011). Hasil pelatiha n dari GALM kemudian dib andingkan dengan hasil p elatihan M LP LM dengan melihat jumlah iterasi dan runtime yang dibutukan proses pelatihan u ntuk konvergen.
Prediksi keku atan beton mutu tinggi dilakukan dengan menggunaka n arsitektur dan metod e yang memiliki kinerja terbaik p ada proses pelatihan. Analisa kinerja hasil prediksi berdasarkan nilai mean abso lu t percentage erro r
1. 2. Rumusan Masalah
Ru musan masalah dari latar belakang masalah yang telah diu raikan d i atas ad alah apakah penerap an algoritma genetika memberikan perbaikan terhadap proses pelatihan multi layer perceptro n dengan kasus p rediksi kekuatan tekan beton mutu tinggi.
1. 3. Batasan Masalah
Batasan masalah dari penelitian ini ad alah sebagai beriku t:
1. Dataset yang digunakan adalah Con crete Co mpressive Strenght bersumber dari UCI Machine Learning Repository(Califo rnia)
2. Operato r Gen etic Algo rithm yang digunakan adalah proses minimasi, skem a pengkodean bilangan real, fungsi fitness = mse, jumlah populasi = 50, jumlah generasi = 20, seleksi roda roulette dengan peluang = 0.6 , reko mbinasi menengah dengan nilai d = 0.25, mutasi rand om dengan p eluang = 0.05, pelestarian kromosom (elitism) = 3 kromo som, dan penggantian popu lasi dengan teknik generational replacemen t.
3. Proses pelatihan jaringan syaraf tiru an menggunakan algoritma Levenberg M arquardt dengan inisialisai parameter LM ( ) = 0.1 dan fakto r = 10. Pengu kuran kinerja dengan menggunakan MSE.
1. 4. Tujuan Penelitian
Tu juan dari penelitian ini adalah untuk mengetahui bahwa penerapan algoritma genetika memberikan perbaikan pada proses training multi layer percep tron untu k kasus p rediksi keku atan tekan beton mu tu tinggi .
1. 5. Manfaat Penelitian
Penelitian ini diharapkan dapat menghasilkan su atu metode tra ining multilayer perceptron dengan memanfaatkan algoritma genetika untuk kasus prediksi kekuatan tekan beton.
1. 6. Sistematika Penulisan
BAB 1 PENDAHULUAN
Pendahulu an berisi mengenai latar masalah, rumusan masalah, pemb atasan masalah, tujuan, manfaat, dan sistematika penulisan.
BAB 2 TINJAUAN PUSTAKA
Tinjauan pustakan berisi mengenai p enelitian terdahulu dan rencana penelitian yang akan dilakukan o leh Penulis. Selain itu juga berisi teori jaringan syaraf tiruan dengan algoritma Levenberg-M arquardt dan algoritma genetika. BAB 3 METODOLOGI PENELITIAN
M etodo logi berisi mengenai metodologi atau langkah-langkah dalam pemecahan masalah, meliputi penyusuan formula setta algoritma yang digu nakan dalam penelitian.
BAB 4 HASIL DAN PEMBAHASAN
Hasil dan pembahasan berisi tentang eksperimen pengu jian dari formu la dan algoritma yang telah diimplementa sikan dan diterapkan dengan menggu nakan sample data yang ad a dan kemu dian dilakukan analisa terhadap hasil dari eksperimen yang telah dilakukan.
BAB 5 PENUTUP
5
BAB 2
TINJAUAN PUSTAKA
2. 1. Dasar Teori
2. 1. 1 Jaringan Syaraf Tiruan
Jaringan s yaraf tiruan (JST) dikemb angkan berdasarkan proses pembelajaran otak manu sia, disebut tiruan karena jaringan syaraf ini diimplementasikan dengan program komputer yang mampu menyelesaikan seju mlah proses p erhitu ngan selama pemb elajaran. Ada beberapa teknik pembelajaran JST, salah satu yang paling sering digu nakan adalah
backp ropaga tion (BP). Inti dari BP ad alah melaku kan p erhitu ngan maju untu k mengetahui output dan kinerja jaringan, selanjutn ya dilakukan perhitungan mu ndur untuk mengetahui error jaringan yang kemudian digunakan seb agai perubahan bobot. Seiring dengan kebutuhan mendapatkan pro ses pembelajaran yang lebih cep at, maka dikembangkan beb erapa algoritma pembelajaran baru dengan prinsip BP,diantaran ya: gradient descent, resillent backpropagation, quasi newton, dan Levenb erg Marquardt (Kusumadewi, 2004 ).
2. 1. 1. 1 Proses Normalisasi Data
2. 1. 1. 2 Fungsi Aktivasi
Fungsi sigmo id biner mem iliki nilai pada range 0 sampai 1. Oleh karena itu fu ngsi ini sering d igunakan u ntuk JST yang membutuhkan nilai output pada interval 0 sampai 1. Fu ngsi sigmoid biner dirumuskan sebagai(Kusumadewi, 2004):
= ( ) = (2.2)
dengan ( ) = ( )[1 ( )] (2.3)
2. 1. 1. 3 Algoritma Levenberg Marquardt
Algoritma Levenberg-M arquardt dirancang dengan me nggunakan pendekatan turunan kedua tanpa haru s menghitung matrik Hessian. Apabila jaringan syaraf tiruan feed forward menggunakan fu ngsi kinerja sum of square, maka matrik Hessian dapat didekati sebagai:
= (2.4)
Dengan grad ien dapat dihitung sebagai:
= (2.5)
Dengan j adalah matrik Jacobian yang berisi turu nan p ertama dari error jaringan terhadap bobot, dan e ad alah suatu vekto r yang berisi error jaringan. Matrik Jacobian dap at dihitung dengan teknik backpropagation standar, yang tentu saja lebih sederhana d ibanding dengan menghitung matrik Hessian.
Algoritma Levenberg-M arquardt menggunakan pend ekatan u ntuk menghitung matrik Hessian, melalu i p erbaikan metode Newton:
= [ + ] (2.6)
Algoritma LM merupakan salah satu jenis d ari algoritma pelatihan JST BP dengan dua jenis perhitungan, yakni perhitungan maju d an perhitungan mundur. Secara singkat perhitungan LM dapat dijelaskan sebagai berikut:
1. Inisialisasi bobot dan b ias dengan bilangan acak, epoch maksimu m, dan target minimal (target biasan ya dihitung dengan menggunakan mean square error/ M SE).
2. Menentukan parameter yang dibutuhkan, antara lain:
- Inisialisasi ep och = 0
- Parameter LM ( ) yang nilainya harus leb ih besar dari nol
- Parameter
dikalikan atau dib agi dengan parameter LM. Penjelasan ad a pada
step beriku tnya
3. Tiap -tiap unit input (xi, i = 1, 2, 3, ..., n) menerima sinyal input dan meneruskan sinyal tersebut ke semu a unit pada lapisan tersembunyi Tiap -tiap unit lapisan tersembunyi (zj, j = 1, 2, 3, ... p) menju mlahkan sin yal-sinyal input berbobot
_ = +
(2.7)
Gunakan fungsi aktivasi untu k menghitung sinyal output
= ( _ ) (2.8)
Kemudian kirimkan sinyal tersebut ke semua u nit di lapisan atasnya. 4. Tiap-tiap unit lapisan output (Yk, k = 1, 2, 3, ... , m) menju mlahkan
sinyal-sinyal input berbobot
_ = +
(2.9)
Gunakan fungsi aktivasi untuk menghitu ng sin yal output
= ( _ ) (2.10)
Kemudian kirimkan sinyal tersebut ke semua u nit di lapisan atasnya. 5. Menghitung error, MSE dan total error jaringan
Rumus untuk error:
Rumus untuk menghitung total error:
= [ … ] (2.13)
8. Memb entu k matrik jacobian
= 1 … 1 1 … 1 2 … 2 2 … 2 (2.21)
9. Menghitung bobot baru
= ( + ) (2.22)
10. Menghitung MSE
Jika MSEbaru <= MSElama, maka
- = (2.23)
- Kembali ke langkah 3 Jika MSEbaru>M SElama, maka
- = (2.24)
- Kembali ke langkah 9
11. Proses pelatihan b erhenti jika epoch = epoch maksimal atau error = target error.
2. 1. 1. 4 Pengukuran Kinerja JST
Kinerja pelatihan JST diukur dengan menggunakan mean squa re error
rumus 2.12 , dimana sebelum pelatihan ditetapkan suatu targ et error yang haru s dicapai pada saat pelatihan. Pengukuran kinerja ju ga dapat dilakukan dengan melihat jumlah epoch yang diperlukan untuk mencapai error tertentu.
2. 1. 1. 5 Pengujian JST
Setela h p roses pelatihan dilakukan proses pengujian jaringan. Pada proses pengujian, tahap yang dilakukan hanya tahap maju saja, tidak ada tahap mundur sehingga tidak ada tahapan modifikasi bobo t.
Seluruh bobot input diambil d ari nilai bobo t terakhir yang diperoleh d ari proses pelatihan. Pad a tahap pengujian ini, jaringan diharapkan dapat mengenali pola berdasarkan data baru yang diberikan (generalisasi).
= × 100 (2.25)
Apabila nilai percentage error tersebut d iabsolutkan kemudian dirata-rata dari su atu kumpu lan data, maka disebut d engan mea n absolut percentageerror (MAPE) (Armstrong, 1992).
=1 | |
(2.26)
2. 1. 2 Algoritma Genetika
Algoritma genetika ad alah algoritma pencarian heuristik yang did asarka n atas mekanisme evolusi biologis. Ind ividu yang lebih ku at (fit) akan memiliki tingkat hidup dan reproduksi lebih tinggi dibandingkan dengan individu yang kurang fit. Pada kurun waktu tertentu (d isebut dengan istilah generasi), popu lasi secara keselu ruhan akan lebih ban yak memuat organisme yang fit.
Algoritma genetika pertama kali dikembangkan oleh Jo hn Ho lland d ari Universitas M ichigan (1975). Dia mengatakan bahwa setiap masalah yang berbentuk ad aptasi dapat diformulasikan dalam termino logi genetika. Algoritma genetika adalah simulasi dari pro ses evolusi Darwin d an op erasi genetika atas kro mo som.
Populasi generasi b aru dibentuk dengan cara menyeleksi nilai fitness dari kro mo som induk (parent) dan nilai fitness d ari kromo som anak (offsp ring), serta menolak kromosom-kromosom yang lainnya sehingga ukuran populasi (jumlah kro mo som d alam populasi) ko nstan. Setelah melalui beberapa generasi, maka algoritma ini akan konvergen ke kromoso m terb aik. (Kusumadewi, 2005)
2. 1. 2. 1 Skema Pengkodean
Skema pengkodean menggunakan tipe bilangan real. Proses GALM merepresentasikan bias dan b obot JST ke d alam b entu k kromosom GA (Moghad assi & al, 2011). Apabila terdapat su atu model JST seperti gambar 2.1 a), maka pembentukan kromosom sesu ai dengan gamb ar 2.1 b).
Gambar 2. 1 Pembentukan Kro mosom GA b erisi Bobot dan Bias JST
2. 1. 2. 2 Fungsi Evaluasi
Ada du a hal yang haru s dilaku kukan dalam melakukan evaluasi kro mo som, yaitu : evaluasi fu ngsi obyektif (fu ngsi tu juan) dan konversi fungsi obyektif ke dalam fungsi fitness. Secara umum, fungsi fitness ditu runkan dari fungsi o byektif d engan nilai yang tidak negatif. Apab ila ternyata fungsi obyektif memeiliki nilai negatif, maka perlu d itambahkan suatu ko nstanta C agar nilai fitness yang terbentuk menjadi tid ak negatif(Kusumadewi, 2005 ).
Fungsi evaluasi d alam GALM menggu nakan nilai M SE sebagai fungsi obyektif dan fungsi fitness d engan kasus minimasi (Moghadassi, 2011).
2. 1. 2. 3 Seleksi
Seleksi akan menentukan individu- individu mana saja yang dipilih untuk melakukan rekombinasi dan bagaimana offspring terbentuk dari individu -individu yang terpilih tersebut. Langka h pertama yang dilakukan dalam proses seleksi ini ad alah perhitungan fitness. M asing-masing ind ividu akan menerima probabilitas reproduksi yang tergantung pada nilai obyektif dirinya sendiri terhadap nilai obyektif dari semu a individu dalam wad ah tersebut. Nilai fitness inilah yang nantinya akan d igunakan p ada tahap-tahap seleksi beriku tnya. (Kusumadewi, 2005).
Gambar 2.2 Pro ses Seleksi Roda Roulette
M etode seleksi roda roulette merupakan metode seleksi yang paling sed erhana, d an sering dikenal d engan nama stochastic sampling with replacement.
Pada metode ini, individu - indovidu dipetakan dalam suatu segmen garis secara berurutan sedemikian hingga tiap-tiap segmen individu memiliki u kuran yang sama dengan fitnessnya. Sebuah bilangan rando m dibangkitkan d an individ u yang memiliki segmen d alam kawasan bilangan random tersebut akan terseleksi. Proses ini diu lang hingga d iperoleh sejumlah individu yang diharapkan.
terbesar. Individu ke-11 memiliki fitness terkecil = 0, interval terkecil sehingga tid ak memiliki kesempatan untuk melakukan reproduksi.
Setela h dilakukan seleksi maka individu yang terpilih adalah
1 2 3 5 6 9
2. 1. 2. 4 Rekombinasi
Reko mbinasi disebu t ju ga d engan istilah pindah silang adalah proses terjadinya pertukaran gen antar du a induk untuk menghasilkan individ u baru. (Kusumadewi, 2005)
Reko mbinasi menengah merupakan metode rekombinasi yang han ya dapat digunakan untuk variabel real (dan variab el yang b ukan biner). Nilai variabel anak dip ilih d i sekitar dan antara nilai-nilai variabel indu k.
Anak dihasilkan menurut aturan seb agai berikut:
Anak= ind uk1 + alpha (induk2 – induk 1) (2.27) Dengan alpha adalah faktor skala yang dipilih secara random pad a interval [-d, 1+d], biasanya d = 0.25. Tiap - tiap variabel pad a anak merupakan hasil kombinasi variabel-variabel menurut aturan d iatas dengan nilai alpha dipilih ulang untuk tiap variabel. Gambar menunjukkan area induk dan anak yang mungkin.
M isalkan ada dua individ u dengan 3 variabel yaitu:
M isalkan nilai alpha yang terp ilih adalah:
Setela h rekombinasi, kromosom-kromo som baru yang terb entuk:
Gambar 2.3 menunjukkan posisi yang mungkin dari anak setelah rekombinasi menengah.
Gambar 2.3 Kemungkinan Anak Crosso ver Menengah
2. 1. 2. 5 Mutasi
Setela h mengalami pro ses rekombinasi p ada offsp ring dapat d ilakukan mu tasi. Variabel offspring dimu tasi dengan menambahkan nilai random yang sangat kecil (ukuran langkah mutasi), dengan prob abilitas yang rendah. Pelu ang mu tasi (pm) did efinisikan sebagai p ersentasi d ari jumlah total gen pada popu lasi yang mengalami mutasi. Peluang mutasi mengendalikan banyak gen baru yang akan dimunculkan untuk dievalu asi. Jika peluang mutasi kecil, banyak gen yang mu ngkin b erguan tidak pernah dievaluasi. Tetapi jika pelu ang mu tasi terlalu besar, maka akan terlalu banyak gangguan acak, sehingga anak akan kehilangan kemiripan d engan induknya, dan juga algo ritma akan kehilangan kemamp uan untuk belajar dari histori pencarian. Ada yang berp endapat bahwa pelu ang mutasi seb esai 1/n akan memberikan hasil yang cu kup baik. Ad a juga yang beranggapan bahwa laju mutasi tidak tergantung ukuran p opulasi. Kromosom hasil mutasi harus diperiksa, apakah hasil m asih berada p ada domain solu si dan bila p erlu bisa dilakukan perbaikan.
Mutasi berperan untuk menggantikan gen yang hilang dari popu lasi akib at proses seleksi yang memungkinkan munculnya kembali gen yang tidak muncul pada inisialisasi populasi. (Kusumadewi, Penyelesaian 2005).
akan dimutasi, d an ci’ adalah kromoso m hasil mutasi, maka ci’ merupakan bilangan random yang dibangkitkan dari domain [ , ] (Herrera, 1998).
2. 1. 2. 6 Pelestarian Kromosom
Konsep elitisme muncul untuk mengatasi kelemahan proses seleksi yang dilakukan secara random dimana tidak ada jaminan bahwa ind ivid u yang mempu nyai nilai fitness tinggi akan selalu terpilih. Kalaupun individu tersebut terpilih, maka d imungkinkan individ u tersebuta akan rusak (nilai fitnessnya menurun) dikarena kan pro ses p ind ah silang. Elitisme adalah suatu pro sedur untu k membu at salina n dari individ u yang memiliki nilai fitness tinggi, sehingga tidak hilang selama p roses evolusi (Su yanto, 2005).
2. 1. 2. 7 Penggantian Populasi
Generational replacement adalah proses penggantian semu a individu (misal ada N individu dalam populasi) dari suatu generasi akan digantikan sekaligu s oleh N individu baru dari hasil pindah silang dan mutasi. Skema penggantian ini tidak realistis dari sudut pandang biologi. Secara umum skema penggantian populasi dap at diru muskan b erdasarkan ukuran yang disebut d engan
generational gap G. Ukuran ini menunjukkan persentase populasi yang digantika n dalam setiap generasi. Pada skema ini G=1(Su yanto, 2005 ).
2. 1. 3 Beton
Beton merupakan campuran antara semen portland atau semen hidraulik yang lain, agregat halus, agregat kasar dan air, dengan atau tanpa bahan tambahan yang membentuk masa p adat (Anonim, 2002).
2. 1. 3. 1 Komponen Beton Mutu Tinggi
Ada 7 komponen u tama penyu sun beto n mutu tinggi, yakni: 1. Semen
2. Air
3. Agregat kasar: kerikil sebagai hasil disintegrasi 'alami' dari batuan atau berupa batu pecah yang d iperoleh dari industri pemecah batu dan mempu nyai ukuran bu tir antara 5 mm sampai 40 mm (Anonim, 2002) 4. Agregat halus: pasir alam sebagai hasil d isintegrasi 'alami' batu an atau
pasir yang dihasilkan oleh industri pemecah batu d an mempunya i ukuran butir terbesar 5 mm (Anonim, 2002 )
5. Sup erplasticizer: b ahan tambahan yang sering digunakan dalam pembuatan beton mu tu tinggi. Sup erplasticizer menghasilkan b eton yang memiliki ku at tekan tinggi dengan campuran air dan semen yang rendah (Seyed Hakim, 2011 )
6. Blast Fu rnace Slag
7. Abu terbang: bahan tambahan yang digunakan dalam pembuatan b eto n mu tu tinggi, biasa digunakan bersamaan dengan sup erplasticizer. Tanpa bahan tamb ahan, maka akan sulit untuk menghasilkan b eton mutu tinggi.
2. 1. 3. 2 Kuat Tekan Beton
Kuat tekan b eton adalah besarnya beban persatuan luas yang menyeb abkan benda uji beton hancur bila d ibebani dengan ga ya tekan tertentu, yang diha silkan oleh mesin tekan (Anonim, 1990).
= ( ) (2.28)
PVTx Estimation of CH4+CF4 Gas Mixture (Moghadassi, 2011)
penelitian adalah d engan menggunakan algoritma genetika (GA) sebagai alat untuk melakukan o ptimasi bias d an bobot JST. Bias d an bobot JST dip etakan menjadi kro mosom yang diko dekan dalam bentuk string. Panjang string tergantung dari jumlah bit yang diterapkan u ntuk masing-masing parameter, semakin panjang bit maka akan menambah waktu eksekusi. Namun apabila bit yang digunakan semakin pend ek, maka aka n berpengaruh terhadap akurasi. Gambar 2.1 menunjukkan b agaimana b obot dan bias dipetakan dalam algoritma genetika.
GA melakukan pencarian kombinasi bobot dan bias yang paling optimal untuk diterapkan dalam JST. Algoritma p emb elajaran jaringa n syaraf tiruan yang dipilih untuk digabungkan dengan GA ad alah Algoritma Levenberg-Marquardt, d ikarenakan dibandingkan dengan ya ng lain algoritma ini memiliki waktu pembelajaran paling cep at, sehingga diharapkan perpaduan dari kedua algoritma ini mampu meningkatkan akurasi dan kecepatan waktu eksekusi.
Algoritma hybrid ini kemudian dibandingkan d engan beberapa algoritma p embelajaran yang lain, diantaran ya Levenberg-M arquardt, BFGS Quasi-Newto n, Resilient Backpropagatio n, Scalled Conjugate Grad ient, Conjugate Gradient with Powell-Beale Restarts, Fletcher-Power Conju gate Gradient, Po lak-Rib iere Conjugate Gradient,dan One-Step Secant. Hasil penelitian ini menjukkan b ahwa algoritma hybrid antara algoritma ge netika dan Levenberg-M arquardt (GA-LM) jauh lebih baik dib andingka n denga n algoritma pemb elajaran yang lain, dilihat dari sisi waktu p embelajaran yang lebih singkat d an jumlah iterasi yang lebih sedikit untu k mencapai nilai MSE 0.01 (Moghad assi, 2011).
2. Application of Artificial Neural Network to Predict Compressive
Strength of High Strength Concrete. (Seyed Hakim, 2011)
Seyed Hakim d kk melakukan penelitian untu k prediksi kekuatan tekan beton mu tu tinggi usia 2 8 hari. Penelitian dilakukan d engan menguji 30 arsitektu r MFNNs untuk mendapatkan arsitektu r yang terb aik.
Selanjutnya adalah melakukan training terhadap arsitektur JST yang terpilih dengan menggunakan 2 56 data dan batasan RMSE sebesar 0.001. Selain itu dilakukan pula pengujian terhadap arsitektur ini dengan menggunakan 1 12 dataset yang berb ed a.
Hasil penelitian tersebut menunjukkan bahwa arsitektur JST 8-10-6 -1 dengan fungsi a ktivasi sigmoid merup akan arsitektu r terbaik. Rata-rata error relatif u ntuk d ata training dan testing dalam memprediksi kekuatan tekan HSC sebesar 7.02 % dan 12.64 % masih dap at diterima dalam teknologi beton. Selain itu, penelitian ini menunjukkan bahwa JST dapat digunakan untuk melakukan prediksi kekuatan tekan HSC dan lebih aku rat dib andingkan dengan analisa regresi ataupun metode konvensional lain (Seyed Hakim, 2011 ).
3. Study of Genetic Algorithm to Fully-automate the Design and
Training of Artificial Neural Network. (Ahmed, 2009 )
Ahmed dkk melakukan penelitian mengenai penerapan algoritma genetika (GA) dalam p roses op timalisasi bobot jaringan syaraf tiruan. Penelitian ini lebih menekankan kepada otomatisasi proses sehingga meminimalisasi peran manusia dalam mengoperasikannya. Dia gram alir dari proses otomatisasi yang dimaksud terlihat pada gambar 2.4.
Penelitian ini menggunakan 3 dataset u ntuk menguji pengaruh algoritma genetika dalam p roses optimalisasi jaringan syaraf tiruan FFNN dengan algoritma Levenb erg M arquardt, denga n fungsi aktivasi sigmoid dan linear. Masing- masing data menggu nakan arsitektur jaringan syaraf yang berbeda dengan jumlah lapisan tersembunyi yang sama yakni satu lapisan tersembunyi dan enam neuron d i lapisan tersembunyi. Data set yang digunakan adalah data prediksi iso late pen tene dan norma l pentene pad a CRU debutanizer, prediksi net power dan turbine inlet temperature, dan prediksi flank wea r proses p enggilingan.
denormalisasi dengan fungsi p ostmnx. Parameter algoritma genetika yang digunakan ad alah p eluang p indah silang = 0.6, peluang mutasi = 0.05, jumlah populasi = 5 0, dan jumlah generasi = 20. Fungsi ob yektif yang digunakan adalah mean squa re error (MSE).
Performansi dari metod e GA-ANN ini ditentukan oleh M SE, RM SE, dan R2, ditandai d engan semakin kecil MSE, RM SE d an apabila R2 mendekati 1 maka performansi semakin b agus. Hasil dari penelitia n menyebutkan algoritma genetika dapat digu nakan sebagai cara u ntuk mengoptimasi variabel input. Hal ini terlihat pada R2 untu k ketiga data set tersebut masing-masing menunjukkan nilai 0.9984, 0.9983; 0.9958, 0.9983; dan 0.9997 (Ahmed, 2009).
Gambar 2.4 Proses Otomatisasi GA - JST
2. 3. Rencana Penelitian
Penelitian kali ini akan melakukan analisa terhadap pengaruh penggunaan algoritma genetika terhadap proses training multilayer perceptron dengan menggunakan algoritma Levenbergh Marqu ardt. Data yang digunakan berasal dari machine learning repository berup a data set kekuatan tekan b eton mutu tinggi yang terdiri dari 8 parameter input dan 1 parameter outpu t. Arsitektu r jaringan dengan single hidden layer, 8 neuron input dan 1 neuro n output. Ju mlah neuron pada hidden layer divariasikan 3, 5, 6, 16, 17, dan 24 sesuai dengan rumus empiris penentuan hidden neuro n, seperti tertera pada tabel 3.2.
Algoritma genetika d igunakan untuk melaku kan optimasi terhadap bobot awal jaringan syaraf tiruan, sehingga dilakuka n pemetaan terhadap bias dan b obot JST ke dalam algo ritma genetika (Mo ghadassi, 2011). Prediksi kekuatan tekan beton menjadi stud i kasu s yang digunakan dalam penelitian ini.
Penelitian yang dilakukan terdiri dari dua skenario, yakni:
1. Menggu nakan algo ritma genetika (GA) untuk proses inisialisasi bobo t dan bias jaringan syaraf tiruan, kemu dian hasilnya digunakan u ntuk tra ining
JST (GALM )
2. Melaku kan training dengan algoritma LM menggunakan bobot dan bias yang dibangkitkan secara random.
21
BAB 3
METODOLOGI PENELITIAN
3. 1. Pengumpulan Data
3. 1. 1 Studi Literatur
Tahap an stu di literatur melipu ti:
1. Memp elajari jurnal penelitian yang membahas mengenai penerapan algoritma genetika dan algoritma levenb erg-marquardt dalam p roses training jaringan syaraf tiru an.
2. Memp elajari algoritma genetika dan jaringan syaraf tiru an secara umum
3. 1. 2 Dataset
Database kekuatan beto n mutu tinggi dip eroleh dari UCI Machine Learning Rep osito ry. Total data sebanyak 1030 data yang kemudian dila kukan seleksi b erdasarkan umur beto n 3, 14, 28, 56, dan 100 hari denga n komposisi yang sama menjadi seb anyak 2 60 data. Data dibagi menjadi 2 bagian, 250 data training dan 1 0 data testing. Sebelum digunaka n, dataset d inormalisasikan d engan normalisasi minmax.
Tabel 3.1 Parameter Dataset Beto n M utu Tinggi
Parameter Satuan
Semen kg/m3
Blast Furnace Slag kg/m3
Abu terbang kg/m3
Air kg/m3
Sup erp lasticizer kg/m3 Agregat Kasar kg/m3 Agregat Halus kg/m3
Umur Hari
Keku atan Tekan Beton Mpa
(M egapascal)
3. 2. Analisa dan Perancangan
3. 2. 1 Proses Normalisasi
Proses normalisasi data dilakukan sebelu m d ata d ibagi menjadi data training dan data testing. Normalisasi menggunakan normalisasi min max d engan memisahkan antara data input dan data target.
= { }
{ } { } (3.1)
3. 2. 2 Arsitektur Jaringan Syaraf Tiruan
Arsite ktur jaringa n syaraf tiruan single hid den layer denga n 8 neu ron input dan 1 neu ron output. Wu Zhang dalam Fahmi menentukan rumus empiris penentuan hidden neu ron sesuai tabel 3.2. Fungsi aktifasi input layer ke hidden la yer menggu nakan sigmoid, hidden layer ke ou tput layer juga menggunakan sigmoid.
Tabel 3.2 Rumus Emp iris Penentuan Hidden Neuro n (Fahmi, 2011)
No Rumu s Empiris Jumlah neuron hidden
layer
3. 2. 3. 1 Operator Algoritma Genetika
Operator GA yang digunakan adalah sebagai berikut: 1. Skema Pengkodean dan Inisialisasi Popu lasi
Skema pengkodean bilangan real dengan memetakan bias dan bobot JST ke dalam kromosom GA. Arsitektur JST gamb ar 3.1 dipetakan ke dalam kro mo som GA seperti gambar 3.2.
Inisia lisasi populasi dilakukan dengan membangkitkan bilangan random seb anyak bobot dan bias JST yang d ipetakan ke dalam kromosom dikalikan dengan jumlah anggo ta popu lasi. Penelitian ini menggunaka n 50 individu dalam satu populasi. Nilai rand om berkisar antara 0 sampai 1.
1
Gambar 3.2 Pengkodean Kro mosom
2. Fungsi Evalu asi
Fungsi evalu asi menggunakan mean square error yang d ihasilkan oleh JST. (Moghad assi & a l, 2011).
3. Seleksi
Proses seleksi menggu nakan seleksi rod a roulette. 4. Rekombinasi
v11 v12 v21 v22 v01 v02 w11 w21 w01
Proses rekombinasi atau d isebut juga d engan pindah silang menggunakan rekombinasi menengah, dengan p erhitu ngan gen anak sebagai berikut:
Anak= ind uk1 + alpha (induk2 – induk 1) (3.2) Alpha ad alah faktor skala yang dipilih secara rand om pad a interval [-0.25, 1.25]
Gambar 3.3 Proses Pre Computing dengan GA
Mutasi random (Herrera, Lozano, & Verdegay, 1998) apabila C= (c1, c2, ... , ci, ... , cn ) adalah kromo som, ci [ , ] sebuah gen yang akan dimu tasi, d an ci’ adalah kromoso m hasil mu tasi, maka ci’ merupakan bilangan random yang dibangkitkan dari domain [ , ].
6. Pelestarian Populasi (Elitism)
Pelestarian populasi sebanyak 5 % dari total p opulasi = 3 kromoso m. Kromosom yang dilestarikan adalah tiga kro mosom terbaik d ari populasi tersebut sebelum dilakukan proses seleksi, reko mbinasi, dan mutasi. 7. Penggantian Popu lasi
Skema penggantian populasi adalah generational replacement, d engan nilai G =1. Dari popu lasi baru yang tercipta, 3 kromosom terburu k digantikan d engan kro mosom hasil proses elitism.
3. 2. 4 Pelatihan dengan Algoritma LM
Proses pelatihan dengan algoritma LM dilakukan sebagai berikut:
1. Inisialisasi bobo t dan bias dengan bilangan aca k antara 0 - 1, epoch maksimum = 1500 .
2. Menentukan parameter yang dibutuhkan, antara lain:
- Inisialisasi ep och = 0
- Parameter LM ( ) = 0.1
- Parameter = 10
3. Tiap -tiap unit input (xi, i = 1, 2, 3, ..., 8) menerima sinyal input dan meneruskan sinyal tersebut ke semu a unit pada lapisan tersembunyi Tiap -tiap unit lap isan tersembunyi (zj, j = 1, 2, 3, ... p), menju mlahkan sin yal-sinyal input berbobot,
_ = + (3.3)
Gunakan fungsi aktivasi untu k menghitung sinyal output
= = _ (3.4)
Kemudian kirimkan sinyal tersebut ke semua u nit di lapisan atasnya.
4. Tiap-tiap unit lap isan output (Yk, k = 1) menjumlahkan sinyal-sinyal input
berbobo t
_ = + (3.5)
Gunakan fungsi aktivasi untuk menghitu ng sin yal output
= = _ (3.6)
Kemudian kirimkan sinyal tersebut ke semua u nit di lapisan atasnya. 5. Menghitung error , MSE dan total error jaringan
Rumus untuk error:
= (3.7)
r = input ke-r
Ru mus untuk menghitung M SE
= 1
(3.8 )
Rumus untuk menghitung total error:
= [ … ] (3.9)
8. Memb entu k matrik jacobian
= 1 … 1 1 … 1 2 … 2 2 … 2 (3.17)
= ( + ) (3.18) 10. Menghitung MSE
Jika MSEbaru <= MSElama, maka
- = /10, (3.19)
- epoch = epoch + 1
- Kembali ke langkah 3 Jika MSEbaru>M SElama, maka
- = * 10 (3.20)
- Kembali ke langkah 9
Proses pelatihan berhenti jika epoch = epoch maksimal atau erro r = target erro r.
Gambar 3. 4 Pro ses Pelatihan GALM
3. 2. 5 Skenario Proses Pelatihan
3. 2. 5. 1 GALM
Proses GA 3.2.3.2 dilakukan seb elum proses JST, proses ini disebut dengan proses pre computing. Input d ari proses ini ad alah b obot JST yang dib angkitkan secara random. Output berupa bobot JST yang telah diop timasi menggunakan p roses GA.
Bobot JST keluaran GA digunakan sebagai bobot awal proses JST menggunakan algoritma LM. Pro ses JST dilaku kan sampai mendapatkan nilai MSE konvergen, dimana nilai MSE tid ak mengalami kenaikan maupun penurunan la gi, proses ini disebut dengan proses tra ining JST. Proses pelatihan algo ritma ini terlihat pada gambar 3 .4.
3. 2. 5. 2 LM
Algoritma LM 3.2.4 dijalankan sesuai d engan bobot awal bilangan rando m yang dibangkitkan dari nilai 0 sampai 1 . Proses pelatihan dilakukan sampai mendapatkan nilai MSE yang ko nvergen, dimana nilai MSE tidak mengalami kenaikan maupun penurunan lagi. Proses pelatihan algoritma ini terlihat pad a gambar 3 .5
3. 3. Implementasi
Proses pelatihan dilakukan sebanya k 10 kali simulasi untuk masing-masing arsitektur dengan menggunakan data training. Data hasil pelatihan kemudian dib agi menjadi 2 , satu untuk analisa hasil pelatihan awal, 9 untuk analisa hasil pelatihan la njut. Proses analisa hasil dijelaska n pada poin 3.4.
Data Kekuatan
Gambar 3.5 Proses Pelatihan LM
3. 4. Analisa Hasil Pelatihan dan Pengujian
Proses p elatihan dilakukan dengan 10 kali simulasi untuk masing-masing arsitektur. Kemudian hasil pelatihan ini d ibagi menjadi dua b agian, bagian pertama terdiri dari 1 simulasi sebagai p roses pelatihan awal untuk penentuan batas MSE. Bagian kedu a terdiri dari 9 simulasi digunakan untuk analisa lanjutan. Proses analisa dijelaskan sebagai beriku t:
1. Analisa proses pelatihan awal dilakukan dengan melihat nilai MSE yang dihasilkan suatu arsitektur agar ko nvergen. MSE maksimum dari semu a arsitektur akan digunakan seb agai target erro r analisa hasil simulasi selanjutnya.
2. Analisa lanju tan dilakukan dengan mencari jumlah iterasi yang dibu tuhkan masing-masing simu lasi untuk mencapai target MSE yang d idapatkan dari poin 1. Ju mlah iterasi ini kemudian dikonversikan kedalam runtime u ntuk
31
BAB 4
PEMBAHASAN
4. 1. Hasil Pelatihan Awal GALM dan LM
Pelatihan awal dilakukan sebanyak satu kali simulasi untuk masing-masing variasi hidden neuron. Tujuan dari pelatihan awal ini adalah u ntuk menentukan nilai batas maksimum mean square error yang diperlukan su atu arsitektu r untuk mencapai konvergen. M aksimum MSE ini nantinya akan digu nakan untuk menghitung iterasi yang diperlukan su atu arsitektur untu k mencapai nilai MSE tersebut.
4. 1. 1 Pelatihan Tiga Hidden Neuron
Gambar 4.1 Hasil Pelatihan 3 Hidden Neuron
Hasil simulasi arsitektur 3 hidden neuron terlihat pada gambar 4.1. Arsitektur dengan 3 hidd en neuron menunju kkan b ahwa GALM mengalami konvergensi p ada MSE 0 .003925, LM menga lam i konvergensi pada MSE 0.003925 .
4. 1. 2 Pelatihan Lima Hidden Neuron
Gambar 4.2 Hasil Pelatihan 5 Hidden Neuron
Hasil simulasi dengan arsitektur 5 hidd en n eu ron terlihat pada gambar 4.2. Arsitektur 5 hidden neuron menunjukkan bahwa GALM konvergen pada nilai MSE 0.001696 dan LM konvergen pad a nilai MSE 0.001764.
4. 1. 3 Pelatihan Enam Hidden Neuron
Hasil simulasi dengan arsitektur 6 hidd en n eu ron terlihat pada gambar 4.3. Arsitektur 6 hidden neuron menunjukkan bahwa GALM konvergen pada nilai MSE 0.001754 dan LM konvergen pad a nilai MSE 0.001782.
4. 1. 4 Pelatihan Enam Belas Hidden Neuron
Gambar 4.4 Hasil Pelatihan 16 Hidden Neuron
Hasil simulasi dengan arsitektur 16 hidden n euron terlihat pada gambar 4.4. Arsitektur 16 hidd en neuron menunjukkan bahwa GALM konvergen p ada nilai M SE 0.000331 dan LM konvergen pada nilai MSE 0.000312.
4. 1. 5 Pelatihan Tujuh Belas Hidden Neuron
Hasil simulasi dengan arsitektur 17 hidden n eu ron terlihat pada gambar 4.5. Arsitektur 17 hidd en neuron menunjukkan bahwa GALM konvergen pad a nilai M SE 0.000302 dan LM konvergen p ada nilai MSE 0.000274.
Gambar 4.5 Hasil Pelatihan 17 Hidden Neuron
4. 1. 6 Pelatihan Dua Puluh Empat Hidden Neuron
Hasil simu lasi dengan arsitektur 24 hidden n eu ron terlihat pada gambar 4.6. Arsitektur 24 hidd en neuron menunjukkan bahwa GALM konvergen pad a nilai M SE 0.000165 dan LM konvergen p ada nilai MSE 0.000179.
4. 2. Analisa Hasil Pelatihan Awal GALM dan LM
Tabel 4.1 merupakan rangkuman MSE GALM dan LM hasil pelatihan awal. Hasil pelatihan menunju kkan bahwa nilai MSE terbesar adalah 0.003925 untuk JST mencapai konvergen dari arsitektur 3 hidd en neu ron. Selanjutnya nilai MSE 0.003925 digunakan sebagai batasan nilai MSE simulasi selanju tnya.
Tabel 4.1 Perbandingan Nilai MSE Pelatihan Awal
Hidden
4. 3. Analisa Hasil Pelatihan Lanjut
Tabel 4.2 Perbandingan Iterasi GALM dan LM Pelatihan Lanjut
Hidden
Simu lasi dilakukan seb anyak 9 kali simulasi untuk masing-masing variasi
hidden neuron. Tabel 4.2 menunjukkan rangkuman hasil dari 9 percobaan. Jumlah iterasi yang disajikan adalah ju mlah iterasi yang diperlukan suatu simulasi untuk mencapai nilai MSE 0.003925. Hasil simulasi selengkapnya terdapat pad a lampiran B. Jumlah iterasi maksimal untuk kedua algoritma < 200 iterasi, kecuali untuk arsitektur dengan 3 hidden neuron d engan jumlah iterasi maksimal GALM
seb esar 600 iterasi d an LM seb esar 937 iterasi. Gambar 4.10 menunjukkan grafik iterasi rata-rata GALM dan LM .
Tabel 4. 3 Perbandingan Runtime GALM dan LM Pelatihan Lanjut
Hidden
Gambar 4.7 Perb andingan Iterasi GALM dan LM Pelatihan Lanjut
menunjukkan bahwa proses GA mampu memperbaiki kinerja LM dengan mempersingkat waktu pelatihan.
Gambar 4.8 Perbandingan Runtime GALM dan LM Pelatihan Lanjut
Tabel 4.4 Runtime GA pada Proses GALM
Hidden
tabel 4.3 maka akan didapatkan grafik seperti gambar 4.9. Rata-rata runtime keseluruhan algo ritma GALM menjad i lebih besar dibandingkan runtime algoritma LM , kecuali pada arsitektur dengan 3 hidden neuron memilliki runtime yang hampir sama.
Gambar 4.9 Grafik Perbandingan Rata-rata Runtime Keseluruhan GALM dan LM Pelatihan Lanjut
Hasil simulasi me nunjukkan beberapa arsitektur melakukan kegagalan proses training, kegagalan diperlihatkan dengan tidak konvergennya nilai MSE ketika proses training dilakukan. Frekuensi kegagalan tra ining dari 9 simu lasi masing-masing arsitektur terlihat p ada tabel 4.5 .
Tabel 4.5 Prosentase Kegagalan Proses Pelatiha n
Proses p elatihan dengan algoritma GALM tidak menu njukkan kegagalan neuron memiliki rata- rata waktu runtime paling rendah d ib anding arsitektur yang la in sesuai tabel 4.3 untuk menjalankan 8 9 iterasi. Jika dilihat dari ju mlah iterasi dan ru ntime yang diperlu kan u ntuk mencapai nilai M SE yang d itargetkan, maka arsitektur dengan 5 hidd en neuron terbaik untuk kedua algoritma.
Proses GA pada algoritma GALM mampu meningkatkan kinerja LM dalam segi runtime yang lebih kecil dibandingkan LM d engan starting poin yang sama. Starting poin pengu kuran runtime berdasarkan waktu mulai menjalankan algoritma LM untu k kedua algo ritma. Selain itu, proses GA juga memperbaiki LM dengan menghilangkan kegagalan pro ses training dengan LM. Namun, tidak dapat dipu ngkiri bahwa algoritma GALM memerlukan waktu untuk menjalanka n proses GA, sehingga run time keseluru han lebih lama dib and ingkan algo ritma LM. Keseluruhan hasil pengukuran kinerja pelatiha n menunjukkan b ahwa pelatihan JST d engan algoritma LM lebih bagus dibandingkan algoritma GALM dilihat dari rata-rata ru ntime keseluru han.
4. 4. Hasil Pengujian Arsitektur 8-5-1
Proses pengu jian dilakukan setelah d idapatkan arsite ktur terbaik sesuai hasil p elatihan. Arsitektur 8 -5-1 merup akan arsitektur terbaik untuk kedua algoritma. Simulasi dilakukan sebanyak 20 kali untu k masing-masing algoritma. Rangkuman hasil simulasi tersaji pada tabel 4.6 , hasil selengkapnya terdapat pada lampiran C.
Tabel 4.6 Nilai MAPE Hasil Pengujian Arsitektur 8-5-1
Nilai MAPE terendah untuk algoritma GALM diperoleh pada simulasi ke-10 dengan nilai 6.43%, sed angkan MAPE terendah u ntuk LM diperoleh pada simu lasi ke-15 dengan nilai 6.31%. Gambar 4.12 menunjukkan kesesu ian antara target dan output (hasil peramalan) algoritma GALM d engan M APE 6.43%. Gambar 4.13 menunjukkan kesesuaian antara target d an outpu t algo ritma LM dengan MAPE 6.31 %. Hasil keseluruhan terlihat pada tab el C.1 dan C.2 lampiran C.
berbeda. Nilai MAPE yang d ihasilkan oleh kedua algoritma masih bisa diterima dalam industry beto n.
Gambar 4.10 Kesesuaian Target Data Testing dan Hasil Peramalan (Output) GALM d engan MAPE 6.43 %
BAB 5
PENUTUP
5. 1. Kesimpulan
Pelatihan jaringan s yaraf tiruan (JST) mu ltilayer perceptro n d engan menggunakan Genetic Algorithm Levenb erg Marquardt mampu memperbaiki proses p elatihan dengan menghilangkan kegagalan p roses training LM yang terjad i pada arsitektur dengan 16 dan 24 hidden neuron.
Pengu kuran kinerja pelatihan arsitektur JST menunjukkan bahwa arsitektur 8-5-1, terdiri dari 8 input neuron, 5 hidd en neuron, dan 1 output neu ron
meru pakan arsitektur terbaik untuk kedua algo ritma. Arsitektu r ini mencap ai MSE 0.003925 dengan 89 iterasi GALM dan 91 iterasi LM dengan runtime masing-masing 3.248 detik dan 3.420 detik.
Proses p engujian arsitektur 8-5-1 d engan algoritma pelatihan GALM mendapatkan nilai rata-rata MAPE 10 .99% dan pengujian d engan algoritma LM mendapatkan rata-rata nilai MAPE sebesar 9.73%.
5. 2. Saran
Saran untuk penelitian selanjutn ya adalah
1. Melaku kan pelatiha n jaringan syaraf tiruan dengan menggunakan fungsi aktifasi yang la in, misaln ya identitas, sigmoid bipo lar atau tangent hyperb olic
2. Menggu nakan proses no rmalisasi data yang lain, misalnya Z-sco re, sigmo id, atau Euclidean.
