ANALISIS DAN IMPLEMENTASI ALGORITMA CONJUGATE GRADIENT POLAK RIBIERE UNTUK PELATIHAN BACKPROPAGATION STUDI KASIS SISTEM
PERAMALAN TEMPERATUR UDARA
Untari Novia Wisesty¹, Adiwijawa², Tjokorda Agung Budi Wirayuda³
¹Teknik Informatika, Fakultas Teknik Informatika, Universitas Telkom
Abstrak
Conjugate Gradient merupakan metode optimasi yang dapat meminimasi suatu fungsi, dimana arah pencariannya berdasarkan arah konjugasi yang nilainya ortogonal. Karena sifat
pencariannya yang ortogonal, sehingga Conjugate Gradient cepat mencapai konvergensi pada solusi yang dicari. Conjugate Gradient tidak hanya dapat digunakan untuk menyelesakan fungsi yang linier, tetapi juga dapat digunakan untuk masalah non linier, salah satunya digunakan untuk pelatihan jaringan syaraf tiruan. Pada tugas akhir ini, digunakan algoritma Conjugate Gradient Polak Ribiere dalam pelatihan jaringan syaraf tiruan sebagai system peramalan temperature udara. Data klimatologi yang digunakan sebagai parameter masukan yaitu temperature udara, kelembaban, tekanan udara, curah hujan, lama penyinaran matahari, dan kecepatan angin. Dari hasil pengujian yang dilakukan terhadap sistem peramalan temperatur udara ini terbukti bahwa sistem ini dapat menghasilkan keluaran dengan hasil pengujian lebih dari 90%.
Kata Kunci : Conjugate Gradient Polak Ribiere, temperatur udara, klimatologi, pelatihan JST.
Abstract
Conjugate Gradient is one of optimation method that minimaze a function, where the search directions are constructed by its conjugation and orthogonal values. Because the orthogonal direction, Conjugate Gradient can be convergence to the solution. Conjugate Gradient not only can be used to solve linier function, but also non linier problems, such as Artificial Neural Network training. In this final project, Conjugate Gradient Polak Ribiere algorithm used in Artificial Neural Network training as air temperature forcasting system. Climatology data that used as input variables are air temperature, humidity, air pressure, rainfall, sunshine radiation, and wind velocity. From the research, wa can interpreted that forcasting system of air
temperature can produce result of testing more than 90%.
Keywords : Conjugate Gradient Polak Ribiere, air temperature, climatology, Artificial Neural Network training.
1
1.
Pendahuluan
1.1
Latar belakang
Dalam bidang Artificial Intelligence, terdapat sub bidang yang disebut jaringan syaraf tiruan. Dalam perkembangannya, jaringan syaraf tiruan sempat ditinggalkan karena tidak dapat menyelesaikan permasalahan yang kompleks, sampai ditemukan Jaringan Syaraf Tiruan
Backpropagation yang terdiri dari multilayer. Backpropagation dapat
menyelesaikan beberapa kasus, misalkan pengenalan pola, peramalan, klasifikasi, dan lain-lain. Tetapi algoritma Backpropagation standar juga menemui beberapa kendala, yaitu lamanya pelatihan apabila pemilihan parameter-parameternya tidak tepat, misalkan pemilihan learning rate yang berpengaruh pada perubahan bobot. Oleh karena itu, dicari algoritma yang dapat mempercepat pelatihan Bacpropagation, salah satunya algoritma
Conjugate Gradient Polak Ribiere.
Conjugate Gradient merupakan metode optimasi yang dapat
meminimasi suatu fungsi, dimana arah pencariannya berdasarkan arah konjugasi yang nilainya ortogonal. Karena sifat pencariannya yang ortogonal, sehingga Conjugate Gradient cepat mencapai konvergensi pada solusi yang dicari. Conjugate Gradient tidak hanya dapat digunakan untuk menyelesakan fungsi yang linier, tetapi juga dapat digunakan untuk masalah non linier, seperti design engineering, pelatihan Jaringan syaraf tiruan, dan regresi nonlinier. Terdapat beberapa jenis dari metode
Conjugate Gradient, salah satunya yaitu Polak Ribiere. Untuk beberapa
kasus, Polak Ribiere dapat menemukan solusi meskipun titik awalnya jauh dari titik minimum dan dapat konvergen lebih cepat dari yang lainnya. Pada Tugas Akhir ini diimplementasikan algoritma Conjugate Gradient
Polak Ribiere sebagai algoritma pelatihan Backpropagation pada studi
kasus peramalan temperatur udara.
Studi kasus peramalan temperatur ini telah diteliti dan dibangun menggunakan metode-metode lainnya, salah satunya dengan metode
Bayesian Network, tetapi dengan menggunakan algoritma Conjugate Gradient Polak Rieber sebagai algoritma pelatihan Backpropagation
diharapkan akan didapat performansi sistem yang lebih baik.
1.2
Perumusan masalah
Untuk menyelesaikan implementasi algoritma Conjugate Gradient Polak
Ribiere dalam pelatihan backpropagation studi kasus sistem peramalan
temperatur ini, terdapat beberapa masalah yang akan diselesaikan, yaitu : 1. Bagaimana cara kerja algoritma Conjugate Gradient Polak Ribiere
sehingga dapat mempercepat pelatihan Backpropagation?
2. Bagaimana performansi dari sistem peramalan temperatur udara yang telah dihasilkan dengan algoritma Conjugate Gradient Polak Ribiere sebagai algoritma pelatihan Backpropagation diukur berdasarkan
epoch dan Mean Absolute Precentage Error (MAPE)?
1.3
Batasan Masalah
Batasan-batasan masalah dalam mengerjakan Tugas Akhir ini yaitu : 1. Input sistem untuk meramal temperatur pada hari-H yaitu temperatur
(celcius), kelembaban udara (%), lama penyinaran (ipm), tekanan udara (mili bar), curah hujan (mili meter), dan kecepatan angin (knot) pada hari-(H-1).
2. Data yang digunakan adalah data wilayah Bandung.
3. Nilai temperatur udara yang dihasilkan berupa nilai temperatur rata-rata yang terjadi selama satu hari.
4. Arsitektur jaringan yang digunakan yaitu 6 neuron pada layer input, 1 hidden layer dengan [5..30] neuron setiap layernya, dan satu neuron pada layer output.
1.4
Tujuan
Tujuan dari Tugas Akhir ini yaitu :
1. Menganalisis algoritma Conjugate Gradient Polak Ribiere dalam mempercepat pelatihan Backpropagation.
2. Menganalisis performansi sistem peramalan temperatur udara yang optimal (diukur dalam epoch dan MAPE).
1.5
Metodologi penyelesaian masalah
Langkah-langkah yang dilakukan dalam penyelesaian Tugas Akhir ini yaitu :
3
Pengumpulan data meliputi data-data yang berhubungan dengan cuaca, khususnya temperatur. Data ini diperoleh dari Badan Meteorologi dan Geofisika. Sedangkan studi literatur meliputi Artificial Intelligence, Jaringan Syaraf Tiruan, Backpropagation, dan Conjugate Gradient
Polak Ribiere yang sumbernya berasal dari buku, artikel, dan artikel di
internet.
2. Pembangunan model
Pembangunan model meliputi pembangunan arsitektur jaringan syaraf tiruan, parameter-parameter yang digunakan, penggunaan algoritma
Conjugate Gradient Polak Ribiere sebagai algoritma pelatihannya.
3. Implementasi sistem
Dalam implementasi ini, model jaringan yang telah dibuat diimplementasikan ke dalam pemrograman yang menggunakan Matlab.
4. Pengujian sistem
Pengujian sistem dilakukan untuk mengetahui apakah sistem yang telah dibangun memenuhi tujuan dibangunnya sistem atau tidak.
5. Analisis hasil
Analisis hasil dilakukan pada hasil-hasil yang telah diperoleh dari pengujian sistem dan berdasarkan rumusan masalah yang telah ditentukan.
6. Pembuatan laporan
Langkah terakhir, yaitu pembuatan laporan tugas akhir, yang meliputi hasil analisa dan langkah-langkah yang lainnya yang telah dilakukan. Pembuatan laporan berfungsi sebagai dokumentasi dari apa yang selama ini telah dikerjakan untuk menyelesaian sistem.
1.6
Sistematika Penulisan
Tugas akhir ini disusun dengan sistematika penulisan sebagai berikut :
BAB I Pendahuluan
Bab ini menguraikan tugas akhir ini secara umum, meliputi latar belakang masalah, perumusan masalah, batasan masalah, tujuan, metode yang digunakan, dan sistematika penulisan laporan.
BAB II Landasan Teori
Bab ini membahas mengenai uraian teori yang berhubungan dengan temperature udara, jaringan syaraf tiruan, dan algoritma Conjugate Gradient Polak Ribiere sebagai algoritma pelatihan Backpropagation.
BAB III Analisis dan Perancangan Perangkat Lunak
Bab ini berisi analisis kebutuhan dari sistem dan masalah-masalah yang ada di dalamnya. Hasil analisis ini dituangkan ke dalam suatu sistem pemodelan secara terstruktur. Dari tahap analisis dilanjutkan ke tahap perancangan dan implementasi.
BAB IV Implementasi dan Analisis Hasil Percobaan
Bab ini membahas mengenai pengujian hasil implementasi yang telah dilakukan pada bab sebelumnya. Pengujian dilakukan dengan membandingkan hasil implementasi dengan data aslinya. Tahap pengujian dilanjutkan dengan tahap analisis hasil pengujian.
BAB V Kesimpulan dan Saran
Berisi kesimpulan dari penulisan tugas akhir ini dan saran-saran yang diperlukan untuk pengembangan lebih lanjut.
27
5.
Kesimpulan dan Saran
5.1
Kesimpulan
Kesimpulan yang dapat diambil dari Tugas Akhir ini yaitu :
a. Parameter-parameter JST dan algoritma conjugate gradient polak ribiere, yaitu jumlah neuron hidden dan nilai teta dapat mempengaruhi performansi system. Pada kasus yang berbeda, semakin besar nilai dari parameter tersebut belum tentu memberikan performansi yang lebih baik. Pada tugas akhir ini didapat bahwa jumlah neuron hidden yang memberikan performansi terbaik terletak pada range 5 sampai 20 neuron, sedangkan nilai teta pengaruhnya sangat kecil pada hasil pengujian.
b. Komposisi data training yang digunakan pada proses pelatihan juga mempengaruhi kemampuan system dalam proses peramalan. Komposisi data training sebesar 70% memberikan hasil yang lebih stabil pada jumlah neuron 5 sampai 20 neuron. Sedangkan untuk data klimatologi pada tahun yang berbeda hanya dibutuhkan komposisi data training untuk memberikan performansi yang baik (MAPE sebesar
0.036975).
c. Untuk mendapatkan performansi system yang baik hanya dibutuhkan sedikit epoch dalam proses training (rata-rata 46 epoch). Dengan kata lain, dengan pelatihan menggunakan Conjugate Gradient Polak Ribiere cepat konvergen dalam mendapatkan solusi.
5.2
Saran
Saran yang dapat diberikan pada tugas akhir ini sebagai pengembangan
system yaitu :
a. Untuk inisialisasi bobot awal dapat menggunakna metode tertentu agar performansi yang didapat lebih baik.
b. Dapat dilakukan pengujian lebih lanjut untuk data klimatologi selain kota Bandung.
c. Menggunakan Evolutionary Computation untuk mendapatkan arsitektur JST yang optimal.
Powered by TCPDF (www.tcpdf.org)
Daftar Pustaka
[1] Corris, Wafistrietman, 2009, Peramalan Nilai Tukar Mata Uang
Menggunakan Algoritma Gradient Conjugate dengan Metode Fletcher-Reeves, Bandung, Institut Teknologi Telkom Bandung.
[2] Cresswell, M.P., Thomson, M.C., and Connor, S.J, 1999, Estimating surface
air temperatures, from meteosal land surface temperature using an empirical solar zenith angle model. International Journal of Remote Sensing, Vol.
20,No.6, pp. 1125-1132.
[3] Enrique Castillo, B. G. Berdinas, O. F. Romero, and A. A. Betanzos, 2006, A
Very Fast Learning Method for Neural Networks Based on Sensitivity Analysis, Spain, University of Cantabria.
jmlr.csail.mit.edu/papers/volume7/castillo06a/castillo06a.pdf
[4] Jae-Dong Jang Dr. Alain A. Viau and Dr. Francois Anctil, 2003, Estimation of
Air Temperatures, Kanada, Canadian Journal of Forest Research. http://www.theses.ulaval.ca/
[5] Jian Wang, Xuebin Chi, TongXiang Gu, Nonlinier Conjugate Gradient
Methods and Their Implementations by TAO on Dawning 2000-II+. www.sccas.cn/ICPACE/papers/Jian%20Wang.pdf
[6] MATLAB Toolbox R2006a, TRAINCGP Conjugate Gradient
Backpropagation with Polak-Ribiere Updates.
[7] Nonlinier Conjugate Gradient Method
www.wikipedia.com/Nonlinier_conjugate_gradient_method.htm
[8] Puspitasari, Ira, 2007, Sistem Peramalan Temperatur Udara dengan Metode
Bayesian Network, Bandung, Sekolah Tinggi Teknologi Telkom.
[9] Salakhutdinov, Ruslan, 2003, Efficient Optimization Algorithms for Learning,
University of Toronto.
www.cs.toronto.edu/~roweis/papers/Ruslan_msc_thesis.pdf
[10] Shewchuk, Jonathan Richard, 1994, An Introduction to the Conjugate
Gradient Method Without the Agonizing Pain Edition 11/4, Pittsburgh, School
of Computer Science Carnegie Mellon University.
[11] Siang, Jong Jek, Drs, M.Sc, 2004, Jaringan Syaraf Tiruan dan
Pemrogramannya Menggunakan Matlab, Yogyakarta, Penerbit ANDI
Yogyakarta.
[12] Subekti, R. Muhammad, Perbaikan Metode Backpropagation untuk Pelatihan
Jaringan Syaraf Tiruan Multilayer, Tangerang http://www.pdf-search-engine.com
[13] Suyanto, ST, Msc, 2007, Artificial Intelligence Searching, Reasoning,
Planning, and Learning, Bandung, Penerbit Informatika.
29
Bandung, Penerbit Informatika.
[15] Wong Chi-Cheong, Chan Man-Chung, Lam Chi-Chung, 1998, Financial Time
Series Forecasting by Neural Network Using Conjugate Gradient Learning Algorithm and Multiple Linier Regression Weight Initialization, Journal of
Artificial Intelligence.
[16] Y.H. Dai, Y. Yuan, 2002, A Note on the Nonlinier Conjugate Gradient
Method, Beijing, Chinese Academy of Sciences. ftp://lsec.cc.ac.cn/pub/home/yyx/papers/jcm1290.pdf
[17] Y.H. Dai, Y. Yuan, 2002, A Three-Parameter Family of Nonlinier Conjugate
Gradient Methods, Beijing, Chinese Academy of Sciences.
www.ams.org/mcom/2001-70-235/S0025-5718-00-01253-9/S0025-5718-00-01253-9.pdf
Powered by TCPDF (www.tcpdf.org)
