PERAMALAN CURAH HUJAN WILAYAH SEMARANG BARAT DENGAN ALGORITMA RESILIENT BACKPROPAGATION

(1)

Abstract-

Tujuan dari penelitian ini untuk mengaplikasikan cara kerja jaringan syaraf tiruan dengan menggunakan algoritma Resilient untuk peramalan curah hujan di wilayah kota Semarang barat dimana algoritma ini dikembangkan dengan melakukan perubahan bobot dan bias jaringan sesuai dengan perilaku gradient dari setiap iterasi pelatihan hanya dengan cara menggunakan tanda turunannya saja. Tanda turunan ini akan menentukan arah perbaikan bobot-bobot, sehingga jumlah iterasi yang diperlukan untuk mencapai target yang diingginkan lebih sedikit.

Penelitian ini menggunakan data curah hujan wilayah Sematang barat Januari 2003 s.d. Desember 2012 data musiman . Hasil simulasi dengan jumlah data pelatihan dan jumlah data pengujian 50%: 50%, 70%:30% dan 80%:20% diperoleh arsitektur terbaik algoritma Resilient untuk MSE pelatihan 0,1dengan jumlah data pelatihan 80% dan data pengujian 20% adalah 1 neuron input, 1 lapisan hidden dengan 18 neuron, dan 1 neuron output (1-18-1) dengan parameter = 1,2 dan = 0,5 menunjukkan kecepatan waktu dan jumlah epoch yang lebih banyak dibandingkan dengan

Keywords— Algoritma Resilientmalan dengan prosesstik yang nil

1. PENDAHULUAN

eramalan atau prediksi terhadap curah hujan di wilayah kota Semarang barat di tahun-tahun mendatang dengan menggunakan data bersifat runtun waktu ( time series), yaitu data yang digunakan adalah data pada tahun ini dan tahun tahun sebelumnya. Salah satu metode yang banyak digunakan adalah Seasonal Autoregressive Integreted Moving Average (SARIMA) yang dikembangkan oleh Box dan Jenkins pada tahun 1976, dimana metode ini memiliki ketepatan yang cukup baik untuk data linier.

Dengan semakin berkembangnya ilmu pengetahuan maka berkembang pula beberapa metode baru. Salah satu metode untuk memperkirakan curah hujan adalah dengan metode jaringan syaraf tiruan (Artificial Neural Network). ANN mampu memperkirakandengan data timeseries non linier yang sulit diselesaikan dengan model klasik. Salahsatu algoritma pada ANN adalah algoritma Resilient Backpropagation dikembangkan oleh Martin Riedmilier (1993), dan banyak penelitian jaringan syaraf tiruan yang dikonsentrasikan pada pengembangan algoritma ini, dimana pembelajaran digunakan sama seperti optimisasi data dari parameter jaringan, Chien-Sheng Chen et al (2010) membandingkan Resilient Backpropagation dengan Gradient Descent dalam memprediksi lokasi stasiun komunikasi, Christian Igel et al(2003) mengembangkan algoritma Resilient dengan menambahkan metode weight, dan Gupta & Kang(2011) membandingkan Resilient Backpropagation dengan Clustering Fuzzy untuk mencari modul deteksi rentan kesalahan dalam Sistem Open Source Software

.

Bobot pada jaringan syaraf tiruan merupakan salah satu faktor penting agar jaringan dapat melakukan generalisasi dengan baik terhadap data yang dilatih ke dalamnya, karena bobot pada jaringan syaraf tiruan mempengaruhi besarnya sinyal yang akan keluar dari setiap neuron yang ada pada lapisan hidden dan lapisan output. Algoritma Resilient adalah algoritma pembelajaran yaitu dengan melakukan perubahan bobot dan bias jaringan sesuai dengan perilaku gradient di setiap epoch pelatihan, sehingga jumlah epoch yang diperlukan untuk mencapai target yang diinginkan jauh lebih sedikit

2. LANDASAN TEORI

2.1. Neural Network

Artificial Neural Network atau Jaringan Syaraf Tiruan (JST) adalah sistem pemrosesan informasi yang memiliki karakteristik mirip dengan struktur jaringan syaraf biologi, khususnya jaringan otak manusia. Keandalan kinerja JST adalah polanya hubungan antara neuron (disebut arsitektur jaringan), metode untuk menentukan bobot penghubung (disebut metode training atau learning atau algoritma) dan fungsi aktivasi.

Dalam jaringan syaraf tiruan fungsi aktivasi akan menentukan output suatu unit (mengubah sinyal input menjadi sinyal output) yang akan dikirim ke unit lainnya. Fungsi aktivasi yang sering dipakai dalam jaringan syaraf tiruan adalah Fungsi Signoid Biner. Fungsi signoid biner bernilai antara 0 dan 1, digunakan untuk jaringan dengan nilai output antara 0 dan 1. Fungsi signoid biner dirumuskan sebagai

PERAMALAN CURAH HUJAN WILAYAH SEMARANG BARAT

DENGAN ALGORITMA RESILIENT BACKPROPAGATION

Wellie Sulistijanti

P

M

(2)

x e x f _   1 1 ) ( −∞ < 𝑥 < ∞ dengan f'(x)f(x)(1f(x))

2.2. Analisis Time series

Catatan tentang fenomena yang tidak teratur bervariasi dengan waktu disebut time series. Dalam analisis time series, variasi deret waktu yang tidak teratur umumnya dinyatakan dengan model stokastik. Dalam beberapa kasus sebuah fenomena random dapat dianggap sebagai realisasi dari model stokastik dengan sruktur perubahan waktu .

Musiman didefinisikan sebagai suatu pola yang berulang-ulang dalam selang waktu yang tetap. Untuk data yang stasioner, faktor musiman dapat ditentukan dengan mengidentifikasi koefisien autokorelasi pada dua atau tiga time-lag yang berbeda nyata dari nol. Autokorelasi yang secara signifikan berbeda dengan nol menyatakan adanya suatu pola dalam data. Untuk model ARIMA musiman, notasi umumnya sebagai berikut :

ARIMA (p,d,q) (P,D,Q)S (1) dimana :

(p,d,q) = bagian yang tidak musiman dari model (P,D,Q) = bagian yang musiman dari model S = jumlah periode per musim

Persamaan model SARIMA atau ARIMA musiman (p,d,q) (P,D,Q,)s dengan rumus umum :

𝜙

_𝑝

(𝐵)Ф

_𝑃

(𝐵

𝑆

_)𝑍

𝑡

= 𝜃

𝑞

(𝐵)𝛩

𝑄

(𝐵

𝑆

)𝑒

𝑡 (2) dimana : 𝑍𝑡= (1 − 𝐵)𝑑(1 − 𝐵𝑆)𝐷𝑍𝑡∗ 𝜙𝑝(𝐵) = (1 − 𝜙1𝐵 − 𝜙2𝐵2− ⋯ − 𝜙𝑝𝐵𝑝) Ф𝑃(𝐵𝑆) = (1 − Ф1𝐵𝑆− Ф2𝐵2𝑆− ⋯ − Ф𝑃𝐵𝑃𝑆) 𝜃𝑞(𝐵) = (1 − 𝜃1𝐵 − 𝜃2𝐵2− ⋯ − 𝜃𝑞𝐵𝑞) 𝛩𝑄(𝐵𝑆) = (1 − 𝛩1𝐵𝑆− 𝛩2𝐵2𝑆− ⋯ − 𝛩𝑄𝐵𝑄𝑆) dengan :

(1 - B)d = pembedaan non musiman (1 – BS)D= pembedaan musiman 𝜙𝑝 = Parameter AR non musiman

Ф𝑃 = Parameter AR musiman

𝜃𝑞 = Parameter MA non musiman

𝛩𝑄 = Parameter MA musiman

S = Jumlah periode per musim

3. ALGORITMA RESILIENT BACKPROPAGATION 3.1. Diskripsi Algoritma Resilient

Algoritma Resilient melakukan perubahan bobot dan bias jaringan dengan melakukan proses adaptasi langsung dari langkah bobot yang didasarkan pada informasi gradient lokal dari setiap iterasi pembelajaran, sehingga jumlah iterasi yang diperlukan untuk mencapai target yang dingginkan lebih sedikit.

Untuk mengatasi hal tersebut diatas, diberikan ukuran dari perubahan bobot yang disebut ‘perbaikan nilai’ ∆jk. Nilai perbaikan menyesuaikan perkembangan selama proses pembelajaran berdasarkan pada penglihatan lokal

terhadap fungsi error dengan aturan pembelajaran sebagai berikut:

∆jk(m) = ∆jk(m − 1) ∗ η+, jika _∂𝑤∂E_𝑗𝑘(m) x _∂𝑤∂E_𝑗𝑘(m − 1) > 0

∆jk(m) = ∆jk(m − 1) ∗ η−, jika _∂𝑤∂E_𝑗𝑘(m) x _∂𝑤∂E_𝑗𝑘(m − 1) < 0

∆jk(m) = ∆jk(m − 1) , untuk yang lainnya

Dimana 0 < η−_{< 1 < η}+

(3)

melompati lokal minimum, nilai perbaikan ∆jk diturunkan dengan faktor η−. Jika dalam dua iterasi berurutan tanda

turunan tetap, nilai perbaikan dinaikkan dengan faktor η+_{untuk mempercepat konvergensi pada daerah permukaan}

error. Dan jika turunannya adalah nol, maka nilai pembaruan tetap sama. Setiap kali bobot yang berosilasi, perbaikan bobot berkurang. Jika bobot terus berubah ke arah yang sama untuk beberapa iterasi, maka berakibat kenaikan besarnya perubahan bobot.

Setelah perbaikan nilai untuk setiap bobot yang disesuaikan, perbaikan bobot mengikuti aturan yang sederhana jika turunan positif (error meningkat) maka bobot turun dengan nilai nilai perbaikan, jika turunan adalah negatif maka nilai perbaikan ditambahkan sebagai berikut:

Δ𝑤𝑗𝑘(𝑚) = −∆jk(m) jika _∂𝑤∂E

𝑗𝑘(m) > 0

Δ𝑤𝑗𝑘(𝑚) = +∆jk(m) jika _∂𝑤∂E

𝑗𝑘(m) < 0 (3)

Δ𝑤𝑗𝑘(𝑚) = 0 untuk yang lainnya (m) Δw (m) w ) (m w_jk 1  _jk  _jk (4) Dimana wjk(m) adalah bobot diantara neuron j dan k dalam dua lapisan berurutan pada iterasi m, wjk(m+1)

adalah bobot baru.

3.2.

Parameter Algoritma Resilient

Pada awal iterasi, semua nilai perbaikan ∆_jk telah diatur sebagai nilai awal ∆₀ yang merupakan salah satu dari dua parameter Resilient backpropagation. Untuk ∆0 secara langsung menentukan ukuran dari bobot pertama,

pilihan yang paling baik terjadi pada ∆₀= 0,1 . Bagaimanapun hasil berikutnya yang tampak pilihan dari parameter ini tidak begitu penting, bahkan untuk nilai lebih besar atau lebih kecil dari ∆0, konvergensi tetap

tercapai.

Untuk mencegah bobot menjadi besar , langkah-langkah menentukan bobot maksimum dengan nilai ukuran update yang terbatas. Batas atas ditetapkan oleh parameter kedua Resilient backpropagation , ∆maks.

Default batas atas diatur untuk ∆maks= 50.

Pemilihan dari faktor-faktor penurunan η− dan faktor-faktor kenaikan η+ adalah sebagai berikut jika lompatan sebuah nilai minimum, nilai update sebelumnya terlalu besar. Hal ini dikarenakan tidak diketahuinya informasi gradient berapa banyak minimum terlewati, secara rata-rata akan menghasilkan nilai perbaikan yang sangat baik yaitu η−_{= 0,5. Faktor kenaikan η}+_{harus cukup besar untuk untuk memungkinkan cepat mengalami}

kenaikan kenilai baru di daerah yang kecil fungsi errornya, di sisi lain proses pembelajaran dapat menjadi jauh terganggu, jika faktor kenaikan terlalu besar menyebabkan perubahan terus menerus dari arah langkah bobot, dari semua percobaan riedmiller pilihan η+= 1,2 memberikan hasil yang sangat baik tergantung masalah yang diujikan. Sedikit variasi nilai ini tidak meningkatkan atau memperburuk nilai waktu konvergensi. Jadi untuk mendapatkan pilihan parameter yang sederhana diputuskan untuk terus memperbaiki kenaikan/penurunan parameter η+_{= 1,2 dan η}−_{= 0.5.}

3.3 Tahapan Algoritma Resilient

Sama seperti pada algoritma Gradient Descent, algoritma Resilient melaksanakan dua tahap pembelajaran yaitu tahap pembelajaran feedforward untuk mendapatkan error output dan tahap backward untuk mengubah nilai bobot.

Langkah 0 Pemberian insialisasi bobot (diberi nilai kecil secara acak) Langkah 1. Jika kondisi akhir iterasi belum terpenuhi, lakukan langkah 2-9

Langkah 2. Untuk masing masing pasangan data pelatihan (training data) lakukan langkah 3 hingga 8 Feed Forward

Langkah 3.Tiap unit input (Xi, i-1,2,...,n) menerima sinyal input xi dan sinyal tersebut disebarkan ke semua unit

pada lapisan hidden

Langkah 4.Tiap lapisan hidden (Zj,j=1,2,…,p) menjumlahkan bobot sinyal input ij n i i o j j v xv in z



   1 _ (14)

menggunakan fungsi aktifasi untuk menghitung sinyal output z_j  f(z_in_j) dan mengirimkan sinyal ini ke setiap unit output

Langkah 5. Tiap unit output (Yk, k=1,..,m) menjumlahkan bobot sinyal masuk



   p j jk j o k k w z w in y 1 _ (5) menggunakan fungsi aktifasi untuk menghitung sinyal output

) _ ( k k f y in

(4)

Galat dari backpropagation

Langkah 6. Tiap unit output menerima pola yang sesuai dengan pola pelatihan input dan dihitung errornya:



_k (t_k y_k)f(y_in_k) (7)

menghitung bobot terkoreksi (digunakan untuk memperbarui wjo),

wjk kzj (8)

menghitung bias terkoreksi

wok 



k (9)

dan mengirim δk ke unit pada lapisan dibawahnya

Langkah 7: Tiap unit hidden (Zj,j=1,2,…,p) menjumlahkan delta input

_jk m k k j w in



  1 . _   (10) dikalikan dengan derivatif fungsi aktivasi untuk menghitung error



j 



_injf(z_inj) (11) menghitung koreksi bobot

i x j ij v   (12) menghitung koreksi bias



v

₀_j





_j (13)

Memperbaiki bobot dan bias

Langkah 8: Tiap unit output (Yk, k=1,..,m) memperbaiki bobot dan bias (j-=0,…,p) jk

jk

jk baru w lama w

w ( ) ( )

Tiap unit hidden (Zj, j=1,..,p) memperbaiki bobot dan bias (i=0,…,n) ij

ij

ij baru v lama v

v ( ) ( ) Langkah 9: Uji kondisi pemberhentian (akhir iterasi)

Setelah dilakukan perubahan bobot dan bias untuk setiap pola data dilakukan langkah di bawah ini

Hitung gradient ( ), ( ) ( ), ( ) 0 0 m v E m v E m w E m w E j ij k jk       

 _{, yaitu perubahan bobot dan bias setiap pola pada}

epoch ke t, untuk setiap bobot dan bias lakukan langkah-langkah berikut: Jika 𝜕𝐸 𝜕𝑣_𝑖𝑗(𝑚 − 1) ∗ 𝜕𝐸 𝜕𝑣_𝑖𝑗(𝑚) > 0 maka ∆ij(m) = minimum (∆ij(𝑚 − 1) x η+, ∆maks) ) ( )) ( ( ) ( m m v E sign m v ij ij ij      𝑣𝑖𝑗(𝑚 + 1) = 𝑣𝑖𝑗(𝑚) + ∆vij(m) (14) ) ( ) 1 ( m v E m v E ij ij       (15) Jika _𝜕𝑣𝜕𝐸 𝑖𝑗(𝑚 − 1) ∗ 𝜕𝐸 𝜕𝑣_𝑖𝑗(𝑚) < 0

maka ∆ij(t)= maksimum (∆ij(m − 1) x η−, ∆min)

) ( )) ( ( ) ( m m v E m v ij ij ij     ) 1 ( ) ( ) 1 (m v m v m vij ij ij (16) 𝜕𝐸 𝜕𝑣_𝑖𝑗(𝑚 − 1) = 0 (17) Jika 𝜕𝐸 𝜕𝑣_𝑖𝑗(𝑚 − 1) ∗ 𝜕𝐸 𝜕𝑣_𝑖𝑗(𝑚) = 0

maka Δ𝑣𝑖𝑗(𝑚) = −sign_∂𝑣∂E

𝑖𝑗(m)∆ij(m)

(5)

𝜕𝐸

𝜕𝑣𝑖𝑗(𝑚 − 1) =

𝜕𝐸

𝜕𝑣𝑖𝑗(𝑚) (19)

Hitung MSE

4. Studi Kasus dan Pembahasan

Pada penelitian ini, data yang digunakan yaitu data curah hujan wilayah Semarang barat pada tahun Januari 2003 – Desember 2012, terlihat bahwa data tersebut berfluktuasi, mengandung faktor musiman dan ada kecenderungan mengalami tren.

Arsitektur jaringan terbaik algoritma Resilient untuk peramalan curah hujan wilayah Semarang barat dimana data yang digunakan sebanyak 80% untuk training dan 20% untuk data testing dengan MSE 0,1 adalah jaringan dengan 3 neuron pada lapisan input , 1 lapisan hidden dengan 18 neuron dan 1 neuron pada lapisan output, atau (3,18,1 )dengan parameter = 1,2

dan

= 0,5.

Hasil simulasi peramalan dengan menggunakan algoritma Resilient dirangkum pada table 4.1. Dari parameter tujuan yang ditetapkan dalam pelatihan jaringan syaraf yaitu nilai MSE sebesar 0.1 dihasilkan besaran MSE pengujian yang berbeda beda.

Simulasi peramalan menggunakan 3 perbedaan dalam perbandingan jumlah data pelatihan dan jumlah data dalam pengujian yang pertama menggunakan 50% data pelatihan dan 50% data pengujian, ke dua menggunakan jumlah data pelatihan 70% dan jumlah data pengujian 30% dan yang ke tiga adalah jumlah data pelatihan 80% dan jumlah data pengujian 20%. Hasil simulasi diperoleh bahwa untuk jumlah data training dan data testing sebesar 50%:50% nilai MSE pengujian yang paling kecil sebesar 0,1503 adalah di hiden layer sebanyak 15. Jumlah data training dan data testing sebesar 70%:30% nilai MSE pengujian yang paling kecil sebesar 0,1942 adalah di hiden layer sebanyak 14. Dari hal diatas terlihat semakin banyak hiden layer maka waktu yang lebih cepat dan epoch yang diperlukan semakin besar.

Untuk data training 80% dan data testing 20% dimulai pada hiden layer 15 karena pada hiden layer 14 membutuhkan waktu dan epoch yang lama, sehingga untuk waktu yang sedikit dibutuhkan jumlah hiden layer yang besar, hal ini karena jumlah data training lebih banyak sehingga diperlukan waktu lebih cepat dan epoch lebih banyak dalam pelatihan untuk menghasilkan nilai MSE 0,1.

Pemodelan dengan jaringan syaraf tiruan memiliki tingkat akurasi yang lebih baik dibandingkan dengan pemodelan peramalan klasik. Dan algoritma Resilient mempunyai kemampuan mencapai MSE pelatihan 0,1 seperti terlihat pada grafik 4.2 berikut

(6)

Grafik 4.2 Plot data target - output pelatihan

Pada plot data jaringan syaraf tiruan (3,18,1) dengan MSE 0,1 gambar 4.2 pada proses pelatihan terlihat bahwa nilai output mendekati nilai target, hal ini menunjukkan kecilnya nilai deviasi antara target dan output untuk data pelatihan

Untuk peramalan curah hujan wilayah Semarang barat menggunakan metode klasik yaitu SARIMA diperoleh model ARIMA(0,1,1)(0,1,1)12 dengan persamaan

𝐿𝑛𝑍𝑡= 𝐿𝑛𝑍𝑡−1+ 𝐿𝑛𝑍𝑡−12− 𝐿𝑛𝑍𝑡−13+ 𝑒𝑡− 0,7885 𝑒𝑡−1− 0,8619 𝑒𝑡−12+ 0,0507𝑒𝑡−13

5. Kesimpulan

Berdasarkan penelitian dan pembahasan, maka dapat diambil kesimpulan untuk data curah hujan wilayah Semarang barat tahun 2003-2012 sebagai berikut:

1. Untuk nilai MSE pelatihan yaitu 0,1 algoritma Resilient dengan arsitektur jaringan 1 unit input, 18 unit neuron pada lapisan hidden dan 1 unit output (1-18-1) dengan 80% data pelatihan dan 20% data pengujian diperoleh waktu relatif cepat yaitu 5.6 detik, 1053 epoch dan MSE testing 0,1503 dicapai dengan parameter __{= 1,2 dan}





= 0,5

2. Dari simulasi algoritma Resilient dengan jumlah data pelatihan dan data pengujian, 50%:50%, 70%:30%, 80%:20%, jika jumlah data pelarihan lebih banyak yaitu 80% membutuhkan waktu yang lebih sedikit dan epoch yang lebih banyak dibandingkan dengan jumlah data pelatihan yang lain

DAFTARPUSTAKA

Al_Naima, F.M., Al-Timemy, A.H., 2010, Resilient back Propagation Algorithm for Breast Biopsy Classification Based on Artificial neural Networks, Computational Intelligence and Modern Heuristics, Edited by Al-Dahoud Ali, Publisher: IN-TECH, Vienna, Austria

Chen, C., and Lin, J., 2011, Appliying Rprop neural Network for the Prediction of the Mobile Station Location, Sensors, 11(4):4207-4230.

Chong, E.K.P dan Zak, S.H., 2001, An Introduction To Optimization, Second Edition, John Wiley & Sons Inc, New York

Fausett, L., 1994, Fundamental of Neural Network; architectures, algoritms and applications, Prentice-Hall Inc., Englewoods Cliffs, New Jersey

Febrianty D., Dewanto, Aradea, 2007, Analisis jaringan syaraf tiruan RPROP untuk mengenali pola elektronikardiografi dalam mendeteksi penyakit jantung koroner, Seminar Nasional Aplikasi Teknologi Informasi, Yogyakarta

Gupta, K. and Kang, S. 2011, Implementation of Resilient backpropagation & fuzzy clustering based approach for finding fault prone modules in open source software systems, International Journal of Research in Engineering and Technology (IJRET),1, no.1:38-43.

Hamilton JD. 2001. Time Series Analisis I, Princeton University Press, New Jersey

Igel, C., and Husken, M., 2003, Emperical Evaluation of the Improved Rprop Learning Algoritm. Neurocomputing, 50: 105-123.

Makridakis, Wheelwright, dan McGee, 1999, Metode dan Aplikasi Peramalan, (diterjemahkan oleh Hari Suminto), Jilid Satu, Edisi Kedua, Penerbit Binarupa Aksara, Jakarta

Riedmiller, M., 1994, Rprop- Description and Implementation Detail , University of Karlsruhe, Tech. Rep.

(7)

Riedmiller, M., and Braun. H., 1992. A Direct Adaptive Method for Faster Backpropagation Learning: The RPROP algorithm, Proc. IEEE International Conference on Neural Network (ICNN)(Ruspini,H., (Ed.), 586-591, San Fransisco

Rumelhart, D.E. Hinton, G.and Williams, R.J., 1986, Learning Internal Representations by Back-propagationerror Errors, Parallel Distributed Processing: Explorations in Microstructure of Cognition, MIT Press, Cambridge,M.A, 1:318-362.

Samaringhe, S., 2006, Neural Networks For Applied Sciences and Engineering From Fundamental to Compleks Pattern Recognition, Auerbach Publication Taylor & Francis Group.

Sorjamaa, A., Hao, J., Reyhani, N., Ji, Y.and Lendasse A., 2007 , Methodology for long-term prediction of time series, Neurocomputing, 70: 2861-2869.

Warsito, B. 2009, Kapita Selekta Statistika Neural Network, BP UNDIP Semarang

Wei, W.W.S., 1994, Time Series Analysis Univariate and Multivariate Methods, Addison-Wesley Publishing Company USA

Wilde, I.F., 2009, Neural Network, Mathematics Departement, King’s College London