commit to user
NEURAL NETWORK ENSEMBLES
UNTUK PERAMALAN
NILAI TUKAR DOLLAR TERHADAP RUPIAH
oleh
NARISWARI SETYA DEWI NIM. M0108022
SKRIPSI
ditulis dan diajukan untuk memenuhi sebagian persyaratan memperoleh gelar Sarjana Sains Matematika
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SEBELAS MARET
SURAKARTA 2012
commit to user
ABSTRAK
Nariswari Setya Dewi, 2012. NEURAL NETWORK ENSEMBLES UNTUK PERAMALAN NILAI TUKAR DOLLAR TERHADAP RUPIAH. Fakultas Ma-tematika dan Ilmu Pengetahuan Alam, Universitas Sebelas Maret.
Pada beberapa dekade terakhir, Neural Network (NN) diperkenalkan seba-gai salah satu metode peramalantime series untuk nilai tukar mata uang karena kemampuannya dalam memorisasi dan generalisasi data sebelumnya. Penelitian ini mengkaji ulang Neural Network Ensembles(NNE) yang merupakan pengga-bungan beberapa Neural Network(NN) dengan tujuan memperoleh peramalan yang lebih baik.
Metode yang digunakan dalam penelitian ini adalah studi literatur dan ke-mudian diterapkan pada data riil, yaitu data nilai tukar Dollar terhadap Rupiah periode 5 Januari 2009 sampai dengan 31 Mei 2012. Guna mempermudah penye-lesaian contoh kasus, peneliti menyusun program partisi sistematis untuk data pelatihan.
Berdasarkan hasil pembahasan diperoleh kesimpulan bahwa prosedur pem-bentukan NNE adalah membentuk NN tunggal untuk peramalan time series
yang terdiri dari (i) pembagian data menjadi data pelatihan dan data penguji-an, (ii) partisi data pelatihan menjadi subsampel dengan partisi sistematis, (iii) transformasi data, dan (iv) pelatihan masing-masing subsampel dengan algori-tma pembelajaran backpropagation. Selanjutnya penggabungan hasil pelatihan dari masing-masing subsampel dengan metode simple average dan backpropa-gation. Arsitektur jaringan terbaik ditentukan berdasarkan MSE terkecil dari pengujian. PenerapanNNE pada data nilai tukar Dollar terhadap Rupiah meng-hasilkan nilai MSE yang cukup kecil. Oleh karena itu, NNE dapat digunakan untuk peramalan nilai tukar mata uang.
Kata kunci : NNE, partisi sistematis, simple average, backpropagation
commit to user
ABSTRACT
Nariswari Setya Dewi, 2012. NEURAL NETWORK ENSEMBLES FOR EXCHANGE RATE FORECASTING OF DOLLAR TO RUPIAH . Faculty of Mathematics and Natural Sciences, Sebelas Maret University.
In recent decades, Neural Network (NN) is introduced as a method for currency exchange rates time series forecasting due to its ability to memorization and to generalize of the previous data. This research reviewed theNeural Network Ensembles (NNE) which is a merger of some Neural Network (NN) in order to obtain a better forecasting.
The method used in this research was the study of literature and then would be applied to real data, i.e data exchange rate of the Dollar against Rupiah period January 5, 2009 until May 31, 2012. In order to solve the example case easier, researchers compiled partitioning sistematic program to training data.
Based on the study it could be concluded that the procedure of NNE con-struction is to construct single NN for time series forecasting i.e (i) the division of the data into training data and testing data, (ii) partition the training data into sub-samples with systematic partition, (iii) the transformation of data, and (iv) training each sub sample with backpropagation learning algorithm. Then the re-sult of each sub-sample training is combined using the simple average method and backpropagation method. Best architecture is determined based on the minimum MSE of the testing. Application NNE in the exchange rate of the Dollar against the Rupiah data give small MSE. Therefore, NNE can be used for exchange rates forecasting .
Keywords : NNE, partition sistematic, simple average, backpropagation
commit to user
MOTO
Maka sesungguhnya bersama kesulitan ada kemudahan, sesungguhnya bersama
kesulitan ada kemudahan (Al-Insyirah : 5-6)
Man Jadda Wa Jadda
commit to user
PERSEMBAHAN
Karya ini kupersembahkan untuk
Ibu dan Bapakku tercinta,
Kakak Arditya Prayudi dan adik Andita Wahyu Prasetya.
commit to user
KATA PENGANTAR
Puji syukur penulis panjatkan kepada Allah SWT, yang telah melimpahkan rahmat dan karunia-Nya, sehingga penulis dapat menyelesaikan skripsi ini. Selain itu, penulis juga mengucapkan terimakasih kepada
1. Ibu Winita Sulandari, M.Si. sebagai Dosen Pembimbing I atas kesediaan, motivasi, dan kesabaran yang diberikan dalam membimbing penulis dan Ba-pak Supriyadi Wibowo, M.Si. sebagai Dosen Pembimbing II atas kesediaan dan memotivasi penulis dalam penyusunan skripsi ini,
2. Raditya Teguh Anugraha, Kartini, Nanda, Iif, Lia, dan teman-teman mate-matika FMIPA UNS angkatan 2008 atas kebersamaan dan semangat yang diberikan,
3. Semua pihak yang telah membantu dalam penyusunan skripsi ini. Semoga skripsi ini dapat bermanfaat bagi pembaca.
Surakarta, Oktober 2012 Penulis
commit to user
Daftar Isi
HALAMAN JUDUL . . . i
HALAMAN PENGESAHAN . . . ii
ABSTRAK . . . iii
ABSTRACT . . . iv
MOTO . . . v
PERSEMBAHAN . . . vi
KATA PENGANTAR . . . vii
DAFTAR ISI . . . . ix
DAFTAR TABEL . . . . x
DAFTAR GAMBAR . . . . xi
DAFTAR NOTASI . . . xii
I PENDAHULUAN 1 1.1 Latar Belakang Masalah . . . 1
1.2 Perumusan Masalah . . . 3
1.3 Batasan Masalah . . . 3
1.4 Tujuan Penelitian . . . 3
1.5 Manfaat Penelitian . . . 3
II LANDASAN TEORI 4 2.1 Tinjauan Pustaka . . . 4
2.1.1 Neural Network . . . 5
2.1.2 Backpropagation . . . 6
commit to user
2.1.2.2 Fungsi AktivasiBackpropagation . . . 8 2.1.2.3 Algoritma Levenberg-Marquadt(LM) . . . 10 2.1.3 ProsedurNeural Network untuk Peramalan Time Series . 11 2.2 Kerangka Pemikiran . . . 13
III METODE PENELITIAN 14
IV PEMBAHASAN 16
4.1 Neural Network Ensembles . . . 16 4.2 Penerapan . . . 24
V PENUTUP 27
5.1 Kesimpulan . . . 27 5.2 Saran . . . 28
DAFTAR PUSTAKA 29
LAMPIRAN 31
commit to user
Daftar Tabel
commit to user
DAFTAR NOTASI
Σ : sigma
yti : variabel input ke-i pada waktu ke-t(i= 1,2, . . . , n)
vij : bobot yang menghubungkan neuron input ke-i (i= 1,2, . . . , n)
keneuron ke-j (j = 1,2, . . . , p) pada lapisan tersembunyi
v0j : bias antara lapisan input keneuron ke-j (j = 1,2, . . . , p) pada
lapisan tersembunyi
ψh
j : fungsi aktivasi di neuron ke-j (j = 1,2, . . . , p) pada lapisan
tersembunyi
wj : bobot yang menghubungkan neuron lapisan tersembunyi ke-j
(j = 1,2, . . . , p) ke neuron pada lapisan output
w0 : bias antara lapisan tersembunyi ke neuron pada lapisan output
ψo : fungsi aktivasi di neuron pada lapisanoutput
z netj : nilai-nilai setelah penjumlahan input dan bobot-bobot pada
lapisan tersembunyi padainput ke-j
zj : output pada lapisan tersembunyi yang diproses pada neuron ke−j
y net : penjumlahan output pada lapisan tersembunyi zj dan bobot
lapisan tersembunyi ke lapisan output wj
ˆ
yt : output pada waktu ke-t
E : jumlah kuadrat sesatan
H : matriks Hessian
η : parameter Marquardt
I : matriks identitas
commit to user
Bab I
PENDAHULUAN
1.1
Latar Belakang Masalah
Uang merupakan alat pembayaran umum yang diterima secara luas dan berfungsi sebagai alat ukur [9]. Setiap negara memiliki mata uang yang digunakan untuk menunjukkan harga barang dan jasa. Dalam perdagangan antar negara, setiap negara yang terlibat menggunakan mata uang yang berbeda. Hal ini, tentu saja menimbulkan masalah karena nilai mata uang suatu negara tidak dapat ditukar dengan mata uang negara lain dengan nominal yang sama. Menurut Krugman dan Maurice [5], nilai dari harga sebuah mata uang dari suatu negara yang diukur atau dinyatakan dalam mata uang lainnya disebut nilai tukar mata uang. Nilai tukar mata uang suatu negara merupakan salah satu indikator penting dalam suatu perekonomian. Menurut Dewi [1] nilai tukar mempunyai implikasi yang luas, baik dalam konteks ekonomi domestik maupun internasional, karena hampir semua negara di dunia melakukan transaksi internasional.
Kemungkinan penurunan nilai tukar (depresiasi) atau kenaikan (apresiasi) dari setiap mata uang terhadap mata uang lainnya dapat terjadi setiap saat. Beberapa faktor penting, seperti pertumbuhan ekonomi, pengembangan perda-gangan, suku bunga dan tingkat inflasi, berdampak signifikan terhadap fluktuasi nilai tukar [9]. Fluktuasi-fluktuasi tajam pada nilai tukar mata uang merupakan sumber resiko nilai tukar mata uang yang serius bagi investor, perusahaan dan kalangan perbankan dalam transaksi internasional. Oleh karena itu, untuk meng-urangi resiko tersebut diperlukan peramalan. Peramalan nilai tukar mata uang merupakan tahapan awal yang penting sebelum dilakukan proses jual beli nilai tukar mata uang yang nantinya menjadi acuan perekonomian dunia.
commit to user
gai salah satu metode peramalantime series untuk nilai tukar mata uang karena kemampuannya dalam memorisasi dan generalisasi dari data masa lalu [8]. Fau-sett [2] menyatakan bahwaNN adalah sistem pemprosesan informasi yang memi-liki karakteristik mirip dengan jaringan syaraf biologi yang saling berhubungan antar neuron-neuron dimana tiap hubungan tersebut mempunyai bobot-bobot koneksi. Metode dari NN yang dapat diaplikasikan dengan baik dalam bidang peramalan adalah backpropagation. Metode pelatihan backpropagation pertama kali dirumuskan Werbos (1974) dan dipopulerkan oleh Rumelhart dan McCle-lland [2]. Backpropagation dapat melakukan perbaikan bobot hingga diperoleh nilaioutput yang hampir sama dengan target. Kelebihan peramalan menggunak-an NN adalah dapat mempelajari perilaku data tanpa asumsi-asumsi tertentu. Moraga et al. [6] menyebutkan bahwa algoritma pembelajaran NN dapat me-nyelesaikan permasalahan model time series nonlinear. Akan tetapi, kesalahan dalam pengambilan sampel padaNN dapat menyebabkan kondisi overfitting, ya-itu kondisi dimana jaringan hanya mampu menghasilkanoutput yang baik untuk data pelatihan saja, tapi tidak untuk data pengujian.
Kondisi overfitting pada NN dapat diatasi dengan menggabungkan bebe-rapa NN menjadi Neural Network Ensembles (NNE) [3]. Penelitian sebelum-nya tentang NNE telah dilakukan oleh Zhang dan Berardi [15] dan Yu et al.
[13]. Zhang dan Berardi [15] mempartisi data pelatihan dengan partisi sistematis menjadi beberapa subsampel. Masing-masing subsampel dilatih kemudian diga-bungkannya dengan metodesimple average. Sedangkan Yu et al. [13] melakukan penggabungan dengan metode backpropagation. Dalam hal ini peneliti mengkaji ulang dan menjabarkan prosedur pembentukanNNE metode simple average dan
backpropagation. Penerapan dilakukan pada nilai tukar Dollar terhadap Rupi-ah periode 5 Januari 2009 sampai 31 Mei 2012 serta menyusun algoritma dan program partisi data secara sistematis.
commit to user
1.2
Perumusan Masalah
Berdasarkan latar belakang, dapat disusun perumusan masalah yaitu ba-gaimana prosedur pembentukan NNE dan penerapannya dalam peramalan nilai tukar mata uang.
1.3
Batasan Masalah
Batasan masalah pada penelitian ini diberikan untuk membatasi ruang lingkup pembahasan masalah yaitu jumlah neuron pada lapisan input adalah
i= 2, . . . ,5, dan jumlahneuron pada lapisan tersembunyi adalah j = 1, . . . ,5.
1.4
Tujuan Penelitian
Tujuan penelitian ini adalah untuk menjelaskan dan menjabarkan prosedur pembentukan NNE dan penerapannya dalam peramalan nilai tukar mata uang.
1.5
Manfaat Penelitian
Manfaat dari penelitian ini adalah prosedur NNE dapat digunakan untuk peramalan data time series dan dapat memperkaya ilmu pengetahuan terkait
NNE sebagai pengembangan dariNN.
commit to user
Bab II
LANDASAN TEORI
Bab ini terdiri dari tinjauan pustaka dan kerangka pemikiran. Tinjauan pustaka berisi penelitian-penelitian yang pernah dilakukan dan digunakan seba-gai dasar dilaksanakannya kajian ini, serta teori-teori penunjang berisi definisi-definisi yang digunakan dalam pembahasan. Kerangka pemikiran berisi alur pe-mikiran dalam penelitian ini.
2.1
Tinjauan Pustaka
Neural Network (NN) adalah sistem pemrosesan informasi yang memiliki karakteristik mirip dengan jaringan syaraf biologi [2]. Jaringan tersebut saling berhubungan antarnode atau simpul dimana tiap-tiap hubungan mempunyai bo-bot koneksi yang dilatih untuk mencapai respon yang diinginkan. Fungsi jaringan tersebut menggambarkan ketergantungan nilai data saat ini terhadap nilai data sebelumnya. Dengan demikian,NN merupakan metode yang dapat diaplikasikan untuk peramalan time series. Beberapa penelitian seperti Zhang et al. [14], Mo-ragaet al. [6], Resmana [8] dan Iwan [4] telah menggunakanNN sebagai metode peramalan time series.
Menurut Hansen dan Salamon [3] penggabungan beberapa Neural Network
(NN) dapat mengatasi kondisi overfitting yang kadang terjadi pada NN kare-na kesalahan pengambilan sampel. Penelitian sebelumnya tentang NNE untuk peramalan time series telah dilakukan oleh Zhang dan Berardi [15] dan Yu et al. [13]. Pada penelitian ini, ditekankan terkait prosedur NNE lebih detail dan penerapannya untuk peramalan nilai tukar Dollar terhadap Rupiah. Berikut ini diberikan definisi dan teori yang mendukung pencapaian penelitian.
commit to user
2.1.1
Neural Network
Neural Network(NN) diperkenalkan pertama kali pada tahun 1943 oleh
neurophysiologist Waren McCulloch dan logician Walter Pits. McCulloch dan Pitts menyimpulkan bahwa kombinasi beberapaneuron sederhana menjadi sebu-ah sistem jaringan akan meningkatkan kemampuan komputasinya. Bobot dalam jaringan yang diusulkan oleh McCulloch dan Pitts diatur untuk melakukan fungsi logika sederhana.
Menurut Fausett [2], NN dibentuk sebagai perluasan dari jaringan syaraf biologi. Struktur jaringan pada Gambar 2.1 adalah bentuk standart dasar satuan
neuron jaringan otak manusia yang telah disederhanakan. Fungsi dendrit adalah menyampaikan sinyal darineuron keneuron yang terhubung dengannya. Sebagai
output setiap neuron memiliki akson, sedangkan bagian penerima sinyal disebut sinapsis.
Celah Sinapsis
Celah Sinapsis Dendrit
Akson darineuronlain Dendrit darineuronlain Akson
Soma
Gambar 2.1. Struktur dasar NN [2]
Seperti manusia, NN belajar dari suatu contoh karena mempunyai karakte-ristik yang adaptif, yaitu dapat belajar dari data-data sebelumnya dan mengenal pola data yang selalu berubah. Hal yang ingin dicapai dengan melatihNN adalah keseimbangan antara kemampuan memorisasi dan generalisasi. Yang dimaksud kemampuanmemorisasi adalah kemampuanNN untuk mengambil kembali seca-ra sempurna sebuah pola yang telah dipelajari. Kemampuangeneralisasi adalah kemampuan NN untuk menghasilkan respons yang bisa diterima terhadap pola-polainput yang serupa (namun tidak identik) dengan pola-pola yang sebelumnya telah dipelajari. Hal ini sangat bermanfaat jika dimasukkan data baru yang be-lum pernah dipelajari, maka NN itu masih tetap dapat memberikan tanggapan
commit to user
Tabel 2.1. Keanalogan NN terhadap jaringan syaraf biologis [7]
Neural network Jaringan syaraf biologi
neuron soma
input dendrit
output akson
bobot sinapsis
yang baik, memberikan output yang paling mendekati [7]. Tabel 2.1. menunjuk-kan keanalogan NN terhadap jaringan syaraf biologis.
Input
Gambar 2.2. Struktur neuron pada NN [7]
Strukturneuron NN diperlihatkan pada Gambar 2.2. Satu sel syaraf terdiri dari tiga bagian, yaitu fungsi penjumlah, fungsi aktivasi, dan output. Input akan dikirim ke neuron dengan bobot tertentu. Input ini akan diproses oleh suatu fungsi yang akan menjumlahkan nilai-nilai bobot yang ada. Hasil penjumlah-an kemudipenjumlah-an akpenjumlah-an dibpenjumlah-andingkpenjumlah-an dengpenjumlah-an suatu nilai ambpenjumlah-ang (threshold) tertentu melalui fungsi aktivasi setiap neuron. Selanjutnya neuron tersebut akan mengi-rimkan output melalui bobot-bobot output ke semua neuron yang berhubungan dengannya.
2.1.2
Backpropagation
Backpropagation merupakan model NN dengan banyak lapisan. Backpro-pagation melatih jaringan untuk mendapatkan keseimbangan antara kemampuan jaringan mengenali pola yang digunakan selama pelatihan serta kemampuan ja-ringan dalam memberikan respon yang benar terhadap pola input yang serupa
commit to user
(namun tidak identik) dengan pola yang dipakai selama pelatihan.
Secara umum, Suhartono [11] menyatakan bahwa persamaan NN untuk peramalan time series dengan algoritma pelatihan backpropagation dengan sa-tu lapisan tersembunyi unsa-tuk perhisa-tungan peramalan ˆyt (output) menggunakan
input observasi masa laluyt−1,yt−2, ..., yt−i ditulis dalam bentuk
wj : bobot yang menghubungkan neuron lapisan tersembunyi ke-j
(j = 1,2, . . . , p) ke neuron pada lapisan output,
w0 : bias antara lapisan tersembunyi ke neuron pada lapisan output,
ψo : fungsi aktivasi di neuron ke-k pada lapisan output.
Beberapa notasi yang digunakan untuk memperjelas penjabaran proses al-goritma backpropagation. Nilai-nilai penjumlahan dari hasil perkalian input dan bobot-bobot yang menujuneuron ke-j (j = 1,2, . . . , p) pada lapisan tersembunyi dinyatakan dengan z netj dengan
commit to user
Penjumlahan dari hasil perkalianoutput darineuron ke-j (j = 1,2, . . . , p) lapisan tersembunyi zj (j= 1,2, . . . , p) dan bobot lapisan tersembunyi ke lapisanoutput
wj dinotasikan dengan
y net=w0+ p
X
j=1
zjwj.
Oleh karena itu,output pada waktu ke-t adalah ˆyt dapat ditulis sebagai berikut.
ˆ
yt =ψo(y net) =ψo(x1, x2, . . . , xn).
Bobot-bobot yang digunakan padabackpropagation diestimasi dari data de-ngan meminimumkan jumlah kuadrat sesatan pada data pelatihan
E= 1
Backpropagation merupakan algoritma untuk mendapatkan bobot-bobot pada setiap lapisan yang dinotasikan dengan vij dan wj dengan cara meminimumkan
nilai dari kuadrat sesatan.
2.1.2.1 Arsitektur Backpropagation
Di dalam jaringan backpropagation, setiap neuron yang berada di lapisan
input terhubung dengan setiap neuron yang ada di lapisan tersembunyi. Hal serupa berlaku pula pada lapisan tersembunyi. Setiapneuron yang ada di lapisan tersembunyi terhubung dengan setiapneuron yang ada di lapisan output.
Gambar 2.3. menunjukkan arsitektur backpropagation dengan n buah in-put (ditambah satu bias), satu lapisan tersembunyi yang terdiri dari p neuron
(ditambah satu bias), serta satu neuron output. vij merupakan bobot garis dari
neuron input keneuron lapisan tersembunyizj (vj0 merupakan bobot garis yang
menghubungkan bias di neuron input ke neuron lapisan tersembunyi zj). wkj
merupakan bobot dari neuron lapisan tersembunyi zj ke neuron output yˆ (w0
merupakan bobot dari bias di lapisan tersembunyi ke neuron output zk).
2.1.2.2 Fungsi Aktivasi Backpropagation
Pada setiap lapisan NN terdapat fungsi aktivasi. Fungsi ini adalah fungsi yang digunakan untuk membawa input menuju output yang diinginkan. Fungsi
commit to user
Gambar 2.3. Arsitektur backpropagation
aktivasi inilah yang akan menentukan besarnya bobot. Dalam backpropagation, fungsi aktivasi yang dipakai harus memenuhi beberapa syarat yaitu kontinu, terdi-ferensial dengan mudah dan merupakan fungsi yang tidak turun. Fungsi aktivasi yang memenuhi ketiga syarat tersebut sehingga sering digunakan dalam backpro-pagation dan digunakan pada penelitian ini adalah fungsi linier (purelin), sigmoid biner (logsig).
1. Fungsi linear (purelin). Fungsi linear atau purelin memiliki nilaiinput yang sama dengan nilaioutput. Fungsi diperlihatkan pada Gambar 2.4.
-2 -1 1 2 x
Gambar 2.4. Fungsi linear (purelin) Algoritma dari fungsi ini adalah
ψx =x.
commit to user
2. Fungsi sigmoid biner (logsig). Fungsi sigmoid biner atau logsig adalah fung-si aktivafung-si yang membawainput keoutput dengan perhitungan log-sigmoid. Nilaioutput memiliki range 0 sampai 1. Fungsi sigmoid biner diperlihatkan pada Gambar 2.5.
Gambar 2.5. Fungsi sigmoid biner (logsig)
Algoritma dari fungsi ini adalah
ψx =
1 (1 +ex).
2.1.2.3 Algoritma Levenberg-Marquadt(LM)
Algoritma Levenberg-Marquadt(LM) merupakan pengembangan algoritma pelatihan backpropagation standar. Pada algoritma Levenberg-Marquadt(LM), prosesupdate bobot dan bias menggunakan pendekatan matriks Hessian.
Langkah dasar algoritma Levenberg-Marquardt adalah penentuan matriks Hessian untuk mencari bobot-bobot dan bias koneksi yang digunakan. matriks Hessian merupakan turunan kedua dari fungsi kinerja terhadap masing-masing komponen bobot dan bias. Untuk memudahkan proses komputasi, matriks Hes-sian diubah dengan pendekatan secara iteratif pada masing-masingepoch selama algoritma pelatihan berjalan. Proses perubahannya dilakukan dengan menggu-nakan fungsi gradien. Jika fungsi kinerja yang digumenggu-nakan berbentuk jumlah ku-adrat eror, maka matriks Hessian dapat diestimasi dengan persamaan berikut.
H =JTJ +ηI
dengan
commit to user
η : parameterLevenberg-Marquardt,
I : matriks identitas,
J : matriks Jacobian yang terdiri dari turunan pertama eror jaringan terhadap masing-masing komponen bobot dan bias.
Matriks Jacobian dapat dikomputasikan melalui teknikbackpropagation stan-dar. matriks Jacobian tersusun dari turunan pertama fungsi eror terhadap masing-masing komponen bobot dan bias koneksi jaringan. Nilai parameter Levenberg-Marquardt (η) dapat berubah pada setiapepoch. Jika setelah berjalan satuepoch
nilai fungsi eror menjadi lebih kecil, nilai η akan dibagi oleh faktor τ. Faktor
τ merupakan pengendali laju eror. Bobot dan bias baru yang diperoleh akan dipertahankan dan pelatihan dapat dilanjutkan keepoch berikutnya. Sebaliknya, jika setelah berjalan satuepoch nilai fungsi eror menjadi lebih besar maka nilaiη
akan dikalikan dengan faktorτ. Nilai perubahan bobot dan bias dihitung kembali sehingga menghasilkan nilai yang baru.
2.1.3
Prosedur
Neural Network
untuk Peramalan
Time
Series
Neural Network(NN) dapat diaplikasikan dengan baik untuk peramalan (forecasting). Langkah-langkah membangun struktur jaringan untuk peramalan dinyatakan sebagai.
1. Pembagian data
Aspek pembagian data harus ditekankan agar jaringan mendapat data pe-latihan yang secukupnya dan data pengujian dapat menguji prestasi pela-tihan yang dilakukan. Jumlah data yang kurang untuk proses pelapela-tihan akan menyebabkan jaringan tidak dapat mempelajari sebaran data dengan baik. Sebaliknya, data yang terlalu banyak untuk proses pelatihan akan melambatkan proses pemusatan (konvergensi). Data pelatihan yang berle-bihan akan menyebabkan jaringan cenderung untuk menghafal data yang
commit to user dimasukkan.
2. Transformasi data
Sebelum dilakukan pelatihan pada jaringan yang akan digunakan untuk peramalan terlebih dahulu dilakukan transformasi data. Sebab utama data ditransformasikan adalah agar kestabilan sebaran data dicapai. Selain itu berguna untuk menyesuaikan nilai data dengan range fungsi aktivasi yang digunakan dalam jaringan [10].
Berikut adalah rumus transformasi datanya
y′
ymin : nilai minimum dari seluruh data,
ymaks : nilai maksimal dari seluruh data,
a : nilai tertinggi interval,
b : nilai terendah interval.
3. Perancangan struktur jaringan yang optimum
Struktur jaringan ditentukan berdasarkan jumlahneuron input, jumlah la-pisan tersembunyi, jumlah neuron lapisan tersembunyi dan jumlahneuron
lapisan output yang akan digunakan dalam jaringan. Belum ada aturan yang pasti untuk menentukan jumlah lapisan tersembunyi dan jumlah neu-ron input dalam setiap lapisan. Dalam beberapa penelitian, untuk menen-tukan jumlah lapisan tersembunyi dan jumlah neuron input dalam setiap lapisan dengan trial dan error (mencoba-coba), yaitu menguji beberapa jaringan yang berbeda-beda dan memilih jaringan tersebut yang memiliki nilai eror terkecil.
4. Memilih dan menggunakan struktur jaringan yang optimum
Jaringan yang dibangun akan dinilai keakuratan ramalannya. Aturan pe-nilaian yang digunakan yaitu Mean Square Error (MSE). Nilai MSE di-gunakan karena mengenal secara pasti signifikasi hubungan di antara data
commit to user
ramalan dengan data aktual melalui persentase dari data aktual serta indi-kator positif atau negatif pada eror diabaikan
MSE = 1
Berdasarkan nilai MSE yang terendah dari proses pelatihan diperoleh ja-ringan yang optimum. Keakuratan ramalan jaja-ringan dilihat dari nilaiMSE
dari proses pengujian.
2.2
Kerangka Pemikiran
Nilai tukar mata uang suatu negara merupakan salah satu indikator penting dalam suatu perekonomian. Data nilai tukar mata uang merupakan jenis data
time series yang dapat dimodelkan dengan menggunakan NN. Moraga et al. [6] menyebutkan bahwa algoritma pembelajaran NN dapat menyelesaikan permasa-lahan model time series nonlinear. Akan tetapi, kesalahan dalam pengambilan sampel pada NN dapat menyebabkan kondisi overfitting, yaitu kondisi dimana jaringan hanya mampu menghasilkanoutput yang baik untuk data pelatihan saja, tapi tidak untuk data pengujian.
Menurut Hansen dan Salamon [3] penggabungan beberapa NN menjadi
Neural Network Ensemble (NNE) merupakan cara yang efektif untuk mengatasi masalah overfitting. Hal ini menjadi alasan model NNE dapat digunakan untuk meramalkan nilai tukar mata uang. Penelitian sebelumnya tentang NNE untuk peramalan nilai tukar mata uang telah dilakukan oleh Zhang dan Berardi [15] dan Yu et al [13]. Dalam hal ini penulis akan mengkaji ulang dan menjabarkan lebih detail mengenai prosedur pembentukan NNE serta menerapkannya dalam peramalan nilai tukar mata uang Rupiah terhadap Dolar tanggal 5 Januari 2009 sampai 31 Mei 2012.
commit to user
Bab III
METODE PENELITIAN
Metode yang digunakan dalam penelitian ini adalah studi literatur yaitu dengan mempelajari referensi yang berupa buku dan jurnal yang bersesuaian de-ngan tujuan penelitian. Dalam penelitian ini algoritma pembelajaran yang digu-nakan adalah algoritma backpropagation tipeLevenberg-Marquardt(LM). Jumlah
neuron pada lapisan input adalah i= 2, . . . ,5, dan jumlah neuron pada lapisan tersembunyi adalah j = 1, . . . ,5. Adapun langkah operasional yang diperlukan dalam penelitian adalah
1. mengkaji ulang beberapa jurnal terkaitNN dan NNE, 2. membuat algoritma dan program partisi data sistematis,
3. penerapan prosedur NNE pada data nilai tukar Dollar terhadap Rupiah periode 5 Januari 2009 sampai 31 Mei 2012,
(a) pembentukan NN tunggal yang terdiri dari
i. pembagian data menjadi data pelatihan dan data pengujian, ii. partisi data pelatihan menjadi subsampel dengan partisi
sistema-tis,
iii. transformasi data dengan interval [0.1,0.9],
iv. pelatihan masing-masing subsampel dengan algoritma pembela-jaranbackpropagation tipeLevenberg-Marquardt(LM).
(b) pembentukan NNE yang terdiri dari
i. penggabungan hasil pelatihan dari masing-masing subsampel de-ngan metode simple average dan metode backpropagation,
commit to user
iii. memilih dan menggunakan struktur jaringan berdasarkan nilai
Mean Square Error (MSE),
iv. melakukan peramalan dengan menggunakan struktur jaringan ter-baik.
4. membuat kesimpulan.
commit to user
Bab IV
PEMBAHASAN
4.1
Neural Network Ensembles
Paradigma pembelajaran Neural Network Ensembles(NNE) pertama kali dikenalkan oleh Hansen dan Salamon(1990) dimana NNE merupakan pengga-bungan dari beberapa NN. Proses pembentukan NNE adalah dengan membagi data pelatihan menjadi beberapa subsampel berdasarkan n-input. Penggabung-an NN menjadi NNE dapat menggunakan metode simple average dan metode
backpropagation. Dalam penelitian ini jumlahneuron pada lapisaninput dibatasi dengan i = 2, . . . ,5, dan jumlah neuron pada lapisan tersembunyi j = 1, . . . ,5. Sebagai langkah awal untuk menentukan NNE, arsitektur jaringan terlebih da-hulu ditentukan sesuai dengan batasan penelitian tersebut.
Gambar 4.1. ProsedurNNE
Pada Gambar 4.1. dijelaskan prosedur NNE dengan penjabaran sebagai berikut.
commit to user 1. Pembagian data
Seluruh data yang ada merupakan data pemodelan yang nantinya akan di-gunakan untuk meramalkan. Sebagaimana telah disebutkan pada tinjauan pustaka, data dibagi menjadi data pelatihan dan data pengujian. Kompo-sisi data pelatihan dan data pengujian yang biasa digunakan [14]
• 90% data pelatihan dan 10% data pengujian, • 80% data pelatihan dan 20% data pengujian, • 70% data pelatihan dan 30% data pengujian, • 60% data pelatihan dan 40% data pengujian. 2. Partisi data pelatihan
Pada penelitian ini akan digunakan partisi sistematis untuk membagi data pelatihan. Skema partisi sistematis bergantung pada lag-lag input yang digunakan dalam jaringan, data pelatihan dipartisi menjadi beberapa sub-sampel. Untuk struktur jaringan lag ke-n, kelompok data pelatihan dibagi menjadi sebanyak n yang ukurannya sama. Dalam skema ini, partisi data ke-ndengan nilai target tersendiri dan vektor-vektorinput dibuat dari data asli yang telah ditetapkan. Masing-masing partisi data terdiri dari lag-n, secara sistematis vektor-vektorinput dipilih dari semua lag-nvektor-vektor
input dari kelompok data pelatihan. Misal sebagai gambaran dari partisi 3 lagNNE dapat dilihat pada Tabel 4.1.
Tabel 4.1. Ilustrasi dari sampling data sistematis dengan vektor input 3 lag
subsampel 1 subsampel 2 subsampel 3
Kasus Input Target Input Target Input Target
commit to user
Adapun program partisi data pelatihan menjadi 3 subsampel adalah sebagai berikut.
%============input data pelatihan ============
%identifikasi matrik subsampely1
y sub1 = [ ];
%identifikasi matrik subsampely2
y sub2 = [ ];
%identifikasi matrik subsampely3
y sub3 = [ ];
%============ target data pelatihan ============
y= [ ];
%======= penggabungan matriksinput dan target =======
commit to user 3. Transformasi data
Pada penelitian ini digunakan fungsi aktivasi sigmoid biner pada lapisan tersembunyi yang memiliki range (0:1), sehingga data harus ditransforma-sikan terlebih dulu ke dalam range ini. Untuk mencegah nilai berada di asimtot biner maka data ditransformasikan pada range [0,1:0,9], sehingga diperoleh
ymin : nilai minimum dari seluruh data,
ymaks : nilai maksimal dari seluruh data,
a : nilai tertinggi interval,
b : nilai terendah interval.
4. Pelatihan data dengan algoritma backpropagation
Masing-masing data input yang telah dipartisi sistematis dilatih dengan algoritma backpropagation satu lapisan tersembunyi. Fungsi aktivasi yang digunakan adalah sigmoid biner diantara lapisaninput dan lapisan tersem-bunyi dan fungsi aktivasi linear diantara lapisan tersemtersem-bunyi dan lapisan
output. Langkah-langkah pelatihan NN dengan algoritma backpropagation
tipeLevenberg-Marquard dinyatakan sebagai. Langkah 0 :
• Inisialisasi bobot awal dengan bilangan acak. • Inisialisasi epoch 0,MSE 6= 0
• Tetapkan maksimum epoch, parameter Levenberg-Marquard (η >
0), faktor τ = 1 dan target eror
Langkah 1 Jika kondisi penghentian belum terpenuhi (epoch<maksimum
commit to user Langkah 2 :
• epoch = epoch + 1.
• Untuk setiap pasangan data pelatihan, dilakukan langkah 3. Langkah 3 Output yˆmenerima target pola yang berhubungan dengan
po-la input pelatihan. Jika diberikan n pasangan input data pelatihan (yr, tr), r= 1,2, ..., N, dengan yr adalah input dan tr target yang
ak-an dicapai. Kesalahak-an pada suatu data pelatihak-an ke-r didefinisikan sebagai
er =tr−yˆr
dengan
er : kesalahan padaneuron output,
tr : target yang diinginkan,
ˆ
yr : output jaringan.
Vektor kesalahan berukuranNx1 disimbolkan denganeyang tersusun dari er, i = 1,2, ..., N. Sehingga e dapat dituliskan e = [e1 e2 e3 . . .
eN]T.
Misal bobot dan bias koneksi dinyatakan dalam vektor w,w merupa-kan vektor berukuran ((2 +n)p+ 1)x1 dengann adalah jumlahneuron input dan p adalah jumlah neuron tersembunyi. Sehingga w dapat dituliskan w= [wj b2 vij b1j]T.
Kesalahan suatu pelatihan jaringan oleh vektor bobot dan bias koneksi w pada suatu data pelatihan ke-i menjadi
er = (tr−yr)
= (tr−f(yr, w)).
Vektor kesalahan oleh vektor bobot dan bias koneksi wmenjadi e(w) berukuran Nx1 yang tersusun dari er(w), dengan r = 1,2, . . . , N.
Menghitung fungsi jumlah kuadrat eror dengan persamaan
E(w) = 1 2e
T(w)e(w).
commit to user
Menghitung matriks Jacobian untuk vektor bobot dan bias koneksi
J(w) =h∂er
∂w i
N x((2+n)p+1
untuk r= 1,2, . . . , N.
(a) Menghitung matriks Hessian untuk vektor bobot dan bias koneksi
H(w) = [JT(w)J(w) +ηI]
((2+n)p+1)x((2+n)p+1).
(b) Menghitung perubahan vektor bobot dan bias dengan persamaan berikut.
∆w= −[[H(w)]−1JT(w)e(w)]
((2+n)p+1)x1.
(c) Menghitung vektor bobot dan bias baru w(baru) =w(lama) + ∆w.
(d) Menghitung kesalahan yang terjadi oleh bobot dan bias koneksi yang baru
E(w(baru)) = 1
2e(w(baru))
Te(w(baru)).
(e) Membandingkan E(w) dengan E(w(baru)).
• Jika E(w)≤E(w(baru)) maka didapatkan ηbaru =η ∗τ dan
kembali ke langkah (a)
• Jika E(w)¿E(w(baru)) maka didapatkan ηbaru = ητ
Sehingga w(t+ 1) =w(t) + ∆w. Kembali ke Langkah 2.
5. Penggabungan hasil pelatihan
Setelah dilakukan pelatihan dari masing-masing subsampel, selanjutnya di-lakukan penggabunganNN tunggal masing-masing subsampel dengan me-todesimple average dan backpropagation.
commit to user (a) Metode simple average
Setelah bobot pada tahap pelatihan masing-masing subsampel dida-pat, maka nilai pembobot tersebut digunakan untuk mengolah keselu-ruhan data pelatihan untuk menghasilkan output yang sesuai. Output
dari keseluruhan data pelatihan digabungkan dengan metode simple average dengan
Hasil dari pelatihan NN tunggal masing-masing subsampel yaitu ˆyti
digunakan sebagai input kemudian dilakukan penggabungan dengan
backpropagation sehingga diperoleh persamaan peramalan NNE de-ngan metode backpropagation yaitu
ˆ
ij : bobot yang menghubungkan neuron input ke-i
commit to user
w′
j : bobot yang menghubungkan neuron lapisan tersembunyi ke-j
(j= 1,2, . . . , p) ke neuron pada lapisan output,
w′
0 : bias antara lapisan tersembunyi ke neuron pada lapisan output,
ψo′
k : fungsi aktivasi dineuron pada lapisan output.
6. Pengujian jaringan
Jaringan yang telah dilatih diuji dengan data pengujian. Pengujian data digunakan untuk menguji apakah NNE dapat bekerja dengan baik yai-tu dengan memprediksi pola data yang dilatih dengan tingkat kesalahan yang kecil. Pengujian NNE untuk metode simple average dilakukan de-ngan mengolah data pengujian dede-ngan bobot terbaik pada tahap pelatihan masing-masing subsampel. Kemudian menghitungoutput sebanyak n sub-sampel dengan metode simple average. Sedangkan pengujian NNE untuk metode backpropagation, setelah bobot yang terbaik pada tahap pelatihan didapat, maka nilai pembobot tersebut digunakan untuk mengolah data masukan untuk menghasilkanoutput yang sesuai.
7. Memilih dan menggunakan struktur jaringan yang optimum
Jaringan yang dibangun akan dinilai keakuratan ramalannya. Aturan peni-laian yang digunakan adalah berdasarkan nilaiMean Square Error (MSE). NilaiMSE adalah
Berdasarkan nilai MSE yang terendah dari proses pelatihan diperoleh ja-ringan yang optimum. Keakuratan ramalan jaja-ringan dilihat dari nilaiMSE
dari proses pengujian.
4.2
Penerapan
Pada penelitian ini, prosedurNNE akan diterapkan dalam peramalan data nilai tukar mata uang. Data nilai tukar mata uang yang digunakan adalah data sekunder nilai tukar mata uang Dollar terhadap Rupiah pada tanggal 5 Januari
commit to user
2009 sampai dengan 31 Mei 2012 yang bersumber dari situs www.bi.go.id dan terlampir pada Lampiran 1.
Pada umumnya data nilai tukar mata uang memiliki pola fluktuatif. Hal tersebut dapat dilihat berdasarkan plot time series pada Gambar 4.2.
nilai tukar Dollar terhadap Rupiah
Gambar 4.2. Plottime series data nilai tukar mata uang Dollar terhadap Rupiah pada 5 Januari 2009 sampai dengan 31 Mei 2012
Sesuai prosedur NNE, langkah awal data dibagi menjadi data pelatihan dan data pengujian untuk seluruh kemungkinan arsitektur yang ada. Keseluruh-an data berjumlah 840 data. PembagiKeseluruh-an data dalam penelitiKeseluruh-an ini adalah 60% data pelatihan dan 40% data pengujian. Jadi jumlah data pelatihan dan data pengujian adalah 504 dan 336.
Langkah selanjutnya, mempartisi data pelatihan sebanyakn-input sehingga menjadin-subsampel. Masing-masing subsampel ditransformasikan dengan range [0,1:0,9].
Data dari masing-masing subsampel dilatih dengan algoritma pelatihan bac-kpropagation Levenberg-Marquadt. Pada pelatihan data subsampel target eror yang diharapkan sebesar 0,0001 dan maksimumepoch sebanyak 1000. Dari hasil pelatihan akan didapat bobot terbaik dan output hasil pelatihan dari masing-masing subsampel.
Setelah dilakukan pelatihan NN masing-masing subsampel selanjutnya di-lakukan penggabungan NN dengan metode simple average dan backpropagation.
commit to user
Pelatihan hingga pengujian dilakukan dengan jumlah neuron pada lapisan in-put adalah i = 2, . . . ,5, dan jumlah neuron pada lapisan tersembunyi adalah
j = 1, . . . ,5 yang terlampir pada Lampiran 2.
Hasil pelatihan dan pengujian didapatkan arsitektur jaringan terbaik de-ngan MSE terkecil dari pengujian pada metode simple average adalah 3-2-1, sedangkan dengan metode backpropagation adalah 2-2-1. Selanjutnya dilaku-kan pengecedilaku-kan hubungan linieritas antara data uji sebagai target dengan nilai peramalannya ditampilkan pada Gambar 4.3. Terihat bahwa hasil peramalan dan data uji berbanding lurus atau linier yang berarti peramalan mendekati data as-li. Untuk mengetahui besarnya pengaruh variabel independen terhadap variabel dependen secara simultan atau bersama-sama dihitung R2. Dari masing-masing
metode yaitu simple average dan backpropagation didapatkan R2 sebesar 97,8%
dan 97,4%.
data uji data uji
peramalan peramalan
Gambar 4.3. Hubungan linearitas pada metodesimple average(kiri) dan metode
backpropagation(kanan)
Grafik peramalan in-sampledan out-sample untuk nilai tukar Dollar terha-dap Rupiah ditampilkan pada Gambar 4.4 dan Gambar 4.5. Peramalanin-sample
merupakan peramalan dengan menggunakan keseluruhan data pelatihan dan pe-ngujian sedang peramalanout-sample merupakan peramalan untuk data baru ya-itu data pada periode 1 Juni sampai 31 Agustus 2012 [12]. NilaiMSE peramalan
in-sample dan out-sample dengan metode simple average sebesar 1,24685x10−4
dan 1,722x10−2. NilaiMSE peramalanin-sampledanout-sample dengan metode backpropagation sebesar 1,49075x10−4 dan 1,750x10−2 .
commit to user
commit to user
Bab V
PENUTUP
5.1
Kesimpulan
Penggabungan NN dapat dilakukan dengan menggunakan metode simple average dan backpropagation. Prosedur pembentukan NNE dinyatakan sebagai
1. pembentukan NN tunggal yang terdiri dari
(a) pembagian data menjadi data pelatihan dan data pengujian,
(b) partisi data pelatihan menjadi subsampel dengan partisi sistematis, (c) transformasi data,
(d) pelatihan masing-masing subsampel dengan algoritma pembelajaran
backpropagation tipeLevenberg-Marquardt(LM). 2. pembentukan NNE yang terdiri dari
(a) penggabungan hasil pelatihan dari masing-masing subsampel dengan metode simple average dan metodebackpropagation,
(b) menguji hasil pelatihan dengan data pengujian,
(c) memilih dan menggunakan struktur jaringan berdasarkan nilai Mean Square Error (MSE),
(d) melakukan peramalan dengan menggunakan struktur jaringan terbaik. Penerapan NNE pada data nilai tukar Dollar terhadap Rupiah menghasil-kan nilaiMSE yang cukup kecil dan memiliki hubungan yang linier antara target dan hasil peramalan. Kedua metode juga memberikan hasil peramalan mendekati data asli, sehinggaNNE dapat digunakan untuk peramalan nilai tukar mata uang.
commit to user
5.2
Saran
Pada penelitian ini, hanya diteliti tentangNeural Network Ensembles(NNE)
dengan metode pelatihan backpropagation. Oleh karena itu, bagi pembaca yang tertarik untuk mengembangkan skripsi ini, disarankan untuk menelitiNeural Ne-twork Ensembles(NNE) dengan metode Radial Basis Function(RBF).
![Gambar 2.1. Struktur dasar NN [2]](https://thumb-ap.123doks.com/thumbv2/123dok/3153291.1731042/17.595.93.497.249.526/gambar-struktur-dasar-nn.webp)
![Tabel 2.1. Keanalogan NN terhadap jaringan syaraf biologis [7]](https://thumb-ap.123doks.com/thumbv2/123dok/3153291.1731042/18.595.100.496.105.499/tabel-keanalogan-nn-jaringan-syaraf-biologis.webp)
