ANALISIS PENGARUH PEMBOBOTAN DENGAN METODE
NGUYEN WIDROW DALAM
BACKPROPAGATION
UNTUK PREDIKSI
TESIS
Oleh
HENRA VERYWATI PURBA
107038007/TINF
PROGRAM STUDI MAGISTER (S2) TEKNIK INFORMATIKA
FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA
MEDAN
ANALISIS PENGARUH PEMBOBOTAN DENGAN METODE
NGUYEN WIDROW DALAM
BACKPROPAGATION
UNTUK PREDIKSI
TESIS
Oleh
HENRA VERYWATI PURBA
107038007/TINF
PROGRAM STUDI MAGISTER (S2) TEKNIK INFORMATIKA
FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA
MEDAN
ANALISIS PENGARUH PEMBOBOTAN DENGAN METODE
NGUYEN WIDROW DALAM
BACKPROPAGATION
UNTUK PREDIKSI
TESIS
Diajukan sebagai salah satu syarat untuk memperoleh gelar Magister
Komputer dalam Program Studi Magister (S2) Teknik Informatika
pada Program Pascasarjana Fakultas Ilmu Komputer dan
Teknologi Informasi Universitas Sumatera Utara
Oleh
HENRA VERYWATI PURBA
107038007/TINF
PROGRAM STUDI MAGISTER (S2) TEKNIK INFORMATIKA
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM
UNIVERSITAS SUMATERA UTARA
MEDAN
PENGESAHAN TESIS
Judul Tesis
: ANALISIS PENGARUH PEMBOBOTAN
DENGAN METODE NGUYEN WIDROW
DALAM BACKPROPAGATION UNTUK
PREDIKSI
Nama Mahasiswa
: HENRA VERYWATI PURBA
Nomor Induk Mahasiwa
:
1
07038007
Program Studi
: MAGISTER TEKNIK INFORMATIKA
fakultas
: FAKULTAS ILMU KOMPUTER DAN
TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA
Menyetujui
Komisi Pembimbing
Dr. Erna Budhiarti Nababan, M IT Dr. Poltak Sihombing, M.Ko
Anggota
Ketua
m
Ketua Program Studi,
Dekan,
PERNYATAAN ORISINALITAS
ANALISIS PENGARUH PEMBOBOTAN DENGAN METODE
NGUYEN WIDROW DALAM
BACKPROPAGATION
UNTUK PREDIKSI
TESIS
Dengan ini saya menyatakan bahwa saya mengakui semua karya tesis ini adalah hasil
kerja saya sendiri kecuali kutipan dan ringkasan yang tiap satunya telah dijelaskan
sumbernya dengan benar.
Medan, Januari 2013
PERNYATAAN PERSETUJUAN PUBLIKASI
KARYA ILMIAH UNTUK KEPENTINGAN AKADEMIS
Sebagai sivitas akademika Universitas Sumatera Utara, saya yang bertanda tangan di
bawah ini :
Nama
: Henra Verywati Purba
NIM
: 107038007
Program Studi
: Teknik Informatika
Jenis Karya Ilmiah : Tesis
Demi pengembangan ilmu pengetahuan, menyetujui untuk memberikan kepada
Universitas Sumatera Utara Hak bebas Royalti Non-Eksklusif (
non-Exlusive Royalty
Free Right
) atas tesis saya yang berjudul
ANALISIS PENGARUH PEMBOBOTAN DENGAN METODE
NGUYEN WIDROW DALAM BACKPROPAGATION
UNTUK PREDIKSI
Beserta perangkat yang ada (
jika diperlukan
). Dengan Hak Bebas Royalti
Non-Eksklusif ini, Universitas Sumatera Utara berhak menyimpan, mengalih media,
memformat, mengelola dalam bentuk
data-base
, merawat dan mempublikasikan
Tesis saya tanpa meminta izin dari saya selama tetap mencantumkan nama saya
sebagai penulis dan sebagai pemegang dan atau sebagai pemilik hak cipta.
Demikian pernyataan ini dibuat dengan sebenarnya.
Medan, Januari 2013
Telah diuji pada
Tanggal :
PANITIA PENGUJI TESIS
Ketua
: Dr. Poltak Sihombing, M.Kom
Anggota
: 1. Dr. Erna Budhiarti Nababan, M IT
RIWAYAT HIDUP
DATA PRIBADI
Nama lengkap berikut gelar :Henra Verywati Purba, S.Kom
Tempat dan Tanggal Lahir : Urung Panei , 10 Mei 1983
Alamat Rumah
: Jl. Flamboyan Raya. Komplek Nina Flamboyan No 18
Medan
Telepon / HP
: 081361425115
:
henra_verywati@yahoo.comInstansi Tempat Bekerja
: BBMKG Wilayah I Medan
Alamat Kantor
: Jl. Ngumban Surbakti No 15 Sempakata Medan
Telepon
: 061-8222775
DATA PENDIDIKAN
SD
: SD Inpres Banua Saribu
Tamat : 1995
SMP
: SMP Negeri I Purba
Tamat : 1998
SMA
: SMA Sw Budi Mulia P. Siantar
Tamat : 2001
Strata-1
: Ilmu Komputer USU
Tamat : 2006
KATA PENGANTAR
Pertama-tama penulis panjatkan puji syukur kehadiran Tuhan Yang Maha Esa atas
segala limpahan rahmad dan karunia-Nya sehingga tesis ini dapat diselesaikan.
Dengan selesainya tesis ini, perkenankanlah penulis mengucapkan
terimakasih yang sebesar-besarnya kepada :
Rektor Universitas Sumatera Utara, Prof. Dr. dr. Syahril Pasaribu, DTM&H,
M.Sc (CTM), Sp. A(K) atas kesempatan yang diberikan kepada penulis untuk
mengikuti dan menyelesaikan pendidikan Program Magister.
Dekan Fakultas Ilmu Komputer dan Teknologi Informasi Universitas
Sumatera Utara, Prof. Dr. Muhammad Zarlis atas kesempatan yang diberikan kepada
penulis menjadi mahasiswa Program Magister (S2) Teknik Informatika Fasilkom-TI
Universitas Sumatera Utara.
Ketua Program Studi Magister (S2) Teknik Informatika, Prof. Dr.
Muhammad Zarlis dan Sekertaris Program Studi Teknik Informatika M. Andri
Budiman, S.T, M.Comp, M.E.M beserta seluruh Staf Pengajar pada Program Studi
Magister (S2) Teknik Informatika Fasilkom-TI Universitas Sumatera Utara.
Terimakasih yang tak terhingga dan penghargaan setinggi-tingginya penulis
ucapkan kepada Dr. Poltak Sihombing, M.Kom selaku Pembimbing Utama yang
dengan penuh perhatian dan telah memberikan dorongan, bimbingan dan arahan,
demikian juga kepada Dr. Erna Budhiarti Nababan, MIT selaku Pembimbing
Lapangan yang dengan penuh kesabaran menuntun dan membimbing penulis hingga
selesainya laporan penelitian ini.
Terimakasih yang tak terhingga dan penghargaan setinggi-tingginya saya
ucapkan kepada Prof. Dr. Herman Mawengkang, Prof. Dr. Muhammad Zarlis, dan
Dr, Saib Suwilo, M,Sc sebagai pembanding yang telah memberikan saran dan
masukan serta arahan yang baik demi penyelesaian laporan penelitian ini.
Kepada Ayah St. N Purba. dan Ibu K. Sinaga serta suami tercinta Antonius
Barus, ST yang telah banyak membantu penulis dan terima kasih atas segala
pengorbanan kalian baik moril maupun materil dan anakku tersayang Melvin Barus
atas pengertiannya.
Staff Pegawai dan Administrasi pada Program Studi Magister (S2) Teknik
Informatika Fasilkom-TI Universitas Sumatera Utara yang telah memberikan
bantuan dan pelayanan yang sangat baik kapada penulis selama mengikuti
perkuliahan hingga penyelesaian laporan penelitian ini.
Seluruh pihak yang tidak dapat penulis sebutkan satu persatu dalam laporan
penelitian ini, terimakasih atas segala bantuan dan doa yang diberikan. Dengan
segala kekurangan dan kerendahan hati, sekali lagi penulis mengucapkan
terimakasih. Semoga Tuhan Yang Maha Esa membalas segala bantuan dan kebaikan
yang telah diberikan.
Medan, Januari 2013
Penulis
ANALISIS PENGARUH PEMBOBOTAN DENGAN METODE NGUYEN
WIDROW DALAM
BACKPROPAGATION
UNTUK PREDIKSI
ABSTRAK
Penyimpangan yang jauh antara hasil prediksi dengan kenyataan yang sebenarnya
masih ada ditemukan. Untuk mendapatkan hasil prediksi yang akurat banyak hal
yang harus diperhatikan antara lain metode untuk prediksi. Metode yang digunakan
untuk prediksi, dalam tesis ini adalah
Backpropagation.
Kemampuan
Backpropagation
untuk menguragi
error
dengan melakukan koreksi bobot
menjadikan metode ini sering digunakan untuk prediksi.
Pembobotan awal dalam
backpropagation
dapat dilakukan secara random ataupun dengan metode Nguyen
Widrow. Untuk meningkatkan keakuratan hasil prediksi maka pembobotan awal
dilakukan dengan metode Nguyen Widrow. Hal ini disebabkan karena metode ini
dapat meningkatkan kemampuan lapisan tersembunyi dalam melakukan proses
pembelajaran dengan cara menyesuaikan bobot dan bias awal dengan pola pelatihan
yang digunakan. Pembobotan yang baik dalam
backpropagation
mampu mengurangi
error
sehingga hasil yang dicapai menjadi akurat. Parameter
backpropagation
yang
digunakan yaitu jumlah input masukan 8
node
, jumlah
node
pada
hidden layer
18
node, target
error
sebesar 0,01. Hasil pengujian yang dilakukan terhadap unsur
cuaca sistem ini mampu memprediksi dengan tingkat keakuratan sampai dengan
98%.
ANALYSIS OF EFFECT OF WEIGHT AND BIAS IN WIDROW NGUYEN METHOD FOR PREDICTION BACKPROPAGATION
ABSTRACT
Much deviation between the predicted results with the fact that there are actually
found. To get the accurate prediction of many things to consider, among others,
methods for prediction. The method used for prediction, the thesis Backpropagation.
Backpropagation reduces the ability to perform error correction by weight makes
this method is often used for prediction. Initial weighting in backpropagation can be
done randomly or by a method Nguyen Widrow. To improve the accuracy of the
predictions made by the initial weighting Nguyen Widrow method. This is because
this method can improve the ability of the hidden layer in the learning process by
adjusting the weights and bias early in the training patterns are used. Weighting
both in backpropagation to reduce error that results achieved are
accurate.Backpropagation parameter used is the number of input 8 input nodes, the
number of nodes in the hidden layer node 18, a target error of 0.01. The results of
tests performed on elements of the system is able to predict the weather with
accuracy levels up to 98%.
DAFTAR ISI
ABSTRAK
i
ABSTRACT
ii
DAFTAR ISI
iii
DAFTAR TABEL
vi
DAFTAR GAMBAR
vii
BAB I PENDAHULUAN
I.1 Latar Belakang
1
I.2 Perumusan Masalah
3
I.3 Batasan Masalah
3
I.4 Tujuan Penelitian
3
I.5 Manfaat Penelitian
4
BAB II TINJAUAN PUSTAKA
2.1 Jaringan Saraf Secara Biologis
5
2.2 Jaringan Saraf Tiruan (JST)
6
2.2.1 Karakteristik JST
6
2.2.2 Struktur dan Komponen JST
7
2.2.3 Pemrosesan Informasi dalam JST
8
2.2.4 Fungsi Aktivasi
8
2.2.5 Arsitektur Jaringan Saraf Tiruan
9
2.2.6 Proses Pembelajaran Jaringan Saraf Tiruan
13
2.3 Metode
Backpropagation
2.3.1 Algoritma
Backpropagation
14
2.3.2 Arsitektur
Backpropagation
16
2.3.3 Meningkatkan Hasil Metode
Backpropagation
17
2.3.2 Pengujian (Testing) pada Metode
Backpropagation
20
2.4 Metode Nguyen Widrow
20
2.5 Normalisasi Data
22
2.6 Penelitian Terkait
22
BAB III
METODOLOGI PENELITIAN
3.1 Pendahuluan
25
3.2 Perbedaan dan Persamaan dengan Penelitian Lain
25
3.2.1 Persamaan dengan Penelitian Lain
25
3.2.2 Perbedaan dengan Penelitian Lain
25
3.2.3 Kontribusi Penelitian
26
3.3 Data Yang Digunakan
26
3.3.1 Normalisasi Data
27
3.3.2 Pembagian Data
27
3.3.3 Pelatihan Data
28
3.3.4 Pengujian Data
29
3.3.5 Prediksi Data
30
3.4 Perancangan
30
3.4.2 Perancangan Skema Sistem
31
3.5 Diagram Tahapan Proses Pelatihan
32
BAB IV HASIL DAN PEMBAHASAN
4.1 Hasil
36
4.1.1 Pembobotan
36
4.1.2 Training Data
37
4.1.3 Pengujian Data
39
4.1.4 Hasil Prediksi
40
4.1.5 Pembobotan Awal
40
4.1.6 Pelatihan (
Training
)
Backpropagation
46
4.2 Pembahasan 53
4.2.1Analisis Pengaruh Bobot, Bias dan Momentum
untuk Prediksi
53
4.2.2 Pengujian Terhadap Program
54
4.2.3 Hasil Prediksi
60
BAB V KESIMPULAN DAN SARAN
5.1 Kesimpulan
64
5.2 Saran
65
DAFTAR TABEL
Nomor
Halaman
2.1
Penelitian Terkait
23
3.1 Pembagian Data untuk Pelatihan dan Data Target
28
3.2
Data Pelatihan Untuk Suhu Hasil Pengamatan
29
3.3
Data yang Digunakan untuk Pengujian
30
4.1
Bobot Secara Random
41
4.2
Bias
Input Layer
Menuju
Hidden Layer
Dengan
Pembobotan Awal Menggunakan Nguyen Widrow
43
4.3
Inisialisasi Bobot Awal dengan Metode Nguyen Widrow
46
4.4
Pengujian Terhadap Suhu dengan Pembobotan Awal
Menggunakan Metode Nguyen Widrow dan Metode
Random
55
4.5
Perbandingan Data Hasil Pengamatan dan Data Prediksi
56
4.6
Pengujian Terhadap Kelembaban dengan Pembobotan
Awal Menggunakan Metode Nguyen Widrow dan Metode
Random
57
4.7
Pengujian Terhadap Curah Hujan dengan Pembobotan
Awal Menggunakan Metode Nguyen Widrow dan
Metode Random
58
4.8
Pengujian Terhadap Kecepatan Angin dengan Pembobotan
Awal Menggunakan Metode Nguyen Widrow dan
DAFTAR GAMBAR
Nomor
Halaman
2.1
Saraf Secara Biologis
6
2.2
Model Neuron Buatan
7
2.3
JST Lapisan
Single Layer
11
2.4
JST Lapisan
Multi Layer
12
2.5
3.1
Perancangan Skema Sistem
32
Arsitektur Model
Backpropagation
17
3.2
Diagram Tahapan Metode Nguyen Widrow
33
3.3
Diagram Tahapan Proses Penelitian
35
4.1
Program Saat Dilakukan Pembobotan
37
4.2
Proses Saat Pelatihan Dilakukan
38
4.4
Proses Saat Pengujian Dilakukan
39
4.5
Program Saat Melakukan Prediksi
40
4.6
Grafik Hasil Prediksi Suhu
60
4.7
Grafik Hasil Prediksi Kelembaban
61
4.8
Grafik Hasil Prediksi Kecepatan Angin
62
ANALISIS PENGARUH PEMBOBOTAN DENGAN METODE NGUYEN
WIDROW DALAM
BACKPROPAGATION
UNTUK PREDIKSI
ABSTRAK
Penyimpangan yang jauh antara hasil prediksi dengan kenyataan yang sebenarnya
masih ada ditemukan. Untuk mendapatkan hasil prediksi yang akurat banyak hal
yang harus diperhatikan antara lain metode untuk prediksi. Metode yang digunakan
untuk prediksi, dalam tesis ini adalah
Backpropagation.
Kemampuan
Backpropagation
untuk menguragi
error
dengan melakukan koreksi bobot
menjadikan metode ini sering digunakan untuk prediksi.
Pembobotan awal dalam
backpropagation
dapat dilakukan secara random ataupun dengan metode Nguyen
Widrow. Untuk meningkatkan keakuratan hasil prediksi maka pembobotan awal
dilakukan dengan metode Nguyen Widrow. Hal ini disebabkan karena metode ini
dapat meningkatkan kemampuan lapisan tersembunyi dalam melakukan proses
pembelajaran dengan cara menyesuaikan bobot dan bias awal dengan pola pelatihan
yang digunakan. Pembobotan yang baik dalam
backpropagation
mampu mengurangi
error
sehingga hasil yang dicapai menjadi akurat. Parameter
backpropagation
yang
digunakan yaitu jumlah input masukan 8
node
, jumlah
node
pada
hidden layer
18
node, target
error
sebesar 0,01. Hasil pengujian yang dilakukan terhadap unsur
cuaca sistem ini mampu memprediksi dengan tingkat keakuratan sampai dengan
98%.
ANALYSIS OF EFFECT OF WEIGHT AND BIAS IN WIDROW NGUYEN METHOD FOR PREDICTION BACKPROPAGATION
ABSTRACT
Much deviation between the predicted results with the fact that there are actually
found. To get the accurate prediction of many things to consider, among others,
methods for prediction. The method used for prediction, the thesis Backpropagation.
Backpropagation reduces the ability to perform error correction by weight makes
this method is often used for prediction. Initial weighting in backpropagation can be
done randomly or by a method Nguyen Widrow. To improve the accuracy of the
predictions made by the initial weighting Nguyen Widrow method. This is because
this method can improve the ability of the hidden layer in the learning process by
adjusting the weights and bias early in the training patterns are used. Weighting
both in backpropagation to reduce error that results achieved are
accurate.Backpropagation parameter used is the number of input 8 input nodes, the
number of nodes in the hidden layer node 18, a target error of 0.01. The results of
tests performed on elements of the system is able to predict the weather with
accuracy levels up to 98%.
BAB 1
PENDAHULUAN
1.1
LATAR BELAKANG MASALAH
Saat ini masih ada hasil prediksi menyimpang jauh dari kenyataan yang terjadi.
Hasil prediksi yang tidak akurat dapat mengakibatkan kerugian bagi penggunanya.
Tingkat akurasi hasil prediksi dipengaruhi berbagai faktor yaitu data yang digunakan
untuk prediksi, pengetahuan/pengalaman pembuat prediksi, dan metode yang
digunakan untuk membuat prediksi.
Metode untuk prediksi telah banyak digunakan oleh para peneliti antara lain:
Metode Statistik, GARCH, ARIMA, Adavtive linear Filter, Jaringan Saraf Tiruan
dan lain-lain. (Halim dan Winosobo, 2000). Metode yang digunakan untuk prediksi
dalam tesis ini adalah bagian dari Jaringan Saraf Tiruan yaitu metode
Backpropagation
. Metode
backpropagation
digunakan karena dalam metode
backpropagation
dapat mengubah nilai bobot dalam arah mundur untuk
mendapatkan
error
yang lebih kecil.
Error
yang kecil akan menghasilkan hasil
prediksi yang akurat. Dalam
Backpropagation
terdapat parameter-parameter seperti :
Bobot, Bias,
Layer, Learning Rate, Hidden Layer, Momentum
dan lain sebagainya.
Setiap parameter memberikan pengaruh terhadap hasil yang diperoleh dengan
metode
Backpropagation (
Maru’ao, 2010). Inisialisasi Bobot awal dalam
Backpropagation
dapat dilakukan secara random dan dengan metode Nguyen
Widrow (Fausset, 1994).
Andrijasa dan Mistianingsih menyebutkan penyesuaian bobot dan bias yang lebih
baik akan membuat target yang diinginkan mendekati ketepatan.
Penelitian yang dilakukan Andrijasa dan Mistianingsih (2010) dan Halim dan
Wibisono (2000) untuk inisialisasi bobot awal adalah menggunakan metode
pembobotan secara random. Kelebihan inisialisasi bobot secara random adalah bobot
yang digunakan setiap pembelajaran pasti akan berbeda (dalam interval yang telah
ditentukan).
Dalam
Backpropagation
Arsitektur jaringan berperan penting dalam
mencapai hasil yang didapat (Andrijasa dan Mistianingsih 2010). Dalam tesis ini
akan dilakukan perubahan arsitektur jaringan
backpropagation
. Perubahan arsitektur
meliputi perubahan jumlah
node
dalam lapisan tersembunyi dan pengaturan bias.
Untuk mengetahui pengaruh bobot dan bias dalam
backpropagation
akan digunakan
suatu metode pembobotan awal yaitu metode Nguyen Widrow. Hal ini disebabkan
dalam metode Nguyen Widrow bobot-bobot lapisan tersembunyi dirancang
sedemikian rupa. Sehingga diharapkan dapat meningkatkan kemampuan lapisan
tersembunyi dalam melakukan proses pembelajaran (Fausset, 1994). Proses
pembelajaran yang semakin mudah akan mempercepat tercapai
konvergensi(pemusatan). Sehingga sistem akan cepat menemukan pola yang
digunakan untuk prediksi.
Bobot awal dan bias yang diperoleh dengan metode Nguyen Widrow akan
digunakan dalam proses pelatihan. Pada tahap fase modifikasi bobot dalam
backpropagation
jika terdapat perubahan bobot yang mencolok akan ditambahkan
momentum. Bobot yang mencolok dapat disebabkan data yang sangat berbeda
dengan data yang lain. Penggunaan Momentum menjadikan pola masukan awal dan
pola masukan terakhir diperhitungkan (Dhaneswara, 2004).
Berdasarkan uraian di atas maka tesis ini akan mengusulkan judul
“Analisis
Pengaruh pembobotan dengan metode Nguyen Widrow dalam
Backpropagation
untuk prediksi”
dari hasil penelitian ini diharapkan hasil prediksi akan semakin
akurat
.
1.2
Penyimpangan yang jauh antara hasil prediksi dengan kenyataan yang sebenarnya
masih ada ditemukan. Keakuratan hasil prediksi dalam
backpropagation
sangat
ditentukan oleh bobot dan bias. Bobot dan bias awal yang digunakan harus mampu
menyesuaikan dengan pola pelatihan yang digunakan untuk mendapatkan prediksi
yang akurat.
PERUMUSAN MASALAH
1.3
BATASAN MASALAH
Agar tidak menyimpang dari tujuan penelitian maka masalah dalam penelitian ini
dibatasi untuk :
1.
2.
Fungsi aktivasi yang digunakan adalah fungsi Sigmoid Biner.
Inisialisasi Bobot dan bias menggunakan metode
3.
Batas toleransi
error
adalah 0.01
Nguwen-Windrow.
Hal ini disebabkan jika
error
telah mencapai 0.01 maka hasil keakuratan
prediksi yang diperoleh sudah baik (Chrestanti at el, 2002).
4.
Data yang digunakan untuk prediksi adalah data BBMKG Wilayah I
Medan selama 15 tahun (1997-2011).
1.4
TUJUAN PENELITIAN
1.5
MANFAAT PENELITIAN
Manfaat yang diharapkan dalam penelitian ini adalah:
1.
Dapat diketahui pengaruh bobot dan bias dalam
backpropagation.
2.
Dapat diketahui cara untuk merancang bobot dan bias dalam
backpropagation.
BAB II
TINJAUAN PUSTAKA
2.1 JARINGAN SARAF SECARA BIOLOGIS
Jaringan saraf adalah salah satu representasi buatan dari otak manusia yang selalu mencoba
untuk mensimulasikan proses pembelajaran pada otak manusia. Istilah buatan disini
digunakan karena jaringan saraf ini diimplementasikan dengan menggunakan program
komputer yang mampu menyelesaikan sejumlah proses perhitungan selama proses
pembelajaran (Fausett, 1994).
Setiap sel saraf memiliki satu inti sel. Inti sel ini yang akan bertugas untuk
melakukan pemrosesan informasi. Informasi tersebut akan diterima dendrit. Informasi hasil olahan ini akan menjadi masukan bagi neuron lain. Informasi yang dikirimkan antar neuron
adalah berupa rangsangan yang dilewatkan melalui dendrit. Informasi yang datang akan
diterima oleh dendrit dan dijumlahkan lalu dikirim melalui axon ke dendrit akhir. Informasi
ini akan diterima oleh neuron lain jika memenuhi batasan tertentu. Batasan tertentu dikenal
dengan nama nilai ambang (threshold) yang dikatakan teraktivasi (Haykin, 2008).
Menurut Siang (2005) Jaringan Saraf Tiruan dibentuk sebagai generalisasi model
matematika dari jaringan saraf biologi, dengan asumsi bahwa :
1. Pengolahan informasi terdiri dari elemen-elemen sederhana yang disebut
neuron.
2. Sinyal dilewatkan dari satu neuron ke neuron yang lain melalui hubungan
koneksi.
3. Tiap hubungan koneksi mempunyai nilai bobot sendiri.
4. Tiap neuron mempergunakan fungsi aktivasi terhadap input yang diterimanya
Gambar 2.1 Saraf Secara Biologis (Haykin, 2008)
2.2 JARINGAN SARAF TIRUAN (JST)
JST dibuat pertama kali pada tahun 1943 oleh neurophysiologist Waren McCulloch dan
logician Walter Pits. Teknologi yang tersedia pada saat itu belum memungkinkan mereka
berbuat lebih jauh. JST merupakan suatu sistem pemrosesan Informasi yang memiliki
karaktristik-karakteristik menyerupai jaringan saraf Biologi. Hal yang sama diutarakan oleh
Simon Haykin yang menyatakan Bahwa JST adalah sebuah mesin yang dirancang untuk
memodelkan cara otak manusia mengerjakan fungsi atau tugas-tugas tertentu. Mesin ini
memiliki kemampuan menyimpan pengetahuan berdasarkan pengalaman dan menjadikanya
simpanan pengetahuan yang dimiliki menjadi bermanfaat (Haykin, 2008).
2.2.1Karakteristrik JST
Karakteristik JST ditentukan oleh 3 hal yaitu:
1. Pola hubungan antar neuron disebut arsiktektur jaringan.
2. Metode untuk menentukan nilai bobot tiap hubungan disebut pembelajaran/
pelatihan.
2.2.2 Struktur dan Komponen JST
JST terdiri dari sejumlah elemen pemroses sederhana yang disebut dengan neuron. Tiap
neuron terhubung sambungan komunikasi dimana tiap sambungan mempunyai nilai bobot
sendiri. Nilai bobot ini menyediakan informasi yang akan digunakan oleh jaringan untuk
memecahkan masalah.
Neuron buatan ini dirancang untuk menirukan karakteristik neuron biologis. Secara
prinsip diberikan serangkaian masukan (input) yang masing-masing menggambarkan
keluaran (output) yang kemudian akan menjadi masukan bagi neuron lain. Setiap input akan
dikalikan dengan suatu faktor penimbang tertentu (wi) yang analog dengan tegangan
synapsis. Semua input tertimbang itu dijumlahkan untuk menentukan tingkat aktivasi suatu
neuron. Gambar 2.2 menunjukkan serangkaian input dengan nama x1, x2, ..., xn
i i
i n
w x Yin
1 =
∑
=
pada suatu
neuron buatan. Untuk mendapat keluaran dari setiap input digunakan:
(2.1)
Yin
Keterangan : X1,X2,... Xi : Data Input, w1, w2, wi : Bobot , Y-in :
Gambar 2.2 Model Neuron Buatan (Fausett, 1994)
Sinyal output
Output yang diharapkan dalam sistem JST ini berada pada range 0 sampai 1 dan dengan
fungsi Sigmoid Biner berapapun nilai input-nya akan dihasilkan output dengan nilai antara 0
sampai 1. Biasanya satu neuron mengirimkan nilai aktivasinya ke beberapa neuron yang
lain.
X1
Xi
X2 W1
W2
2.2.3 Pemrosesan Informasi dalam JST
Aliran informasi yang diproses disesuaikan dengan arsitektur jaringan (Wulandari et al,
2012). Beberapa konsep utama yang berhubungan dengan proses adalah:
1. Masukan (Input), setiap input bersesuaian dengan suatu atribut tunggal.
Serangkaian input pada JST diasumsikan sebagai vektor X yang bersesuaian
dengan sinyal-sinyal yang masuk ke dalam sinapsis neuron biologis. Input
merupakan sebuah nilai yang akan diproses menjadi nilai output.
2. Keluaran (Output), output dari jaringan adalah penyelesaian masalah.
3. Bobot (Weight), mengekspresikan kekuatan relatif (atau nilai matematis) dari
input data awal. Penyesuaian yang berulang-ulang terhadap nilai bobot
menyebabkan JST “belajar”. Bobot-bobot ini diasumsikan sebagai vektor w.
setiap bobot bersesuaian dengan tegangan (strength) penghubung sinapsis
biologis tunggal.
4. Fungsi Penjumlahan, menggandakan setiap nilai input xi dengan bobot wi
5. Fungsi Alih (Transfer Function), menghitung stimulasi internal atau level
aktivasi dari saraf.
dan
menjumlahkannya bersama-sama untuk memperoleh suatu output Y. Fungsi
penjumlahan ini bersesuaian dengan badan sel biologis (soma).
2.2. 4 Fungsi Aktivasi
Fungsi aktivasi merupakan fungsi yang digunakan untuk meng-update nilai-nilai bobot
periterasi dari semua nilai input. Secara sederhana fungsi aktivasi adalah proses untuk
mengalikan input dengan bobotnya kemudian menjumlahkannya (penjumlahan sigma). Ada
beberapa fungsi aktifasi yang sering digunakan dalam jaringan saraf tiruan antara lain :
1. Fungsi Sigmoid Biner
Fungsi ini digunakan untuk jaringan saraf yang dilatih dengan menggunakan
metode Backpropagation. Fungsi Sigmoid Biner memiliki nilai pada range 0
sampai 1. Oleh karena itu fungsi ini sering digunakan untuk jaringan yang
e x
x
f −
+ =
1 1 )
( (2.2)
dimana x : nilai sinyal keluaran dari satu neuron yang akan diaktifkan
e : nilai konstanta dengan nilai = 2.718281828
2. Fungsi Identitas (linear)
Fungsi linear memiliki nilai output yang sama dengan nilai input-nya.
3. Fungsi Saturating Linear
Fungsi ini akan bernilai 0 jika input-nya kurang dari -1/2 dan akan benilai 1
jika input-nya lebih dari ½.
4. Fungsi Symetrik
Fungsi ini akan bernilai -1 jika input-nya kurang dari -1 dan akan bernilai 1 jika
input-nya lebih dari 1.
5. Fungsi Sigmoid Bipolar
Fungsi Sigmoid Bipolar hampir sama dengan fungsi Siqmoid Biner hanya saja
output dari fungsi ini memiliki range antara 1 sampai -1
1 1
2 )
( −
+
= −x
e x
f (2.3)
dimana x : nilai sinyal keluaran dari satu neuron yang akan diaktifkan
e : nilai konstanta dengan nilai = 2.718281828
2. 2.5 Arsitektur Jaringan Saraf Tiruan
Secara umum arsitektur JST terdiri dari atas beberapa lapisan yaitu sebagai berikut
(Dhaneswara dan Moertini, 2004):
Lapisan masukan merupakan lapisan yang terdiri dari beberapa neuron yang akan
menerima sinyal dari luar dan kemudian meneruskan ke neuron-neuron lain dalam
jaringan.
2. Lapisan Tersembunyi (hidden layer)
Lapisan tersembunyi merupakan tiruan dari sel-sel saraf konektor pada jaringan
saraf biologis. Lapisan tersembunyi berfungsi meningkatkan kemampuan jaringan
dalam memecahkan masalah.
3. Lapisan Keluaran (output layer)
Lapisan keluaran berfungsi menyalurkan sinyal-sinyal keluaran hasil pemrosesan
jaringan. Lapisan ini juga terdiri dari sejumlah neuron. Lapisan keluaran merupakan
tiruan sel-sel saraf motor pada jaringan saraf biologi.
Arsitektur Jaringan Saraf Tiruan terdiri dari 2 macam jaringan yaitu sebagai berikut:
1. Jaringan Lapisan Tunggal (Single Layer )
Jaringan single layer terdiri atas satu lapisan input dan satu lapisan output dengan setiap
neuron yang saling terhubung. Dalam jaringan ini, semua unit input dihubungkan dengan
semua unit output dengan bobot yang berbeda-beda. Tidak ada unit input yang dihubungkan
dengan unit input lainnya. Demikian pula dengan unit output, tidak ada unit output yang
terhubung dengan unit output yang lain (Fausset, 1994). Selama proses pelatihan, bobot
tersebut dimodifikasi untuk meningkatkan keakuratan hasil. Jaringan single layer dapat
Keterangan : X1,X2,X3: node lapisan input, Y1,Y2: node lapisan Output, w11, w12…w31 : bobot
[image:30.595.128.406.111.323.2]untuk menghubungkan sinyal input masukan dengan keluaran.
Gambar 2.3 JST Lapisan Single Layer (Fausset, 1994)
Untuk mendapatkan nilai keluaran node 1 (Y1) didapat dengan mengalikan sinyal masukan
dengan bobot yang menuju node Y1 = (x1 *w11) + (x2 * w21) + (x3 *w31). Dengan cara
yang sama dapat dihitung untuk nilai keluaran dari Y2
Y
. Sehingga dapat dirumuskan:
i
∑
= ni ij iv
x
1
= (2.4)
Rumus 2.4 dapat digunakan jika tidak terdapat bias. Jika menggunakan bias maka Y1
= v01 + (x1 *w11) + (x2 * w21) + (x3 *w31
dan
)
Yi = v0 j
∑
= ni ij iv
x
1
Nilai input dalam gambar 2.4 merupakan nilai objek yang akan dihitung/ diteliti
yang sudah disesuaikan dengan batas nilai fungsi aktifasi yang digunakan. Misalnya jika
menggunakan fungsi aktifasi Sigmoid Biner maka nilai xi yang dapat digunakan adalah
dalam interval -1 s/d 1. Jika nilai xi lebih besar atau lebih kecil dari interval tersebut maka
data terlebih dahulu dinormalisasi.
Nilai Input
Neuron-Neuron pada
Lapisan Input
V41
V13 V21 V V
23 V 31
V33 42
V11 V
V
12 22 V32 V43
Neuron-Neuron pada
Lapisan tersembunyi
Z21 Z31
Z11 Z12 Z22 Z32
Neuron-Neuron pada
Lapisan output
Keterangan :x1 .. x4 : lapisan input,z1 .. z3 : Lapisan tersembunyi ,y1, y2: lapisan output
Gambar 2.5 JST Lapisan Multi Layer (Fausset, 1994)
Untuk mendapatkan nilai keluaran node 1 (Z1) didapat dengan mengalikan sinyal masukan
dengan bobot yang menuju node Z1 = (x1 *V11) + (x2 * V21) + (x3 *V31) + (x4 *v41.
Dengan cara yang sama dapat dihitung untuk nilai keluaran dari z2 dan z3
(2.5)
.
Untuk mendapatkan nilai keluaran node 1 (Y1) didapat dengan mengalikan sinyal masukan
dengan bobot yang menuju node Y1 = (x1 *z11) + (x2 * z21) + (x3 *z31
Dengan cara yang sama dapat dihitung untuk nilai keluaran dari y )
2
Y
. Sehingga dapat
dirumuskan: i
∑
= p i jk iw
z
1= (2.6)
Jika pada gambar 2.4 ditambah bias menuju lapisan tersembunyi (b1) dengan bobotnya v01
dan bias menuju lapisan output (b2) dengan bobotnya w01, maka rumus 2.5 dan 2.6 akan
menjadi:
zi
∑
= n i ij iv x 1= + vjk
Y (2.7) i
∑
= p i jk iw
z
1= + wjk (2.8)
2.2.6 Proses Pembelajaran Jaringan Saraf Tiruan
Suatu karakteristik yang sangat menarik dari JST adalah kemampuannya untuk belajar. Cara
belajar dari latihan yang diberikan pada JST menunjukkan beberapa kesamaan dengan
sehingga jaringan ini tidak dapat melakukan segalanya seperti kemampuan saraf
sesungguhnya. Proses pembelajaran suatu JST melibatkan tiga pekerjaan, sebagai berikut:
1. Menghitung output.
2. Membandingkan output dengan target yang diinginkan.
3. Menyesuaikan bobot dan mengulangi proses
Pada umumnya, jika menggunakan Jaringan Saraf Tiruan, hubungan antara input
dan output harus diketahui secara pasti. Jika hubungan tersebut telah diketahui maka dapat
dibuat suatu model. Hal lain yang penting adalah proses belajar hubungan input/output
dilakukan dengan pembelajaran. Pelatihan Jaringan Saraf bertujuan untuk mencari
bobot-bobot yang terdapat pada setiap layer.
Ada dua jenis pelatihan dalam sistem jaringan saraf tiruan, yaitu:
1. Pembelajaran Terawasi (Supervised Learning). Dalam proses pelatihan ini, jaringan
dilatih dengan cara diberikan data yang disebut pelatihandata.Pelatihan dataterdiri
atas pasangan input-output yang diharapkan dan disebut associative memory. Setelah
jaringan dilatih, associative memory dapat mengingat suatu pola. Dalam tesis ini
akan digunakan pembelajaran terawasi yaitu dengan menggunakan metode
backpropagation.
2. Pembelajaran Tidak Terawasi (Unsupervised Learning). Dalam proses pelatihan ini,
jaringan dilatih hanya dengan diberi data input yang memiliki kesamaan sifat tanpa
disertai output.
2.3 METODE BACKPROPAGATION
Backpropagation
merupakan generalisasi aturan delta (
Widrow-Hoff
).
Backpropagation
menerapkan metode
gradient descent
untuk meminimalkan
error
kuadrat total dari keluaran yang dihitung oleh jaringan.
Backpropagation
melatih
jaringan untuk memperoleh keseimbangan antara “kemampuan jaringan” untuk
mengenali pola yang digunakan selama pelatihan dan “kemampuan jaringan”
merespon secara benar terhadap pola masukan yang serupa (tapi tidak sama) dengan
pola pelatihan
.2.3.1 Algoritma Backpropagation:
1. Inisialisasi bobot (ambil bobot awal dengan nilai random yang cukup kecil antara 0
sampai 1).
2. Untuk setiap pasangan vektor pelatihan lakukan langkah 3 sampai langkah 8.
3. Tiap-tiap unit input (Xi dimana i=1,2,3,...,n) menerima sinyal masukan xi
4. Tiap-tiap unit tersembunyi (Z
dan
menjalankan sinyal tersebut ke semua unit pada lapisan yang ada diatasnya atau
selanjutnya (dalam hal ini adalah lapisan tersembunyi).
j
Z
dimana j=1,2,3,...,p) jumlahkan bobotnya dengan
sinyal-sinyal input masing-masing :
inj= v0 j
∑
= n i ij iv x 1+ (2.9)
gunakan fungsi aktivasi untuk menghitung sinyal output-nya:
Zj = f(Zinj
dan kirimkan sinyal tersebut ke semua unit di layer atasnya (unit-unit output layer)
) (2.10)
5.
Tiap-tiap unit
output
(
Y
ky
dimana
k=1,2,3,...,m
) jumlahkan bobotnya dengan
sinyal-sinyal
input
masing-masing:
ink = w0 j
∑
= p i jk iw
z
1+ (2.11)
gunakan fungsi aktivasi untuk menghitung sinyal outputnya :
dan kirimkan sinyal tersebut ke semua unit di lapisan atasnya (unit-unit output).
6.
Tiap-tiap unit output (
Y
kδ
dimana
k=1,2,3,...,m
) menerima target pola yang
berhubungan dengan pola input pembelajaran, hitung informasi
error
-nya:
k = (tk-yk) f’(y_ink
kemudian hitung koreksi bobot (yang nantinya akan digunakan untuk memperbaiki nilai
w
) (2.13)
jk
∆w
) :
jk = α δk zj
hitung juga koreksi bias (yang nantinya akan digunakan untuk memperbaiki nilai w
(2.14)
0k
∆w
):
0k = α δk
kirimkan ini ke unit-unit yang ada lapisan bawahnya.
(2.15)
7.
Tiap-tiap unit tersembunyi (
Z
jδ_in
dimana
j=1,2,3,...,p
) menjumlahkan delta
input
-nya (dari unit-unit yang berada pada lapisan di atas-nya):
j
∑
= m k jk kw 1δ
= (2.16)
kalikan nilai ini dengan turunan dari fungsi aktivasinya untuk menghitung informasi
error :
δj = δ_ in j f’(z_inj
kemudian hitung koreksi bobot (yang nantinya akan digunakan untuk memperbaiki nilai
v
) (2.17)
ij
∆v
) :
jk = α δj xi
hitung juga koreksi bias (yang nantinya akan digunakan untuk memperbaiki nilai v
(2.18)
0j
∆v
):
8.
Tiap-tiap unit
output
(Y
kw
dimana k=1,2,3,...,m) memperbaiki bias dan bobotnya (
j
= 0,1,2,...,p
):
jk(baru) = wjk(lama)+ ∆wjk
tiap-tiap unit tersembunyi (Z
(2.20)
j
v
dimana j = 1,2,3,...,p) memperbaiki bias dan bobotnya (i
= 0,1,2,...,n):
ij(baru) = vij (lama)+ ∆ vij
9.
Tes kondisi berhenti.
(2.21)
Tahap 3 sampai dengan tahap 5 merupakan bagian dari
feedforward
, tahap 6
sampai 8 merupakan bagian dari
backpropagation (
Fausset,1994).
2.3.2 Arsitektur Backpropagation:
Pada gambar 2.5 dapat dilihat gambar arsitektur Backpropagation dengan 3 nodeinput layer
masukan 2 node pada hidden layer, 3 node output layer dan 2 bias 1 menuju hidden layer, 1
menuju output layer. Pada gambar 2.6 arsitektur backpropagation terdapat dua jenis tanda
panah yaitu tanda panah maju ( ) dan tanda panah mundur ( ). Tanda panah maju
digunakan pada saat proses feedforward untuk mendapatkan sinyal keluaran dari output
layer. Jika nilai error yang dihasilkan lebih besar dari batas error yang digunakan dalam
sistem, maka akan dilakukan koreksi bobot dan bias. Koreksi bobot dapat dilakukan dengan
menambah atau menurunkan nilai bobot.
Jika sinyal keluaran terlalu besar dari target yang ditentukan maka bobotnya
diturunkan, sebaliknya jika sinyal keluaran terlalu kecil dari target yang ditentukan maka
bobotnya dinaikkan. Koreksi bobot akan dilakukan sampai selisih target dan sinyal keluaran
sekecil mungkin atau sama dengan batas error. Untuk melakukan koreksi bobot dan bias
[image:37.595.101.406.110.322.2]
Keterangan:Y1..Y3 : output, X1…Xn : data input, b1,b2: bias, Z1, Z2
Gambar 2.5 Gambar Arsitektur Backpropagation (Fausett, 1994) : hidden Layer
2.3.3 Meningkatkan Hasil Metode Backpropagation
Masalah utama yang dihadapi dalam Backpropagation adalah lamanya iterasi yang harus
dilakukan. Backpropagation tidak dapat memberikan kepastian tentang berapa epoch yang
harus dilalui untuk mencapai kondisi yang diinginkan. Untuk meningkatkan hasil yang
diperoleh dengan metode backpropagation dapat dilakukan dengan analisis bobot dan bias
awal, jumlah unit tersembunyi, waktu iterasi dan penambahan mom
2.3.3.1 Pemilihan Bobot dan Bias Awal
Bobot awal akan mempengaruhi apakah jaringan mencapai titik minimum lokal (local
minimum) atau global, dan seberapa cepat konvergensinya dalam pelatihan. Inisialisasi bobot
awal dapat dilakukan dengan 2 (dua) Metode yaitu: Inisialisasi Bobot dan Bias awal secara
Random dan Inisialisasi Bobot dan Bias awal dengan Metode Nguyen Widrow.
Bobot dalam Backpropagation tidak boleh diberi nilai yang sama. Penyebabnya adalah
karena jika bobot sama jaringan tidak akan terlatih dengan benar. Jaringan mungkin saja
gagal untuk belajar terhadap serangkaian contoh-contoh pelatihan. Misalnya dengan kondisi
Output
Output
Output
tetap atau bahkan error semakin besar dengan diteruskannya proses pelatihan. Untuk
mengatasi hal ini maka inisialisasi bobot dibuat secara acak.
Bobot yang menghasilkan nilai turunan aktivasi yang kecil sedapat mungkin dihindari
karena akan menyebabkan perubahan bobotnya menjadi sangat kecil. Demikian pula nilai
bobot awal tidak boleh terlalu besar karena nilai turunan fungsi aktivasinya menjadi sangat
kecil juga.Dalam Standar Backpropagation, bobot dan bias diisi dengan bilangan acak kecil.
Untuk inisialisasi bobot awal secara random maka nilai yang digunakan adalah antara -0.5
sampai 0.5 atau -1 sampai 1.
2.3.3.2 Jumlah Unit Tersembunyi
Berdasarkan hasil teoritis, Backpropagation dengan sebuah hidden layer sudah cukup untuk
mampu mengenali sembarang pasangan antara masukan dan target dengan tingkat ketelitian
yang ditentukan. Akan tetapi penambahan jumlah hidden layer kadangkala membuat
pelatihan lebih mudah. Jika jaringan memiliki lebih dari hidden layer, maka algoritma
pelatihan yang dijabarkan sebelumnya perlu direvisi. Dalam propagasi maju, keluaran harus
dihitung untuk Setiap layer, dimulai dari hidden layer paling bawah (terdekat dengan unit
masukan). Sebaliknya dalam propagasi mundur, faktor δ perlu dihitung untuk tiap hidden layer, dimulai dari lapisan keluaran (Hajar, 2005).
2.3.3.3 Waktu Iterasi
Tujuan utama penggunaan Backpropagation adalah mendapatkan keseimbangan antara
pengenalan pola pelatihan secara benar dan respon yang baik untuk pola lain yang sejenis.
Jaringan dapat dilatih terus menerus hingga semua pola pelatihan dikenali dengan benar.
Akan tetapi hal itu tidak menjamin jaringan akan mampu mengenali pola pengujiandengan
tepat. Jadi tidaklah bermanfaat untuk meneruskan iterasi hingga semua kesalahan pola
pelatihan = 0.
Umumnya data dibagi menjadi dua bagian, yaitu pola data pelatihan dan data
pengujian. Perubahan bobot dilakukan berdasarkan pola pelatihan. Akan tetapi selama
data (pelatihan dan pengujian). Selama kesalahan ini menurun, pelatihan terus dijalankan.
Akan tetapi jika kesalahannya sudah meningkat, pelatihan tidak ada gunanya diteruskan.
Jaringan sudah mulai mengambil sifat yang hanya dimiliki secara spesifik oleh data
pelatihan (tapi tidak dimiliki oleh data pengujian) dan sudah mulai kehilangan kemampuan
melakukan generalisasi.
2.3.3.4 Momentum
Pada standar Backpropagation, perubahan bobot didasarkan atas gradien yang terjadi untuk
pola yang dimasukkan saat itu. Modifikasi yang dapat dilakukan adalah melakukan
perubahan bobot yang didasarkan atas ”ARAH GRADIEN” pola terakhir dan pola
sebelumnya (momentum) yang dimasukkan. Jadi tidak hanya pola masukan terakhir saja
yang diperhitungkan.
Penambahan momentum dimaksudkan untuk menghindari perubahan bobot yang
mencolok akibat adanya data yang sangat berbeda dengan yang lain. Apabila beberapa data
terakhir yang diberikan ke jaringan memiliki pola yang serupa (berarti arah gradien sudah
benar), maka perubahan bobot dilakukan secara cepat. Namun apabila data terakhir yang
dimasukkan memiliki pola yang berbeda dengan pola sebelumnnya, maka perubahan bobot
dilakukan secara lambat (Fausset, 1994).
Penambahan momentum, bobot baru pada waktu ke (T + 1) didasarkan atas bobot pada
waktu T dan (T-1). Di sini harus ditambahkan 2 variabel baru yang mencatat besarnya
momentum untuk 2 iterasi terakhir. Jika μ adalah konstanta yang menyatakan parameter
momentum (Dhaneswara dan Moertini, 2004).
Jika menggunakan momentum maka bobot baru dihitung berdasarkan persamaan:
wjk(T+1) = wjk(T) + αδk zj + μ ( wjk(T) – wjk(T-1)) (2.24)
dan
vij(T+1) = vij(T) + αδj xi + μ ( vij(T) – vij(T-1)) (2.25)
Dalam proses testing ini diberikan input data yang disimpan dalam disk (file testing). JST
yang telah dilatih akan mengambil data tersebut dan memberikan output yang merupakan
“Hasil Prediksi JST”. JST memberikan output berdasarkan bobot yang disimpan dalam
proses pelatihan.
Pada akhir testing dilakukan perbandingan antara hasil prediksi (output JST) dan
hasil asli (kondisi nyata yang terjadi). Hal ini adalah untuk menguji tingkat keberhasilan JST
dalam melakukan prediksi.
2.4 METODE NGUYEN WIDROW
Nguyen Widrow mengusulkan cara membuat inisialisasi bobot dan bias ke unit tersembunyi
sehingga menghasilkan iterasi lebih cepat. Metode Nguyen Widrow akan menginisialisasi
bobot-bobot lapisan dengan dengan nilai antara -0.5 sampai 0.5. Sedangkan bobot dari
lapisan input ke lapisan tersembunyi dirancang sedemikian rupa sehingga dapat
meningkatkan kemampuan lapisan tersembunyi dalam melakukan proses pembelajaran
(Fausset, 1994)
Metode Nguyen Widrow secara sederhana dapat diimplementasikan dengan prosedur
sebagai berikut:
Tetapkan:
n = jumlah unit masukan(input)
p = jumlah unit tersembunyi
β = faktor skala =
(
0.7( )
p 1n)
(2.22)Analisis metode Nguyen Widrow didasarkan atas fungsi tangen Sigmoid yang
memiliki interval nilai dari -1 sampai 1. Dalam fungsi tangen sigmoid ketika digunakan nilai
x = 1 akan menghasilkan pendekatan nilai 0.75 dan ketika x = -1 akan mendekati nilai 0.25.
Sedangkan Nilai β mempunyai interval 0 sampai 1 (0 < β < 1). Nilai yang paling dekat
Hal inilah yang menyebabkan faktor skala β yang digunakan dalam metode Nguyen Widrow
menggunakan nilai 0.7. Nilai 0.7 dalam faktor skala metode Nguyen Widrow diharapkan
dapat menghasilkan bias dan bobot yang mampu menyesuaikan dengan pola pelatihan dalam
backpropagation.
Algoritma inisialisasi Nguyen Widrow adalah sebagai berikut:
Kerjakan untuk setiap unit pada lapisan tersembunyi (j=1,2,...,p):
a. Inisialisasi bobot-bobot dari lapisan input ke lapisan tersembunyi
v ij
= bilangan acak dalam interval [-0,5: 0,5]
b. Hitung ||vj
c. Inisialisasi ulang bobot-bobot : ||
vij
|| || j
ij
v v
β
= (2.23)
d. Set bias b1j = bilangan random antara -
β
sampaiβ
2.5 NORMALISASI DATA
Normalisasi adalah penskalaan terhadap nilai-nilai masuk ke dalam suatu range tertentu.
Hal ini dilakukan agar nilai input dan target output sesuai dengan range dari fungsi aktivasi
yang digunakan dalam jaringan. Normalisasi ini dilakukan untuk mendapatkan data berada
dalam interval 0 sampai dengan 1. Hal ini disebabkan karena nilai dalam fungsi aktifasi
Sigmoid Biner adalah berada diantara 0 dan 1. Tapi akan lebih baik jika ditransformasikan
keinterval yang lebih kecil. Misalnya pada interval [0,1..0,9], karena mengingat fungsi
Sigmoid Biner nilainya tidak pernah mencapai 0 ataupun 1 (Santoso at el, 2007).
X = max min min ).
(
) )(
(
x a
b
a x
x
+ −
− × −
(2.26)
Dimana:
Xmax : Nilai maximum data aktual
Xmin : Nilai minimum data aktual
a : Data terkecil
b : Data terbesar
x
: Data aktual
2.6
PENELITIAN TERKAIT
Tabel 2.1 Penelitian Terkait
Nama Peneliti Judul Pembahasan
Tahun
Andrijasa M.F,Mistianingsih,
Penerapan Jaringan Syaraf Tiruan
Untuk Memprediksi Jumlah
Pengangguran di Provinsi
Kalimantan Timur Dengan
Menggunakan Algoritma
Pembelajaran Backprpagation.
Melakukan modifikasi
learning rate untuk
mendapatkan hasil prediksi
yang akurat dalam penelitian
yang dilakukannya learning
rate terbaik adalah 0.01
dengan 1 hidden layer.
2010
Hadihardaja
I.K,
Sutikno S,
Pemodelan Curah
Hujan-Limpasan Menggunakan
Artificial Neural Network.
Menghitung kesalahan
absolute rata-rata (KAR)
dalam metode
Backpropagation.
2005
Hajar I Penggunaan Backpropagation
neural network pada relay jarak
untuk mendeteksi gangguan pada
jaringan transmisi.
Backpropagation neural
network deprogram secara
terpadu menggunakan
algoritma generalized delta
rule (GDR) untuk mengenali
pola-pola bentuk gelombang
tegangan dan arus pada
kondisi saluran transmisi
terganggu, dengan
menggunakan tegangan dan
arus phasa sebagai input,
output backpropagation
adalah keputusan trip/tidak
trip.
2005
Siana Halim, Penerapan Jaringan Saraf Tiruan
untuk Peramalan
Membandingkan MAD
dengan MSE dalam Model
GARCH dan MAD dengan
MSE dalam backpropagation
2000
Dhaneswara,G.,
Moertini, V. S.
Implementasi Jaringan Saraf
Tiruan Tipe Multilayer
Feed-Forward Menggunakan
Algoritma Backpropagation
Melakukan konfigurasi
jaringan saraf tiruan
menggunakan
Backpropagation dengan
dengan Momentum untuk
Klasifikasi Data
membandingkan hasil yang
diperoleh dengan 1 lapisan
tersembunyi dengan 2 lapisan
tersembunyi dengan
Eksperimen Data Aplikasi
BAB 3
METODOLOGI PENELITIAN
3.1
PENDAHULUAN
Tahapan analisis terhadap suatu sistem dilakukan sebelum tahapan pembangunan
dilakukan. Prediksi dalam tesis ini menggunakan
backpropagation
dengan
pembobotan awal menggunakan metode Nguyen Widrow dan metode random.
Data yang digunakan dilatih untuk mendapatkan pola untuk prediksi. Setelah
pola didapat kemudian sistem diuji dengan data yang berbeda dengan data pelatihan.
Jika pada saat pengujian sistem telah mampu mendapat target yang ditentukan maka
sistem sudah dapat digunakan untuk memprediksi.
3.2
PERBEDAAN DAN PERSAMAAN DENGAN PENELITIAN LAIN
Penelitian dalam tesis ini memiliki persamaan dan perbedaan dengan penelitian yang
ada dalam daftar pustaka tesis ini. Adapun persamaan dan perbedaannya adalah
sebagai berikut:
3.2.1 Persamaan Dengan Penelitian lain
Adapun persamaan penelitian ini dengan penelitian yang terdapat pada tabel 2.1
adalah sama-sama menggunakan metode
backpropagation
untuk membuat prediksi.
3.2.2 Perbedaan Dengan Penelitian Lain
3.2.3 Kontribusi Penelitian
Penelitian ini memberikan pemahaman tentang pentingnya pembobotan dan bias
dalam
backpropagation
dalam membuat prediksi. Dengan menggunakan bobot dan
bias yang tepat akan menghasilkan hasil prediksi yang lebih akurat. Untuk
mendapapatkan bobot yang lebih baik penulis menggunakan metode Nguyen
Widrow untuk pembobotan awal. Dalam metode Nguyen Widrow bobot dan bias
awal dari
input layer
menuju lapisan tersembunyi akan dirancang sedemikian rupa.
Sehingga dapat meningkatkan kemampuan lapisan tersembunyi dalam
melakukan proses pembelajaran. Proses pembelajaran yang semakin mudah akan
mempercepat tercapainya konvergensi. Dalam penelitian ini juga akan ditambahkan
momentum pada metode
Backpropagation.
Hal ini disebabkan karena jika terdapat
data yang sangat berbeda dengan data yang lain akan terjadi perubahan bobot yang
mencolok. Penggunaan momentum akan menjadikan pola masukan awal dan pola
masukan akhir diperhitungkan. Untuk mendapatkan hasil prediksi yang lebih baik
penulis juga melakukan modifikasi jumlah
neuron
dalam lapisan tersembunyi.
3.3
DATA YANG DIGUNAKAN
Data yang digunakan dalam tesis ini adalah data yang bersumber dari hasil
pengamatan Balai Besar Meteorologi Klimatologi dan Geofisika Wilayah I selama
15 tahun terakhir (1997 -2011). Adapun jenis data yang digunakan adalah sebagai
berikut:
1.
Suhu Udara
2.
Curah Hujan
3.
Kecepatan Angin
4.
Kelembaban Udara
3.3.1 Normalisasi Data
Dalam tesis ini data yang digunakan untuk masukan dalam
Backpropagation
di
normalisasi terlebih dahulu. Normalisasi data dilakukan agar kestabilan taburan
data dicapai dan juga untuk menyesuaikan nilai data dengan
range
fungsi aktivasi
yang digunakan dalam jaringan.
Untuk Data suhu, suhu tertinggi adalah : 33.3
oC, suhu terendah adalah 27.7
oC.
maka suhu Januari 1997 dengan suhu 30.1
oX =
C dapat dinormalisasikan menjadi:
min min
max
). (
) )(
(
x a
b
a x
x
+ −
− × −
X = 0.4429
Dengan cara yang sama dapat dihitung nilai hasil normalisasi dari tiap data
yang digunakan.
3.3.2 Pembagian Data
Pembagian data dilakukan dengan membagi data penelitian menjadi dua bagian yaitu
data untuk pelatihan dan untuk pengujian. Dalam tesis ini akan dilakukan pembagian
data 70% untuk data pelatihan dan 30% untuk data pengujian. Adapun pembagian
data yang dilakukan dalam penelitian ini adalah sebagai berikut:
1.
Data untuk pelatihan (1997-2007)
2.
Data untuk pengujian (2008-2011)
Dengan pembagian data 70 % untuk pelatihan dan 30 % untuk pengujian
sistem sudah mampu untuk mengenali target yang harapkan. Dalam
backpropagation
jika data yang digunakan terlalu besar maka sistem akan
membutuhkan waktu yang sangat lama mencapai konvergensi atau menemukan pola
untuk mencapai target. Sebaliknya jika data terlalu sedikit maka akan menyebabkan
sistem mungkin tidak dapat mempelajari atau mengenali taburan data dengan baik
sehingga sulit untuk mencapai target (Maru’ao 2010).
Tahap
pelatihan
merupakan tahap dimana sistem akan mempelajari pola mencapai
target. Pola yang ditemukan akan digunakan untuk prediksi. Agar sistem dapat
menemukan pola untuk mencapai target yang diinginkan maka sistem dilatih dengan
bobot dan bias yang berbeda. Dalam tahap pelatihan
harus dicari nilai
error
yang
sekecil mungkin agar hasil prediksi yang diperoleh menjadi akurat. Kesalahan pada
tahap pelatihan
data akan menyebabkan hasil diperoleh jauh dari yang diharapkan.
[image:48.595.185.424.325.489.2]Dalam tesis ini data untuk pelatihan adalah data 8 tahun (tahun 1997 sampai
dengan tahun 2008).
Adapun pembagian data yang digunakan untuk pelatihan
adalah seperti dalam tabel 3.1
Tabel 3.1 Data untuk pelatihan dan Data Target
NO
Pelatihan
Target
Data Tahun
Data Tahun
1
1997 s/d 2004
2005
2
1998 s/d 2005
2006
3
1999 s/d 2006
2007
4
2000 s/d 2007
2008
Berdasarkan tabel 3.1 dapat dilihat data pelatihan tahap pertama yaitu data dari
tahun 1997 - 2004 yang digunakan untuk pelatihan dan data tahun 2005 dijadikan
target. Demikian juga dilakukan untuk pelatihan data tahap kedua, Ketiga dan
Keempat.
Tabel 3.2 berisi data hasil pengamatan suhu yang akan digunakan untuk proses
pelatihan. Data suhu bulan Januari tahun 1997 sampai dengan data Januari 2004 akan
dilatih. Proses pelatihan akan berlangsung sampai sistem mampu menemukan pola
untuk mendapatkan target yaitu suhu Januari 2005. Proses yang sama dilakukan
sampai dengan data bulan Desember.
Tabel 3.2 Data Pelatihan untuk Suhu hasil Pengamatan
Data Untuk Pelatihan Suhu
Bln
1997
1998
1999
2000
2001 2002
2003
2004
2005
JAN
0.4429 0.486 0.386 0.300
0.414 0.386 0.4429 0.4286 0.5571
FEB
0.4857 0.657 0.457 0.4143 0.543 0.557 0.4571 0.5571 0.6286
MAR 0.6429 0.786 0.543 0.5571 0.657 0.743 0.6714 0.600
0.7857
APR
0.5857 0.900 0.357 0.5714 0.486 0.657 0.5714 0.600
0.8143
MEI
0.7857 0.886 0.571 0.7429 0.729 0.771 0.8286 0.8143 0.8143
JUN
0.600
0.743 0.629 0.5857 0.700 0.800 0.6571 0.7143 0.8143
JUL
0.6143 0.686 0.657 0.7571 0.714 0.729 0.5571 0.400
0.7571
AGS
0.7429 0.429 0.586 0.600
0.571 0.457 0.5571 0.6857 0.8286
SEPT 0.4429 0.514 0.486 0.3429 0.457 0.557 0.5143 0.500
0.7143
OKT
0.4429 0.700 0.343 0.6286 0.571 0.500 0.3857 0.4714 0.4714
NOV 0.4714 0.500 0.457 0.400
0.486 0.500 0.400
0.5143 0.500
DES
0.4429 0.357 0.200 0.5143 0.443 0.543 0.3571 0.5143 0.400
Sumber Data: BBMKG Wilayah I
3.3.4 Pengujian Data
Setelah sistem dilatih maka langkah selanjutnya adalah akan dilakukan pengujian
terhadap sistem. Jika tahap pelatihan telah dilakukan dengan baik maka sistem akan
cepat menemukan target pada saat proses pengujian dilakukan. Pengujian terhadap
sistem bertujuan untuk menguji sistem apakah sudah mampu menghasilkan data
sesuai dangan data yang digunakan menjadi target.
Tabel 3.3 Data yang Digunakan untuk Pengujian
NO
Pengujian
Target
Data Tahun
Data Tahun
1
2001 s/d 2008
2009
2
2002 s/d 2009
2010
3
2003 s/d 2010
2011
Pada tahap pertama pengujian sistem akan diuji tingkat keakuratan untuk mencapai
target data tahun 2009. Data yang digunakan untuk menguji adalah data selama 8
tahun yaitu data tahun 2001 sampai dengan data tahun 2008. Hal yang sama
dilakukan untuk tahap kedua dan ketiga. Semakin tinggi tingkat keakuratan dalam
proses pengujian diharapkan akan menghasilkan tingkat keakuratan hasil prediksi
yang lebih baik.
3.3.5 Prediksi Data
Setelah tahap pengujian selesai dilakukan maka langkah terakhir adalah sistem
melakukan prediksi. Pada tahap prediksi sistem akan menggunakan parameter yang
digunakan pada saat sistem diuji.
3.4
PERANCANGAN
Untuk mempermudah pembangunan sistem maka terlebih dahulu dilakukan tahap
perancangan. Adapun perancangan yang terdapat pada penelitian ini adalah sebagai
berikut:
Perancangan arsitektur sistem adalah Merancang jumlah
input node
,
ouput node
,
hidden node
serta fungsi aktivasi yang digunakan. Dalam penelitian ini jumlah
hidden layer
ditentukan secara
trial and Error
dalam arti pembelajaran yang tercepat
dan terbaik itulah yang akan menentukan jumlah
hidden layer
tersebut. Jumlah
input
layer
yang untuk sistem adalah sebanyak 8
node
. Jumlah bias yang digunakan
adalah 2 yaitu 1 untuk bias menuju
hidden layer
dan 1 lagi untuk bias menuju
output
layer.
Sedangkan jumlah untuk
hidden layer
bebas dengan jumlah maximal adalah 17
node
dalam
hidden layer
. Jumlah
node
pada
input layer
adalah 8
node
, dengan
menggunakan 8
node
pada
input
layer pada umumnya sistem sudah mampu
mendapatkan target yang ditentukan. Pada
hidden layer
jumlah
node
yang dapat
digunakan
adalah 18
node
, dengan jumlah
node
tersebut sistem sudah mampu
mendapatkan hasil prediksi yang akurat.
3.4.2 Perancangan Skema Sistem
Adapun perancangan skema penelitian yang dilakukan dalam tesis ini dapat dilihat
pada gambar 3.2. Pembobotan dapat dilakukan dengan 2 cara yaitu cara random dan
cara metode Nguyen Widrow. Setelah dilakukan pembobotan bobot dan bias yang
diperoleh disimpan dalam database.
Pembobotan
Metode Secara Random Metode Nguwen Windrow
Database
[image:52.595.100.494.109.359.2]Hasil Metode Nguwen Windrow Hasil Metode Secara Random
Gambar 3.1 Skema Sistem
3.5
DIAGRAM TAHAPAN PELATIHAN
Diagram digunakan unuk menggambarkan langkah kerja dari sistem yang akan
dibuat. Tahap awal untuk pembobotan menggunakan metode Nguyen Widrow
dilakukan dengan menginput nilai acak dalam batas -1 s/d 1. Setelah diperoleh nilai
acak maka akan dihitung faktor skala menggunakan rumus yang terdapat pada(2.22).
Tahap selanjutnya adalah menghitung besar nilai ||
v
ijTahap inisialisasi ulang bobot digunakan dengan rumus (2.23). Sehingga
dihasilkan bobot baru. Bobot inilah yang digunakan sebagai bobot awal jika
menggunakan pembobotan metode Nguyen Widrow. Bias yang akan digunakan
adalah interval negatif faktor skala sampai dengan positif faktor skala ( -
β sampai
β).
Adapun diagram yang digunakan untuk metode Nguyen Widrow dan
langkah-langkah proses penenelitian
adalah seperti gambar 3.3.
Input bilangan acak antara -1 s/d 1
[image:53.595.103.225.111.438.2]Hitung Faktor skala (β)
Hitung ||vij||
Inisialisasi ulang bobot
Set bias -β s/d β
Gambar.3.2 Diagram Tahapan Metode Nguyen Widrow
Proses untuk menghasilkan prediksi yang digunakan di dalam tesis ini dimulai
dengan meng-
input
data. Pada tahap awal data hasil pengamatan tahun 1997 s/d
2011 di-
input
kedalam sistem. Data yang di-
input
terlebih dahulu dinormalisasi
menggunakan persamaan (2.26). Tujuan Normalisasi ini adalah agar diperoleh
interval data yang sesuai dengan fungsi aktifasi yang digunakan yaitu fungsi aktivasi
Sigmoid Biner.
Pada tahap pembobotan dilakukan dengan memilih pembobotan metode
Nguyen widrow atau metode random. Setelah pembobotan dilakukan akan diperoleh
bobot yang akan digunakan untuk
Feedforward
(penelusuran kedepan). Pada tahap
feedforward
akan menerima sinyal masukan x
i( data BBMKG Wilayah I) sebanyak
Tahap berikutnya adalah Menjumlahkan bobot dari sinyal
input
sehingga
didapat sinyal
output
dari
output layer
yang sudah diaktifkan dengan menggunakan
fungsi aktivasi
Sigmoid Biner.
Sinyal yang diperoleh dari
output layer
akan dihitung
error-
nya dengan mengurangkan dengan data target. Selisih pengurangannya di
sebut dengan nilai
error.
Nilai
error
harus dicari nilainya lebih kecil dari batas
error
yang digunakan. Jika nilainya masih diatas batas
error
maka dilakukan koreksi
bobot dan bias, Koreksi bobot dan bias dilakukan untuk mengurangi nilai
error
sehingga sistem menemukan pola untuk mendapatkan target. Bobot, yang dapat
menemukan pola untuk prediksi akan disimpan.
Pada tahap pengujian bobot yang diperoleh pada saat pembobotan akan
digunakan untuk menguji sistem apakah sistem sudah dapat menemukan target yang
digunakan. Pengujian dilakukan sampai diperoleh
error
paling rendah. Tahap
terakhir adalah Prediksi, pada tahap prediksi bobot dan semua variabel yang
digunakan pada saat pengujian akan digunakan pada tahap prediksi. Jika persentase
keakuratan pada tahap pengujian tinggi maka keakuratan hasil prediksi juga akan
tinggi.
Input Data
Normalisasi Data
Pembobotan
feedforward
Hitung Error
Hitung Koreksi bobot
Simpan Bobot Pengujian Prediksi
Random
[image:55.595.98.479.106.582.2]Metode Nguwen Windrow
