Neural Network

BAB II TINJAUAN PUSTAKA

2.2. Dasar Teori

2.2.3. Neural Network

Pada sub bab Neural Network ini akan dijelaskan tentang dasar-dasar Neural Network yang akan digunakan pada pemodelan peramalan ini.

2.2.3.1. Artificial Neural Network

Dari model multivariate ARIMA yang cukup fleksibel dalam memodelkan sebagian besar pola time series. Kekurangan dari ARIMA adalah model ARIMA mengasumsikan model yang linier. Hal ini menyebabkan model ARIMA tidak menangkap pola-pola yang non-linear yang umum terdapat pada time series. Oleh karena itu, model tersebut memerlukan model yang dapat menangkap pola-pola yang non-linear. Model tersebut adalah

model ANN (Artificial Neural Network) [7]. Menurut struktur neuron pada otak manusia, dan proses kerja yang dijelaskan diatas, maka konsep dasar pembangunan Artificial Neural Network terbentuk. Cara kerja ANN dapat disimpulkan mengadopsi dari cara berpikir sebuah system atau aplikasi yang menyerupai otak manusia, mulai dari menerima input yang diterima, toleransi dari kesalahan atau error, dan juga prosesnya. ANN mempresentasikan buatan dari otak manusia yang selalu melakukan proses pembelajaran pada otak manusia tersebut, di dalam ANN terdapat tiga elemen yang berperan penting sebagai berikut:

a. Arsitektur jaringan beserta hubungan antar neutron b. Algoritma pembelajaran yang berfungsi untuk penggunaan

penemuan bobot-bobot jaringan c. Fungsi dari aktivasi yang digunakan

Cara yang efisien untuk memecahkan problem yang kompleks adalah memecahkan permasalahan tersebut ke dalam elemen-elemen yang lebih kecil (divide and conquer). Model ANN dapat melakukan kegiatan semacam ini [18]. Secara prinsip jaringan dibangun menggunakan input yang dikaitkan dengan suatu faktor penimbang tertentu. Dan kemudian dijumlahkan semua masukan tersebut untuk mennetukan tingkat aktivasi neuron.

Dalam ANN, model neuron terdiri dari 3 bagian, diantaranya: 1. Synapsis (jalur penghubung) antara neuron yang memiliki

bobot tiap synapsis memiliki indeks untuk menunjukkan input yang mana yang akan diproses untuk menjadi output. 2. Summing Unit untuk melakukan perhitungan terhadap total

output

3. Activation function untuk membatasi output

Seperti jaringan manusia, jaringan saraf tiruan memiliki komponen sebagai berikut [19]:

a. Neuron Tiruan (Artificial Neuron)

ANN disusun oleh unit dasar yang disebut dengan neuron tiruan yang merupakan elemen pemrosesan dalam jaringan, dimana semua proses perhitungan dilakukan disini.

b. Lapisan (Layer)

ANN disusun oleh kumpulan neuron yang berhubungan dan dikelompokkan pada layer-layer. Dalam ANN terdapat tiga layer diantaranya: input layer, hidden layer, dan output layer

c. Masukan (Input)

ANN hanya dapat memproses data yang memiliki masukan berjenis numerik. Sehingga apabila msalah melibatkan data kualitatif seperti grafik, gambar, sinyal suara dan data tersebut akan dirubah ke dalam data numeric yang ekivalen sebelum dapat diproses oleh ANN. d. Keluaran (Output)

Keluaran dari ANN adalah berupa pemecahan terhadap masalah yang berupa data numerik.

e. Bobot (Weight)

Bobot di dalam ANN menyatakan bahwa suatu system memiliki tingkat kepintaran. Bobot dari sebuah ANN

berupa deretan angka yang sangat penting untuk mengoptimalkan dan akan memungkinkan sebuah system menerjemahkan data masukan secara benar dan menghasilkan sebuah keluaran yang diinginkan.

2.2.3.2.Metode Backpropagation

Backpropagation merupakan salah satu pengembangan dari arsitektur Single Layer Neural Network. Pada arsitektur ini terdiri dari input layer, hidden layer, dan output layer, setiap layer terdiri dari satu atau lebih artificial neuron. Sebutan umum untuk arsitektur ini adalah multilayer neural network.

Gambar 2. 3 Arsitektur Multilayer Neural Network (Fauset, 1994) Pada metode ini merupakan metode sistematik jaringan saraf tiruan yang menggunakan algoritma unsupervised learning dan biasanya digunakan oleh perceptron dengan banyak lapisan untuk mengubah bobot-bobot yang ada pada lapisan tersembunyi (hidden layer). Pelatihan yang digunakan pada backpropagation adalah jenis terkontrol dimana menggunakan pola penyesuaian bobot untuk mencapai nilai kesalahan yang

minimum antara keluaran hasil prediksi dengan keluaran yang nyata.

Dalam metode backpropagation menggunakan tiga langkah untuk melakukan pelatihan, yaitu:

a. Feedforward dari pola input training b. Backpropagation dari error yang terhubung c. Penyesuaian bobot-bobot

2.2.3.3.Pelatihan Standar Backpropagation

Pada pelatihan backpropagation meliputi tiga fase, yaitu sebagai berikut [20]:

a. Fase I: Propagasi Maju

Pola inputan dihitung mamu Mukai dari layer masukan hingga layer keluaran menggunakan fungsi aktivasi yang ditentukan.

b. Fase II: Propagasi Mundur

Selisih antara keluaran jaringan dengan target yang diinginkan merupakan kesalahan yang terjadi. Kesalahan tersebut dipropagasikan mundur, dimulai dari garis yang berhubungan langsung dengan unit-unit layer keluaran. c. Fase III: Perubahan Bobot

Modifikasi bobot untuk menurunkan kesalahan yang terjadi. Fase ini diiterasi hingga kondisi penghentian terpenuhi.

2.2.3.4.Algoritma Pembelajaran Backpropagation

Algoritma pelatihan untuk jaringan dengan satu layer tersembunyi (dengan fungsi aktivasi sigmoid biner) adalah sebagai berikut [21]:

1. Langkah 0: inisialisasi semua bobot dengan bilangan acak kecil.

2. Langkah 1: jika kondisi penghentian belum terpenuhi, lakukan langkah 2-9.

3. Langkah 2: untuk setiap pasang data pelatihan, lakukan langkah 3-8

Fase I: Feedfoward (propagasi maju)

4. Langkah 3: tiap unit masukan menerima sinyal dan meneruskannya ke unit tersembunyi diatasnya

5. Langkah 4: Hitung semua keluaran di unit tersembunyi Xj

(j = 1,2,…,p)

𝑧_𝑛𝑒𝑡_𝑗 = 𝑣_𝑗𝑜 + ∑ 𝑥_𝑖𝑣_𝑖𝑖 𝑛 𝑖=1

Setelah itu menghitung sinyal output dan unit tersembunyi dengan menggunakan fungsi aktivasi yang ditentukan:

𝑋_𝑗= 𝑓(𝑋_𝑖𝑛𝑗)

Sinyal output ini selanjutnya dikirim ke seluruh unit pada unit atas (unit output)

6. Langkah ke 5: Hitung semua keluaran jaringan di unit 𝑦𝑘 (k=1,2,…,q)

𝑦_{𝑛𝑒𝑡𝑘} = 𝑤_𝑘𝑜+ ∑ 𝑍_𝑗𝑊_𝑘𝑗 𝑝

𝑗=1

Selanjutnya menghitung sinyal output dari unit output bersangkutan dengan menggunakan fungsi aktivasi yang telah ditentukan

𝑌𝑘 = 𝑓(𝑌_𝑖𝑛𝑘

Fase II: Backpropagation (propagasi mundur)

7. Langkah 6: hitung faktor 𝛿 unit keluaran berdasarkan kesalahan di setiap unit keluaran yk (k=1,2,…,q)

𝛿𝑘 = (𝑡𝑘− 𝑦𝑘)𝑓′(𝑦𝑛𝑒𝑡_𝑘) = (𝑡𝑘− 𝑦𝑘)𝑦𝑘(1 − 𝑦𝑘) 𝛿_𝑘 merupakan unit kesalahan yang akan dipakai dalam perubahan bobot layer dibawahnya (langkah 7). Hitung suku perubahan bobot 𝑤_𝑘𝑗 (yang akan dipakai untuk merubah bobot 𝑤𝑘𝑗) dengan laju percepatan α

∆𝑤𝑘𝑗 = 𝛼𝛿𝑘𝑧𝑗

8. Langkah 7: hitung factor 𝛿 unit tersembunyi berdasarkan kesalahan di setiap unit tersembunyi 𝑍𝑗(j=1,2,…p)

𝛿_{𝑛𝑒𝑡𝑗}= ∑ 𝛿_𝑘𝑤_𝑘𝑗 𝑚

𝑘=1

Factor 𝛿 unit tersembunyi:

𝛿_𝑗= 𝛿_{𝑛𝑒𝑡𝑗} 𝑓′(𝑧𝑛𝑒𝑡_𝑗) = 𝛿𝑛𝑒𝑡_𝑗 𝑧_𝑗(1 − 𝑧_𝑗)

Hitung suku perubahan bobot 𝑣𝑗𝑖^{(yang kan dipakai nanti untuk}

merubah bobot 𝑣𝑗𝑖

∆𝑣_𝑗𝑖 = 𝛼 𝛿_𝑗 𝑥_𝑖

Fase III: Perubahan Bobot

9. Langkah 8: Hitung semua perubahan bobot

Perubahan bobot garis yang menuju ke unit keluaran:

𝑤_𝑘𝑗(𝑏𝑎𝑟𝑢) = 𝑤_𝑘𝑗(𝑙𝑎𝑚𝑎) + ∆𝑤_𝑘𝑗

Perubahan bobot garis yang menuju ke unit tersembunyi:

𝑣_𝑗𝑖(𝑏𝑎𝑟𝑢) = 𝑣_𝑗𝑖(𝑙𝑎𝑚𝑎) + ∆𝑣_𝑗𝑖

Setelah pelatihan selesai dilakukan, jaringan dapat dipakai untuk pengenalan pola. Dalam hal ini, hanya feedforward (langkah 4 dan 5) saja yang dipakai untuk menentukan keluaran

jaringan. Apabila fungsi aktivasi yang dipakai bukan sigmoid biner, maka langkah 4 dan 5 harus disesuaikan. Demikian juga turunannya pada langkah 6 dan 7.

10. Langkah ke-9: tes kondisi berhenti apabila error ditemukan. Jika kondisi STOP telah terpenuhi, maka pelatihan jaringan dapat dihentikan.