Algoritma AGA RBF

BAB II TINJAUAN PUSTAKA

3.2 Perancangan

3.2.2 Algoritma AGA RBF

BAB III

METODE PENELITIAN

3.1StudiLiteratur

Studi literatur dilakukan untuk mendapatkan pengetahuan dari literatur-literatur yang berkaitan dengan objek yang dikaji. Pengetahuan yang diperlukan didapatkan dengan mempelajari Algoritma Genetika, Jaringan Syaraf Tiruan,

Adaptive Genetic Algorithm, Algoritma K-Means Clustering dan Jaringan Radial Basis Function.

3.2Perancangan

3.2.1 Data

Database iris diperoleh dari UCI Machine Learning Repository dengan alamat di http://archive.ics.uci.edu/ml/. Total data sebanyak 150 data, 50 data (33.3%) untuk masing masing class yaitu iris setosa, iris versicolour dan iris virginica, dengan deskripsi atribut ditunjukkan pada tabel 3.1 :

Tabel 3.1 Deskripsi atribut data iris

No Atribut Domain

1 Panjang sepal Bilangan real dalam cm 2 Lebar sepal Bilangan real dalam cm 3 Panjang petal Bilangan real dalam cm 4 Lebar petal Bilangan real dalam cm

5 Class iris setosa, iris versicolour dan iris virginica

Sumber : (Blak, 1988)

3.2.2 Algoritma AGA RBF

Pada tugas akhir ini akan dibuat algoritma penggabungan jaringan radial basis function dengan Adaptive genetic algorithm sebagai berikut :

commit to user MULAI Membangun arsitektur jaringan RBF Pelatihan RBF MSE < 0.01 OR Iterasi = max epoh

Ubah bobot dengan AGA

SELESAI

Ya

Tidak

Hasil

Gambar 3.1 Algoritma AGA RBF

Algoritma AGA RBF tersebut adalah sebagai berikut : 1. Membangun arsitektur jaringan RBF (Radial Basis Function)

Tahapan dalam membangun jaringan radial basis function ditunjukkan pada Gambar 3.2 :

commit to user MULAI Menentukan fungsi basis Menentukan banyaknya center Menyusun arsitektur RBF SELESAI Menentukan center dengan algoritma K-Means

Gambar 3.2 Tahapan pembangunan jaringan radial basis function

a. Menentukan fungsi basis. Fungsi basis ini akan digunakan untuk aktivasi fungsi di hidden layer. Fungsi yang digunakan adalah fungsi berbasis radial yaitu fungsi Gaussian. Adapun fungsi Gaussian adalah sebagai berikut :

𝜃 𝑟 =𝑒𝑥𝑝 − ^𝑟2

2𝜎2 (3.1)

Dimana 𝜎 adalah nilai spread yang didefinisikan sebagai berikut :

𝜎= 𝑗𝑎𝑟𝑎𝑘𝑚𝑎𝑘𝑠𝑖𝑚𝑢𝑚𝑎𝑛𝑡𝑎𝑟𝑎 2 𝑝𝑢𝑠𝑎𝑡

𝑏𝑎𝑛𝑦𝑎𝑘𝑝𝑢𝑠𝑎𝑡 ⁼

𝑑_𝑚𝑎𝑥

𝑛 ^(3.2)

Menetukan banyaknya center. Banyaknya center akan mempengaruhi arsitektur jaringan radial basis function karena banyaknya center akan menjadi neuron pada hidden layer jaringan radial basis function.

commit to user

yang akan dicari centernya menggunakan algoritma K-Means.

b. Menentukan center dengan algoritma K-Means. Adapun algoritma

K-Means ditunjukkan pada Gambar 3.3 :

Data berupa vektor MULAI

SELESAI Inisialisasi jumlah cluster = k dan iterasi

maksimum

Inisialisasi center

Hitung Je iterasi awal

Hitung eucledian

Hitung center baru

Iterasi = iterasi + 1 Hitung Je iterasi Je(i+1) == Je Iterasi = max Ya Tidak

Gambar 3.3 Algoritma K-Means 1) Loaddata

commit to user

3) Inisialisasi center dengan mengelompokkan data, dengan cara membagi data menjadi k bagian dan untuk masing-masing bagian diambil nilai tengahnya.

4) Hitung Je iterasi awal. Je adalah sum-of-square-error atau jumlahan kuadrat error masing-masing data pada cluster terdekat. Adapun rumus perhitungan Je adalah sebagai berikut :

𝐽_𝑘 = 𝑥_𝑗 − 𝑀 ² 𝑥∈𝑃𝑘 (3.3) 𝐽_𝑒 = 𝐽_𝑘 𝐾 𝑘=1 (3.4)

5) Selama Je(i+1) tidak sama dengan Je iterasi dan iterasi belum mencapai maksimal lakukan :

a) Hitung eucledian dengan rumus

𝑑 𝑥,𝑦 = 𝑥 − 𝑐 2= (𝑥_𝑖− 𝑐_𝑖)2 𝑛 𝑖=1 (3.5) 𝑥_𝑗 − 𝑀_𝑘(𝑚) < 𝑥_𝑗 − 𝑀_𝑖(𝑚) (3.6) Dimana

b) Hitung center baru dengan rumus

𝑀_𝑘 𝑚+ 1 = ¹

𝑁𝑘 𝑥_𝑗

𝑥_𝑗∈𝐶𝑙_𝑘(𝑚)

(3.7) c) Hitung Je iterasi

commit to user X1 X2 X3 X4 φ1 φ2 φn Y1 Y2 wij x1 x2 x4 x3 b y1 y2

Gambar 3.4 Arsitektur jaringan radial basis function

Pada penelitian ini input data untuk jaringan radial basis function

adalah 4 atribut data iris yaitu : X1 panjang sepal dalam cm X2 lebar sepal dalam cm X3 panjang petal dalam cm X4 panjang petal dalam cm

Pada hidden layer merupakan bias dan fungsi basis dengan jumlah

neuron sesuai dengan jumlah center yang didefiniskan yaitu φ1,φ2,… φn. Dengan n adalah jumlah center. Pada output layer terdapat 2 neuron dengan fungsi aktivasi biner dengan treshold θ = 0. Adapun persamaan dari fungsi biner dengan threshold adalah sebagai berikut :

𝑓 𝑥 = ¹ 𝑖𝑓𝑥 ≥ 𝜃

0 𝑖𝑓𝑥 < 𝜃 ^(3.8)

Output dari jaringan radial basis function adalah berupa bilangan biner untuk Y1 dan Y2. Output akhir jaringan radial basis function untuk klasifikasi tumbuhan iris adalah sebagai berikut :

Y1 = 0, Y2 = 0 adalah iris setosa

Y1 = 0, Y2 = 1 adalah iris versicolour

Y1 = 1, Y2 = 1 adalah iris virginica Y1 = 1, Y2 = 0 tidak teridentifikasi

commit to user 2. Pelatihan jaringan radial basis function

Algoritma pelatihan jaringan radial basis function adalah sebagai berikut Langkah 1 : Inisialisasi iterasi maksimal dan learning rate(α).

Langkah 2 : Inisialisasi bobot pada hidden layer (bobot basis).

Langkah 3 : Selama epoch <= maksimal epoch dan atau MSE <= 0.01, untuk setiap sinyal latih kerjakan langkah 4 – 8

Langkah 4 : Hitung keluaran jaringan RBF dengan rumus : (Zhangang, Yanbo, & Cheng, 2007)

𝑦_𝑖 = 𝑤_𝑗,𝑖𝜑 𝑥 − 𝑐_𝑗

𝑞 𝑗=1

(3.9)

Dengan fungsi basis didefinisikan sebagai berikut :

𝜑 𝑟 = 𝑒𝑥𝑝 −𝑟2/2𝜎2 𝜎 > 0,𝑟 ≥0 (3.10)

Sebelum masuk fungsi aktivasi dengan threshold hasil

𝜑 𝑣 diaktivasi dengan fungsi sigmoid terlebih dahulu untuk membatasi nilai agar tetap berada pada range 0 sampai 1. (Bors) Adapun fungsi sigmoid adalah sebagai berikut :

𝑓 𝑥 = ¹

1 + exp −𝑝𝑥 ^(3.11)

Dimana nilai σ didefinisikan sebagai berikut : (Haryono, 2005)

𝜎= 𝑗𝑎𝑟𝑎𝑘𝑚𝑎𝑘𝑠𝑖𝑚𝑢𝑚𝑎𝑛𝑡𝑎𝑟𝑎 2 𝑝𝑢𝑠𝑎𝑡 𝑏𝑎𝑛𝑦𝑎𝑘𝑝𝑢𝑠𝑎𝑡 ⁼

𝑑_𝑚𝑎𝑥

𝑛 ^(3.12)

Dan fungsi aktivasi sebagai berikut :

𝑓 𝑥 = ¹ 𝑖𝑓𝑥 ≥ 𝜃

0 𝑖𝑓𝑥 < 𝜃 ^(3.13)

Langkah 5 : Hitung kesalahan (error) antara sinyal target sinyal latih (d) dengan keluaran RBF y. error = d – y

Langkah 6 : Update bobot node hidden layer dan bias dengan metode LMS. Langkah 7 : Hitung MSE = akar dari jumlahan kuadrat error

commit to user

Algoritma Adaptive Genetic Algorithm (AGA) pada dasarnya sama dengan algoritma genetika biasa namun perbedaan mendasar pada AGA adalah penentuan probabilitas crossover dan probabilitas mutasi yang adaptif sesuai dengan nilai fitness. Adapun algoritma AGA RBF adalah sebagai berikut :

MULAI Inisialisasi Populasi Konfigurasi AGA Evaluasi Fitness Kriteria Berhenti ? Crossover Mutasi SELESAI Seleksi Update probabilitas crossover &

probabilitas mutasi Terjemahkan kromosom ke bobot RBF RBF Evaluasi performa RBF Ya Tidak Populasi baru Hasil

Gambar 3.5 Algoritma AGA RBF

a. Konfigurasi AGA meliputi

1) Melakukan representasi solusi kedalam kromosom / individu. Pada penelitian ini kromosom direpresentasikan dalam string bilangan real. Setiap gen berisi nilai real yang mewakili bobot basis di hidden layer

pada jaringan radial basis function. Panjang kromosom sebanyak jumlah bobot basis dan bias pada jaringan radial basis function. Adapun repreentasi kromosom dapat digambarkan sebagai berikut :

Z1 Z2 Z3 ….. Zn Zn+1

Z1 sampai Zn berisi bobot basis, dengan n adalah banyaknya bobot yang yaitu banyaknya neuron hidden layer dikali 2 (output layer). Z1, Z2…Zn berturut-turut adalah

commit to user Z1 = w₁₁ Z2 = w₁₂ Z3 = w₂₁ Z4 = w₂₂ …… Zn = w₂₂

2) Penentuan jumlah kromosom dalam populasi.

3) Penentuan kriteria berhenti berupa fitness max dan maksimal generasi. 4) Inisialisasi probabilitas crossover (pc) dengan bilangan random antara

0 sampai 1.

5) Inisialisasi probabilitas mutasi (pm) dengan bilangan random antara 0 sampai 1.

6) Penentuan nilai k1, k2, k3 dan k4 sebagai variable untuk update pc dan pm.

7) Penentuan eltisme.

b. Inisialisasi populasi yaitu dengan mengambil bobot sebanyak jumlah kromosom pada epoch-epoch akhir pelatihan jaringan radial basis function.

c. Selama kondisi berhenti belum terpenuhi kerjakan langkah 4 sampai selesai.

d. Terjemahkan kromosom menjadi bobot dan bias untuk dievaluasi performanya pada jaringan radial basis function.

e. Evaluasi fitness yaitu menghitung nilai fitness masing-masing kromosom dengan rumus (Burdsall & Giraud-Carrier)

𝑓𝑖𝑡𝑛𝑒𝑠𝑠= 𝑐𝑜𝑟𝑟𝑒𝑐𝑡_𝑐𝑙𝑎𝑠𝑠𝑖𝑓𝑖𝑐𝑎𝑡𝑖𝑜𝑛

𝑠𝑖𝑧𝑒_𝑜𝑓_

𝑒𝑣𝑎𝑙𝑢𝑎𝑡𝑖𝑜𝑛

_𝑠𝑒𝑡 ^(3.14)

f. Seleksi yaitu memilih individu yang paling fit untuk selanjutnya dilakukan proses crossover dan mutasi. Metode seleksi yang dipakai pada penilitian ini yaitu roulette wheel.

g. Crossover yaitu menyilangkan dua buah individu untuk mendapatkan individu baru yang diharapkan lebih baik dari induknya. Metode

commit to user menengah.

h. Mutasi dilakukan pada bilangan real. Yaitu dengan mengubah gen yang dimutasi dengan bilangan random antara nilai tertinggi dan terendah gen dari kromosom yang dimutasi. (F.Herrera, Lozano, & Vergeday, 1998). i. Dapatkan generasi baru dan update probabilitas crossover dan

probailitas mutasi dengan rumus : (Srinivas & Patnaik, 1994)

𝑝𝑐 ⁼𝑘1 𝑓𝑚𝑎𝑥 − 𝑓′ 𝑓𝑚𝑎𝑥 − 𝑓 , 𝑘1 ≤1.0 (3.15) 𝑝_𝑚 =𝑘2 𝑓_𝑚𝑎𝑥 − 𝑓 𝑓_𝑚𝑎𝑥 − 𝑓 , 𝑘2 ≤1.0 (3.16) Dengan batasan 𝑝_𝑐 = 𝑘3, 𝑓′ ≤ 𝑓 (3.17) 𝑝_𝑚 =𝑘4, 𝑓 ≤ 𝑓 (3.18) Dengan k3, k4≤ 1.0