MODEL
ADALINE DAN MADALINE
Yogiek Indra Kurniawan Jaringan Syaraf Tiruan
[email protected]
Universitas Jenderal Soedirman
PELATIHAN ADALINE
• Model ADALINE (Adaptive Linear Neuron) ditemukan oleh Widrow
& Hoff (1960). Arsitekturnya mirip dengan perceptron. Beberapa masukan (dan sebuah bias) dihubungkan langsung dengan sebuah neuron keluaran. Perbedaan dengan perceptron adalah dalam hal cara modifikasi bobotnya. Bobot dimodifikasi dengan aturan delta (sering juga disebut least mean square). Selama pelatihan, fungsi aktivasi yang dipakai adalah fungsi identitas.
Kuadrat selisih antara target (t) dan keluaran jaringan (f (net) merupakan error yang terjadi. Dalam aturan delta, bobot dimodifikasi sedemikian
hingga erronya minimum
E merupakan fungsi bobot Wi. Penurunan E tercepat terjadi pada arah
Maka perubahan bobot adalah :
dengan alfa merupakan bilangan positif kecil (umumnya diambil = 0,1)
ALGORITMA PELATIHAN ADALINE
1. lnisialisasi semua bobot dan bias(umumnya Wi =b = 0) Tentukan laju pemahaman (=a). Untuk penyederhanaan, biasanya a diberi nilai kecil (= 0.1)
2. Tentukan toleransi kesalahan yang diijinkan 3. Selama max Awi > batas toleransi, lakukan :
a) Set aktivasi unit masukan x = si (i = 1,...,n) b) Hitung respon unit keluaran: net =
y = f (net) = net
c) Perbaiki bobot pola yang mengandung kesalahan (y tidak sama dengan t) menurut persamaan :
• Setelah proses pelatihan selesai, ADALINE dapat dipakai untuk pengenalan pola. Untuk itu, umumnya dipakai fungsi threshold bipolar (meskipun tidak
menutup kemungkinan digunakan bentuk lainnya). Caranya adalah sebagai berikut :
1. Inisialisasi semua bobot dan bias dengan bobot dan bias hasil pelatihan . 2. Untuk setiap input masukan bipolar X lakukan :
a. Set aktivasi unit masukan Xi = Si (i = 1, ..., n) b. Hitung net vektor keluaran :
c. Kenakan fungsi aktivasi :
Contoh
Gunakan model ADALINE untuk mengenali pola fungsi logika “AND” dengan masukan dan target bipolar :
Gunakan batas toleransi= 0.05 dan a =0.1
Penyelesaian :
Dengan a = 0.1, maka perubahan bobotnya = wi = 0.1 (t - f(net)) xi = 0.1 (t - y) xi.
Iterasi untuk epoch-1 tampak Dalam tabel, f(net) = net
Maksimum Awi= 0.07 > toleransi, maka iterasi dilanjutkan untuk epoch kedua, yang tampak pada tabel selanjutnya
• Epoch ke-2
• Maksimum Awi= 0.02 < tolerarsi, maka iterasi dihentikan dan bobot terakhir yang diperoleh (w1 = 0.29, w2 =0.26 dan w3 = 0.32)
merupakan bobot yang digunakan dalam pengenalan polanya.
• Dalam pengenalan pola, fungsi aktivasinya adalah :
Tabel berikut merupakan pengenalan pola fungsi “AND" menggunakan bobot hasil pelatihan
Tampak bahwa keluaran jaringan Disimpulkan bahwa pola dapat dikenali dengan sempurna menggunakan bobot hasil pelatihan tepat sama dengan targetnya
MADALINE
• Beberapa ADALINE dapat digabungkan untuk membentuk suatu jaringan yang disebut MADALINE (many ADALINE). Dalam madaline terdapat sebuah layar tersembunyi. Gambar 6.1, menunjukkan arsitektur MADALINE untuk 2 buah masukan x1 dan x2, sebuah layar tersembunyi yang terdiri darj 2 unit neuron tersembunyi z1 dan z2, dan sebuah keluaran Y. Arsitektur MADALINE untuk lebih dari 2 unit masukan (atau lebih dari 2 unit tersembunyi) dapat dibentuk secara analog. Keluaran dari unit tersembunyi z1 dan z2 adalah nilai fungsi aktivasi (dan threshold) yang diterima dari x1 dan x2. Demikian pula unit keluaran Y merupakan nilai fungsi aktivasi dai z1 dan z2. Meskipun keluaran z1 dan z2 masing-masing merupakan fungsi linier, tetapi keluaran Y bukanlah fungsi linier x1 dan x2 karena adanya unit tersembunyi.
• Adanya unit tersembunyi dalam MADALINE akan meningkatkan kapabilitas
komputasi dibandingkan ADALINE, meskipun pelatihannya juga lebih kompleks.
CONTOH SOAL
• Gunakan MADALINE untuk mengenali pola fungsi logika "XOR" dengan masukan x1 dan x2. Gunakan a =0.5 dan toleransi = 0.1
Penyelesaian
• Fungsi logika "XOR" memiliki pasangan masukan-target seperti yang tampak pada tabel 6.6
• inisialisasi dilakukan pada semua bobot ke unit tersembunyi dengan suatu bilangan acak kecil. Misalkan didapat hasil seperti pada tabel 6.7
• t-y = -1 -1 = -2+0 dan t=-l. Maka semua bobot yang menghasilkan z_in yang positif dimodifikasi. Karena zin_1>0 dan zin_2>0, maka semua bobotnya dimodifikasi sebagai berikut:
Karena masih ada (bahkan semua) perubahan bobot > toleransi yang
ditetapkan, maka iterasi dilanjutkan untuk pola 2. Iterasi dilakukan untuk
semua pola. Apabila ada perubahan bobot yang masih lebih besar dari batas toleransi, maka iterasi dilanjutkan untuk epoch-2 dan seterursnya.
Tabel 6.8 merupakan pengecekan perubahan nilai bobot
