ADALINE (Adaptive Linear Neuron) dikembangkan oleh Widrow dan Hoff pada tahun 1960. Adaline dilatih dengan menggunakan aturan delta, yang juga dikenal sebagai aturan least mean squares (LMS) atau Widrow-Hoff. Jaringan lapis tunggal Jaringan terdiri dari satu atau lebih unit masukan dan satu unit keluaran. Mempunyai sebuah bias yang berperilaku seperti bobot yang bisa disesuaikan yang terletak pada koneksi dari sebuah unit yang selalu mengeluarkan sinyal +1 agar bobot bias bisa dilatih seperti bobot lainnya dengan proses yang sama dalam algoritma pelatihan.
Beberapa jaringan Adaline yang menerima sinyal dari unit masukan yang sama dalam dikombinasikan menjadi sebuah jaringan lapis tunggal seperti perceptron. Beberapa Adaline juga bisa dikombinasikan sehingga keluaran dari sebagian Adaline menjadi masukan untuk Adaline yang lain.
ADALINE menggunakan threshold dalam melakukan proses penjumlahan linier seluruh masukan pada jaringannya. Pengaturan bobot interkoneksi pada jaringan ADALINE dilakukan menggunakan Persamaan :
๐ + = ๐ + ๐ (โโฬ๐) (1)
Keterangan :
ยต
adalah konstanta belajar.ฮต
k adalah error pada iterasi ke-k.๐ adalah konstanta belajar yang bernilai 2
ยต.
Menurut Saranya & Kuppusamy (2016 ) Adaline (Adaptive Linear Neuron) adalah model linier sederhana dua lapisan jaringan syaraf tiruan. Satu lapisan mengacu pada input dan lapisan lain mengacu pada lapisan keluaran yang memiliki neuron output tunggal. Semua neuron masukan mengirimkan data ke neuron output tunggal dan latihan jaringan hasilnya dengan algoritma Least Mean Squares (LMS) untuk pembelajaran. Lingkup jaringan Adaline mengenali pola, penyaringan data, atau mendekati fungsi linier
Arsitektur jaringan Adaline ditunjukkan pada gambar berikut. Pada jaringan ini, terdapat n unit masukan, yaitu X1, โฆ, Xi, โฆ, Xn dengan bobot w1, โฆ, wi, โฆ, wn, dan sebuah unit keluaran, yaitu Y. Selain itu, terdapat sebuah unit yang selalu memberikan sinyal +1 dimana bobotnya diberi nama bias (b).
Gambar 2.7 Arsitektur ADALINE
Langkah dalam Adaline adalah sebagi berikut :
W[ ] = [ ]
Langkah 1: Pola pertama disimpan dalammemori dengan memodifikasi nilai bobot interkoneksi menurut aturan Hebbian berdasarkan persamaan
๐๐ข= ๐ +
= + ๐= [ ]+[
++ โ+
]
ร
[+ + + โ
]= [
Dengan memperhatikan matriks bobot yang diperoleh, pola pertama menunjukkan bahwa setiap dua ciri utama yang memiliki nilai yang sama baik +1 atau -1, akan memiliki kekuatan hubungan antara dua elemen memori yang berhubungan dengan ciri, sama dengan +1, sebaliknya, setiap dua ciri utama mempunyai nilai berbeda, baik +1 dan -1 atau -1 dan +1, akan memiliki kekuatan hubungan antara dua elemen memori yang berhubungan dengan ciri, sama dengan -1. Dengan kata lain, bobot matriks akan sebanding dengan kovariansi antar ciri utama.
Langkah 2: Misalkan, pola kedua yang dicirikan dengan ๐ = [โ โ โ + ]
langkah dilanjutkan hingga misalkan langkah sepuluh, sehingga diperoleh matriks interkoneksi pola dalammemori asosiatif.
Gambar 2.8 Pola interkoneksi suatu memori asosiatif pengenalan sepuluh pola wajah
Pada Gambar 2.8, bobot interkoneksi antara elemen pemroses 1 dan 2, 1 dan 3, dan 2 dan 3 mempunyai nilai 2, hal ini mencerminkan bahwa nilai-nilai ciri utama yang berhubungan dengan elemen pemroses adalah sama, +1 dan +1 atau -1 dan -1, dalam enam pola, tetapi berbeda untuk empat pola, 6 x (+1)+4 x (-1)=2. Bobot interkoneksi antara elemen pemroses 1 dan 4 mempunyai nilai 6, yang menunjukkan bahwa nilai-nilai ciri utama1 dan 4 sama dalam delapan pola dan berbeda dalam 2 pola, 8 x (+1)+2 x (-1)=6. Bobot interkoneksi antara elemen pemroses 2 dan 4, dan 3 dan 4 mempunyai nilai -2, yang menunjukkan nilai-nilai ciri utama yang berhubungan dengan elemen pemroses adalah sama, +1 dan +1 atau -1 dan -1, dalam empat pola, tetapi berbeda untuk enam pola, 4 x (+1)+6 x (-1)= -2.
Tinjau kembali hasil dari Gambar 2.6, ambil vektor masukan 2 dan 4 yang menghasilkan keluaran yang tidak kuat (karena tidak ortogonal). Selanjutnya kita mencoba membuat matriks bobot dengan algoritma belajar Widrow-Hoff. Jaringan ADALINE terdiri dari kriteria sebagai berikut :
1. Memiliki satu atau lebih unit masukan dan satu unit keluaran.
2. Mempunyai sebuah bias yang berperilaku seperti bobot yang bisa disesuaikan yang terletak pada koneksi dari sebuah unit yang selalu mengeluarkan sinyal +1 agar bobot bias bisa dilatih seperti bobot lainnya dengan proses yang sama dalam algoritma pelatihan.
3. Beberapa jaringan Adaline yang menerima sinyal dari unit masukan yang sama dalam dikombinasi kan menjadi sebuah jaringan lapis tunggal seperti perceptron.
4. Beberapa Adaline juga bisa dikombinasikan sehingga keluaran dari sebagian Adaline menjadi masukan untuk Adaline yang lain, dan akan membentukan
jaringan lapis banyak yang disebut Madaline (Many Adaptive Linear Neuron).
5. Fungsi aktivasi yang digunakan adalah fungsi tangga 1 if yin > 0
Y =
(2) -1 if yin < 0
6. Algoritma Pembelajaran
Set laju pembelajaran a
(0,1 = na = 1, dimana n adalah jumlah unit masukan) Langkah 1. Selama syarat henti salah, lakukan langkah 2- 6
Langkah 2. Untuk setiap pasangan pelatihan (masukan dan target) bipolar s:t, lakukukan langkah 3- 5
Langkah 3. Set nilai aktifasi dari unit masukan, i = 1, โฆ., n
x i= si (3) Langkah 4. Hitung total masukan ke unit keluaran
Y_in = โ xiwi + b (4)
Langkah 5. Perbarui bobot dan bias, i = 1, โฆ., n
b(new) = b(old) + a (t โy_in) (5)
wi(new) =wi (old) + a (t โy_in) xi (6)
Langkah 6. Uji syarat henti :
Jika perubahan bobot (a (t โy_in)) terbesar yang terjadi dalam langkah 2 adalah lebih kecil dari toleransi (e) yang telah ditentukan, maka selesai; jika tidak maka kembali ke langkah 1. Nilai toleransi (e) yang digunakan adalah 1 < e = 0. Dalam menentukan nilai laju pembelajaran (a), umumnya digunakan nilai yang kecil (misalkan a = 0.1). Apabila nilai a terlalu besar, proses pembelajaran tidak akan konvergen. Jika terlalu kecil nilai yang dipilih,pembelajaran akan menjadi terlalu lambat. Agar praktis, kisaran nilai a yang bisa dipilih adalah 0,1 = n a
= 1 dimana n adalah jumlah unit masukan.
7. Algoritma Pengujian
Setelah pelatihan, sebuah jaringan Adaline bisa digunakan untuk mengklasifikasi pola ma sukan. Bila nilai target adalah bivalen (biner atau bipolar), fungsi tangga bisa digunakan sebagai fungsi aktivasi dari unit keluaran. Prosedur umum ini adalah langkah - langkah yang digunakan apabila target adalah bipolar : Langkah 0. Inisialisasi bobot
(d igunakan nilai bobot yang diperoleh dari algoritma pelatihan) Langkah 1. Untuk setiap vektor masukan x, lakukan langkah 2- 4
Langkah 2. Set nilai aktifasi dari unit masukan, i = 1, โฆ., n
Langkah 3. Hitung total masukan ke unit keluaran
Y_in = โ xiwi + b (8)
Langkah 4. Gunakan fungsi aktifasi 1 jika yin > 0
Y =
(9)
-1 jika yin < 0