LANDASAN TEORI
HASIL DAN PEMBAHASAN
4.2.2. Grafik Pelatihan Backpropagation dengan Nguyen Widrow
Grafik di bawah ini menunjukkan Mean Square Error (MSE) dari hasil pelatihan pada tabel 4.3 dimana data dilatih menggunakan metode backpropagation dengan nguyen widrow (tanpa bias).
Gambar 4.19. Grafik data ke-1 laju pembelajaran -0.5 momentum 1 Backpropagation tanpa bias
Data-1 menggunakan metode nguyen widrow untuk inisialisasi bobot dan dilatih menggunakan metode backpropagation tanpa bias, dengan laju pembelajaran atau learning rate sebesar -0.5, momentum sebesar 1 dengan hasil nilai mean square error yaitu 0.995. Ketika laju pembelajaran atau learning rate bernilai negatif maka akan memperkecil nilai bobot sehingga tidak membantu pelatihan mencapai
konvergen. Selanjutnya faktor yang mempengaruhi laju pembelajaran adalah momentum dimana ketika nilai momentum kecil maka nilai mean square error semakin kecil. Akan tetapi ketika nilai momentum besar maka nilai mean square error semakin besar. Oleh karena itu, grafik di atas menunjukkan bahwa pelatihan belum konvergen.
Gambar 4.20. Grafik data ke-1 laju pembelajaran 0.2 momentum 0.8 Backpropagation tanpa bias
Data-1 menggunakan metode nguyen widrow untuk inisialisasi bobot dan dilatih menggunakan metode backpropagation tanpa bias, dengan laju pembelajaran atau learning rate sebesar 0.2, momentum sebesar 0.8 dengan hasil nilai mean square error yaitu 0.456. Ketika nilai laju pembelajaran atau learning rate yang bernilai positif maka akan menambah nilai bobot yang baru sehingga dapat mempengaruhi nilai mean square error semakin kecil untuk mencapai konvergen. Sementara, faktor lain yang mempengaruhi konvergensi adalah momentum dimana saat terjadi perubahan bobot maka nilai bobot awal dikalikan dengan momentum sebesar 0.8 sehingga membuat nilai bobot baru hasil perkalian tersebut menjadi lebih kecil dari bobot semula dan menyebabkan nilai mean square error tetap besar. Oleh karena itu, grafik di atas menunjukkan bahwa pelatihan belum mendekati konvergen.
102
Gambar 4.21. Grafik data ke-1 laju pembelajaran 0.5 momentum 1 Backpropagation tanpa bias
Data-1 menggunakan metode nguyen widrow untuk inisialisasi bobot dan dilatih menggunakan metode backpropagation tanpa bias, dengan laju pembelajaran atau learning rate sebesar 0.5, momentum sebesar 1 dengan hasil nilai mean square error yaitu 0.039. Ketika nilai laju pembelajaran atau learning rate yang bernilai positif maka akan menambah nilai bobot yang baru sehingga dapat mempengaruhi nilai mean square error semakin kecil untuk mencapai konvergen. Sementara faktor lain yang mempengaruhi konvergensi adalah backpropagation dimana saat terjadi perubahan bobot maka nilai bobot awal dikalikan dengan momentum sebesar 1 yang menghasilkan nilai bobot yang baru sama bernilai sama dengan nilai bobot semula sehingga menyebabkan nilai mean square error semakin kecil pada setiap epoch. Oleh karena itu, grafik di atas menunjukkan bahwa pelatihan mencapai konvergen.
Gambar 4.22. Grafik data ke-2 laju pembelajaran -0.5 momentum 1 Backpropagation tanpa bias
Data-2 menggunakan metode nguyen widrow untuk inisialisasi bobot dan dilatih menggunakan metode backpropagation tanpa bias, dengan laju pembelajaran atau learning rate sebesar -0.5, momentum sebesar 1 dengan hasil nilai mean square error yaitu 0.995. Ketika laju pembelajaran atau learning rate bernilai negatif maka akan memperkecil nilai bobot sehingga tidak membantu pelatihan mencapai konvergen. Selanjutnya faktor yang mempengaruhi laju pembelajaran adalah momentum dimana ketika nilai momentum kecil maka nilai mean square error semakin kecil. Akan tetapi ketika nilai momentum besar maka nilai mean square error semakin besar. Oleh karena itu, grafik di atas menunjukkan bahwa pelatihan belum konvergen.
Gambar 4.23. Grafik data ke-2 laju pembelajaran 0.2 momentum 0.8 Backpropagation tanpa bias
Data-2 menggunakan metode nguyen widrow untuk inisialisasi bobot dan dilatih menggunakan metode backpropagation tanpa bias, dengan laju pembelajaran atau learning rate sebesar 0.2, momentum sebesar 0.8 dengan hasil nilai mean square error yaitu 0.457. Ketika nilai laju pembelajaran atau learning rate yang bernilai positif maka akan menambah nilai bobot yang baru sehingga dapat mempengaruhi nilai mean square error semakin kecil untuk mencapai konvergen. Sementara, faktor lain yang mempengaruhi konvergensi adalah momentum dimana saat terjadi perubahan bobot maka nilai bobot awal dikalikan dengan momentum sebesar 0.8 sehingga membuat nilai bobot baru hasil perkalian tersebut menjadi lebih kecil dari bobot semula dan menyebabkan nilai mean square error tetap besar. Oleh karena itu, grafik di atas menunjukkan bahwa pelatihan belum mendekati konvergen.
104
Gambar 4.24. Grafik data ke-2 laju pembelajaran 0.5 momentum 1 Backpropagation tanpa bias
Data-2 menggunakan metode nguyen widrow untuk inisialisasi bobot dan dilatih menggunakan metode backpropagation tanpa bias, dengan laju pembelajaran atau learning rate sebesar 0.5, momentum sebesar 1 dengan hasil nilai mean square error yaitu 0.039. Ketika nilai laju pembelajaran atau learning rate yang bernilai positif maka akan menambah nilai bobot yang baru sehingga dapat mempengaruhi nilai mean square error semakin kecil untuk mencapai konvergen. Sementara faktor lain yang mempengaruhi konvergensi adalah backpropagation dimana saat terjadi perubahan bobot maka nilai bobot awal dikalikan dengan momentum sebesar 1 yang menghasilkan nilai bobot yang baru sama bernilai sama dengan nilai bobot semula sehingga menyebabkan nilai mean square error semakin kecil pada setiap epoch. Oleh karena itu, grafik di atas menunjukkan bahwa pelatihan mencapai konvergen.
Gambar 4.25. Grafik data ke-3 laju pembelajaran -0.5 momentum 1 Backpropagation tanpa bias
Data-3 menggunakan metode nguyen widrow untuk inisialisasi bobot dan dilatih menggunakan metode backpropagation tanpa bias, dengan laju pembelajaran atau learning rate sebesar -0.5, momentum sebesar 1 dengan hasil nilai mean square error yaitu -0.995. Ketika laju pembelajaran atau learning rate bernilai negatif maka akan memperkecil nilai bobot sehingga tidak membantu pelatihan mencapai konvergen. Selanjutnya faktor yang mempengaruhi laju pembelajaran adalah momentum dimana ketika nilai momentum kecil maka nilai mean square error semakin kecil. Akan tetapi ketika nilai momentum besar maka nilai mean square error semakin besar. Oleh karena itu, grafik di atas menunjukkan bahwa pelatihan belum konvergen.
Gambar 4.26. Grafik data ke-3 laju pembelajaran 0.2 momentum 0.8 Backpropagation tanpa bias
Data-3 menggunakan metode nguyen widrow untuk inisialisasi bobot dan dilatih menggunakan metode backpropagation tanpa bias, dengan laju pembelajaran atau learning rate sebesar 0.2, momentum sebesar 0.8 dengan hasil nilai mean square error yaitu -0.457. Ketika nilai laju pembelajaran atau learning rate yang bernilai positif maka akan menambah nilai bobot yang baru sehingga dapat mempengaruhi nilai mean square error semakin kecil untuk mencapai konvergen. Sementara, faktor lain yang mempengaruhi konvergensi adalah momentum dimana saat terjadi perubahan bobot maka nilai bobot awal dikalikan dengan momentum sebesar 0.8 sehingga membuat nilai bobot baru hasil perkalian tersebut menjadi lebih kecil dari bobot semula dan menyebabkan nilai mean square error tetap besar. Oleh karena itu, grafik di atas menunjukkan bahwa pelatihan belum mendekati konvergen.
106
Gambar 4.27. Grafik data ke-3 laju pembelajaran 0.5 momentum 1 Backpropagation tanpa bias
Data-3 menggunakan metode nguyen widrow untuk inisialisasi bobot dan dilatih menggunakan metode backpropagation tanpa bias, dengan laju pembelajaran atau learning rate sebesar 0.5, momentum sebesar 1 dengan hasil nilai mean square error yaitu -0.039. Ketika nilai laju pembelajaran atau learning rate yang bernilai positif maka akan menambah nilai bobot yang baru sehingga dapat mempengaruhi nilai mean square error semakin kecil untuk mencapai konvergen. Sementara faktor lain yang mempengaruhi konvergensi adalah backpropagation dimana saat terjadi perubahan bobot maka nilai bobot awal dikalikan dengan momentum sebesar 1 yang menghasilkan nilai bobot yang baru sama bernilai sama dengan nilai bobot semula sehingga menyebabkan nilai mean square error semakin kecil pada setiap epoch. Oleh karena itu, grafik di atas menunjukkan bahwa pelatihan mencapai konvergen.
Grafik di bawah ini menunjukkan Mean Square Error (MSE) dari hasil pelatihan pada tabel 4.4 dimana data dilatih menggunakan metode backpropagation dengan nguyen widrow (bias).
Gambar 4.28. Grafik data ke-1 laju pembelajaran -0.5 momentum 1 Backpropagation dengan bias
Data-1 menggunakan metode nguyen widrow untuk inisialisasi bobot dan dilatih menggunakan metode backpropagation dengan bias, dengan laju pembelajaran atau learning rate sebesar -0.5, momentum sebesar 1 dengan hasil nilai mean square error yaitu 0.995. Ketika laju pembelajaran atau learning rate bernilai negatif maka akan memperkecil nilai bobot sehingga tidak membantu pelatihan mencapai konvergen. Selanjutnya faktor yang mempengaruhi laju pembelajaran adalah momentum dimana ketika nilai momentum kecil maka nilai mean square error semakin kecil. Akan tetapi ketika nilai momentum besar maka nilai mean square error semakin besar. Oleh karena itu, grafik di atas menunjukkan bahwa pelatihan belum konvergen.
Gambar 4.29. Grafik data ke-1 laju pembelajaran 0.2 momentum 0.8 Backpropagation dengan bias
Data-1 menggunakan metode nguyen widrow untuk inisialisasi bobot dan dilatih menggunakan metode backpropagation dengan bias, dengan laju pembelajaran
108
atau learning rate sebesar 0.2, momentum sebesar 0.8 dengan hasil nilai mean square error yaitu 0.434. Ketika nilai laju pembelajaran atau learning rate yang bernilai positif maka akan menambah nilai bobot yang baru sehingga dapat mempengaruhi nilai mean square error semakin kecil untuk mencapai konvergen. Sementara, faktor lain yang mempengaruhi konvergensi adalah momentum dimana saat terjadi perubahan bobot maka nilai bobot awal dikalikan dengan momentum sebesar 0.8 sehingga membuat nilai bobot baru hasil perkalian tersebut menjadi lebih kecil dari bobot semula dan menyebabkan nilai mean square error tetap besar. Oleh karena itu, grafik di atas menunjukkan bahwa pelatihan belum mendekati konvergen.
Gambar 4.30. Grafik data ke-1 laju pembelajaran 0.5 momentum 1 Backpropagation dengan bias
Data-1 menggunakan metode nguyen widrow untuk inisialisasi bobot dan dilatih menggunakan metode backpropagation dengan bias, dengan laju pembelajaran atau learning rate sebesar 0.5, momentum sebesar 1 dengan hasil nilai mean square error yaitu 0.039. Ketika nilai laju pembelajaran atau learning rate yang bernilai positif maka akan menambah nilai bobot yang baru sehingga dapat mempengaruhi nilai mean square error semakin kecil untuk mencapai konvergen. Sementara faktor lain yang mempengaruhi konvergensi adalah backpropagation dimana saat terjadi perubahan bobot maka nilai bobot awal dikalikan dengan momentum sebesar 1 yang menghasilkan nilai bobot yang baru sama bernilai sama dengan nilai bobot semula sehingga menyebabkan nilai mean square error semakin kecil pada setiap epoch. Oleh karena itu, grafik di atas menunjukkan bahwa pelatihan mencapai konvergen.
Gambar 4.31. Grafik data ke-2 laju pembelajaran -0.5 momentum 1 Backpropagation dengan bias
Data-2 menggunakan metode nguyen widrow untuk inisialisasi bobot dan dilatih menggunakan metode backpropagation dengan bias, dengan laju pembelajaran atau learning rate sebesar -0.5, momentum sebesar 1 dengan hasil nilai mean square error yaitu 0.995. Ketika laju pembelajaran atau learning rate bernilai negatif maka akan memperkecil nilai bobot sehingga tidak membantu pelatihan mencapai konvergen. Selanjutnya faktor yang mempengaruhi laju pembelajaran adalah momentum dimana ketika nilai momentum kecil maka nilai mean square error semakin kecil. Akan tetapi ketika nilai momentum besar maka nilai mean square error semakin besar. Oleh karena itu, grafik di atas menunjukkan bahwa pelatihan belum konvergen.
Gambar 4.32. Grafik data ke-2 laju pembelajaran 0.2 momentum 0.8 Backpropagation dengan bias
Data-2 menggunakan metode nguyen widrow untuk inisialisasi bobot dan dilatih menggunakan metode backpropagation dengan bias, dengan laju pembelajaran
110
atau learning rate sebesar 0.2, momentum sebesar 0.8 dengan hasil nilai mean square error yaitu 0.434. Ketika nilai laju pembelajaran atau learning rate yang bernilai positif maka akan menambah nilai bobot yang baru sehingga dapat mempengaruhi nilai mean square error semakin kecil untuk mencapai konvergen. Sementara, faktor lain yang mempengaruhi konvergensi adalah momentum dimana saat terjadi perubahan bobot maka nilai bobot awal dikalikan dengan momentum sebesar 0.8 sehingga membuat nilai bobot baru hasil perkalian tersebut menjadi lebih kecil dari bobot semula dan menyebabkan nilai mean square error tetap besar. Oleh karena itu, grafik di atas menunjukkan bahwa pelatihan belum mendekati konvergen.
Gambar 4.33. Grafik data ke-2 laju pembelajaran 0.5 momentum 1 Backpropagation dengan bias
Data-2 menggunakan metode nguyen widrow untuk inisialisasi bobot dan dilatih menggunakan metode backpropagation dengan bias, dengan laju pembelajaran atau learning rate sebesar 0.5, momentum sebesar 1 dengan hasil nilai mean square error yaitu 0.039. Ketika nilai laju pembelajaran atau learning rate yang bernilai positif maka akan menambah nilai bobot yang baru sehingga dapat mempengaruhi nilai mean square error semakin kecil untuk mencapai konvergen. Sementara faktor lain yang mempengaruhi konvergensi adalah backpropagation dimana saat terjadi perubahan bobot maka nilai bobot awal dikalikan dengan momentum sebesar 1 yang menghasilkan nilai bobot yang baru sama bernilai sama dengan nilai bobot semula sehingga menyebabkan nilai mean square error semakin kecil pada setiap epoch. Oleh karena itu, grafik di atas menunjukkan bahwa pelatihan mencapai konvergen.
Gambar 4.34. Grafik data ke-3 laju pembelajaran -0.5 momentum 1 Backpropagation dengan bias
Data-3 menggunakan metode nguyen widrow untuk inisialisasi bobot dan dilatih menggunakan metode backpropagation dengan bias, dengan laju pembelajaran atau learning rate sebesar -0.5, momentum sebesar 1 dengan hasil nilai mean square error yaitu -0.996. Ketika laju pembelajaran atau learning rate bernilai negatif maka akan memperkecil nilai bobot sehingga tidak membantu pelatihan mencapai konvergen. Selanjutnya faktor yang mempengaruhi laju pembelajaran adalah momentum dimana ketika nilai momentum kecil maka nilai mean square error semakin kecil. Akan tetapi ketika nilai momentum besar maka nilai mean square error semakin besar. Oleh karena itu, grafik di atas menunjukkan bahwa pelatihan belum konvergen.
Gambar 4.35. Grafik data ke-3 laju pembelajaran 0.2 momentum 0.8 Backpropagation dengan bias
Data-3 menggunakan metode nguyen widrow untuk inisialisasi bobot dan dilatih menggunakan metode backpropagation dengan bias, dengan laju pembelajaran
112
atau learning rate sebesar 0.2, momentum sebesar 0.8 dengan hasil nilai mean square error yaitu -0.434. Ketika nilai laju pembelajaran atau learning rate yang bernilai positif maka akan menambah nilai bobot yang baru sehingga dapat mempengaruhi nilai mean square error semakin kecil untuk mencapai konvergen. Sementara, faktor lain yang mempengaruhi konvergensi adalah momentum dimana saat terjadi perubahan bobot maka nilai bobot awal dikalikan dengan momentum sebesar 0.8 sehingga membuat nilai bobot baru hasil perkalian tersebut menjadi lebih kecil dari bobot semula dan menyebabkan nilai mean square error tetap besar. Oleh karena itu, grafik di atas menunjukkan bahwa pelatihan belum mendekati konvergen.
Gambar 4.36. Grafik data ke-3 laju pembelajaran 0.5 momentum 1 Backpropagation dengan bias
Data-3 menggunakan metode nguyen widrow untuk inisialisasi bobot dan dilatih menggunakan metode backpropagation dengan bias, dengan laju pembelajaran atau learning rate sebesar 0.5, momentum sebesar 1 dengan hasil nilai mean square error yaitu -0.039. Ketika nilai laju pembelajaran atau learning rate yang bernilai positif maka akan menambah nilai bobot yang baru sehingga dapat mempengaruhi nilai mean square error semakin kecil untuk mencapai konvergen. Sementara faktor lain yang mempengaruhi konvergensi adalah backpropagation dimana saat terjadi perubahan bobot maka nilai bobot awal dikalikan dengan momentum sebesar 1 yang menghasilkan nilai bobot yang baru sama bernilai sama dengan nilai bobot semula sehingga menyebabkan nilai mean square error semakin kecil pada setiap epoch. Oleh karena itu, grafik di atas menunjukkan bahwa pelatihan mencapai konvergen.
BAB 5