Tugas carilah referensi :
1. Apa itu algoritma optimasi seperti stochastic gradient descent (SGD) dan Adam?
2. Apa itu LIME (Local Interpretable Model-agnostic Explanations)?
Jawaban :
1. Algoritma Optimasi seperti Stochastic Gradient Descent (SGD) dan Adam
➢ Penjelasan :
• Algoritma optimasi adalah metode yang digunakan untuk meminimalkan atau memaksimalkan fungsi objektif dalam proses pelatihan model machine learning. Dua algoritma optimasi yang populer adalah Stochastic Gradient Descent (SGD) dan Adam.
• Stochastic Gradient Descent (SGD) adalah varian dari Gradient Descent, di mana pembaruan bobot dilakukan berdasarkan satu atau beberapa contoh data saja (batch kecil), bukan seluruh dataset. Keuntungan utama SGD adalah kecepatan dan efisiensinya pada dataset yang besar, namun bisa mengalami osilasi dalam konvergensi karena fluktuasi acak pada sampel data..
• Adam (Adaptive Moment Estimation) adalah algoritma yang
menggabungkan keunggulan dari dua algoritma optimasi lainnya, yaitu AdaGrad dan RMSprop. Adam menggunakan estimasi momen pertama (rata-rata) dan momen kedua (varians) dari gradien, memungkinkan pembaruan bobot yang lebih stabil dan adaptif untuk setiap parameter. Ini menjadikannya salah satu algoritma optimasi yang paling sering digunakan dalam pelatihan jaringan saraf dalam (deep learning).
➢ Sumber Referensi :
❖ Kingma, D., & Ba, J. (2014). Adam: A Method for Stochastic Optimization.
arXiv preprint arXiv:1412.6980. ([PDF] https://arxiv.org/abs/1412.6980))
❖ Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. MIT Press.
2. Apa itu LIME (Local Interpretable Model-agnostic Explanations)
➢ Penjelasan :
• LIME adalah teknik interpretabilitas model yang digunakan untuk
memahami prediksi model machine learning pada tingkat lokal (spesifik ke satu sampel). Dengan LIME, model yang kompleks, seperti model deep learning, dapat dianalisis menggunakan pendekatan model yang lebih sederhana dan interpretable untuk tiap instance tertentu. LIME bekerja Kelas : TI23c
Nama : M Ikrim Maulana NIM : M Ikrim Maulana
Tugas : Inteln
dengan menciptakan model sederhana, seperti regresi linier, di sekitar prediksi dari satu instance, sehingga penjelasannya dapat diinterpretasi.
LIME adalah model-agnostic, yang berarti teknik ini dapat digunakan dengan berbagai model machine learning tanpa melihat struktur internal model tersebut.
➢ Sumber Referensi :
• 1. Ribeiro, M. T., Singh, S., & Guestrin, C. (2016). "Why Should I Trust You?":
Explaining the Predictions of Any Classifier. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining.
([PDF](https://arxiv.org/abs/1602.04938))
