Metode Naïve Bayes dan Particle Swarm Optimization untuk Klasifikasi Penyakit Jantung
Hani Setiani1, Andi Sunyoto2, Asro Nasiri3 Universitas Amikom Yogyakarta 1,2,3
[email protected]1, [email protected]2, [email protected]3
Abstrak – Penyakit jantung merupakan penyakit yang sangat berbahaya dan menjadi penyebab utama kematian di dunia. Pada tahun 2013, penderita penyakit jantung di Indonesia sendiri mencapai hingga 61.682 jiwa dan provinsi dengan diagnosa terbanyak yaitu Jawa Tengah dengan jumlah penderita sebanyak 11.511 jiwa. Pentingnya diagnosa secara tepat yang dilakukan oleh dokter akan membantu penangan pasien secara tepat sehingga memungkinkan untuk disembuhkan, tetapi kurangnya seorang pakar mengakibatkan diagnosa yang dilakukan secara intuisi dan pengalaman.
Hal ini dapat mengakibatkan kesalahan fatal dalam penanganan pasien. Oleh karena itu, diperlukan suatu sistem pakar yang dapat digunakan sebagai alternatif untuk mendiagnosa penyakit jantung.
Sistem pakar yang dipilih peneliti untuk mengatasi permasalahan tersebut adalah menggunakan metode Naive Bayes dan Particle Swarm Optimization untuk mengklasifikasikan penyakit jantung.
Metode Naïve Bayes dipilih karena menggunakan sedikit data latih (Training Data) untuk menentukan estimasi parameter yang diperlukan pada proses klasifikasi, sedangkan Particle Swarm Optimization dipilih untuk meningkatkan akurasi dan nilai Area Under the Curve (AUC) dengan menetapkan bobot pada setiap atribut. Pengujian yang telah dilakukan menggunakan metode Naive Bayes sebelum penerapan PSO diperoleh akurasi sebesar 83,52% dengan nilai AUC 86,80% sesudah diterapkan PSO memperoleh akurasi 91,21% dengan nilai AUC 93.90%, terdapat peningkatan akurasi pada Naive Bayes sebesar 7,69% dan AUC 7,1%.
Kata kunci: Penyakit Jantung, Naïve Bayes, Particle Swarm Optimization
Abstract – Heart disease is a very dangerous disease and is the leading cause of death in the world.
In 2013, heart disease sufferers in Indonesia alone reached 61,682 people and the highest diagnosis was in Central Java with 11,511 sufferers. The importance of a proper diagnosis made by a doctor will help treat the patient appropriately so that it is possible to be cured, but the lack of expert results in a diagnosis made by intuition and experience. This can lead to fatal errors in patient handling.
Therefore, we need an expert system that can be used as an alternative to diagnose heart disease.
The expert system chosen by the researcher to overcome this problem is to use the Naive Bayes method and Particle Swarm Optimization to classify heart disease. The Naïve Bayes method was chosen because it uses a little training data (Training Data) to determine the estimated parameters needed in the classification process, while Particle Swarm Optimization was chosen to increase the accuracy and value of the Area Under the Curve (AUC) by assigning a weight to each attribute. Tests that have been carried out using the Naive Bayes method before the application of PSO obtained an accuracy of 83.52% with an AUC value of 86.80% after being applied PSO obtained an accuracy of 91.21% with an AUC value of 93.90%, there was an increase in accuracy in Naive Bayes of 7.69 % and 7.1% AUC.
Keyword : Heart Disease, Naïve Bayes, Particle Swarm Optimization
1. Latar Belakang
Penyakit jantung merupakan salah satu penyakit yang sangat berbahaya dan menjadi penyebab kematian utama di dunia [1]. Faktor utama yang berisiko memiliki penyakit jantung adalah orang dengan memiliki kolesterol tinggi, kelebihan berat badan, dan tekanan darah tinggi [2]. Berdasarkan data kasus Indonesia dari GLOBOCAN (IARC) tahun 2012, terdapat 43,30% kasus baru serangan jantung dan 12,90% kematian. Pada tahun 2013, jumlah penderita penyakit jantung
sebanyak 61.682, provinsi yang paling banyak terkena adalah Jawa Tengah dengan 11.511 kasus[1]. Diagnosa penyakit jantung sering didasari pada intuisi dan pengalaman dokter, sehingga dapat mengakibatkan kesalahan fatal dalam penanganan pasien [3]. Hal ini dapat dicegah dengan memanfaatkan data pasien yang sudah tersimpan dalam database, data tersebut digunakan untuk membuat model sebagai pengidentifikasi penyakit jantung dengan rekayasa komputer cerdas sehingga dapat mendiagnosa penyakit jantung
secara otomatis [4]. Data mining adalah serangkaian proses untuk mengekstraksi pengetahuan dan pola dari kumpulan data.
Data mining memecahkan masalah dengan menganalisis data dalam database. Hasil data mining dapat digunakan untuk meningkatkan pengambilan keputusan [5].
Salah satu metode yang digunakan untuk data mining adalah Naïve Bayes. Terdapat penelitian serupa sebelumnya menggunakan Metode Naive Bayes menghasilkan nilai akurasi sebagai berikut: Penelitian yang dilakukan Riani, A. Dkk., pada tahun 2019 [6], mendapatkan akurasi sebesar 86%
menggunakan 14 atribut. penelitian yang dilakukan Bianto, M. A. Dkk., pada tahun 2020 [1], menghasilkan nilai akurasi 90,61%
menggunakan 15 atribut. Penelitian yang dilkukan Reddy, K. V. V. Dkk., pada tahun 2021 [7], mendapatkan akurasi sebesar 81.2%
dengan menerapkan Principal Component Analysis menggunakan dataset 14 atribut.
Penelitian yang dilakukan oleh Claudhari, M.
Dan Patil, R., pada tahun 2021 [8]
menerapkan seleksi fitur CFS Evaluator (Genetic Search) mendapatkan akurasi sebesar 83.02 % menggunakan 14 atribut.
Penelitian yang dilakukan oleh Mubaroq, T. F.
Dkk., pada tahun 2019 [9] mendapatkan akurasi sebesar 85.55% menggunakan discretization dan information gain menggunakan 14 atribut.
Dalam penelitian ini, metode yang dipilih adalah Naïve Bayes dan Particle Swarm Optimization untuk klasifikasi penyakit jantung.
Metode Naïve Bayes ini dipilih karena hanya mengunakan data uji (Data training) yang kecil untuk menentukan estimasi parameter yang dibutuhkan pada proses klasifikasi, sementara Particle Swarm Optimization dipilih untuk meningkatkan akurasi dan nilai Area under the Curve (AUC) dengan cara memberikan bobot pada tiap atribut [10].
2. Tinjauan Pustaka a. Naive Bayes
Suatu metode machine learning yang dapat menanggani klasifikasi data yaitu Naïve Bayes. Bayesian classification adalah pengklasifikasian statistik yang dapat digunakan untuk memprediksi nilai probabilitas terhadap class [11]. Teorema ini diusulkan oleh seorang ilmuwan Inggris yaitu Thomas Bayes yang memprediksi probabilitas di masa depan berdasarkan pengalaman masa lalu.
Teorema Bayes digabungkan dengan "Naive"
memiliki arti bahwa setiap atribut/variabel adalah independen [12]. Naive Bayes dapat dilatih secara efektif dalam pembelajaran
terarah (supervised learning). Keuntungan menggunakan Naive Bayes adalah membutuhkan sedikit data untuk digunakan sebagai data pelatihan untuk parameter pengklasifikasi. Karena variabel independen diasumsikan, maka hanya perlu untuk menentukan variasi variabel untuk setiap kelas, bukan seluruh matriks kovarians. Dalam proses ini, Naïve Bayes mengasumsikan bahwa ada tidaknya suatu atribut dalam suatu kelas tidak berhubungan dengan ada tidaknya atribut lain dalam kelas yang sama. Pada saat klasifikasi, pendekatan Bayesian akan menghasilkan label kategori dengan probabilitas tertinggi [13]. Persamaan Teorema Bayes sebagai berikut:
Keterangan:
P( ) = Probabilitas hipotesis terhadap fakta X(Posterior probability)
P( ) = Mentukan nilai parameter dengan peluang terbesar(Likelihood)
P( ) = Probabilitas sebelumnya dari X(Prior probability)
P(X) = Jumlah probability tuple yang muncul.
b. Particle Swarm Optimization
Particle Swarm Optimization atau lebih dikenal dengan PSO adalah teknik optimasi yang terinspirasi dari gerakan dan perilaku hewan seperti ikan dan burung dalam perilakunya, seperti saat mencari makanan atau mangsa. pertama kali diusulkan pada tahun 1995 oleh James Kennedy dan Russell C. Eberhart. PSO terdiri dari partikel-partikel yang mencari posisi terbaik, yang merupakan posisi terbaik untuk masalah optimasi.
Keuntungan metode Particle Swarm Optimization adalah memiliki konsep yang sederhana, mudah diimplementasikan, dan memiliki efisiensi komputasi yang tinggi dibandingkan dengan algoritma matematika dan metode optimasi lainnya [14]. Persamaan Particle Swarm Optimization sebagai berikut [15] :
Hitung kecepatan baru untuk setiap partikel:
Keterangan:
n = jumlah partikel dalam suatu kelompok
d = dimensi
= kecepatan partikel ke i dalam iterasi i
w = faktor bobot inersia = konstanta akselerasi R = bilangan random (0-1)
= posisi partikel ke i saat ini dalam iterasi ke i
= posisi terbaik sebelumnya dari partikel ke-i
= partikel terbaik dari semua partikel dalam suatu kelompok atau populasi
3. Metode Penelitian
Metode penelitian yang digunakan oleh peneliti adalah penelitian kuantitatif. Kemudian penelitian akan dilakukan secara sistematis dan terstruktur mengenai klasifikasi penyakit jantung menggunakan metode Naive Bayes dan Particle Swarm Optimization. Dalam melakukan penelitian maka perlu dibuat alur penelitian, agar peneliti memiliki arah yang jelas untuk menghasilkan penelitian yang baik dan benar. Adapun alur penelian dapat dilihat pada Gambar 1.
Gambar 1. Alur Penelitian a. Metode Pengumpulan Data
Dataset yang digunakan berupa data publik yang diperoleh dari UCI Machine Learning Repository dengan cara download pada link https://archive.ics.uci.edu/ml/datasets/heart+di sease. Penelitian ini memiliki dataset yang berisi 303 dengan jumlah atribut sebanyak 14 dan terdapat 2 kelas klasifikasi didalamnya, atribut penyakit jantung dapat dilihat pada Tabel 1.
Tabel 1. Keterangan Atribut No Atribut Keterangan
1 Age Umur
2 Sex Jenis kelamin
3 Cp Jenis nyeri dada
4 Trestbps Tekanan darah sistolik istirahat (saat dirumah sakit)
mmGh
5 Chol Serum kolestrol (mg/dl) 6 Fbs (Gula darah puasa/ sebelum
makan>120mg/dL) 7 Restecg Hasil elektrokardiografi
istirahat
8 Thalach Denyut jantung maksimum tercapai
9 Exang Angina yang diinduksi oleh olahraga
10 Oldpeak Depresi ST yang diiinduksi oleh olahraga relatif
terhadap istirahat 11 Slope Kemiringan segmen ST
latihan puncak 12 Ca Jumlah pembuluh darah
dijelaskan dengan fluoroskopi
13 Thal Detak jantung
14 Num Diagnosa penyakit jantung b. Metode Analisis Data
Pada tahap ini dataset yang digunakan harus dilakukan Pre-processing yaitu tahap dimana sebelum digunakan dataset akan dirubah sesuai dengan kebutuhan peneliti, pada tahap Pre-processing melakukan Data Cleaning (memperbaiki atau menghapus data) dan Data Transformation. Setelah dilakukan Pre-processing, maka akan dilakukan teknik sampling yaitu pengambilan sampel untuk pengujian sampel dipilih secara acak dan terstruktur pada tiap kelompok dengan penyajian 70:30 untuk data latih dan data uji.
c. Metode yang diusulkan
Peneliti mengunakan metode Naïve Bayes dan Particle Swarm Optimization untuk klasifikasi menggunakan dataset Cleveland yaitu penyakit jantung. Adapun tahapanya seperti:
a) Tahap awal, menyiapkan dataset yang akan digunakan, kemudian dataset dibagi menjadi 2 bagian yaitu data training dan data testing.
b) Tahap Selanjutnya, membuat pemodelan data menggunakan metode Naïve Bayes dan Particle Swarm Optimization.
c) Terakhir, mengukur performa metode Naïve Bayes dan Particle Swarm Optimization menggunakan Confusion Matrix.
d. Pengujian dan evaluasi
Pada tahap ini peneliti melakukan pengujian pada kedua metode yaitu metode Naïve Bayes saja, dan Naïve Bayes dengan Particle Swarm Optimization. Hasil dari pengujian akan di evaluasi menggunakan Confusion Matrix dan Kurva Receiver Operating Characteristic (ROC) digunakan untuk mengukur perfoma pada model yang digunakan yaitu Naïve Bayes dan Particle Swarm Optimization. Kemudian membandingkan kedua metode menggunakan AUC agar mudah dipahami. Tools yang digunakan untuk membantu penelitian ini dalam bereksperimen adalah Rapidminer.
4. Hasil dan Pembahasan
Pada eksperimen yang dilakukan menggunakan metode Naïve Bayes dengan penerapan Particle Swarm Optimazion bertujuan untuk meningkatkan hasil akurasi terhadap data heart disease. Hal ini dapat dilihat pada saat ekperimen terdapat peningkatan atau tidak. Eksperimen yang dilakukan memiliki 2 tahapan, yaitu:
1. Eksperimen menggunakan metode Naïve Bayes
2. Eksperimen menggunakan metode Naïve Bayes dengan Particle Swarm Optimazion
a. Hasil Penelitian
Evaluasi Naïve Bayes menggunakan Confusion Matrix
Hasil akurasi metode Naive Bayes dengan perbandingan data uji 70:30 yang dievaluasi menggunakan Confusion Matrix, dapat dilihat pada Tabel 2.
Tabel 2. Hasil Confusion Matrix menggunakan Naïve Bayes
Class Precision True
Yes True
No Accuracy:
83.52%
82.69%
9 43
Pred. No
84.62%
33 6
Pred. Yes
78.57%
87.76%
Class recall
Berdasarkan Tabel 2, dapat ditentukan hasil akurasi untuk klasifikasi, sebagai berikut:
Evaluasi Naïve Bayes menggunakan ROC
Hasil pengujian pada data testing menggunakan metode Naïve Bayes terdapat nilai ROC, yang dapat dilihat pada Gambar 3.
Gambar 3. Hasil evaluasi Naïve Bayes menggunakan ROC
Diketahui pada Gambar 3, Mendapatkan nilai AUC sebesar 0.868 maka akurasi memiliki tingkat Excellent classification.
Hasil pembobotan attribut Particle Swarm Optimization pada Naïve Bayes
Penerapan Particle Swarm Optimization pada Naïve Bayes digunakan sebagai seleksi fitur, sehingga terjadi pembobotan pada atribut. Particle Swarm Optimization bertujuan untuk meningkatkan nilai akurasi. Nilai bobot pada setiap atribut dapat dilihat pada Tabel 3.
Tabel 3. Hasil pembobotan attribute menggunakan PSO
Weight Attribute
0.359 Age
0.052 Sex
0 Cp
0.441 Trestbps
0 Chol
0 Fbs
0,104 Restecg
1 Thalach
0.361 Exang
0 Oldpeak
0.556 Slope
0.688 Ca
0.886 Thal
Berdasarkan Tabel 3, Didapatkan bobot terendah dimiliki oleh attribute Cp, Chol, Fbs, dan Oldpeak adalah 4, artinya attribute tersebut tidak berpengaruh terhadap peningkatan nilai akurasi sehingga dimungkinkan untuk dihilangkan, berbeda dengan 9 atribut lainnya memiliki nilai bobot lebih besar dari 0 dapat mempengaruhi keakuratan klasifikasi.
Evaluasi Naïve Bayes dan PSO menggunakan Confusion Matrix
Hasil akurasi metode Naive Bayes dengan penerapan PSO perbandingan data uji 70:30 yang dievaluasi menggunakan confusion matrix, dapat dilihat pada Tabel 4.
Tabel 4. Hasil Confusion Matrix menggunakan Naïve Bayes + PSO
Class Precision True
Yes True
No Accuracy:
91.21%
91.84%
4 45
Pred. No
90.48%
38 4
Pred. Yes
90.48%
91.84%
Class recall
Berdasarkan Tabel 4. dapat ditentukan hasil akurasi untuk klasifikasi, sebagai berikut:
Evaluasi Naïve Bayes dan PSO menggunakan ROC
Hasil pengujian pada data testing menggunakan metode Naïve Bayes dan PSO terdapat grafik ROC, yang dapat dilihat pada Gambar 4
Gambar 4. Hasil evaluasi Naïve Bayes menggunakan ROC
Diketahui pada Gambar 4, Mendapatkan nilai AUC sebesar 0,939 maka akurasi memiliki tingkat Excellent classification.
b. Pembahasan
Setelah didapatkan nilai akurasi dan nilai AUC pada pengujian kedua metode yaitu
Naïve Bayes dan Naïve Bayes dengan penerapan PSO, tahap selanjutnya adalah melakukan perbandingan pada kedua hasil yang didapatkan, Perbandingan hasil akurasi dapat dilihat pada Tabel 5.
Tabel 5. Perbandingan hasil akurasi AUC Accuracy
Metode No
86.80%
83.52%
Naïve Bayes 1
93.90%
91.21%
Naïve Bayes + PSO 2
Untuk mempermudah pemahaman mengenai perbandingan hasil akurasi dan nilai AUC kedua metode yaitu Naïve Bayes dan Naïve Bayes + PSO, maka dibuatkan grafik perbandingan yang dapat dilihat pada Gambar 5.
93.90%
91.21%
83.52%86.52%
70%
75%
80%
85%
90%
95%
100%
Naïve Bayes Naïve Bayes + PSO Accuracy AUC
Gambar 5. Grafik perbandingan hasil akurasi Pada Gambar 5. Dapat kita lihat terjadi peningkatan akurasi pada metode Naïve Bayes sebesar 7,69% dan nilai AUC sebesar 7,1% setelah dilakukan penerapan menggunakan Particle Swarm Optimization.
Hal ini menunjukkan bahwa Particle Swarm Optimization dapat digunakanan untuk meningkatkan akurasi Naïve Bayes dalam klasifikasi penyakit jantung.
Membandingkan beberapa pendekatan yang berbeda dengan pendekatan yang diusulkan.
Hasil pengujian yang dilakukan oleh beberapa penelitian menggunakan dataset heart disease akurasi yang didapatkan dapat dilihat pada Tabel 6.
Tabel 5. Perbandingan beberapa pendekatan yang dilakukan
No Peneliti Metode akurasi
1 Riani, A. NB 86%
Dkk.,[6]
2 Reddy, K. V.
V. Dkk.,[7]
NB + PCA 81.2%
3 Claudhari, M. Dan Patil, R.,[8]
NB + CFS Evaluator
83.02%
4 Mubaroq, T.
F. Dkk.,[9]
NB +
discretization dan GA
85.55%
5 Pendekatan yang diusulkan
NB + PSO 91.21%
Untuk mempermudah pemahaman mengenai perbandingan hasil akurasi oleh pendekatan yang dilakukan sebelumnya dengan pendekatan yang diusulkan, maka dibuatkan grafik perbandingan yang dapat dilihat pada Gambar 5.
83.02%85.55%
91.21%
81.20%
86.00%
70%
75%
80%
85%
90%
95%
100%
NB[6] NB + PCA [7] NB + CFS Evaluator [8] NB + Discretization dan GA [9] Pendekatan yang diusulkan
Accuracy
Gambar 6. Grafik perbandingan beberapa pendekatan yang dilakukan 5. Penutup
a. Kesimpulan
Dalam penelitian ini telah dilakukan eksperimen dengan menggunakan metode klasfikasi yaitu Naïve Bayes dengan penerapan Particle Swarm Optimization menggunakan data penyakit jantung yang diperoleh dari UCI Machine Learning Repository. Pengujian yang dilakukan menggunakan metode Naive Bayes sebelum menerapkan PSO memperoleh akurasi sebesar 83,52% dengan nilai AUC 86,80% sesudah diterapkan PSO memperoleh akurasi
91,21% dengan nilai AUC 93.90%, terjadi peningkatan akurasi pada Naive Bayes sebesar 7,69% dan AUC 7,1%.
b. Saran
Berdasarkan hasil penelitian yang diperoleh, disarankan bagi penelitian selanjutnya untuk melakukan eksperimen dengan menggunakan beberapa metode yang berbeda namun tetap menggunakan penerapan optimasi yang sama. sehingga dapat dibandingkan dan diharapkan mendapatkan metode klasfikasi yang terbaik.
6. Pustaka
[1] M. A. Bianto, K. Kusrini, and S.
Sudarmawan, “Perancangan Sistem Klasifikasi Penyakit Jantung Mengunakan Naïve Bayes,” Creat. Inf.
Technol. J., vol. 6, no. 1, p. 75, 2020.
[2] H. M. Nawawi, J. J. Purnama, and A. B.
Hikmah, “Komparasi Algoritma Neural Network Dan Naïve Bayes Untuk Memprediksi Penyakit Jantung,” J. Pilar Nusa Mandiri, vol. 15, no. 2, pp. 189–
194, 2019.
[3] H. Sciences, “KOMPARASI
ALGORITMA MULTI LAYER
PERCEPTRON DAN RADIAL BASIS,”
J. Pilar Nusa Mandiri, vol. 4, no. 1, pp.
1–23, 2016.
[4] R. Y. Donny Maulana,
“IMPLEMENTASI ALGORITMA NAÏVE BAYES UNTUK KLASIFIKASI PENDERITA PENYAKIT JANTUNG DI INDONESIA MENGGUNAKAN RAPID MINER,” Динамические Системы, vol. 9, no. 2, pp. 191–197, 2019.
[5] Hasran, “Klasifikasi Penyakit Jantung Menggunakan Metode K-Nearest Neighbor,” Indones. J. Data Sci., vol. 1, no. 1, pp. 1–4, 2020.
[6] A. Riani, Y. Susianto, and N. Rahman,
“Implementasi Data Mining Untuk Memprediksi Penyakit Jantung Mengunakan Metode Naive Bayes,” J.
Innov. Inf. Technol. Appl., vol. 1, no.
01, pp. 25–34, 2019.
[7] K. V. V. Reddy, I. Elamvazuthi, A. A.
Aziz, S. Paramasivam, and H. N. Chua,
“Heart Disease Risk Prediction using Machine Learning with Principal Component Analysis,” Int. Conf. Intell.
Adv. Syst. Enhanc. Present a Sustain.
Futur. ICIAS 2021, pp. 1–6, 2021.
[8] M. Chaudhari and R. Patil,
“Classification and Prediction of Heart Disease: A Machine Learning
Approach,” New Front. Commun. Intell.
Syst., pp. 151–156, 2021.
[9] T. F. Mubaroq, E. Sugiharti, and I.
Akhlis, “Application of Discretization and Information Gain on Naïve Bayes to Diagnose Heart Disease,” vol. 1, no.
October, pp. 75–82, 2019.
[10] F. Novaldy et al., “Penerapan Pso Pada Naïve Bayes Untuk prediksi harapan hidup,” vol. 3, no. 1, pp. 37–
43, 2021.
[11] R. I. Borman and M. Wati, “Penerapan Data Mining Dalam Klasifikasi Data Anggota Kopdit Sejahtera Bandarlampung Dengan Algoritma Naïve Bayes,” J. Ilm. Fak. Ilmu Komput., vol. 9, no. 1, pp. 25–34, 2020.
[12] S. Eka et al., “Penerapan Model Naive Bayes Untuk Memprediksi Potensi,”
vol. 1, no. 1, pp. 82–87, 2021.
[13] F. Dwiramadhan, M. I. Wahyuddin, and D. Hidayatullah, “Sistem Pakar Diagnosa Penyakit Selama Kehamilan Menggunakan Metode Naive Bayes Berbasis Web,” J. JTIK (Jurnal Teknol.
Inf. dan Komunikasi), vol. 6, no. 3, pp.
429–437, 2022.
[14] T. Arifin and D. Ariesta, “Prediksi Penyakit Ginjal Kronis Menggunakan Algoritma Naive Bayes Classifier Berbasis Particle Swarm Optimization,”
J. Tekno Insentif, vol. 13, no. 1, pp. 26–
30, 2019.
[15] D. Evanko, “ALGORITMA KLASIFIKASI DATA MINING NAÏVE BAYES BERBASIS PARTICLE SWARM OPTIMIZATION UNTUK DETEKSI PENYAKIT JANTUNG,” Nat.
Methods, vol. 7, no. 1, p. 34, 2014.
