งานวิจัยนี ้มีวัตถุประสงค์เพื่อศึกษาเปรียบเทียบประสิทธิภาพการสร้างโมเดลการวิเคราะห์
โรคอัตโนมัติ โดยใช้อัลกอริทึมพื ้นฐาน 7 อัลกอริทึม ซึ่งประกอบด้วย Naïve Bayes,Multilayer Perceptron,Radial Basis Function Network, Support Vector Machine, K-Nearest Neighbor, Decision Tree, Ripper ทั้ง แบบไม่ลดคุณลักษณะและแบบที่ลดคุณลักษณะด้วยวิธี
Correlation-based Feature Subset Selection (CFS) และวิธี Feature selection method based on correlation measureand relevance & redundancy analysis (FCBF) รวมถึง ทดสอบกับอัลกอริทึมประเภท Single learning กับ Multiple learning โดยเพิ่มประสิทธิภาพด้วย วิธี Bagging และ Boosting โดยทดสอบเฉพาะข้อมูลทางการแพทย์ที่เกี่ยวข้องกับการวิเคราะห์
โรค ประกอบด้วยข้อมูลทั้งหมด 13 ชุด ทดสอบด้วยวิธี 10-fold cross validation ซึ่งประมวลผล บนเครื่องคอมพิวเตอร์ PC PentiumCore2 Duo 2.4 GHz หน่วยความจําหลัก 4 GB ผลการ วิเคราะห์เปรียบเทียบประสิทธิภาพการจําแนกของแต่ละอัลกอริทึมปรากฏรายละเอียดดังนี ้
4.1 ผลการวิเคราะห์เปรียบเทียบประสิทธิภาพแต่ละอัลกอริทึม โดยไม่ลดคุณลักษณะ 4.2ผลการวิเคราะห์เปรียบเทียบประสิทธิภาพแต่ละอัลกอริทึมเมื่อเรียนรู้ด้วยวิธี Bagging 4.3ผลการวิเคราะห์เปรียบเทียบประสิทธิภาพแต่ละอัลกอริทึมเมื่อเรียนรู้ด้วยวิธี Boosting 4.4 ผลการวิเคราะห์เปรียบเทียบประสิทธิภาพเมื่อลดคุณลักษณะด้วยวิธี CFS
4.5 ผลการวิเคราะห์เปรียบเทียบประสิทธิภาพเมื่อลดคุณลักษณะด้วยวิธี FCBF
4.6 ผลการวิเคราะห์เปรียบเทียบประสิทธิภาพวิธี Single learning กับ Multiple learning
4.7 ผลการวิเคราะห์เปรียบเทียบประสิทธิภาพการลดคุณลักษณะด้วยวิธี CFSและ FCBF
4.1 ผลการวิเคราะห์เปรียบเทียบประสิทธิภาพแต่ละอัลกอริทึม โดยไม่ลดคุณลักษณะ ตารางที่ 4.1 ประสิทธิภาพของการสังเคราะห์โมเดลด้วยอัลกอริทึม Naïve Bayes
Dataset Class Correctly Incorrectly TP Rate Precision Recall F-Measure breast-cancer no-recurrence-events 71.6783 28.3217 0.836 0.778 0.836 0.806
recurrence-events 0.435 0.529 0.435 0.477
breast-w benign 95.9943 4.0057 0.952 0.986 0.952 0.969
malignant 0.975 0.914 0.975 0.944
diabetes tested_negative 76.3021 23.6979 0.844 0.802 0.844 0.823
tested_positive 0.612 0.678 0.612 0.643
heart-c <50 83.4983 16.5017 0.867 0.836 0.867 0.851
>50 0.797 0.833 0.797 0.815
heart-statlog absent 83.7037 16.2963 0.873 0.84 0.873 0.856
present 0.792 0.833 0.792 0.812
hepatitis DIE 84.5161 15.4839 0.688 0.611 0.688 0.647
LIVE 0.886 0.916 0.886 0.901
hypothyroid negative 95.281 4.719 0.993 0.961 0.993 0.977 compensated_hypothyroid 0.32 0.721 0.32 0.443
primary_hypothyroid 0.8 0.874 0.8 0.835
secondary_hypothyroid 0 0 0 0
leukemia ALL 98.6111 1.3889 1 0.979 1 0.989
AML 0.96 1 0.96 0.98
liver-disorders class 1 55.3623 44.6377 0.766 0.481 0.766 0.59
class 2 0.4 0.702 0.4 0.51
lung-cancer class 1 62.5 37.5 0.667 0.6 0.667 0.632
class 2 0.538 0.538 0.538 0.538
class 3 0.7 0.778 0.7 0.737
lymphography normal 83.1081 16.8919 0.5 0.5 0.5 0.5
metastases 0.901 0.83 0.901 0.864
malign_lymph 0.754 0.852 0.754 0.8
fibrosis 0.75 0.75 0.75 0.75
postoperative-patient A 66.6667 33.3333 0.938 0.706 0.938 0.805
I 0 0 0 0
S 0 0 0 0
primary-tumor lung 50.1475 49.8525 0.714 0.682 0.714 0.698
head and neck 0.95 0.731 0.95 0.826
esophagus 0 0 0 0
thyroid 0.214 0.273 0.214 0.24
stomach 0.282 0.355 0.282 0.314
duoden and sm.int 0 0 0 0
colon 0 0 0 0
rectum 0.167 1 0.167 0.286
anus 0 0 0 0
salivary glands 0 0 0 0
pancreas 0.321 0.237 0.321 0.273
gallbladder 0.688 0.33 0.688 0.449
liver 0 0 0 0
kidney 0.417 0.303 0.417 0.351
bladder 0 0 0 0
testis 0 0 0 0
prostate 0.2 0.667 0.2 0.308
ovary 0.862 0.568 0.862 0.685
corpus uteri 0 0 0 0
cervix uteri 0 0 0 0
vagina 0 0 0 0
breast 0.792 0.792 0.792 0.792
28
ตารางที่ 4.2 ประสิทธิภาพของการสังเคราะห์โมเดลด้วยอัลกอริทึม Multilayer Perceptron
Dataset Class Correctly Incorrectly TP Rate Precision Recall F-Measure breast-cancer no-recurrence-events 66.7832 33.2168 0.741 0.776 0.741 0.758
recurrence-events 0.494 0.447 0.494 0.469
breast-w benign 96.1373 3.8627 0.961 0.98 0.961 0.97
malignant 0.963 0.928 0.963 0.945
diabetes tested_negative 75.2604 24.7396 0.81 0.81 0.81 0.81 tested_positive 0.646 0.646 0.646 0.646 heart-c <50 76.2376 23.7624 0.788 0.778 0.788 0.783
>50 0.732 0.743 0.732 0.737
heart-statlog absent 81.1111 18.8889 0.82 0.837 0.82 0.828
present 0.8 0.78 0.8 0.79
hepatitis DIE 78.0645 21.9355 0.438 0.467 0.438 0.452
LIVE 0.87 0.856 0.87 0.863
hypothyroid negative 93.8494 6.1506 0.985 0.954 0.985 0.969 compensated_hypothyroid 0.201 0.402 0.201 0.268 primary_hypothyroid 0.768 0.89 0.768 0.825
secondary_hypothyroid 0 0 0 0
leukemia ALL 97.2222 2.7778 1 0.959 1 0.979
AML 0.92 1 0.92 0.958
liver-disorders class 1 63.4783 36.5217 0.593 0.562 0.593 0.577
class 2 0.665 0.693 0.665 0.679
lung-cancer class 1 40.625 59.375 0.556 0.385 0.556 0.455
class 2 0.231 0.273 0.231 0.25
class 3 0.5 0.625 0.5 0.556
lymphography normal 81.0811 18.9189 0 0 0 0
metastases 0.889 0.809 0.889 0.847
malign_lymph 0.77 0.81 0.77 0.79
fibrosis 0.25 1 0.25 0.4
postoperative-
patient A 52.2222 47.7778 0.641 0.695 0.641 0.667
I 0 0 0 0
S 0.25 0.2 0.25 0.222
primary-tumor lung 45.7227 54.2773 0.726 0.709 0.726 0.718 head and neck 0.95 0.655 0.95 0.776
esophagus 0 0 0 0
thyroid 0.214 0.25 0.214 0.231
stomach 0.282 0.306 0.282 0.293
duoden and sm.int 0 0 0 0
colon 0 0 0 0
rectum 0.333 0.286 0.333 0.308
anus 0 0 0 0
salivary glands 0 0 0 0
pancreas 0.321 0.237 0.321 0.273
gallbladder 0.313 0.313 0.313 0.313
liver 0 0 0 0
kidney 0.292 0.269 0.292 0.28
bladder 0 0 0 0
testis 0 0 0 0
prostate 0.3 0.231 0.3 0.261
ovary 0.552 0.64 0.552 0.593
corpus uteri 0 0 0 0
cervix uteri 0 0 0 0
vagina 0 0 0 0
breast 0.792 0.826 0.792 0.809
ตารางที่ 4.3 ประสิทธิภาพของการสังเคราะห์โมเดลด้วยอัลกอริทึม Radial Basis Function
Dataset Class Correctly Incorrectly TP Rate Precision Recall F-Measure breast-cancer no-recurrence-events 70.979 29.021 0.876 0.752 0.876 0.809
recurrence-events 0.318 0.519 0.318 0.394
breast-w benign 95.8512 4.1488 0.954 0.982 0.954 0.968
malignant 0.967 0.917 0.967 0.941
diabetes tested_negative 75.3906 24.6094 0.868 0.779 0.868 0.821 tested_positive 0.541 0.687 0.541 0.605 heart-c <50 83.8284 16.1716 0.861 0.845 0.861 0.853
>50 0.812 0.83 0.812 0.821
heart-statlog absent 84.0741 15.9259 0.867 0.85 0.867 0.858
present 0.808 0.829 0.808 0.819
hepatitis DIE 85.8065 14.1935 0.594 0.679 0.594 0.633
LIVE 0.927 0.898 0.927 0.912
hypothyroid negative 95.228 4.772 0.989 0.964 0.989 0.977 compensated_hypothyroid 0.356 0.657 0.356 0.462 primary_hypothyroid 0.832 0.84 0.832 0.836
secondary_hypothyroid 0 0 0 0
leukemia ALL 97.2222 2.7778 1 0.959 1 0.979
AML 0.92 1 0.92 0.958
liver-disorders class 1 64.3478 35.6522 0.517 0.586 0.517 0.549
class 2 0.735 0.677 0.735 0.705
lung-cancer class 1 53.125 46.875 0.667 0.545 0.667 0.6
class 2 0.308 0.444 0.308 0.364
class 3 0.7 0.583 0.7 0.636
lymphography normal 80.4054 19.5946 0 0 0 0
metastases 0.852 0.831 0.852 0.841
malign_lymph 0.77 0.797 0.77 0.783
fibrosis 0.75 0.6 0.75 0.667
postoperative-
patient A 56.6667 43.3333 0.75 0.706 0.75 0.727
I 0 0 0 0
S 0.125 0.188 0.125 0.125
primary-tumor lung 35.3982 64.6018 0.536 0.563 0.536 0.549
head and neck 0.8 0.593 0.8 0.681
esophagus 0.111 0.091 0.111 0.1
thyroid 0.286 0.16 0.286 0.205
stomach 0.077 0.12 0.077 0.094
duoden and sm.int 0 0 0 0
colon 0.071 0.063 0.071 0.067
rectum 0 0 0 0
anus 0 0 0 0
salivary glands 0 0 0 0
pancreas 0.179 0.227 0.179 0.2
gallbladder 0.25 0.364 0.25 0.296
liver 0 0 0 0
kidney 0.167 0.154 0.167 0.16
bladder 0 0 0 0
testis 0 0 0 0
prostate 0.2 0.286 0.2 0.235
ovary 0.655 0.463 0.655 0.543
corpus uteri 0 0 0 0
cervix uteri 0 0 0 0
vagina 0 0 0 0
breast 0.667 0.941 0.667 0.78
30
ตารางที่ 4.4 ประสิทธิภาพของการสังเคราะห์โมเดลด้วยอัลกอริทึม Support Vector Machine
Dataset Class Correctly Incorrectly TP Rate Precision Recall F-Measure breast-cancer no-recurrence-events 69.5804 30.4196 0.851 0.75 0.851 0.797
recurrence-events 0.329 0.483 0.329 0.392
breast-w benign 96.9957 3.0043 0.974 0.98 0.974 0.977
malignant 0.963 0.951 0.963 0.957
diabetes tested_negative 77.3438 22.6563 0.898 0.785 0.898 0.838
tested_positive 0.541 0.74 0.541 0.625
heart-c <50 84.1584 15.8416 0.897 0.827 0.897 0.86
>50 0.775 0.863 0.775 0.817
heart-statlog absent 84.0741 15.9259 0.873 0.845 0.873 0.859
present 0.8 0.835 0.8 0.817
hepatitis DIE 85.1613 14.8387 0.594 0.655 0.594 0.623
LIVE 0.919 0.897 0.919 0.908
hypothyroid negative 93.6108 6.3892 0.999 0.936 0.999 0.967
compensated_hypothyroid 0 0 0 0
primary_hypothyroid 0.547 0.945 0.547 0.693
secondary_hypothyroid 0 0 0 0
leukemia ALL 98.6111 1.3889 1 0.979 1 0.989
AML 0.96 1 0.96 0.98
liver-disorders class 1 58.2609 41.7391 0.007 1 0.007 0.014
class 2 1 0.581 1 0.735
lung-cancer class 1 50 50 0.667 0.545 0.667 0.6
class 2 0.308 0.364 0.308 0.333
class 3 0.6 0.6 0.6 0.6
lymphography normal 86.4865 13.5135 1 0.667 1 0.8
metastases 0.914 0.851 0.914 0.881
malign_lymph 0.803 0.891 0.803 0.845
fibrosis 0.75 1 0.75 0.857
postoperative-
patient A 67.7778 32.2222 0.953 0.701 0.953 0.808
I 0 0 0 0
S 0 0 0 0
primary-tumor lung 46.9027 53.0973 0.833 0.609 0.833 0.704
head and neck 0.95 0.76 0.95 0.844
esophagus 0 0 0 0
thyroid 0.286 0.4 0.286 0.33
stomach 0.231 0.2 0.231 0.214
duoden and sm.int 0 0 0 0
colon 0 0 0 0
rectum 0 0 0 0
anus 0 0 0 0
salivary glands 0 0 0 0
pancreas 0.107 0.111 0.107 0.109
gallbladder 0.5 0.286 0.5 0.364
liver 0 0 0 0
kidney 0.292 0.292 0.292 0.292
bladder 0 0 0 0
testis 0 0 0 0
prostate 0.2 0.667 0.2 0.308
ovary 0.69 0.571 0.69 0.625
corpus uteri 0 0 0 0
cervix uteri 0 0 0 0
vagina 0 0 0 0
breast 0.708 0.85 0.708 0.773
ตารางที่ 4.5 ประสิทธิภาพของการสังเคราะห์โมเดลด้วยอัลกอริทึม K-Nearest Neighbor
Dataset Class Correctly Incorrectly TP Rate Precision Recall F-Measure breast-cancer no-recurrence-events 73.4266 26.5734 0.96 0.739 0.96 0.835 recurrence-events 0.2 0.68 0.2 0.309 breast-w benign 96.7096 3.2904 0.969 0.98 0.969 0.975
malignant 0.963 0.943 0.963 0.953
diabetes tested_negative 73.1771 26.8229 0.836 0.771 0.836 0.802 tested_positive 0.537 0.637 0.537 0.583 heart-c <50 81.8482 18.1518 0.824 0.84 0.824 0.832
>50 0.812 0.794 0.812 0.803
heart-statlog absent 78.5185 21.481 0.813 0.803 0.813 0.808
present 0.75 0.763 0.75 0.756
hepatitis DIE 85.8065 14.1935 0.5 0.727 0.5 0.593
LIVE 0.951 0.88 0.951 0.914
hypothyroid negative 93.2662 6.7338 0.996 0.938 0.996 0.966 compensated_hypothyroid 0.057 0.344 0.057 0.097 primary_hypothyroid 0.432 0.932 0.432 0.59
secondary_hypothyroid 0 0 0 0
leukemia ALL 81.9444 18.0556 0.957 0.804 0.957 0.874
AML 0.56 0.875 0.56 0.683
liver-disorders class 1 59.1304 40.8696 0.476 0.515 0.476 0.495
class 2 0.675 0.64 0.675 0.657
lung-cancer class 1 40.625 59.375 0.667 0.4 0.667 0.5
class 2 0.154 0.2 0.154 0.174
class 3 0.5 0.714 0.5 0.588
lymphography normal 83.7838 16.2162 0 0 0 0
metastases 0.951 0.828 0.951 0.885
malign_lymph 0.77 0.855 0.77 0.81
fibrosis 0 0 0 0
postoperative-
patient A 71.1111 28.8889 1 0.711 1 0.831
I 0 0 0 0
S 0 0 0 0
primary-tumor lung 48.0826 51.9174 0.738 0.681 0.681 0.738 0.709 head and neck 0.95 0.679 0.95 0.792
esophagus 0 0 0 0
thyroid 0.357 0.333 0.357 0.345
stomach 0.154 0.3 0.154 0.203
duoden and sm.int 0 0 0 0
colon 0.071 0.2 0.071 0.105
rectum 0 0 0 0
anus 0 0 0 0
salivary glands 0 0 0 0
pancreas 0.25 0.189 0.25 0.215
gallbladder 0.625 0.357 0.625 0.455
liver 0 0 0 0
kidney 0.292 0.389 0.292 0.333
bladder 0 0 0 0
testis 0 0 0 0
prostate 0.2 0.154 0.2 0.174
ovary 0.862 0.431 0.862 0.575
corpus uteri 0 0 0 0
cervix uteri 0 0 0 0
vagina 0 0 0 0
breast 0.792 0.792 0.792 0.792
32
ตารางที่ 4.6 ประสิทธิภาพของการสังเคราะห์โมเดลด้วยอัลกอริทึม Decision Tree
Dataset Class Correctly Incorrectly TP Rate Precision Recall F-Measure breast-cancer no-recurrence-events 75.5245 24.4755 0.96 0.757 0.96 0.846
recurrence-events 0.271 0.742 0.271 0.397
breast-w benign 94.5637 5.4363 0.956 0.961 0.956 0.958
malignant 0.925 0.918 0.925 0.921
diabetes tested_negative 73.8281 26.1719 0.814 0.79 0.814 0.802 tested_positive 0.597 0.632 0.597 0.614 heart-c <50 77.5578 22.4422 0.83 0.774 0.83 0.801
>50 0.71 0.778 0.71 0.742
heart-statlog absent 76.6667 23.3333 0.793 0.788 0.793 0.791
present 0.733 0.739 0.733 0.736
hepatitis DIE 83.871 16.129 0.438 0.667 0.438 0.528
LIVE 0.943 0.866 0.943 0.903
hypothyroid negative 99.5758 0.4242 0.999 0.998 0.999 0.998 compensated_hypothyroid 0.985 0.97 0.985 0.977 primary_hypothyroid 0.937 0.957 0.937 0.947
secondary_hypothyroid 0 0 0 0
leukemia ALL 81.9444 18.0556 0.809 0.905 0.809 0.854
AML 0.84 0.7 0.84 0.764
liver-disorders class 1 68.6957 31.3043 0.531 0.658 0.531 0.588
class 2 0.8 0.702 0.8 0.748
lung-cancer class 1 40.625 59.375 0.444 0.444 0.444 0.444
class 2 0.308 0.308 0.308 0.308
class 3 0.5 0.5 0.5 0.5
lymphography normal 77.027 22.973 1 0.5 1 0.667
metastases 0.79 0.831 0.79 0.81
malign_lymph 0.754 0.73 0.754 0.742
fibrosis 0.5 0.5 0.5 0.5
postoperative-
patient A 70 30 0.984 0.708 0.984 0.824
I 0 0 0 0
S 0 0 0 0
primary-tumor lung 39.823 60.177 0.631 0.431 0.631 0.512
head and neck 0.9 0.72 0.9 0.8
esophagus 0 0 0 0
thyroid 0.286 0.4 0.286 0.333
stomach 0.026 0.045 0.026 0.033
duoden and sm.int 0 0 0 0
colon 0 0 0 0
rectum 0 0 0 0
anus 0 0 0 0
salivary glands 0 0 0 0
pancreas 0.25 0.25 0.25 0.25
gallbladder 0.563 0.375 0.563 0.45
liver 0 0 0 0
kidney 0.292 0.35 0.292 0.318
bladder 0 0 0 0
testis 0 0 0 0
prostate 0 0 0 0
ovary 0.655 0.514 0.655 0.576
corpus uteri 0 0 0 0
cervix uteri 0 0 0 0
vagina 0 0 0 0
breast 0.708 0.773 0.708 0.739
ตารางที่ 4.7 ประสิทธิภาพของการสังเคราะห์โมเดลด้วยอัลกอริทึม Ripper
Dataset Class Correctly Incorrectly TP Rate Precision Recall F-Measure breast-cancer no-recurrence-events 70.979 29.021 0.856 0.761 0.856 0.806
recurrence-events 0.365 0.517 0.365 0.428
breast-w benign 95.422 4.578 0.952 0.978 0.952 0.965
malignant 0.959 0.913 0.959 0.935
diabetes tested_negative 76.0417 23.9583 0.856 0.793 0.856 0.823 tested_positive 0.582 0.684 0.582 0.629 heart-c <50 81.5182 18.4818 0.824 0.834 0.824 0.829
>50 0.804 0.793 0.804 0.799
heart-statlog absent 78.8889 21.1111 0.847 0.789 0.847 0.817
present 0.717 0.789 0.717 0.751
hepatitis DIE 78.0645 21.9355 0.344 0.458 0.344 0.393
LIVE 0.894 0.84 0.894 0.866
hypothyroid negative 99.3372 0.6628 0.996 0.999 0.996 0.997 compensated_hypothyroid 0.985 0.95 0.985 0.967 primary_hypothyroid 0.926 0.926 0.926 0.926
secondary_hypothyroid 0 0 0 0
leukemia ALL 88.8889 11.1111 0.894 0.933 0.894 0.913
AML 0.88 0.815 0.88 0.846
liver-disorders class 1 64.6377 35.3623 0.469 0.602 0.469 0.527
class 2 0.775 0.668 0.775 0.718
lung-cancer class 1 59.375 40.625 0.778 0.636 0.778 0.7
class 2 0.615 0.533 0.615 0.571
class 3 0.4 0.667 0.4 0.5
lymphography normal 77.7027 22.2973 0 0 0 0
metastases 0.827 0.798 0.827 0.812
malign_lymph 0.738 0.75 0.738 0.744
fibrosis 0.75 0.75 0.75 0.75
postoperative-
patient A 71.1111 28.8889 1 0.711 1 0.831
I 0 0 0 0
S 0 0 0 0
primary-tumor lung 39.233 60.767 0.917 0.328 0.917 0.483 head and neck 0.75 0.682 0.75 0.714
esophagus 0 0 0 0
thyroid 0.071 0.167 0.071 0.1
stomach 0 0 0 0
duoden and sm.int 0 0 0 0
colon 0 0 0 0
rectum 0 0 0 0
anus 0 0 0 0
salivary glands 0 0 0 0
pancreas 0.036 0.25 0.036 0.063
gallbladder 0.125 0.25 0.125 0.167
liver 0 0 0 0
kidney 0.125 0.333 0.125 0.182
bladder 0 0 0 0
testis 0 0 0 0
prostate 0 0 0 0
ovary 0.552 0.552 0.552 0.552
corpus uteri 0 0 0 0
cervix uteri 0 0 0 0
vagina 0 0 0 0
breast 0.75 0.818 0.75 0.783
34
ตารางที่ 4.8 การเปรียบเทียบประสิทธิภาพด้าน TP Rate
Dataset Class NaiveBayes Perceptron RBF SVM KNN J48 Ripper breast-cancer no-recurrence-events 0.836 0.741 0.876 0.851 0.96 0.96 0.856 recurrence-events 0.435 0.494 0.318 0.329 0.2 0.271 0.365 breast-w benign 0.952 0.961 0.954 0.974 0.969 0.956 0.952 malignant 0.975 0.963 0.967 0.963 0.963 0.925 0.959 diabetes tested_negative 0.844 0.81 0.868 0.898 0.836 0.814 0.856 tested_positive 0.612 0.646 0.541 0.541 0.537 0.597 0.582 heart-c <50 0.867 0.788 0.861 0.897 0.824 0.83 0.824 >50 0.797 0.732 0.812 0.775 0.812 0.71 0.804 heart-statlog absent 0.873 0.82 0.867 0.873 0.813 0.793 0.847 present 0.792 0.8 0.808 0.8 0.75 0.733 0.717 hepatitis DIE 0.688 0.438 0.594 0.594 0.5 0.438 0.344 LIVE 0.886 0.87 0.927 0.919 0.951 0.943 0.894 hypothyroid negative 0.993 0.985 0.989 0.999 0.996 0.999 0.996 compensated 0.32 0.201 0.356 0 0.057 0.985 0.985 primary 0.8 0.768 0.832 0.547 0.432 0.937 0.926
secondary 0 0 0 0 0 0 0
leukemia ALL 1 1 1 1 0.957 0.809 0.894
AML 0.96 0.92 0.92 0.96 0.56 0.84 0.88
liver-disorders class 1 0.766 0.593 0.517 0.007 0.476 0.531 0.469
class 2 0.4 0.665 0.735 1 0.675 0.8 0.775
lung-cancer class 1 0.667 0.556 0.667 0.667 0.667 0.444 0.778 class 2 0.538 0.231 0.308 0.308 0.154 0.308 0.615
class 3 0.7 0.5 0.7 0.6 0.5 0.5 0.4
lymphography normal 0.5 0 0 1 0 1 0
metastases 0.901 0.889 0.852 0.914 0.951 0.79 0.827 malign_lymph 0.754 0.77 0.77 0.803 0.77 0.754 0.738
fibrosis 0.75 0.25 0.75 0.75 0 0.5 0.75
postoperative-
patient A 0.938 0.641 0.75 0.953 1 0.984 1
I 0 0 0 0 0 0 0
S 0 0.25 0.125 0 0 0 0
primary-tumor lung 0.714 0.726 0.536 0.833 0.738 0.631 0.917 head and neck 0.95 0.95 0.8 0.95 0.95 0.9 0.75
esophagus 0 0 0.111 0 0 0 0
thyroid 0.214 0.214 0.286 0.286 0.357 0.286 0.071 stomach 0.282 0.282 0.077 0.231 0.154 0.026 0
duoden and sm.int 0 0 0 0 0 0 0
colon 0 0 0.071 0 0.071 0 0
rectum 0.167 0.333 0 0 0 0 0
anus 0 0 0 0 0 0 0
salivary glands 0 0 0 0 0 0 0
pancreas 0.321 0.321 0.179 0.107 0.25 0.25 0.036 gallbladder 0.688 0.313 0.25 0.5 0.625 0.563 0.125
liver 0 0 0 0 0 0 0
kidney 0.417 0.292 0.167 0.292 0.292 0.292 0.125
bladder 0 0 0 0 0 0 0
testis 0 0 0 0 0 0 0
prostate 0.2 0.3 0.2 0.2 0.2 0 0
ovary 0.862 0.552 0.655 0.69 0.862 0.655 0.552
corpus uteri 0 0 0 0 0 0 0
cervix uteri 0 0 0 0 0 0 0
vagina 0 0 0 0 0 0 0
breast 0.792 0.792 0.667 0.708 0.792 0.708 0.75
ตารางที่ 4.9 การเปรียบเทียบประสิทธิภาพด้าน Precision
Dataset Class NaiveBayes Perceptron RBF SVM KNN J48 Ripper breast-cancer no-recurrence-events 0.778 0.776 0.752 0.75 0.739 0.757 0.761 recurrence-events 0.529 0.447 0.519 0.483 0.68 0.742 0.517 breast-w benign 0.986 0.98 0.982 0.98 0.98 0.961 0.978 malignant 0.914 0.928 0.917 0.951 0.943 0.918 0.913 diabetes tested_negative 0.802 0.81 0.779 0.785 0.771 0.79 0.793 tested_positive 0.678 0.646 0.687 0.74 0.637 0.632 0.684 heart-c <50 0.836 0.778 0.845 0.827 0.84 0.774 0.834 >50 0.833 0.743 0.83 0.863 0.794 0.778 0.793 heart-statlog absent 0.84 0.837 0.85 0.845 0.803 0.788 0.789 present 0.833 0.78 0.829 0.835 0.763 0.739 0.789 hepatitis DIE 0.611 0.467 0.679 0.655 0.727 0.667 0.458 LIVE 0.916 0.856 0.898 0.897 0.88 0.866 0.84 hypothyroid negative 0.961 0.954 0.964 0.936 0.938 0.998 0.999 compensated 0.721 0.402 0.657 0 0.344 0.97 0.95 primary 0.874 0.89 0.84 0.945 0.932 0.957 0.926
secondary 0 0 0 0 0 0 0
leukemia ALL 0.979 0.959 0.959 0.979 0.804 0.905 0.933
AML 1 1 1 1 0.875 0.7 0.815
liver-disorders class 1 0.481 0.562 0.586 1 0.515 0.658 0.602 class 2 0.702 0.693 0.677 0.581 0.64 0.702 0.668 lung-cancer class 1 0.6 0.385 0.545 0.545 0.4 0.444 0.636 class 2 0.538 0.273 0.444 0.364 0.2 0.308 0.533 class 3 0.778 0.625 0.583 0.6 0.714 0.5 0.667
lymphography normal 0.5 0 0 0.667 0 0.5 0
metastases 0.83 0.809 0.831 0.851 0.828 0.831 0.798 malign_lymph 0.852 0.81 0.797 0.891 0.855 0.73 0.75
fibrosis 0.75 1 0.6 1 0 0.5 0.75
postoperative-
patient A 0.706 0.695 0.706 0.701 0.711 0.708 0.711
I 0 0 0 0 0 0 0
S 0 0.2 0.188 0 0 0 0
primary-tumor lung 0.682 0.709 0.563 0.609 0.681 0.431 0.328 head and neck 0.731 0.655 0.593 0.76 0.679 0.72 0.682
esophagus 0 0 0.091 0 0 0 0
thyroid 0.273 0.25 0.16 0.4 0.333 0.4 0.167
stomach 0.355 0.306 0.12 0.2 0.3 0.045 0
duoden and sm.int 0 0 0 0 0 0 0
colon 0 0 0.063 0 0.2 0 0
rectum 1 0.286 0 0 0 0 0
anus 0 0 0 0 0 0 0
salivary glands 0 0 0 0 0 0 0
pancreas 0.237 0.237 0.227 0.111 0.189 0.25 0.25 gallbladder 0.33 0.313 0.364 0.286 0.357 0.375 0.25
liver 0 0 0 0 0 0 0
kidney 0.303 0.269 0.154 0.292 0.389 0.35 0.333
bladder 0 0 0 0 0 0 0
testis 0 0 0 0 0 0 0
prostate 0.667 0.231 0.286 0.667 0.154 0 0
ovary 0.568 0.64 0.463 0.571 0.431 0.514 0.552
corpus uteri 0 0 0 0 0 0 0
cervix uteri 0 0 0 0 0 0 0
vagina 0 0 0 0 0 0 0
breast 0.792 0.826 0.941 0.85 0.792 0.773 0.818
36
ตารางที่ 4.10 การเปรียบเทียบประสิทธิภาพด้าน Recall
Dataset Class NaiveBayes Perceptron RBF SVM KNN J48 Ripper breast-cancer no-recurrence-events 0.836 0.741 0.876 0.851 0.96 0.96 0.856 recurrence-events 0.435 0.494 0.318 0.329 0.2 0.271 0.365 breast-w benign 0.952 0.961 0.954 0.974 0.969 0.956 0.952 malignant 0.975 0.963 0.967 0.963 0.963 0.925 0.959 diabetes tested_negative 0.844 0.81 0.868 0.898 0.836 0.814 0.856 tested_positive 0.612 0.646 0.541 0.541 0.537 0.597 0.582 heart-c <50 0.867 0.788 0.861 0.897 0.824 0.83 0.824 >50 0.797 0.732 0.812 0.775 0.812 0.71 0.804 heart-statlog absent 0.873 0.82 0.867 0.873 0.813 0.793 0.847 present 0.792 0.8 0.808 0.8 0.75 0.733 0.717 hepatitis DIE 0.688 0.438 0.594 0.594 0.5 0.438 0.344 LIVE 0.886 0.87 0.927 0.919 0.951 0.943 0.894 hypothyroid negative 0.993 0.985 0.989 0.999 0.996 0.999 0.996 compensated 0.32 0.201 0.356 0 0.057 0.985 0.985 primary 0.8 0.768 0.832 0.547 0.432 0.937 0.926
secondary 0 0 0 0 0 0 0
leukemia ALL 1 1 1 1 0.957 0.809 0.894
AML 0.96 0.92 0.92 0.96 0.56 0.84 0.88
liver-disorders class 1 0.766 0.593 0.517 0.007 0.476 0.531 0.469
class 2 0.4 0.665 0.735 1 0.675 0.8 0.775
lung-cancer class 1 0.667 0.556 0.667 0.667 0.667 0.444 0.778 class 2 0.538 0.231 0.308 0.308 0.154 0.308 0.615
class 3 0.7 0.5 0.7 0.6 0.5 0.5 0.4
lymphography normal 0.5 0 0 1 0 1 0
metastases 0.901 0.889 0.852 0.914 0.951 0.79 0.827 malign_lymph 0.754 0.77 0.77 0.803 0.77 0.754 0.738
fibrosis 0.75 0.25 0.75 0.75 0 0.5 0.75
postoperative-patient A 0.938 0.641 0.75 0.953 1 0.984 1
I 0 0 0 0 0 0 0
S 0 0.25 0.125 0 0 0 0
primary-tumor lung 0.714 0.726 0.536 0.833 0.738 0.631 0.917 head and neck 0.95 0.95 0.8 0.95 0.95 0.9 0.75
esophagus 0 0 0.111 0 0 0 0
thyroid 0.214 0.214 0.286 0.286 0.357 0.286 0.071 stomach 0.282 0.282 0.077 0.231 0.154 0.026 0
duoden and sm.int 0 0 0 0 0 0 0
colon 0 0 0.071 0 0.071 0 0
rectum 0.167 0.333 0 0 0 0 0
anus 0 0 0 0 0 0 0
salivary glands 0 0 0 0 0 0 0
pancreas 0.321 0.321 0.179 0.107 0.25 0.25 0.036 gallbladder 0.688 0.313 0.25 0.5 0.625 0.563 0.125
liver 0 0 0 0 0 0 0
kidney 0.417 0.292 0.167 0.292 0.292 0.292 0.125
bladder 0 0 0 0 0 0 0
testis 0 0 0 0 0 0 0
prostate 0.2 0.3 0.2 0.2 0.2 0 0
ovary 0.862 0.552 0.655 0.69 0.862 0.655 0.552
corpus uteri 0 0 0 0 0 0 0
cervix uteri 0 0 0 0 0 0 0
vagina 0 0 0 0 0 0 0
breast 0.792 0.792 0.667 0.708 0.792 0.708 0.75
ตารางที่ 4.11 การเปรียบเทียบประสิทธิภาพด้าน F-Measure
Dataset Class NaiveBayes Perceptron RBF SVM KNN J48 Ripper breast-cancer no-recurrence-events 0.806 0.758 0.809 0.797 0.835 0.846 0.806 recurrence-events 0.477 0.469 0.394 0.392 0.309 0.397 0.428 breast-w benign 0.969 0.97 0.968 0.977 0.975 0.958 0.965 malignant 0.944 0.945 0.941 0.957 0.953 0.921 0.935 diabetes tested_negative 0.823 0.81 0.821 0.838 0.802 0.802 0.823 tested_positive 0.643 0.646 0.605 0.625 0.583 0.614 0.629 heart-c <50 0.851 0.783 0.853 0.86 0.832 0.801 0.829 >50 0.815 0.737 0.821 0.817 0.803 0.742 0.799 heart-statlog absent 0.856 0.828 0.858 0.859 0.808 0.791 0.817 present 0.812 0.79 0.819 0.817 0.756 0.736 0.751 hepatitis DIE 0.647 0.452 0.633 0.623 0.593 0.528 0.393 LIVE 0.901 0.863 0.912 0.908 0.914 0.903 0.866 hypothyroid negative 0.977 0.969 0.977 0.967 0.966 0.998 0.997 compensated 0.443 0.268 0.462 0 0.097 0.977 0.967 primary 0.835 0.825 0.836 0.693 0.59 0.947 0.926
secondary 0 0 0 0 0 0 0
leukemia ALL 0.989 0.979 0.979 0.989 0.874 0.854 0.913 AML 0.98 0.958 0.958 0.98 0.683 0.764 0.846 liver-disorders class 1 0.59 0.577 0.549 0.014 0.495 0.588 0.527 class 2 0.51 0.679 0.705 0.735 0.657 0.748 0.718 lung-cancer class 1 0.632 0.455 0.6 0.6 0.5 0.444 0.7 class 2 0.538 0.25 0.364 0.333 0.174 0.308 0.571 class 3 0.737 0.556 0.636 0.6 0.588 0.5 0.5
lymphography normal 0.5 0 0 0.8 0 0.667 0
metastases 0.864 0.847 0.841 0.881 0.885 0.81 0.812 malign_lymph 0.8 0.79 0.783 0.845 0.81 0.742 0.744
fibrosis 0.75 0.4 0.667 0.857 0 0.5 0.75
postoperative-
patient A 0.805 0.667 0.727 0.808 0.831 0.824 0.831
I 0 0 0 0 0 0 0
S 0 0.222 0.125 0 0 0 0
primary-tumor lung 0.698 0.718 0.549 0.704 0.709 0.512 0.483 head and neck 0.826 0.776 0.681 0.844 0.792 0.8 0.714
esophagus 0 0 0.1 0 0 0 0
thyroid 0.24 0.231 0.205 0.33 0.345 0.333 0.1 stomach 0.314 0.293 0.094 0.214 0.203 0.033 0
duoden and sm.int 0 0 0 0 0 0 0
colon 0 0 0.067 0 0.105 0 0
rectum 0.286 0.308 0 0 0 0 0
anus 0 0 0 0 0 0 0
salivary glands 0 0 0 0 0 0 0
pancreas 0.273 0.273 0.2 0.109 0.215 0.25 0.063 gallbladder 0.449 0.313 0.296 0.364 0.455 0.45 0.167
liver 0 0 0 0 0 0 0
kidney 0.351 0.28 0.16 0.292 0.333 0.318 0.182
bladder 0 0 0 0 0 0 0
testis 0 0 0 0 0 0 0
prostate 0.308 0.261 0.235 0.308 0.174 0 0
ovary 0.685 0.593 0.543 0.625 0.575 0.576 0.552
corpus uteri 0 0 0 0 0 0 0
cervix uteri 0 0 0 0 0 0 0
vagina 0 0 0 0 0 0 0
breast 0.792 0.809 0.78 0.773 0.792 0.739 0.783
38
62 64 66 68 70 72 74 76 78
Accuracy