Analisis kinerja metode entropy dalam penentuan bobot awal learning vector quantization pada proses klasifikasi

(1)

ANALISIS KINERJA METODE

_ENTROPY

DALAM PENENTUAN

BOBOT AWAL

_{LEARNING VECTOR QUANTIZATION}

PADA

PROSES KLASIFIKASI

TESIS

ANGGI SYAHADAT HARAHAP

147038021

PROGRAM STUDI S2 TEKNIK INFORMATIKA

FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI

UNIVERSITAS SUMATERA UTARA

MEDAN

(2)

ANALISIS

KINERJA METODE

_ENTROPY

DALAM PENENTUAN

BOBOT AWAL

_{LEARNING VECTOR QUANTIZATION}

PADA

PROSES KLASIFIKASI

TESIS

Diajukan untuk melengkapi tugas dan memenuhi syarat memperoleh

ijazah Magister Teknik Informatika

ANGGI SYAHADAT HARAHAP

147038021

PROGRAM STUDI S2 TEKNIK INFORMATIKA

FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI

UNIVERSITAS SUMATERA UTARA

MEDAN

(3)

PERSETUJUAN

Judul

: ANALISIS

KINERJA

METODE

ENTROPY

PADA

PENENTUAN

BOBOT

AWAL

LEARNING

VECTOR

QUANTIZATION

DALAM PROSES KLASIFIKASI

Kategori

:

NEURAL NETWORK, CLASSIFICATION

Nama

: ANGGI SYAHADAT HARAHAP

Nim

: 147038021

Program Studi

: MAGISTER (S2) TEKNIK INFORMATIKA

Fakultas

: ILMU KOMPUTER DAN TEKNOLOGI INFORMASI

UNIVERSITAS SUMATERA UTARA

Komisi Pembimbing :

Pembimbing 2

Pembimbing 1

Dr. Erna Budhiarti Nababan, M. IT

Prof. Dr. Tulus, Vor.Dipl, Math, M.Si

NIDT. 19621026 201742 001 NIP. 19620901 198803 1 002

Diketahui/disetujui oleh

Program Studi S2 Teknik Informatika

Ketua,

Prof. Dr. Muhammad Zarlis

(4)

PERNYATAAN

ANALISIS KINERJA METODE

ENTROPY

DALAM PENENTUAN

BOBOT AWAL

LEARNING VECTOR QUANTIZATION

PADA

PROSES KLASIFIKASI

TESIS

Saya mengakui bahwa tesis ini adalah hasil karya saya sendiri, kecuali beberapa

kutipan dan ringkasan yang masing-masing telah disebutkan sumbernya.

Medan, 10 Februari 2017

Anggi Syahadat Harahap

(5)

PERNYATAAN PERSETUJUAN PUBLIKASI

KARYA ILMIAH UNTUK KEPENTINGAN

AKADEMIS

Sebagai sivitas akademika Universitas Sumatera Utara, saya yang bertandatangan

dibawah ini :

Nama

: Anggi Syahadat Harahap

NIM

: 147038021

Program Studi

: Magister Teknik Informatika

Jenis Karya Ilmiah

: Teknik Informatika

Demi pengembangan ilmu pengetahuan, menyetujui untuk memberikan kepada

Universitas Sumatera Utara Hak Bebas Royalti Non-Eksklusif (Non-Exclusive

Royalty Free Right) atas tesis saya yang berjudul :

ANALISIS KINERJA METODE

ENTROPY

DALAM PENENTUAN

BOBOT AWAL

LEARNING VECTOR QUANTIZATION

PADA

PROSES KLASIFIKASI

Beserta perangkat yang ada (jika diperlukan). Dengan Hak Bebas Royalti

Non-Eksklusif ini, Universitas Sumatera Utara berhak menyimpan, mengalih media,

memformat, mengelola dalam bentuk database, merawat dan mempublikasikan tesis

saya tanpa meminta izin dari saya selama tetap mencantumkan nama saya sebagai

penulis dan sebagai pemegang dan/atau sebagai pemilik hak cipta.

Dengan pernyataan ini dibuat dengan sebenarnya.

Medan, 10 Februari 2017

Anggi Syahadat Harahap

(6)

Telah diuji pada

Tanggal : 10 Februari 2017

PANITIA PENGUJI TESIS

Ketua

: Prof. Dr. Muhammad Zarlis

Anggota

: 1. Prof. Dr. Tulus, Vor.Dipl, Math, M.Si

2. Dr. Erna Budhiarti Nababan, M.IT

3. Prof. Dr. Muhammad Zarlis

(7)

RIWAYAT HIDUP

DATA PRIBADI

Nama Lengkap

: Anggi Syahadat Harahap

Tempat danTanggal Lahir

: Lhokseumawe, 24 Mei 1989

Alamat Rumah

: Jln. Setiabudi Gg. Rukun No.8, Medan

Telepon/Fax/HP

: -/-/+6285314987098

Email

: anggisyahadatharahap@yahoo.com

Instansi

: -

Alamat Kantor

: -

DATA PENDIDIKAN

SD

: SDN 26 Padang Sidimpuan

TAMAT : 2001

SMP : MTsN 1 Padang Sidimpuan

TAMAT : 2004

SMA : SMA Kemala Bhayangkari 1 Medan

TAMAT : 2007

S1

: Teknik Informatika Universitas Telkom Bandung

TAMAT : 2013

(8)

UCAPAN TERIMA KASIH

Puji dan syukur penulis panjatkan kehadirat Allah Azza wa Jalla, karena rahmat

karunianyalah diberi berupa pengetahuan, kesehatan dan kesempatan yang diberikan

kepada penulis sehingga dapat menyelesaikan tesis ini dengan judul “

ANALISIS

KINERJA METODE

ENTROPY

DALAM PENENTUAN BOBOT AWAL

LEARNING VECTOR QUANTIZATION

PADA PROSES KLASIFIKASI

”.

Dalam penyusunan untuk menyelesaikan tesis ini, penulis banyak

mendapatkan pelajaran yang besar, baik berupa saran maupun nasehat dari berbagai

pihak terutama dari dosen pembimbing serta dosen pembanding, sehingga pengerjaan

tesis ini dapat diselesaikan dengan baik. Tidak lepas dari dukungan orang tua beserta

keluarga juga sahabat yang telah banyak memberikan banyak bantuan dan dukungan,

sehingga penulis dapat sampai pada tahap penyelesaian tesis ini.

Untuk itu penulis ingin menyampaikan ucapan terima kasih yang sebesar-besarnya

kepada:

1. Bapak Prof. Dr. Runtung Sitepu, S.H., M.Hum., selaku rektor Universitas

Sumatera Utara atas kesempatan yang telah diberikan kepada penulis, sehingga

bisa mengikuti dan menyelesaikan pendidikan Magister Teknik Informatika.

2. Bapak Prof. Dr. Opim Salim Sitompul, selaku Dekan Fakultas Ilmu Komputer

dan Teknologi Informasi Universitas Sumatera Utara Medan.

3. Bapak Prof. Dr. Muhammad Zarlis, M.Si., selaku Ketua Program Studi

Pascasarjana Teknik Informatika Fakultas Ilmu Komputer dan Teknologi

Informasi Universitas Sumatera Utara Medan.

4. Bapak M. Andri Budiman, S.T., M.Comp.Sc, MEM., selaku Sekretaris

Program Studi Magister Teknik Informatika Fakultas Ilmu Komputer dan

Teknologi Informasi Universitas Sumatera Utara.

5. Bapak Prof. Dr. Tulus, Vor.Dipl, Math, M.Si, selaku Dosen Pembimbing I

yang telah bersedia memberikan bimbingan serta pengarahan hingga

selesainya penulisan tesis ini.

6. Ibu Dr. Erna Budhiarti Nababan, M.IT, selaku Dosen Pembimbing II yang

telah bersedia memberikan bimbingan serta pengarahan hingga selesainya

(9)

ix

7. Bapak Prof. Dr. Muhammad Zarlis, selaku dosen Pembanding/Penguji yang

telah memberikan saran untuk perbaikan dan penyelesaian tesis ini.

8. Bapak Dr. Syahril Efendi, M.IT., selaku dosen Pembanding/Penguji yang telah

memberikan saran untuk perbaikan dan penyelesaian tesis ini.

9. Bapak dan Ibu dosen yang telah memberikan materi perkuliahan dan ilmu

pengetahuan selama penulis menyelesaikan Program Studi Magister Teknik

Informatika.

10. Seluruh staf atau pegawai pada Program Studi Magister Teknik Informatika

Fakultas Ilmu Komputer dan Teknologi Informasi Universitas Sumatera Utara.

11. Buat Ayahanda Lolot Harahap dan Ibunda Masrawaty Siregar, yang selalu

memberi semangat dan doa yang tiada putus dan dorongan moril maupun

materil kepada saya sehingga dapat menyelesaikan tesis ini dengan baik.

12. Buat Kakanda Verawati Harahap dan Abangda Holy Idris yang selalu

memberikan semangat dan doa yang tiada putus dan dorongan moril maupun

materil kepada saya, sehingga dapat menyelesaikan tesis ini dengan baik.

13. Sahabat-sahabat saya Muhammad Zulfansyuri, Robbi Rahim, Abdul Rahman

Hakim, Sudirman, Riski Muliono, beserta teman-teman seperjuangan angkatan

2014 Kom-A yang telah memberikan dukungan dalam penyelesaian tesis ini.

Akhir kata penulis berharap semoga karya ilmiah ini dapat bermanfaat bagi semua

pihak, khususnya dalam bidang pendidikan. Penulis menyadari bahwa masih ada

kekurangan dalam penulisan tesis ini, untuk itu penulis mengharapkan kritik dan saran

dari pembaca demi kesempurnaan penelitian selanjutnya.

Medan, 10 Februari 2017

Penulis

Anggi Syahadat Harahap

(10)

ABSTRAK

Proses pembelajaran pada setiap metode Jaringan Syaraf Tiruan (JST) merupakan hal

yang sangat penting karena bertujuan agar jaringan dapat mengenali lingkungannya.

Demikian juga halnya dengan JST

Learning Vector Quantization

(

LVQ

) dalam

mengenali lingkungan suatu dataset, membutuhkan proses pembelajaran dan

parameter yang baik agar menghasilkan tingkat akurasi yang baik pula.

LVQ

sendiri

memiliki kelebihan dalam hal tingkat akurasi dan waktu yang dibutuhkan untuk

proses pembelajaran jika dibandingkan dengan algorimta JST lainnya. Namun JST

LVQ

memiliki kekurangan yaitu apabila jumlah datanya semakin besar maka waktu

yang dibutuhkan untuk pembelajarannya semakin lama dan akurasi model sangat

bergantung pada vektor bobot awal dan parameter yang digunakan. Untuk

menentukan vektor bobot awal tersebut maka digunakan metode

Entropy

yang dapat

mencari keserasian antara sekumpulan data sehingga menghasilkan suatu vektor bobot

yang dapat mewakili setiap data pada setiap kelas. Hasil yang didapatkan

menggunakan metode

Entropy

dalam penentuan vektor bobot awal yaitu mempercepat

proses pembelajaran. Walaupun jumlah data

training

yang digunakan lebih sedikit

namun dapat menghasilkan akurasi yang lebih baik jika dibandingkan dengan JST

LVQ

standar.

(11)

PERFORMANCE ANALYSIS OF ENTROPY METHOD IN DETERMINING THE

INITIAL WEIGHT OF LEARNING VECTOR QUANTIZATION FOR

CLASSIFICATION PROCESS

ABSTRACT

The learning process for each method of Artificial Neural Network (ANN) is very

important because it aims to make the network can recognize their environment.

Similarly, Neural Network Learning Vector Quantization (LVQ) to recognize the

environment, requires a process of learning and good parameters to produce a good

degree of accuracy. LVQ has advantages in terms of accuracy and time required for

the learning process when compared with another ANN algorithm. However LVQ has

the disadvantage that if the amount of data is greater so the time for learning become

longer and the accuracy of the model is highly dependent on the initial weight vector

and parameters. To determine the initial weight vector then need a method. Entropy

method is a method to search for harmony between a set of data so as to produce a

weight vector that can represent any data on each class. Results obtained using

Entropy method in determining the initial weight vector that is speeding up for the

learning process.

Although the number of training data that is used less but it can produce better accuracy than a standard LVQ.

(12)

DAFTAR ISI

ANALISIS ... ii

PESETUJUAN ... iii

PERNYATAAN ... iv

PANITIA PENGUJI TESIS ... vi

RIWAYAT HIDUP ... vii

1.1. Latar Belakang Masalah ... 1

1.2.Perumusan Masalah ... 2

1.3.Tujuan Penelitian ... 3

1.4.Batasan Masalah ... 3

1.5.Manfaat Penelitian ... 3

BAB 2LANDASAN TEORI ... 4

2.1.Jaringan Syaraf Tiruan ... 4

2.2.Learning Vector Quantization ... 5

2.3.Metode Entropy ... 7

2.4.Penelitian-Penelitian Terkait ... 8

2.4.1.Penelitian Terdahulu ... 8

2.4.2.Perbedaan dengan Penelitian Terdahulu ... 11

2.4.3.Kontribusi Penelitian ... 11

BAB 3 METODOLOGI PENELITIAN ... 12

3.1.Tahapan Penelitian ... 12

3.2.Dataset yang Digunakan ... 12

3.3.Perancangan Arsitektur JST LVQ ... 14

3.4.Penentuan Bobot Awal menggunakan Metode Entropy ... 16

3.5.Training JST LVQ ... 21

3.6.Testing JST LVQ ... 24

3.7.Perhitungan Nilai Akurasi ... 25

BAB 4 HASIL DAN PEMBAHASAN ... 32

4.1.Pendahuluan ... 32

4.2.Vektor bobot Awal yang Dihasilkan ... 32

4.2.1.Perhitungan Bobot dengan Metode Entropy (Entropy Cara Pertama) ... 32

(13)

xiii

4.2.3.LVQ standar ... 33

4.3.Hasil Penelitian ... 34

4.4.Pembahasan ... 35

BAB 5 KESIMPULAN DAN SARAN ... 37

5.1.Kesimpulan ... 37

5.2.Saran ... 37

DAFTAR PUSTAKA ... 38

(14)

DAFTAR TABEL

Tabel 2.1 Penelitian Terdahulu ... 10

Tabel 3.1 Atribut Data ... 13

Tabel 3.2 Dataset Kelas Kanker Jinak ... 13

Tabel 3.3 Dataset Kelas Kanker Jinak (lanjutan) ... 14

Tabel 3.4 Dataset Kelas Kanker Ganas ... 14

Tabel 3.5 Contoh Dataset Entropy Cara Pertama ... 17

Tabel 3.6 Contoh Normalisasi Entropy Cara Pertama ... 17

Tabel 3.7 Contoh Vektor Bobot Entropy Cara Pertama ... 18

Tabel 3.8 Contoh Dataset Entropy Cara Kedua ... 19

Tabel 3.9 Contoh Normalisasi Entropy Cara Kedua ... 20

Tabel 3.10 Contoh Vektor Bobot Entropy Cara Kedua ... 21

Tabel 3.11 Parameter Pengujian Nilai ... 25

Tabel 3.12 Contoh Perhitungan Vektor Bobot Cara Pertama ... 27

Tabel 3.13 Contoh Perhitungan Vektor Bobot Cara Kedua ... 27

Tabel 3.13 Data Training 20 Pasien dari Hasil Standar Deviasi ... 28

Tabel 4.1 Vektor Bobot dengan Entropy Cara Pertama ... 33

Tabel 4.2 Vektor Bobot dengan Entropy Cara Kedua ... 33

Tabel 4.3 Vektor Bobot dengan LVQ standar ... 33

Tabel 4.4 Hasil Pengujian ... 34

Tabel 4.5 Hasil Pengujian (lanjutan) ... 35

Tabel Lampiran.1 Dataset Breast Cancer ... 40

Tabel Lampiran.2 Dataset Breast Cancer (lanjutan) ... 41

Tabel Lampiran.7 Dataset Breast Cancer (lanjutan) ... 46

(15)

xv

Tabel Lampiran.15 Dataset Breast Cancer (lanjutan) ... 55

(16)

DAFTAR GAMBAR

Gambar 2.1 Arsitektur JST LVQ (Kusumadewi, 2003) ... 6

Gambar 3.1 Tahapan Penelitian... 12

Gambar 3.2 Arsitektur JST LVQ ... 15

Gambar 3.3 Penentuan Bobot Awal Cara Pertama ... 16

Gambar 3.4 Penentuan Bobot Awal Cara Kedua ... 19

Gambar 3.5 Flowchart Training JST LVQ ... 23