Pengenalan Data Mining

Model Datamining

Analisis Klastering K-Means

Kelompok 1 1.Eko Suryana 2.Aji Sudarsono 3.Gunawan

4.Reno Supardi

5.Revino Merbolin

Definisi



“Mining”: proses atau usaha untuk

mendapatkan sedikit barang berharga dari

sejumlah besar material dasar yang telah

ada.

Definisi



Beberapa faktor dalam pendefinisian data mining:

 data mining adalah proses otomatis

terhadap data yang dikumpulkan di masa lalu

 objek dari data mining adalah data yang berjumlah besar atau kompleks

 tujuan dari data mining adalah menemukan hubungan-hubungan atau pola-pola yang mungkin memberikan indikasi yang

bermanfaat.

Definisi



Definisi data mining

 Data mining adalah serangkaian proses untuk menggali nilai tambah dari suatu kumpulan data berupa pengetahuan yang selama ini tidak diketahui secara manual.

 Data mining adalah analisa otomatis dari data yang berjumlah besar atau kompleks dengan tujuan untuk menemukan pola atau kecenderungan yang penting yang biasanya tidak disadari keberadaannya

Kategori dalam Data mining



Classification



Clustering



Statistical Learning



Association Analysis



Link Mining



Bagging and Boosting



Sequential Patterns



Integrated Mining



Rough Sets



Graph Mining

Classification



Klasifikasi adalah suatu proses pengelom- pokan data dengan didasarkan pada ciri- ciri tertentu ke dalam kelas-kelas yang telah ditentukan pula.



Dua metode yang cukup dikenal dalam klasifikasi, antara lain:

 Naive Bayes

 K Nearest Neighbours (kNN)

Clustering

 Clustering adalah proses pengelompokan objek yang didasarkan pada kesamaan antar objek.

 Tidak seperti proses klasifikasi yang bersifat supervised learning, pada clustering proses pengelompokan dilakukan atas dasar

unsupervised learning.

 Pada proses klasifikasi, akan ditentukan lokasi dari suatu kejadian pada klas tertentu dari

beberapa klas yang telah teridentifikasi sebelumnya.

 Sedangkan pada proses clustering, proses pengelompokan kejadian dalam klas akan

dilakukan secara alami tanpa mengidentifikasi klas-klas sebelumnya.

Clustering

 Suatu metode clustering dikatakan baik apabila metode tersebut dapat menghasilkan cluster- cluster dengan kualitas yang sangat baik.

 Metode tersebut akan menghasilkan cluster-

cluster dengan objek-objek yang memiliki tingkat kesamaan yang cukup tinggi dalam suatu cluster, dan memiliki tingkat ketidaksamaan yang cukup tinggi juga apabila objek-objek tersebut terletak pada cluster yang berbeda.

 Untuk mendapatkan kualitas yang baik, metode clustering sangat tergantung pada ukuran

kesamaan yang akan digunakan dan

kemampuannya untuk menemukan beberapa pola yang tersembunyi.

K-Means



Konsep dasar dari K-Means adalah

pencarian pusat cluster secara iteratif.



Pusat cluster ditetapkan berdasarkan jarak setiap data ke pusat cluster.



Proses clustering dimulai dengan

mengidentifikasi data yang akan dicluster, x

_ij

(i=1,...,n; j=1,...,m) dengan n adalah

jumlah data yang akan dicluster dan m

adalah jumlah variabel.

K-Means

 Pada awal iterasi, pusat setiap cluster ditetapkan secara bebas (sembarang), c_kj (k=1,...,K;

j=1,...,m).

 Kemudian dihitung jarak antara setiap data dengan setiap pusat cluster.

 Untuk melakukan penghitungan jarak data ke-i

(X_i) pada pusat cluster ke-k (C_k), diberi nama (d_ik), dapat digunakan formula Euclidean, yaitu:

d

_ik

= √ ∑

^j=m1

( x

^ij

− c

^kj

)

²

K-Means

 Suatu data akan menjadi anggota dari cluster ke-J apabila jarak data tersebut ke pusat cluster ke-J bernilai paling kecil jika dibandingkan dengan jarak ke pusat cluster lainnya.

 Selanjutnya, kelompokkan data-data yang menjadi anggota pada setiap cluster.

 Nilai pusat cluster yang baru dapat dihitung dengan cara mencari nilai rata-rata dari data-data yang menjadi anggota pada cluster tersebut, dengan rumus:

c_kj=

∑

h=1 p

y_hj

p ; y_hj=x_ij∈cluster ke−k

K-Means

 Algoritma:

 Tentukan jumlah cluster (K), tetapkan pusat cluster sembarang.

 Hitung jarak setiap data ke pusat cluster.

 Kelompokkan data ke dalam cluster yang dengan jarak yang paling pendek.

 Hitung pusat cluster.

 Ulangi langkah 2 - 4 hingga sudah tidak ada lagi data yang berpindah ke cluster yang lain.

Contoh…

Penentuan Jumlah Cluster

 Salah satu masalah yang dihadapi pada proses clustering adalah pemilihan jumlah cluster yang optimal.

 Kauffman dan Rousseeuw (1990)

memperkenalkan suatu metode untuk

menentukan jumlah cluster yang optimal, metode ini disebut dengan silhouette measure.

 Misalkan kita sebut A sebagai cluster dimana data X_i berada, hitung ai sebagai rata-rata jarak X_i ke semua data yang menjadi anggota A.

 Anggaplah bahwa C adalah sembarang cluster selain A.

Penentuan Jumlah Cluster

 Hitung rata-rata jarak antara Xi dengan data yang menjadi anggota dari C, sebut sebagai d(Xi, C).

 Cari rata-rata jarak terkecil dari semua cluster, sebut sebagai b_i, b_i = min(d(X_i,C)) dengan CA.

 Silhoutte dari Xi, sebut sebagai si dapat dipandang sebagai berikut (Chih-Ping, 2005):

s

_i

=

{ 1− b aii0, −1, b aii , a a aiii= <b >b biii

Penentuan Jumlah Cluster



Rata-rata si untuk semua data untuk k

cluster tersebut disebut sebagai rata-rata silhouette ke-k, .



Nilai rata-rata silhouette terbesar pada

jumlah cluster (katakanlah: k) menunjukkan bahwa k merupakan jumlah cluster yang

optimal.

s̃_k

1) Bila jumlah data tidak terlalu banyak, mudah untuk menentukan cluster awal.

2) Jumlah cluster, sebanyak K, harus ditentukan sebelum dilakukan perhitungan.

3) Tidak pernah mengetahui real cluster dengan menggunakan data yang sama, namun jika dimasukkan dengan cara yang berbeda mungkin dapat memproduksi cluster yang berbeda jika jumlah datanya sedikit.

4) Tidak tahu kontribusi dari atribut dalam proses pengelompokan karena dianggap bahwa setiap atribut memiliki bobot yang sama

Kelemahan K-Means

Contoh Kasus

.

Diberikan data nilai dari 12 siswa sebagai Berikut, kemudian jadikan data tersebut

menjadi 2 Cluster.

Data ke-i Fitur x Fitur y

1 1 1

2 4 1

3 6 1

4 1 2

5 2 3

6 5 3

7 2 5

8 3 5

9 2 6

10 3 8

• Ada 10 data pada data set.

• Dimensi data ada 2 fitur (agar mudah dalam

visualisasi koordinat kartesius).

• Fitur yang digunakan dalam pengelompokan adalah x dan y

• Jarak yang digunakan

adalah Euclidean distance.

• Jumlah cluster (K) adalah 3.

• Threshold (T) yang digunakan untuk

perubahan fungsi objektif adalah 0.1.

Contoh Kasus

1. Tentukan pusat awal cluster “Centroid”

Untuk penentuan awal diasumsikan :

Diambil data ke- 2 sebagai pusat Cluster Ke-1: (4,1)

Diambil data ke- 5 sebagai pusat Cluster Ke-2: (2,3).

Contoh Kasus

2. Perhitungan jarak pusat cluster

Untuk mengukur jarak antara data dengan pusat cluster digunakan Euclidian distance, kemudian akan didapatkan matrik jarak sebagai berikut :

Contoh Kasus

a. Perhitungan Jarak dari data ke 1 terhadap pusat cluster

Contoh Kasus

b. Perhitungan Jarak dari data ke 2 terhadap pusat cluster

Contoh Kasus

c. Perhitungan Jarak dari data ke 3 terhadap pusat cluster

Contoh Kasus

Perhitungan seterusnya sampai Jarak dari data ke 10 terhadap pusat cluster, Sehingga hasil perhitungan jarak selengkapnya adalah :

Baris Pertama Menunjukkan nilai jarak data terhadap titik pusat Cluster Pertama, Baris kedua menunjukkan nilai jarak data terhadap pusat cluster kedua.

1 2 3 4 5 6 7 8 9 10  

3,00 0,00 2,00 3,16 2,83 2,24 4,47 4,12 5,39 7,07 C1 2,24 2,83 4,47 1,41 0,00 3,00 2,00 2,24 3,00 5,10 C2

Contoh Kasus

3. Pengelompokan Data (diasumsikan G1)

1 2 3 4 5 6 7 8 9 10  

0 1 1 0 0 1 0 0 0 0 C1

1 0 0 1 1 0 1 1 1 1 C2

Contoh Kasus

4. Penentuan Pusat Cluster Baru

Karena C1 memiliki 10 anggota maka perhitungan cluster baru menjadi :

C1=

Contoh Kasus

5. Pengulangan langkah ke 2 hingga posisi data tidak mengalami perubahan

a. Perhitungan Jarak dari data ke 1 terhadap pusat cluster

Contoh Kasus

b. Perhitungan Jarak dari data ke 2 terhadap pusat cluster

Contoh Kasus

c. Perhitungan Jarak dari data ke 3 terhadap pusat cluster

Contoh Kasus

c. Perhitungan seterusnya sampai Jarak dari data ke 10 terhadap pusat cluster.

Sehingga hasil perhitungan jarak selengkapnya adalah :

1 2 3 4 5 6 7 8 9 10  

4,05 1,20 1,20 4,01 3,29 1,34 4,49 3,89 5,28 6,65 C1 3,44 3,85 5,18 2,50 1,29 3,27 4,73 1,23 1,71 3,84 C2

Contoh Kasus

6. Lakukan pengelompokan data kembali sehingga dihasilkan matrik yang

dimisalkan dengan G2.

1 2 3 4 5 6 7 8 9 10  

0 1 1 0 0 1 0 0 0 0 C1

1 0 0 1 1 0 1 1 1 1 C2

Contoh Kasus

7. Karena G1 = G2 dimana anggota yang sama, maka tidak perlu dilakukan iterasi / perulangan lagi. Dan sampai disini hasil Clustering sudah mencapai stabil dan Konvergen

8. Kesimpulan.

Hasil Clustering adalah Cluster 1 : Data 2,3,6

Cluster 2 : Data 1,4,5,7,8,9,10