Laporan Pola Decision Tree

(1)

PENGENALAN POLA

Decision Tree

Oleh :

Ni Made Krista Kurnia Dewi

12080!0"#

P$OG$AM %T&D' TEKN'K 'N(O$MAT'KA

)&$&%AN 'LM& KOMP&TE$

(AK&LTA% MATEMAT'KA DAN 'LM& PENGETA*&AN ALAM

&N'+E

&N'+E$%'TA% &

$%'TA% &DA,

DA,ANA

ANA

201!

%eca

%ecara ra u-uu-u- - al.oal.orit-a /"! rit-a /"! untuuntu  -e--e-an.uan.un n 3oho3ohon n e3ue3utusatusan n adalaadalah h sesea.aia.ai eriut :

eriut : a

a PiPililih ath atririuut set seaa.a.ai aai aarr

Pe-ilihan atriut sea.ai aar didasaran 3ada nilai .ain terhi.h dari atriut4 Pe-ilihan atriut sea.ai aar didasaran 3ada nilai .ain terhi.h dari atriut4 atriut 5an. ada

atriut 5an. ada 

 6uat 6uat caacaan. n. untuuntu -a -asin.sin.4-as4-asin. in. nilainilai c

(2)

d &lan.i 3roses untu -asin.4-asin. caan. sa-3ai se-ua asus 3ada caan. -e-ilii elas 5an. sa-a

/ontoh :

Dala- asus 5an. tertera 3da tale aan diuat 3ohon e3utusan untu -enentua -ain tenis atau tida den.an -elihat eadaan cuaca 7outloo9 suhu 7te-3erature9 ele-a3an 7hu-idit59 dan eadaan an.in 7wind5

1 Men.hitun. u-lah asus9 u-lah asus untu e3utusan ,es9 u-lah asus untu e3utusan No dan Entro35 dari se-ua asus dan asus 5an. dia.i erdasaran atriut Outloo9 Te-3erature9 *u-idit5 dan ;ind5 %etelah itu lauan 3en.hitun.an Gain untu -asin. -asin. atriut

• *itun. entro3i den.an ru-us :

Keteran.an :

% : *i-3unan 7dataset asus9 di-ana olesi % terdiri dari contoh 3ositi< dan ne.ati<

P7= : 3ro3orsi dari contoh 3ositi< dala- %

(3)

)adi Entro3i total adalah : Entropi

(

S

)

=

(

−

(

10 14

)

× log2

(

10 14

)

+

(

−

(

4 14

)

× log2

(

4 14

)

=

0.863120569

Ke-udian lauan analisis 3ada setia3 atriut dan nilai4nilain5a dan hitun. nilai entro3in5a

%elain itu ita u.a -en.hitun. .ain setia3 atriut den.an ru-us :

¿

Si

∨ ¿

¿

S

∨¿

× Entropi

(

Si

)

¿

Gain

(

S , A

)

=

Entropi

(

S

)

−

∑

i=1 k

¿

Keteran.an : % :hi-3unan 7dataset asus A :atriut  :u-lah 3artisi atriut A ?%i? :u-lah asus

3ada 3artisi e i

?%? :u-lah asus

dala- %

Maa 3erhitun.an entro3i dan .ain untu setia3 atriutn5a adalah sea.ai eriut :

a O&TLOOK

-

)u-lah sunn5 untu e3utusan @5es er-ain tenis B

2 5

-

)u-lah sunn5 untu e3utusan @no tida er-ain tenis B

3 5 Sunny , Entropy

(

S

)

=−

2 5 log2 2 5

−

3 5 log2 3 5

=

(

−

2 5

∗−

1,32

)

−

(

3 5

∗−

0,73

)

=

0,528

+

0,438

-

)u-lah cloud5 untu e3utusan @5es er-ain tenis B

4 4

(4)

-

)u-lah cloud5 untu e3utusan @no tida er-ain tenis B 0 4 Cloudy , En tropy

(

S

)

=

−

4 4 log2 4 4

−

0 4 log2 4 4

=

0

+

0

=

0

-

)u-lah rain5 untu e3utusan @5es er-ain tenis B

4 5

-

)u-lah rain5 untu e3utusan @no tida er-ain tenis B

1 5 Rainy , Entropy

(

S

)

=−

4 5 log2 4 5

−

1 5 log2 1 5

=

(

−

4 5

∗−

0,32

)

−

(

1 5

∗−

2,32

)

=

0,256

+

0,

&ntu total .ain dari outloo adalah :

Gain

(

Outlook

)

=

0.863120569

−

(

4 14

)

×0

+

(

5 14

)

× 0.721928095

+

(

5 14

)

× 0.970950594

)

=

0.25  *&M'D'T,

4 )u-lah hi.h untu e3utusan @5es er-ain tenis B 3 7

4 )u-lah hi.h untu e3utusan @no tida er-ain tennis B

4 7 High , Entropy

(

S

)

=

−

3 7 log2 3 7

−

4 7 log2 4 7

=

(

−

0,43

∗

1,22

)

−

(

0,57

∗−

0,80

)

=

0,99

4 )u-lah nor-al untu e3utusan @5es er-ain tenis B 7 7 4 )u-lah nor-al untu e3utusan @no tida er-ain tennis B

0 7 Normal , Entropy

(

S

)

=

−

7 7 log2 7 7

−

0 7 log2 0 7

=

0

+

0

=

0

(5)

&ntu total .ain dari hu-idit5 adalah : Gain

(

Humidity

)

=

0.863120569

−

(

7 14

)

×0.985228136

+

(

7 14

)

×0

)

=

0.370506501 c ;'ND

4 )u-lah <alse untu e3utusan @5es er-ain tenis B

6 8

4 )u-lah <alse untu e3utusan @no tida er-ain tennis B 2 8 False, Entropy

(

S

)

=−

6 8 log2 6 8

−

2 8 log2 2 8

=(−

0,75

∗

0,415

)−(

0,25

∗−

2

)=

0,81

4 )u-lah true untu e3utusan @5es er-ain tenis B

4 6

4 )u-lah true untu e3utusan @no tida er-ain tennis B 2 6 True, Entropy

(

S

)

=

−

2 6 log2 2 6

−

4 6 log2 4 6

=(−

0,3

∗

1,584

)−(

0,67

∗−

0,585

)=

0,918

Maa .ain total dari ;ind adalah :

Gain

(

Wind

)

=

0.863120569

−

(

8

14

)

× 0.811278124

+

(

6

14

)

×0.918295834

)

=

0.005977711

d TEMPE$AT&$E

4 )u-lah hot untu e3utusan @5es er-ain tenis B 2 4

4 )u-lah hot untu e3utusan @no tida er-ain tennis B

2 4 Hot , Entropy

(

S

)

=−

2 4 log2 2 4

−

2 4 log2 2 4

=

(

−

0,5

∗−

1

)

−

(

0,5

∗−

1

)

=

1

4 )u-lah -ild untu e3utusan @5es er-ain tenis B

4 6

4 )u-lah -ild untu e3utusan @no tida er-ain tennis B 2 6

(6)

ild , Entropy

(

S

)

=

−

4 6 log2 4 6

−

2 6 log2 2 6

=

(

−

0,67

∗−

0,584

)

−

(

0,33

∗−

1,584

)

=

0,

4 )u-lah cool untu e3utusan @5es er-ain tenis B 4 4

4 )u-lah cool untu e3utusan @no tida er-ain tennis B

0 4 Cool , Entropy

(

S

)

=−

4 4 log2 4 4

−

0 4 log2 0 4

=

0

Maa untu .ain total dari te-3erature

Gain

(

Temperature

)

=

0.863120569

−

(

4 14

)

× 0

+

(

4 14

)

× 1

+

(

6 14

)

× 0.918295834

)

=

0.18385092 6eriut ini dita-3ilan dala- entu tale :

Nod e Atribu t Nilai Sum(Ni lai) Sum( YES) Sum(No ) Entropi Gain 1 Outloo k Cloudy 4 4 0 0 Rainy 5 4 1 0!"1# "$0#5 Sunny 5 " % 0#!0# 505#4 0"$ 5"10 %! &empe rature Cool 4 4 0 0 'ot 4 " " 1 ild  4 " 0#1$" #5$%4 01$ %$0# "5 'umid ity 'i*+ ! % 4 0#$5" "$1% Norma l ! ! 0 0 0%! 050 501 ,indy -al.e $  " 0$11" !$1"4 &rue  " 4 0#1$" #5$%4 000 5#!!

(7)

!11

Karena nilai .ain teresar adalah .ain 7hu-idit59 -aa hu-idit5 -enadi node aar 7root node Terda3at 2 nilai atriut *u-idit5 5aitu *i.h dan Nor-al Dari edua nilai atriut terseut9 nilai atriut Nor-al sudah -en.lasi<iasian asus -enadi 1 5aitu e3utusann5a ,es9 den.an de-iian hu-idit5 nor-al -enadi daun atau lea< %ehin..a tida 3erlu la.i dilauan 3erhitun.an leih lanut Teta3i untu nilai atriut *i.h -asih 3erlu dilauan 3erhitun.an la.i

Pohon e3utusan 5an. terentu 3ada taha3 ini adalah sea.ai eiut :

2 6erdasaran 3e-entuan 3ohon e3utusan node 1 7root node9 node 11 aan dianalisis leih lanut &ntu -e-3er-udah -aa 3ada tale awal aan dia-il data 5an. -e-ilii hu-idit5 B hi.h

no Outloo te-3erat ure

Kele-aa3 an

;ind5 Main

1 %unn5 *ot *i.h (alse No

2 %unn5 *ot *i.h True No

C /loud5 *ot *i.h (alse ,es

" $ain5 Mild *i.h (alse ,es

! %unn5 Mild *i.h (alse No

 /loud5 Mild *i.h True ,es

 $ain5 Mild *i.h True No

Ke-udian aan dianalisis la.i entro3i dan .ain dari atriut hu-idit5 hi.h a *u-idit5  *i.h

(8)

-

)u-lah @5es B 3 7

-

)u-lah @no B 4 7 Entropi

(

Humidity

)

=

(

−

(

3 7

)

× log2

(

3 7

)

+

(

−

(

4 7

)

× log2

(

4 7

)

=

0.985228136  Outloo

- Sunny , Entropy

(

S

)

=

−

0 3 log2 0 3

−

3 3log2 3 3

=

0

- Cloudy , Entropy

(

S

)

=

−

2 2 log2 2 2

−

0 2log2 0 2

=

0

-0,5

∗−

1 Rainy , Entropy

(

S

)

=−

1 2 log2 1 2

−

1 2 log2 1 2

=(−

0,5

∗−

1

)−¿

 B 1

-Gain

(

S,Outlook

)

=

0,9852

−

(

3 7

∗

0

)

+

(

2 7

∗

0

)

+

(

2 7

∗

1

)

=

0,9852

−

0,2857

=

0,6995 c ;ind

- False, Entropy

(

S

)

=−

2 4 log2 2 4

−

2 4 log2 2 4

=

(

−

0,5

∗−

1

)

−

(

0,5

∗−

1

)

=

1

-True, Entropy

(

S

)

=

−

2 3 log2 2 3

−

1 3 log2 1 3

=

(

−

0,67

∗−

0,5849

)

−

(

0,333

∗−

1,5849

)

=

0,3918

-Gain

(

S,Wind

)

=

0,9852

−

(

4 7

∗

1

)

+

(

3 7

∗

0,919

)

=

0,9852

−

(

0,5714

+

0,3938

)

=

0,9852

−

0,96 d Te-3erature

(9)

- Hot , Entropy

(

S

)

=

−

1 3 log2 1 3

−

2 3log2 2 3

=

(

−

0,33

∗−

1,584

)

−

(

0,667

∗−

0,5849

)

=

0,5227

+

- ild , Entropy

(

S

)

=

−

2 4 log2 2 4

−

2 4 log2 2 3

=

(

−

0,5

∗−

1

)

−

(

0,5

∗−

1

)

=

1

- Cool , Entropy

(

S

)

=−

0 0 log2 0 0

−

0 0 log2 0 0

=

0

-Gain

(

S , Temperature

)

=

0,9852

−

(

3 7

∗

0,918

)

+

(

4 7

∗

1

)

+

(

0 7

∗

0

)

=

0,9852

−

(

0,3934

+

0,571

+

%ehin..a dida3at hasil se3erti 3ada tale diawah ini :

node atriut nilai %u-7> ar %u-7,a %u-7Ti d Entro3i Gain 11 Outloo cloud5 2 2 0 0 rain5 2 1 1 1 sunn5 C 0 C 0 0## !1C8 ! Te-3er ature cool 0 0 0 0 hot C 1 2 0#182# !8C" -ild " 2 2 1 0020 2""2 0 ;ind5 (alse " 2 2 1 True C 2 1 0#182# !8C" 0020 2""2 0

6erdasaran hasil terseut9 .ain terhi.h adalah atriut Outloo Maa atriut Outloo da3at -enadi node caan. dari atriut hu-idit5 hi.h Terda3at C nilai atriut dari Outloo 5aitu cloud59 rain59 dan sunn5 Dari eti.a nilai atriut terseut nilai atriut cloud5 sudah -en.lasi<iasian asus -enadi 1 5aitu e3utusan ,es dan nilai atriut sunn5 sudah -en.lasi<iasian asus -enadi satu den.an e3utusan No %ehin..a

(10)

tida 3erlu dilauan 3erhitun.an leih lanut9 teta3i untu nilai atriut rain5 -asih 3erlu dilauan 3erhitun.an la.i

Pohon e3utusan 5an. terentu sa-3ai saat ini adalah sea.ai eriut :

C Men.hitun. u-lah asus9 u-lah asus untu e3utusan ,es9 u-lah asus untu e3utusan No9 dan entro3i dari se-ua asus dan asus 5an. dia.i erdasaran atriut Te-3erature dan ;ind5 5an. da3at -enadi node caan. dari nilai atriut $ain5 %etelah itu lauan 3erhitun.an .ain untu -asin.4 -asin. atriut

No Outloo Te-3erature *u-idit5 ;ind5 Main

1 $ain5 Mild *i.h (alse ,es

2 $ain5 Mild *i.h True No

a *u-idit5  *i.h 9 Outloo  $ain5 Entropy

(

Total

)

=−

1 2 log2 1 2

−

1 2 log2 1 2

=

(

−

0,5

∗−

1

)

−

(

0,5

∗−

0,1

)

=

0,5

+

0,5

=

1  ;ind

-

False, Entropy

(

S

)

=

−

1 1 log2 1 1

−

0 1 log2 0 1

=

0

(11)

-

True, Entropy

(

S

)

=

−

0 1 log2 0 1

−

1 1log2 1 1

=

0

-

Gain

(

S,Wind

)

=

1

−

(

1 2

∗

0

)

+

(

1 2

∗

0

)

=

1 c Te-3erature

- Hot , Entropy

(

S

)

=−

0 0 log2 0 0

−

0 0 log2 0 0

=

0

-

ild , Entropy

(

S

)

=−

1 2 log2 1 2

−

1 2 log2 1 2

=

(

−

0,5

∗−

1

)

−

(

0,5

∗−

1

)

=

1

- Cool , Entropy

(

S

)

=

−

0 0 log2 0 0

−

0 0 log2 0 0

=

0

- Gain

(

S , Temperature

)

=

1

−

(

0 2

∗

0

)

+

(

2 2

∗

1

)

+

(

0 2

∗

0

)

=

1

−

1

=

0

node Atriut Nilai %u-7+a r %u-75es  %u-7tid  Entro3i Gain

*u-idit5 *i.h F $ain5 2 1 1 1 112 Te-3erat ure /ool 0 0 0 0 *ot 0 0 0 0 Mild 2 1 1 1 0 ;ind5 (alse 1 1 0 0 True 1 0 1 0 1

6erdasaran hasil terseut dietahui ahwa atriut 5an. -e-ilii .ain terhi.h adalah ;ind5 5aitu seesar 1 Den.an de-iian ;ind5 da3at -enadi node caan. dari nilai $ain5 Terda3at 2 nilai atriut dari ;ind5 5aitu (alse dan True Dari edua nilai atriut terseut9 nilai atriut (alse sudah -en.lasi<iasian asus -enadi 1 5aitu e3utusann5a ,es dan nilai atriut No -en.lasi<iasian asus -enadi 1 5aitu e3utusann5a No %ehin..a tida 3erlu la.i dilauan 3erhitun.an leih lanut untu atriut ini

(12)

Pohon e3utusan 5an. terentu sa-3ai 3ada taha3 ini adalah sea.ai eriut :

Den.an -e-3erhatian 3ohon e3utusan diatas9 dietahui ahwa se-ua asus sudah -asu edala- elas Den.an de-iian9 3ohon e3utusan terseut -eru3aan 3ohon e3utusan terahir 5an. terentu

Kesi-3ulan :

*u-idit5 4*i.h9 Outloo4$ain59 ;ind54<alse B Pla5in. tennis

(13)