5. Information Extraction and Named Entity Recognition

(1)

Information

Extraction and

Named Entity

Recognition

Information

Extraction and

Named Entity

Recognition

Tim Teaching

(2)

Information Extraction



_{Information extraction (IE) systems}

_{Menemukan dan memahami bagian}

tertentu yang relevan dalam teks yang tidak terstruktur

_{Mengumpulkan informasi dari banyak} kumpulan teks

_{Menghasilkan sebuah representasi}

informasi yang relevan dan terstruktur:

Relasi (seperti dalam database)

_{Sebuah Basis Pengetahuan}



_{Information extraction (IE) systems}

_Menemukan_dan_memahami_bagian

tertentu yang relevan dalam teks yang tidak terstruktur

_Mengumpulkan_{informasi dari banyak}

kumpulan teks

_{Menghasilkan sebuah}_representasi

informasi yang relevan dan terstruktur:

Relasi (seperti dalam database)

(3)

Information Extraction



_{Information extraction (IE) systems}

_Tujuan:

1. Membuat informasi menjadi lebih terorganisir dengan baik sehingga berguna untuk manusia

2. Informasi ditampilkan dalam sebuah format yang tepat secara semantic sehingga memungkinkan dilakukan inferensi pada tahap selanjutnya oleh algoritma komputer



_{Information extraction (IE) systems}

_Tujuan:

1. Membuat informasi menjadi lebih

terorganisir dengan baik sehingga

berguna untuk manusia

2. Informasi ditampilkan dalam sebuah format yang tepat secara semantic

sehingga memungkinkan dilakukan

(4)

Information Extraction



_{IE systems mengekstrak informasi}

yang terstruktur, jelas dan faktual dari

teks yang tidak terstruktur

 _{Singkatnya : Siapa melakukan apa ke siapa,} kapan dan di mana?



_{IE systems mengekstrak informasi}

yang terstruktur, jelas dan faktual dari

teks yang tidak terstruktur

 _{Singkatnya : Siapa melakukan apa ke siapa,}

(5)

Information Extraction

_{Tugas yang sering dilakukan pada IE:}

_{Mengidentifkasi entitas nama}

_{Mengidentifkasi relasi antar entitas}

_{Memasukkan ke database dengan format tertentu}

_{Tugas yang lain:}

_{Mengekstraksi Kejadian}

_{Membuat Template Otomatis dari informasi dalam teks} _dsb

Manfaat dan Aplikasi: natural language

understanding, question-answering, summarization, dsb.

_{Tugas yang sering dilakukan pada IE:}

_{Mengidentifkasi entitas nama}

_{Mengidentifkasi relasi antar entitas}

_{Memasukkan ke database dengan format tertentu}

_{Tugas yang lain:}

_{Mengekstraksi Kejadian}

_{Membuat Template Otomatis dari informasi dalam teks} _dsb

Manfaat dan Aplikasi: natural language

(6)

Information Extraction

(7)

Information Extraction



_Contoh,

_{Mengumpulkan data pemasukan, laba,} pimpinan, kantor dsb dari laporan

perusahaan

_{Kantor Pusat BHP Billiton Limited, dan kantor}

utama BHP Billiton Group, terletak di Melbourne, Australia.

Kantor Pusat(“BHP Biliton Limited”, “Melbourne, Australia”)

_{Mempelajari interkasi produk obat dari} literatur penelitian medis



_Contoh,

_{Mengumpulkan data pemasukan, laba,}

pimpinan, kantor dsb dari laporan perusahaan

_{Kantor Pusat BHP Billiton Limited, dan kantor}

utama BHP Billiton Group, terletak di Melbourne, Australia.

Kantor Pusat(“BHP Biliton Limited”, “Melbourne, Australia”)

_{Mempelajari interkasi produk obat dari}

(8)

Information Extraction

(9)

Low Level IE



_{Contoh Low Level IE, deteksi event}

pada Apple mail atau Gmail



_{Biasanya berbasis pada regular}

expressions and name lists



_{Contoh Low Level IE, deteksi event}

pada Apple mail atau Gmail



_{Biasanya berbasis pada regular}

(10)

Low Level IE

(11)

Why is IE hard on the

web?

Why is IE hard on the

web?

 _{Kalau manusia pasti tahu kalau ini adalah buku,}

tapi bisa jadi komputer mengenalinya sebagai Toys, karena berada di bawah menu Toys

 _{Kalau manusia pasti tahu kalau ini adalah buku,} tapi bisa jadi komputer mengenalinya sebagai Toys, karena berada di bawah menu Toys

Need this price

Title

(12)

Why is IE hard on the

web?

Why is IE hard on the

web?

 _{Judul tidak dituliskan secara eksplisit sebagai} judul, hanya dibold dan memakai besar huruf

 _{Judul tidak dituliskan secara eksplisit sebagai}

judul, hanya dibold dan memakai besar huruf A book,

(13)

Why is IE hard on the

web?

Why is IE hard on the

web?

 _{Judul tidak dituliskan secara eksplisit sebagai} judul, hanya dibold dan memakai besar huruf

 _{Judul tidak dituliskan secara eksplisit sebagai}

judul, hanya dibold dan memakai besar huruf

(14)

Why is IE hard on the

web?

Why is IE hard on the

web?

 _{Untuk harga – ada banyak harga yang ditampilkan,}

harus pilih yang mana?

 _{Untuk harga – ada banyak harga yang ditampilkan,} harus pilih yang mana?

(15)

How is IE useful?

Background:

 _{Plain text}

How is IE useful?

 _{Mengambil informasi alamat rumah di web secara}

otomatis

(17)

How is IE useful?

 _{Mengambil informasi alamat rumah di web secara}

otomatis

(18)

IE vs Information

Retrieval

IE vs Information

Retrieval

 _{Information Retrieval}

_{User Query -> Teks/dokumen yang relevan} _Pendekatan_{: keyword matching}

_{Query generality}_{: full}

 _{Information Extraction}

_{Analisis Linguistic yang ditargetkan pada informasi}

yang relevan

_{User Query -> Informasi yang relevan} _{Pendekatan: Analisis}_linguistic

_{Query generality:}_{Dibatasi pada target informasi}

 _{Information Retrieval}

_{User Query -> Teks/dokumen yang relevan} _{Pendekatan: keyword matching}

_{Query generality : full}

 _{Information Extraction}

_{Analisis Linguistic yang ditargetkan pada informasi}

yang relevan

_{User Query -> Informasi yang relevan} _{Pendekatan: Analisis linguistic}

(19)

Named Entity Recognition

(NER)

Named Entity Recognition

(NER)

 _{Named Entity Recognition (NER) adalah salah} satu Subtask yang sangat penting dalam IE : Menemukan dan Mengklasifkasi nama-nama Entitas dalam teks

 _{Nama Entitas apa saja? Tergantung pada} Aplikasinya.

 _{People, places, organizations, times, amounts, etc.}  _{Names of genes and proteins (Settles 05)}

 _{Names of college courses (McCallum 05)}

 _{Named Entity Recognition (NER) adalah salah}

satu Subtask yang sangat penting dalam IE :

Menemukan dan Mengklasifkasi nama-nama Entitas dalam teks

 _{Nama Entitas apa saja? Tergantung pada}

Aplikasinya.

 _{People, places, organizations, times, amounts, etc.}

 _{Names of genes and proteins (Settles 05)}

(20)

Named Entity Recognition

(NER)

Named Entity Recognition

(NER)

 _{NER untuk menemukan, contoh :}

 _{The decision by the independent MP Andrew Wilkie}

to withdraw his support for the minority Labor government sounded dramatic but it should not further threaten its stability. When, after the 2010 election, Wilkie, Rob Oakeshott, Tony Windsor and the Greens agreed to support Labor, they gave just two guarantees: confdence and supply.

 _{NER untuk}_menemukan_{, contoh :}

 _{The decision by the independent MP}_{Andrew Wilkie}

to withdraw his support for the minority Labor

government sounded dramatic but it should not further threaten its stability. When, after the 2010

(21)

Named Entity Recognition

(NER)

Named Entity Recognition

(NER)

 _{NER untuk menemukan dan} mengklasifkasi, contoh :

 _{The decision by the independent MP Andrew}

Wilkie to withdraw his support for the minority Labor government sounded

dramatic but it should not further threaten its stability. When, after the 2010 election,

Wilkie, Rob Oakeshott, Tony Windsor and the Greens agreed to support Labor, they gave just two guarantees: confdence and supply.  _{NER untuk}_menemukan_dan

mengklasifkasi, contoh :

 _{The decision by the independent MP}_Andrew

Wilkie to withdraw his support for the minority Labor government sounded

dramatic but it should not further threaten its stability. When, after the 2010 election,

Wilkie, Rob Oakeshott, Tony Windsor and the

Greens agreed to support Labor, they gave just two guarantees: confdence and supply.

Person

Date

(22)

Named Entity Recognition

(NER)

Named Entity Recognition

(NER)

 _Manfaat:

 _{Melakukan Indeksi Entitas dsb.}

 _{Sentiment bisa disematkan pada perusahaan atau}

produk

 _{Banyak relasi IE relations yang menjadi asosiasi}

antar entitas

 _{Untuk question answering, jawaban kebanyakan}

adalah entitas  _Manfaat:

 _{Melakukan Indeksi Entitas dsb.}

 _{Sentiment bisa disematkan pada perusahaan atau}

produk

 _{Banyak relasi IE relations yang menjadi asosiasi}

antar entitas

 _{Untuk question answering, jawaban kebanyakan}

(23)

Named Entity Recognition

(NER)

Named Entity Recognition

(NER)

_{Tiga pendekatan Standart untuk NER}

(dan IE)

1. Hand-written regular expressions 2. Using classifers

 _{Generative: Naïve Bayes}

 _{Discriminative: Maxent models}

3. Sequence models

 _HMMs

 _CMMs/MEMMs  CRFs

_{Tiga pendekatan Standart untuk NER}

(dan IE)

1. Hand-written regular expressions

2. Using classifers

 _{Generative: Naïve Bayes}

 _{Discriminative: Maxent models}

3. Sequence models

 _HMMs

(24)

Rule Based NER

Information Extraction & NER

(25)

Rule Based NER

• _{Ada 3 cara :}

–

_Menggunakan

_{regular expressions}

–

_{Membuat aturan khusus untuk urutan}

tertentu

–

_Menggunakan

_{context patterns}

• _{Ada 3 cara :}

–

_Menggunakan

_{regular expressions}

–

_{Membuat aturan khusus untuk urutan}

tertentu

–

_Menggunakan

_{context patterns}

(26)

Rule Based NER (1)

• _{Membuat regular expressions untuk}

mengekstraksi:

– Nomor Telephone – E-mail

– Nama yang diawali huruf Kapital

• _{Membuat regular expressions untuk}

mengekstraksi:

– Nomor Telephone

– E-mail

– Nama yang diawali huruf Kapital

(27)

Rule Based NER (1)

Regular expressions

menyediakan cara yang

feksibel untuk mencocokkan string pada teks.

Tidak hanya mencocokkan kata yang memiliki

karakter-karakter yang sama, tapi bisa juga

dengan menggunakan karakter, kata, atau

pola tertentu.

Regular expressions menyediakan cara yang

feksibel untuk mencocokkan string pada teks.

Tidak hanya mencocokkan kata yang memiliki

karakter-karakter yang sama, tapi bisa juga

dengan menggunakan karakter, kata, atau

pola tertentu.

(28)

Rule Based NER (1)



_{Misal, kita ingin mencari sebuah kata}

yang

1. Diawali huruf besar “P”

2. Merupakan Huruf pertama pada sebuah

baris

3. Huruf setelahnya menggunakan huruf kecil

4. Cuma terdiri dari 3 huruf

5. Huruf ketiga adalah huruf vokal



_{Misal, kita ingin mencari sebuah kata}

yang

1. Diawali huruf besar “P”

2. Merupakan Huruf pertama pada sebuah

baris

3. Huruf setelahnya menggunakan huruf kecil

4. Cuma terdiri dari 3 huruf

5. Huruf ketiga adalah huruf vokal

(29)

Rule Based NER (1)



_{Misal, kita ingin mencari sebuah kata yang :}

1. Diawali huruf besar “P”

2. Merupakan Huruf pertama pada sebuah baris 3. Huruf setelahnya menggunakan huruf kecil 4. Cuma terdiri dari 3 huruf

5. Huruf ketiga adalah huruf vokal

 _{Regular expressionnya : “}_{^P[a-z][aeiou]}_{” di mana :}

^ - Mengindikasikan awal String

[a-z] – semua huruf kecil dari a sampzi z [aeiou] – semua huruf kecil vokal



_{Misal, kita ingin mencari sebuah kata yang :}

1. Diawali huruf besar “P”

2. Merupakan Huruf pertama pada sebuah baris 3. Huruf setelahnya menggunakan huruf kecil 4. Cuma terdiri dari 3 huruf

5. Huruf ketiga adalah huruf vokal

 _{Regular expressionnya : “}_{^P[a-z][aeiou]}_{” di mana :}

^ - Mengindikasikan awal String

[a-z] – semua huruf kecil dari a sampzi z

(30)

Perl RegEx

_\w_{(word char) any alpha-numeric} \d (digit char) any digit

_{specifc range of number of occurrences: {min,max}.} A{1,5} One to fve A’s.

_A{5,}_{Five or more A’s} _A{5}_{Exactly fve A’s}

_\w_{(word char) any alpha-numeric} \d (digit char) any digit

_{specifc range of number of occurrences: {min,max}.} A{1,5} One to fve A’s.

_A{5,}_{Five or more A’s}

(31)

Rule Based NER (1)

• _{Membuat regular expressions untuk}

mengekstraksi:

– Nomor Telephone

_{Contoh : 0341-551611, 0341-565420, 0857-467-45623} _{Nomor yang dipisah dengan}_{Hypen (-)}

 _{RegEx = (\d+\-)+\d+}

• _{Membuat regular expressions untuk}

mengekstraksi:

– Nomor Telephone

_{Contoh : 0341-551611, 0341-565420, 0857-467-45623} _{Nomor yang dipisah dengan Hypen (-)}

_{RegEx = (\d+\-)+\d+}

(32)

Rule Based NER (2)

 _{Membuat aturan untuk mengkestrak}

lokasi

_{Kata yang diawali huruf besar + {city, center,}

river} menandakan lokasi Ex. New York city

Hudson river

_{{Kota, Desa, Kecamatan, Kabupaten, Kelurahan} +}

Kata yang diawali huruf besar menandakan lokasi Ex. Kota Kanor

Desa Kedung Primpen

 _{Membuat aturan untuk mengkestrak}

lokasi

_{Kata yang diawali huruf besar + {city, center,} river} menandakan lokasi

Ex. New York city

Hudson river

_{{Kota, Desa, Kecamatan, Kabupaten, Kelurahan} +} Kata yang diawali huruf besar menandakan lokasi Ex. Kota Kanor

(33)

Rule Based NER (3)

 _{Menggunakan context patterns} [PERSON] earned [MONEY]

Ex. Frank earned $20

_[_PERSON_{] joined [}_ORGANIZATION_]

Ex. Sam joined IBM

[PERSON],[JOBTITLE] Ex. Mary, the teacher

 _{Menggunakan context patterns}

[PERSON] earned [MONEY] Ex. Frank earned $20

_[_PERSON_{] joined [}_ORGANIZATION_] Ex. Sam joined IBM

[PERSON],[JOBTITLE] Ex. Mary, the teacher

(34)

Rule Based NER (3)

_[_PERSON_|_{ORGANIZATION|ANIMAL}_{] fy to [}_LOCATION_|

PERSON|EVENT]

Ex. Jerry few to Japan

Sarah fies to the party Delta fies to Europe

bird fies to trees

bee fies to the wood

_[_PERSON_|_{ORGANIZATION|ANIMAL}_{] fy to [}_LOCATION_|

PERSON|EVENT]

Ex. Jerry few to Japan

Sarah fies to the party Delta fies to Europe

bird fies to trees

bee fies to the wood

(35)

Why simple things would not

work?

Why simple things would not

work?



_{Huruf Kapital adalah indikasi yang kuat bahwa}

kata tersebut adalah sebuah nama, tapi

kadang bisa juga sangat tricky:

_{Kata pertama dari kalimat pasti diawali huruf besar} Kadang judul di website semuanya pake huruf besar

_{Ada juga yang mengandung huruf kecil}

University of Southern California adalah Organization, of diawali dengan huruf kecil

_{Pada kasus khusu, yaitu Bahasa Jerman, semua kata}

benda memakai huruf besar



_{Huruf Kapital adalah indikasi yang kuat bahwa}

kata tersebut adalah sebuah nama, tapi

kadang bisa juga sangat tricky:

_{Kata pertama dari kalimat pasti diawali huruf besar} Kadang judul di website semuanya pake huruf besar _{Ada juga yang mengandung huruf kecil}

University of Southern California adalah Organization, of diawali dengan huruf kecil

_{Pada kasus khusu, yaitu Bahasa Jerman, semua kata}

(36)

Why simple things would not

work?

Why simple things would not

work?

 _{Entitas yang sama bisa jadi memiliki beberapa} variasi

Pak Bisri prof. Bisri Bisri

 _{Ada juga ambiguitas}

Ahmad Yani orang vs. Ahmad Yani jalan

JFK the person vs. JFK the airport

May the person vs. May the month

 _{Entitas yang sama bisa jadi memiliki beberapa}

variasi

Pak Bisri prof. Bisri Bisri

 _{Ada juga ambiguitas}

Ahmad Yani orang vs. Ahmad Yani jalan

JFK the person vs. JFK the airport

(37)

Naive Bayes Based

NER

Naive Bayes Based

NER

Information Extraction & NER

(38)

Naive Bayes Based NER

• _{D1 : Santika akan pergi ke Bali bersama}

Supriadi

• _{D2 : Hotel Santika berada di Jalan Merapi}

• _{D3 : Supriadi menginap di Hotel Santika}

sebelum berangkat ke Merapi Center

• _{D4 : Jalan Merapi macet sampai Jalan}

Supriadi

• _{D1 : Santika akan pergi ke Bali bersama}

Supriadi

• _{D2 : Hotel Santika berada di Jalan Merapi}

• _{D3 : Supriadi menginap di Hotel Santika}

sebelum berangkat ke Merapi Center

• _{D4 : Jalan Merapi macet sampai Jalan}

Supriadi

(39)

Naive Bayes Based NER

• _{D1 : Santika akan pergi ke Bali bersama}

Supriadi

• _{D2 : Hotel Santika berada di Jalan Merapi}

• _{D3 : Supriadi menginap di Hotel Santika}

sebelum berangkat ke Merapi Center

• _{D4 : Jalan Merapi macet sampai Jalan}

Supriadi

• _{D1 : Santika akan pergi ke}

_Bali

_bersama

Supriadi

• _{D2 : Hotel}

_Santika

_{berada di Jalan}

_Merapi

• _{D3 : Supriadi menginap di Hotel}

_Santika

sebelum berangkat ke

Merapi

Center

• _{D4 : Jalan}

_Merapi

_{macet sampai Jalan}

Supriadi

(40)

Naive Bayes Based NER

• _{Nama Person : Santika, Supriadi,}

Supriadi

• _{Nama Organisasi : Santika, Santika,}

Merapi

• _{Nama Lokasi : Merapi, Merapi, Bali,}

Supriadi

• _{Nama Person :}

_{Santika, Supriadi,}

Supriadi

• _{Nama Organisasi :}

_{Santika, Santika,}

Merapi

• _{Nama Lokasi :}

_{Merapi, Merapi, Bali,}

Supriadi

(41)

Naive Bayes Based NER

• _{D5 : Supriadi akan menginap di Hotel}

Santika

• _{D5 : Supriadi akan menginap di Hotel}

Santika

(42)

Multinomial Naive Bayes

• _{Nama Person (P) : Santika, Supriadi, Supriadi} • _{Nama Organisasi (O) : Santika, Santika, Merapi} • _{Nama Lokasi (L) : Merapi, Merapi, Bali, Supriadi} • _{D5 : Supriadi akan menginap di Hotel Santika}

• _{Nama Person (P) :}_{Santika, Supriadi, Supriadi} • _{Nama Organisasi (O) :}_{Santika, Santika, Merapi} • _{Nama Lokasi (L) :}_{Merapi, Merapi, Bali, Supriadi} • _{D5 : Supriadi akan menginap di Hotel Santika}

(43)

Multinomial Naive Bayes

• _{W adalah kata}

• _{C adalah kategori}

• _{P(c I w) : Peluang kategori c dengan syarat muncul}

kata w

• _{P(c) : Peluang munculnya kategori c} • _{P(w) : Peluang munculnya kata w}

• _{W adalah kata}

• _{C adalah kategori}

• _{P(c I w) : Peluang kategori c dengan syarat muncul}

kata w

• _{P(c) : Peluang munculnya kategori c}

• _{P(w) : Peluang munculnya kata w} 43

(44)

Multinomial Naive Bayes

• _{Karena nilai P(w) selalu sama, bisa juga dituliskan}

menjadi cukup :

P(w | c)* P(c)

• _{Karena nilai P(w) selalu sama, bisa juga dituliskan}

menjadi cukup :

P(w | c)* P(c)

(45)

Multinomial Naive Bayes

Untuk menghindari adanya nilai 0 (nol), digunakan

add-one or Laplace smoothing

Untuk menghindari adanya nilai 0 (nol), digunakan

add-one or Laplace smoothing

45

�

(

�

∨

�

)

=

��

(

�

,

�

)

��

(

�

)

�

(

�

∨

�

)

=

_{��}

��

(

�

,

�

)

+

1 (

�

)

+

¿

�

∨

¿ ¿

(46)

Multinomial Naive Bayes

• P(w|c) : Peluang munculnya kata w dengan syarat muncul kategori c

• _{P(c) : Peluang kemunculan kategori c}

• Count(w,c) : jumlah kata w pada kategori c

• Count (c) : jumlah seluruh kata pada kategori c

• |V| : jumlah kata-kata yang unik dalam seluruh dokumen

• P(w|c) : Peluang munculnya kata w dengan syarat muncul kategori c

• _{P(c) : Peluang kemunculan kategori c}

• Count(w,c) : jumlah kata w pada kategori c

• Count (c) : jumlah seluruh kata pada kategori c

• |V| : jumlah kata-kata yang unik dalam seluruh dokumen46

�

(

�

∨

�

)

=

_{��}

��

(

�

,

�

)

+

1 (

�

)

+

¿

�

∨

¿ ¿

(47)

Multinomial Naive Bayes

• Nama Person (P) : Santika, Supriadi, Supriadi

• Nama Organisasi (O) : Santika, Santika, Merapi

• Nama Lokasi (L) : Merapi, Merapi, Bali, Supriadi

• D5 : Supriadi akan menginap di Hotel Santika

• _P(P)=1/3, _P(O)=1/3, _{P(L) = 1/3} • _{P(Supriadi | P) = (2)+1/(3+4) = 3/7}

• _{P(Supriadi | O) = (0)+1/(3+4) = 1/7} • _{P(Supriadi | L) = (1)+1/(4+4) = 2/8}

(48)

Multinomial Naive Bayes

• _P(P)=1/3, _{P(O)=1/3, P(L) = 1/3}

(49)

Multinomial Naive Bayes

Terbukti bahwa P(Supriadi) tidak perlu dihitung untuk mencari kelas yang memiliki peluang terbesar.

Sehingga cukup memakai rumus

Terbukti bahwa P(Supriadi) tidak perlu dihitung untuk mencari kelas yang memiliki peluang terbesar.

Sehingga cukup memakai rumus

49

(50)

Multinomial Naive Bayes

Karena kelas P memiliki peluang terbesar, maka Supriadi masuk ke Entitas Nama Person (P)

Karena kelas P memiliki peluang terbesar, maka

Supriadi masuk ke Entitas Nama Person (P) ₅₀

(51)

Multinomial Naive Bayes

• _{P(akan | P) = (0)+1/(3+4) = 1/7} • _{P(akan | O) = (0)+1/(3+4) = 1/7} • _{P(akan | L) = (0)+1/(4+4) = 1/8}

• D5 : Supriadi akan menginap di Hotel Santika • _{P(akan | P) = (0)+1/(3+4) = 1/7} • _{P(akan | O) = (0)+1/(3+4) = 1/7} • _{P(akan | L) = (0)+1/(4+4) = 1/8}

(52)

Multinomial Naive Bayes

• _{P(P | akan) = P(akan | P) * P(P) = 1/7 *1/3 = 1/21} • _{P(O | akan) = P(akan | O) * P(O) = 1/7 *1/3 = 1/21} • _{P(L | akan) = P(akan | L) * P(L) = 1/8 *1/3 = 1/24} • _{Maka kata}_akan _masuk_{ke Entitas Person atau}

Organisasi

• _{P(P | akan) = P(akan | P) * P(P) = 1/7 *1/3 = 1/21} • _{P(O | akan) = P(akan | O) * P(O) = 1/7 *1/3 = 1/21} • _{P(L | akan) = P(akan | L) * P(L) = 1/8 *1/3 = 1/24} • _{Maka kata}_akan _masuk_{ke Entitas Person atau}

Organisasi

(53)

Multinomial Naive Bayes

• _{P(Santika | P) = (1)+1/(3+4) = 2/7} • _{P(Santika | O) = (2)+1/(3+4) = 3/7} • _{P(Santika | L) = (0)+1/(4+4) = 1/8}

• D5 : Supriadi akan menginap di Hotel Santika • _{P(Santika | P) = (1)+1/(3+4) = 2/7} • _{P(Santika | O) = (2)+1/(3+4) = 3/7} • _{P(Santika | L) = (0)+1/(4+4) = 1/8}

(54)

Multinomial Naive Bayes

• _{P(P | Santika) = P(Santika | P)*P(P) = 2/7 * 1/3 =}

• _Maka_Santika_{masuk ke Entitas Nama Organisasi (O)}

• _{P(P | Santika) = P(Santika | P)*P(P) = 2/7 * 1/3 =}