BAB III MODEL HIDDEN MARKOV KONTINU DENGAN PROSES OBSERVASI ZERO DELAY

(1)

OBSERVASI ZERO DELAY

3.1 State dan Proses Observasi

Semua proses didefinisikan pada ruang peluang Ω, , . Misalkan

; adalah rantai Markov dengan state berhingga yang bersifat

homogen dan diasumsikan tidak diamati secara langsung, sedangkan

; adalah proses observasinya. Pasangan proses stokastik , merupakan model Hidden Markov.

Ruang state dari X adalah , , … , dengan 0, … ,0,1,0, … ,0 , yaitu himpunan vektor satuan di , di mana hanya elemen ke-i yang bernilai 1 dan lainnya 0.

Misalkan ; adalah filtrasi lengkap yang dibangkitkan oleh X dan ; adalah filtrasi lengkap yang dibangkitkan oleh Y sedangkan

; adalah filtrasi lengkap yang dibangkitkan oleh X dan Y.

Karena X merupakan rantai Markov homogen, maka berdasarkan sifat rantai Markov berlaku

, , … , .

Lema 3.1.1 (Elliot et al. 1995)

, .

Bukti:

Karena , 1, untuk 0, untuk ,

(2)

maka

, ,

. ■

Jika , maka vektor , , … , merupakan nilai harapan

dari X, yaitu dan untuk X yang ergodic memenuhi dan

∑ 1 .

Misalkan merupakan peluang transisi dan

adalah matriks peluang transisi yang memenuhi ∑ 1, maka .

Bukti:

Misalkan maka

│ │

, , … , . Sehingga dapat ditulis

.

Jadi

, , … ,

. ■

(3)

Definisikan

, (3.1)

dengan

dan

, , … ,

0.

Sehingga dapat diperoleh suatu persamaan state

. (3.2)

Proses state X tidak diamati secara langsung namun terdapat proses observasi Y yang bernilai skalar dan kontinu pada suatu selang, yaitu:

(3.3)

yang disebut juga sebagai proses observasi zero delay, di mana adalah barisan peubah acak yang bebas stokastik identik menyebar normal dengan rataan nol dan ragam satu N(0,1), dan bebas stokastik. Karena maka c dan didefinisikan sebagai vektor , , … , dan , , … ,

pada serta , dan , di mana , merupakan

perkalian dalam pada dengan 0 untuk 1 .

Jadi, model hidden Markov yang dibahas pada karya ilmiah ini berbentuk:

. (3.4)

(4)

3.2 Nilai Harapan Bersyarat

Misalkan | merupakan nilai harapan bersyarat dari jika

diketahui dan

√ exp merupakan fungsi kepekatan peluang 0, . Akan ditentukan nilai harapan bersyarat jika diketahui .

Lema 3.2.1

, | .

Bukti:

, | ,

,

| . ■

Berdasar Lemma 3.1.1 diperoleh

| , | .

Akibatnya

, | , , | | .

Fungsi sebaran bersyarat dari jika diketahui dengan adalah

| , |

(5)

| , | .

Karena ; merupakan barisan peubah acak yang bersifat bebas stokastik identik, maka bebas terhadap akibatnya juga bebas terhadap

dan .

Sehingga diperoleh

| |

|

,

, .

Jadi fungsi kepekatan bersyarat dari jika diketahui adalah

, .

Adapun fungsi sebaran bersama dari dan jika diketahui adalah

, | , |

| | ,

, ,

(6)

, .

Sehingga diperoleh fungsi kepekatan bersama dari dan jika diketahui adalah

, .

Dengan menggunakan aturan Bayes diperoleh

, | |

| , , |

| ,

∑ , .

Teorema 3.2.2

| ∑ ,

∑ ,

.

(3.5)

Bukti:

Misal adalah filtrasi lengkap yang dibangkitkan oleh proses observasi

dengan , maka

| |

| | .

Karena bersifat bebas stokastik identik maka

| , | 0.

Sehingga diperoleh

| |

| | ,

(7)

| , | 0.

Akibatnya

| | 0

| , dengan

| |

|

| ,

, |

∑ ,

∑ , .

Sehingga

| ∑ ,

∑ ,

∑ , .

Jadi,

| ∑ ,

∑ , .

merupakan nilai harapan bersyarat jika diketahui . Pada persamaan (3.5), adalah tak linear terhadap . Sehingga untuk

(8)

memudahkan dalam perhitungan secara matematik dilakukan perubahan ukuran peluang.

3.3 Perubahan Ukuran

Perubahan ukuran peluang diperoleh dengan mengubah ukuran peluang asal menjadi peluang baru. Dari ukuran peluang baru akan diinterpretasikan kembali ke dalam peluang asal. Perubahan ukuran ini dibatasi oleh turunan Radon- Nikodym.

Teorema 3.3.1 Teorema Bersyarat Bayes (Elliot et al. 1995)

Misalkan Ω, , merupakan ruang peluang dan adalah sub-medan dari . Misalkan adalah ukuran peluang lain yang kontinu absolut terhadap P dengan turunan Radon-Nikodymnya

.

Jika adalah peubah acak terintegralkan dan terukur- maka berlaku | ^|

| .

Bukti:

Menurut definisi 2.1.28 harus ditunjukkan:

|

| terukur- dan | _|^| , .

Karena | merupakan nilai harapan dari dengan syarat maka

merupakan pembagian dari dua nilai harapan yang terukur- maka _|^| terukur- .

Definisikan:

|

| , untuk | 0

0 , untuk | 0 .

(9)

Maka | . Jadi terukur- .

Akan ditunjukkan:

| , .

Definisikan : | 0 , sehingga . Maka dari definisi 2.1.28

| 0 dan 0. Berakibat P(G) = 0 atau = 0 hampir

pasti di G. Selanjutnya : | 0 . Misal , maka di

mana dan , sehingga

|

3.6

Fungsi = 0 hampir pasti pada , maka

0 .

Selanjutnya

|

(10)

|

| |

.

Sehingga

.

Akibatnya persamaan (3.6) menjadi

|

.

Jadi,

| |

| , .

Jika adalah barisan peubah acak yang terintegralkan, maka

| .

Bukti: serupa dengan bukti Teorema 3.3.1.

(11)

Di bawah ukuran P:

- X merupakan rantai Markov yang homogen dan memenuhi

- , di mana adalah barisan peubah

acak bersifat bebas stokastik identik menyebar N(0,1). merupakan peubah acak yang bergantung pada dengan fungsi kepekatan peluang dari adalah

1

√2 exp 1

2

t c

σ .

Akan dikontruksi ukuran peluang baru yang kontinu absolut terhadap P dengan turunan Radon-Nikodymnya

,

sehingga di bawah :

- Y merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1).

Berarti harus dikontruksi

,

sehingga di bawah :

Misalkan adalah fungsi kepekatan peluang N(0,1) maka

(12)

1

. 3.7

Karena adalah fungsi kepekatan peluang N(0,1) maka

. 3.8

Dari persamaan (3.7) dan (3.8) diperoleh

.

Misalkan

,

, 1, dan ∏ , 1.

Definisikan ukuran peluang baru dengan batasan turunan Radon-Nikodym

terhadap yaitu .

Lema 3.3.3

Di bawah ukuran , merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1).

Bukti:

| |

dengan menggunakan Lema 3.3.2, diperoleh

| |

|

· |

|

(13)

|

| .

Sedangkan

|

,

1.

Sehingga

| |

,

.

Jadi, di bawah ukuran , merupakan barisan peubah acak bersifat bebas

stokastik identik menyebar N(0,1). ■

Di bawah ukuran :

, di mana 0.

(14)

Jadi harus dikontruksi kembali ukuran peluang P yang kontinu absolut terhadap dengan turunan Radon-Nikodymnya , sehingga di bawah P:

- X merupakan rantai Markov yang homogen

acak bersifat bebas stokastik identik menyebar N(0,1).

Jadi harus dikontruksi , sehingga di bawah P:

- X merupakan rantai Markov yang homogen

acak bersifat bebas stokastik identik menyebar N(0,1).

Misalkan adalah fungsi kepekatan peluang N(0,1) maka

. 3.9

Karena adalah fungsi kepekatan peluang N(0,1) maka

. 3.10

Dari persamaan (3.9) dan (3.10) diperoleh . Misalkan

, , , 1, dan ∏ , 1.

(15)

Definisikan ukuran peluang P dengan batasan turunan Radon-Nikodym terhadap yaitu

.

Syarat yang harus dipenuhi adalah , 0.

Lema 3.3.4

Di bawah P, ; merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1).

Bukti:

| | .

Dengan menggunakan Lema 3.3.2, diperoleh

| |

|

· |

|

.

Sedangkan

,

, ,

1.

Sehingga

| |

(16)

,

, ,

.

Jadi di bawah P, merupakan barisan peubah acak bersifat bebas stokastik

identik menyebar N(0,1) ■

3.4 Pendugaan Rekursif

Pendugaan rekursif diperlukan untuk menduga parameter baru. Pendugaan rekursif meliputi pendugaan untuk state, banyaknya lompatan, lamanya waktu kejadian dan proses observasi.

Notasi 3.4.1 (Elliot et al. 1995)

Jika ; , merupakan sebarang barisan adapted terhadap . Notasikan unnormalized conditional expectation dari jika diketahui sebagai

| .

Dengan menggunakan Lema 3.3.2, maka

| |

| 1 ,

dengan nilai awal .

Jika 1 1,1, … ,1 , maka , 1 ∑ , 1.

Akibatnya

, 1 | , 1

, 1

(17)

, 1 , 1 , 1 .

Jadi jika pendugaan unnormalized diketahui, maka pendugaan untuk diperoleh dengan menjumlahkan semua komponen .

Untuk 1, maka persamaan di atas menjadi

1 , 1

, 1 | .

Notasi 3.4.2 Notasikan

·

· .

Misalkan diag(z) adalah matriks diagonal dengan vektor z pada diagonalnya, maka

diag diag diag

, dan

diag diag .

Bukti:

(18)

.

Sehingga diperoleh

diag diag

diag diag diag ,

dan karena | 0, maka

diag diag diag

diag diag .

Notasi 3.4.4 (Elliot et al. 1995)

Untuk sebarang proses ; , yang adapted- , notasikan

, | .

Teorema 3.4.5

Misalkan proses ; adalah adapted- yang berbentuk:

- merupakan terukur

- , , 1 di mana

, f fungsi bernilai skalar dan , ,

adalah proses predictable- , , bernilai skalar dan merupakan vektor berdimensi N.

Maka

,

∑_, ,

, ,

(19)

diag , ,

di mana , dan , .

Bukti: Lihat lampiran 2.

3.4.1 Penduga untuk State

Dengan menggunakan Teorema 3.4.5 dan memilih 1, 0,

0,1, … maka penduga untuk state adalah ,

,

.

Dapat juga ditulis dalam bentuk pendugaan rekursif untuk unnormalized conditional expectation dari , jika diketahui , yaitu

, | , 1, bentuk ini disebut unnormalized smoother.

Dengan memilih , , , 0, maka

dari Teorema 3.4.5 diperoleh

, , , ,

,

_, , ,

,

.

3.4.2 Penduga Banyaknya Lompatan

Jika rantai Markov berpindah dari state pada waktu k ke state pada waktu

1, 1 , , maka , , 1.

Misalkan adalah banyaknya lompatan dari ke sampai waktu ke- 1 , maka

, ,

(20)

, , , ,

, ,

, , ,

, , , .

Menurut Teorema 3.4.5 dengan , 0, , ,

, , 0, maka penduga untuk banyaknya lompatan adalah:

, ,

,

, ,

diag , ,

,

, ,

diag , , . 3.11

Suku kedua sebelah kanan persamaan (3.11) adalah:

, ,

(21)

, ,

, . 3.12

Suku ketiga sebelah kanan persamaan (3.11) adalah:

diag , ,

diag ,

diag , .

Karena diag , maka diperoleh

diag , ,

,

, . 3.13

(22)

Dari persamaan (3.12) dan (3.13), maka persamaan (3.11) diperoleh

, ,

,

, ,

,

, .

Karena , , , maka

, , ,

,

, .

Bentuk unnormalized smoother untuk jika diketahui adalah

| , 1.

Dengan memilih , , 0, maka dari

Teorema 3.4.5 diperoleh

, , ,

,

.

3.4.3 Penduga untuk Waktu Kejadian

Misalkan adalah lamanya X berada di state sampai waktu ke-k, maka

, , .

(23)

Menurut Teorema 3.4.5 dengan , 0, , , 0, 0, maka penduga untuk lamanya waktu kejadian adalah:

, ,

,

, ,

_, ,

,

, ,

_, ,

,

, .

Karena , , , maka

, , ,

,

, .

| . Dengan memilih , , 0,

maka berdasarkan Teorema 3.4.5 diperoleh

, , ,

,

.

3.4.4 Penduga untuk Proses Observasi

Untuk menduga ulang vektor varian dan vektor drift c pada proses observasi

, , , maka ditentukan penduga untuk proses

observasi dalam bentuk

(24)

, , 1 ,

di mana atau .

Dengan menggunakan Teorema 3.4.5 dan nilai , 0,

0, , , maka diperoleh penduga untuk proses

observasi sebagai berikut

, ,

,

, ,

_, ,

,

, ,

_, ,

,

, .

Karena , , , maka

, , ,

,

, .

| . Dengan memilih , ,

0, maka berdasarkan Teorema 3.4.5 diperoleh

(25)

, , ,

,

.

3.5 Pendugaan Parameter

Pendugaan parameter dilakukan menggunakan Metode Expectation Maximization (Metode EM). Hasilnya berupa parameter dalam bentuk pendugaan rekursif.

Misalkan : adalah koleksi ukuran peluang yang terdefinisi pada ruang Ω, dan kontinu absolut terhadap . Misalkan . Definisikan fungsi likelihood untuk menentukan penduga parameter berdasarkan informasi sebagai

, dan penduga maksimum likelihood didefinisikan sebagai

arg max .

Secara umum penduga maksimum likelihood sulit dihitung secara langsung, maka biasanya digunakan algoritma Expectation Maximization (EM). Algoritma EM memberikan suatu metode iteratif untuk mengaproksimasi , dengan prosedur sebagai berikut:

1. Set p = 0 dan pilih .

2. [Langkah-E] Set dan hitung ,

.

3. [Langkah-M] Tentukan arg max , .

4. Ganti p dengan p+1 ( 1 ) dan ulangi langkah 2 sampai kriteria penghentian terpenuhi.

Parameter yang digunakan pada model (3.4) adalah

, 1 , , , 1 , , 1 .

Dengan menggunakan algoritme EM, akan ditentukan himpunan parameter baru

, 1 , , ̂ , 1 , , 1 ,

yang memaksimumkan fungsi log-likelihood bersyaratnya.

(26)

3.5.1 Pendugaan Parameter

Untuk mengganti parameter dengan pada rantai Markov, definisikan

, ,

,

, , dan .

Lema 3.5.1

Di bawah ukuran dan misalkan , maka

, | 1 .

Bukti:

, | , |

| , |

|

, ∏ 1 ^, ^,

,

∏ 1 ^, ^,

,

, ∏ 1 ^,

∏ 1 ^,

, ∑ 1 ,

∑ 1 ,

, 1

∑ 1 ,

1 , |

∑ 1 , |

(27)

1 ∑ | ,

∑ 1 ∑ | ,

1 |

∑ 1 |

1

∑ 1

1

∑ 1 .

Karena ∑ 1 1, maka

, | 1 .

Fungsi log-likelihood dari adalah

log log

, ,

,

, ,

,

log log

,

log log

log

,

di mana tidak bergantung pada dengan log

,

.

Nilai harapan dari fungsi log-likelihood adalah

(28)

log | log

,

|

log

,

| |

log

,

, 3.14

dengan memenuhi

1 , dan

,

1 .

Karena ∑ , , maka dapat ditulis dalam bentuk ,

, ,

,

. 3.15

Akan ditentukan yang memaksimumkan persamaan (3.14) sebagai fungsi objektif dengan persamaan (3.15) sebagai fungsi kendala.

Misalkan adalah penggali Lagrange, maka

, log

, ,

, dengan menggunakan

(29)

, 0 dan ,

0 , diperoleh:

1 0

3.16 dan

,

0

,

. 3.17

Substitusi persamaan (3.16) ke persamaan (3.17) didapat

,

1

,

1

, ,

,

1 , ,

,

1

|

1

1.

Sehingga didapatkan nilai optimum dari , 1 , yaitu .

(30)

3.5.2 Pendugaan

Misalkan ukuran peluang baru , dengan turunan Radon-Nikodymnya . Untuk mengganti parameter dengan ̂ , didefinisikan

, , dengan faktor

,

1

2 , exp ̂,

2 , 1

2 , exp ,

2 ,

exp 1

2 , , ̂, 2 , 2 ̂, .

log log exp 1

2 , , ̂, 2 , 2 ̂,

, ̂, 2 , 2 ̂,

2 ,

, , ̂, 2 , 2 ̂,

2 ,

, , ̂, 2 , 2 ̂,

2 ,

, ̂ 2 2 ̂

2

, 2

2 1

2 , ̂ , 2 ̂

2 ̂ ̂

2 ,

(31)

di mana bebas terhadap ̂, dengan

, 2

2 .

Nilai harapan dari log jika diketahui adalah

log | 2 ̂ ̂

2 Sehingga untuk

̂ 0 diperoleh

2 2 ̂

2 0

̂ .

3.5.3 Pendugaan Parameter

Misalkan ukuran peluang baru , dengan turunan Radon-Nikodymnya . Untuk mengganti parameter dengan , didefinisikan

, , dengan faktor

,

1

2 , exp ,

2 , 1

2 , exp ,

2 ,

,

, exp 1

2 ,

1

2 , , .

log log ,

, exp 1

2 ,

1

2 , ,

(32)

1

2log , 1

2log , ,

2 ,

, 2 ,

1

2log , ,

2 , , ,

di mana , bebas terhadap dengan

, 1

2log , ,

2 , .

Nilai harapan dari log dengan syarat diketahui adalah

log | 1

2log , ,

2 , ,

, 1

2log , ,

2 , ,

1

2 , log , , ,

2 , ,

1

2 , log ,

2 2 ,

1

2 , log

1 , 2 , ,

, 1

2 log 1

2 ,

1

2 log 1

2 , .

Sehingga untuk ^| 0 diperoleh

(33)

1 2 0

2 0

2 .

Sehingga diperoleh nilai optimum dari adalah

2 .

3.6 Nilai Dugaan

Nilai dugaan dihitung dengan menggunakan nilai harapan bersyarat dari

, jika diketahui dengan .

Lema 3.6.1

Nilai harapan dari , jika diketahui adalah

| , ,

dengan | .

Bukti:

|

, Ф

, 1

√2 exp

2

(34)

, 1

√2 exp 2

, 1

√2 exp 2

, 1

√2 exp 2

1

√2 exp 2

, 1

√2 exp 2

1

√2 exp 2

, 0

, .

3.7 Algoritma Pendugaan Parameter Diketahui parameter model berbentuk

, 1 , , , 1 , , 1 .

Akan ditentukan parameter baru

, 1 , , ̂ , 1 , , 1

yang memaksimumkan pseudo-loglikelihood bersyaratnya. Algoritma untuk memperoleh parameter tersebut:

Langkah 1:

Tetapkan N (banyaknya state penyebab kejadian), T (banyaknya data) dan input data

(35)

Langkah 2:

Tentukan nilai awal

dengan dan memenuhi dan ∑ 1.

Langkah 3:

Lakukan untuk l=1 sampai T.

1. Tetapkan

dan , , dimana vektor satuan di

0 0

2. Lakukan untuk k =0 sampai dengan l-1 a. Hitung penduga rekursif

,

, ,

,

, , 1

, , ,

,

(36)

,

, , 1

, , ,

,

, , 1

, , ,

,

, .

, , 1 ,

di mana

·

· ·

· .

· adalah fungsi kepekatan peluang N(0,1)

: _,

, 1 dengan 1 1,1, … ,1 .

b. Lakukan untuk m =0 sampai dengan k Hitung penduga rekursif smoother

, , _, , ,

,

, , ,

,

, , 1

(37)

, , ,

,

, , 1

, , ,

,

, , 1

, , ,

,

, , 1 .

c. Hitung penduga parameter 1

̂ 1

1 2

1

̂ 1

1 2

.

d. Tuliskan

1 1

1 1 .

e. Hitung 1 dari 1 1 1 dan 1

dari 1 1 1 .

(38)

f. Ulangi langkah a sampai dengan e untuk k berikutnya.

3. Ulangi langkah 1 sampai dengan 3 untuk l berikutnya.

Langkah 4:

Hitung nilai ∑ 1 ̂ 1 dan ∑ 1 ̂

1 .

Langkah 5:

Untuk k=1 sampai dengan T, cetak dan .