PENDUGAAN PARAMETER MODEL HIDDEN MARKOV *

(1)

*Tulisan ini merupakan bagian dari hasil penelitian yang didanai oleh Hibah Penelitian PHK A2 Departemen 23 Matematika IPB tahun 2006

PENDUGAAN PARAMETER MODEL HIDDEN MARKOV *

BERLIAN SETIAWATY DAN LINDA KRISTINA Departemen Matematika

Fakultas Matematika dan Ilmu Pengetahuan Alam Institut Pertanian Bogor

Jl Meranti, Kampus IPB Darmaga, Bogor 16680 Indonesia

ABSTRAK. Pendugaan parameter untuk model Hidden Markov

Elliott et. al. (1995) dilakukan mengunakan Metode Maximum Likelihood dan pendugaan ulang menggunakan metode Expectation Maximization yang melibatkan perubahan ukuran. Dari metode tersebut diperoleh algoritma untuk menduga parameter model.

Kata kunci: Rantai Markov, model Hidden Markov, perubahan

ukuran. metode Expectation Maximization.

1. PENDAHULUAN

Tulisan ini merupakan kajian pustaka tentang pendugaan parameter untuk model Hidden Markov Elliott, et. al. (1995). Pendugaan parameter menggunakan metode Maximum Likelihood dan pendugaan ulangnya menggunakan metode Expectatition Maximization (Metode EM) yang melibatkan perubahan ukuran. Dari kedua metode tersebut kemudian diturunkan suatu algoritma yang dapat dipakai secara umum untuk menduga parameter model Hidden Markov Elliott, et. al. (1995).

Tulisan ini dimulai dengan definisi model Hidden Markov beserta karakteristiknya. Pada bagian 3 dibahas Pendugaan Parameter model dan terakhir pada bagian 4 diturunkan algoritmanya.

(2)

24 BERLIAN SETIAWATY DAN LINDA KRISTINA

2. MODEL HIDDEN MARKOV 2.1 Definisi

Pasangan proses stokastik {(X Y_k, _k) :k} yang terdefinisi pada ruang peluang

( , F , )P dan mempunyai nilai pada SY disebut model hidden Markov apabila {X_k} adalah rantai Markov dengan state berhingga dan diasumsikan bahwa rantai Markov {X_k} tidak diamati. Sehingga {X_k} tersembunyi (hidden) di balik proses observasi

 

Yk . Banyaknya elemen dari S disebut ukuran (orde) dari model hidden Markov.

Pada tulisan ini dibahas model hidden Markov Elliot, et. al. (1995) yang berbentuk: 1 1 1 ( ) ( ) 1 k k k k k k k X AX V Y c X  X         

di mana {X_k} adalah rantai Markov yang homogen dengan ruang state

1 2

{ , ,..., N}

S  e e e , dengan e vektor satuan di _i N dan A(a_ji)_{N N}_ merupakan matriks transisinya, dengan

aji = P(Xk = ej│Xk-1 = ei) i, j = 1, 2, ..., N

{_k}adalah barisan peubah acak yang bebas stokastik identik dengan sebaran N(0,1) dan ( _k) , _k dan ( _k) , _k c X  c X  X   X dengan 1 2 1 2 ( , ,..., ) , ( , ,..., ) .,. perkalian dalam di . N N N N N c c c c          Asumsikan _i 0, untuk i1, 2,..., .N

Misalkan {Fk}k adalah filtrasi lengkap yang dibangun oleh {Xk}k, { }Y adalah k filtrasi lengkap yang dibangun oleh { }Y dan { }_k G adalah filtrasi lengkap yang _k _k dibangun oleh {X_k}_kdan { }Y . _k

Catatan 2.1.1 Karena _k, k adalah peubah acak yang bebas stokastik identik, maka _k bebas dari G . Akibatnya _k _k juga bebas dari F . _k

2.2 Nilai Harapan Bersyarat Untuk sebarang t, berlaku

(3)

JMA, VOL. 4, NO. 1, JULI, 2005, 23-39 25 1 1 1 1 1 1 1 1 ( | ) ( , | ) ( | , ) ( | ) ( | ) ( | ) ( ( ) ( ) | N k k k k i k i N k k i k k i k i N k k i k i k i k k k k i P Y t P Y t X e P Y t X e P X e P Y t X e P X e P c X  X  t X e                          



Y Y Y Y Y 1 1 1 1 1 ) ( | ) ( ) ( | ) ( ) ( | ). N k i k i N i i k k i k i N i k i k i k i P X e P c t P X e P t c P X e                     



Y Y Y Misalkan





2 1 2 1 ˆ : | dan ( ) 2 i x k k k i i X E X  x e     Y  (fungsi kepadatan N(0,_i)) maka

















1 1 ˆ , | , | , | , | . N k i k k i j k j k i j N k j k j i k i k j X e E X e e P X e e P X e e e P X e          



Y Y Y Y Sehingga diperoleh 1 1 1 1 ˆ ( | ) ( ) ( | ) , ( ) . i t c N N k k i k i k i k k i i i i P y t P  t c P X e X e  x dx        Y 



    Y 



_

(2.1) Jadi fungsi kepadatan bersyarat dari Y_k_₁ diketahui Y adalah _k

1 ˆ , ( ). N k j j j j X e  t c  



Adapun sebaran gabungan dari X_k dan Y_k_₁ diketahui Y adalah _k

1 1 1 ( , | ) ( | , ) ( | ) ˆ ( ) ( | ) , ( ) . i k i k k k k i k k i k t c i i k k i k k i i P X e Y t P Y t X e P X e P c   t P X e X e  x dx                  

_

Y Y Y Y Sehingga diperoleh fungsi kepadatan gabungan bersyarat dari

1

dan

k k

X Y_ diketahui Y adalah k_k X eˆ ,k i i(tci). Berdasarkan aturan Bayes, diperoleh







_

₁

_



1 1 1 1 1 1 ˆ , ( ) , | , | | , . | _{ˆ ,} ( ) k i i k i k i k k k i k k i k k N k k k j j k j j X e Y c P X e Y E X e P X e Y P Y X e Y c                    



Y Y Y Y Ak ibatnya didapat

(4)





1 1 1 1 1 1 1 1 1 ˆ , ( ) | , , . ˆ , ( ) N k i i k i i N N i k k k i i k k i k i N i i k j j k j j X e y c e E X E X e e E X e e X e y c                _ _ _ _    _



Y Y Y

Teorema 2.2.1 (Elliot et. al. 1995)





1 1 1 1 1 1 1 ˆ , ( ) ˆ _| _. ˆ , ( ) N k i i k i i i k k k N k j j k j j X e y c A e X E X X e y c             



Y

Catatan 2.2.2 Dari persamaan di atas diperoleh bahwa penduga Xˆ_k_₁ bergantung pada ˆX secara tidak linear. k

2.3 Perubahan Ukuran Pada Model Hidden Markov

Misalkan ( ) adalah peubah acak yang terdefinisi pada ( , F , )P dengan fungsi kepadatan  ( ) dan c,  adalah konstanta yang diketahui. Diketahui

( ) ( )

Y   c    .

Akan dikonstruksi ukuran peluang baru P pada ( , F) sedemikian sehingga: a. dP

dP 

b. Di bawah P peubah acak y mempunyai fungsi kepadatan .

Karena { } { } ( ) ( ) ( ) ( ) 1 ( ) ( ) ( ) ( ) t Y t Y t t c t c t P Y t y dy I dP I dP I d d dy                       _ _ _                



maka diperoleh ( )y    ( ) ( )   atau ( ) ( ). ( ) y      

Pada ( , F, )P proses observasi

 

Yk mempunyai bentuk

1 , , 1

k k k k

Y_  c X   X  _

di mana

 

k bebas stokastik identik menyebar N(0,1). Misalkan ( ) adalah fungsi kepadatan peluang N(0,1) dan

 

1 0 1 , , ; 1; , 1. k l l l k l l l X y l k              





(5)

JMA, VOL. 4, NO. 1, JULI, 2005, 23-39 27

Definisikan ukuran peluang P pada ( , F) sebagai berikut .

k

k dP

dP_G  

Eksistensi _k dijamin oleh Teorema Radon-Nikodym dan eksistensi P dijamin oleh Teorema Perluasan Kolmogorov (Wong and Hajek, 1985).

Lemma 2.3.1 (Elliot et. al. 1995) Di bawah P ,

 

Yk adalah barisan peubah acak yang bebas stokastik identik menyebar N(0,1).

Sebaliknya, dimulai dengan ukuran peluang P pada ( , F ), di mana di bawah P berlaku:

a.

 

X_k adalah rantai Markov dengan matriks transisi A sehingga

1 1

k k k

X _ AX V_ , dengan E V



_k_₁|F_k



0

b.

 

Y_k adalah barisan peubah acak yang bebas stokastik identik menyebar N(0,1) dan bebas dari X , _k

akan dikonstruksi P dari P sehingga di bawah P berlaku:





1 1 , , , 0 , k k k k k Y c X k X X         

adalah barisan peubah acak yang bebas stokastik identik dan menyebar N(0,1). Untuk mengkonstruksi P dari P , definisikan

 

0 1 1 1 , ; 1; , 1; . , k k l l k l k l l l l dP l k X y dP                



   G

Lemma 2.3.2 Di bawah P,

 

_k adalah barisan peubah acak yang bebas stokastik identik menyebar N(0,1).

Catatan 2.3.3 Untuk selanjutnya kita akan bekerja pada ruang peluang ( , F , )P .

3. PENDUGAAN PARAMETER

Sifat statistik model Hidden Markov ditentukan secara lengkap oleh himpunan parameter



(a_ji),1 i j, N c; ,1_i i N; _i,1 i N



         .

Pada bagian ini dibahas proses pendugaan parameter tersebut menggunakan Algoritma EM (Expectation maximization algorithm).

(6)

Definisi 3.1.1 (Elliot et. al. 1995) Barisan peubah acak

 

_k disebut adapted-G, atau adapted terhadap filtrasi

 

G , apabila untuk setiap k, _k _k terukur-G . _k Definisi 3.1.2 Jika

 

Hk adalah barisan peubah acak yang adapted terha-dap

 

G , definisikan k k

 

Hk : E kHk Yk dan Hˆ :k  E H k Yk. Menurut Teorema Bayes bersyarat

 

ˆ : , 1 k k k k k k k k k k k E H H H E H E        _  _      Y Y Y sehingga

 

0 0 0 0 0 0 0 0 ˆ 1 X X E X   X   _ Y  _  karena ₀

 

1 1.

Catatan 3.1.3 Pada proses pendugaan rekursif, ₀

 

X₀ E X

 

₀ diambil sebagai nilai awal.

Lemma 3.1.4. (Elliot et. al. 1995)

Misalkan

 

H_k adalah barisan peubah acak bernilai skalar, maka a. k

 

Hk  k



H Xk k



, 1

b. k

 

1  k

 

Xk , 1 .

Catatan 3.1.5 Dari persamaan di atas diperoleh bahwa pendugaan _k_₁



H_k_₁



bergantung pada _k



H X_k _k



.

Definisi 3.1.6 Barisan peubah acak

 

k disebut predictable terhadap filtrasi

 

G , apabila untuk setiap k, k k terukur-G . k1

Teorema 3.1.7 Misalkan

 

H_k adalah proses bernilai skalar yang adapted terhadap filtrasi

 

G dan mempunyai bentuk _k

a. H terukur-₀ F ₀

b. Hk1Hkk1 k1,Vk1 k1f y( k1), k1

di mana

 V_k_₁ X_k_₁AX_k

 f adalah fungsi bernilai skalar

(7)

JMA, VOL. 4, NO. 1, JULI, 2005, 23-39 29

  adalah proses bernilai vektor berdimensi-N maka











 



























1 1 1 1, 1 1 1 1 1 1 1 1 1 1 1 : , , , ( ) diag( ) , k k k k k k N i i k k k k i k k k k i i i T i k k k k k i i i i k k k k H X H H X y a X y a X y f y a a a a X y                                  



di mana ai  Aei dan  

_{ }

     

 

  : k k k y c y e y                   . 3.2 Penduga Parameter 3.2.1 Penduga untuk State

Teorema 3.2.1 (Elliott et. al. 1995)

1 1 1 1 ( ) ( ), ( ) N i k k k k k i i X X y a  _ _  _  



 . (3.1) Bukti:

Dengan mengambil H_k H₀1, _k 0, _k 0 dan _k 0 pada Teorema 3.1.7

diperoleh ₁ ₁ ₁ 1 ( ) ( ), ( ) N i k k k k k i i X X y a  _ _  _  



 .

Catatan 3.2.2 Persamaan (3.1) menunjukkan bahwa _k_₁(X_k_₁) bergantung pada _k(X_k) secara linear.

3.2.2 Penduga untuk Number of Jumps

Jika rantai Markov melompat dari state e pada waktu ke-k, ke state _r e pada _s waktu ke-k1, 1r s, N, maka X e_k, _r X_k_₁,e_s 1, sehingga banyaknya lompatan (number of jumps) dari state e ke state _r e pada waktu ke-_s k1

adalah









1 1 1 1 1 1 1 1 : , , , , , , , , , , , , , . k rs k n r n s n rs k k r k s rs k k r k k s rs k k r k s k r k s rs k k r sr k r k S X e X e X e X e X e AX V e X e AX e X e V e X e a X e V e                    



J J J J J

(8)

1, 1 1 , 1 1 1 ( ) ( ), ( ) ( ), ( ) N rs rs i r k k k k k k k i k k k sr s i y a X y a e  _ _ _  _  _  



   J J . (3.2)

Bukti: Dengan mengambil

1 1, 0 0, 1 , , 1 , dan 1 0 rs k k k k r sr k k r s k H _ J _ H   _  X e a  _  X e e  _  pada Teorema 3.1.7 diperoleh

 

























1, 1 1 1 1 1 1 , , , 0 diag( ) , , . N rs rs i i k k k k k k k i k k r sr k k i i T i i i i k k r s k k X y a X e a X y a a a a X e e X y                   



J J Sedangkan





















1 1 1 1 1 , , , , , N N i i k k r sr k k i k k r k k sr i i i r k k k sr r X e a X y a X e X y a a X y a a             



dan













































1 1 1 1 1 1 diag( ) , , , , diag( ) , diag( ) , . N T i i i i k k r s k k i N i T k k r k k i i i s i r T k k k r r r s r k k k sr s sr r a a a X e e X y X e X y a a a e X y a a a e X y a e a a                     



Sehingga





1, 1 1 1 1 1 , 1 1 1 1 ( ) ( ), ( ) , ( ) ( ), ( ) ( ), ( ) . N rs rs i r k k k k k k k i k k k sr s i N rs i r k k k k i k k k sr s i X y a X y a e y a X y a e                       



J J J

3.2.3 Penduga untuk Occupation Time

Banyaknya kejadian rantai Markov berada pada state e , r 1 r N sampai waktu ke-k didefinisikan sebagai berikut.

1 1 1 1 : , , . k r rs k n r k k r n O X e O X e     



 

1, 1 1 , 1 1 1 ( ) ( ), ( ) ( ), ( ) N r r i r k k k k k k k i k k k r i O O y a X y a  _ _ _  _  _  



   . (3.3)

(9)

JMA, VOL. 4, NO. 1, JULI, 2005, 23-39 31

Bukti: Dengan mengambil

1 1, 0 0, 1 , , 1 0 dan 1 0 rs k k k k r k k H  O H     X e       pada Teorema 3.1.7 diperoleh

 

























 





1, 1 1 1 1 1 1 1 1 , 1 1 1 , , , , , , ( ), ( ) . N r r i i k k k k k k k i k k r k k i i N r i r k k k k i k k k r i N r i r k k k k i k k k r i O O X y a X e X y a O X y a X y a O y a X y a                               



.

3.2.4 Penduga untuk Proses Observasi

Untuk menduga parameter  



 ₁, ₂,...,_N



T dan c



c c₁, ₂,...,c_N



T pada proses observasi y_k_₁ c X, _k  ,X_k _k_₁, definisikan

1 1 1 1 1 ( ) : , ( ) 1 ( ) , ( ) k r k l r l l r k k r k f X e f y r N f X e f y            



di mana f y( ) y atau ( )f y  y2.

1, 1 1 , 1 1 1 1 ( ( )) ( ( )), ( ) ( ), ( ) ( ) N r r i r k k k k k k k i k k k k r i f f y a X y f y a  _ _  _   _  _ _  



   . (3.4) Bukti: Dengan mengambil 1 1( ), 0 0, 1 0, 1 0 dan 1 , r k k k k k k r H _  _ f H   _   _   _  X e pada Teorema 3.1.7 diperoleh





































1, 1 1 1 1 1 1 1 1 1 1 , 1 1 ( ) ( ) , , , ( ) ( ) , , ( ) ( ) , N r r i i k k k k k k k i k k r k k k i i N r i r k k k k i k k k k r i N r i k k k k i k i f f X y a X e X y f y a f X y a X y f y a f y a X                                   



  

, 1



( 1) . r k  yk f yk ar

3.3 Expectation Maximization Algorithm (Algoritma EM)

Algoritma EM dikembangkan oleh Baum and Petrie (1966) dengan ide dasar sebagai berikut.

(10)

Misalkan



P_ :



adalah koleksi ukuran peluang yang terdefinisi pada ruang ( , )G dan kontinu absolut terhadap P . Misalkan ₀ YG. Definisikan fungsi likelihood untuk menentukan penduga parameter  berdasarkan informasi Y sebagai 0 0 ( ) dP L E dP    _ _  Y 

dan penduga maksimum likelihood didefinisikan sebagai ˆ argmax ( )L



 



 .

Secara umum penduga maksimum likelihood ˆ sulit dihitung secara langsung. Algoritma EM memberikan suatu metode iteratif untuk mengaproksimasi ˆ , dengan prosedur sebagai berikut.

Langkah 1: Set p0 dan pilih ˆ₀. Langkah 2: [Langkah-E]

Set  ˆp _

dan hitung Q



,



E log dP

dP         _ _ _     Y . Langkah 3: [Langkah-M]

Tentukan ˆ_p ₁ arg maxQ



,



       . Langkah 4: p p 1

Ulangi langkah 2 sampai kriteria berhenti dipenuhi. Catatan 3.3.1

1. Barisan



ˆ :_p p0



memberikan barisan



L

 

ˆ :_p p0



yang tak turun. 2. Menurut ketaksamaan Jensen,



ˆp 1, ˆp



log (ˆp 1) log (ˆp)

Q  _   L _  L . 3. Q



 , 



disebut pseudo-loglikelihood bersyarat.

Model Hidden Markov yang akan diduga parameternya berbentuk

1 1 1 , , 1 k k k k k k k X AX V y c X  X  k         

di mana V_k_₁ adalah martingale increments dan _k adalah peubah acak yang bebas stokastik identik menyebar N(0,1). Parameter model diberikan oleh himpunan



(a_ji),1 i j, N c; ,1_i i N; _i,1 i N



(11)

JMA, VOL. 4, NO. 1, JULI, 2005, 23-39 33 di mana 1 1, 1 N ji i a i N    



.

Akan ditentukan himpunan parameter baru





ˆ_{( )} ₍_ˆ _{( )),1} _, _{; ( ),1}_ˆ _; _ˆ _{( ),1} ji i i k a k i j N c k i N k i N          di mana 1 ˆ ( ) 1, 1 N ji i a k i N    



yang memaksimumkan pseudolog-likelihood

bersyarat.

Untuk mengubah parameter aji menjadi aˆ ( )ji k pada rantai Markov X, misalkan 1 1 , , , 1 , , 1 , 1 ˆ ( ) ˆ ( ) sr sr sr sr k s k r l s l r X e X e N k r s X e X e k N k l r s a k a a k a          _ _       _ _  





dan definisikan peluang P_ˆ sehingga ˆ k k dP dP     F . Lemma 3.3.2

Di bawah P_ˆ, jika Xk er, maka Eˆ Xk1,es |Fk  aˆsr(k1).

 

ˆ ˆ ( ) _ˆ rs rs k k k sr _r _r k k k a k O O   J  J . (3.5)

Bukti: Berdasarkan definisi





1 , , 1 , 1 1 1 , 1 , 1 ˆ ( ) log log ˆ , , log ( ) log ˆ log ( ) ( ) sr sr l s l r X e X e k N k l r s k N l s l r sr sr l r s N rs k sr r s a k a X e X e a k a a k R a         _ _      _ _ _ _        



 



J

di mana R a( ) tidak bergantung pada ˆa . Sehingga pseudo-loglikelihood bersyaratnya menjadi

(12)





, 1 ˆ _ˆ ˆ log | log ( ) ( ). N rs k k k sr r s E a k R a   Y 



J  (3.6) Parameter ˆ ( )a_sr k harus memenuhi

1 ˆ ( ) 1 N sr s a k  



atau dalam bentuk dinamik

1 1 1 ˆ , ( ) k N l r sr l s X e a k k   



.

Bentuk dinamik di atas dapat dituliskan dalam bentuk bersyarat

, 1 ˆ ˆ ( ) N r k sr r s O a k k  



. (3.7) Masalah optimasinya sekarang menjadi memilih ˆ ( )a_sr k yang memaksimumkan (3.7) dengan kendala (3.8). Definisikan fungsi Lagrange

, 1 , 1 ˆ ˆ ˆ ˆ ˆ ( , ) log ( ) ( ) N N rs r k sr k sr r s r s L a  a k  O a k k       _  _  



J



Dari 0 dan 0 ˆ ( )sr L L a k        diperoleh , 1 ˆ ˆ ( ) N r k sr r s O a k k  



(3.8) ˆ ˆ _0. ˆ ( ) rs r k k sr O a k   J (3.9) Dari persamaan (3.8) dan (3.9) diperoleh 1. Dari persamaan (3.9) diperoleh ˆ ₍ ₎ ₍ ₎ ₍ ₎ ˆ ( ) _ˆ . (1) (1) ( ) rs rs r rs k k k k k k k sr r r k k k k k O a k O O       J  J  J

Untuk mengubah parameter c menjadi ˆ ( )_i c k , misalkan _i



2 2



1 1 1 1 1 1 1 2 , ˆ ˆ ( , ) exp , , 2 , 2 , ( , ) k k k k k k k k k k k k l l l l X X y c X c X y c X y c X X y                _    _    



dan definisikan peluang P sehingga

k k dP dP     G . Lemma 3.3.4

Di bawah P,



y_k  c Xˆ, _k_₁



k adalah barisan peubah acak yang bebas stokastik identik menyebar N(0,  ).

(13)

JMA, VOL. 4, NO. 1, JULI, 2005, 23-39 35

Bukti: Menurut Teorema Bayes bersyarat





        1 1 1 1 1 1 ˆ, 1 ˆ, 1 1 ˆ, 1 ˆ, 1 ˆ 1 1 ˆ, k k k k k k k k k k y c X t k k k k y c X t k k k k k y c X t k k k y c X t k k y c k k k k k k E I P y c X t E I E E I E I E I E E                                         _           _ _   _ _ _  _                       G G G G G G G G  ,  1 . k k X t k k E               G G

Di bawah P, yk1 c X, k  c X, k k1 dengan k1 menyebar N(0,1),

sehingga y_k_₁ c X, _k menyebar N



c X, _k , ,X_k



. Jadi













2 2 1 1 1 2 1 1 2 1 1 1 2 , 1 2 , 2 , 1 2 , 2 , ˆ ˆ exp , , 2 , 2 , 1 exp , 1 _ˆ exp , k k k k k k k k k k k k k k k k k k k X X X X X E c X c X y c X y c X y c X dy y c X dy                         _    _   _ _    _  _      _  _  



G 1.  Sehingga





 









_ _ 1 1 1 1 ˆ, 2 2 1 1 2 1 ˆ, 1 1 2 , 1 2 , 2 , ˆ, | ˆ ˆ exp , , 2 , 2 , 1 exp , k k k k k k k k k k k y c X t k k k k k k k k k y t c X k X X X P y c X t E I c X c X y c X y c X y c X I dy                          _{ } _      _    _      _  _  



G G













ˆ, 2 1 1 2 1 1 2 , 2 , 1 2 , 2 , 1 _ˆ exp , 1 exp ˆ , . k k k k k t c X k k k t k k X X X X y c X dy u du P U t P y c X t                  _  _      _ _       







 

( ) ˆ ( ) ˆ ( ) _ˆ r r k k k r _r _r k k k y y c k O O       . (3.10)

(14)





2 2 1 1 1 1 1 1 2 2 1 1 1 2 1 ˆ ˆ , , 2 , 2 , log 2 , ˆ ˆ , ( ) 2 2 ( ) 2 ˆ ˆ 2 ( ) ( ) ( ) ( ) 2 k l l l l l l k l l k N l r r r l l r l r r r r N k r k r r r c X c X y c X y c X X X e c c k y c y c k y c k O c k R c                           







di mana R(c) tidak bergantung pada ˆc. Jadi 2 1 ˆ ˆ ˆ ˆ 2 ( ) ( ) ( ) _ˆ log | ( ) 2 r r N k r k r k k r r y c k O c k E  R c          Y



sehingga ˆ ˆ ˆ 2 ( ) 2 ( ) log | 0 ˆ ( ) 2 r r k k r k k r r y O c k d E dc k          Y memberikan ˆ ˆ ˆ 2 ( ) 2_kr y  O c k_kr _r( )0 ˆ ( ) ( ( )) ( ) ( ( )) ˆ ( ) _ˆ . (1) (1) ( ) r r r r k k k k k k k r r r k k k k k y y O y c k O O            

Untuk mengubah parameter _i menjadi ˆ ( )i k (ambil c tetap), definisikan i









2 1 1 1 2 1 1 1 1 ˆ 2 , 1 2 , exp , , ( , ) ˆ, exp , ( , ) k k k k k k k k k k k k k l l l l X X y c X X X y X y c X X y                             



dan definisikan peluang P sehingga

k

k dP

dP_G   .









 

2 2 2 2ˆ ₍ ₎ ₂ _{( )} ˆ ( ) 2 ˆ ( ) ˆ ( ) _ˆ i i i i i i k k i k k i k k k i k i k i i i k k k y c y c O y c y c O k O O                . (3.11)

Bukti: Dari definisi





2 1 1 1 1 , 1 _ˆ log log , ( , ) ˆ 2 2 , k l l k l l l y c X X R c X          



  

(15)

JMA, VOL. 4, NO. 1, JULI, 2005, 23-39 37









1 2 2 1 1 1 2 2 1 , 1 _ˆ _ˆ log | , log ( ) 2 ( , ) ˆ 2 2 ( ) 1 _ˆ _ˆ 1 _ˆ _ˆ _ˆ _ˆ log ( ) ( ) 2 ( ) ( , ), ˆ 2 ( ) k N l i k k l i i l l i i k l i i N i i i i k i k i k i k i i X e E E X e k y y c c R c k O k y c y c O R c k                            _ _       _    _  





Y Y maka



2 2



ˆ 1 1 _ˆ _ˆ _ˆ log | ( ) 2 ( ) 0 ˆ ( ) 2 ˆ( ) ˆ( ) i i i i k k k k i k i k i i i O d E y c y c O d k  k  k          _    _   _ _   Y memberikan



2 2



2 ˆ ₁ ˆ ˆ ( ) 2 ˆ( ) ˆ( ) ˆ ( ) i i i i k k i k i k i i O y c y c O k k       atau 2 2 2 2 2 2 ( ( )) ( ( )) ( ) 2 ˆ ˆ ( ) 2 ˆ ( ) (1) (1) (1) ˆ ( ) _ˆ ( ) (1) ( ( )) 2 ( ( )) ( ) . ( ) i i i k k k k k k i i i i i k i k i k k k k i i i k k k k i i i k k i k k i k k i k k y y O c c y c y c O k O O y c y c O O                            

Catatan 3.3.7 Berdasarkan observasi sampai waktu ke-k, parameter model yang baru yaitu (aˆji( )),1k i j, N c k; ( ),1ˆi  i N; ˆi( ),1k  i N diberikan

oleh persamaan (3.5), (3.10) dan (3.11). Nilai

    

 

2



 

, , ( ) , ( ) dan

rs rs r r

k k k Ok k k y k k y k Xk

 J       kemudian dapat dihitung

kembali menggunakan parameter yang baru dan data pengamatan yang baru.

4. ALGORITMA MENDUGA PARAMETER MODEL Diketahui parameter berbentuk



(aji), 1 i j, N c; , 1i i N; i,1 i N



         .

Akan ditentukan parameter





ˆ_{( )} ₍_ˆ _{( )), 1} _, _{; ( ), 1}_ˆ _;_ˆ _{( ),1}

ji i i

k a k i j N c k i N k i N

        

yang memaksimumkan pseudo-loglikelihood bersyarat seperti pada bagian 3. Algoritma untuk memperoleh parameter tersebut adalah sebagai berikut.

Algoritma untuk menentukan parameter ˆ( )k Langkah 1: Tetapkan N (banyaknya state)

M (banyak data) Input data { }y_k .

(16)

Langkah 2: Tetapkan Nilai awal

1 1 1 ( ) ( ) ( ) ( ) . i N ji N N i N i N A a c c            

Catatan:  E X

 

₀ dan memenuhi A  Langkah 3: Lakukan untuk l0 sampai dengan M

1. Tetapkan  

 





0 0 0 0 0 0 0 0 2 0 0 0 0 ( ) 0 ( ) 0. i i rs r a Ae X O y y               s r J

2. Lakukan untuk k0 sampai dengan l1

a. Hitung penduga rekursif

1 1 1 1 1, 1 1 , 1 1 1 1 1 1, 1 1 1, 1 1 , 1 1 1 1 1 ( ) ( ), ( ) ( ) ( ), ( ) ( ), ( ) ( ) ( ), 1 ( ) ( ), ( ) ( ), ( ) ( N i k k k k k i i N rs rs i r k k k k k k k i k k k sr s i rs rs k k k k k N r r i r k k k k k k k i k k k r i r k k X X y a y a X y a e O O y a X y a O                                             



J J J J 1, 1 1 1, 1 1 , 1 1 1 1 1 1 1, 1 1 2 2 2 1, 1 1 , 1 1 1 1 ) ( ), 1 ( ( )) ( ( )), ( ) ( ), ( ) ( ( )) ( ( )), 1 ( ( )) ( ( )), ( ) ( ), ( ) r k k k N r r i r k k k k k k k i k k k k r i r r k k k k k N r r i r k k k k k k k i k k k k r i k O y y y a X y y a y y y y y a X y y a                                                 



2 2 1( 1( )) 1, 1( 1( )), 1 . r r k y k k k y  _   _ _  _

b. Hitung penduga parameter

 





 









 

1 1 1 1 1 1 1 1 2 2 1 1 1 1 1 1 1 1 ˆ ( 1) ( ) ˆ ( 1) ( ) 2 ( ) ˆ ( 1) . rs k k sr _r k k r k k r r k k i i i k k i k k i k k i i k k a k O y c k O y c y c O k O                                     J c. Tuliskan

(17)

JMA, VOL. 4, NO. 1, JULI, 2005, 23-39 39













ˆ₍ ₁₎ _ˆ ₍ ₁₎ ˆ( 1) ˆ ( 1) ˆ( 1) ˆ ( 1) . sr r i A k a k c k c k k k            d. Tentukan ˆ ˆ(k 1) dari persamaan (A k 1) (ˆ k 1) ˆ(k 1)        .

e. Ulangi langkah a sampai dengan d untuk k berikutnya. 3. Beri nilai ˆ( ) ˆ( ) ˆ ( ). A A k c c k k     

3. Ulangi langkah 1 s/d 3 untuk l berikutnya. Langkah 4: Untuk k 1 sampai dengan M, cetak

ˆ_{( ), (k), ( ), ( ),}_ˆ _ˆ _ˆ ₍ ₎ k k A k  c k  k  X

DAFTAR PUSTAKA

[1].Baum, L. E. and Petrie, T. 1966. Statistical inference for probabilistic functions of finite state Markov chains. Annals of the Institute of Statistical Mathematics, 37:1554-1563.

[2]. Elliot, R. J., Aggoun, L. dan Moore, J. B. 1995. Hidden Markov models, Springer Verlag, New York.

[3]. Wong, E and Hajek, B. 1985. Stochastic Process in Engineering System. Springer Verlag, Berlin.