BAB IV
MODEL HIDDEN MARKOV
4.1 State dan Proses Observasi
Semua proses didefinisikan pada ruang peluang (Ω, ℱ, ). Misalnya = { : ∈ ℕ} adalah rantai Markov dengan state berhingga yang bersifat
homogen dan diasumsikan tidak diamati secara langsung, sedangkan = { : ∈ ℕ} adalah proses observasinya. Pasangan proses stokastik {( , )}
merupakan model Hidden Markov. Ruang state dari X adalah = { , , … , } dengan = (0, … ,0,1,0, … ,0) adalah vektor satuan di ℝ , di mana hanya elemen ke-i yang bernilai 1 dan lainnya 0.
Misalnya {ℱ : ∈ ℕ} adalah medan- lengkap yang dibangkitkan oleh { , , … , }, { : ∈ ℕ} adalah medan- lengkap yang dibangkitkan oleh { , , … , }, dan { : ∈ ℕ} adalah medan- lengkap yang dibangkitkan oleh { , , … , } dan { , , … , }. Karena X merupakan rantai Markov homogen, maka berdasarkan sifat rantai Markov diperoleh
= │ℱ = = │ , , … ,
= = │ .
Lema 4.1.1 (Elliott et al. 1995)
〈 , 〉 = = . Bukti: Karena 〈 , 〉 = 1, untuk = 0, untuk ≠ , maka 〈 , 〉 = 〈 , 〉 ( = ) = = . ■
Jika = = , maka vektor = ( , , … , ) merupakan nilai harapan dari X, yaitu = [ ] dan untuk X yang ergodic memenuhi = dan
Lema 4.1.2 (Elliott et al. 1995)
Misalnya = = │ = merupakan peluang transisi dan =
× adalah matriks peluang transisi yang memenuhi ∑ = 1untuk
semua = 1,2, … , , maka │ℱ = │ = . Bukti: Misalnya = maka │ = = = │ = = = + + ⋯ + = ( , , … , ) = = . ■ Jadi │ℱ = │ , , … , = │ = . (4.1) Didefinisikan ≔ − , dengan │ = , maka │ℱ = │ , , … , = │ = − │ = │ − │ = │ − │ = − = 0. (4.2) Sehingga dapat diperoleh suatu persamaan state
= + . (4.3) Proses state X tidak diamati secara langsung namun terdapat proses observasi = ( , ), ∈ ℕ di mana { } adalah barisan peubah acak yang menyebar normal dengan nilai harapan nol dan ragam satu (N(0,1))
= { , , … , } dengan = (0, … ,0,1,0, … ,0) adalah vektor satuan di ℝ , di mana hanya elemen ke-j yang bernilai 1 dan lainnya 0.
Lema 4.1.3 (Elliott et al. 1995)
Misalnya =
× adalah matriks peluang transisi, di mana
= = │ = dan memenuhi ∑ = 1dan 1 ≤ ≤ , 1 ≤ ≤ , maka │ = │ = . Bukti: Misalnya = maka │ = = = │ = = = + + ⋯ + = ( , , … , ) = = . ■ Jadi │ = │ = . (4.4) Didefinisikan ≔ − , dengan │ = , maka │ = − │ = │ − │ = │ − │ = │ − │ = − = 0. Sehingga dapat diperoleh suatu persamaan observasi
Notasi 4.1.4
Misalnya = 〈 , 〉 dan = ( , , … , ) , ∈ ℕ dengan ∑ = 1.
Misalnya = | . Untuk = , maka = | = [〈 , 〉| = ] = 〈 , 〉 = | = = ( = | = ) = = 〈 , 〉 = 〈 , 〉 + 〈 , 〉 + ⋯ + 〈 , 〉 + ⋯ + 〈 , 〉 = 〈 , 〉 = 〈 , 〉 . Misalnya = ( , , … , ) , maka = [ | ] = [ | ] = .
Lema 4.1.5 (Elliott et al. 1995)
( ) = diag( ) + diag( ) − diag( ) − ( ) − ( )
dan
〈 〉 ≔ [ ( ) |ℱ ] = diag( ) − diag( ) ; 〈 〉 ≔ [ ( ) | ] = diag( ) − diag( ) .
di mana diag(z) merupakan matriks diagonal yang unsur diagonalnya adalah vektor z dan unsur lainnya adalah nol.
Berdasarkan pembahasan sebelumnya, maka diperoleh model hidden Markov diskret (Elliott et al. 1995) dalam ukuran peluang P dengan persamaan
di mana ∈ , ∈ , =
× dan = × merupakan matriks
peluang transisi yang memenuhi
∑ = 1 dan ≥ 0, dan ∑ = 1 dan ≥ 0. dan memenuhi: [ |ℱ ] = 0, [ | ] = 0; 〈 〉 ≔ [ ( ) |ℱ ] = diag( ) − diag( ) ; 〈 〉 ≔ [ ( ) | ] = diag( ) − diag( ) . 4.2 Perubahan Ukuran
Perubahan ukuran peluang dilakukan dengan mengubah ukuran peluang menjadi ukuran peluang baru. Dari ukuran peluang baru tersebut akan diinterpretasikan kembali ke dalam peluang asal. Perubahan ukuran ini dibatasi oleh turunan Radon-Nikodym.
Di bawah ukuran peluang P pada (Ω, ⋁ ), di mana ⋁ adalah medan- yang dibangkitkan oleh medan- { : ∈ ℕ} berlaku:
1. = { ∶ ∈ ℕ} merupakan rantai Markov yang homogen dan memenuhi = + dan [ |ℱ ] = 0;
2. = { ∶ ∈ ℕ} merupakan proses observasi yang memenuhi = + , [ | ] = 0, dan adalah peubah acak yang bergantung pada .
Akan dikonstruksi ukuran peluang baru pada (Ω, ⋁ ) yang kontinu absolut terhadap ukuran peluang asal P, sehingga di bawah berlaku:
= +
= + , ∈ ℕ
1. = { ∶ ∈ ℕ} merupakan rantai Markov yang homogen dengan ruang
state = { , , … , } dan memenuhi = + dan
[ |ℱ ] = 0;
2. = { ∶ ∈ ℕ} merupakan barisan peubah acak diskret dengan ruang state = { , , … , } yang bersifat bebas stokastik identik dan menyebar seragam dengan = = , 1 ≤ ≤ ;
3. dan saling bebas.
Misalnya ukuran peluang baru pada (Ω, ⋁ ) yang dibatasi oleh turunan Radon-Nikodym = Λ . Definisikan λ = 1 〈 , 〉 , (4.8) di mana > 0, > 0, 1 ≤ ≤ , ∈ ℕ. Definisikan Λ = λ . (4.9) Karena = 〈 , 〉 = 1, =
0, ≠ , maka λ adalah fungsi tak linear dari sehingga dapat ditulis
= ( ) = . (4.10)
Lema 4.2.1 (Elliott et al. 1995)
Dengan menggunakan definisi di atas, maka [ | ] = 1.
Bukti:
[ | ] = 1
= 1 1 = 1|
= 1 1 . = 1. ■
Teorema 4.2.1 (Teorema Bersyarat Bayes) (Elliott et al. 1995)
Misalnya (Ω, ℱ, ) merupakan ruang peluang dan submedan- dari ℱ. Misalnya ukuran peluang lain yang kontinu absolut terhadap P dengan turunan Radon-Nikodym = Λ. Jika adalah sebarang peubah acak yang terintegralkan dan terukur-ℱ, maka
[ | ] = [Λ | ] [Λ| ] .
Bukti: (lihat Elliott et al. 1995) Lema 4.2.2 (Elliott et al. 1995)
Jika { : ∈ ℕ} adalah barisan peubah acak yang terintegralkan dan adapted- ,
maka
| = Λ |
[Λ | ] .
Bukti: (lihat Elliott et al. 1995) Lema 4.2.3 (Elliott et al. 1995)
Di bawah ukuran peluang , { ∶ ∈ ℕ} merupakan barisan peubah acak yang bebas stokastik identik yang menyebar seragam dengan peluang 1
M untuk setiap , 1 ≤ ≤ .
Bukti:
Dengan menggunakan nilai harapan di bawah ukuran peluang , Lema 4.2.1, dan Lema 4.2.2 maka
= 1| = 〈 , 〉| = Λ 〈 , 〉| [Λ | ] = Λ 〈 , 〉| [Λ | ] =Λ 〈 , 〉| Λ [ | ] , (karena Λ terukur- )
= 〈 , 〉| [ | ] = 〈 , 〉| = 1 〈 , 〉| = 1 〈 , 〉| = 1 | = 1 . = 1 = = 1 ■
Lema 4.2.4 (Elliott et al. 1995)
Di bawah ukuran peluang berlaku
[ | ] = .
Bukti:
Dengan menggunakan Notasi 4.1.4, Lema 4.2.1, Lema 4.2.2 , dan Lema 4.2.3 diperoleh [ | ] = [Λ | ] [Λ | ] = [Λ | ] [Λ | ] = Λ [ | ] Λ [ | ] (karena Λ terukur- ) = [ | ] [ | ] = [ | ] = 1 |
= 1 | = 1 [ | ] = 1 [ | ] = 1 | [ | ] = 1 = 1| [ | ] = 1 1 [ | ] = [ | ] = [ |ℱ , ] = [ |ℱ ] = . ■ Jadi, di bawah ukuran peluang , proses = { ∶ ∈ ℕ} adalah rantai Markov dengan matriks peluang transisi A.
Lema 4.2.5 (Elliott et al. 1995)
Di bawah ukuran peluang berlaku [ | ] = 0.
Bukti:
Berdasarkan Lema 4.2.4 diperoleh
[ | ] = [ − | ] = [ | ] − [ | ] = [ | ] − [ | ] = − [ |ℱ ] = − [ | ] = − = 0. ■
Dari hasil sebelumnya diperoleh bahwa di bawah ukuran peluang pada (Ω, ⋁ ) berlaku:
1. Proses = { ∶ ∈ ℕ} adalah rantai Markov dengan matriks peluang transisi A, [ | ] = 0 ;
2. { ∶ ∈ ℕ} adalah barisan peubah acak diskret yang bersifat bebas stokastik identik dan menyebar seragam dengan = = , = 1,2, . . , .
Misalnya = , 1 ≤ ≤ , 1 ≤ ≤ adalah matriks peluang transisi sehingga ≥ 0 dan ∑ = 1. Akan dikonstruksi ukuran peluang P pada (Ω, ⋁ ) sehingga di bawah P model (4.6) dipenuhi dan berlaku
[ | ] = .
Misalnya
=
dan = 〈 , 〉 = 〈 , 〉, sehingga berlaku ∑ = 1.
Untuk mengkonstruksi P dari adalah kebalikan dari menentukan dari P. Didefinisikan dan Λ yang berturut-turut merupakan invers dari dan Λ , yaitu
= ∏ , ∈ ℕ, (4.11) Λ = ∏ ̅ , dan (4.12) = Λ . (4.13)
Lema 4.2.6 (Elliott et al.1995)
Dengan menggunakan definisi di atas berlaku ̅ | = 1.
Bukti:
Dengan menggunakan Lema 4.2.3 diperoleh
̅ | =
= = 1|
= 1
=
= 1. ■
Lema 4.2.7 (Elliott et al. 1995)
Di bawah ukuran peluang P berlaku
[ | ] = .
Bukti:
Dengan menggunakan Lema 4.2.6 diperoleh
[ | ] = = 1| = 〈 , 〉| = Λ 〈 , 〉| [Λ | ] = λ 〈 , 〉| λ | = λ 〈 , 〉| = 〈 , 〉| = 〈 , 〉| = 〈 , 〉| = 〈 , 〉| = | = 1 = = . ■
Berdasarkan Lema 4.2.7, maka di bawah ukuran peluang P berlaku [ − | ] = [ | ] − [ | ] = − [ | ] = − = 0. Misalnya = − , maka [ | ] = 0.
Jadi proses observasi dapat ditulis = + .
4.3 Pendugaan Rekursif
Untuk menduga parameter model hidden Markov, maka dibentuk suatu pendugaan rekursif dari state, banyaknya lompatan, lamanya waktu kejadian, dan proses observasi. Dari Pasal 4.2 diperoleh bahwa di bawah ukuran peluang pada (Ω, ⋁ ) berlaku = + , di mana pada ( , ) memenuhi [ | ] = 0 dan { } adalah bebas stokastik identik dengan = = , serta dan saling bebas di bawah P dan .
Lema 4.3.1 (Elliott et al. 1995)
[ | ] = 0.
Bukti:
Dengan menggunakan Teorema 2.2.27 dan Lema 4.2.5 diperoleh
[ | ] = [ [ | , ]| ] = [ [ | ]| ] = [0| ] = 0. ■ Definisikan ( ) = [Λ 〈 , 〉| ] untuk 1 ≤ ≤ ℕ, ∈ ℕ. (4.14) Karena 〈 , 〉 = 1, 1 ≤ ≤ , maka berlaku
= [Λ 〈 , 〉| ]
= Λ [〈 , 〉| ]
= [Λ | ]. (4.15)
Lema 4.3.2 (Elliott et al. 1995)
Untuk = ( ), ( ), … , ( ) maka 〈 [Λ | ], 〉 = 〈 , 〉. Bukti: 〈 [Λ | ], 〉 = 〈 Λ ( = | ), 〉 = Λ 〈 ( = | ), 〉 = Λ ( = | ) 〈 = , 〉 = Λ 〈 , 〉| = = 〈 , 〉. ■ Notasi 4.3.3
Misalnya { ∶ ∈ ℕ} merupakan barisan peubah acak bernilai skalar yang terintegralkan, notasikan
( ) ∶= [Λ | ]. (4.16)
Dengan menggunakan Lema 4.2.2 dan persamaan (4.16), maka [ | ] = [Λ | ]
[Λ | ]
= ( )
(1) . (4.17) Sebagai nilai awal, diambil ( ) = [ ].
〈 , 1〉 = 〈 , 〉 = 1. Akibatnya
〈 ( ), 1〉 = ( 〈 , 1〉)
= ( ). (4.18) Jika = 1, maka berdasarkan persamaan (4.15), (4.16), dan (4.18) diperoleh
(1) = 〈 ( ), 1〉 = [Λ | ] = ( ) (4.19) Jika (1) pada persamaan (4.17) diketahui, maka faktor penormalan dapat dicari dengan menjumlahkan semua komponen ( ).
Notasi 4.3.4
Jika proses { : ∈ ℕ} adapted- , notasikan
, ( ) = [Λ | ]. (4.20)
Notasi 4.3.5
Untuk penyederhanaan dinotasikan bahwa
( ) = (4.21)
Teorema 4.3.6 (Elliott et al. 1995)
Misalnya proses { ∶ ∈ ℕ} bernilai skalar dan adapted- serta memenuhi = ( + 〈 , 〉 + 〈 , 〉)
= ( + 〈 , 〉 + 〈 , 〉) + + 〈 , 〉 + 〈 , 〉
= + + 〈 , 〉 + 〈 , 〉, ≥ 1,
di mana = − , , , adalah proses predictable terhadap dan bernilai skalar, merupakan vektor berdimensi N, dan merupakan vektor berdimensi M. Jika 1 ≤ ≤ dengan = = , , … , adalah kolom ke-j dari matriks = dan = = , , … , adalah kolom ke-j dari matriks = , maka
, ( ) = ( ) 〈 , ( ) + , ( + 〈 , 〉), 〉
+ diag − 〈Λ , 〉 | .
Bukti: (lihat Jamal 2008)
4.3.1 Pendugaan untuk State
Ambil = = = ⋯ = = 1, = = = 0, dengan
menggunakan Teorema 4.3.6 dan Lema 4.3.1 maka penduga untuk state didefinisikan sebagai , (1) = ( ) 〈 , (1) + , (0 + 〈0, 〉), 〉 + diag − 〈Λ , 〉0| = ( ) 〈 ( ), 〉 = ( ) 〈 , 〉 . Jadi , (1) = ( ) = = ∑ ( ) 〈 , 〉 . (4.22)
4.3.2 Pendugaan Banyaknya Lompatan
Banyaknya lompatan dari state ke state sampai waktu ke-k didefinisikan sebagai
= 〈 , 〉〈 , 〉.
Dengan menggunakan = + , maka menurut Jamal (2008) diperoleh
= + 〈 , 〉 + 〈〈 , 〉 , 〉.
Ambil = , = 0, = 〈 , 〉 , = 〈 , 〉 , = 0,
maka dengan Teorema 4.3.6 dan Lema 4.3.1 diperoleh (Jamal 2008)
4.3.3 Pendugaan Lamanya Waktu Kejadian
Misalnya menyatakan banyaknya kejadian di mana rantai Markov X berada pada state , 1 ≤ ≤ , sampai waktu ke-k, maka didefinisikan
= 〈 , 〉
= 〈 , 〉 + 〈 , 〉 = + 〈 , 〉.
Ambil = , = 0, = 〈 , 〉, = = 0, maka penduga untuk lamanya waktu kejadian adalah (Jamal 2008)
, ( ) = ( )〈 , ( ), 〉 + ( )〈 , 〉 . (4.24)
4.3.4 Pendugaan untuk Proses Observasi
Banyaknya kejadian bahwa berada pada state , 1 ≤ ≤ , dan berada pada state , 1 ≤ ≤ , sampai waktu ke-k didefinisikan oleh
= 〈 , 〉〈 , 〉 dengan 1 ≤ ≤ , 1 ≤ ≤ . Berdasarkan definisi tersebut, maka diperoleh
= 〈 , 〉〈 , 〉
= 〈 , 〉〈 , 〉 + 〈 , 〉〈 , 〉 = + 〈 , 〉〈 , 〉
= + 〈〈 , 〉 , 〉.
Ambil = , = 0, = = 0, = 〈 , 〉 dan dengan menggunakan Teorema 4.3.6 dan Lema 4.3.1, maka penduga untuk proses observasi diperoleh (Jamal 2008)
4.4 Pendugaan Parameter
Pendugaan parameter model hidden Markov dilakukan dengan pendugaan ulang parameter. Metode yang digunakan adalah algoritme EM. Hasilnya berupa parameter dalam bentuk pendugaan rekursif.
4.4.1 Maksimum Likelihood
Misalnya { ∶ ∈ Θ } adalah himpunan ukuran peluang yang terdefinisi pada (Ω, ℱ) dan kontinu absolut terhadap . Misalnya ⊂ ℱ, Fungsi Likelihood yang digunakan untuk menghitung penduga parameter berdasarkan informasi adalah
( ) = ,
dan Maximum Likelihood Estimation (MLE) didefinisikan sebagai ∈ arg max
∈ ( ).
4.4.2 Expectation Maximization
Pada umumnya MLE sulit dihitung secara langsung sehingga digunakan metode rekursif yaitu dengan algoritme EM.
Langkah-langkah dalam metode tersebut adalah sebagai berikut. 1. Set nilai awal parameter dengan k = 0;
2. Set ∗ = dan hitung (. , ∗) dengan
( , ∗) = ∗
∗ ;
3. Cari ∈ arg max ∈ ( , ∗);
4. Ganti k dengan k + 1 dan ulangi langkah ke 2 sampai langkah ke 4 hingga kriteria penghentian tercapai.
Parameter yang digunakan pada model dalam persamaan (4.6) adalah = , 1 ≤ , ≤ , , 1 ≤ ≤ , 1 ≤ ≤ .
Dengan menggunakan algoritme EM akan ditentukan himpunan parameter baru, = ( ) , 1 ≤ , ≤ , ̂ ( ) , 1 ≤ ≤ , 1 ≤ ≤ , yang memaksimumkan fungsi log-likelihood bersyaratnya.
4.4.3 Pendugaan Parameter Notasi 4.4.3.1
Untuk proses { ∶ ∈ ℕ} ditulis = [ | ]. Dalam waktu diskret kondisi ini mendefinisikan -optionalprojection. Untuk mengganti parameter dengan pada rantai Markov X, didefinisikan
= ( ) 〈 , 〉〈 , 〉 , Λ = , dan ℱ = , Λ . (4.26)
Lema 4.4.3.2 (Elliott et al. 1995)
Di bawah ukuran dan misalnya = , maka [〈 , 〉|ℱ ] = ( ).
Bukti: (lihat Jamal 2008)
Teorema 4.4.3.3 (Elliott et al. 1995)
Penduga yang baru untuk ( ) pada waktu pengamatan k diberikan oleh
( ) = = ( )
( ) . (4.27)
Bukti: (lihat Jamal 2008)
4.4.4 Pendugaan Parameter
Untuk mengganti parameter dengan ̂ ( ) pada matriks C, didefinisikan
= ̂ ( )
〈 , 〉〈 , 〉
, Λ = , dan
ℱ = Λ . (4.28)
Lema 4.4.4.1 (Elliott et al. 1995)
Di bawah ukuran dan Misalnya = , maka [〈 , 〉| ] = ̂ ( ).
Teorema 4.4.4.2 (Elliott et al. 1995)
Penduga maksimum likelihood untuk parameter ̂ ( ) pada waktu pengamatan k diberikan oleh
̂ ( ) = = ( )
( ) . (4.29)
Bukti: (lihat Jamal 2008)
4.4.5 Menentukan Nilai
Nilai harapan Y adalah
= [ | ] = = | = = , = | = = | = ( = | ) = ( = | ) = ( ) . (4.30)
4.5 Algoritme Pendugaan Parameter
Diketahui parameter model berbentuk
= , 1 ≤ , ≤ , , 1 ≤ ≤ , 1 ≤ ≤ . Selanjutnya akan ditentukan parameter baru
= ( ) , 1 ≤ , ≤ , ̂ ( ) , 1 ≤ ≤ , 1 ≤ ≤ , yang memaksimumkan pseudo-loglikelihood bersyarat seperti yang dijelaskan pada Pasal 4.4. Algoritme untuk menduga parameter tersebut diperoleh dari Setiawaty dan Kristina (2005) dengan beberapa modifikasi yang disesuaikan untuk masalah diskret.
Algoritme Pendugaan parameter Langkah 1
Tentukan nilai N (banyaknya state dari penyebab kejadian), M (banyaknya state dari proses observasi), banyaknya data T dan input data { }.
Langkah 2
Tentukan nilai awal untuk: = ( ) × = × = × = [ ] dan memenuhi = . Langkah 3
Lakukan untuk l = 1 sampai dengan T
1. Tetapkan nilai awal untuk proses pendugaan = dengan vektor satuan di ℝ ( ) =
( ) = 0
( ) = 0 ( ) = 0
2. Lakukan untuk k = 0 sampai dengan l – 1 a. Hitung penduga rekursif
(i) Penduga untuk state
( ) = = ( ) 〈 , 〉 .
(ii) Penduga banyaknya lompatan
, ( ) = ( )〈 , ( ), 〉
+ ( )〈 , 〉 .
(iii) Penduga lamanya waktu kejadian
(iv) Penduga untuk proses observasi , ( ) = ( )〈 , ( ), 〉 + 〈 , 〉〈 , 〉 . di mana ( ) = ( ) ∶= , ( ) ( ) = 〈 ( ), 1〉 dengan 1 = (1,1, … ,1) ∈ ℝ
b. Hitung penduga parameter
( + 1) = ( ) ( ) ̂ ( + 1) = ( ) ( ) c. Tuliskan = ( + 1) d. Tentukan ( + 1) = ( + 1) ( + 1)
e. Ulangi a sampai dengan d untuk k berikutnya 3. Berikan nilai
( + 1) ⟵ ( + 1) ( + 1) ⟵ ( + 1) ( + 1) ⟵ ( + 1)
4. Ulangi 1 sampai 3 untuk l berikutnya
Langkah 4
Hitung nilai
= ( ) .
Langkah 5
