PENDUGAAN PARAMETER MODEL
HIDDEN
MARKOV
LINDA KRISTINA
G54101021
PROGRAM STUDI MATEMATIKA
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM
INSTITUT PERTANIAN BOGOR
K arya kecil ini saya persembahkan untuk Bapak, Emih, I bu, K akak, Adik dan
K eponakan. Terima kasih unt uk semua kebahagiaan yang t ercipt a selama ini.
RINGKASAN
Linda Kristina. Pendugaan Parameter Model Hidden Markov. Dibimbing oleh Berlian Setiawaty dan I Gusti Putu Purnaba
Model hidden Markov merupakan bentuk khusus dari rantai Markov. Model hidden Markov terdiri dari pasangan state yang tidak diamati secara langsung dan observasi.
Dalam karya ilmiah ini dibahas karya ilmiah ini membahas mengenai pendugaan parameter model hidden Markov yang akan memaksimumkan peluang dari suatu kejadian, serta dilakukan analisis terhadap faktor-faktor yang mempengaruhi parameter model hidden Markov. Untuk itu didefinisikan ukuran peluang baru yang dibatasi oleh turunan Radon-Nikodym
Dengan menggunakan turunan Radom-Nikodym, diperoleh penduga untuk state, penduga untuk banyaknya loncatan dari state tertentu ke state yang lain, penduga lamanya waktu rantai Markov berada pada suatu state tertentu, serta penduga untuk proses pengamatan.
Pendugaan parameter model hidden Markov diperoleh melalui reestimasi parameter. Metode yang digunakan untuk me-reestimasi parameter adalah algoritma EM (Expectation Maximization). Dengan menggunakan algoritma EM dan turunan Radon-Nikodym diperoleh pendugaan parameter model hidden Markov yang maksimum.
PENDUGAAN PARAMETER MODEL
HIDDEN
MARKOV
Skripsi
Sebagai salah satu syarat untuk memperoleh gelar Sarjana Sains
Pada Fakultas Matematika dan Ilmu Pengetahuan Alam
Oleh :
LINDA KRISTINA
G54101021
PROGRAM STUDI MATEMATIKA
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM
INSTITUT PERTANIAN BOGOR
Judul : Pendugaan Parameter Model Hidden
Markov
Nama : Linda Kristina
Nrp
: G54101021
Menyetujui
Pembimbing I,
Pembimbing II,
Dr. Berlian Setiawaty, MS
Dr.Ir. I G. Putu Purnaba DEA
NIP 131835248
NIP 131878945
Mengetahui
Dekan Fakultas Matematika dan Ilmu Pengetahuan Alam
Institut Pertanian Bogor
Dr. Ir. Yonny Koesmaryono, MS
NIP. 131473999
RIWAYAT HIDUP
Penulis dilahirkan di Majalengka pada tanggal 21 Januari 1983 dari pasangan Hayyun A. R dan Euis Supartini. Penulis merupakan putri kedua dari tujuh bersaudara.
Pada tahun 2001, penulis lulus dari SMUN 1 Majalengka dan pada tahun yang sama diterima di IPB melalui jalur Undangan Seleksi Masuk IPB (USMI). Penulis terdaftar sebagai mahasiswa Departemen Matematika, Fakultas Matematika dan Ilmu Pengetahuan Alam.
PRAKATA
Puji dan syukur penulis panjatkan kepada Allah SWT atas segala rahmat dan karunia-Nya yang telah diberikan kepada penulis. Rahmat dan salam semoga tercurah untuk nabi akhir zaman, yakni Muhammad saw, keluarga, sahabat dan umatnya sampai akhir zaman.
Dalam penulisan karya ilmiah ini, penulis mengucapkan terima kasih kepada
1. Dr. Berlian Setiawaty, MS selaku pembimbing I atas bimbingan, saran dan kesabarannya. Dr.Ir. I G. Putu Purnaba DEA selaku pembimbing II atas segala saran dan kritikannya yang membuat penulis bisa lebih memahami karya ilmiah yang ditulis. Ir. Retno Budiarti, MS selaku penguji.
2. Bapak, Emih dan Ibu atas semua kasih sayang, kepercayaan dan hari-hari yang indah yang telah diberikan sampai saat ini. Semoga Allah membalas semua kebaikan Bapak, Emih dan Ibu, serta mengumpulkan kita di surga di hari akhir nanti.
3. Teh Ida dan A Enjang, adik-adik serta keponakan penulis, Andri, Indri, Riska, Randi, Irfan, Puspa dan Haekal untuk semua keceriaan dan kegaduhan yang kalian buat di rumah. Walaupun kalian nakal dan bandel, kalian adalah orang-orang yang paling dirindukan. 4. Untuk anggota-7: Devi yang selalu menemani saya di saat suka maupun duka, Yana yang
selalu pengertian tapi ceroboh, Atin yang selalu ceria dan tegar walaupun cerewet, Evi yang sekarang jauh di Kalimantan, Ratna yang tenang dan perhatian, serta Sugeng yang bijak. 5. Teman-teman seperjuangan, Matematika-38. Terima kasih untuk semua kebersamaan selama
penulis berada di Departemen Matematika.
6. Erra, Meryaldi dan Lisa yang telah bersedia menjadi pembahas.
7. Ibu Susi, Ibu Ade, Ibu Marisi, Mas Yono, Mas Bono, Mas Deni yang telah banyak membantu penulis di bidang akdemik
8. Serta semua pihak yang tidak dapat penulis sebutkan satu persatu. Semoga karya ilmiah ini dapat bermanfaat.
I.
PENDAHULUAN
Latar Belakang
Pada kehidupan sehari-hari, banyak kejadian yang bersifat stokastik. Setiap kejadian terkait erat dengan penyebab kejadian, hanya saja terkadang penyebabnya tidak diamati secara langsung. Penyebab kejadian bisa membentuk berbagai model matematis, diantaranya model rantai Markov. Pasangan kejadian dan penyebabnya disebut dengan model hidden Markov.
Model hidden Markov ini sudah banyak diaplikasikan dalam berbagai bidang ilmu, salah satunya yaitu di bidang telekomunikasi. Contohnya yaitu transnisi siaran radio yang ditransmisikan pada channel komunikasi yang sibuk. Penggunaan model hidden Markov di bidang telekomunikasi ini telah dikembangkan oleh Rabiner, 1989. Selain telekomunikasi, model
hidden Markov juga dikembangkan dalam bidang ekonomi, biologi dan lain sebagainya.
Model hidden Markov dibangun oleh parameter-parameter yang akan digunakan untuk memprediksi kejadian di masa yang akan datang. Berdasarkan data-data yang diperoleh, maka dapat diduga parameter dari model hidden Markov.
Salah satu metode yang digunakan untuk menduga parameter model hidden Markov adalah algoritma EM (Expectation Maximization). Dengan algoritma EM, diharapkan akan diperoleh pendugaan parameter yang akan memaksimumkan prediksi terhadap kejadian di masa yang akan datang.
Tujuan
Tujuan dari karya ilmiah ini adalah menentukan parameter yang akan memaksimumkan peluang suatu kejadian berdasarkan barisan kejadian sebelumnya dengan men ggunakan algoritma EM (Expectation Maximization).
II. LANDASAN TEORI
2.1 Ruang Contoh, Kejadian dan Peluang
Dalam suatu percobaan seringkali dilakukan pengulangan yang biasanya dilakukan dalam kondisi yang sama. Semua kemungkinan hasil yang akan muncul dapat diketahui, tetapi hasil pada percobaan berikutnya tidak dapat diduga dengan tepat. Percobaan semacam ini, yang dapat diulang dalam kondisi yang sama disebut percobaan acak.
[Hogg dan Craig, 1995]
Definisi 1.1 (Ruang Contoh dan Kejadian)
Himpunan dari semua kemungkinan hasil dari suatu percobaan acak disebut ruang contoh, dinotasikan dengan Ω. Suatu kejadian A adalah himpunan bagian dari Ω.
[Grimmett dan Stirzaker, 1992]
Definisi 1.2 (Medan-σ )
Medan-σ adalah suatu himpunan yang anggotanya terdiri atas himpunan bagian
ruang contoh Ω, yang memenuhi kondisi berikut:
1.φ∈F,
2.Jika A1,A2,K∈F maka ∈F
∞
= U
1
i i
A , 3.Jika A∈F makaAc∈F .
[Grimmett dan Stirzaker, 1992]
Definisi 1.3 (Ukuran Peluang)
Misal F
adalah m edan-
σ dari ruang contoh Ω. Ukuran peluang adalah suatu fungsi[ ]
0,1 :F →P pada
(
Ω,F)
yang memenuhi: 1. P( )
φ =0, P( )
Ω =1,2. Jika A1,A2,K∈F adalah himpunan
yang saling lepas yaitu AiIAj =φ
( )
∑ =
∞
= ∞
=1 i1 i
i i
A P A
P U .
Pasangan
(
Ω,F,P)
disebut ruang peluang. [Grimmett dan Stirzaker, 1992]Definisi 1.4 (Kejadian Saling Bebas)
Misal
(
Ω,F,P)
ruang peluangdanA,B∈F . Kejadian A dan B dikatakan saling bebas jika
(
A B) ( ) ( )
P A PBP I = . .
Misal I adalah himpunan indeks. Himpunan kejadian
{
Ai,i∈I}
dikatakan saling bebas jika( )
∏ =
∈
∈J i J i
i i
A P A P I
untuk setiap himpunan bagian berhingga J
dar i I.
[Grimmett dan Stirzaker, 1992]
Teorema 1.5 (Teorema Bayes)
Misal
(
Ω,F,P)
ruang peluang danF
∈ i
C
,
i=1,2,..,k. Misalkan kejadian C
terjadi hanya dengan salah satu kejadian Ci. Maka peluang bersyarat dari Cj setelahdiketahui C adalah
( )
∑
=
= ∩
= k
i i i
j j j
j
C C P C P
C C P C P C
P C C P C C P
1
) ( ) (
) ( ) ( ) ( ) (
[bukti lihat Hogg dan Craig, 1992]
Teorema 1.6 (Peluang Bersyarat Dari Dua Kejadian Saling Bebas)
Misal
(
Ω,F,P)
ruang peluangdanA,B∈F . Jika A dan B merupakan kejadian yang saling bebas, maka peluang bersyarat dari A setelah diketahui B adalah
( )
AB P( )
AP = .
[Grimmett dan Stirzaker, 1992]
Teorema 1.7 (Absolut Kontinu)
Jika v dan µ merupakan ukuran peluang pada
(
Ω,F)
. Ukuran peluang v dikatakan absolut kontinu ke ukuran peluang µ jika0 = A
µ maka vA=0, untuk setiap A∈F. Dinotasikan v<<µ
[Royden, 1963]
Teorema 1.8 (Radon-Nikodym)
Jika P dan P merupakan dua ukuran peluang pada
(
Ω,F)
sehingga untuk setiapF
∈
B , P
( )
B =0 menyebabkan P( )
B =0, akibatnya ada peubah acak tak-negatifΛ, sehingga( )
=∫
ΛC
dP C
P untuk semua
F
∈
C . Dinotasikan dP/dP F=Λ.
[Bukti lihat Wong dan Hajek, 1985]
2.2 Peubah Acak dan Fungsi Sebaran
Definisi 2.1 (Peubah Acak)
Misal F adalah m edan-σ dari ruang contoh Ω. Suatu peubah acak X adalah suatu fungsi X:Ω→ℜ dengan sifat
( )
{
ω∈Ω;Xω ≤x}
∈F, untuk setiap x∈ℜ. [Grimmett dan Stirzaker, 1992]. Peubah acak dinotasikan dengan huruf besar seperti X,Y,Z. Sedangkan nilai peubah acak dinotasikan dengan huruf kecil seperti x,y,z.Definisi 2.2 (Fungsi Sebaran)
Misal
(
Ω,F,P)
ruang peluang. Fungsi sebaran dari peubah acak X adalah suatu fungsi F:ℜ→[ ]
0,1 yang didefinisikan oleh( ) (
x P X x)
FX = ≤ .[Grimmett dan Stirzaker, 1992].
Definisi 2.3 (Peubah Acak Diskret) Peubah acak X dikatakan diskret jika nilainya hanya pada himpunan bagian yang terhitung dari ℜ.
[Grimmett dan Stirzaker, 1992].
Catatan:
Suatu himpunan bilangan C disebut terhitung jika C terdiri atas bilangan berhingga anggota C dapat dikorespondensikan 1-1 dengan bilangan bulat positif.
Definisi 2.4 (Fungsi Kerapatan Peluang)
Misal
(
Ω,F,P)
ruang peluang. Fungsi kerapatan peluang dari peubah acak diskretX adalah fungsi p:ℜ→
[ ]
0,1 yang diberikan oleh( ) (
x P X x)
pX = = .[Grimmett dan Stirzaker, 1992].
, ) ( )
(x f u du F
x X X = ∫
∞
− ∈ℜ
x , dengan f :ℜ→
( )
0,∞ adalah fungsi yang terintegralkan. Fungsi f dikatakan fungsi kepekatan peluang dari peubah acak X[Grimmett dan Stirzaker, 1992].
Definisi 2.6 (Fungsi Sebaran Bersama Dua Peubah Acak)
Fungsi sebaran bersama dari dua peubah acak X dan Y adalah suatu fungsi
[ ]
0,1 :ℜ→F yang didefinisikan oleh
( ) (
x y P X xY y)
F , = ≤ , ≤ .
[Grimmett dan Stirzaker, 1992].
Definisi 2.7 (Fungsi Kepekatan Peluang Bersama dan Fungsi Kepekatan Peluang Marjinal)
Misalkan X dan Y adalah peubah acak kontinu, maka fungsi kepekatan peluang bersama dari X dan Y adalah fungsi yang didefinisikan oleh
y x
y x F fX Y
∂ ∂ ∂ = 2 ( , ) dan
dx y x f y
fY( )= ∫ XY( , )
∞ ∞ −
adalah fungsi kepekatan peluang marjinal dari peubah acak Y.
[Grimmett dan Stirzaker, 1992].
Definisi 2.8 (Fungsi Kepekatan Peluang Bersyarat)
Misalkan X dan Y adalah peubah acak kontinu dengan fungsi kepekatan peluang marjinal fY(y)>0, maka fungsi kerapatan peluang bersyarat dari X dengan syarat
y Y= adalah
) (
) , ( ) (
y f
y x f y x f
Y XY Y
X =
dengan fXY fungsi kepekatan peluang bersama dari X dan Y.
[Grimmett dan Stirzaker, 1992].
Definisi 2.9 (Nilai Harapan)
Jika X adalah peubah acak diskret dengan fungsi kerapatan peluang pX
( ) (
x =P X =x)
maka nilai harapan dari X adalah
[ ]
=∑( )
x X
x p x X
E ,
asalkan jumlah di atas konvergen mutlak. [Hogg dan Craig, 1995]
Definisi 2.10 (Nilai Harapan)
Jika X adalah peubah acak kontinu dengan fungsi kepekatan peluang fX(x) maka nilai harapan dari X adalah
[ ]
X xf x dx E = ∫ X( )∞ ∞ −
, asalkan integralnya ada.
[Hogg dan Craig, 1995]
Definisi 2.11 (Nilai Harapan Bersyarat)
Jika X dan Y adalah peubah acak kontinu dengan fXY
( )
xy adalah fungsi kepekatan peluang bersyarat dari X dengan syaraty
Y= , maka nilai harapan dari X dengan syarat Y=y adalah
[
XY y]
xf xy dx E = = ∫ XY( )∞ ∞ −
. [Hogg dan Craig, 1995]
Definisi 2.12 (Nilai Harapan Bersyarat)
Misal
(
Ω,F,P)
ruang peluang dan A sub-medan-σ dariF.
Jika X peubah acak taknegatif dan terintegralkan maka E
( )
X Adidefinisikan sebagai peubah acak yang terukur-A dan bersifat tunggal kecuali pada kejadian peluang nol, serta memenuhi
[ ]
∫ = ∫
A A
dP X E dP
X A , ∀A∈A
[Elliot, Lakhdar dan Moo re, 1995]
Lemma 2.13 (Penentuan Nilai Harapan melalui Nilai Harapan Bersyarat)
Jika X dan Y adalah peubah acak, maka nilai harapan dari X dapat ditentukan lewat nilai harapan X dengan syarat Y sebagai berikut:
[ ]
X E[
E[ ]
XY]
E = .
[Hogg dan Craig, 1995]
Lemma 2.14 (Ragam dari Fungsi Linear)
Misalkan Xi peubah acak dengan rataan i
µ dan ragam σi2, i=1,2,...,k. Jika k
X X
X1, 2,L, saling bebas dan k
c c
c1, 2,L, adalah konstanta, maka rataan dan ragam dari fungsi linear
k kX
c X
c X c
Y= 1 1+ 2 2+L+ adalah
∑
= = k i
i i
Y c
1
µ µ
dan
∑
=
= k i
i i
Y c
1 2 2
2 σ
σ
Lemma 2.15
Misalkan X peubah acak dari sebaran normal baku, X ~N(0,1), maka Y=aX adalah peubah acak sebaran normal dengan rataan nol dan ragam a2, aX ~N(0,a2),
dan Y=aX+b adalah peubah acak sebaran normal dengan rataan b dan ragam a2,
) , ( ~N b a2 b
aX+ .
[bukti lihat Hogg dan Craig, 1992]
2.3 Rantai Markov
Definisi 3.1 (Ruang State)
Misalkan S⊂ℜN, N∈Ν, merupakan nilai dari barisan peubah acak, maka S disebut
ruang state
[Grimmett dan Stirzaker, 1992
Definisi 3.2 (Proses Stokastik)
Proses Stokastik {Xk:k∈Ν} yang terdefinisi pada ruang peluang
(
Ω,F,P)
adalah suatu himpunan dari peubah acak yang memetakan suatu ruang contoh Ω ke ruang state S .
[Ross, 1996]
Definisi 3.3 (Rantai Markov dengan Waktu Diskret)
Misal
(
Ω,F,P)
ruang peluang dan S ruang state . Proses stokastik {Xk:k∈Ν} dengan ruang state S={
e1,e2,K,eN}
, disebutRantai Markov dengan waktu diskret jika untuk setiap k = {0, 1,....} berlaku
) ,
, ,
(X 1 jX i X 1 i 1 X0 i0 P k+ = k = k− = k− L =
) (X 1 jX i P k = k =
= +
untuk semua kemungkinan nilai dari S
j i i i
i0,1,L,k−1, , ∈ .
[Grimmett dan Stirzaker, 1992].
Definisi 3.4 (Matriks Transisi)
Misalkan {Xk :k∈Ν} rantai Markov dan S ruang state yang berukuran N. Matriks transisi P=
( )
pji berukuran N x N adalahmatriks dari peluang transisi
(
X jX i)
Ppji= k+1= k = untuk i,j=1,2,..., N
[Grimmett dan Stirzaker, 1992].
Definisi 3.5 (Rantai Markov yang Homogen)
Rantai Markov
{ }
Xk disebut homogen jikaji k
k jX i P X jX i p
X
P( + = = )= ( = = )=
0 1 1
untuk semua k∈N dan i,j∈S
[Grimmett dan Stirzaker, 1992].
Definisi 3.6 (Martingale)
Proses Stokastik {Xk:k∈Ν}disebut proses
Martingale jika
[ ]
Xk <∞ Euntuk semua k dan
[
Xk X X Xk]
XkE +1 1, 2,L, =
[Ross, 1996]
Definisi 3.7 (Inkremen Bebas dan Inkremen Stasioner)
1) Suatu proses stokastik {Xk:k∈Ν} dengan waktu kontinu disebut
inkremen bebas jika untuk semua k
k k
k
k0< 1< 2<L< peubah acak 1
0
1− k , , kt − kt−
k X X X
X L adalah
bebas.
2) Suatu proses stokastik {Xk:k∈Ν} dengan waktu kontinu disebut memiliki
inkremen stasioner jika Xk+l−Xk
memiliki sebaran yang sama untuk semua nilai k,l∈Ν
[Grimmett dan Stirzaker, 1992].
Definisi 3.8 (Filtrasi)
Misalkan G=
{
G0,G1,K}
merupakanbarisan submedan -σ dari F, G disebut
filtrasi jika Gk ⊆Gk+1 untuk semua k∈N [Grimmett dan Stirzaker, 1992].
Definisi 3.9 (Measurable/ terukur)
Misal
(
Ω,F,P)
ruang peluang. Jika( )
{
ω∈Ω;Xω ≤x}
∈F untuk setiap x∈ℜ maka X dikatakan terukur-F[Grimmett dan Stirzaker, 1992].
Definisi 3.10 ( Adapted)
Misal
(
Ω,F,P)
ruang peluang. Barisan peubah acak X ={
Xk:k∈Ν}
dikatakanadapted ke filtrasi F jika Xk merupakan
terukur-F
untuk semua
k[Grimmett dan Stirzaker, 1992].
Defnisi 3.11 ( Predictable )
filtrasi Fk jika
{ }
Φk adalah terukur-Fk−1untuk setiap k∈N.
[Elliot, Lakhdar dan Moore, 1995]
2.4 Ruang Perkalian Dalam
Definisi 4.1 (Ruang Vektor)
V disebut ruang vektor, jika untuk setiap vektor u,v,w∈V dan sebarang skalar k dan
l dipenuhi aksioma berikut: 1. Jika u,v∈V, maka u+v∈V 2. u+v=v+u
3. u+(v+w)=(u+v)+w
4. Ada 0∈V sehingga 0+u=u+0=u, V
u∈ ∀
5. Untuk ∀u∈V, ada −u∈Vyang dinamakan negatif u sehingga
0 ) ( )
(− = − + =
+ u u u
u
6. jika k adalah sebarang skalar dan V
u∈ , maka k u∈V 7. k(u+v)=k u+k v 8. (k+l)u =k u+lu 9. k(lu)=(k l)u 10. 1u=u
[H. Anton,1997]
Definisi 4.2 (Perkalian Dalam)
Jika u=
(
u1,u2,Kun)
dan v=(
v1,v2,K,vn)
adalah sebarang vektor pada ℜn, maka hasil kali dalam euclid u.v didefinisikan dengann nv u v u v u v
u. = 11+ 2 2+L+ . [H. Anton,1997]
Definisi 4.3 (Ruang Hasil Kali Dalam)
Sebuah hasil kali dalam pada ruang vektor real V adalah fungsi yang mengasosiasikan bilangan real u,v dengan masing – masing pasangan vektor u dan v pada V
sedemikian rupa sehingga aksioma-aksioma berikut dipenuhi untuk semua u,v,w∈V
skalar k.
1. u,v = v,u 2. u+v,w = u,w + v,w 3. k u,v =k u,v 4. v,v ≥0;dan v,v =0 jika dan hanya jika v=0
Sebuah ruang vektor real dengan sebuah hasil kali dalam dinamakan ruang hasil kali dalamreal
[H. Anton,1997]
III. PEMBAHASAN
3.1 Pemodelan
Misalkan {Xk :k∈Ν} adalah rantai Markov yang bersifat homogen dan tidak diamati secara langsung, serta {yk :k∈Ν} adalah proses observasi. Pasangan {Xk,yk} disebut model hidden Markov.
Misal X adalah salah satu dari vektor unit i
e , 1≤i≤N, dimana hanya elemen ke-i
yang bernilai 1 dan sisanya 0. Maka
) (
) ( , )
, (
1
i N
j
j i
j i
e X P
e X P e e e
X E
= =
=
=
∑
=
(1.1)
Tanpa kehilangan keumuman, ruang state untuk X yang mempunyai N elemen, dituliskan
} ,... {1 N
X e e
S =
Notasikan Fk0 untuk medan−σ yang dibangun oleh X0,....,Xk serta {Fk} sebagai filtrasi lengkap yang dibangun oleh
0 k
F . Berdasarkan sifat M arkov, diperoleh ) (
)
(Xk 1 ej k P Xk 1 ej Xk
P + = F = + = .
(1.2) Misalkan
( )
, 1) (
1 1
= =
= = =
∑
= +N
j ji N
x N ji
i k j k ji
a a
A
e X e X P a
, (1.3)
akibatnya berdasarkan (1.1), maka k k k k
k E X X AX
X
(1.4) Definisikan
k k
k X AX
V+1= +1− (1.5)
dan
[
]
[
] [
]
[
]
0 ) (
1 1 1
= − =
− =
− =
− =
+ + +
k k
k k k
k k k
k
k k k k
AX AX
X X AE AX
X AX E X X E
X AX X
E V
E Fk
sehingga {Vk} adalah barisan inkremen
Martingale. Dari (1.5) diperoleh
1
1 +
+ = k+ k
k AX V
X (1.6)
yang disebut persamaan state.
Selanjutnya misalkan
{ }
Hk adalah medan-σ yang dibangun oleh X0,X1,...,Xk,k
y
y1,..., dan Gk adalah medan-σ yang dibangun oleh y1,....,yk. Perkembangan dari keluarga medan-σ ini berbentuk filtrasi. Selain state dari X , terdapat suatu proses pengamatan yang bernilai skalar, yaitu:
( ) ( )
11 +
+ = k + k k
k c X X
y σ ω (1.7)
dengan {ωk+1}merupakan barisan peubah acak dari sebaran normal dengan rataan nol dan varian 1, N
( )
0,1 , yang bebas dan identik. Karena X∈SX, maka fungsi dari cdan σ didefinisikan sebagai vektor
(
c1,c2, ,cN)
'c= K
dan
(
σ1,σ2, ,σN)
' σ = K di ℜN, serta
( )
Xk c Xkc = ,
( )
Xk σ,Xkσ = ,
dengan σi >0, 1≤i≤N, dan ., . menyatakan perkalian dalam vektor di ℜN
. Berdasarkan (1.6) dan (1.7), diperoleh persamaan state dari HMM dengan peluang
P
( )
11
1 1
)
( +
+
+ +
+ =
+ =
k k k
k
k k k
X X
c y
V AX X
ω σ
(1.9)
3.2 Nilai Harapan Bersyara t
Karena {ωk+1}merupakan barisan peubah acak dari sebaran normal, N
( )
0,1, yang bebas dan identik, maka tidak tergantung pada Hkdan
Gk⊂Hk.Untuk t∈ℜ, sebaran bersyarat dari
y
k+1setelah diketahui Gk adalah
( ) ( )
(
)
( ) ( )
(
)
(
)
(
)
( )) (
, ) ,
) ,
( ) (
1 1
1 1
1 1
1 1
1
k k
k k k k
k
G G
G G G G
G
i k N
i i i k
i k N
i k k k k i
N
i k k k k i
N
i k k i
k
e X P t c
P
e X P
e X t X
X c P
e X t X
X c P
e X t y P
t y P
=
∑ + ≤
=
=
∑ + ≤ =
=
∑ + ≤ =
=
∑ ≤ =
= ≤
= +
= +
= +
= +
+
ω σ
ω σ
ω σ
(
)
( ).1 1 k
G
i k N
i i k i
e X P c t
P =
∑ ≤ −
=
= σω +
Misalkan
[
kGk]
k E X
X = maka
i k
i k
i k i
k
e X
e X E
e X E e
X P
, ), (
) , ( ) (
= =
= =
k
k k
G
G G
Misalkan
) 2 / ( exp ) 2 ( )
( i 1/2 2 i
i x = πσ −x σ
Φ −
untuk fungsi kepekatan dari N
(
0,σi)
, akibatnyadx x e
X t
y P
i c t
i N
i i
k
k ≤ =∑ ∫ Φ
−
∞ − =
+ ) , ( )
(
1
1 Gk .
Jadi fungsi kepekatan bersyarat untuk yk+1 setelah diketahui Gk, yaitu:
∑
= Φ −
N
i
i i i
k e t c
X
1
) (
, .
Sedangkan untuk fungsi sebaran bersama diperoleh
(
k) (
k)
k
G G
G
i k i
k k
k i k
e X P e X t y P
t y e X P
= =
≤ =
≤ =
+ +
, ) ,
(
( ) ( )
(
)
(
)
(
)
(
)
(
)
dx x e X c t P e X P e X P e X t X X c P i c t i i k i k i i k i k i k k k k ∫ Φ = − ≤ = = = = ≤ + = − ∞ − + + ) ( , , 1 1 ω σ ω σ k k k G G GDengan menggunakan aturan Bayes, maka
[
]
(
)
∑ Φ − − Φ = = = = = ∑ = = = + + + + + = + + Ni i j k i
k i k i i k k k i k k i k N
j j i k j k
k i k c y e X c y e X y P y e X P y e X P e X P e e e X E 1 1 1 1 1 1 1 1 1 ) ( , ) ( , ) ( ) , ( , ) ( , , k k k G G G G G akibatnya
[
]
[
]
) 1 . 2 ( ) ( , ) ( , , 1 1 1 1 1 1 1 ∑ Φ − ∑ Φ − = ∑ = = + = + = + + Nj j j k j
k
i N
i i i k i
k
i N
i k i k
k k c y e X e c y e X e e X E X
E G G
Teorema 2.1
[
]
) 2 . 2 ( ) ( , ) ( , 1 1 1 1 1 1 1 ∑ Φ − ∑ Φ − = = = + = + + + + Nj j j k j
k
i N
i i i k i
k k k k c y e X e A c y e X X E X G Bukti: k k
k X AX
V +1= +1− merupakan inkremen martingale dari Fk
.
Karena ωk+1 bersifat bebas identik, maka[
Vk+1Hk, k+1] [
=E Vk+1Fk]
=0E ω akibatnya
[
]
[
[
(
)
]
]
(
)
[
]
[
]
0 , , 1 1 1 1 1 1 1 1 = = = + + + + + + + + k k k k k k k k k k V E E V E E V E G H H G G ω ω dan[
]
[
]
[
1]
1 1 1 1 1 + + + + + + = + = = k k k k k k k k AX E V AX E X E X G G G
[
]
∑ Φ − ∑ Φ − = = = + = + + Nj j j k j
k
i N
i i i k i
k k k c y e X e A c y e X X E A 1 1 1 1 1 ) ( , ) ( , G
¦
3.3 Perubahan Ukuran
Secara umum, untuk memprediksi kemungkinan suatu kejadian di masa yang akan datang, dilakukan upaya pengubahan ukuran peluang dengan peluang baru di dunia maya, sehingga diperoleh variasi bentuk objek secara matematik, yang akan diinterpretasikan kembali ke dunia nyata dengan peluang asal. Perubahan peluang ini dibatasi oleh turunan Radon-Nikodym. Seperti pada pembahasan sebelumnya,
(.)
ω merupakan peubah acak yang terdefinisi pada
(
Ω,F,P)
dengan fungsi kepekatan Φ(ω) dan c serta σ diketahui bernilai konstan. Tulis y(.)=c+σω(.) Misalkan P ukuran peluang baru dengan fungsi kepekatan λ, sehingga dP/dP=λ, dan di bawah P, peubah acak y mempunyai fungsi kepekatan Φ.ω ω ω λ λ σ ω d I dP I P d I dy y t y P c t t y t y t ) ( ) ( ) 1 . 3 ( ) ( ) ( Φ = = = Φ = ≤
∫
∫
∫
∫
∞ ∞ − ≤− Ω ≤ Ω ≤ ∞ − . ) ( ) ( σ ω ω λ dy t∫
∞ − Φ = (3.2)Dari persamaan (3.1) dan (3.2), diperoleh
) ( ) ( ) ( ω σ ω λ Φ Φ = y .
Proses pengamatan yk, k∈Ν, mempunyai bentuk yk+1=c
( ) ( )
Xk +σ X ωk+1,
dengank
1
) (
) ( ,
0
1
= Λ
Φ Φ
= −
l l l
l
y X
ω σ λ
, l∈Ν
dan
C
kl l k
1
=
=
Λ λ , k≥1
Definisikan ukuran peluang baru P sebagai berikut dP dP =Λk
k
H
) /
(
.
Teorema 3.1 (Teorema Bersyarat Bayes) Misal (Ω,F,P) merupakan ruang peluang dan G submedan−σ dari F . Misal P ukuran peluang lain yang kontinu absolut yang berpadanan dengan P serta dengan menggunakan aturan turunan Radon-Nikodym.
Λ = dP
P d
Jika Φ adalah sebarang peubah acak yang bisa diintegralkan dari terukur- F , maka
[ ] [
[ ]
]
G G G
Λ ΦΛ = Φ
E E E
Bukti:
Misalkan B sebarang himpunan pada G. Akan ditunjukkan :
[ ]
[
[ ]
]
dP EE P d E
B∫ B∫ Λ
ΦΛ = Φ
G G G
Misalkan
[
]
[ ]
GG
Λ ΦΛ =
E E
ϕ jika E
[ ]
ΛG >0 dan ϕ =0 selainnya. Maka E[ ]
ΦG =ϕ.
M isalkan A sebarang himpunan pada G. Harus ditunjukkan ∫ Φ
[ ]
=∫A A
P d P d
E G ϕ .
Misal G=
{
ϑ:E[ ]
ΛG =0}
. Maka[ ]
= =∫ Λ∫ Λ
G G
dP dP
E G 0 dan Λ≥0. Sehingga P(G)=0, dengan kata lain
0 =
Λ hampir pasti di G.
Selanjutnya Gc =
{
ϑ:E[ ]
ΛG >0}
. MisalG
∈
A ; A=B
U
C, dimana B=AI
Gcdan C=A
I
G Sehingga[ ]
dP dP
dP
P d P d E
C B
A
A A
Λ ∫ Φ + Λ ∫ Φ =
Λ ∫ Φ =
∫ Φ = ∫ ΦG
(3.3)
nilai Λ=0untuk C⊂Gsehingga
∫
∫
ΦΛ = =C C
P d
dP 0 ϕ (3.4) Sekarang
[
]
[ ]
[
]
[ ]
Λ ΦΛ =
∫ Λ ΦΛ = ∫
G G G
G
E E I E
P d E E P d
B B B
ϕ
[
]
[ ]
[
]
[ ]
[ ] [
[ ]
]
[
]
[
]
[
ΦΛ]
=ΦΛ =
Λ ΦΛ Λ
=
Λ ΦΛ Λ =
Λ ΦΛ Λ =
B B B
B B
I E
E I E
E E E I E
E E I E E
E E I E
G G
G G
G G
G G
G
akibatnya
∫
∫
ΛΦ =B B
P d P
d ϕ (3.5)
berdasarkan (3.4) dan (3.5), maka untuk (3.3) diperoleh
[ ]
=∫∫ Φ =
∫ΦΛ =∫ ΛΦ +
∫ΦΛ
A A
C A
B
P d P d E
dP dP
dP
ϕ
G
¦
Dengan menggunakan bukti yang serupa, diperoleh lemma berikutLemma 3.2
Jika
{ }
Φk merupakan barisan peubah acak yang bisa diintegralkan[
] [
[
]
]
k k k
G G G
k k k k
E E E
Lemma 3.3
Di bawah P, yk merupakan peubah acak dari N
( )
0,1 yang bebas identikBukti:
(
)
[
k]
k H
H EI y t
t y
P( k+1≤ )= k+1≤
berdasarkan teorema Bayes, maka
(
)
[
]
[
]
(
)
[
]
[
]
(
)
[
]
[
]
(3.6) . 1 1 1 1 1 1 1 1 1 k k k k k k H H H H H H + + + + + + + + + ≤ = ≤ Λ Λ = Λ ≤ Λ = k k k k k k k k k k k E t y I E E t y I E E t y I E λ λ λ λdi lain pihak
[
]
(
)
( )
(
)
(
)
( )
( )
) 7 . 3 ( 1 , , , 1 1 1 1 1 1 1 1 1 1 1 1 = ∫ Φ = ∫ Φ = ∫ Φ Φ Φ = ∫ Φ = ∞ ∞ − + + + ∞ ∞ − + + ∞ ∞ − + + + + ∞ ∞ − + + + k k k k k k k k k k k k k k k dy y X dy y X d y X d E σ σ ω ω ω σ ω ω λλ Hk
berdasarkan (3.6) dan (3.7), diperoleh
(
)
[
]
(
1) (
1)
1 1 1 1 1 ) ( + ∞ ∞ − + + + + + + ∫ ≤ Φ = ≤ = ≤ k k k k k k k d t y I t y I E t y P ω ω λ λ k k H H(
)
(
)
(
)
(
)
(
) (
)
(
)
) ( , , 1 1 1 1 1 1 1 1 1 1 1 t y P dy y dy t y I y X dy t y I y X k k t k k k k k k k k k k k ≤ = Φ = ≤ Φ = Φ ≤ Φ Φ = + + ∞ − + + + ∞ ∞ − + + + ∞ ∞ − + + +∫
∫
∫
σ ω ω σ¦
Kemudian akan ditentukan ukuran peluangP, sehingga di bawah P
k k k k X X c y , , 1 1 σ ω + = + −
Untuk menentukan nilai P dari P, terlebih dahulu dicari invers untuk λl dan Λk. Dengan menggunakan aturan Radon-Nikodym yaitu dP/dP=λ. Di bawah P, peubah acak ω mempunyai kepekatan peluang
Φ
. Maka) 9 . 3 ( ) ( ) ( ) ( ) ( ) 8 . 3 ( ) ( ) ( 1 1 1 ω σ λ λ λ ω ω ω σ ω ω ω d y y dy y y I P d I dP I d t P t c t y t c t t k k k ∫ Φ = Φ ∫ = ∫ = ∫ = ∫ Φ = ≤ ∞ − Ω ≤ − ∞ ∞ − ≤ ∞ ∞ − ≤− ∞ − + + +
dari persamaan (3.8) dan (3.9), diperoleh
( )
1 ) ( , 0 1 1 = Λ Φ Φ = = − − l l l l l y X σ ω λ λ, l∈Ν
dan Ck l l k 1 = = Λ λ
Definisikan P dengan batasan k
P d
dP/ )Hk =Λ
(
.
Syarat agar nilai Pterpenuhi, yaitu σ,Xl−1 ≠0
.
Jika komponen dari c semuanya berbeda dan0 ,Xl−1 =
σ , maka diperoleh pengamatan r
k c
y +1= yang mengakibatkan Xk =er.
Lemma 3.4
Di bawah P,
{ }
ωk , k∈Ν, merupakan barisan peubah acak dari N( )
0,1 yang bebas identik.Bukti:
(
)
[
k]
k H
H E I t
t
P(ωk+1≤ )= ωk+1≤ berdasarkan teorema Bayes, maka
(
)
[
]
[
k]
(
)
[
]
[
]
(
)
[
]
[
]
(3.10) . 1 1 1 1 1 1 k k k k H H H H + + + + + + ≤ = ≤ Λ Λ = k k k k k k k k E t I E E t I E λ ω λ λ ω λdi lain pihak
[
]
(
)
(
)
(
) (
)
(
)
(
)
) 11 . 3 ( 1 , , , 1 1 1 1 1 1 1 1 1 1 1 1 = ∫ Φ = ∫ Φ = ∫ Φ Φ Φ = ∫ Φ = + ∞ ∞ − + + ∞ ∞ − + + ∞ ∞ − + + + + ∞ ∞ − + + + k k k k k k k k k k k k k k k d d X X dy y y X dy y E ω ω ω σ σ ω σ ω λ λ Hkberdasarkan (3.10) dan (3.11), diperoleh
(
)
[
]
(
) ( )
( )
(
) ( )
( ) (
)
(
)
) ( , , ) ( , ) ( 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 t P d d X t I X dy y t I y X dy y t I t I E t P k k t k k l k l l k k k l l l k k k k k k k ≤ = ∫ Φ = ≤ ∫ Φ = Φ ∫ ≤ Φ Φ = ∫ ≤ Φ = ≤ = ≤ + + ∞ − + + − + ∞ ∞ − − + + ∞ ∞ − − + + ∞ ∞ − + + + + + + ω ω ω ω σ ω σ ω ω σ ω ω λ ω λ ω k k H H¦
3.4 Pendugaan Rekursif
Notasi 4.1 Jika
{ }
Hk , k∈Ν, merupakan sebarang barisan adapted ke{ }
Gk , notasikan( )
k[
k kGk]
k H =EΛ H
γ . (4.1)
( )
k k Hγ merupakan nilai harapan takternormalkan dari Hk setelah diketahui
k
G . Dengan menggunakan teorema Bayes, maka
[
]
[
[
]
]
( )
( )
1 ˆ k k k k k k k k k H E H E H E H γ γ = Λ Λ = = G GGk k
(4.2) dan γ0
( ) ( )
X0 =E X0 sebagai nilai awal. Misalkan{ }
Hk , k∈Ν, merupakan barisan skalar. Dengank k
k H H
H = −
∆ +1 +1 , Hk+1=Hk +∆Hk+1
dan
(
)
[
]
[
1 1 1]
1 1 1 1 + + + + + + + ∆ Λ + Λ = k k k k k k k k H E H E H G G γ
Perhatikan bentuk pertama dari persamaan sebelah kanan
[
]
[
1 1]
1 1 + + + + Λ = Λ k k k k k k k H E H E G G λ
(
)
Φ − Φ Λ = + + + 1 1 1 , , , k k k k k k k k y X X X c y H E G σ σNotasi 4.2 tulis
( )
( )
( ) () ( ).( )
( ). . . . e y c y y k k k Φ − Φ = Γ σ σdan ∑iN=1 Xk,ei =1 serta yn, 1≤n≤k+1, diketahui, maka
[
]
[
]
(
)
(
)
Φ − Φ Λ ∑ = Φ − Φ Λ = Λ = Λ + + + = + + + + + + + 1 k 1 k 1 k 1 k G G G G 1 1 1 1 1 1 1 , , , , k i i i k k k Ni k i
(
)
( )(
)
[
]
(
)
( )(
)
∑ Γ = Γ Λ ∑ = Φ − Φ Λ ∑ = = + + + = + + + = N i k i k k k i k k k N i i k i i i k k k k N i y X H y X H E e y c y X H E 1 1 1 1 1 1 1 , , , γ σ σ 1 k 1 k G G1 menunjukkan vektor dari
(
1,1,K,1)
∈ℜN, sehingga 1 , 1 , 1 = ∑ = = Ni k i
k X e
X
akibatnya, jika sekali saja pendugaan takternormalkan, γk
(
HkXk)
, diketahui, maka pendugaan untuk γk( )
Hk dapat diperoleh dengan menjumlahkan semua komponen γk(
HkXk)
, yaitu
(
)
(
)
(
)
( )
(4.3) 1 , 1 , 1 , k k k k k k k k k k k H X H X H X H γ γ γ γ = = =untuk Hk =1
,
maka persamaannya menjadi(
)
( )
(
)
(4.4)1 , 1 , ) 1 ( k k k k k k k E X X G Λ = = = γ γ γ
persamaan (4.4) diperoleh dari persamaan (4.1). akibatnya, jika γk
( )
Xk ditentukan, maka faktor penormalan dapat diperoleh dengan menjumlahkan komponen pendugaan takternormalkan γk( )
Xk .Lemma 4.3
diag (z) menunjukkan matriks diagonal dengan vektor z pada diagonalnya, maka
(
)
( )
)' ( ' ) 5 . 4 ( 1 ' 1 1 ' 1 1 k k k k k k k k k AX V V AX A X diag A V diag AX diag V V + + + + + − − − + = dan[
]
' ) ( : 1 ' 1 1 A X diag A AX diag V V E V k k k k k k − = = + + + F (4.6) Bukti:(
)(
)
(
)
(
)
(
)
' 1 1 1 1 1 1 ' 1 1 ' ' ' ' + + + + + + + + + + + = + + = k k k k k k k k k k k k k k V V V AX AX V AX AX V AX V AX X X karena(
)
(
)
(
1)
1 ' 1 1 + + + + + = = k k k k k V diag AX diag X diag X X
maka persamaan (4.5) dipenuhi. Vk+1 merupakan inkremen Martingale, maka persamaan (4.6) dipenuhi.
¦
Notasi 4.4 untuk sebarang proses Hk yang
adapted- G
,
k∈Ν. misal
( )
m[
k m kGk]
k
m, H =EΛ H X
γ
Teorema 4.5
Misal Hkadalah skalar proses adapted-G dari bentuk: H0 merupakan terukur-Fk
,
(
)
,, 1 1 1
1 1
1 + + + + +
+ = k+ k + k k + k k
k H V f y
H α β δ
1 ≥
k
,dengan
Vk+1=Xk+1− AXk,
f skalar, dan α , β, δ adalah proses predictable-G(β merupakan vektor berdimensi N). Maka
(
)
(
)
(
) (
)
{
(
)
(
)
(
)
(
)
(
)
( )
(
')
(
1(
1)
)}
1 1 1 1 1 1 1 1 1 , 1 1 1 1 , , , , + + + + + + + = + + + + + + + Γ − + Γ + Γ + Γ = =
∑
k i k k k i i i i k k i k k k i k i k k k i N i k i k k k k k k k k k y X a a a diag a y f y X a y X a y X H H X H β γ δ γ α γ γ γ γ i i Ae a = Bukti :(
)
[
]
(
[
(
))
(
1)
1 1]
(
))
((
[
)
]
(
))
((
)
]
((
(
))
(
)
]
(
) (
)
{
(
)
(
)
(
)
(
)
(
)
( )
(
)
(
1(
1)
)}
' 1 1 1 1 1 1 1 1 1 1 ' 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1 1 1 1 , , , , , ) ( , , , , + + + + + + + = + + + + + + + = + + + + + + + = + + + + + + + + + + Γ − + Γ + Γ + ∑ Γ = − + Λ ∑ + = Λ + ∑ + + = Λ + + + = k i k k k i i i i k k i k k k i k i k k k i N i k i k k k k i k k k i i i i k k i k k N
i k k k i k k k i
k k k k k k N
i k i k k k k i
k k k k k k k k k y X a a a diag a y f y X a y X a y X H e X a a a diag a y f e X e X e H X E V a y f H e X E V AX y f H E β γ δ γ α γ γ λ β δ λ λ α λ λ β δ α β δ α G G G
¦
3.5 State, Transisi, dan Waktu Kejadian 3.5.1 Penduga untuk State
Berdasarkan Teorema (4.5), pilih 1
0 =
= H
Hk , αk =0, βk =0, δk =0. Maka
(
)
(
)
(
)
( ) (
)
[
]
iN i k i k k i N
i i k i
i i k k k i N
i i k
i i k k i k N
i k i k k i k k a y X a e y c y X E a y c y e X E a e X E X ∑ Γ = ∑ Φ − Φ Λ = ∑ Φ − Φ Λ = ∑ Λ = = + = + + = + + = + + + 1 1 1 1 1 1 1 1 1 1 1 1 , , , , k k k k G G G G γ σ σ σ σ λ γ
3.5.2 Penduga Banyaknya Loncatan
Jika rantai Markov loncat dari state er pada waktu k ke state es pada waktu k+1,
N s r ≤
≤ ,
1 , maka Xk,er Xk+1,es =1. Banyaknya loncatan dari er ke es pada waktu k+1
adalah
(
)
s k r k sr r k rs s k s k r k rs s k r k rs s n kn n r
rs e V e X a e X e V e AX e X e X e X e X e X , , , , , , , , , , 1 1 1 1 1 1 1 + + + + = − + + + = + + = + = ∑ = k k k k J J J J
Dengan menggunakan Teorema (4.5), maka
( )
(
)
(
)
(
)
(
)
(
)
1 1)
1 1 1 1 1 1 1 1 1 1 1 , 1 , , ) ( * , , , + + + + + + + + + + + + + + Λ + + = Λ + + + = Λ = k k k s k r k k sr r k rs k k k k k k s k r k sr r k rs k k k rs k k rs k k k e V e X AX a e X E V AX e V e X a e X E X E G J G J G J λ λ γ J
(
( )
(
) )
)
(
)
(
)
( )
(
)
(
)
(
)
(
)
(
)
(
)
(
( )
')
1 1 1 1 1 1 1 ' 1 1 1 1 1 1 1 ' 1 , , , , * , , , , , r r r k r k k r sr k r k k Ni k i
i k rs k k r k r r r k k s r r r r sr r k r r r k k k N
i i k i i
i i k k rs k k k k k s r r r r i N
i k i i r sr r
rs k i k a a a diag y X a a y X a y X e y c y X e a a a diag a a e y c y X a e y c y X E e a a a diag e e a a e e a e X E − Γ + Γ + ∑ Γ = Φ − Φ − + Φ − Φ Λ + ∑ Φ − Φ Λ = Λ − + ∑ + = + + = + + + + + + = + + + + = γ γ γ σ σ σ σ σ σ λ k J G J G J
karena
(
diag( )
ar −arar')
es =asres−asr ar(
)
(
)
( ) (
,)
. , 1 1 1 s sr k r k k Ni k i
i k rs k e a y X a y X + = + Γ + ∑ Γ = γ γ Jk
3.5.3 Penduga untuk Waktu Kejadian
Misalkan Okrlamanya waktu, sampai waktu
k, X terjadi di state er. Maka
r k r k k
n n r
r k e X e X , , 1 1 1 1 + = ∑ = + = − + O O
untuk menduga Okr, digunakan Teorema (4.5) dengan memisalkan Hk+1=Okr+1,
0
0 =
H , αk+1= Xk,er , βk+1=0,
0
1=
+ k
δ , sehingga
( )
(
)
(
)
(
)
(
)
(
)
(
)
(
)
( )
( )
(
) ( )
( ) ( )
k rr k k N
i k i
i k k k k r r k r r r k k k N
i i k i i
i i k k k k k k i r i k N
i k i k k k k r k k k k k k k r k k k k k k k k k k a y X a y X a e y c y X a e y c y X E a e e e X E AX e X E V AX e X E X E 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 , 1 , , , , , , , ) ( , + = + + + + = + + + + = + + + + + + + + + + + + Γ + ∑ Γ = Φ − Φ Λ + ∑ Φ − Φ Λ = Λ ∑ + = + Λ = + + Λ = Λ = γ γ σ σ σ σ λ λ λ γ O G O G O G O G O G O O (5.3.1)
Penduga untuk Proses Pengamatan
Untuk menentukan kembali vektor varian
(
σ1, σ2, , σN)
'σ = K dan vektor
(
c1,c2, ,cN)
'c= K
pada proses pengamatan
( ) ( )
11 +
+ = k + k k
k c X X
y σ ω diperlukan
penentuan untuk proses dengan bentuk
( )
( )
( )
(
1)
1 1 1 1 , 1 , , + + = − + + = ≤ ≤ ∑ = k r k r k l k
l l r
r k y f e X f N r y f e X f T T (5.4.1)
dengan f menotasikan f
( )
y =yatau( )
2y y
f = . Dengan menggunakan Teorema 4.5 serta Hk+1=Tkr+1
( )
f,
H0 =0,0
1=
+ k
α ,βk+1=0 , δk+1=0, diperoleh
( )
(
)
( )
(
)
( )
(
)
(
)
(
)
( )
(
)
(
)
(
)
1 1 1 1 1 1 1 1 1 1 1 1 1 , 1 * , ) ( * , + + + + + + + + + + + + + + Λ + = Λ + + = Λ = k k k k k r k r k k k k k k k r k r k k k r k k r k k k AX y f e X f E V AX y f e X f E X f E f G T G T G T T λ λ γ( )
( )
(
)
)
( )
( )
( )
( )
( )
( )
(
k) ( )
k r rk k N
i k i
i k r k k k r k r k r r r k k k N
i i k i i
i i k k r k k k k k i k r i r k N
i k i
a y f y X a y X a y f e y c y X a e y c y X f E a y f e e f e X E 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 , , , , * , , + + = + + + + + = + + + + + = Γ + ∑ Γ = Φ − Φ Λ + ∑ Φ − Φ Λ = Λ ∑ + = γ γ σ σ σ σ λ T G T G T (5.4.2)
3.6 Reestimasi Parameter
Algoritma EM ( Maksimisasi Penduga) 1. Misalkan p=0 dan pilih θˆ0
2. (Langkah ke-E) Misalkan θ*=θˆp dan hitung Q
( )
.,θ* dengan( )
= G * * log , * θ θ θ θ θ dP dP E Q3. (Langkah ke-M) Cari
( )
* maxarg
1 ,
ˆ θ θ
θp+ ∈ θ∈Θ Q
Parameter yang digunakan pada pembahasan adalah
( )
{
aji ≤i j≤Nci ≤i≤N i ≤i≤N}
= ,1 , , ,1 ,σ ,1
θ
Misal akan ditentukan himpunan parameter yang baru
( )
{
aji ≤i j≤N ci ≤i≤N i ≤i≤N}
= ˆ ,1 , ,ˆ,1 ,ˆ ,1
ˆ σ
θ
jika diberikan himpunan parameter θ
.
Untuk mengganti parameter aji dengan )
( ˆ k
aji pada rantai Markov, dimisalkan r l s
le X e
X k l N s r sr sr k a k
a , ,
1 , 1
1 ) ( ˆ −
∏ ∏
= = = Λ dan k k dP dP Λ = F θ θˆ Lema 6.1Misalkan Xk =er dan dengan ukuran peluang Pθˆ, maka
[
1,]
ˆ ( 1)ˆ X + e =a k+
Eθ k s Fk sr
Bukti:
[
]
[
]
[
]
[
]
[
]
= ∏ + = + Λ Λ = Λ Λ = = + + + + + + + + + + r k N r e X sr sr r k e X sr