ESTIMASI PARAMETER DISTRIBUSI BINOMIAL NEGATIF DENGAN PENDEKATAN BAYESIAN
MENGGUNAKAN MONTE CARLO MARKOV CHAIN BERDASARKAN ALGORITMA METROPOLIS HASTING
SKRIPSI
MIFTA DIAN MULYANINGSIH
PROGRAM STUDI S-1 STATISTIKA DEPARTEMEN MATEMATIKA FAKULTAS SAINS DAN TEKNOLOGI
PEDOMAN PENGGUNAAN SKRIPSI
Skripsi ini t idak d ipublikasikan, na mun tersedia d i p erpustakaan d alam
lingkungan Universitas Airlangga, diperkenankan untuk dipakai sebagai referensi
kepustakaan, t etapi pe ngutipan harus s eijin penulis d an harus menyebutkan
sumbernya s esuai k ebiasaan ilmiah. Dokumen s kripsi i ni m erupakan h ak m ilik
KATA PENGANTAR
Assalamu’alaikum w r.wb Puji s yukur kehadirat A llah S WT yang t elah
melimpahkan r ahmat-Nya s ehingga penulis dapat m enyelesaikan skripsi yang
berjudul “ Estimasi P arameter D istribusi B inomial N egatif d engan P endekatan
Bayesian M enggunakan M onte Carlo M arkov C hain Berdasarkan Algoritma
Metropolis Hasting”. Dalam kesempatan ini penulis menyampaikan ucapan terima
kasih kepada:
1. Orang t ua d an k eluarga tercinta yang selalu me mberikan doa, dukungan, dan
kepercayaan sehingga penulis dapat menyelesaikan skripsi ini.
2. Dr. A rdi K urniawan, M .Si da n Drs. E ko Tjahjono, M .Si selaku do sen
pembimbing I da n d osen pe mbimbing I I y ang s enantiasa membimbing da n
membantu dengan tulus dan sabar dalam penyelesaian skripsi ini.
3. Drs. Sediono, M.Si selaku do sen w ali yang s elalu memberikan penjelasan,
pengarahan, dan saran demi kesuksesan menjadi mahasiswa.
4. Risanti, Asti, Achnes, Arin, M anja, I ntan dan teman statistika angkatan 2 012
yang selalu memberikan doa dan semangat dalam penyelesaian skripsi ini.
Penulis b erharap s emoga skripsi ini da pat bermanfaat b agi p erkembangan
ilmu pengetahuan dan teknologi.
Surabaya, Agustus 2016
Penulis,
Mifta D ian M ulyaningsih, 201 6. Estimasi P arameter D istribusi B inomial Negatif d engan P endekatan B ayesian M enggunakan M onte C arlo M arkov Chain B erdasarkan A lgoritma M etropolis Hasting. S kripsi ini d ibawah bimbingan D r. Ardi Kurniawan, M .Si. dan D rs. E ko T jahjono, M.Si. Program Studi S 1-Statistika, D epartemen M atematika, Fakultas S ains d an T eknologi, Universitas Airlangga, Surabaya.
ABSTRAK
Estimasi parameter merupakan estimasi sembarang nilai yang me njelasan karakteristik suatu populasi t ertentu. Estimasi parameter dapat dilakukan dengan metode k lasik maupun metode B ayesian. M etode B ayesian merupakan metode yang menggabungkan informasi saat ini dengan informasi sebelumnya atau yang biasa d isebut d istribusi prior. P enggabungan informasi t ersebut menghasilkan distribusi po sterior, s elanjutnya d istribusi t ersebut di gunakan s ebagai da sar estimasi parameter. Penyelesaian dari estimasi parameter tersebut terkadang sulit sehingga m embutuhkan m etode numerik dalam p enyelesaiannya, s alah satunya adalah metode M onte C arlo M arkov C hain ( MCMC) a lgoritma M etropolis Hasting. M etode tersebut m erupakan metode i ntegrasi yang menggunakan mekanisme p enerimaan d an p enolakan u ntuk m embangkitkan k andidat s ampel. Tujuan da ri pe nelitian ini a dalah u ntuk mengestimasi parameter distribusi Binomial N egatif d engan pendekatan Bayesian menggunakan MCMC algoritma Metropolis Hasting. Distribusi B inomial N egatif merupakan d istribusi yang banyak d igunakan u ntuk menganalisis data count saat t erjadi overdispersi. Data yang d igunakan p ada p enelitian ini a dalah d ata b angkitan. B erdasarkan hasil penelitian e stimasi p arameter distribusi B inomial N egatif dengan pendekatan Bayesian me nggunakan MCMC algoritma metropolis hasting me nghasilkan nilai estimasi ya ng s angat dekat dengan perhitungan biasa, de ngan de mikian M CMC algoritma metropolis hasting d apat d igunakan sebagai a lternatif u ntuk mempermudah perhitungan yang rumit.
Mifta D ian Mulyaningsih, 2 016, Parameter Estimation of N egative B inomial Distribution u sing B ayessian A pproach w ith Monte C arlo M arkov C hain Based on Metropolis Hasting Algorithm . This Thesis under the supervising of Dr. Ardi Kurniawan, M.Si. dan Drs. Eko Tjahjono, M.Si. Program S1-Statistics, Departement of Mathematics, F aculty o f S cience T echnology, Airlangga Univerrsity, Surabaya.
ABSTRACT
Parameter estimation is estimation o f any value t hat e xplains t he characteristics of a particular population. Parameter estimation can be achieved by classical and B ayesian methods. B ayesian method i s a method t hat c ombines current information w ith p revious information or c ommonly called p rior distribution. M erging t his information g enerates th e p osterior d istribution, th e distribution s ubsequently u sed a s t he basis for p arameter es timation. This Calculation of the parameter sometimes are difficult and need numerical methods. One o f this method called Markov C hain Mo nte C arlo ( MCMC) Metropolis Hasting algorithm. This method uses accept and reject mechanism for generating sample. T he p urpose o f t his s tudy w as t o es timate t he n egative binomial distribution w ith a B ayesian a pproach u sing M CMC H asting Metropolis algorithm. Negative B inomial d istribution widely used to analyze the data count when t here o verdispersion. Data that used in t his study are generated. Based o n the r esults, Negative B inomial d istribution p arameter e stimation w ith B ayesian approach u sing M CMC a lgorithms metropolis hasting g enerate t he es timated value that is very c lose t o the usual c alculation, thus metropolis hasting MCMC algorithms can be used as an alternative to simplify complex calculations.
Keywords : Parameter Estimation, Bayessian, Negative Binomial, MCMC, Metropolis Hasting.
DAFTAR ISI
Halaman
HALAMAN JUDUL ... i
LEMBAR PERNYATAAN ... ii
LEMBAR PENGESAHAN ... iii
LEMBAR PENGGUNAAN SKRIPSI ...iv
LEMBAR ORISINALITAS ... v
KATA PENGANTAR ...vi
DAFTAR LAMPIRAN ... xiii
BAB I PENDAHULUAN 1.1Latar Belakang ... 1
1.2Rumusan Masalah ... 3
1.3Tujuan Penelitian ... 4
1.4Manfaat Penelitian ... 4
1.5Batasan Masalah ... 4
BAB II TINJAUAN PUSTAKA 2.1 Variabel Acak ... 5
2.2 Fungsi Kepadatan Probabilitas ... 5
2.3 Metode Bayes... 5
2.4 Fungsi Likelihood ... 8
2.5 Distribusi Prior ... 9
2.6 Prior Konjugat ... 10
2.7 Distribusi Prior Uniform ... 11
2.8 Prior Jeffreys ... 11
2.10 Distribusi Binomial Negatif ... 12
2.11Distribusi Gamma ... 13
2.12 Distribusi Beta ... 14
2.13Distribusi Cauchy ... 16
2.14Distribusi Weibull ... 16
2.15 Markov Chain Monte Carlo ... 16
2.16 Metropolis Hasting ... 17
2.17 Batch Mean ... 18
2.18 Mathematica ... 19
BAB III METODE PENELITIAN 3.1 Langkah-Langkah Analisis Data ... 20
3.2 Flowchart ... 22
BAB IV HASIL DAN PEMBAHASAN 4.1Penentuan Distribusi Posterior Pada Distribusi Binomial Negatif Menggunakan Pendekatan Bayesian ... 23
4.2 Estimasi Parameter Berdasarkan Distribusi Posterior ... 25
4.3 Penerapan Estimasi Parameter Distribusi Posterior Menggunakan Monte Carlo Markov Chain Algoritma Metropolis Hasting ... 26
4.3.1 Estimasi Parameter Dengan Perhitungan Manual ... 27
4.3.2 Estimasi Parameter Dengan Algoritma Metropolis Hasting ... 28
BAB V KESIMPULAN DAN SARAN 5.1 Kesimpulan ... 36
5.2 Saran ... 37
DAFTAR GAMBAR
Nomor Judul Gambar Halaman
3.1 Flowchart Estimasi Parameter Menggunakan 22 Algoritma Metropolis Haasting
4.1 Prosedur Estimasi Parameter 28
DAFTAR TABEL
Tabel Judul Tabel Halaman
2.1 Prior Konjugat dari Beberapa Fungsi Likelihood 10
4.1 Data Berdistribusi Binomial Negatif 27
4.2 Perhitungan dengan Metropolis Hasting 29 4.3 Perbedaan Parameter Distribusi Prior 32
4.4 Data Binomial Negatif 33
DAFTAR LAMPIRAN
Nomor Judul Lampiran
1 Data
2 Program MCMC Algoritma Metropolis Hasting dengan prior Beta 3 Program MCMC Algoritma Metropolis Hasting dengan prior Gamma 4 Output Program Perhitungan dengan Metropolis Hasting
5 Output Perbedaan Parameter Distribusi Prior
BAB I
PENDAHULUAN
1.1Latar Belakang
Metode s tatistika merupakan pr osedur-prosedur yang d igunakan da lam
pengumpulan, pe nyajian, a nalisis, da n pe nafsiran da ta. M etode tersebut
dikelompokan menjadi dua ke lompok ut ama, yaitu statistika de skriptif da n
statistika i nferesi ( Walpole, 1995) . S tatistika de skriptif bertujuan u ntuk
menyajikan informasi d ata s ebagai d eskripsi f akta at au p eristiwa d apat
disimpulkan secara mudah, sedangkan statistika inferensi menggunakan konsep
probabilitas untuk membuat perkiraan, prediksi, peramalan, dan generalisasi dari
suatu objek berdasarkan informasi data yang diambil sebagai populasi atau sampel
(Mustafid d alam Siska, 2011) . I nferensi statistik da pat d ibedakan menjadi dua ,
yaitu estimasi parameter dan uji hipotesis (Walpole, 1995).
Estimasi parameter merupakan estimasi sembarang nilai yang menjelaskan
ciri atau k arakteristik suatu populasi t ertentu. E stimasi parameter t ersebut d apat
dilakukan de ngan metode kl asik maupun metode B ayesian. Metode k lasik
memandang p arameter sebagai besaran t etap yang t idak d iketahui harganya da n
inferensi didasarkan hanya pada informasi dalam sampel, sedangkan pada metode
Bayesian inferensinya tidak ha nya didasarkan pada informasi pada sampel tetapi
juga melibatkan d istribusi prior (Berger, 2011) . Berdasarkan p erbedaan d asar
inferensinya, metode Bayes lebih baik digunakan untuk mengestimasi parameter
apabila telah diketahui informasi sebelumnya dan apabila tidak terdapat informasi
Metode Bayesian merupakan metode yang menggabungkan informasi saat
ini dengan informasi awal yang diperoleh sebelumnya ( Apsari, 2013). Informasi
awal t ersebut m erupakan d istribusi subyektif b erdasarkan p ada k eyakinan
seseorang. P enggabungan informasi a wal da n informasi s aat ini ke mudian
menghasilkan d istribusi posterior. Penyelesaian f ormulasi B ayesian tersebut
terkadang s ulit u ntuk d iselesaikan secara a nalitis s ehingga d ibutuhkan metode
numerik untuk penyelesaiannya (Siska, 2011).
Monte Carlo Markov Chain (MCMC) adalah s ebuah r angkaian metode untuk m enciptakan ba risan s ampel r andom yang b erasal da ri d istribusi p eluang
dengan membangun r antai Markov s esuai d engan d istribusi t ertentu y ang
diinginkan ( Walsh dalam Irwanti, 2012). S imulasi stokastik yang dihasilkan dari
metode MCMC t ersebut membantu penyelesaian estimasi model dari persamaan
yang s ulit. Metode M CMC yang sering d igunakan ad alah a lgoritma Metropolis
Hasting.
Algoritma Metropolis Hasting adalah salah satu algoritma yang mengikuti
aturan M CMC de ngan mekanisme pe nerimaan da n pe nolakan da lam pr oses
pembangkitan s ampel. S ampel yang d ibangkitkan t ersebut k emudian d igunakan
untuk me nyelesaikan e stimasi p arameter. K elebihan d ari a lgoritma M etropolis
Hasting adalah h asil e stimasi yang dihasilkan t epat meskipun me nggunakan
distribusi prior non-infomatif dan tidak bergantung pada asumsi sample besar.
Distribusi B inomial Negatif me rupakan distribusi c ampuran a ntara
distribusi Gamma dan d istribusi P oisson. Kegunaan Distribusi B inomial Negatif
mengindikasikan n ilai variansi le bih besar daripada me an. Keadaan overdispersi
menyebabkan es timasi parameter yang d idapat me njadi t idak e fisien s ehingga
memberikan informasi yang tidak sesuai (Hilbe, 2011).
Lio (2009) menggunakan metode Bayesian untuk mengestimasi parameter
Binomial Negatif dengan m enggunakan distribusi B eta s ebagai d istribusi
priornya. Bradlow dkk ( 2002) j uga menggunakan inferensi Bayesian untuk
mengestimasi m odel B inomial Negatif. Kedua penelitian t ersebut s ama-sama
menggunakan distribusi Beta sebagai distribusi priornya, akan tetapi Bradlow dkk
melakukan inferensi Bayesian menggunakan ekspansi polinomial sedangkan Lio
menggunakan proses sampling.
Berdasarkan u raian t ersebut dilakukan pe nelitian e stimasi pa rameter
distribusi Binomial Negatif dengan pendekatan metode Bayesian yang dilanjutkan
dengan inferensi statistika menggunakan MCMC algoritma Metropolis Hasting.
1.2Rumusan Masalah
Berdasarkan latar be lakang yang t elah d ikemukakan d i a tas, m aka
permasalahan yang dibahas dalam penelitian ini adalah sebagai berikut:
1. Bagaimana menentukan distribusi posterior pada d istribusi Binomial
Negatif menggunakan metode Bayesian?
2. Bagaimana estimasi p arameter d istribusi B inomial N egatif
menggunakan pendekatan Bayesian?
3. Bagaimana penerapan estimasi p arameter d istribusi B inomial N egatif
menggunakan metode Bayesian dengan MCMC algoritma Metropolis
1.3Tujuan Penelitian
Penelitian estimasi p arameter d istribusi Binomial N egatif menggunakan
metode Bayesian ini memiliki tujuan sebagai berikut:
1. Menentukan distribusi posterior pada d istribusi B inomial Negatif
menggunakan metode Bayesian.
2. Mengestimasi p arameter d istribusi B inomial N egatif menggunakan
metode Bayesian.
3. Menerapkan p enaksiran p arameter d istribusi B inomial N egatif
menggunakan metode Bayesian dengan MCMC algoritma Metropolis
Hasting.
1.4 Manfaat
Manfaat yang dapat diambil dari penelitian ini adalah sebagai berikut:
1. Mengembangkan w awasan ilmu pe ngetahuan yang berkaitan d engan
estimasi parameter menggunakan metode Bayesian.
2. Mengembangkan w awasan ilmu pe ngetahuan yang berkaitan d engan
metode Monte Carlo Markov Chain khususnya algoritma Metropolis
Hasting.
1.5 Batasan Masalah
Batasan masalah pada penelitian ini adalah estimasi parameter pada distribusi
Binomial N egatif menggunakan metode B ayesian dengan prior konjugat yaitu
BAB II
TINJAUAN PUSTAKA
2.1. Variabel Acak
Variabel acak didefinisikan s ebagai s uatu fungsi y ang me metakan u
nsur-unsur da lam r uang s ampel suatu p ercobaan t erhadap s uatu gugus bi langan r iil
sebagai suatu w ilayah fungsi. V ariabel acak dinotasikan d engan huruf ka pital
misalnya X , sedangkan nilai padanannya d inotasikan de ngan huruf kecil ( Bain
dan Engelhardt, 1992).
2.2. Fungsi Kepadatan Probabilitas
Misalkan v ariabel acak X terletak an tara a dan b, fu ngsi f x( ) disebut
fungsi k epadatan p robabilitas at au probability density function (PDF) bagi
variabel ac ak X apabila luas da erah d i bawah k urva s ama de ngan s atu da n
apabila luas daerah dibawah kurva antara x=a dan x=bmenyatakan peluang X
antara a dan b (Walpole, 1995).
2.3. Metode Bayes
Metode B ayes merupakan m etode yang m enggabungkan informasi
terdahulu d ari p arameter yang akan d itaksir d engan informasi yang d idapat d ari
sampel. Informasi terdahulu tersebut merupakan distribusi subyektif berdasarkan
pada k eyakinan seseorang. Penggabungan ke dua informasi t ersebut ke mudian
menghasilkan d istribusi posterior yang selanjutnya d igunakan da lam pe naksiran
parameter.
Misalkan r uang sampel S d ipartisi menjadi kejadian ya ng mutually
exclusive dan exhaustive A A1, 2,...,AK dengan P A( ) 0i ≠ untuk i=1,2,...,K. Misalkan terdapat kejadian B di dalam ruang sampel S sehingga P B( ) 0> maka
untuk sembarang kejadian B,
1 1 2 2
Misalkan X adalah v ariabel acak y ang me miliki d istribusi probabilitas
yang bergantung pada θ, dengan θ merupakan suatu variabel acak yang memiliki distribusi p robabilitas te rtentu. J ika f x( | )θ merupakan p df bersyarat d ari
variabel acak X dengan nilai θ =θ dan p( )θ merupakan pdf dari variabel acak θ,
disebut likelihood dari X X1, 2,...,Xn dan f ungsi p( )θ disebut sebagai pd f prior
dari θ. Aturan Bayes sering ditulis sebagai berikut:
f( | , ,..., )θ x x1 2 xn ∝ f x x( , ,..., | ) ( )1 2 xn θ pθ (2.7)
Estimasi pa rameter pa da m etode ba yes didasarkan pa da d istribusi posterior
sesuai persamaan (2.6). Perhitungan e stimasi parameter diperoleh dengan mencari ni lai
ekspekstasi da ri d istribusi posterior. Jika θ merupakan variabel acak kontinu, maka
nilai ˆθ dapat diperoleh sebagai berikut:
θˆ E( | 1, 2,..., )θ x x xn θ θf( | )y dθ
∞
−∞
= =
∫
(2.8)Jika θ merupakan va riabel acak d iskrit, maka nilai ˆθ dapat di peroleh sebagai berikut:
ˆ ( | 1, 2,..., ) n ( | )
i
E x x xn f y
θ = θ =
∑
θ θ (2.9)(Andrew dkk, 2000)
2.4. Fungsi Likelihood
Fungsi likelihood adalah f ungsi d ensitas b ersama dari n variable acak
1, 2,..., n
X X X dan d inyatakan da lam bentuk f( | , ,..., )θ x x1 2 xn . J ika x x1, ,...,2 xn ditetapkan, maka fungsi likelihood dari parameter θ dinotasikan dengan L( )θ .
Jika X X1, 2,...,Xn menyatakan suatu sampel acak dari f x( | )θ , maka
Distribusi prior adalah bentuk di stribusi frekuensi y ang m erupakan
representasi o bjektif p ada suatu p arameter yang lebih r asional u ntuk dipercayai.
Distribusi prior menunjukan ketidakpastian tentang parameter θ yang tidak
diketahui, s ehingga p ermasalahan u tama d alam metode B ayes a dalah memilih
distribusi prior untuk suatu parameter yang t idak diketahui namun sesuai dengan
permasalahan. B erdasarkan fungsi likelihoodnya, d istribusi pr ior d ikelompokan
menjadi dua (Box dan Tiao, 2011):
1. Berkaitan dengan bentu distribusi hasil identifikasi pola data
a. Distribusi prior konjugat, mengacu pada analisis model terutama
dalam pe mbentukan f ungsi likelihoodnya s ehingga dalam
penentuan pr ior ko njugat s elalu d ipikiran mengenai po la
distribusi prior yang m emiliki be ntuk konjugat dengan f ungsi
densitas peluang pembangun likelihood.
b. Distribusi prior non-konjugat, apabila pemberian prior pada suatu
model tidak mengindahkan pola pembentuk fungsi likelihood.
2. Berkaitan de ngan pe nentuan masing-masing p arameter p ada p ola
distribusi prior
tidak. P emberian nilai parameter pa da d istribusi prior i ni sangat
mempengaruhi bentuk distribusi posterior.
b. Distribusi prior non-informatif, p emilihan d istribusi prior yang tidak mengandung informasi tentang parameter θ. Distribusi prior
non-informatif misalnya prior Uniform dan prior Jeffreys.
2.6. Prior Konjugat
Misalkan F adalah k elas dari d istribusi sampling f y( | )θ dan P adalah
kelas d ari d istribusi prior θ, m aka P kelas d isebut untuk ke las F jika f ungsi
probabilitas posterior h( | )θ y memiliki d istribusi y ang sama dengan f ungsi
probabilitas prior h( )θ untuk seluruh f y( | )θ ∈F. Pemilihan prior konjugat yang
lebih spesifik d apat d ilakukan de ngan memilih kelas d istribusi prior P yang
merupakan hi mpunan dari s eluruh f ungsi kepadatan y ang m emiliki b entuk
fungsional yang sama dengan fungsi likelihood dari f y( | )θ . Pada kasus ini P
disebut prior konjugat dari F (Andrew dkk, 2000).
Tabel 2.1. Prior Konjugat dari Beberapa Fungsi Likelihood
Likelihood Prior Konjugat
Binomial Beta
Binomial Negatif Beta
Poisson Gamma
Normal
µ tidak diketahui, σ2 diketahui Normal
2.7. Distribusi Prior Uniform
Distribusi p rior non-informatif a dalah distribusi prior yang t idak
mengandung informasi tentang parameter θ. Salah satu pemilihan distribusi prior
non-informatif a dalah prior Uniform, yang d inyatakan s ebagai d istribusi Beta
(1,1). Prior Uniform memberikan fungsi de nsitas probabilitas yang ko nstan da n
menghasilkan bobot yang sama ke semua nilai.
1 1 1
Sehingga densitas Beta (1,1) adalah
( |1,1) 1 0(1 )0
Prior Jeffreys merupakan distribusi prior non-informatif yang pertama kali dikemukakan o leh S ir H arold J effreys pa da t ahun 1961. Secara u mum Prior
Jeffreys digunakan untuk estimasi single parameter θ dan sebanding dengan akar
kuadrat dari informasi Fisher. Informasi Fisher didefinisikan sebagai nilai negatif
dari turunan kedua log-likelihood (Christensen dkk, 2011).
2.9. Distribusi Posterior
Distribusi posterior merupakan distribusi yang dibentuk oleh informasi awal
(distribusi prior) dan in formasi s aat in i. Distribusi posterior dinotasikan de ngan
( | )
x diketahui.
prior. Fungsi densitas marginal selanjutnya dapat dinyatakan sebagai
( ) ( , ) ( ) ( | ) f x ∞ f θ x dθ ∞ f θ f x θ θd
−∞ −∞
=
∫
=∫
(2.14)Kemudian d istribusi posterior dapat di gunakan u ntuk menentukan e stimasi
parameter (Soejoeti dan Soebanar, 1988).
2.10. Distribusi Binomial Negatif
Distribusi Binomial Negatif merupakan ditribusi yang memiliki banyak cara
dalam penurunannya. Boswell dan Patil (1970) menunjukkan bahwa terdapat dua
belas car a u ntuk mendapatkan d istribusi B inomial N egatif. S alah s atunya d apat
diturunkan s ebagai d istribusi campuran P oisson-Gamma, a kan t etapi pe nurunan
klasik d ari d istribusi B inomial N egatif yang p aling s ering d igunakan a dalah
sebagai barisan p ercobaan B ernoulli. Fungsi p robabilitas d istribusi B inomial
Negatif adalah sebagai berikut:
1
Distribusi p robabilitas d ari p eubah acak X, d apat d inotasikan me njadi
bentuk l ain yaitu menggunakan t ransformasi Y =X −k, de ngan Ymenyatakan
jumlah ke gagalan sebelum t erjadi k buah s ukses. D istribusi pr obabilitas da ri
peubah acak Y dapat dinyatakan sebagai berikut:
1
Distribusi Binomial N egatif d apat d idefinisikan untuk setiap nilai po sitif
dari k de ngan menggunakan fungsi G amma sebagai pe ngganti da ri ko mbinasi,
yaitu:
(Jong dan Heller, 2008)
2.11. Distribusi Gamma
Suatu variabel acak dikatakan memiliki distribusi Gamma dengan parameter
α dan badalah bilangan positif. Parameter α merupakan parameter skala, dan β
merupaan parameter bentuk. Fungsi kepadatan dari distribusi Gamma adalah
1
1
Suatu variabel acak dikatakan memiliki distribusi Beta dengan parameter a
dan b, jika fungsi kepadatannya adalah
1 1
dengan B a b( , ) adalah fungsi Beta yang didefinisikan sebagai
Fungsi B eta d apat d ihubungkan dengan f ungsi G amma, m isalkan t =y2 , ma ka
Sehingga fungsi kepadatan probabilitas distribusi Beta adalah
2.13. Distribusi Cauchy
Suatu variabel acak dikatakan memiliki distribusi Cauchy dengan parameter
c dan d, apabila c merupakan bilangan real dan d merupakan bilangan positif. Parameter c merupakan p arameter lokasi, s edangkan p arameter d merupakan
parameter skala. Fungsi kepadatan probabilitas dari fungsi Cauchy adalah
2
Suatu variabel acak dikatakan memiliki distribusi Weibull dengan parameter
e dan f , apabila e dan f merupakan bilangan positif. Parameter e merupakan parameter bentuk, sedangkan parameter f merupakan parameter skala. Distribusi
Weibull biasanya d igunakan u ntuk m endapatkan r eabilitas. F ungsi ke padatan
probabilitas dari fungsi adalah
( / )
2.15. Markov Chain Monte Carlo
Markov Chain Monte Carlo adalah suatu metode simulasi yang merupakan
perpaduan a ntara Monte Carlo de ngan sifat Markov C hain u ntuk mendapatkan
data s ampel berdasarkan s kenario s ampling t ertentu. Metode M arkov C hain
Monte C arlo b anyak digunakan un tuk menyelesaikan p ersoalan-persoalan
Markov state space Sdidefinisikan sebagai suatu deret variabel random { }Xt t≥0,
dengan nilai untuk masing-masing variabel random tersebut berada di dalam state
space dan distribusi dari Xt diberikan berdasarkan semua nilai sebelumnya dari proses yaitu X X X0, 1, 2, ...,Xt−1 hanya tergantung pada Xt−1. Definisi dari Rantai
Markov secara matematis adalah sebagai berikut:
Misal { }Xt t≥0 merupakan deret dari suatu variabel random dikatakan
sebagai suatu Rantai Markov jika diberikan suatu nilai untuk Xt
sedemikian sehingga distribusi bersyarat Xt dengan X X X0, 1, 2, ...,Xt−1
diketahui hanya akan bergantung pada nilai Xt−1saja, atau dapat
dituliskan sebagai berikut:
1 1 2 2 0 0 1 1
( t | t t , t t ,..., ) ( t | t t )
P X ∈A X − ∈A − X − ∈A − X ∈A =P X ∈A X − ∈A −
(Astuti, 2006)
2.16. Metropolis Hasting
Algoritma M etropolis Hasting me rupakan salah s atu metode MC MC yang
menggunakan mekanisme pe nerimaan da n pe nolakan u ntuk membangkitkan
barisan sampel dari suatu distribusi proposal. Distribusi proposal adalah distribusi
pembangkit kandidat sampel yang yang d ijadikan a cuan d alam p ergerakan
sampel. D istribusi yang biasa d igunakan sebagai d istribusi pr oposal a dalah
distribusi normal d an uniform. Pembangkitan sampel dimulai dengan pemberian
nilai a wal θ1, s etelah k iterasi diperoleh θ θ1, ,...,2 θk. Iterasi s elanjutnya y aitu
pada iterasi k+1 dibangkitkan θ* dari distribusi proposal h( | )θ θ* k . Selanjutnya
nilai-nilai t ersebut d igunakan un tuk menghitung α θ θ( , )* k yang m erupakan
* *
selanjutnya d ilakukan p emilihan s ampel. S ampel a kan d iterima a pabila u≤α
sehingga θk+1 =θ*. S ebaliknya, s ampel akan d itolak a pabila
u>αsehingga 1
k k
θ + =θ (Christensen dkk, 2011).
Estimasi parameter p ada kasus-kasus i nferensi B ayesian, m emisalkan θ
adalah s ebuah ve ktor p arameter yang d iestimasi nilainya. A lgoritma M etropolis
Hasting k emudian melakukan s imulasi u ntuk m emperoleh n ilai θ θ(1), (2),...,θ( )T
dengan T adalah b anyak s ampel y ang tersimulasikan dan masing- masing
terdistribusi ke distribusi posterior. Estimasi dari parameter ˆθ diperoleh dari nilai
rata-rata dari nilai-nilai sampel yang tersimulasi yaitu
( )
Perhitungan penting setelah analisis output adalah mengenai standart error.
Salah s atu m etode y ang s ederhana dan m udah diterapkan untuk m enghitung
standart error yaitu me tode Batch Mean. Metode Batch Mean dilakukan dengan membagi u rutan n ilai-nilai s imulasi θ θ(1), (2),...,θ( )T menjadi
sampel, misalkan rata-rata sampel adalah θ1,...,θh. Selanjutnya estimasi standart
error dapat diestimasi dengan standart deviasi dari Batch Mean yaitu
2
Standart error sangat berguna untuk menentukan ketelitian dari rata-rata distribusi target yang dihitung pada simulasi yang dijalankan. Apabila standart error terlalu
besar m aka algoritma M etropolis Hasting s ebaiknya dijalankan m enggunakan
iterasi yang lebih besar (Johnson dan Albert, 1999).
2.18. Mathematica
Mathematica m erupakan program komputasi m atematika yang s ering j uga
disebut computer algebra program. M athematica d ikembangkan o leh Wolfram
Research of Champaign dan d iluncurkan pe rtama ka li pa da t ahun 1988. Mathematica merupakan salah satu high performance program yang memudahkan
pengguna da lam melakukan a nalisis. Analisis yang da pat di lakukan de ngan
Mathematica a ntara lain time series, a nalisis multivariat, p erhitungan k ompleks,
BAB V
KESIMPULAN DAN SARAN
5.1 Kesimpulan
Berdasarkan hasil a nalisis da n pe mbahasan yang d ilakukan, da pat
diperoleh kesimpulan yaitu:
1. Pengestimasian p arameter θ dalam D istribusi B inomial N egatif dengan
menggunakan d istribusi prior Beta a b( , ) menghasilkan d istribusi
posterior yaitu distribusi Beta kn( +a,
∑
yi+b) dan ˆi kn a kn a b y
θ = +
+ + +
∑
.2. Meskipun d iperoleh e stimasi yang e ksplisit, namun s etelah d ilakukan
penerapan M onte C arlo M arkov C hain algoritma Metropolis H asting
memberikan hasil ˆθ sebesar 0,40004 dengan standart error 0,0043368
yang d iperoleh d ari d istribusi prior Beta(2,4) dan d istribusi pr oposal
(0,1)
Uniform melalui 1000 iterasi dengan nilai θ1=0,2.
3. Dari hasil p enerapan M onte C arlo M arkov C hain a lgoritma M etropolis
Hasting un tuk prior non ko njugat y aitu d istribusi Gamma(5,8),
(5,8)
Cauchy , d an Weibull(4,5) yang paling m endekati ni lai θ sebenarnya a dalah d engan menggunakan d istribusi prior Cauchy(5,8)
yang m enghasilkan n ilai ˆθ sebesar 4,29321 dan standart error sebesar
5.2Saran
Berdasarkan hasil yang d iperoleh da lam s kripsi ini, s aran yang d apat
diberikan yaitu Metode Monte Carlo Markov Chain algoritma Metropolis Hasting
akan lebih bermanfaat ap abila d igunakan p ada perhitungan e stimasi p arameter
dengan m enggunakan d istribusi prior non ko njugat, ka rena pa da u mumnya
BAB III
METODE PENELITIAN
3.1. Langkah Analisis
Langkah an alisis yang d igunakan d alam p enelitian ini a dalah s ebagai
berikut:
1. Penentuan distribusi posterior
a. Membentuk f ungsi likelihood L( )θ dari d istribusi B inomial Negatif
sesuai persamaan (2.10)
b. Memilih distribusi prior konjugat p( )θ dari distribusi Binomial Negatif
yaitu distribusi Beta a b( , ) sesuai persamaan (2.20)
c. Membentuk distribusi posterior f( | )θ x sesuai persamaan (2.6)
2. Estimasi p arameter distribusi B inomial N egatif menggunakan pe ndekatan
Bayesian
a. Memperoleh distribusi posterior f( | )θ x sesuai dengan langkah 1
b. Mengestimasi parameter ˆθ sesuai persamaan (2.8)
3. Penerapan e stimasi p arameter d istribusi p osterior m enggunakan Monte
Carlo Markov Chain dengan Algoritma Metropolis Hasting
a. Membangkitkan d ata berdistribusi B inomial N egatif sesuai p ersamaan
(2.15) dengan menggunakan software Wolfram Mathematica 7.0
b. Memilih distribusi prior konjugat p( )θ sesuai persamaan (2.20)
c. Membentuk distribusi posterior sesuai persamaan (2.6)
(1)
e. Menentukan distribusi proposal untuk pergerakan sampel
f. Menentukan parameter distribusi proposal
g. Membangkitkan θ*dari distribusi proposal
h. Menghitung lompatan nilai dari nilai acak θ*
i. Menghitung α sesuai persamaan (2.27)
j. Membangkitkan sampel random uU(0,1)
k. Membandingkan nilai u dengan α , apabila u≤α maka diambil nilai
( 1)k *
θ + =θ
sedangkan apabila u>α maka nilai θ( 1)k+ =θk
l. Mengulangi l angkah b h ingga diperoleh sampel s esuai i terasi y ang
diinginkan
m. Menghitung pe nduga d ari pa rameter θ yang d iperoleh d ari r ata r ata
nilai sampel yang tersimulasi sesuai persamaan (2.28)
n. Menentukan selisih sampling
o. Mengurangi iterasi dengan selisih sampling
p. Menghitung nilai autokorelasi antar parameter
q. Membagi jumlah iterasi menjadi h kelompok berukuran w
r. Menghitung r ata-rata s ampel t iap ke lompok yang t elah d ibagi
sebelumnya
s. Menghitung standart error Batch Mean sesuai persamaan (2.29)
3.2. Flowchart
Berdasarkan langkah a nalisis d ibuat flowchart untuk menunjukkan
prosedur-prosedur da lam sistem kerja Monte C arlo M arkov C hain a lgoritma
Metropolis Hasting dengan lebih mudah. Flowchart tersebut ditunjukkan sebagai
Gambar 3.1. Flowchart Estimasi Parameter Menggunakan Algoritma Metropolis
u ≤α
(k 1) *
θ + =θ θ(k+1) =θ*
i
=
n
Mengestimasi θ
(sebanyak m kali)
Menghitung standart error θˆ
Selesai
Menghitung α
Input θ(1), n
Membangkitkan *
θ
Membangkitkan u
BAB IV PEMBAHASAN
4.1 Penentuan D istribusi Posterior pada D istribusi B inomial N egatif Menggunakan Pendekatan Bayesian
Misalkan X merupakan variabel acak yang mengikuti d istribusi B inomial
Negatif dengan ( | ) 1 (1 )
. Distribusi probabilitas dari variabel
acak X dapat di notasikan menjadi bentuk l ain de ngan t ransformasi y= −x k,
. Penentuan d istribusi Posterior pada d istribusi
Binomial N egatif menggunakan p endekatan B ayesian d engan d istribusi prior
yaitu distribusi Beta adalah sebagai berikut:
1
Likelihood distribusi Binomial Negatif dengan PDF sesuai persamaan (4.1)
Selanjutnya PDF distribusi prior konjugat yaitu distribusi Beta( ,a b)
( ) 1 1(1 ) 1
Penentuan distribusi Posterior
( | ) ( , )
1 1
∏
merupakan ko nstanta,maka dapat diabaikan sehingga ( , ) kn a 1(1 ) y bi 1
f θ y θ + − −θ ∑ + − . Dengan demikian sesuai persamaan (4.5) diperoleh distribusi Posterior yaitu:
( | ) ( , )
4.2 Estimasi Parameter Berdasarkan Distribusi Posterior
Distribusi Posterior yang d iperoleh sesuai p ersamaan ( 4.9) m erupakan
4.3 Penerapan E stimasi Parameter D istribusi Posterior Menggunakan Monte Carlo Markov Chain Algoritma Metropolis Hasting
Estimasi parameter d istribusi posterior dengan pe rhitungan m anual akan
dibandingkan d engan es timasi p arameter yang diperoleh menggunakan M onte
Carlo Markov Chain algoritma Metropolis Hasting. Data yang digunakan sebagai
dengan Software Wolfram Mathematica 7 .0. Data t ersebut di bangkitkan de ngan
probabilitas sukses 0,4 dan kejadian sukses sebanyak 7, serta distribusi prior yang
digunakan adalah distribusi Beta.
Tabel 4.1 Tabel Data Berdistribusi Binomial Negatif 7 19 8 10
4.3.1 Estimasi Parameter dengan Perhitungan Manual
Berdasarkan data t ersebut dan sesuai p ersamaan (4.10) diperoleh
4.3.2 Estimasi Parameter dengan Algoritma Metropolis Hasting
Algoritma M etropolis H asting bertujuan un tuk
menyelesaikan p erhitungan yang r umit s alah s atunya a dalah
estimasi parameter. Suatu estimasi parameter pada kasus Bayesian
terjadi a pabila d istribusi prior yang digunakan buka n m erupakan
prior kunjugat da ri distribusi yang in gin diestimasi. B erikut in i adalah p rosedur es timasi p arameter d engan a lgoritma M etropolis
Hasting.
Prosedur Estimasi Parameter
Inisialisasi data, θ1, iterasi ; set t=1
Trajectory =
For[ Start t ; End t < iterasi
Bangkitkan p dari distribusi proposal
Bangkitkan u dari distribusi uniform(0,1)
If[
u≤α , set θt+1= +θt p
Else set θt+1=θt
] ]
Thetatopi = Mean [Trajectory]
Gambar 4.1 Prosedur Estimasi Parameter
Setelah diperoleh h asil e stimasi parameter y aitu ˆθ ,
selanjutnya d ilakukan pe rhitungan standart error Batch Mean.
perhitungan yang t elah d ilakukan s ebelumnya. B erikut i ni a dalah
prosedur perhitungan standart error Batch Mean.
Prosedur Estimasi Parameter
Inisialisasi h, w ; set i=1
Bagi Trajectory sebanyak h
For[ Start i ; End i < h
ThetraTrajectory [i]= Mean[Trajectory[i]]
Error[i] = Quadrat[ThetraTrajectory [i] -Thetatopi] Batch Mean = Sqrt[ Sum [ error[i]/((h-1)*h)]]
]
Gambar 4. 2 Prosedur Perhitungan Standart Error Batch Mean
Berdasarkan pr osedur-prosedur t ersebut dapat d ilakukan
perhitungan e stimasi p arameter d engan algoritma Metropolis
Hasting. Berikut ini adalah hasil perhitungan data pada Tabel 4.1
menggunakan algoritma Metroplois Hasting:
Tabel 4.2 Tabel Perhitungan dengan Metropolis Hasting
θ Iterasi Prior Distribusi Proposal
1
θ θˆ Standart Error
0.3983 100 Beta(2,4) Normal(0,1) 0.2 0.401417 0.0040357
0.3983 1000 Beta(2,4) Normal(0,1) 0.2 0.391904 0.0105594
Lanjutan Tabel 4.2 Tabel Perhitungan dengan Metropolis Hasting
θ Iterasi Prior Distribusi Proposal
1
θ θˆ Standart Error
0.3983 100 Beta(2,4) Normal(0,1) 0.5 0.427118 0.0314959
0.3983 1000 Beta(2,4) Normal(0,1) 0.5 0.405117 0.0190912
0.3983 10000 Beta(2,4) Normal(0,1) 0.5 0.39843 0.0013406
0.3983 100 Beta(2,4) Normal(0,1) 0.7 0.415353 0.0051671
0.3983 1000 Beta(2,4) Normal(0,1) 0.7 0.407188 0.0042770
0.3983 10000 Beta(2,4) Normal(0,1) 0.7 0.399445 0.0010819
0.3983 100 Beta(2,4) Uniform(0,1) 0.2 0.376067 0.0036752
0.3983 1000 Beta(2,4) Uniform(0,1) 0.2 0.393563 0.0119888
0.3983 10000 Beta(2,4) Uniform(0,1) 0.2 0.40004 0.0043368
0.3983 100 Beta(2,4) Uniform(0,1) 0.5 0.405967 0.0008491
0.3983 1000 Beta(2,4) Uniform(0,1) 0.5 0.395704 0.0031467
0.3983 10000 Beta(2,4) Uniform(0,1) 0.5 0.397316 0.0012965
0.3983 100 Beta(2,4) Uniform(0,1) 0.7 0.405513 0.0051184
Berdasarkan T abel 4.2 hasil e stimasi parameter
menggunakan a lgoritma Metropolis H asting m enunjukkan h asil
yang c ukup d ekat de ngan nilai θ sebenarnya dan ni lai standart
error Batch Mean yang d iperoleh s angat ke cil yang berarti nilai
standart error yang dihasilkan kecil. Melalui simulasi tersebut juga dapat di simpulkan bahwa s emakin b anyak ju mlah i terasi akan
menyebabkan n ilai ˆθ semakin de kat de ngan nilai θ, s elain itu
distribusi pr oposal yang d igunakan yaitu d istribusi N ormal da n
distribusi U niform memberikan e stimasi yang relatif s ama.
Perbedaan in isialisasi θ1 pada algoritma Metropolis Hasting tidak
berpengaruh s ignifikan t erhadap hasil e stimasi, k arena berapapun
nilai θ1 yang diinputkan diperoleh estimasi yang relatif sama.
Selanjutnya algorima M etropolis H asting akan d igunakan
untuk melihat pe ngaruh p arameter d istribusi B eta dalam e stimasi
parameter distribusi Binomial N egatif. Simulasi s elanjutnya
menggunakan inisialisasi θ1 yang s ama, yaitu 0 .5 dan
menggunakan d istribusi p roposal yaitu d istribusi N ormal ( 0,1).
Nilai θ1 dan d istribusi pr oposal yang d igunakan s ama mengingat
kedua faktor tersebut tidak memberikan perbedaan yang signifikan
terhadap h asil e stimasi. Berikut a dalah s imulasi de ngan
Tabel 4.3 Tabel Perbedaan Parameter Distribusi Prior Distribusi Prior θˆ Standart Error
Beta (1,2) 0.382559 0.00489297
Beta (2,3) 0.403235 0.00427772
Beta (1,3) 0.389386 0.00513714
Beta (1,4) 0.390629 0.0035615
Beta (3,4) 0.406527 0.00355009
Beta (2,5) 0.400866 0.00592813
Beta (3,5) 0.406562 0.00370302
Beta (4,5) 0.399273 0.00328232
Beta (2,6) 0.393828 0.00490377
Beta (3,6) 0.410854 0.00442508
Beta (4,6) 0.398502 0.00391238
Beta (5,6) 0.406587 0.00360521
Berdasarkan T abel 4. 3 da pat di lihat jika berapapun pa rameter
distribusi prior me nghasilkan n ilai e stimasi yang nilainya s aling
berdekatan .
Algoritma M etropolis H asting s angat b aik d alam
memberikan e stimasi p arameter B inomial Negatif d engan
distribusi prior berupa distribusi Beta, dengan demikian Algoritma
Metropolis H asting d apat juga d iterapkan p ada berbagai macam
adalah data yang a kan d iestimasi dengan b erbagai macam
distribusi prior.
Tabel 4.4 Tabel Data Binomial Negatif
13 11 9 6
13 12 15 11
11 17 15 5
5 12 17 6
11 8 11 16
8 8 19 15
31 11 19 5
10 12 15 9
6 20 13 11
15 16 14 8
Data tersebut k emudian d iestimasi d engan algoritma
Metropolis Hasting. Distribusi prior yang dipilih adalah distribusi
prior n on ko njugat. D istribusi posterior yang d ihasilkan d engan
pemilihan distribusi prior non konjugat biasanya sulit diselesaikan,
sehingga e stimasi pa rameternya a kan lebih mudah apabila
diselesaikan d engan al goritma Metropolis H asting. Misalkan
distribusi p rior Gamma a b( , ). Likelihood diperoleh s esuai
Sehingga sesuai p ersamaan (4.5) diperoleh d istribusi posterior
sebagai berikut
Distribusi posterior tersebut sulit diselesaikan sehingga dibutuhkan
bantuan i terasi n umerik untuk m enyelesaikan estimasi
parameternya. H al t ersebut juga berlaku u ntuk pe nggunaan
distribusi prior non konjugat la innya m isalnya distribusi C auchy
dan distribusi Weibull. Berikut ini adalah hasil estimasi parameter
dengan ba ntuan algoritma M etropolis H asting yang d ijalankan
masing-masing de ngan 1000 iterasi da n banyaknya s elisih
Tabel 4.5 Tabel Estimasi dengan Distribusi Prior Non Konjugat
Distribusi Prior θˆ Standart Error
Gamma (5,8) 20.4 2.9263
Cauchy(5,8) 4.29321 0.893824
Weibull (4,5) 6.09339 2.19357
Berdasarkan Tabel 4 .5 es timasi p arameter d ari data b erdistribusi
Binomial Negatif d engan distribusi G amma ( 5,8) , C auchy ( 5,8), da n
Weibull (4,5) menghasilkan ˆθ masing-masing sebesar 20.4, 4.29321, dan
6.09339. Algoritma me tropolis Hasting in i memberikan e stimasi d engan
proses yang mudah sehingga algoritma Metropolis Hasting dapat dijadikan
alternatif bantuan u ntuk mengestimasi parameter, na mun d emikian
estimasi yang d ihasilkan da ri metode M onte C arlo M arkov C hain
algoritma Metropolis Hasting tidak memberikan hasil yang tetap, sehingga
apabila menginginkan e stimasi yang nilainya t etap da pat m enggunakan
DAFTAR PUSTAKA
Andrew, G , S tern, H , C arlin, J, D unson D , V ehtari, A , a nd R ubin, D . 2000. Bayesian Data Analysis Third Edition. United States: Chapman and Hall. Apsari, W. 2013. Estimasi Parameter Regresi Logistik Multinomial dengan
Metode Bayes. Jurnal Gaussian, 2: 79-88.
Astuti, E . 2006. Implementasi B ayesian Markov C hain M onte C arlo p ada Permodelan P ortofolio O ptimal d engan P endekatan M odel M ixture Beberapa M ixture. Tesis. S urabaya: I nstitut T eknologi S epuluh November.
Bain, L.J. and Engelhardt, M. 1992. Introduction to Probability and Mathematical Statistics Second Edition. California: Duxbury Press.
Berger, J .O. 1980. Statistical Decision Theory and Bayesian Analysis Second Edition. New York: Springel-Verlag inc.
Boldstad, W . 2007. Introduction to Bayesian Statistics Second Edition. U nited States: Wiley Interscience.
Box, G .E.P a nd T iao, G .C. 2 011. Bayesian Inference in Statistical Analysis. Philippines: Addision-Wesley Publishing Company Inc.
Bradlow, E, Hardie, B, and Fader, P. 2002. Bayesian Inference for the Negative Binomial Distribution via Polynomial Expansions. J ournal o f Computional and Statistics, 11: 189-201.
Christensen, R, Johnson, W, Branscum, A, and Hanson, T. 2011. Bayesian Ideas and Data Analysis: An Introduction for Scientists and Statisticians. United States: CRC Press.
Gregory, P . 2010. Bayesian Logical Data Analysis for the Physical Sciences. United Kingdom: Cambridge.
Hilbe, J. 2011. Negative Binomial Regression. Cambridge: Cambridge University Press
Irwanti, L .K. 2012. Pembangkitan Sampel Random Menggunakan Algoritma Metropolis Hasting. Jurnal Gaussian, 1:135-146.
Jong, P , a nd H eller, G . 2008. Generalized Linear Model for Insurance Data. Cambridge: Cambridge University Press
Lio, Y, L. 2009. A Note on Bayesian Estimation for the Negative Binomial Model. Pliska Stud. Math. Bulgar, 19: 207-216.
Shafira. 2 011. P enaksiran P arameter D istribusi Binomial N egatif p ada Kasus Overdispersi. Skripsi. Jakarta: Universitas Indonesia.
Siska, A . 2011. I nferensi S tatistik D istribusi Binomial d engan M etode B ayes Menggunakan P rior K onjugat. Skripsi. S emarang: U niversitas Diponegoro.
Soejoeti, Z dan Soebanar. 1988. Inferensi Bayesian. Jakarta: Universitas Terbuka. Walck, C . 2007. Statistical Distributions for Experimentalists. S weden:
University of Stockholm.
Lampiran 1. Data Berdistribusi Binomial Negatif
7 19 8 10
10 9 20 8
11 6 8 9
11 7 7 7
16 13 10 10
9 2 25 10
1 11 14 17
9 28 14 16
18 8 5 3
Lanjutan Lampiran 1. Data Berdistribusi Binomial Negatif
13 11 9 6
13 12 15 11
11 17 15 5
5 12 17 6
11 8 11 16
8 8 19 15
31 11 19 5
10 12 15 9
6 20 13 11
Lampiran 2. Program MCMC Algoritma Metropolis Hasting dengan prior Beta #Pembangkitan data
#Perhitungan estimasi parameter
n=Input["Jumlah data yang ingin dibangkitkan"] k=Input["Kejadian sukses"]
thetadata=Input["Probabilitas sukses"]
data=RandomInteger[NegativeBinomialDistribution[k,thetadata],n]
TabView[{"Plot"->ListLinePlot[data,Mesh->All,GridLines->{{},{1}}],"Data"->data}]
Clear[a,b,iterasi,trajectory,traj,w,u,prop,proposedjump,prob,alfa,r,rr,ss,s,q,qq, thetatopi,r,sumy,f]
a=Input["Parameter Distribusi Prior a"] b=Input["Parameter Distribusi Prior b"] iterasi=Input["Iterasi yang diinginkan"]
trajectory[1]=Input["Nilai awal dengan kurung kurawal"] traj=Array[trajectory,iterasi]
w=Array[u,iterasi] rr=Array[r,iterasi]
prop=Array[proposedjump,iterasi] qq=Array[q,iterasi]
prob=Array[alfa,iterasi] ss=Array[s,iterasi]
Lanjutan Lampiran 2. Program M CMC A lgoritma M etropolis Hasting dengan prior Beta
#Perhitungan Batch Mean
likelihood[f_,data]:=Product[Evaluate[PDF[f,y]],{y,data}] li=likelihood[NegativeBinomialDistribution[k,theta],data] pri=PDF[BetaDistribution[a,b],theta]
ats=li*pri
bwh=Integrate[ats,theta] f[theta_]:=ats/bwh
For[i=1,i<iterasi,i++,proposedjump[i]=RandomReal[NormalDistribution[0,1], 1];u[i]=RandomReal[UniformDistribution[{0,1}],1];q[i]=trajectory[i][[1]]+pr oposedjump[i][[1]];r[i]=If[q[i]<1&&q[i]>0,q[i],0];If[r[i]!=0,s[i]=f[r[i]]/f[traje ctory[i][[1]]],s[i]=0];alfa[i]=Min[1,s[i]];If[u[i][[1]]<=alfa[i],trajectory[i+1]={ q[i]},trajectory[i+1]=trajectory[i]]]
thetatopi=Total[traj]/iterasi
TabView[{"Proposed Jump"->prop,"U"->w,"alfa"->prob,"Theta"->traj,"Hasil Estimasi"->thetatopi}]
Clear[h,c,tp,v,l,sd]
l=Input["Selisih Sampling"] g[x_]:=(x-thetatopi)
Lanjutan Lampiran 2. Program M CMC Algoritma Metropolis H asting dengan prior Beta
For[j=1,j<=z,j++,m[j]=g[trajectory[j][[1]]]*g[trajectory[j+l][[1]]];o[j]=Power [g[trajectory[j][[1]]],2]]
atas=Total[mm] bawah=Total[oo] rel=(iterasi/z)*(atas/bawah)
v=iterasi/l trj=Array[tp,v] thetatraj=Partition[traj,l]
syy=Array[sy,v]
For[c=1,c<=v,c++,tp[c]=Total[thetatraj[[c]]]/l;sy[c]=Power[tp[c]-thetatopi,2]] se=Sqrt[Total[syy]/((v-1)*v)]
Lampiran 3. Program MCMC Algoritma Metropolis Hasting dengan prior Gamma
#Pembangkitan data
#Perhitungan estimasi parameter
n=Input["Jumlah data yang ingin dibangkitkan"] k=Input["Kejadian sukses"]
thetadata=Input["Probabilitas sukses"]
data=RandomInteger[NegativeBinomialDistribution[k,thetadata],n]
TabView[{"Plot"->ListLinePlot[data,Mesh->All,GridLines->{{},{1}}],"Data"->data}]
Clear[a,b,iterasi,trajectory,traj,w,u,prop,proposedjump,prob,alfa,r,rr,ss,s,q,qq, thetatopi,r,sumy,f]
a=Input["Parameter Distribusi Prior a"] b=Input["Parameter Distribusi Prior b"] iterasi=Input["Iterasi yang diinginkan"]
trajectory[1]=Input["Nilai awal dengan kurung kurawal"] traj=Array[trajectory,iterasi]
w=Array[u,iterasi] rr=Array[r,iterasi]
prop=Array[proposedjump,iterasi] qq=Array[q,iterasi]
prob=Array[alfa,iterasi] ss=Array[s,iterasi]
Lanjutan Lampiran 3. Program M CMC Algoritma Metropolis H asting d engan prior Gamma
#Perhitungan Batch Mean
likelihood[f_,data]:=Product[Evaluate[PDF[f,y]],{y,data}] li=likelihood[NegativeBinomialDistribution[k,theta],data]
pri=PDF[GammaDistribution[a,b],theta] #apabila ingin mengganti distribusi prior Beta (a,b) dengan distribusi lain, hapus GammaDistribution dan ganti dengan distribusi yang diinginkan. PDF[CauchyDistribution[a,b] ,theta] untuk distribusi Cauchy, dan PDF[WeibullDistribution[a,b] ,theta] untuk distribusi Weibull
ats=li*pri
bwh=Integrate[ats,theta] f[theta_]:=ats/bwh
For[i=1,i<iterasi,i++,proposedjump[i]=RandomReal[NormalDistribution[0,1], 1];u[i]=RandomReal[UniformDistribution[{0,1}],1];q[i]=trajectory[i][[1]]+pr oposedjump[i][[1]];r[i]=If[q[i]<1&&q[i]>0,q[i],0];If[r[i]!=0,s[i]=f[r[i]]/f[traje ctory[i][[1]]],s[i]=0];alfa[i]=Min[1,s[i]];If[u[i][[1]]<=alfa[i],trajectory[i+1]={ q[i]},trajectory[i+1]=trajectory[i]]]
thetatopi=Total[traj]/iterasi
TabView[{"Proposed Jump"->prop,"U"->w,"alfa"->prob,"Theta"->traj,"Hasil Estimasi"->thetatopi}]
Clear[h,c,tp,v,l,sd]
l=Input["Selisih Sampling"] g[x_]:=(x-thetatopi)
Lanjutan Lampiran 3. Program M CMC Algoritma Metropolis H asting d engan prior Gamma
For[j=1,j<=z,j++,m[j]=g[trajectory[j][[1]]]*g[trajectory[j+l][[1]]];o[j]=Power [g[trajectory[j][[1]]],2]]
atas=Total[mm] bawah=Total[oo]
rel=(iterasi/z)*(atas/bawah) v=iterasi/l
trj=Array[tp,v]
thetatraj=Partition[traj,l] syy=Array[sy,v]
For[c=1,c<=v,c++,tp[c]=Total[thetatraj[[c]]]/l;sy[c]=Power[tp[c]-thetatopi,2]] se=Sqrt[Total[syy]/((v-1)*v)]
Lanjutan Lampiran 4. Output Program Perhitungan dengan Metropolis Hasting
Lanjutan Lampiran 4. Output Program Perhitungan dengan Metropolis Hasting
Lampiran 5. Output Perbedaan Parameter Distribusi Prior
Lanjutan Lampiran 5. Output Perbedaan Parameter Distribusi Prior