PENDUGAAN PARAMETER MODEL POISSON-GAMMA
MENGGUNAKAN ALGORITMA EM (EXPECTATION MAXIMIZATION)
(Skripsi)
Oleh
NURASHRI PARTASIWI 0817031042
JURUSAN MATEMATIKA
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS LAMPUNG
ABSTRAK
PENDUGAAN PARAMETER MODEL POISSON-GAMMA
MENGGUNAKAN ALGORITMA EM (EXPECTATION MAXIMIZATION)
Oleh
NURASHRI PARTASIWI
Model poisson merupakan model peluang diskrit yang menyatakan peluang jumlah peristiwa yang terjadi pada periode waktu tertentu dan memiliki rata-rata dan varians yang sama, tetapi pada kenyataannya, sering terjadi varians dari variabel responnya lebih besar daripada rata-ratanya atau overdispersi. Overdispersi akan membawa konsekuensi pada nilai penduga bagi galat baku yang lebih kecil (under estimate) yang selanjutnya dapat mengakibatkan kesalahan pada inferensia bagi parameternya. Salah satu cara untuk mengatasi masalah ini adalah dengan menambahkan informasi yaitu dengan sebaran prior, salah satunya gamma. Dengan demikian, model poisson berubah menjadi model dua tahap, yaitu model Poisson-Gamma. Dalam kasus model poisson-gamma salah satu penduga tidak dapat diselesaikan secara analitik, sehingga salah satu cara yang digunakan yaitu solusi numerik dengan teknik iteratif seperti metode Newton-Raphson. Dalam penelitian ini akan menduga parameter, metode yang akan digunakan adalah Algoritma EM (Expectation Maximization).
ABSTRACT
ESTIMATION OF THE PARAMETERS OF POISSON-GAMMA MODEL USING THE EM (EXPECTATION MAXIMIZATION) ALGORITHM
By
NURASHRI PARTASIWI
Poisson model is a discrete probability distribution that express the probability of a given number of events occurring in a specific interval of time and in has same average rate and variance, however in fact, it often happens that variance of response can be greater than the average rate or overdispersion. Overdispersion will bring consequences on the expected value for the smaller standard error (under estimate) which turns out errors on inference for those parameters. There is a way to overcome this problem which is with adding information with the prior distribution, it could be gamma. Thus, poisson model turns into a two-stage model, poisson-gamma model. In this case, one parameter of poisson-gamma model can’t be solved analitically, so the way that can be used is numerical solution such as the newton-raphson method. This research would have estimated the parameters, the method that will be used is EM (Expectation Maximization) algorithm.
PENDUGAAN PARAMETER MODEL POISSON-GAMMA
MENGGUNAKAN ALGORITMA EM (EXPECTATION MAXIMIZATION)
Oleh
Nurashri Partasiwi 0817031042
Skripsi
Sebagai Salah Satu Syarat Untuk Mencapai Gelar SARJANA SAINS
Pada
Jurusan Matematika
Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Lampung
JURUSAN MATEMATIKA
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS LAMPUNG
Judul Skripsi : PENDUGAAN PARAMETER MODEL POISSON-GAMMA MENGGUNAKAN ALGORITMA EM (EXPECTATION MAXIMIZATION)
Nama Mahasiswa : Nurashri Partasiwi Nomor Pokok Mahasiswa : 0817031042
Program Studi : Matematika S1
Jurusan : Matematika
Fakultas : Matematika dan Ilmu Pengetahuan Alam
MENYETUJUI 1. Komisi Pembimbing
Dian Kurniasari, M.Sc. Widiarti, M.Si
NIP 19690305 199603 2 001 NIP 19800502 200501 2 003
2. Mengetahui
Ketua Jurusan Matematika
RIWAYAT HIDUP
Penulis dilahirkan di Bandar Lampung pada tanggal 06 April 1991 dan adalah
anak pertama dari dua bersaudara, dari pasangan Bapak Drs. Partono, M.Pd dan
Ibu Dra. Nurlaila, serta adik kandung penulis bernama Balya Kretarta.
Penulis mengawali pendidikan Taman Kanak-kanak di TK Al-Azhar pada tahun
1995-1996, Sekolah Dasar di SD Alzhar 1 pada tahun 1996-2002, kemudian
pendidikan menengah di Madrasah Tsanawiyah Negeri 2 (MTsN 2) Bandar
Lampung pada tahun 2002-2005, dan pendidikan lanjutan di Madrasah Aliyah
Negeri 1 (MAN 1 Model) Bandar Lampung pada tahun 2005-2008.
Pada tahun 2008 penulis melanjutkan pendidikan Strata Satu (S1) pada Jurusan
Matematika dan Ilmu Pengetahuan Alam Universitas Lampung melalui jalur
SNMPTN. Penulis aktif dalam beberapa organisasi, yaitu menjadi anggota
Generasi Muda Matematika (GEMATIKA) pada tahun 2008, menjadi anggota
bidang eksternal Panitia Khusus (PANSUS) pemilihan gubernur dan wakil
gubernur FMIPA UNILA pada tahun 2009, menjabat sebagai anggota
kesekretariatan (KESTARI) Himpunan Mahasiswa Matematika (HIMATIKA)
pada tahun 2009, menjabat sebagai anggota kesekretariatan (KESTARI) BEM
FMIPA pada tahun 2009, dan menjabat sebagai sekretaris kesekretariatan
vi Penulis mengikuti Karya Wisata Ilmiah (KWI) pada tahun 2009 di Pagelaran
Kabupaten Pringsewu, sebagai bentuk aplikasi bidang ilmu kepada masyarakat.
Penulis menyelesaikan mata kuliah wajib Kuliah Kerja Nyata (KKN) yang
dilaksanakan pada 01 Juli 2011 – 10 Agustus 2011 di Desa Gisting Jaya
Kecamatan Negara Batin Kabupaten Way Kanan, dan melaksanakan Kerja
Praktik (KP) pada tahun 2012 di Badan Pusat Statistik (BPS) Kota Bandar
MOTTO:
Diam adalah emas.
Sabar dan ikhlas adalah kunci sukses.
PERSEMBAHAN
Persembahan kecil untuk yang tercinta, terkasih dan
tersayang, ibu dan bapak yang selalu mendoakan dengan
tulus, memberikan nasehat dan dorongan moril materil,
dan kasih sayang yang tak terkira, dan adik yang selalu
memberikan motivasi, serta kekasih hati yang memberikan
semangat tersendiri. Semoga dapat memberikan banyak
SANWANCANA
Alhamdulillahi robbil ’alamin, puji dan syukur penulis panjatkan kehadirat Allah
SWT yang telah melimpahkan rahmat dan hidayah serta nikmat yang tak
kurang-kurangnya kepada penulis dan tak lupa shalawat serta salam yang selalu tercurah
kepada junjungan kita nabi besar Muhammad SAW yang telah menjadi suri
tauladan yang baik bagi kita sehingga dapat terselesaikannya Skripsi yang
berjudul “Pendugaan Parameter Model Poisson-Gamma Menggunakan
Algoritma EM (Expectation Maximization)”.
Dalam penyusunan skripsi ini banyak pihak yang telah membantu, baik dalam
memberikan bimbingan maupun saran sehingga skripsi ini dapat terselesaikan
tepat waktu. Untuk itu penulis mengucapkan terima kasih kepada :
1. Ibu Dian Kurniasari, M.Sc., selaku dosen pembimbing utama yang selalu
membimbing penulis dalam penyelesaian skripsi dan selaku pembimbing
akademik yang selalu membimbing penulis semasa kuliah sampai sekarang.
2. Ibu Dian Widiarti, M.Si., selaku dosen pembimbing kedua yang selalu
membimbing, memberikan saran kritik bagi penulis selama penyelesaian
skripsi.
3. Bapak Mustofa Usman, Ph.D., selaku dosen penguji yang telah menguji
x
4. Bapak Drs. Tiryono Ruby, M.Sc., Ph.D, selaku Ketua Jurusan Matematika
FMIPA Universitas Lampung.
5. Bapak Amanto, M.Si., selaku Sekretaris Jurusan Matematika FMIPA
Universitas Lampung.
6. Bapak Prof. Suharso, Ph.D., selaku Dekan FMIPA Universitas Lampung.
7. Dosen, staf dan karyawan Jurusan Matematika FMIPA Universitas Lampung
yang telah memberikan ilmu pengetahuan dan bantuan kepada penulis.
8. Ibu, Bapak dan Adik Balya tercinta yang selalu memberi dorongan dan
motivasi agar dapat terselesaikannya skripsi ini.
9. Sahabat penulis wiwid, ida, selvi, wiwik, mia, ivip, septi, andre, noven, edo,
yayat, rendi, edi, fajri, teman-teman Exotic (Matematika 08), dan adek-adek
matematika angkatan 2009 dan 2010, serta akma, bang shan, chandra, dll
terimakasih atas saran, dukungan dan semangat kebersamaannya.
10. Gayoh Fajri Kuswara yang telah menjadi semangat tersendiri bagi penulis.
11. Seluruh pihak yang telah membantu penulis yang tidak dapat disebutkan satu
persatu, atas peran dan dukungannya dalam menyusun skripsi ini.
Penulis menyadari bahwa skripsi ini masih banyak jauh dari kesempurnaan, akan
tetapi semoga skripsi ini dapat berguna dan memberikan manfaat bagi kita semua.
Amiin.
Bandar Lampung, 12 November 2012
Penulis,
I. PENDAHULUAN
1.1 Latar Belakang
Model poisson merupakan model peluang diskrit yang menyatakan peluang
jumlah peristiwa yang terjadi pada periode waktu tertentu, rata-rata kejadian
diketahui dan dalam waktu yang saling bebas sejak kejadian terakhir. Model
poisson dapat digunakan untuk jumlah kejadian pada interval tertentu. Model
poisson memiliki rata-rata dan varians yang sama, tetapi pada kenyataannya,
sering terjadi varians dari variabel responnya lebih besar daripada
rata-ratanya atau overdispersi.
Kondisi overdispersi dapat terjadi karena adanya sumber keragaman yang
tidak teramati. Overdispersi juga akan membawa konsekuensi pada nilai
penduga bagi galat baku yang lebih kecil (under estimate) yang selanjutnya
dapat mengakibatkan kesalahan pada inferensia bagi parameternya. Salah satu
cara untuk mengatasi masalah ini adalah dengan menambahkan informasi
yaitu dengan sebaran prior. Sebaran gamma merupakan sebaran yang dapat
dipilih sebagai prior. Dengan demikian, model poisson berubah menjadi
2 Statistik inferensia salah satunya meliputi pendugaan parameter. Beberapa
metode pendugaan parameter yaitu metode momen dan metode kemungkinan
maksimum. Pendugaan parameter dengan menggunakan metode
kemungkinan maksimum tidak bisa dilakukan secara langsung karena ada
data yang tidak teramati sehingga perlu algoritma EM (Expectation
Maximization) yang digunakan untuk data tidak teramati. Prinsip dasarnya algoritma EM digunakan untuk data tidak lengkap dengan cara
memaksimumkan nilai harapan ke fungsi kemungkinannya.
Dalam kasus model poisson-gamma salah satu penduga tidak dapat
diselesaikan secara analitik, sehingga salah satu cara yang digunakan yaitu
solusi numerik dengan teknik iteratif seperti metode Newton-Raphson.
Metode Newton-Raphson sering digunakan karena kesederhanaannya dan
mempunyai konvergensi yang cepat. Dalam penelitian ini penulis tertarik
untuk menduga parameter model poisson-gamma dengan menggunakan
algoritm EM (Expectation Maximization).
1.2 Batasan Masalah
Pada penelitian ini, permasalahan dibatasi pada pendugaan parameter model
poisson-gamma dengan menggunakan algoritma EM (Expectation
3 1.3 Tujuan Penelitian
Tujuan dari penelitian ini adalah menduga parameter model poisson-gamma
dengan menggunakan algoritma EM (Expectation Maximization).
1.4 Manfaat Penelitian
Beberapa manfaat yang dapat diperoleh dari penelitian ini adalah sebagai
berikut:
1. Mendapatkan pembuktian secara analitik nilai penduga parameter dari
model poisson-gamma dengan menggunakan algoritma EM (Expectation
Maximization).
2. Mendapatkan penjelasan dari analisis hasil pendugaan parameter model
II. LANDASAN TEORI
Peubah acak X(s) merupakan sebuah fungsi X yang menetapkan setiap anggota
sєS (S ruang sampel) dengan sebuah bilangan real. Salah satu peubah acak adalah
peubah acak diskrit, yaitu banyaknya nilai-nilai yang mungkin dari X (X adalah
peubah acak) berhingga atau tak berhingga tapi dapat dihitung. Dalam peubah
acak diskrit, nilai-nilai yang mungkin merupakan bilangan bulat. Kemudian dapat
menghitung nilai peluang dari masing-masing nilai peubah acak tersebut, apabila
nilai peluang dari peubah acak tersebut mempunyai persyaratan tertentu maka
nilai peluang tersebut dinamakan fungsi peluang. Distribusi yang mempunyai
bentuk fungsi peluang dari peubah acak diskrit disebut distribusi khusus diskrit,
yaitu salah satunya adalah distribusi poisson atau model poisson.
2.1 Model Poisson
Peubah acak X dikatakan berdistribusi Poisson, jika dan hanya jika fungsi
peluangnya berbentuk:
p(x) = P(X = x) =
! ; x = 0,1,2,3, (2.1)
Rataan, varians, dan fungsi pembangkit momen dari distribusi Poisson adalah
sebagai berikut:
5
2. =
3. M (t) = ( ); t . (Nar Herrhyanto dan Tuti Gantini, 2009).
2.2 Metode Bayes
Misalkan x , x , , x merupakan sampel acak berukuran n dari distribusi
yang mempunyai fungsi kepekatan peluang berbentuk f(x , x , , x | ) dan
sebaran dari peubah acak yaitu ( )(sebaran prior).
Langkah-langkah untuk menentukan penduga bayes bagi adalah:
1. Menentukan fungsi kepekatan peluang bersama dari x , x , , x dengan
f(x , x , , x )yang didefinisikan sebagai berikut:
f(x , x , , x , ) = f(x , x , , x | ). ( ) (2.2)
2. Menentukan sebaran marginal yang diperoleh dengan mengintegralkan
fungsi kepekatan peluang bersama sebagai berikut:
m(x , x , , x ) = f(x , x , , x | ). ( ) d (2.3)
3. Menentukan sebaran posterior atau fungsi kemungkinan sebagai berikut:
f( |x , x , , x ) = ( , , , , )( , , , ) (2.4)
(John E Freund dan Gary A Simon, 1999).
2.3 Model Poisson-Gamma
Model poisson-gamma merupakan model poisson campuran yang
menggunakan prior gamma sebagai alternatif untuk menyelesaikan masalah
overdispersi. Model poisson-gamma dapat ditulis sebagai:
6 ~ Gamma ( , ), i = 1,2,
Misalkanx , x , , x sampel acak dengan fungsi peluang:
f(x , x , , x | ) = ! ; x = 0,1, (2.5)
Dengan sebaran prior fungsi densitas gamma:
( ) = ( )( ) ; 0 < (2.6)
Maka didapatkan fungsi bersama model poisson-gamma sebagai berikut:
f(x , x , , x , ) =
! . ( )( ) (2.7)
Sebaran marginal diperoleh dengan mengintegralkan fungsi bersama sebagai
berikut:
m(x , x , , x ) = ( )( )
! (x + )
( )
(2.8)
Dengan demikian fungsi kemungkinan model poisson-gamma adalah:
f( |x , x , , x ) = ( )
( )
(2.9)
(Michalis K. Titsias, 2012).
2.4 Algoritma EM (Expectation Maximization)
Algoritma EM merupakan metode untuk pendugaan parameter dari fungsi
kemungkinan pada data tidak teramati, terutama digunakan untuk sebaran
campuran karena ada data tidak teramati. Ada dua tahap dalam menggunakan
algoritma EM, yaitu tahap E (Expectation) dan tahap M (Maximization).
Dalam tahap E yaitu mencari nilai harapan penduga parameter dan tahap M
7 MisalnyaY = (X , Z )adalah data lengkap, dimana X data yang teramati dan
Z data yang tidak teramati. Sehingga pada tahap E dari iterasi ke-(k+1), nilai
harapan loglikelihood dari model data lengkap dapat dihitung dengan rumus | ( ) = E log p(Y| ) |X, ( ) dengan menggunakan sebaran bersyarat
f Y|X, ( ) . Pada tahap M nilai | ( ) dimaksimumkan terhadap ,
dimana merupakan penduga parameter tertentu. Ketika model data lengkap
berasal dari keluarga eksponensial, maka tahap E dihitung nilai harapan
bersyarat dari statistik cukupnya.
Nilai-nilai data yang tidak teramati dalam sebaran campuran adalah realisasi
dari dimana adalah parameter yang tidak teramati untuk setiap X .
Sehingga pada tahap E, perlu menghitung nilai harapan bersyarat dari fungsi
(tidak teramati) dan memaksimumkan fungsi kemungkinan dari model data
lengkap yang direduksi dari sebaran campuran.
Beberapa tahap untuk mencari nilai penduga kemungkinan maksimum
dengan algoritma EM, yaitu:
1. Pada tahap E, menggunakan nilai dugaan terakhir atau saat ini ( ) dari
iterasi ke-k, kemudian hitung nilai pseudo (samaran) = ( )|X, ( ) , dimana = 1, , , = 1, , ketika (. )
adalah fungsi sebaran tertentu dan adalah nilai penduga.
2. Pada tahap M, menggunakan nilai pseudo dari tahap E untuk
memaksimumkan kemungkinan dari sebaran campuran dan diperoleh nilai
8 3. Ketika selisih ( ) dan ( ) kurang dari suatu bilangan yang sangat
kecil maka iterasi akan berhenti, jika tidak iterasi berlanjut ke tahap E.
(Dempster AP, 1977).
2.5 Metode Newton-Raphson
Kebanyakan persoalan model matematika dalam bentuk yang rumit tidak
dapat diselesaikan dengan metode analitik yang sudah umum untuk
mendapatkan solusi eksak. Bila metode analitik tidak dapat lagi diterapkan,
maka solusi dari persoalan model matematika tersebut masih dapat
diselesaikan dengan menggunakan metode numerik.
Dalam metode numerik, pencarian akar f(x) = 0 dilakukan dengan iterasi. Diantara semua metode akar, metode Newton-Raphsonlah yang paling
terkenal dan paling banayak dipakai dalam terapan sains dan rekayasa.
Metode ini paling disukai karna tingkat konvergensinya paling cepat diantara
metode lainnya.
Ada dua pendekatan dalam menurunkan rumus metode Newton-Raphson
yaitu:
1. Penurunan rumus metode Newton-Raphson secara geometri
9 Gambar 2.1 Grafik pendekatan metode Newton-Raphson.
Dari gambar 1, gradient garis singgung dixradalah:
= ′( ) = = ( ) = ( ) (2.10)
Sehingga prosedur iterasi metode Newton-Raphson adalah:
= ′( )
( ), ′( ) 0 (2.11)
2. Penurunan rumus Newton-Raphson dengan deret Taylor
Uraikan ( )disekitar ke dalam deret Taylor:
( ) = ( ) + ( ) ′( ) +( ) ′′( ), < <
(2.12)
Apabila deret tersebut dipotong sampai orde ke-2 maka persamaannya
akan menjadi:
( ) ( ) + ( ) ′( ) (2.13)
Dan karena persoalan mencari akar,f(xr+1) = 0 sehingga:
( ) = ( ) + ( ) ′( ) = 0 (2.14)
Y=f(x)
Tangent line
xn
Xn+1
10 atau
= ′( )( ), ′( ) 0 (2.15)
yang merupakan rumus metode Newton-Raphson.
Kondisi berhenti iterasi Newton-Raphson adalah apabila | | <
atau bila menggunakan galat relative hampiran | | < , dengan
[image:21.595.169.496.275.515.2]dan adalah toleransi galat yang diinginkan.
Gambar 2.2 Diagram alir mode iterasi Newton-Raphson
(Rinaldi Munir, 2003).
xn= xn+1
Selesai ya
Apakahf(xn+1) kecil ?
III. METODE PENELITIAN
3.1 Data Penelitian
Data yang digunakan dalam penelitian ini adalah data sekunder, yaitu data
kanker bibir di skotlandia yang diambil dari Stren dan Cressie (2000). Data ini
berupa banyaknya penderita kanker bibir yang tercatat selama 6 tahun dari
tahun 1975 sampai 1980 pada 56 distrik di skotlandia. Data lengkapnya dapat
dilihat pada Lampiran 1.
3.2 Metode Penelitian
Beberapa langkah yang dilakukan dalam penelitian ini adalah sebagai berikut:
langkah pertama, yaitu menduga parameter model poisson-gamma dengan
menggunakan algoritma EM (Expectation Maximization) yaitu pada tahap E
(Expectation) menentukan nilai pseudo dengan mencari nilai harapan dari
sebaran posterior atau fungsi kemungkinan model poisson-gamma dan
menentukan nilai harapan ✁✄ dari sebaran prior gamma dengan parameter
✂☎✆dan✝☎
✝ ✞
.
Pada tahap M (Maximization) memaksimumkan fungsi kemungkinan dari
sebaran prior gamma yang menggunakan nilai pseudo ✟ tahap E, menduga
Newton-12 Raphson dengan bantuan software Mathlab, menduga parameter ✠ model
poisson-gamma yang diperoleh dari turunan pertama dari logaritma natural
L( , ) terhadap yang harus sama dengan 0, dan menduga parameter θ
model poisson-gamma yang diperoleh dari nilai harapan sebaran posterior
atau fungsi kemungkinan model poisson-gamma.
Langkah kedua, yaitu melakukan analisis dengan mendesign program
pendugaan parameter θ dan α secara iteratif dari model poisson-gamma
dengan bantuan software Mathlab yang diaplikasikan pada data berupa
banyaknya penderita kanker bibir yang tercatat selama 6 tahun dari tahun
1975 sampai 1980 pada 56 distrik di skotlandia.
Berikut langkah-langkah penelitian jika digambarkan dalam bentuk diagram
alir :
Mulai
Menduga parameter model poisson-gamma dengan menggunakan algoritma EM
(Expectation Maximization)
Membangun program macro untuk mendapatkan penduga parameter θ dan α
secara iteratif
[image:23.595.116.513.426.725.2]Selesai
V. KESIMPULAN
Beberapa kesimpulan yang dapat diambil dari penelitian ini adalah sebagai
berikut:
1. Pada analisis pendugaan parameter dan model poisson-gamma dengan
menggunakan algoritma EM (Expectation Maximization), semakin besar
nilai awal dan yang diberikan maka nilai dugaan juga akan semakin
besar, sedangkan semakin besar nilai awal dan yang diberikan maka
nilai dugaan akan semakin kecil.
2. Pada analisis pendugaan parameter θ model poisson-gamma dengan
menggunakan algoritma EM (Expectation Maximization), semakin besar
nilai awal dan semakin kecil nilai awal , maka nilai dugaan akan
semakin kecil. Dan sebaliknya, semakin kecil nilai awal dan semakin
