ABSTRAK
PENDUGAAN PARAMETER MODEL REGRESI BINOMIAL NEGATIF MELALUI DISTRIBUSI CAMPURAN POISSON-GAMMA DENGAN MENGGUNAKAN METODE MAXIMUM LIKELIHOOD ESTIMATION
(MLE)
Oleh
MADE INDRAWAN
Regresi poisson merupakan analisis regresi yang memerlukan asumsi mean dan varians yang sama pada variabel respon. Data count merupakan data yang berupa bilangan bulat negatif. Apabila data tersebut diaplikasikan pada regresi poisson, maka asumsi dalam regresi poisson dilanggar yaitu nilai varians lebih besar dari nilai mean yang disebut overdispersi dimana nilai standar error nilai parameter regresi cenderung lebih rendah dari yang seharusnya mengakibatkan kesimpulan yang tidak valid. Untuk mengatasi masalah tersebut diperlukan model lain, yaitu model regresi binomial negatif. Melalui model ini, dengan menggunakan metode maximum likelihood estimation diperoleh nilai penduga yang tidak exact sehingga penyelesaiannya diperlukan metode iterasi newton raphson. Hasil pendugaan parameter regresi yang diperoleh merupakan penduga yang bias.
RIWAYAT HIDUP
Penulis dilahirkan di Seputih Raman, pada tanggal 13 Juli 1988, sebagai anak bungsu dari dua bersaudara pasangan Bapak Wayan Kasub dan Ibu Ni Nyoman Karsini.
Pendidikan Taman kanak-kanak (TK) diselesaikan di TK Bukoposo tahun 1996, Sekolah Dasar (SD) diselesaikan di SDN 1 Bukoposo pada tahun 2002, Sekolah Menengah Pertama Negeri di SMPN 1 Way Serdang pada tahun 2005, Sekolah Menengah Atas di SMAN 13 Bandar Lampung pada tahun 2008, dan pada tahun yang sama penulis diterima sebagai mahasiswi di Jurusan Matematika Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Lampung melalui jalur Seleksi Nasional Masuk Perguruan Tinggi Negeri (SNMPTN).
PERSEMBAHAN
Puji Syukur Kehadiran Tuhan Yang Maha Esa yang selalu memberikan anugrah, kesehatan jiwa-raga, serta ketenangan hati dalam menjalani kehidupan ini.
Dengan penuh rasa syukur dan bangga kupersembahkan karya kecilku ini Sebagai tanda bakti dan cinta Kepada :
Ayah dan Bunda tercinta…
Terimakasih atas kesabaran dan keikhlasan hati dalam membesarkan serta mendidikku
dengan penuh cinta. Dengan do’a dan dukungan serta pengorbanan kalaian mengantarkanku
selangkah demi selangkah dalam menggapai cita-cita. Semoga Tuhan membalas dengan rasa saying dan cinta-Nya melebihi dari apa yang telah engkau berikan kepadaku.
Kakakku tercinta Ni Wayan Sulastri.
Sahabat-sahabat terbaik yang selalu ada meski tak selalu bersama yang tak pernah berhenti untuk memberikan nasihat, keceriaan, serta motivasi dalam setiap kehidupan penulis
MOTO
“Sesali masa lalu karena ada kekecewaan dan kesalahan-kesalahan,
tetapi jadikan penyesalan itu sebagai senjata untuk masa depan agar
tidak terjadi kesalahan lagi”
Bermimpilah yang sebesar-besarnya, tapi bersegeralah untuk mengerjakan
sekecil-kecilnya kebaikan yng terdekat
Berhasil mengalahkan dirimu, menjadikanmu dewasa. Berhasil
mengalahkan orang lain, menjadikanmu pemenang. Tapi memberhasilkan
orang lainlah yang menjadikanmu pemimpin.
iv
SANWACANA
Puji syukur penulis panjatkan kepada Tuhan Yang Maha Esa, yang telah senantiasa melimpahkan rahmat dan hidayah-Nya sehingga penulis dapat menyelesaikan skripsi yang berjudul “Pendugaan Model Regresi Binomial Negatif Melalui Distribusi Campuran Poisson-Gamma Dengan Menggunakan Metode Maximum Estimation Likelihood (MLE).
Pada proses penyusunan skripsi ini, penulis memperoleh banyak dukungan, kritik, dan saran yang membangun sehingga skripsi ini mampu penulis selesaikan. Untuk itu penulis ingin mengucapkan terima kasih kepada :
1. Ibu Dian Kurniasari, M.Sc., selaku dosen pembimbing utama yang telah meluangkan waktu dari padatnya kesibukan beliau untuk membimbing dan memotivasi penulis selama melaksanakan penelitian dan penyelesaian skripsi. 2. Ibu Widiarti, M.Si., selaku dosen pembimbing kedua yang telah banyak
membantu dan memberikan pengarahan dalam proses penyusunan skripsi ini. 3. Bapak Warsono, Ph.D., selaku dosen penguji yang telah memberikan
nasehat, motivasi, saran dan kritik yang membangun guna penyempurnaan skripsi ini.
v
5. Bapak Drs. Tiryono Ruby, M.Sc., Ph.D., selaku Ketua Jurusan Matematika FMIPA Universitas Lampung.
6. Bapak Prof. Suharso, Ph.D., selaku dekan FMIPA Universitas Lampung. 7. Dosen, staf dan karyawan Jurusan Matematika FMIPA UNILA yang telah
memberikan ilmu pengetahuan dan bantuan kepada penulis.
8. Ayah dan Ibu yang telah memberikan motivasi dan bantuan baik moril maupun materil dan memberikan segala perhatiannya disaat keadaan apapun serta selalu mendoakan penulis serta senantiasa berkorban dan mengusahakan yang terbaik bagi penulis tanpa mengenal lelah.
9. Kakakku terima kasih atas segala dukungan moril dan materil serta nasihatnya.
10. Semua teman seperjuangan dalam penelitian, terimakasih atas kerjasama dan semangatnya yang tanpa henti, dan teman – teman Exoters lainnya, terima kasih atas saran, dukungan dan semangat kebersamaannya.
11. Keluarga Besar HIMATIKA, keluaga besar NATURAL dan UKM-HINDU UNILA terima kasih atas saran, dukungan dan semangat kebersamaannya. 12. Semua pihak yang telah membantu selama ini, yang tidak dapat disebutkan
satu persatu.
Bandar Lampung, 22 September 2014 Penulis
vi
1.1Latar BelakangdanMasalah ... 1
1.2BatasanMasalah ... 3
2.3Distribusi Binomial Negatif ... 8
2.4Model Regresi Binomial Negatif ... 9
2.5Fungsi Link ... 11
2.6MetodeMaximum Likelihood Estimation (MLE) ... 13
2.7Metode Iterasi Newton Rhapson ... 15
III. METODE PENELITIAN ... 17
3.1Waktu dan Tempat Penelitian ... 17
3.2Data Penelitian ... 17
3.3MetodePenelitian ... 17
IV. HASIL DAN PEMBAHASAN ... 19
4.1Distribusi Binomial Negatif ... 19
4.2Model Regresi Binomial Negatif ... 27
4.3Estimasi Parameter Model Regresi Binomial NegatifDengan MetodeMaximum Likelihood Estimation (MLE) ... 32
4.4Pendugaan/Estimasi dengan Metode Iterasi Newton Raphson ... 40
4.5Hasil Analisis Pendugaan Model Regresi Binomial Negatif ... 49
vii
V. KESIMPULAN DAN SARAN ... 54 5.1Kesimpulan ... 54 5.2Saran ... 55 DAFTAR PUSTAKA
DAFTAR GAMBAR
Gambar Halaman
DAFTAR TABEL
Tabel Halaman
4.1 Hasil analisis pendugaan nilai awal parameter dan model regresi binomial negatif dengan bantuan software SAS……… 50 4.2 Hasil analisis pendugaan parameter , dan
……… 51
4.3 Hasil analisis pendugaan parameter , dan
1
I. PENDAHULUAN
1.1 Latar Belakang
Analisis regresi merupakan suatu metode yang sering digunakan untuk menganalisis hubungan antara variabel respon dengan beberapa variabel prediktor. Pada umumnya analisis regresi digunakan untuk menganalisis data variabel respon yang berupa data kontinu, namun sering juga ditemui variabel yang berjenis diskrit. Variabel respon diskrit dapat berupa data count yaitu data yang nilainya non negatif dan menyatakan banyak kejadian dalam interval waktu, ruang, atau volume tertentu. Ketika variabel responnya berupa data count, analisis regresi yang biasa digunakan adalah analisis regresi poisson.
2
kenyataannya kondisi seperti ini sangat jarang terjadi karena data count memiliki variansi yang lebih besar dari meannya atau disebut kondisi overdispersi. Dalam kondisi kasus seperti ini model regresi binomial negatif merupakan salah satu alternatif yang tepat untuk mengatasinya.
Model regresi binomial negatif memiliki kegunaan yang sama dengan model regresi poisson yaitu untuk menganalisis hubungan antara suatu variabel respon data count dengan satu atau lebih variabel penjelas, tetapi model regresi binomial negatif lebih fleksibel dibandingkan dengan model poisson karena asumsi mean dan variansi dari model binomial negatif tidak harus sama. Model ini juga memiliki parameter dispersi yang berguna menggambarkan variasi dari data yang biasa dinotasikan dengan . Model regresi binomial negatif yang akan digunakan adalah model binomial negatif yang merupakan model campuran antara poisson dan gamma, dimana distribusi gamma digunakan untuk mengatasi masalah overdispersi dalam model poisson.
3
Parameter didefinisikan sebagai hasil pengukuran yang menggambarkan karakteristik dari suatu populasi. Nilai parameter dari populasi biasanya belum diketahui, sehingga perlu diestimasi berdasarkan pengamatan dari data sampel. Untuk menghasilkan penduga parameter yang baik dapat dilakukan dengan beberapa cara yaitu, metode kuadrat terkecil, penduga bayes, metode maximum likelihood estimation (MLE), metode momen dan lainnya. Pada penelitian ini peneliti menggunakan metode maximum likelihood estimation (MLE), karena metode MLE sering memberikan hasil pendugaan yang lebih baik dari yang lain dalam beberapa contoh kasus.
1.2 Batasan Masalah
Penulis difokuskan penelitian ini pada distribusi binomial negatif dari sebaran campuran Poisson-Gamma, dan menentukan nilai pendugaan dari parameter dan dengan menggunakan Metode Kemungkinan Maksimum (Method Maximum Likelihood).
1.3 Tujuan Penelitian
Berdasarkan latar belakang yang telah diuraikan diatas, penulis merumuskan beberapa tujuan penelitian sebagai berikut:
1. Menunjukan bahwa model regresi binomial negatif diperoleh darifungsi marginal distribusi campuran Poisson – Gamma.
4
3. Menduga parameter-parameter model Regresi Binomial Negatif dengan menggunakan metode Maximum Likelihood Estimation (MLE).
4. Menentukan solusi dari fungsi likelihood dalam menduga parameter-parameter model regresi binomial negatif menggunakan pendekatan numerik, yaitu metode newton rapshon.
1.4 Manfaat Penelitian
Penelitian ini memiliki manfaat sebagai berikut:
1. Memberikan wawasan bagaimana bentuk model regresi binomial negatif dan nilai mean serta variansinya.
5
II. LANDASAN TEORI
2.1 Model Regresi Poisson
Analisis regresi merupakan metode statistika yang populer digunakan untuk menyatakan hubungan antara variabel respon Y dengan variabel-variabel prediktor X. Regresi poisson adalah salah satu regresi yang dapat menggambarkan hubungan antara variabel respon Y dimana variabel respon berdistribusi poisson dengan variabel prediktor X. Model regresi poisson merupakan model standar untuk data diskrit dan termasuk dalam model linier. Regresi poisson adalah suatu bentuk model linear umum dimana variabel respon dimodelkan sebagai distribusi poisson. Regresi poisson merupakan suatu bentuk analisis menggunakan regresi untuk menduga model data seperti jumlah, perubahan nilai atau mengelompokan data ke tabel. Regresi poisson dapat dimodelkan mengunakan kombinasi
non-linier β dari variabel-variabel yang diberikan:
β
6
selalu menghasilkan nilai positif, tetapi dengan adanya eksponensial ini tidak ada hubungannya dengan model poisson. Dari model ini nilai β, yang merupakan parameter yang tidak diketahui. Nilai dugaan dari parameter-parameter dapatdiperoleh dengan metode maximum likelihood. Sebagai catatan bahwa dengan mengestimasi β maka dapat diestimasi juga keseluruhan dari distibusi dari Y terhadap x. Dengan ini regresi poisson memberikan suatu model yang realistis untuk berbagai macam fenomena acak poisson berupa bilangan bulat non negatif. Distribusi poisson disebut juga distribusi peristiwa yang jarang terjadi dalam suatu interval waktu tertentu, ditemukan oleh S.D. Poisson (1781-1841), seorang ahli matematika berkebangsaan perancis. Distribusi poisson termasuk distribusiteoritis yang memakai variabel random diskrit.Misalkan Y peubah acak yang terjadi dalam suatu interval waktu tertentu, (Hogg and Tanis,1997).
Maka fungsi peluang dari distribusi poisson diberikan sebagai berikut (Cameron dan trevedi, 1998).
Dimana adalah means distribusi poisson, means dan variansnya adalah:
Peluang banyaknya peubah acak Y dalam periode waktu t diberikan oleh:
7
kejadian per periode waktu adalah konstan. Model regresi poisson dapat ditulis sebagai berikut:
̂ β
Dimana:
jumlah kejadian ke ,
means jumlah kejadian dalam periode galat error atau residual
2.2 Distribusi Gamma
Berdasarkan Hogg dan Craig (1995), suatu variabel acak kontinu dikatakan berdistribusi Gamma dengan parameter dan jika variabel tersebut mempunyai fungsi peluang sebagai berikut:
{
β
Nilai mean dan variansnya adalah
8
Definisi fungsi gamma dari dan yaitu:
∫
Untuk dan nilai dari integral tersebut adalah bilangan positif.
Beberapa nilai dari fungsi gamma adalah
(i). Jika , maka ∫
(ii). Jika adalah suatu bilangan bulat positif yang lebih besar dari satu, maka diperoleh
(iii). Jika maka ∫
(iv). Untuk maka
2.3 Distribusi Binomial negatif
9
buah sukses, maka berdistribusi binomial negatif dengan fungsi peluang sebagai berikut:
Mean, varians, dan fungsi pembangkit momen dari distribusi binomial negatif adalah sebagai berikut:
1.
2.
3.
[ ]
2.4 Model regresi Binomial Negatif
Distribusi binomial negatif merupakan model untuk menghitung jumlah suatu kejadian. Biasanya distribusi binomial negatif digunakan untuk menghitung probabilitas dari jumlah kegagalan yang terjadi sebelum berhasil. Tetapi karena merupakan kebalikan dari binomial maka dapat juga digunakan untuk menghitung jumlah kejadian, karena percobaan akan dilakukan terus menerus sampai berhasil.
10
mengandung overdispersi. Distribusi binomial negatif ini diperoleh dari proses pengintegralan dari distribusi campuran poisson-gamma terhadap . Misalkan
bahwa variabel acak berdistribusi poisson dengan parameter atau poisson( ). Akan tetapi, itu sendiri merupakan peubah acak dan diasumsikan berdistribusi gamma yaitu:
Jika suatu distribusi poisson ( ) dimana merupakan nilai variabel random yang berdistribusi gamma, maka akan dihasilkan distribusi campuran yang dinamakan distribusi binomial negatif. Model regresi binomial negatif mengasumsikan terdapat peubah yang menyebar gammadengan nilai tengah 1 dan ragam ⁄ Sehingga untuk memperoleh jika parameter dalam nilai
tengah sebaran poisson. Misalkan adalah sumber keragaman yang tidak teramati, sehingga nilai tengah sebaran campuran poisson-gamma adalah
̃
Dengan adalah nilai tengah model poisson dan . Dengandiasumsikan , maka model poisson dan binomial negatif memiliki nilai tengah yang sama, yaitu . Fungsi peluang sebaran campuran poisson-gamma dapat ditulis sebagai berikut:
11
peubah menyebar gamma dengan parameter dan . Fungsi peluang gamma adalah
dengan nilai harapan , sehingga untuk memperoleh maka
parameter ditentukan sebesar . Diasumsikan fungsi peluang gamma menjadi,
g
Sehingga dapat ditulis bentuk fungsi marjinal dari distribusi campuran poisson-gamma adalah:
∫
Dari hasil integral untuk fungsi marjinal distribusi campuran poisson-gamma, maka diperoleh bentuk umum dari model regresi binomial negatif sebagai berikut:
( ) ( )
2.5Fungsi Link
12
bila parameter kanoniknya sama dengan fungsi linknyayaitu :
(2.4.1)
Dimana adalah parameter kanonik.
Berikut fungsi link kanonik untuk beberapa distribusi :
Distribusi Fungsi link kanonik
Normal
Poisson
Binomial
⁄
Gamma
Terdapat dua fungsi penghubung yang biasa digunakan dalam regresi binomial negatif yaitu penghubung identitas (identity link) dan penghubung log (log link).
Fungsi penghubung identitas berbentuk :
(2.4.2)
Sedangkan fungsi penghubung log berbentuk :
(2.4.3)
13
log menjamin bahwa nilai variabel yang diharapkan dari variabel responnya akan bernilai non negatif.
2.6Metode Kemungkinan Maksimum (Method of Maximum Likelihood)
Definisi 2.6.1: (Hogg and Craig, 1995)
Fungsi densitas bersama dari variabel random yang bernilai adalah yang merupakan fungsi likelihood.
Untuk tetap, fungsi likelihood merupakan fungsi dari dan dilambangkan dengan . Jika mewakili sebuah sampel random dari , maka dapat dituliskan sebagai berikut:
̃
∏
, merupakan fungsi densitas probabilitas dari
. Untuk hasil pengamatan , nilai ̂ berada dalam ̂ ,
dimana maksimum yang disebut sebagai maximum likelihood estimation
14
Jika ; , maka untuk memperoleh
nilai ̂ tersebut yang memaksimumkan harus diderivatifkan dengan langkah-langkah sebagai berikut:
1. Nilai ̂ diperoleh dari derivatif pertama jika:
̂
2. Nilai ̂ dikatakan memaksimumkan jika:
̂
Selain dengan memaksimumkan fungsi likelihood, nilai ̂ juga dapat diperoleh dengan memaksimumkan fungsi log-likelihood, karena dengan memaksimumkan fungsi log-likelihood, juga akan memaksimumkan fungsi likelihood, sebab log merupakan fungsi yang menoton naik, maka untuk memperoleh ̂ dengan
memaksimumkan fungsi log-likelihood dapat dilakukan dengan langkah-langkah yang sama yaitu:
1. Nilai ̂ diperoleh dari derivatif pertama jika:
̂
2. Nilai ̂ dikatakan memaksimumkan jika:
15
2.7Metode Iterasi Newton Rhapson
Apabila dalam proses estimasi parameter didapat persamaan akhir yang non linear maka tidak mudah memperoleh estimasi parameter tersebut, sehingga diperlukan suatu metode numerik untuk memecahkan persamaan non linear tersebut. Salah satu metode yang sangat populer digunakan untuk memecahkan sistem persamaan non linear adalah metode Newton Rhapson. Metode Newton Rhapson adalah metode untuk menyelesaikan persamaan non linear secara iteratif seperti persamaaan likelihood yang mencari lokasi yang memaksimalkan suatu fungsi.
Dasar dari metode ini adalah pendekatan deret taylor linear :
∑
Perluasan dari bentuk orde 1 :
Jika merupakan nilai awal (inisialisasi) dari θ atau merupakan nilai ke-1 dari θ m d d m s dan θ dengan t awal = 0. Begitu
16
Dengan indeks t menyatakan ukuran iterasi.
Adapun langkah-langkah metode iterasi Newton Rhapson adalah sebagai berikut:
1. Ambil estimasi awal dari θ, misal .
17
III. METODOLOGI PENELITIAN
3.1 Waktu dan Tempat Penelitian
Penelitian ini dilakukan pada semester genap tahun akademik 2013/2014, Bertempat di Jurusan Matematika Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Lampung.
3.2 Data Penelitian
Data yang digunakan dalam penelitian ini adalah data sekunder, yaitu data kanker bibir di skotlandia yang diambil dari Stren dan Cressie (2000). Data ini berupa banyaknya penderita kanker bibir yang tercatat selama 6 tahun dari tahun 1975 sampai 1980 pada 56 distrik di skotlandia. Dimana adalah banyaknya jumlah penderita kanker bibir masing-masing daerah di skotlandia dan adalah persentase penduduk yang berkerja dibidang pertanian, perikanan, dan kehutanan. Data lengkapnya dapat dilihat pada Lampiran 1.
3.3 Metode Penelitian
18
informasi sebanyak mungkin untuk mendukung penulisan skripsi ini, kemudian melakukan simulasi sebagai aplikasi untuk menjelaskan teori yang telah didapat.
Adapun langkah-langkah yang dilakukan pada penelitian ini dalam mengkaji sifat dan karakteristik distribusi binomial negatif adalah sebagai berikut: Membuktikan regresi binomial negatif yang diperoleh dari distribusi campuran poisson-gamma serta menunjukan sifat dan karakteristiknya.
1. Mendefinisikan model regresi binomial negatif serta menentukan nilai mean, varians, dan nilai dugaan untuk masing-masing parameter. 2. Menentukan model regresi binomial negatif.
3. Mengestimasi parameter model regresi binomial negatif dengan menggunakan metode maximum likelihood estimation (MLE), langkah-langkahnya sebagai berikut:
a. Menentukan fungsi maximum likelihood estimation (MLE) yang berasal dari fungsi binomial negatif.
b. Menurunkan fungsi maximum likelihood estimation (MLE) distribusi binomial negatif dengan fungsi ln.
c. Mencari turunan pertama dari ln fungsi maximum likelihood estimation (MLE) terhadap parameter dan yang hendak di duga dan menyamakannya dengan nol.
d. Apabila solusi dari persamaan yang dihasilkan dari langkah c tidak memperoleh penyelesaian, maka prosedur pendugaan dilanjutkan dengan menggunakan iterasi Newton-Raphson.
V. KESIMPULAN
5.1 Kesimpulan
Beberapa kesimpulan yang dapat diambil dari penelitian ini adalah sebagai berikut:
1. Distribusi yang digunakan dalam model regresi binomial negatif adalah hasil proses dari distribusi poisson-gamma mixture yaitu:
( ) ( )
2. Model regresi binomial negatif memiliki nilai mean yang sama dengan model regresi poisson, tetapi nilai varian model regresi binomial negatif berbeda dengan model regresi poisson yaitu:
dan
( ) ( )
55
∑ {[ ∑ ( )
]}
∑
∑
∑
4. Pada analisis pendugaan parameter dan β model regresi binomial negatif menggunakan metode newton raphson dengan bantuan software Matlab , bahwa hasil penduga yang dipeoleh bagi dan β merupakan penduga bias.
5.2 saran
DAFTAR PUSTAKA
Freund’s, Jhon E. 1999. Mathematical Statistics, Sixth Edition. New Jersey.
Prentice Hall, Inc.
Gantini dan Harryanto. 2009. Pengantar Statistika Matematis. CV Yrama Widya. Bandung.
Hogg, Robert V. & Allen T. Craig. 1995. Introduction to Mathematical Statistics, Fifth Edition. New Jersey. Prentice Hall, Inc.
Hogg, V. A. and Tanis, A. E. 1999. Probability and Statistical Inference, Sixth Edition. New Jersey. Prentice Hall, Inc.
Lawless, Jerald f. 1987. Negatif Binomial and Mixed Poisson Regression. The Canadian Journal of Statistics. Hal 209-225.
