ESTIMASI BIAS MENGGUNAKAN
BOOTSTRAP DAN JACKKNIFE
TESIS
Oleh
SAFRINA SEMBIRING 127021030/MT
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SUMATERA UTARA
ESTIMASI BIAS MENGGUNAKAN
BOOTSTRAP DAN JACKKNIFE
T E S I S
Diajukan Sebagai Salah Satu Syarat
untuk Memperoleh Gelar Magister Sains dalam Program Studi Magister Matematika pada Fakultas Matematika dan Ilmu Pengetahuan Alam
Universitas Sumatera Utara
Oleh
SAFRINA SEMBIRING
127021030/MT
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SUMATERA UTARA
MEDAN 2014
Judul Tesis : ESTIMASI BIAS MENGGUNAKAN BOOTSTRAP DAN JACKKNIFE Nama Mahasiswa : Safrina Sembiring
Nomor Pokok : 127021030
Program Studi : Magister Matematika
Menyetujui,
Komisi Pembimbing
(Dr. Sutarman, M.Sc) (Prof. Dr. Tulus, M.Si)
Ketua Anggota
Ketua Program Studi Dekan
(Prof. Dr. Herman Mawengkang) (Dr. Sutarman, M.Sc)
Telah diuji pada
Tanggal 22 Desember 2014
PANITIA PENGUJI TESIS
Ketua : Dr. Sutarman, M.Sc
Anggota : 1. Prof. Dr. Tulus, M.Si
2. Prof. Dr. Opim Salim S, M.Sc
3. Dr. Marwan Ramli, M.Si
PERNYATAAN
ESTIMASI BIAS MENGGUNAKAN BOOTSTRAP DAN JACKKNIFE
TESIS
Saya mengakui bahwa tesis ini adalah hasil karya sendiri, kecuali beberapa kuti-pan dan ringkasan yang masing-masing dituliskan sumbernya
Medan, 22 Desember 2014 Penulis,
ABSTRAK
Penelitian ini membahas mengenai masalah estimasi bias menggunakan bootstrap dan Jackknife. Pada model ini diasumsikan tentang seberapa besar ukuran sampel yang digunakan untuk memperkirakan nilai bias dan standar error. Metode bootstrap dan jackknife merupakan teknik nonparametrik dan resampling yang digunakan untuk menaksir nilai bias dan mengetahui tingkat kesalahannya (standar error) dengan meng-ambil suatu sampel dari data yang dilakukan secara berulang-ulang dan menghilangkan sebuah data dan mengulanginya sebanyak sampel yang ada sehingga diperoleh estimasi bias dan standar error yang semakin kecil dengan tujuan dapat membandingkan hasil dari metode bootstrap dan jackknife mana yang mendapatkan nilai bias dan standar error yang paling kecil dengan mengambil sampel. Metode bootstrap dan jackknife yang dikenalkan disini menggunakan program R untuk mencari nilai bias dan nilai standar er-rornya. Hasil yang didapat dalam penelitian ini, metode bootstrap merupakan metode yang efisien dibandingkan dengan metode Jackknife dalam berbagai kondisi data, hal ini didukung dengan kecilnya tingkat standar error dan nilai biasnya yang dihasilkan.
Kata kunci : Estimasi bias, Bootstrap, Jackknife
ii
ABSTRACT
This study discusses the problem of bias estimation using bootstrap and jackknife. In this model it is assumed about how big the size of the sample used to estimate the value of the bias and standard error. Bootstrap and jackknife method is nonparametric and resampling techniques are used to assess and determine the value of the bias error rate (standard error) by taking a sample of the data that is done repeatedly and removes a sample of the data, and repeat it as much as existing in order to obtain estimates of bias and standard error gets smaller with the aim to compare the results from bootstrap and jackknife methods which are getting value bias and standard error of the smallest by taking samples. Bootstrap and jackknife methods are introduced here using the R program to find the value of the bias and standard error values. The results obtained in this study, the bootstrap method is an efficient method compared with the jackknife method under various conditions of the data, it is supported by the small standard level error and bias in the resulting value.
KATA PENGANTAR
Setinggi puji dan sedalam syukur penulis serahkan kehadirat Allah SWT yang telah memberikan berkat dan rahmadNya sehingga penulis dapat menyelesaikan tesis
yang berjudul ”ESTIMASI BIAS MENGGUNAKAN BOOTSTRAP DAN
JACKKNIFE”. Tesis ini merupakan salah satu syarat untuk menyelesaikan studi pada Program Studi Magister Matematika Fakultas Matematika dan Ilmu Pengetahuan Alam (FMIPA) Universitas Sumatera Utara.
Pada kesempatan ini, penulis ingin menyampaikan terima kasih sebesar-besarnya kepada :
Ibunda tercinta Drs. Satty Sinukaban dan Ayahanda Alm. M. Yakup Sembiring yang selalu memberikan suport dan semangat serta mencurahkan kasih sayang dan dukungan kepada penulis yang dengan setia mendampingi dan memban-tu penulis selama mengikuti perkuliahan hingga sampai penulisan tesis ini. Tak lupa pula kepada kakakku Irma Salviana Sembiring M.Pd, Nurmasitah Sembiring S.Pd dan Almeyda Sembiring yang telah memberikan semangat dan dukungan selama penulisan tesis ini.
Prof. Dr. dr. Syahril Pasaribu, DTM &H, M.Sc(CTM), Sp.A(K) selaku Rektor Uni-versitas Sumatera Utara
Dr. Sutarman, M.Sc selaku Dekan Fakultas Matematika dan Ilmu Pengetahuan Alam (FMIPA) Universitas Sumatera Utara dan selaku pembimbing Utama yang telah banyak memberikan bimbingan dan arahan serta motivasi kepada penulis dalam penulisan tesis ini.
Prof. Dr. Tulus, M.Si selaku Pembimbing Kedua yang juga telah banyak memberikan bimbingan kepada penulis dalam penulisan tesis ini.
Prof. Dr. Herman Mawengkang selaku Ketua Program Studi Magister Matematika FMIPA USU yang telah banyak memberikan bantuan dalam penulisan tesis ini.
Prof. Dr. Saib Suwilo, M.Sc selaku Sekretaris Program Studi Magister Matematika FMIPA USU.
iv
Seluruh Staf Pengajar pada Program Studi Magister Matematika FMIPA USU yang telah banyak memberikan ilmu pengetahuan selama masa perkuliahan.
Kak Misiani, S.Si selaku Staf Administrasi Program Studi Magister Matematika FMI-PA USU yang telah banyak memberikan pelayanan yang baik kepada penulis selama mengikuti perkuliahan.
Seluruh rekan-rekan Mahasiswa Program Studi Magister Matematika FMIPA USU tahun 2012 genap (Ratna, Enny, Pak hariyanto, Ferdinan, Melda, Rektor, Amsal, Siti, Metri, Puji, Jaka, Wina, ira) yang telah memberikan bantuan moril dan dorongan kepada penulis dalam penulisan tesis ini.
Penulis menyadari bahwa tesis ini masih jauh dari sempurna, untuk itu penulis mengharapkan kritik saran untuk penyempurnaan tesis ini. Semoga tesis ini dapat bermanfaat bagi pembaca dan pihak-pihak lain yang memerlukannya. Terimakasih.
Medan, 22 Desember 2014
Penulis,
RIWAYAT HIDUP
Safrina Sembiring dilahirkan di Medan pada tanggal 26 November 1985 dari pasangan Ayahanda Alm. M. Yakup Sembiring & Ibu Drs. Satty Sinukaban. Penulis menyelesaikan pendidikan Sekolah Dasar Negeri 104188 Sunggal pada tahun 1997, Seko-lah Menengah Pertama (SMP) Muhammadiyah 47 Sunggal pada tahun 2000, SekoSeko-lah Menengah Atas (SMA) Negeri 3 Binjai tahun 2003. Pada 2004 memasuki Perguruan Tinggi Universitas Islam Sumatera Utara Fakultas Keguruan Ilmu Pendidikan Jurusan Matematika pada Strata Satu (S-I) dan lulus 2008.
Pada tahun 2012, penulis melanjutkan pendidikan pada Program Studi Magister Matematika Universitas Sumatera Utara.
vi
DAFTAR ISI
Halaman
PERNYATAAN i
ABSTRAK ii
ABSTRACT iii
KATA PENGANTAR iv
RIWAYAT HIDUP vi
DAFTAR ISI vii
BAB 1 PENDAHULUAN 1
1.1 Latar Belakang 1
1.2 Perumusan Masalah 3
1.3 Tujuan Penelitian 3
1.4 Manfaat Penelitian 3
1.5 Metodologi Penelitian 4
BAB 2 TINJAUAN PUSTAKA 5
2.1 Metode Bootstrap 5
2.1.1 Batasan metode bootstrap 7
2.2 Metode Jackknife 7
2.3 Jumlah Replikasi Bootstrap dan Jackknife 8
BAB 3 ESTIMASI BIAS DENGAN MENGGUNAKAN
BOOTSTRAP DAN JACKKNIFE 10
3.1 Estimasi Bias 10
3.2 Estimasi Bias dalam Metode Bootstrap 11
3.4 Estimasi Bias dalam Jackknife 14
BAB 4 HASIL DAN PEMBAHASAN 15
4.1 Standar Error 15
4.1.1 Estimasi standar error bootstrap 17
4.2 Resample dalam Bootstrap 19
4.3 Standar Error dan Resample Jackknife 21
4.4 Program R 21
4.5 Pada contoh ini, program R akan digunakan untuk menaksir nilai bias dan standar error menggunakan bootstrap dan jackknife 22
4.5.1 Menghitung bias dan standar error menggunakan bootstrap 22
4.5.2 Pengolahan dengan programR dalam bootstrap 22
4.5.3 Grafik menggunakan programR dalam bootstrap 24
4.5.4 Hasil dan pembahasan dengan programR dalam bootstrap 24
4.6 Menghitung Nilai Bias dan Standar Error menggunakan Jackknife 24
4.6.1 Grafik menggunakan programR dalam jackknife 25
4.6.2 Tabel perbandingan hasil nilai bootstrap dan jackknife 26
BAB 5 KESIMPULAN DAN SARAN 27
DAFTAR PUSTAKA 28
viii
ABSTRAK
Penelitian ini membahas mengenai masalah estimasi bias menggunakan bootstrap dan Jackknife. Pada model ini diasumsikan tentang seberapa besar ukuran sampel yang digunakan untuk memperkirakan nilai bias dan standar error. Metode bootstrap dan jackknife merupakan teknik nonparametrik dan resampling yang digunakan untuk menaksir nilai bias dan mengetahui tingkat kesalahannya (standar error) dengan meng-ambil suatu sampel dari data yang dilakukan secara berulang-ulang dan menghilangkan sebuah data dan mengulanginya sebanyak sampel yang ada sehingga diperoleh estimasi bias dan standar error yang semakin kecil dengan tujuan dapat membandingkan hasil dari metode bootstrap dan jackknife mana yang mendapatkan nilai bias dan standar error yang paling kecil dengan mengambil sampel. Metode bootstrap dan jackknife yang dikenalkan disini menggunakan program R untuk mencari nilai bias dan nilai standar er-rornya. Hasil yang didapat dalam penelitian ini, metode bootstrap merupakan metode yang efisien dibandingkan dengan metode Jackknife dalam berbagai kondisi data, hal ini didukung dengan kecilnya tingkat standar error dan nilai biasnya yang dihasilkan.
ABSTRACT
This study discusses the problem of bias estimation using bootstrap and jackknife. In this model it is assumed about how big the size of the sample used to estimate the value of the bias and standard error. Bootstrap and jackknife method is nonparametric and resampling techniques are used to assess and determine the value of the bias error rate (standard error) by taking a sample of the data that is done repeatedly and removes a sample of the data, and repeat it as much as existing in order to obtain estimates of bias and standard error gets smaller with the aim to compare the results from bootstrap and jackknife methods which are getting value bias and standard error of the smallest by taking samples. Bootstrap and jackknife methods are introduced here using the R program to find the value of the bias and standard error values. The results obtained in this study, the bootstrap method is an efficient method compared with the jackknife method under various conditions of the data, it is supported by the small standard level error and bias in the resulting value.
Keyword : Estimation biased, Bootstrap, Jackknife
iii
BAB 1
PENDAHULUAN
1.1 Latar Belakang
Bootstrap dan jackknife merupakan teknik nonparametrik dan resampling yang bertu-juan untuk menaksir standar error dan nilai bias, jackknife sendiri merupakan alternatif dari bootstrap. Bootstrap dan jackknife merupakan dua metode yang digunakan untuk mengestimasi suatu distribusi populasi yang tidak diketahui dengan distribusi empiris yang diperoleh dari proses penyampelan ulang. Bootstrap diperkenalkan oleh Efron pada tahun 1979. Istilah bootstrap berasal dari pull one self up by one’s bootstrap yang berarti berpijak diatas kaki sendiri, berusaha dengan data yang sedikit atau data yang tidak mempunyai asumsi apapun tentang distribusi populasinya. Efron (1979) menyatakan metode bootstrap ini merupakan suatu metode berbasis resampling data sampel dengan syarat pengembalian pada datanya dalam menyelesaikan statistik uku-ran suatu sampel dengan harapan sampel tersebut mewakili data populasi sebenarnya. Biasanya ukuran resampling diambil secara ribuan kali agar dapat mewakili data popu-lasinya. Metode bootstrap dan jackknife merupakan metode baru yang memanfaatkan kecanggihan komputer yang dapat dikatakan juga sebagai metode resampling, suatu metode pengambilan data secara random dengan pengembalian, dimana sampel hasil resampling ini disebut sampel bootstrap juga jackknife. Sedangkan menurut Shao dan Tu (1995), pada tahun 1949 menurut Quenouille telah memperkenalkan metode jackknife untuk mengestimasi bias dan standar error, dimana metode jackknife ini di-gunakan untuk mengambil sampel baru secara berulang dari data asli yang berukuran
n dengan cara menghilangkan pengamatan ke−i dengan i= 1,2,3,4,· · · , n.
Beberapa permasalahan yang sering muncul dalam estimasi parameter tak diketahui
2
Selain itu, metode bootstrap dapat digunakan pada situasi dimana asumsi standar tidak dipenuhi, misal ukuran sampelnkecil dan data tidak berdistribusi normal [Davi-son dan Hinkley (2006)]. Secara umum metode estimasi atau penaksiran merupakan pengukuran terhadap nilai parameternya (populasi) dari data sampel yang diketahui. Menurut Bickel dan Feedman (1981) menunjukkan bahwa distribusi bootstrap dari statistik penting seperti mean dan statistik yang menyimpulkan bahwa kedua statistik adalah asimtot. Hasil estimasi berupa nilai spesifik dari suatu statistik seperti nilai mean sampel dan varians sampel. Didalam estimasi ada namanya estimator berupa mean, sampel, varians sampel, yang digunakan untuk mengestimasi sebuah parameter. Dalam hal ini setidaknya terdapat dua aspek yang harus diperhatikan dalam melakukan pengukuran dengan sampel yaitu sampel error dan non sampling error (bias). Sam-pling error menunjukkan variasi nilai pengukuran antara satu sampel dengan sampel lainnya. Sedangkan non sampling error atau disebut juga bias adalah kesalahan yang terjadi pada proses pengukuran. Non sampling error ini bisa diakibatkan oleh beberapa hal, diantaranya :
1. Bias alat yang digunakan dalam proses pengukuran yang memberikan nilai ke-salahan. Misalnya adanya alat yang digunakan rusak atau tidak layak pakai.
2. Bias pengukur kesalahan akibat si pengukur (human error).
3. Bias metodologi merupakan kesalahan dalam menerapkan metodologi pengukuran yang tidak sesuai dengan karakter populasi yang akan diukur yaitu merupakan kesalahan dalam menerapkan teknik dan metode sampling.
Hardle dan Stoker (1989) menunjukkan bahwa estimator ini dapat dipergunakan dalam estimasi model indeks semi parametrik seperti yang terbatas pada variabel dependen dan model indeks-parsial. Konsep estimasi data yang bias merupakan suatu ukuran dari kebaikan estimator yang dapat dilihat dari tingkat kesalahannya. Semakin kecil tingkat kesalahannya semakin baik estimasinya.
Bootstrap dan jackknife juga digunakan untuk mengestimasi standar error estimator dan interval konfidensi dari suatu parameter populasi yang tidak diketahui. Metode bootstrap biasanya juga untuk mengatasi permasalahan dalam statistika baik masalah data yang sedikit, data yang menyimpang dari asumsinya maupun data yang tidak memiliki asumsi dalam distribusinya. Misalnya data bisa hilang secara acak, atau bisa
3
secara acak disensor. Fungsi ini dapat diestimasi dengan parametrik dan pendekatan nonparametrik. Dalam pendekatan nonparametrik, diasumsikan sebagai fungsi yang halus atau fungsi terintegral kuadrat, sehingga fungsi tersebut dapat diestimasi deng-an kernel estimator atau orthogonal estimator ddeng-an orthogonal ydeng-ang biasa digunakdeng-an untuk memperkirakan sebuah metode bootstrap. Sedangkan metode jackknife pada prinsipnya dilakukan menggunakan sampling dari sampel awal x (berukuran n) yang dilakukan secara berulang dengan cara menghilangkan salah satu data sampel sehingga menghasilkan sampel-sampel jackknife.
1.2 Perumusan Masalah
Perumusan konsep estimasi data yang bias merupakan suatu ukuran kebaikan estima-tor yang dapat dilihat dari standar error. Semakin kecil standar errornya semakin baik estimasinya. Salah satu ukuran standar error dapat dilihat dari estimasinya dan nilai bias yang dicari. Yang menjadi permasalahan pada penelitian ini adalah apakah boot-strap dan jackknife dapat dikembangkan untuk menganalisis estimasi data yang bias, sehingga dapat mengetahui nilai standar error dan nilai biasnya.
1.3 Tujuan Penelitian
Tujuan dari penelitian ini untuk membandingkan hasil nilai standar eror dan nilai bias menggunakan bootstrap dan jackknife yang diprediksi dengan mengambil sampel.
1.4 Manfaat Penelitian
4
1.5 Metodologi Penelitian
Pada penelitian ini yang penulis gunakan adalah metode bootstrap dan metode jack-knife dalam mencari estimasi data yang bias. Diperlukan langkah-langkah dalam peneli-tian ini adalah penelipeneli-tian ini adalah sebagai berikut :
1. Menetapkan sebuah metode estimator bootstrap dan jackknife apakah bootstrap dan jackknife dapat dikembangkan untuk menganalisis estimasi data yang bias, sehingga dapat diketahui sifat estimatornya dari data yang bias dengan meng-ambil sebuah sampel data secara acak.
2. Melakukan proses bootstrap dan jackknife menggunakan progamR. Proses boot-strap dan Jackknife untuk menaksir nilai dari standar error dan nilai biasnya.
BAB 2
TINJAUAN PUSTAKA
Pada bab ini akan dibahas tinjauan pustaka yang akan digunakan untuk tesis ini, yang selanjutnya akan diperlukan pada bab 3. Yang akan dibahas dalam bab ini adalah metode bootstrap bootstrap dan metode jackknife.
2.1 Metode Bootstrap
Metode bootstrap pertama kali ditemukan oleh Efron (1979) untuk mengestimasi stan-dar error dan selang kepercayaan. Menurut Efron dan Tibshirani (1993) metode boot-strap ini digunakan untuk mencari nilai rata-rata derivatif dari data yang bias deng-an melakukdeng-an suatu resampling atau pengambildeng-an data sampel ydeng-ang dilakukdeng-an secara berulang-ulang, sehingga akan diketahui berapa besar tingkat kesalahannya (error) dengan menyatakan ukuran sampel bootstrap B sebesar 50 − 200 telah cukup un-tuk melakukan pendugaan terhadap standar error dengan ukurannelemen lebih besar atau kurang dari sampel asli. Menurut Sahinler dan Topuz (2007) menyatakan bahwa bootstrap adalah teknik resampling nonparametrik yang bertujuan untuk menentukan estimasi standar error dan interval konfidensi dari parameter populasi seperti mean, rasio, median, proporsi, koefisien korelasi atau koefisien regresi tanpa menggunakan asumsi bootstrap. Menurut Efron dan Tibshirani (1993) pada metode bootstrap ini da-pat dilakukan pengembalian sampel dengan pengembalian pada sampel data. Metode penyampelan disebut dengan resampling bootstrap.
Secara singkat langkah-langkah bootstrap yang dinyatakan sebagai berikut :
1. Sampel dataxdidefinisikan sebagai data sampel berukurann yang terdiri darixi
= x1, x2,· · · , xn denganxi sebagai vektor data pengamatan.
2. Sampel dataxdiambil secara acak dengan pengembalian sebanyakn kali. Diper-oleh data sampel baru yang didefinisikan sebagaiX∗
. Sampel dataX∗
6
3. Langkah (2) dilakukan secara berulang sebanyak B sehingga didapatkan him-punan data bootstrap dengan (x∗1
, x∗2
,· · · , x∗B
). Setiap sampel bootstrap meru-pakan sampel acak yang saling independen. Dimana mengestimasi standar error dengan menggunakan standar deviasi untuk bootstrap yang di replikasi sebanyak
B kali.
Menurut Bennett (2009) pemanfaatan metode bootstrap untuk menentukan stan-dar error stan-dari estimator, dengan menentukan jumlahB sampel independen bootstrap
x∗1
, x∗2
,· · · , x∗B
dimana masing-masing sampel yang diperoleh darix(data awal). Dan dengan mengevaluasi replikasi yang ada pada masing-masing sampel bootstrap serta dengan mengestimasi standar error dengan menggunakan standar deviasi untuk boot-strap. Adapun kelebihan bootstrap sebagai berikut :
1. Penggunaan metode statistik parametrik biasanya mensyaratkan informasi meng-enai distribusi yang harus dipenuhi dan ini sulit untuk dipenuhi. Untuk mengatasi hal ini dapat digunakan metode-metode yang tidak memerlukan asumsi ketat, salah satunya metode bootstrap.
2. Metode ini dapat digunakan untuk ukuran data yang relatif kecil.
3. Teknik ini menciptakan ukuran-ukuran dari ketidakpastian dan bias, khusus nya pada estimasi parameter dari variabel-variabel yang independen dan berdistribusi identik.
4. Metode bootstrap lebih baik dari pada metode tradisional lainnya misalnya metode klasik dan bayes, karena metode bootstrap mengahasilkan panjang interval yang lebih pendek.
Adapun kelemahan metode bootstrap sebagai berikut :
1. Metode bootstrap biasanya memerlukan data bangkitan bootstrap atau resam-ple (samresam-ple diperoleh dari pengacakan saling bebas dan dengan pemulihan dari distribusi empiris). Data bangkitan bootstrap ini sulit dicari karena memerlukan beberapa kali perhitungan yang cukup rumit dan membutuhkan ketelitian yang tinggi.
7
2. Menduga galat baku, disarankan melakukan pengulangan sebanyak minimal 100 kali. pengulangan sebanyak 100 kali ini akan memperlama waktu dalam perhi-tungan.
2.1.1 Batasan metode bootstrap
Ada beberapa batasan dalam metode bootstrap seperti :
1. Pertama dan mungkin yang paling penting, sampel harus cukup besar dan diam-bil secara random sehingga dapat mewakili keseluruhan populasi. Sampel yang dimaksud disini mengikuti kaidah teorema limit pusat yaitu ≥ 30 karena teknik bootstrap tidak dapat mengatasi beberapa bias untuk sampel yang tidak mewakili dan dalam beberapa kasus akan memperumit masalah.
2. Kedua, bagaimanapun metode parametrik lebih baik dalam banyak kasus untuk membuat pendugaan titik (point estimation) seperti mean. Jadi prosedur boot-strap bisa menambah pendugaan titik di metode parametrik dengan menyediakan estimasi yang lebih akurat.
2.2 Metode Jackknife
Sebuah teknik resampling sederhana telah jauh digunakan sebelum metode bootstrap ditemukan, yaitu resampling jackknife. Metode jackknife pertama kali ditemukan oleh Quenouille (1949) yang digunakan untuk memperkirakan bias dari suatu estimator dengan menghapus beberapa observasi sampel. Menurut Tukey (1958) metode jack-knife menjadi sesuatu yang lebih berharga karena Tukey mengemukakan pendapatnya bahwa jackknife juga dapat digunakan untuk membangun variansi dari suatu estimator. Metode jackknife ini dapat dibagi berdasarkan banyaknya data yang dihapus menjadi jackknife (Efron dan Tibshirani, 1993). Secara umum sampel jackknife dapat diperoleh melalui sampel berukuran n−d dari distribusi empiris fbn(x) tanpa pengembalian, di
perolehxJ
8
Berikut ini gambar skema langkah-langkah jackknife :
Gambar 2.1 Skema resample
2.3 Jumlah Replikasi Bootstrap dan Jackknife
Replikasi bootstrap dan jackknife dari nilai statistikθbadalah nilai satistik yang dihitung dari sampel bootstrap dan jackknife
ˆ
θ∗
=s(x∗ ).
Dimana fungsis(·) adalah fungsi yang diterapkan pada sampel bootstrap dan jackknife
x∗
seperti pada halnya fungsi s(·) yang diterapkan pada sampel awal x untuk men-dapatkan nilai statistik bθ. Notasi (∗) menandakan bahwa keseluruhannya dilakukan dalam dunia bootstrap dan jackknife. Misalnya s(x) adalah rata-rata sampel awal x, maka s(x∗
) adalah rata-rata sampel bootstrap dan jackknife yang dinyatakan dengan
x∗.
9
Menurut (Efron dan Tibshirani, 1993:52) terdapat beberapa hal yang perlu diper-hatikan mengenai jumlah replikasi bootstrap dan jackknife, yaitu :
1. Meskipun jumlah replikasi bootstrap dan jackkknife kecil, misalB = 25, biasanya sudah cukup informatif. Tetapi dengan B = 50, sudah sangat cukup untuk memberikan suatu estimasi seF(bθ) yang akurat.
BAB 3
ESTIMASI BIAS DENGAN MENGGUNAKAN BOOTSTRAP DAN JACKKNIFE
Pada bab ini akan dipaparkan mengenai langkah-langkah yang dapat dijadikan sebagai landasan berpikir serta akan mempermudah dalam hal pembahasan.
3.1 Estimasi Bias
Menurut Tukey (1958) bias merupakan penyimpangan data dari garis yang lurus men-jadi garis miring ke atas atau ke bawah. Kemiringan dari garis tersebut dikatakan deng-an bias. Bias merupakdeng-an persoaldeng-an ydeng-ang perlu diperhatikdeng-an dalam membuat perkiradeng-an statistik. Perkiraan yang bias adalah suatu perkiraan yang cenderung menyimpang, terlalu rendah atau terlalu tinggi dari yang sebenarnya. Bias juga berarti kesalahan yang konsisiten dalam memperkirakan sebuah nilai. Bias dapat terjadi karena sifat statistiknya sendiri. Bias demikian dapat dikoreksi pada statistik yang bersangkutan. Bias dapat pula terjadi karena masalah-masalah dalam pengumpulan data. Nilai bias merupakan suatu ukuran penyimpangan dari nilai yang diperoleh dengan nilai yang sebenarnya. Nilai bias ini berguna untuk melihat tingkat ketepatan dari penduga. Dalam statika, data yang minimal dapat diartikan sebagai data yang sedikit, data yang menyimpang dari asumsi tertentu, atau bahkan data yang tidak memiliki asumsi apapun tentang distribusinya.
Ada dua tipe bias yaitu bias sampel dan bias pengukuran :
1. Bias sampel merupakan sekumpulan satuan yang dipilih untuk diukur dari kelom-pok yang lebih besar (populasi). Bias sampel terjadi ketika sampel yang gunakan tidak mewakili populasi atau tidak sesuai dengan pertanyaan yang di-ajukan. Faktor-faktor yang menyebabkan bias sampel adalah ukuran sampel dan seleksi sampel. Ukuran sampel harus cukup besar agar dipeoleh nilai rata-rata yang baik.
2. Bias pengukuran yaitu yang berurusan dengan masalah apakah metode pengumpu-lan data yang dipilih telah sesuai sehingga data yang dikumpulkan merupakan
10
11
yang paling mewakili kenyataan ? Untuk mengevaluasi teknik pengumpulan data, pengukuran harus dilakukan dengan seteliti mungkin. Tidak boleh ada tambahan pada lingkungan yang dapat mempengaruhi hasil. Selain itu, eksperimen harus dirancang untuk mengisolasi pengaruh dari banyak faktor lainnya.
3.2 Estimasi Bias dalam Metode Bootstrap
Metode estimasi bootstrap digunakan untuk mengestimasi permasalahan-permasalahan dari estimasi parameter dengan sampel kecil. Selain itu metode estimasi parameter bootstrap dapat digunakan sebagai alternatif untuk mengatasi non normality pada data (Bollen, 1989). Bias dari θbsebagai estimator dari θ didefinisikan sebagai selisih antara ekspektasi dariθbdengan nilai dariθ parameter
biasF = biasf[ˆθ, θ] =EF(X)−t(F).
Bias yang besar biasanya tidak di inginkan oleh suatu estimator. Tetapi memiliki kecenderungan untuk memiliki bias yang kecil dibanding dengan standar error. Efron dan Thibshirani (1993).
Tujuan dari penggunaan metode bootstrap ini untuk mendapatkan nilai pen-dugaan yang sebaik-baiknya yang berasal dari data yang diambil sebagai contoh. Metode bootstrap dapat digunakan untuk mencari bias dari estimasi θb = EFb(X). Estimasi
bootstrap terhadap bias didefinisikan sebagai estimasi bias Fb yang diperoleh dengan mensubtitusikanFb pada F sehingga menjadi
biasFˆ =EFˆ(X)−t( ˆF).
Setelah mendapatkan parameter bootstrap selanjutnya akan dihitung tingkat akurasi parameter yang diperoleh dengan menggunakan bias dan standar deviasi dari bootstrap, yaitu
: Bias dari bootstrap.
b
12
Menurut Efron dan Thibshirani (1993:124) metode bootstrap dapat digunakan untuk mengestimasi bias dari estimator θb= s(x) dimana estimator bootstrap untuk bias didefinisikan sebagai Bias∗
, yaitu
: Bias dari bootstrap.
B : Banyaknya replikasi bootstrap.
b
θ∗
: Rata-rata resampel bootstrap.
b
θ : Nilai yang ditaksir dalam bootstrap.
3.3 Pembentukan Sampel Bootstrap
Menurut Efron dan Tibshirani (1993) metode bootstrap sangat bergantung pada esti-masi dari sampel bootstrap Fb adalah suatu distribusi empiris yang memberi bobot n1 untuk setiap nilai terobservasi xi = 1,2,· · · , n. Sampel bootstrap didefinisikan
seba-gai suatu sampel random berukuran n yang ditarik dari Fb, katakanlah x∗
1, x
∗
2,· · · , x
∗
n.
Notasi bintang mengindikasikan bahwa x∗
bukanlah data sebenarnya pada data set
x, namun merupakan versi dari x yang telah mengalami randomisasi atau resample (penyampelan ulang).
Adapun prinsip dasar pembentukan sampel bootstrap sebagai berikut :
1. Konstruksi fungsi distribusi empiris dari sampel yaitu Fbn dengan peluang yang
sama terambil yaitu 1
n untuk masing-masing x1, x2,· · · , xn.
2. DenganFbn tetap, ambil sampel acak berukuran ndari Fbn sebut,xi = 1,2,· · · , n.
13
Berikut ini gambar prinsip korespondensi bootstrap :
Gambar 3.1 Pinsip korespodensi bootstrap
Skema diatas merupakan penggunaan metode bootstrap dalam sampel tunggal. Pada keadaan asli, F adalah suatu distribusi probabilitas yang tidak diketahui, memberikan data x= (x1, x2,· · · , xn) dengan sampel yang diambil secara random. Dari x tersebut
dapat dihitung suatu statistik θb= s(x). Pada bootstrap, Fb menghasilkan x∗
dengan penyampelan random, yang memberikan hasil bθ∗
= s(x∗
). Hanya terdapat satu nilai observasiθb, tetapi mampu menghasilkan banyak replikasi bootstrap θb∗
14
3.4 Estimasi Bias dalam Jackknife
Metode jackknife merupakan teknik resampling yang bertujuan untuk menentukan es-timasi bias dan standar error dengan mengambil sampel baru secara berulang dari data asal yang berukuran n dengan cara menghilangkan salah satu data, karena jackknife menghapus data satu maka untuk mencari nilai estimasi bias pada jackknife adalah :
bias∗∗
= (n−1) ˆβ∗∗ −β.ˆ
Dalam hal ini :
bias** : Bias dari jackknife.
b
β : Penduga sebenarnya. n : Banyak data di jackknife.
BAB 4
HASIL DAN PEMBAHASAN
Dalam bagian hasil dan pembahasan ini akan ditampilkan proses pengolahan data deng-an model bootstrap ddeng-an jackknife untuk menghitung perbdeng-andingdeng-an nilai bias ddeng-an stdeng-an- stan-dar error (dengan mencari nilai rata-ratanya) stan-dari suatu data dengan menggunakan program R.
4.1 Standar Error
Standar error dari suatu estimator atau penduga yang didefinisikan sebagai akar kuadrat positif dari ragamnya. Ini merupakan ukuran yang paling umum untuk akurasi suatu penduga/estimator. Estimasi standar error merupakan langkah awal yang sangat baik untuk berfikir kritis terhadap suatu nilai dugaan. Dalam membicarakan suatu standar error itu, akan diberikan dua macam sampel yaitu sampel yang berukuran besar dan sampel yang berukuran kecil. Standar error juga merupakan standar deviasi dari rata-rata. Bila mempunyai beberapa kelompok data, misalnya tiga kelompok, maka akan mempunyai tiga buah nila rata-rata. Bila dihitung nilai standar deviasi dari tiga buah nilai rata-rata tersebut, maka nilai standar deviasi dari nilai rata-rata tersebut disebut nilai standar error. Simbol standar error untuk sampel ditulis dengan SE. Rumus menghitung nilai standar error dari mean adalah sebagai berikut :
SE : √S
n.
Dimana
SE : Standar error dari rata-rata. S : Standar deviasi.
16
Adapun rumus untuk mencari mean/rata-rata sebagai berikut :
mean(µ) =
Adapun rumus untuk mencari standar deviasi sebagai berikut :
S =√s2 = sP
X−X¯2 n−1 .
Contoh kasus untuk mencari nilai dari standar error dari rata-rata dengan mengambil data sampel :
Tabel 4.1 Banyaknya data acak
Data acak
4 6 5 5 5 6 6 3 6 5 4 6 5 5 6 5 6 5 4 3
Dengan mencari nilai rata-rata (mean) maka mean nya = 94/20 = 4.7 dan dida-patlah nilai varian dan standar deviasi sebagai berikut :
17
Sehingga nilai standar errornya menjadi :
SE = √s
n.
SE = √0.98 20.
SE = 0.212.
4.1.1 Estimasi standar error bootstrap
Menurut Efron dan Tibshirani (1986) bagus tidaknya suatu hasil taksiran dapatlah ditinjau melalui standar errornya. Dalam konteks bootstrap, taksiran bootstrap untuk standar error dari suatu statistikθbdigunakan untuk menilai apakah hasil taksiran yang diperoleh merupakan taksiran yang baik. Taksiran bootstrap untuk standar error dari
b
θ diberikan oleh standar deviasi dari replikasi bootstrap θb. Estimasi standar error bootstrap tidak memerlukan perhitungan secara teoritis dan tidak mempermasalahkan bagaimana kemungkinan dari estimator parameter statistika yang sama dengan fungsi suatu statistik pada x data yang sesungguhnya, atau dengan kata lain yaitu θb= s(x) secara matematik.
Estimasi metode bootstrap dari sef(θb), yaitu standar error dari sebuah statistik θb
adalah sebuah estimasi pengganti yang menggunakan distribusi empiris fungsi Fb yang belum diketahui. Secara spesifik, estimasi bootstrap dari sef(θb) adalah didefinisikan
sebagai
seFb(θb∗ ).
Dimana bθ∗
estimator parameter statistik yaitu θ. Sekumpulan data dengan sejumlah sampel random bootstrap. Dengan kata lain, estimasi bootstrap darisef(θb)
didefinisi-kan sebagai standar error daribθ∗
, disebut estimasi bootstrap nonparametrik karena be-rasal dari distribusi empirikFb. Standar error ini mengukur keakurasian dari estimator
b
θ∗
18
Adapun algoritma bootstrap untuk mengestimasi standar errorθbadalah :
1. Pilih B sampel independen bootstrap x∗
1, x
∗
2,· · · , x
∗
B, dengan tiap-tiap sampel
beranggotakan n data yang ditarik dengan pengambilan dari x.
2. Evaluasi replikasi bootstrap yang bersesuaian pada setiap sampel bootstrap untuk menghitung replikasi bootstrap yang berkaitan dengan sampel yaitu :
ˆ
θ∗
(b) =s x∗b
;b = 1,2,· · · , B.
3. Mengestimasi standar error sef(bθ) dengan menggunakan standar deviasi sampel
dari B replikasi.
Adapun gambar ini merupakan diagram algoritma standar error bootstrap statistik
b
θ=s(x).
Gambar 4.1 Algoritma standar error bootstrap
19
keterangan gambar :
c
SEboot : Nilai taksiran standar error bootstrap. b
θ∗
(b) : Standar error bootstrap ke b hasil dari resampling.
b
θ∗
(.) : Rataan untuk standar error bootstrap. B : Banyaknya resampling bootstrap.
Nilai limitsebB untuk B infinite adalah estimasi bootstrap ideal sef(θb) dengan
limsedB
Kenyataan bahwa sebB menghampiri seFb untuk B sejumlah infirit yang mengatakan
bahwa sebuah simpangan baku populasi untuk sebanyak replikasi bertambah besar. Populasi dalam kasus ini adalah populasi nilai-nilai bθ∗
=s(x∗
Sehingga didapatlah skema diatas merupakan algoritma untuk mengestimasi standar error daribθ=s(x) masing-masing sampel bootstrap adalah sampel random yang inde-penden berukuran n dariFb. Banyak replikasi bootstrapB untuk mengestimasi standar error biasanya antara 25−200.
4.2 Resample dalam Bootstrap
Sampel merupakan suatu himpunan bagian di populasi. Istilah sampel asli digunakan untuk menyebut himpunan bagian yang pertama diambil dari populasi, sebelum di-lakukan resampling yaitu proses pengambilan sampel kembali dari sampel yang telah diambil dari populasi. Sedangkan istilah sampel bootstrap (resample) digunakan untuk menyebut sampel yang telah diresampling dari sampel asli. Sampel asli dilambangkan dengan :
x={x1,· · · , xn}.
20
Dan sampel bootstrap dilambangkan dengan :
x∗ ={x∗
1, x
∗
2,· · · , x
∗
B}.
B = 1,2,3,· · · , B.
Sampel bootstrap diperoleh dengan cara sampling secara random dengan pengembalian dari sampel asli. Sampling secara random dengan pengembalian berarti setelah random mengambil sebuah observasi dari sampel asli, kemudian meletakkan kembali sebelum mengambil observasi berikutnya. Sampel dengan pengembalian memungkinkan kita untuk mendapatkan jumlah data yang sama dengan ketika pertama kali melakukan sampling, dan memungkinkan satu data diambil beberapa kali.
Jumlah dari sampel bootstrap yang diseleksi bergantung pada keadaan kasus dari masing-masing perkiraan. Kadang-kadang 50 sampel bootstrap sudah cukup, seringkali 200−500 sampel bootstrap cukup bahkan untuk kasus-kasus tertentu bootstrap memer-lukan ribuan sampel. Pada proses sampling bootstrap dilakukan dengan menggunkan bantuan program komputer, mengingat besarnya jumlah resampling yang bisa menca-pai ribuan kali sehingga sangatlah sulit untuk melakukan perhitungan secara manual.
Berikut ini gambar Skema resample bootstrap :
Gambar 4.2 Skema resample bootstrap
21
4.3 Standar Error dan Resample Jackknife
sedangkan untuk mencari nilai standar error dalam jackknife :
ˆ
Sej2 = n−1
n
n X
i=1
(ˆθ(i)−θˆ(.)) 2
.
Adapun gambar dalam mencari resample jackknife :
Gambar 4.3 Skema resample jackknife
4.4 Program R
ProgramRpertama kali diluncurkan pada tahun 1992 oleh Ross Ihaka dan Robert Gen-tleman (1997) singkatanR berasal dari keduan nama tersebut yang keduanya dari the University of Auckland. ProgramRmerupakan bahasa pemograman, sehigga tidak ada batasan bagi pengguna untuk memakai prosedur yang hanya terdapat paket-paket yang standar. R juga merupakan perangkat lunak yang digunakan untuk menganalisis data statistik dan persentasi grafik, termasuk juga dalam mencari nilai standar error dan bias dengan menggunakan metode bootstrap yang dapat dilakukan secara perulangan.
boot-22
4.5 Pada contoh ini, program R akan digunakan untuk menaksir nilai bias dan standar error menggunakan bootstrap dan jackknife
4.5.1 Menghitung bias dan standar error menggunakan bootstrap
Dalam kasus ini, dimisalkan data yang dimiliki untuk melakukan bootstrap dengan data banyaknya biaya penjualan barang di toko serba ada dengan mengambil sebuah sampel yang dilakukan secara acak dengan banyak data berukurann= 20 untuk mem-perkirakan hasil nilai bias dan hasil dari nilai standar error dengan median sampel yang diketahui. Adapun data yang diambil misalkan sebagai berikut :
Tabel 4.2 Banyaknya biaya pada data penjualan barang di toko serba ada
Data acak
4 6 5 5 5 6 6 3 6 5 4 6 5 5 6 5 6 5 4 3
4.5.2 Pengolahan dengan program R dalam bootstrap
Adapun langkah-langkah yang dilakukan dalam menggunakan program R, buka pro-gramR, maka tampilan yang akan muncul pertama kali adalah seperti gambar, tempat dimana kita akan menuliskan condingan data yang akan diinputkan dalam jendela R
console. Untuk membersihkan layar R console kita pilih edit, lalu pilih clear console atau tekan Ctrl+l pada keyboard. Kemudian program dijalankan dengan parameter inputnya dengan berulang kali dengan mengganti jumlah perulangan bootstrap, yakni 250,500,1000. Dengan perulangan paling sedikit 1000 kali akan memberikan hasil yang baik pada interval konfidensi tanpa harus mengasumsikan data berdistribusi normal.
Adapun langkah-langkah untuk mendapatkan nilai estimasi dalam menguji nilai bias dan nilai standar error menggunakan program R dengan metode bootstrap statistik sebagai berikut :
23
Call: boot(data = mydata, statistic = mn, R = 1000)
Bootstrap Statistics :
original=t1∗5
bias=−0.125413
std.eror= 0.1936802
round(mydata) = 46555663654655656543
plot(results)
Tabel 4.3 Estimasi bias dengan programRmenggunakan bootstrap resample sebanyak 1000 kali.
24
4.5.3 Grafik menggunakan program R dalam bootstrap
Berikut ini Histogram plot 1000 resample :
Gambar 4.4 Histogram plot 1000 resample
4.5.4 Hasil dan pembahasan dengan program R dalam bootstrap
Dari data yang sudah diolah, didapatlah nilai bias dan standar error dari contoh sam-pel yang sudah ada. Hasil data output dengan program R yang dilakukan resampel sebanyak 1000 kali memiliki median = 157.1 yang diperkirakan nilai biasnya = -0.125413 dan bootstrap perkiraan nilai standar error = 0.1936802 nilai standar error kecil sehing-ga semakin kecil nilai standar errornya maka semakin baik estimasinya yang dimilikinya. Hasil dapat dilihat dibawah ini:
Tabel 4.4 Estimasi bias dengan programRmenggunakan bootstrap resample sebanyak 1000 kali.
Bias Standar Error -0.0125413 0.1936802
4.6 Menghitung Nilai Bias dan Standar Error menggunakan Jackknife
Etimasi nilai bias dan standar error dengan jackknife dengan menggunakan data yang sama pada bootstrap. Adapun langkah-langkah untuk mendapatkan nilai estimasi
25
dalam menguji nilai bias dan nilai standar error menggunakan program R dengan metode jackknife statistik sebagai berikut :
x<−5 + 1∗rnorm(20)
theta<−function(x){mean(x)} results<−jackknife(x,theta)
xdata<−matrix(rnorm(30),ncol = 2,) n<−15
R = 1000
theta<−function(x,xdata){cor(xdata[x,1],xdata[x,2])} results<−jackknife(1 : n,theta,xdata)
results
$jack.se [1]0.2102777
$jack.bias [1]0.03969615
$jack.values
[1]0.0874141350.0401080750.1250940300.0358677840.216169384 [6]0.0655751540.0751130690.0595412350.0279499320.036349457 [11]0.0020995330.1391785740.0846136750.039230241−0.014018531
$call
jackknife(x = 1 : n,theta = theta,xdata)
4.6.1 Grafik menggunakan program R dalam jackknife
Berikut ini histogram plot 1000 resample jackknife :
26
4.6.2 Tabel perbandingan hasil nilai bootstrap dan jackknife
Bootstrap Jackknife
Bias Standar Error Bias Standar Error
-0.125413 0.1936802 0.03969615 0.2102777
Dari Tabel 4.6.2 didapatlah contoh kasus yang menggunakan bootstrap nilai biasnya sekitar -0.0125413 standar errornya adalah 0.9136802 dan pada kasus yang menggu-nakan jackknife nilai biasnya adalah 0.03969615 dan nilai standar errornya 0.2102777. Sehingga metode bootstrap lebih baik dibandingkan metode jackknife karena nilai bias dan standar error yang didapat bootstrap lebih sedikit dibandingkan menggunakan jackknife.
BAB 5
KESIMPULAN DAN SARAN
DAFTAR PUSTAKA
Bennett, P.J. (2009) Introduction to the Bootstrap and Robust Statistics, Winter Term, PSY. pp. 711–712.
Bickel, P. J. dan freedman, D. A. (1981) Some Asymptotic Theory For The Bootstrap, Ann. Statist. 9. pp. 1996-1217.
Bollen Kenneth A. (1989)Structural Equation With latent Variabels, Dept. Of Sociology The University of Nort Carolina, New York : Willy.
Davison, A.C. dan Hinkley, D.V (2006)Bootstrap Methods and Their Application, Cam-bridge University Press.
Efron, B dan Tibshirani, R (1993) Book An Introduction to the Bootstrap, Monographs On Statistics and Apllied Probability 57, New York : Chapman and Hall/CRC.
Efron, B (1979)Bootstrap Methods : Another Look At The Jackknife - Annals of Statistic, vol.7. no.1. pp. 1–26.
Efron, B. and Tibshirani, R. J (1986)Bootstrap Methods For Standar Errors, Confidence Interval and Other Measures Of Statistical Accuray. Statistical Science. 1. pp. 54– 77
Hardle, W. dan Stoker, T. M (1989) Investigating Smooth Multiple Regression By The Method of Average Derivatives, Journal of the American Statistica Association, vol : 84. no. 408. pp. 986–995.
Ross Ihaka dan Robert Gentelmen (1997)R:A Language for Data Analysis and Grahics. Sahinler, S. dan Topuz, D (2007) Bootstrap and Jackknife Resampling Algorithms for
Estimation of Regression Parameters, JAQM, no. 22. pp. 188–199.
Shao, J. dan Tu, D (1995), The Jacknife and Bootstrap, Springer Verlag Inc, New York. pp. 289
Tukey, J.W. (1958). Bias and confidence in not quite large samples. Annals of Mathe-matical Statistics, 29, 614
Stoker,T.M (1990) Smoothing Bias in Derivative Estimation, Journal of the American Statistical Association, pp. 90–3185.
Quenouille, M. (1949). Approximate tests of correlation in time series. Journal of the Royal Statistical Society, Soc. Series B, 11, 18-84.
28
