4 BAB II METODE BAYES
Berikut ini merupakan teori-teori dasar dalam metode Bayes, antara lain:
2.1 Peubah Acak dan Fungsi Kepadatan Peluang
Pada statistika ada istilah percobaan yang merupakan aktifitas untuk membangkitkan data sehingga dapat diketahui hasil yang muncul. Berikut akan dijelaskan mengenai beberapa definisi yang terkait percobaan.
a. Ruang Sampel
Himpunan semua hasil yang mungkin dari suatu percobaan disebut ruang sampel dan dinotasikan dengan huruf .
Setiap kemungkinan hasil dalam suatu ruang sampel disebut anggota ruang sampel atau titik sampel. Dalam suatu percobaan, akan terjadi suatu kejadian.
Pada setiap kejadian terbentuk sebuah kumpulan titik sampel yang merupakan himpunan bagian ruang sampel. Himpunan bagian ini mencakup semua anggota ruang sampel yang menyusun kejadian itu.
b. Kejadian
Kejadian adalah suatu himpunan bagian dari ruang sampel.
Dalam suatu percobaan seringkali ingin dihasilkan titik sampel dengan nilai numerik. Oleh sebab itu akan lebih tepat jika hasil kemungkinan percobaan dinyatakan dalam konsep, yaitu peubah acak.
c. Peubah Acak
Dimisalkan adalah sebuah fungsi yang didefinisikan pada ruang sampel , yang menghubungkan setiap titik sampel dalam dengan suatu bilangan riil, ( )
Huruf kapital seperti digunakan sebagai notasi peubah acak. Dan huruf kecil ( ) digunakan untuk notasi nilai kemungkinan bahwa peubah acak yang berhubungan dapat diperoleh.
Peubah acak dibagi atas peubah acak diskret dan peubah acak kontinu serta setiap peubah acak memiliki fungsi kepadatan peluang.
5
1. Fungsi Kepadatan Peluang Peubah Acak Kontinu
Peubah acak kontinu adalah peubah acak yang dibangkitkan dari ruang sampel kontinu. Peubah acak kontinu diperoleh dari semua nilai yang berada pada skala kontinu seperti semua kemungkinan tinggi, berat, jarak, jangka hidup dan sebagainya.
Suatu peubah acak disebut sebagai peubah acak kontinu jika terdapat sebuah fungsi ( ), disebut sebagai fungsi kepadatan peluang dari , sedemikian sehingga fungsi distribusi kumulatif dapat direpresentasikan sebagai
( ) ∫ ( )
Fungsi ( ) adalah fungsi kepadatan peluang peubah acak kontinu di , yang didefinisikan di atas himpunan semua bilangan real , bila
( ) ∫ ( )
( ) ∫ ( )
2.2 Metode Transformasi
Misalkan peubah acak kontinu dan ( ) adalah suatu transformasi satu-satu, maka fungsi kepadatan peluang peubah acak dapat ditentukan dengan teorema berikut:
Misalkan suatu peubah acak kontinu dengan fungsi kepadatan peluang ( ) dan asumsikan ( ) suatu transformasi satu-satu dari * | ( ) + * | ( ) + dengan transformasi invers ( ). Jika
( ) kontinu dan tidak bernilai nol di , maka fungsi kepadatan peluang dari adalah
( ) ( ( )) |
( )|
2.3 Beberapa Distribusi Kontinu
Berikut ini akan dijelaskan mengenai beberapa distribusi peubah acak kontinu yang akan digunakan pada Tugas Akhir ini.
(2.1)
6 a. Distribusi Normal
Distribusi Normal merupakan distribusi peluang kontinu yang sangat penting.
Distribusi Normal secara sistematis bergantung pada parameter dan , dapat dinyatakan dengan ( ). Adapun definisi distribusi Normal sebagai berikut:
Suatu peubah acak yang dikatakan memiliki distribusi Normal dengan mean dan variansi jika memiliki fungsi kepadatan peluang dalam bentuk
( )
√ ( . / ) dengan adalah mean dan merupakan standar deviasi.
b. Distribusi Lognormal
Peubah acak kontinu memiliki distribusi Lognormal apabila logaritma natural dari peubah acak tersebut adalah normal. Jadi, dimisalkan peubah adalah peubah acak kontinu dengan berdistribusi Lognormal dan juga merupakan peubah acak kontinu dengan berdistribusi Normal maka atau . Distribusi peubah acak dapat diperoleh dengan metransformasikan peubah acak , yaitu
( ) ( ( )) |
( )|
dengan ( ( )) adalah fungsi kepadatan peluang distribusi Normal yaitu ( ( ))
√ ( ( ) ) karena ( ) maka
( ) Maka diperoleh:
( )
√ ( (
) ) | |
( )
√ ( ( ) )
√ ( ( ) )
7
Jadi fungsi kepadatan peluang distribusi Lognormal yang ditulis dengan ( ) adalah
( ) √ ( ( ) )
dengan adalah mean dan merupakan standar deviasi.
c. Distribusi Uniform
Suatu peubah acak kontinu diasumsikan berada di interval terbatas ( ), dan misalkan fungsi kepadatan peluang dari adalah konstan yaitu ( ) di dalam interval. Karena ∫ maka
Sehingga distribusi ini disebut distribusi Uniform:
Suatu peubah acak dikatakan distribusi Uniform pada selang jika fungsi kepadatan peluangnya sebagai berikut:
( )
Notasi yang menandakan bahwa peubah acak mempunyai fungsi kepadatan peluang yang berdistribusi Uniform adalah ( ).
d. Distribusi Invers Gamma
Peubah acak dikatakan berdistribusi Gamma, dinotasikan dengan ( ) jika fungsi kepadatan peluangnya didefinisikan dalam bentuk:
( )
( )
. /, dan nol untuk nilai yang lain.
Dengan melakukan transformasi ( ) maka ( )
|
( )| |
( )|
maka diperoleh
( ) , ( )- |
( )|
( )( )
( )
( )( )
( )
8
Jika fungsi kepadatan peluangnya didefinisikan sebagai berikut:
Suatu peubah acak dikatakan memiliki distribusi Invers Gamma dengan parameter skala dan parameter bentuk dapat dinyatakan dengan ( ), jika memiliki fungsi kepadatan peluang berbentuk:
( )
( )
( ) . / dan 0 selainnya
2.4 Estimasi Parameter
Pada Tugas Akhir ini untuk menentukan estimasi parameter dari distribusi Lognormal dengan menggunakan metode Bayes didasarkan pada distribusi Posterior. Distribusi Posterior merupakan hasil kali antara distribusi Prior dan fungsi Likelihood. Prior yang digunakan pada Tugas Akhir ini adalah Prior Non- Informatif. Selanjutnya akan ditentukan fungsi Likelihood, distribusi Prior dan distribusi Posterior untuk parameter μ dan σ dari distribusi Lognormal.
Pembahasan tersebut akan dijelaskan pada Teorema Bayes dan metode Bayes.
2.5 Teorema Bayes
Peluang bersyarat dari kejadian bila kejadian diketahui, dinyatakan dengan ( | ), ditentukan oleh
( | ) ( ) ( ) bila ( ) .
Misalkan kejadian merupakan suatu partisi dari suatu partisi dari ruang sampel dengan ( ) untuk , maka untuk setiap kejadian anggota
( ) ∑( ) ∑ ( ) ( | )
Misalkan kejadian merupakan suatu partisi ruang sampel dengan ( ) untuk . Misalkan suatu kejadian sebarang dalam dengan ( ) maka
(2.2)
(2.3)
(2.4)
9 ( | ) ( )
∑ ( ) ( ) ( | )
∑ ( ) ( | )
2.6 Metode Bayes
Bayes memperkenalkan suatu metode pengestimasian parameter dimana kita perlu mengetahui bentuk distribusi Prior dari parameter untuk mencari estimasi parameter dari populasi, yang dikenal dengan metode Bayes. Metode Bayes menggunakan distribusi Prior ( ) bersama dengan fungsi Likelihood ( ) untuk menentukan distribusi Posterior ( | ).
a. Fungsi Likelihood
Fungsi Likelihood dapat dilambangkan dengan ( ) yang dapat didefinisikan sebagai berikut:
Fungsi kepadatan peluang bersama dari peubah acak yang dihitung pada dinyatakan dalam bentuk ( | ) dikatakan sebagai fungsi Likelihood. Jika ditetapkan, maka fungsi Likelihood dari parameter dinotasikan dengan ( ) Jika menyatakan suatu sampel acak yang saling bebas dari ( ) maka:
( ) ( | ) ( | ) ( | ) Fungsi Likelihood juga dapat didefinisikan sebagai berikut:
( ) ∏ (
)
b. Distribusi Prior
Distribusi Prior adalah distribusi awal yang memberikan informasi tentang parameter dalam metode Bayes. Distribusi Prior dikelompokkan sebagai berikut:
1. Distribusi Prior yang berdasarkan bentuk distribusi hasil identifikasi pola data dari fungsi Likelihoodnya yaitu:
a. Distribusi Prior Konjugat
Pada distribusi Prior Konjugat pemilihan Prior mempertimbangkan pola fungsi Likelihoodnya. Untuk menentukan distribusi Prior ini dipilih Prior dari anggota keluarga distribusi yang sama dengan peubah acak, sehingga distribusi Posterior yang dihasilkan berada dalam keluarga distribusi yang sama.
(2.5)
(2.6)
10 b. Distribusi Prior Non Konjugat
Pada distribusi Prior ini tidak berdasarkan pada hasil identifikasi pola datanya atau fungsi Likelihood.
2. Distribusi Prior yang berdasarkan informasi terdahulu terkait dengan penentuan masing-masing parameter pada pola distribusi Prior tersebut,yaitu:
a. Distribusi Prior Informatif
Distribusi Prior Informatif digunakan berdasarkan informasi mengenai distribusi Prior pada Tugas Akhir yang pernah dilakukan sebelumnya.
Pemberian nilai parameter pada distribusi Prior ini akan sangat mempengaruhi bentuk distribusi Posterior yang akan didapat berdasarkan informasi data yang diperoleh.
b. Distribusi Prior Non-Informatif
Pada distribusi Prior Non-Informatif digunakan untuk parameter model yang tidak berdasarkan informasi apapun terkait parameter tersebut.
Distribusi Prior Non-Informatif dapat didekati dengan menggunakan metode Jeffrey.
c. Distribusi Posterior
Distribusi Posterior adalah fungsi kepadatan peluang bersyarat yang digunakan untuk mengestimasi parameter yang tidak diketahui. Distribusi ini diperoleh dari penggabungan informasi data sampel yang dinyatakan dengan fungsi Likelihood dan informasi awal mengenai parameter yang akan diduga, dinyatakan dengan distribusi Prior.
Misalkan ( | ) adalah fungsi Likelihood dari contoh acak ( ) dan ( ) adalah distribusi Prior dari sehingga fungsi kepadatan peluang bersama dari dapat ditulis sebagai berikut :
( ) ( | ) ( )
Fungsi kepadatan peluang marginal dari dapat dihitung dengan menggunakan rumus berikut :
( ) {
∑ ( | ) ( )
∫ ( | ) ( )
(2.7)
11
Sehingga distribusi Posterior dapat ditulis sebagai berikut : ( | ) ( )
( )
Berdasarkan uraian tersebut dapat didefinisikan distribusi Posterior sebagai berikut:
Fungsi kepadatan peluang bersyarat dari jika diketahui pengamatan sampel disebut fungsi kepadatan peluang Posterior, yang diberikan oleh:
( | ) ( | ) ( )
∫ ( | ) ( ) (2.9)
Definisi Nilai harapan dari distribusi Posterior ( | ) dinyatakan dengan ̂, disebut pendugaan Bayes untuk .
d. Metode Jeffrey
Metode Jeffrey merupakan salah satu pendekatan dari Prior Non Informatif.
Distribusi Prior yang dihasilkan dengan menggunakan metode ini adalah hasil akar kuadrat dari informasi Fisher yang dinotasikan sebagai ( ).
Aturan Jeffrey Distribusi Prior ( ) dikatakan distribusi Prior Non-Informatif dari parameter jika distribusi Prior tersebut proporsional dengan akar dari informasi Fisher.
( ) √ ( )
Informasi Fisher dari parameter untuk suatu peubah acak ( ) didefinisikan sebagai berikut:
( ) *
( )+
2.7 Uji Kolmogorov-Smirnov
Uji Kolmogorov-Smirnov adalah suatu uji statistik yang digunakan untuk mengetahui apakah suatu data mengikuti distribusi tertentu. Konsep dasar uji Kolmogorov-Smirnov adalah membandingkan fungsi distribusi frekuensi kumulatif empiris ( ) dengan fungsi distribusi frekuensi kumulatif hipotesis
( ).
(2.8)
12
Apabila terdapat order sampel yang berdistribusi sesuai dengan ( ) dengan
( ) {
Jika sampel tersebut berasal dari populasi yang berdistribusi ( ) maka uji Kolmogorov-Smirnov dilakukan dengan membandingkan setiap nilai ( ) dengan nilai distribusi hipotesis ( ). Selanjutnya statistik uji yang digunakan adalah jarak vertikal terbesar (maksimum) antara ( )dan ( )yang dinotasikan dengan sehingga
| ( ) ( )|
dengan hipotesis yang digunakan adalah:
( ) ( ) ( ) ( )
Kriteria pengambilan keputusannya adalah akan ditolak jika dengan adalah nilai kritis yang diperoleh dari tabel Kolmogorov-Smirnov atau tolak jika
2.8 Sifat-Sifat Penduga
Berikut ini merupakan sifat-sifat dari penduga:
a. Tak Bias.
Pandang semua penduga tak bias dari parameter . Jika dapat dicari suatu penduga dimisalkan yaitu dengan ̂ maka variansi ̂ terkecil dibandingkan dengan variansi penduga tak bias yang lain maka ̂ disebut penduga paling efisien bagi . Dugaan parameter pada metode Bayes menggunakan informasi dari distribusi Posterior. Perhitungan dugaan diperoleh dari ekspektasi distribusi Posterior.
Dengan ̂ merupakan variabel acak kontinu maka nilai ̂ dapat diperoleh : ̂ ( | ) ∫ ( | )
( ) Suatu statistika ̂ dikatakan penduga tak bias dari parameter jika ( ̂) jika ( ̂) maka ̂ merupakan penduga bias.
13 b. Konsisten
Misalkan adalah sampel acak dari populasi dengan fungsi kepadatan peluang ( ). Barisan penduga * ̂ + disebut konsisten jika barisan
* ̂ + konvergen dalam peluang ke , yaitu
( | ̂ | ) ) Ekuivalen dengan
( | ̂ | ) )
Atau dapat juga untuk menentukan kekonsistenan dicari dengan mencari nilai dari .( ̂ ) / ( ̂) [ ( ̂ )] ( ) Dengan nilai
.( ̂ ) /
( ̂ ) Maka
.( ̂ ) /
2.9 Distribusi Curah Hujan
Distribusi yang digunakan pada data curah hujan adalah a. Distribusi Normal
Dengan syarat jika b. Distribusi Lognormal
Dengan syarat jika c. Distribusi Gumbel
Dengan syarat jika d. Distribusi Log Pearson Type III
Dengan syarat jika
14
Syarat yang digunakan dalam pemilihan distribusi curah hujan adalah sebagai berikut :
1. Standar Deviasi
Standar deviasi adalah rumusan dalam statistika yang dapat digunakan untuk mendapatkan data dari suatu populasi. Standar deviasi atau yang disebut simpangan baku disimbolkan dengan S. Standar deviasi biasa digunakan untuk mengetahui bagaimana pengukuran untuk suatu kelompok tersebar terhadap nilai mean. Semakin besar nilai standar deviasi maka nilainya menjauhi nilai mean. Semakin kecil nilai standar deviasi maka nilainya semakin mendekati mean.
√∑ ( ̅)
2. Koefisien Skewness
Ukuran kemencengan (skewness) dalah ukuran yang menyatakan derajat ketidaksimetrisan suatu kurva. Semakin besar nilai skewness nya semakin tidak simetri terhadap mean, median, dan modus yang tidak sama besarnya.
Semakin kecil nilai skewness nya semakin simetri terhadap mean, median, dan modus yang nilainya sama besar.
( )( ) ∑( ̅)
3. Koefisien Kurtosis
Kurtosis atau keruncingan adalah tingkat kepuncakan dari sebuah distribusi yang biasanya diambil secara realtif terhadap suatu distribusi normal. Tingkat keruncingan dari suatu kurva (kurtosis) merupakan besaran untuk menentukan jenis kurva (runcing, normal, atau datar). Koefisien kurtosis adalah suatu nilai yang menunjukkan keruncingan dari bentuk kurva distribusi yang umumnya dibandingkan dengan distribusi normal.
( )( )( ) ∑( ̅)
15 4. Koefisien Variasi
Koefisien variasi adalah suatu sistem perbandingan antara simpangan baku dengan nilai hitung mean yang dinyatakan dalam bentuk persentase. Koefisien variasi biasa digunakan untuk melihat sebaran / distribusi data dari mean hitungnya. Semakin kecil nilai koefisien variasi maka data semakin homogen (seragam) sedangkan semakin besar nilai koefisien variasi maka data semakin heterogen (bervariasi).
̅
