PENAKSIR BAYES UNTUK PARAMETER DISTRIBUSI EKSPONENSIAL BERDASARKAN FUNGSI KERUGIAN
KUADRATIK DAN FUNGSI KERUGIAN ENTROPI Nadya Zulfa Nengsih1∗, Bustami2
1Mahasiswa Program Studi S1 Matematika
2 Dosen Jurusan Matematika
Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Riau Kampus BinaWidya Pekanbaru (28293), Indonesia
∗N Znengsih@gmail.com
ABSTRACT
This paper discusses the estimator for parameter of exponential distribution using Bayesian statistics. Prior distribution used is the extension of Jeffrey’s prior.
Bayes estimators are obtained by quadratic loss function and entropy loss function.
Bayes estimators under quadratic loss function and entropy loss function are biased estimators. Mean squared errors of Bayes estimators are obtained using simulation. Simulation results show that Bayes estimator under entropy loss function with proper choise of γ and depending on the value of c is more efficient than Bayes estimator under quadratic loss function.
Keywords: Exponential distribution, Bayesian statistics, extension of Jeffrey prior, quadratic loss function, entropy loss function
ABSTRAK
Artikel ini membahas penaksir parameter distribusi eksponensial menggunakan statistika Bayesian. Distribusi prior yang digunakan adalah prior perluasan Jeffrey.
Penaksir Bayes diperoleh berdasarkan fungsi kerugian kuadratik dan fungsi kerugian entropi. Penaksir Bayes berdasarkan fungsi kerugian kuadratik dan fungsi kerugian entropi adalah penaksir bias. Mean squared error dari Penaksir Bayes diperoleh melalui simulasi. Hasil simulasi menunjukkan bahwa penaksir Bayes berdasarkan fungsi kerugian entropi dengan pilihan yang tepat dari γ dan bergantung pada nilai c lebih efisien dari pada penaksir Bayes berdasarkan fungsi kerugian kuadratik.
Kata kunci: Distribusi eksponensial, statistika Bayesian, prior perluasan Jeffrey, fungsi kerugian kuadratik, fungsi kerugian entropi
1. PENDAHULUAN
Statistika inferensi merupakan suatu metode untuk menarik kesimpulan mengenai parameter populasi yang didasarkan pada informasi data sampel tersebut diambil.
Penarikan kesimpulan dapat dilakukan dengan taksiran parameter dan uji hipotesa.
Taksiran parameter dalam statistika ada dua jenis yaitu taksiran titik dan taksiran interval. Kedua jenis taksiran ini dapat ditentukan menggunakan dua metode yaitu statistika klasik dan statistika Bayesian.
Pada statistika klasik data sampel dinyatakan dalam bentuk fungsi densitas yang distribusinya bergantung pada parameter yang nilainya tidak diketahui, dari fungsi densitas akan ditentukan fungsi likelihood. Berdasarkan fungsi likelihood, dapat dibuat suatu inferensi mengenai parameter. Pada statistika Bayesian terdapat informasi tambahan mengenai parameter suatu populasi yang diperoleh berdasarkan pengalaman atau investigasi statistika sebelumnya yang disebut dengan distribusi prior. Al-Kutubi dan Ibrahim [2] menjelaskan penaksir Bayes untuk distribusi eksponensial dengan prior perluasan Jeffrey. Berdasarkan teorema Bayes, informasi yang dinyatakan dengan fungsi likelihood dan distribusi prior digabungkan untuk membentuk distribusi posterior.
DeGroot [6, h. 261] menjelaskan distribusi posterior merupakan distribusi yang meringkas informasi mengenai parameter setelah dilakukannya observasi data.
Distribusi posterior yang telah diperoleh, digunakan untuk mencari penaksir Bayes berdasarkan fungsi kerugian kuadratik dan fungsi kerugian entropi. Calabria dan Pulcini [4] menjelaskan taksiran titik berdasarkan fungsi kerugian asimetris untuk sampel dari eksponensial terpotong di kiri.
Ramachandaran dan Tsokos [7, h. 272] menjelaskan bagaimana cara menentukan penaksir yang efisien melalui efisiensi relatif. Konsep efisiensi relatif akan digunakan dalam simulasi untuk mencari mean squared error yang minimum.
Pada artikel ini dibahas mengenai penaksir Bayes untuk parameter distribusi eksponensial berdasarkan fungsi kerugian kuadratik dan fungsi kerugian entropi, dengan membatasi pembahasan hanya dengan menggunakan prior perluasan Jeffrey yang merupakan kajian ulang dari artikel Albaldawi [1].
2. DISTRIBUSI EKSPONENSIAL
Albaldawi [1] menjelaskan mengenai distribusi eksponensial dengan menggunakan satu parameter yaitu parameter θ. Fungsi densitas dan fungsi distribusi komulatif dari distribusi eksponensial adalah
f(x; θ) = 1 θ exph
−x θ
i, 0 < x < ∞, θ > 0, (1) dan
F (x; θ) = 1 − exp h
−x θ i
.
Ekspektasi dan variansi dari distribusi eksponensial berturut-turut sebagai berikut:
E(X) = θ.
V ar(X) = θ2.
Misalkan X1, X2, ..., Xnmerupakan sampel random berukuran n dari distribusi eksponensial dengan fungsi densitas pada persamaan (1), maka fungsi likelihood dari distribusi eksponensial adalah
L(θ) = 1 θn exp
"
− Pn
i=1xi
θ
#
. (2)
3. STATISTIKA BAYESIAN
Al-Kutubi dan Ibrahim [2] menjelaskan prior perluasan Jeffrey yang dikemukakan oleh Harold Jeffrey adalah prior non informatif yang didefinisikan dengan
π(θ) = k [I(θ)]c, θ, c >0, (3) dengan k adalah konstanta dan I(θ) adalah informasi Fisher yang didefinisikan
I(θ) = −nE ∂2ln f (x; θ)
∂θ2
. (4)
Untuk mencari I(θ), terlebih dahulu dicari logaritma natural dari fungsi densitas pada persamaan (1) kemudian ditentukan turunan kedua terhadap θ dan diperoleh
I(θ) = n
θ2. (5)
Dengan mensubstitusikan persamaan (5) ke persamaan (3), diperoleh π(θ) = knc
θ2c, θ, c >0, (6)
dengan k adalah konstanta.
Selanjutnya, untuk menentukan penaksir Bayes diperlukan distribusi posterior dengan notasi π(θ|x) yang didefinisikan dengan
π(θ|x) = H(x1, x2, ..., xn; θ)
P (x1, x2, ..., xn) . (7) Untuk memperoleh distribusi posterior diperlukan fungsi densitas gabungan dan fungsi densitas marginal. Fungsi densitas gabungan ditulis dalam bentuk
H(x1, x2, ..., xn; θ) = L(θ)π(θ). (8) Dengan mensubstitusikan persamaan (2) dan persamaan (6) ke persamaan (8), diperoleh
H(x1, x2, ..., xn; θ) = 1
θn exp − Pn
i=1xi
θ
!knc θ2c H(x1, x2, ..., xn; θ) = knc
θn+2c exp − Pn
i=1xi
θ
!
. (9)
Selanjutnya ditentukan fungsi densitas marginal dari θ pada data (x1, x2, ..., xn).
Fungsi densitas marginal ditulis dalam bentuk P(x1, x2, ..., xn) =
Z ∞
0
H(x1, x2, ..., xn; θ) dθ. (10) Dengan mensubstitusikan persamaan (9) ke persamaan (10), maka diperoleh
P(x1, x2, ..., xn) = knc Z ∞
0
1
θn+2c exp − Pn
i=1xi
θ
!
dθ. (11)
Jika integral Z ∞
0
1
θn+2c exp − Pn
i=1xi
θ
!
dθ pada persamaan (11) diselesaikan, maka diperoleh
Z ∞
0
1
θn+2c exp − Pn
i=1xi
θ
!
dθ = Γ(n + 2c − 1)
n
X
i=1
x1
!n+2c−1, (12)
dengan mensubstitusikan persamaan (12) ke persamaan (11), maka fungsi densitas marginal adalah
P(x1, x2, ..., xn) = knc Γ(n + 2c − 1)
n
X
i=1
x1
!n+2c−1 . (13)
Selanjutnya ditentukan distribusi posterior dengan mensubstitusikan persamaan (9) dan persamaan (13) ke persamaan (7), diperoleh
π(θ|x) =
n
X
i=1
xi
!n+2c−1
exp − Pn
i=1xi θ
!
θn+2c Γ(n + 2c − 1) . (14)
4. PENAKSIR BAYES
Penaksir Bayes yang akan digunakan adalah penaksir Bayes berdasarkan fungsi kerugian kuadratik dan penaksir Bayes berdasarkan fungsi kerugian entropi.
Penaksir Bayes Berdasarkan Fungsi Kerugian Kuadratik
Berikut ini diberikan teorema untuk menentukan penaksir Bayes berdasarkan fungsi kerugian kuadratik.
Teorema 1 [3, h. 324] Penaksir Bayes ˆθBK dari θ berdasarkan fungsi kerugian kuadratik ℓ(ˆθ, θ) = θ− ˆθ
θ
!2
adalah
θˆBK =
E 1 θ|x
E 1 θ2|x
= Z 1
θ π(θ|x) dθ Z 1
θ2 π(θ|x) dθ
. (15)
Bukti. Resiko Bayes yang dinotasikan Aθˆ pada fungsi kerugian kuadratik adalah
Aθˆ= Z "
Z θ2 − 2θ ˆθ+ ˆθ2 θ2
!
π(θ|x) dθ
#
p(x) dx.
Resiko Bayes mencapai minimum apabila integral
Z θ2− 2θ ˆθ+ ˆθ2 θ2
!
π(θ|x) dθ minimum, untuk meminimumkannya maka turunan pertama harus sama dengan nol
d dˆθ
"
Z θ2− 2θ ˆθ+ ˆθ2
θ2 π(θ|x) dθ
#
= 0. (16)
Berdasarkan konsep differensial di dalam tanda integral [5, h. 69], persamaan (16) ditulis menjadi
d dˆθ
"
Z θ2− 2θ ˆθ+ ˆθ2 θ2
!
π(θ|x) dθ
#
= Z "
d dˆθ
θ2− 2θ ˆθ+ ˆθ2 θ2
!
π(θ|x) dθ
#
d dˆθ
"
Z θ2− 2θ ˆθ+ ˆθ2 θ2
!
π(θ|x) dθ
#
=
Z −2θ
θ2 π(θ|x) dθ + Z 2ˆθ
θ2 π(θ|x) dθ, (17) dengan mensubstitusikan persamaan (17) ke persamaan (16), diperoleh
θˆBK =
E 1 θ|x
E 1 θ2|x
= Z 1
θ π(θ|x) dθ Z 1
θ2 π(θ|x) dθ
.
Penaksir Bayes berdasarkan fungsi kerugian kuadratik, diperoleh menggunakan Teorema 1. Selanjutnya langkah pertama ditentukan integral
Z 1
θ π(θ|x) dθ sebagai berikut:
Z 1
θ π(θ|x) dθ = Z ∞
0
1 θ
n
X
i=1
xi
!n+2c−1
exp − Pn
i=1xi
θ
!
θn+2c Γ(n + 2c − 1) dθ.
Z 1
θ π(θ|x) dθ =
n
X
i=1
xi
!n+2c−1
Γ(n + 2c − 1) Z ∞
0
exp − Pn
i=1xi
θ
!
θn+2c+1 dθ. (18)
Jika integral Z ∞
0
exp − Pn
i=1xi
θ
!
θn+2c+1 dθpada persamaan (18) diselesaikan, maka diperoleh
Z ∞
0
exp − Pn
i=1xi θ
!
θn+2c+1 dθ = Γ(n + 2c)
n
X
i=1
xi
!n+2c, (19)
dengan mensubstitusikan persamaan (19) ke persamaan (18), diperoleh
Z 1
θ π(θ|x) dθ =
n
X
i=1
xi
!−1
Γ(n + 2c)
Γ(n + 2c − 1) . (20)
Langkah kedua akan ditentukan integral Z 1
θ2 π(θ|x) dθ sebagai berikut:
Z 1
θ2 π(θ|x) dθ = Z ∞
0
1 θ2
n
X
i=1
xi
!n+2c−1
exp − Pn
i=1xi
θ
!
θn+2c Γ(n + 2c − 1) dθ
Z 1
θ2 π(θ|x) dθ =
n
X
i=1
xi
!n+2c−1
Γ(n + 2c − 1) Z ∞
0
exp − Pn
i=1xi
θ
!
θn+2c+2 dθ. (21)
Jika integral Z ∞
0
exp − Pn
i=1xi
θ
!
θn+2c+2 dθpada persamaan (21) diselesaikan, maka diperoleh
Z ∞
0
exp − Pn
i=1xi
θ
!
θn+2c+2 dθ= Γ(n + 2c + 1)
n
X
i=1
xi
!n+2c+1, (22)
dengan mensubstitusikan persamaan (22) ke persamaan (21), diperoleh
Z 1
θ2 π(θ|x) dθ =
n
X
i=1
xi
!−2
Γ(n + 2c + 1)
Γ(n + 2c − 1) . (23)
Selanjutnya dengan mensubstitusikan persamaan (20) dan persamaan (23) ke persamaan (15), diperoleh
θˆBK =
n
X
i=1
xi
n+ 2c. (24)
Persamaan (24) adalah penaksir Bayes berdasarkan fungsi kerugian kuadratik dengan E(ˆθBK) = nθ
n+ 2c. Karena E(ˆθBK) 6= θ, maka penaksir Bayes berdasarkan fungsi kerugian kuadratik adalah penaksir bias.
Penaksir Bayes Berdasarkan Fungsi Kerugian Entropi
Berikut ini diberikan teorema untuk menentukan penaksir Bayes berdasarkan fungsi kerugian entropi.
Teorema 2 [3, h. 324] Penaksir Bayes ˆθBE dari θ berdasarkan fungsi kerugian entropi ℓ(ˆθ, θ) =" ˆθ
θ
!γ
− γ ln ˆθ θ
!
− 1
#
adalah
θˆBE =E(θ−γ|x)−1γ
=
Z
θ−γπ(θ|x) dθ
−γ1
. (25)
Bukti. Resiko Bayes yang dinotasikan Aθˆ pada fungsi kerugian entropi adalah
Aθˆ= Z "
Z " ˆθ θ
!γ
− γ ln ˆθ θ
!
− 1
#
π(θ|x) dθ
#
p(x) dx.
Resiko Bayes akan mencapai minimum apabila integral
Z " ˆθ θ
!γ
− γ ln ˆθ θ
!
− 1
#
π(θ|x) dθ minimum. Untuk meminimumkannya, turunan pertamanya harus sama dengan nol.
d dˆθ
"
Z " ˆθ θ
!γ
− γ ln ˆθ θ
!
− 1
#
π(θ|x) dθ
#
= 0. (26)
Berdasarkan konsep differensial di dalam tanda integral [5, h. 69], persamaan (26) ditulis menjadi
d dˆθ
"
Z " ˆθ θ
!γ
− γ ln ˆθ θ
!
− 1
#
π(θ|x) dθ
#
= Z "
d dˆθ
" ˆθ θ
!γ
− γ ln ˆθ θ
!
− 1
#
π(θ|x) dθ
#
d dˆθ
"
Z " ˆθ θ
!γ
− γ ln ˆθ θ
!
− 1
#
π(θ|x) dθ
#
=
Z γ ˆθγ−1
θγ π(θ|x) dθ −
Z γ
θπ(θ|x) dθˆ , (27) dengan mensubstitusikan persamaan (27) ke persamaan (26), diperoleh
θˆBE =E(θ−γ|x)−1
γ =
Z
θ−γπ(θ|x) dθ
−γ1
.
Penaksir Bayes berdasarkan fungsi kerugian entropi, diperoleh menggunakan Teorema 2. Langkah pertama akan ditentukan integral
Z ∞
0
θ−γπ(θ|x) dθ sebagai berikut:
Z ∞
0
θ−γπ(θ|x) dθ = Z ∞
0
θ−γ
n
X
i=1
xi
!n+2c−1
exp − Pn
i=1xi
θ
!
θn+2c Γ(n + 2c − 1) dθ
Z ∞
0
θ−γπ(θ|x) dθ =
n
X
i=1
xi
!n+2c−1
Γ(n + 2c − 1) Z ∞
0
exp − Pn
i=1xi
θ
!
θn+2c+γ dθ. (28)
Jika integral Z ∞
0
exp − Pn
i=1xi
θ
!
θn+2c+γ dθpada persamaan (28) diselesaikan, maka diperoleh
Z ∞
0
exp − Pn
i=1xi
θ
!
θn+2c+γ dθ= Γ(n + 2c + γ − 1)
n
X
i=1
xi
!n+2c+γ−1. (29)
Dengan mensubstitusikan persamaan (29) ke persamaan (28), diperoleh
Z ∞
0
θ−γπ(θ|x) dθ =
n
X
i=1
xi
!−γ
Γ(n + 2c + γ − 1)
Γ(n + 2c − 1) . (30)
Langkah kedua akan ditentukan
Z ∞
0
θ−γπ(θ|x)dθ
−1
γ
, dengan mensubstitusikan persamaan (30) ke persamaan (25) diperoleh
θˆBE =
n
X
i=1
xi
"
Γ(n + 2c − 1) Γ(n + 2c + γ − 1)
#1γ
. (31)
Persamaan (31) merupakan penaksir Bayes berdasarkan fungsi kerugian entropi dengan E(ˆθBE) = (nθ)
"
Γ(n + 2c − 1) Γ(n + 2c + γ − 1)
#1γ
. Karena E(ˆθBE) 6= θ, maka penaksir Bayes berdasarkan fungsi kerugian entropi adalah penaksir bias.
5. Mean Squared Error
Dalam artikel ini mean squared error disingkat dengan MSE. Selanjutnya diberikan teorema mengenai MSE
Teorema 3 [3, h. 309] Jika ˆθ adalah penaksir dari θ, maka MSE(ˆθ) = V ar(ˆθ) + (b(ˆθ))2.
Bukti. Pembuktian Teorema 3 dapat dilihat pada buku Bain dan Engelhardt
[3, h. 310].
MSE Dari Penaksir Bayes Berdasarkan Fungsi Kerugian Kuadratik Karena penaksir Bayes berdasarkan fungsi kerugian kuadratik adalah penaksir bias, menurut Teorema 3 MSE dari penaksir Bayes berdasarkan fungsi kerugian kuadratik adalah
MSE(ˆθBK) = V ar(ˆθ) + (b(ˆθ))2 MSE(ˆθBK) = 1
(n + 2c)2V ar
n
X
i=1
xi
!
+ −θ2c n+ 2c
2
MSE(ˆθBK) = θ2(n + 4c)2 (n + 2c)2 .
MSE Dari Penaksir Bayes Berdasarkan Fungsi Kerugian Entropi Menurut Teorema 3, MSE dari penaksir Bayes berdasarkan fungsi kerugian entropi adalah
MSE(ˆθBE) = V ar(ˆθ) + (b(ˆθ))2 MSE(ˆθBE) =
"
Γ (n + 2c − 1) Γ (n + 2c + γ − 1)
1
γ
#2 V ar
n
X
i=1
xi
!
+ n2θ2
Γ(n + 2c − 1) Γ(n + 2c + γ − 1)
2
γ
− 2nθ2
Γ(n + 2c − 1) Γ(n + 2c + γ − 1)
1
γ
+ θ2
MSE(ˆθBE) = θ2
n2+ n
(n + 2c − 2)!
(n + 2c + γ − 2)!
2
γ
− 2n
(n + 2c − 2)!
(n + 2c + γ − 2)!
1
γ
+ 1
. 6. Simulasi
Nilai MSE (ˆθBK) dan nilai MSE (ˆθBE) ditentukan dengan menggunakan rumus [1]
MSE(ˆθ) =
P1000
i=1 ˆθi− θ2
R .
Simulasi ini dilakukan dengan ukuran sampel n = 25, 50, 75, 100 dan nilai parameter distribusi θ = 0.5, 1. Nilai parameter prior perluasan Jeffrey c = 1.5, 2 dan nilai parameter fungsi kerugian entropi γ = −2, −1, 1, 2 serta pengulangan yang dilakukan sebanyak R = 1000. Hasil dari simulasi akan disajikan pada Tabel 1 dan Tabel 2.
Tabel 1: Nilai MSE dari penaksir Bayes untuk parameter θ = 0.5 dan c = 2 pada distribusi eksponensial
n MSE ˆθBK MSE ˆθBE Selisih nilai MSE
γ = −2 γ = −1 γ = 1 γ = 2 γ = −2 γ = −1 γ = 1 γ = 2 25 0.0133 0.0100 0.0104 0.0110 0.0120 0.0033 0.0029 0.0023 0.0013 50 0.0060 0.0050 0.0052 0.0053 0.0056 0.0010 0.0008 0.0007 0.0004 75 0.0041 0.0035 0.0036 0.0037 0.0039 0.0006 0.0005 0.004 0.0002 100 0.0031 0.0026 0.0027 0.0028 0.0030 0.0005 0.0004 0.0003 0.0001
Tabel 2: Nilai MSE dari penaksir Bayes untuk parameter θ = 1 dan c = 1.5 pada distribusi eksponensial
n MSE ˆθBK MSE ˆθBE Selisih nilai MSE
γ = −2 γ = −1 γ = 1 γ = 2 γ = −2 γ = −1 γ = 1 γ = 2 25 0.0449 0.0417 0.0387 0.0425 0.0436 0.0032 0.0062 0.0024 0.0013 50 0.0275 0.0250 0.0249 0.0261 0.0271 0.0025 0.0026 0.0014 0.0004 75 0.0219 0.0199 0.0192 0.0211 0.0215 0.0020 0.0027 0.0008 0.0004 100 0.0190 0.0176 0.0176 0.0187 0.0188 0.0014 0.0014 0.0003 0.0002
Berdasarkan Tabel 1 dan Tabel 2 untuk semua ukuran sampel MSE(ˆθBE) dengan γ = −2, −1, 1, 2 diperoleh nilai MSE lebih kecil dibandingkan dengan MSE(ˆθBK), sehingga ˆθBE lebih efisien dibandingkan ˆθBK. Dari Tabel 1 dan Tabel 2 dapat disimpulkan bahwa nilai MSE dan selisih nilai MSE(ˆθBE) dan MSE(ˆθBK) menurun
dengan meningkatnya n ukuran sampel. Semakin besar n ukuran sampel yang diamati maka selisih dari nilai MSE(ˆθBE) dan MSE(ˆθBK) akan mendekati nol. Hal ini menunjukkan bahwa MSE(ˆθBK) akan mendekati MSE(ˆθBE) untuk ukuran sampel yang semakin besar.
6. Kesimpulan
Hasil dari simulasi menunjukkan bahwa penaksir Bayes berdasarkan fungsi keru- gian kuadratik dan penaksir Bayes berdasarkan fungsi kerugian entropi merupakan penaksir bias. Penaksir Bayes berdasarkan fungsi kerugian entropi menghasilkan nilai MSE lebih kecil dibandingkan penaksir Bayes berdasarkan fungsi kerugian kuadratik. Akan tetapi hal itu tidak berlaku secara umum, karena hal itu ditentukan oleh nilai c yang merupakan parameter dari distribusi prior.
Oleh karena itu untuk menaksir parameter distribusi eksponensial, penaksir Bayes berdasarkan fungsi kerugian entropi dengan pilihan yang tepat dari γ dan bergantung pada nilai c besar dari satu lebih efisien dibandingkan dengan penaksir Bayes berdasarkan fungsi kerugian kuadratik.
Daftar Pustaka
[1] T. H. K. Albaldawi, Bayesian estimation of the parameters of the exponential distribution with different prior under symmetric and asymmetric loss function, Engineering and Technology Journal, 32 (2013), 943-956.
[2] H. S. Al-Kutubi dan N. A. Ibrahim, Bayes estimator of exponential distribution with extension of Jeffrey prior information, Journal of Mathematical Sciences, 3 (2009), 297-313.
[3] L. J. Bain dan M. Engelhardt, Introduction to Probability and Mathematical Statistics, Second Edition, Duxbury Press, Belmont, 1993.
[4] R. Calabria dan G. Pulcini, Point estimation under asymmetric loss functions for left of truncated exponential samples, Communication in Statistics- Theory and Methods, 25 (1996), 585-600.
[5] G. Casella dan R. L. Berger, Statistical Inference, Second Edition, Duxbury Press, Pacific Grove, 2002.
[6] M. H. DeGroot, Probability and Statistics, Addison-Wesley Publishing Company Inc, California, 1975.
[7] K. M. Ramachandran dan C. P. Tsokos, Mathematical Statistics with Applications, Elsevier Academic Press, San Diego, 2009.