ESTIMASI BAYESIAN BERDASARKAN FUNGSI KERUGIAN KUADRATIK DAN ENTROPI UNTUK PARAMETER
DISTRIBUSI EKSPONENSIAL
REPOSITORY
OLEH
ADILA RAHMA NIM. 1403113842
PROGRAM STUDI S1 MATEMATIKA JURUSAN MATEMATIKA
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS RIAU
PEKANBARU
2018
ESTIMASI BAYESIAN BERDASARKAN FUNGSI KERUGIAN KUADRATIK DAN ENTROPI UNTUK PARAMETER
DISTRIBUSI EKSPONENSIAL Adila Rahma
Mahasiswa Program Studi S1 Matematika Jurusan Matematika
Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Riau Kampus Bina Widya, Pekanbaru 28293
dila2865@gmail.com
ABSTRACT
This article discusses the Bayes estimators for the parameter of exponential distribution under different loss function. Here the gamma distribution is used as the prior distributon of exponential distribution for finding the Bayes estimator. Bayes estimators are obtained by quadratic loss function and entropy loss function. Bayes estimators under quadratic loss function and entropy loss function are biased estimators. Simulation results show that Bayes estimator under entropy loss function is more efficient than Bayes estimator under quadratic loss function with proper choice of entropy parameter and depending on the value of prior distribution parameters. MSE of estimators of different loss functions are presented graphically.
Keyword: Bayes estimator, exponential distribution, gamma prior, quadratic loss function, entropy loss function
ABSTRAK
Artikel ini membahas estimator Bayes untuk parameter distribusi eksponensial berdasarkan fungsi kerugian yang berbeda. Distribusi gamma digunakan sebagai distribusi prior dari distribusi eksponensial untuk memperoleh estima- tor Bayes. Estimator Bayes diperoleh berdasarkan fungsi kerugian kuadratik dan fungsi kerugian entropi. Estimator Bayes berdasarkan fungsi kerugian kuadratik dan fungsi kerugian entropi adalah estimator bias. Hasil simulasi menunjukkan bahwa estimator Bayes berdasarkan fungsi kerugian entropi lebih efisien daripada estimator Bayes berdasarkan fungsi kerugian kuadratik dengan pilihan yang tepat dari parameter entropi dan bergantung pada nilai pa- rameter distribusi prior. MSE dari estimator berdasarkan fungsi kerugian yang berbeda disajikan secara grafis.
Kata kunci: Estimator Bayesian, distribusi eksponensial, prior gamma, fungsi
kerugian kuadratik, fungsi kerugian entropi
1. PENDAHULUAN
Statistika inferensial merupakan metode yang berhubungan dengan analisis data sampel untuk menarik kesimpulan mengenai data populasi. Penarikan kesimpulan dilakukan dengan estimasi parameter berupa estimasi titik dan interval kemudian dilanjutkan dengan uji hipotesis. Estimasi parameter di- tentukan dengan dua metode yaitu metode statistika frekuentis dan metode statistika Bayesian.
Pada statistika frekuentis, estimasi parameter dan inferensinya berdasarkan informasi data sampel dari parameter populasi yang dinyatakan dalam bentuk fungsi densitas suatu distribusi. Berdasarkan fungsi densitas akan ditentukan fungsi likelihood. Fadhil et al. [6] membandingkan antara estimator Bayesian dan estimator frekuentis (klasik) pada distribusi Weibull.
Ramachandran dan Tsokos [9, h. 560] menyatakan bahwa pada statis- tika Bayesian terdapat informasi tambahan mengenai parameternya yang didasarkan pada pengamatan sebelumnya yang dinyatakan sebagai distribusi prior. Kombinasi dari fungsi likelihood dengan distribusi prior menggunakan teorema Bayes menghasilkan distribusi posterior.
Fungsi kerugian dibutuhkan untuk memperoleh estimator Bayes. Rahman et al. [8] melakukan estimasi Bayesian menggunakan empat jenis fungsi kerugian yaitu squared error, kuadratik, MLINEX dan NLINEX. Al-Kutubi dan Ibrahim [1] juga membahas mengenai estimasi Bayesian untuk pa- rameter berdistribusi eksponensial berdasarkan fungsi kerugian. Prior yang digunakan adalah prior Jeffrey. Referensi lainnya yang membahas mengenai fungsi kerugian adalah Dey [5].
Bain dan Engelhardt [2, h. 304] menyatakan estimator yang efisien adalah estimator yang memenuhi dua kriteria evaluasi yaitu tak bias dan memiliki variansi minimum. Apabila estimator bias, maka estimator yang efisien adalah estimator yang memiliki mean square error (MSE ) minimum.
Distribusi peluang bersifat kontinu diantaranya yaitu distribusi gamma dan distribusi eksponensial. Distribusi eksponensial adalah salah satu model yang paling umum digunakan dalam studi life-testing dan reliabilitas [3, 10]. Fungsi densitas dari distribusi eksponensial akan ditentukan fungsi likelihood -nya.
Pada artikel ini dibahas mengenai estimator Bayes untuk distribusi ekspo- nensial berdasarkan fungsi kerugian kuadratik dan fungsi kerugian entropi, dengan membatasi pembahasan hanya dengan menggunakan prior gamma yang merupakan kasian ulang dari artikel Hasan et al. [7].
2. DISTRIBUSI EKSPONENSIAL
Hasan et al.[7] menjelaskan distribusi eksponensial dengan parameter θ. Fungsi densitas dan fungsi distribusi komulatif dari distribusi eksponensial adalah
f (x; θ) = θe
−θx, 0 ≤ x ≤ ∞; θ > 0 (1)
dan
F (x; θ) = 1 − e
−θx.
Ekspektasi dari distribusi eksponensial adalah E(X) = 1/θ dan variansinya adalah E(X) = 1/θ
2.
Misalkan X
1, X
2, ..., X
nadalah sampel random dari distribusi ekspo- nensial dengan fungsi densitas pada persamaan (1), fungsi likelihood distribusi eksponensial diketahui sebagai berikut [7]:
L(θ) =
n
Y
i=1
f (x
i; θ) =
n
Y
i=1
θe
−θxi= θ
ne
−θΣni=1xi. (2)
3. STATISTIKA BAYESIAN
Hasan et al. [7] menjelaskan prior gamma merupakan prior konjugat dari distribusi eksponensial yang didefinisikan dengan
π(θ) = β
αΓ(α) θ
α−1e
−βθ; θ, α, β > 0. (3) Selanjutnya, untuk menentukan estimator Bayes dibutuhkan distribusi posterior dengan notasi π(θ|x) yang didefinisikan dengan
π(θ|x) = π(x; θ)
g(x) . (4)
Untuk memperoleh estimator Bayes diperlukan fungsi densitas gabungan dan fungsi densitas marginal. Fungsi densitas gabungan ditulis dalam bentuk
π(x; θ) = L(θ)π(θ). (5)
Selanjutnya fungsi densitas marginal ditulis dalam bentuk g(x) =
Z
Ω
π(x; θ)dθ. (6)
Dengan mensubstitusikan persamaan (2) dan persamaan (3) ke persamaan (5) diperoleh
π(x; θ) = β
αΓ(α) θ
α+n−1e
−(β+Σni=1xi)θ. (7) Selanjutnya, dengan mensubstitusikan persamaan (7) ke persamaan (6) diperoleh
g(x) = β
αΓ(α)
Z
∞ 0θ
α+n−1e
−(β+Σni=1xi)θdθ. (8) Jika integral R
∞0
θ
α+n−1e
−(β+Σni=1xi)θdθ diselesaikan, maka persamaan (8)
menjadi
g(x) = β
αΓ(α)(β + Σ
ni=1x
i)
α+nZ
∞0
u
α+n−1e
−udu. (9) Selanjutnya distribusi posterior ditentukan dengan mensubstitusikan persamaan (7) dan persamaan (9) ke persamaan (4) sehingga diperoleh
π(θ|x) = (β + Σ
ni=1x
i)
α+nΓ(α + n) θ
α+n−1e
−(β+Σni=1xi)θ. (10) 4. ESTIMATOR BAYES
Estimator Bayes yang digunakan adalah estimator Bayes berdasarkan fungsi kerugian kuadratik dan fungsi kerugian entropi.
Estimator Bayes Berdasarkan Fungsi Kerugian Kuadratik
Hasan et al. [7] menjelaskan fungsi kerugian kuadratik yang didefinisikan dengan
L(ˆ θ; θ) =
ˆ θ − θ θ
!
2. (11)
Risiko Bayes yang dinotasikan dengan A
θˆpada fungsi kerugian kuadratik adalah
A
θˆ= Z "
Z ˆ θ
2− 2θ ˆ θ + θ
2θ
2!
π(θ|x)dθ
#
g(x)dx.
Risiko Bayes akan mencapai minimum bila R ((ˆ θ
2−2θ ˆ θ +θ
2)/θ
2π(θ|x)dθ minimum. Integral ini akan minimum dengan mencari turunan pertama dan menyamakannya dengan nol, sehingga turunannya dapat ditulis menjadi
d dˆ θ
"
Z θ ˆ
2− 2θ ˆ θ + θ
2θ
2π(θ|x)dθ
#
= 0. (12)
Dengan menggunakan konsep differensial di dalam tanda integral [4, h. 69], persamaan (12) dapat ditulis menjadi
d dˆ θ
"
Z θ ˆ
2− 2θ ˆ θ + θ
2θ
2π(θ|x)dθ
#
= Z "
d dˆ θ
ˆ θ
2− 2θ ˆ θ + θ
2θ
2!
π(θ|x)
# dθ d
dˆ θ
"
Z θ ˆ
2− 2θ ˆ θ + θ
2θ
2π(θ|x)dθ
#
=
Z 2ˆ θ
θ
2π(θ|x)dθ +
Z −2θ
θ
2π(θ|x)dθ. (13) Dengan mensubstitusi persamaan (13) ke persamaan (12) diperoleh
θ = ˆ R
1θ
π(θ|x)dθ R
1θ2
π(θ|x)dθ . (14)
Estimator Bayes berdasarkan fungsi kerugian kuadratik diperoleh menggu- nakan persamaan (14). Langkah pertama ditentukan integral R 1/θπ(θ|x)dθ sebagai berikut:
Z
∞ 01
θ π(θ|x)dθ = Z
∞0
1 θ
(β + Σ
ni=1x
i)
α+nΓ(α + n) θ
α+n−1e
−(β+Σni=1xi)θdθ Z
∞0
1
θ π(θ|x)dθ = (β + Σ
ni=1x
i)
α+nΓ(α + n)
Z
∞ 0θ
α+n−2e
−(β+Σni=1xi)θdθ. (15) Jika integral R
∞0
θ
α+n−2e
−(β+Σni=1xi)θdθ pada persamaan diselesaikan, maka diperoleh
Z
∞ 0θ
α+n−2e
−(β+Σni=1xi)θdθ = Γ(α + n − 1)
(β + Σ
ni=1x
i)
α+n−1. (16) Dengan mensubstitusikan persamaan (16) ke persamaan (15) diperoleh
Z
∞ 01
θ π(θ|x)dθ = (β + Σ
ni=1x
i)
Γ(α + n) Γ(α + n − 1).
Langkah kedua akan ditentukan integral R
∞0
1/θ
2π(θ|x)dθ sebagai berikut:
Z
∞ 01
θ
2π(θ|x)dθ = Z
∞0
1 θ
(β + Σ
ni=1x
i)
α+nΓ(α + n) θ
α+n−1e
−(β+Σni=1xi)θdθ Z
∞0
1
θ
2π(θ|x)dθ = (β + Σ
ni=1x
i)
α+nΓ(α + n)
Z
∞ 0θ
α+n−3e
−(β+Σni=1xi)θdθ. (17) Jika integral R
∞0
θ
α+n−3e
−(β+Σni=1xi)θdθ pada persamaan (17) diselesaikan, maka diperoleh
Z
∞ 01
θ
2π(θ|x)dθ = (β + Σ
ni=1x
i)
2Γ(α + n) Γ(α + n − 2). (18) Dengan mensubstitusikan persamaan (18) ke persamaan (17) didapat
Z
∞ 01
θ
2π(θ|x)dθ = (β + Σ
ni=1x
i)
2Γ(α + n) Γ(α + n − 2).
Dengan mensubstitusikan persamaan (17) dan persamaan (19) ke persamaan (11) diperoleh
θ ˆ
BK= (α + n − 2)
(β + Σ
ni=1x
i) . (19)
Persamaan (19) adalah estimator Bayes berdasarkan fungsi kerugian kuadratik
dengan nilai ekspektasi
E(ˆ θ
BK) = E (α + n − 2) (β + Σ
ni=1x
i)
E(ˆ θ
BK) = (α + n − 2)θ βθ + n . .
Karena E(ˆ θ
BK) 6= θ, maka estimator Bayes berdasarkan fungsi kerugian kuadratik bersifat bias dengan nilai biasnya
b(ˆ θ
BK) = (α − βθ − 2)θ (βθ + n) .
Estimator Bayes Berdasarkan Fungsi Kerugian Entropi
Hasan et al. [7] menjelaskan fungsi kerugian entropi yang didefinisikan dengan
L(ˆ θ; θ) = ω
" ˆ θ θ
!
c− c ln ˆ θ θ
!
− 1
#
. (20)
Risiko Bayes yang dinotasikan dengan A
θˆpada fungsi kerugian entropi adalah
A
θˆ= Z "
Z ω
" ˆ θ θ
!
c− c ln ˆ θ θ
!
− 1
#
π(θ|x)dθ
#
g(x)dx.
Risiko Bayes akan mencapai minimum apabila R ω[(ˆ θ/θ)
c− c ln(ˆ θ/θ) − 1]
π(θ|x)dθ minimum. Integral ini akan minimum dengan mencari turunan pertama dan menyamakannya dengan nol, sehingga turunannya dapat ditulis menjadi
d dˆ θ
Z
ω " ˆ θ θ
!
− c ln ˆ θ θ
!
− 1
#
π(θ|x)dθ
!
= 0. (21)
Dengan menggunakan konsep differensial di dalam tanda integral [4, h. 69], persamaan (21) dapat ditulis menjadi
d dˆ θ
Z ω
" ˆ θ θ
!
c− c ln ˆ θ θ
!
− 1
#
π(θ|x)dθ
!
=
Z d
dˆ θ ω
" ˆ θ θ
!
c−c ln ˆ θ θ
!
− 1
π(θ|x)dθ
d dˆ θ
Z ω
" ˆ θ θ
!
c− c ln ˆ θ θ
!
− 1
#
π(θ|x)dθ
!
=
Z cω ˆ θ
c−1θ
cπ(θ|x)dθ
− Z cω
θ ˆ π(θ|x)dθ. (22) Dengan mensubstitusikan persamaan (22) ke persamaan (21) dihasilkan
θ = ˆ
Z
θ
−cπ(θ|x)dθ
1c(23) Estimator Bayes berdasarkan fungsi kerugian entropi diperoleh menggu- nakan persamaan (23). Langkah pertama ditentukan integral R θ
−cπ(θ|x)dθ sebagai berikut:
Z
∞ 0θ
−cπ(θ|x)dθ = Z
∞0
θ
−c(β + Σ
ni=1x
i)
α+nΓ(α + n) θ
α+n−1e
−(β+Σni=1xi)θθ
Z
∞ 0θ
−cπ(θ|x)dθ = (β + Σ
ni=1x
i)
α+nΓ(α + n)
Z
∞ 0θ
α+n−c−1e
−(β+Σni=1xi)θdθ. (24) Jika integral R
∞0
θ
α+n−c−1e
−(β+Σni=1xi)θdθ pada persamaan (24) diselesaikan, maka persamaan (24) menjadi
Z
∞ 0θ
−cπ(θ|x)dθ = (β + Σ
ni=1x
i)
cΓ(α + n) Γ(α + n − c). (25) Selanjutnya langkah kedua akan ditentukan R
∞0
θ
−cπ(θ|x)dθ
−1c
, dengan mensubstitusikan persamaan (25) ke persamaan (23) diperoleh
θ ˆ
BE= (β + Σ
ni=1x
i)
−1Γ(α + n − c) Γ(α + n)
−1c. (26)
Persamaan (26) adalah estimator Bayes berdasarkan fungsi kerugian entropi dengan nilai ekspektasi
E(ˆ θ
BE) = E (β + Σ
ni=1x
i)
−1Γ(α + n − c) Γ(α + n)
−1c!
E(ˆ θ
BE) = θ βθ + n
Γ(α + n − c) Γ(α + n)
−1c.
Karena E(ˆ θ
BE) 6= θ, maka estimator Bayes berdasarkan fungsi kerugian
entropi bersifat bias dengan nilai biasnya b(ˆ θ
BE) = E(ˆ θ
BE) − θ b(ˆ θ
BK) = θ
βθ + n
Γ(α + n − c) Γ(α + n)
−1c− θ.
5. Mean Square Error
Berikut ini diberikan teorema untuk menentukan Mean Square Error (MSE ).
Teorema 1 [2, h. 309] Jika T adalah penaksir dari τ (θ), maka
M SE(T ) = Var(T ) + [b(T )]
2. (27) Bukti. Pembuktian Teorema 1 dapat dilihat pada buku Bain dan Engelhardt [2, h. 309].
Nilai variansi dan bias dari estimator Bayes digunakan untuk memperoleh nilai MSE. Variansi dari estimator Bayes bedasarkan fungsi kerugian kuadratik adalah
Var(ˆ θ
BK) = Var (α + n − 2) (β + Σ
ni=1x
i)
Var(ˆ θ
BK) = (α + n − 2)
2θ
2n . (28)
Selanjutnya variansi dari estimator Bayes bedasarkan fungsi kerugian entropi adalah
Var(ˆ θ
BE) = Var (β + Σ
ni=1x
i)
−1Γ(α + n − c) Γ(α + n)
−1c