Regresi Robust - Spada UNS

(1)

Regresi Robust

 Regresi robust merupakan metode regresi yang digunakan ketika distribusi dari sisaan tidak normal atau ada beberapa pencilan yang berpengaruh pada model.

 Metode ini merupakan alat penting untuk menganalisa data yang dipengaruhi oleh pencilan sehingga dihasilkan model yang kekar terhadap pencilan (Draper and Simth, 1992).

 Ketika peneliti menyusun model regresi dan melakukan uji asumsi sering ditemui bahwa asumsi regresi dilanggar, transformasi yang dilakukan tidak akan menghilangkan atau melemahkan pengaruh dari pencilan yang akhirnya prediksi menjadi bias.

 Dalam keadaan ini, regresi robust yang tahan terhadap pengaruh pencilan adalah metode yang terbaik.

(2)

 Regresi robust digunakan untuk mendeteksi pencilan dan memberikan hasil yang resisten terhadap adanya pencilan (Chen, 2002).

 Dalam regresi robust salah satu metode estimasi yang terkenal adalah estimasi M.

 Huruf M menunjukkan bahwa estimasi-M adalah estimasi ‘tipe maksimum likelihood’.

 Estimasi-M memenuhi sifat sebagai estimator tak bias dan memiliki variansi minimum dalam kumpulan estimator.

 Jadi estimator M memiliki variansi terkecil dibandingkan dengan variansi estimator yang lain.

Jika estimator pada estimasi-M adalah   _nx1,...,x_n

maka ^E^^^ⁿ^^x¹^, ^,^xⁿ^^^^^. (1)

 Persamaan (1) menunjukkan bahwa estimator

 1,..., 

n x xn

  pada estimasi-M bersifat tak bias.

 Variansinya merupakan variansi terkecil dibandingkan dengan variansi estimator yang lain yaitu

(3)

 

2

ˆˆ '

i; Var

nE d l n f x d

 

 

 

  

    

 

 

(2)

dengan ^^ˆˆ merupakan estimator alternatif yang linear dan tak bias bagi β.

 Estimasi M merupakan perluasan dari MLE dan merupakan estimasi yang robust .

 Prinsip estimasi M adalah meminimumkan fungsi Huber ( ), yang didefinisikan sebagai

2

jika

( ) 2 jika atau k

k k

k k k

 

    

   

 

   



dengan k = 1,5^^ˆ dan ^^ˆ adalah estimasi standar deviasi σ dari sisa.

 Digunakan ^^ˆ= 1,483 MAD untuk mengestimasi σ, dengan MAD (Median of Absolute Deviation) adalah median dari sisa absolut ei (Birkes dan Dodge, 1993: 87).

 Pada estimasi-M fungsi diminimumkan, dengan merupakan fungsi yang memenuhi:

∑ ( ) ∑ { } (3)

(4)

Jika menyatakan turunan terhadap , maka diperoleh persamaan ∑ ( ) (4)

dengan , dan , i =1, 2, ..., n.

 Untuk mendapatkan nilai estimasi-M, diperlukan suatu algoritma penghitungan.

 Berikut diberikan algoritma estimasi-M yang diacu dari Birkes dan Dodge (1993: 93).

1. Dipilih estimasi awal b⁰ dari metode kuadrat terkecil lalu

dihitung , sisa , dan = 1,483

MAD.

2. Dipotong agar mendapatkan nilai , yaitu:

= 1,5 jika > 1,5 = -1,5 jika < -1,5

3. Dihitung lalu dari nilai tersebut dicari nilai b⁰ menggunakan metode kuadrat terkecil. Proses iterasi berlanjut sampai diperoleh nilai b⁰ yang sama dengan iterasi sebelumnya.

Dari nilai b⁰ di atas, diperoleh regresi dengan estimasi-M.

0 0 0

0 1 1

ˆ_i _i _{p ip}

y b b x  b x e_i⁰  y_iyˆ_i⁰ ˆ

0

ei e_i^*

*

ei ˆ e_i⁰ ˆ

*

ei ˆ e_i⁰ ˆ

* ˆ0 *

i i i

y  y e y_i^*