Regresi dengan Autokorelasi

Autocorrelation

• _{Terjadi ketika kovarians dan korelasi antar galat ≠ tidak sama dengan nol.}

– _{Salah satu pelanggaran asumsi}



u

_t

,

u

_s





0

,

untuk

beberapa

t



s

cov

 Paling sering terjadi pada data deret waktu

 Karena urutan pengamatan mempunyai makna

 Galat pada satu periode mempengaruhi galat pada periode berikutnya

 Terutama pada periode dengan jarak pendek (mis: harian)

 Pada data cross section jarang terjadi

Penyebab Autokorelasi

•

Ommited important variable

•

Misspecification of the model

Omitted variable

• Misalkan Yt dipengaruhi oleh X2t dan X3t

• Akan tetapi X3t tidak disertakan di dalam model.

t t

t

X

u

Y





₁





_{1 2}



u

_t



X

_3t



v

_t



Sifat data time series:



X

_3t

berhubungan dengan

X

_3,t-1,

X

_3,t-2

Misspecification of the model

•

Misalkan

Y

_t

dipengaruhi oleh

X

_2t

secara kuadratik

t t

t

t

X

X

u

Y





₁





_{2 2}





_{3 2}2



 Akan tetapi suku kuadratik X_2t tidak disertakan di dalam model.

t t

t

X

v

Y





₁





_{2 2}



v

_t





₃

X

₂2_t



u

_t

 Jika X_2t naik atau turun seiring waktu maka v_t juga akan naik atau turun seiring

Systematic Errors in Measurement

•

Pengukuran yang dilakukan pada waktu

tertentu

–

Misalkan tingkat sediaan pada waktu

t

–

Terjadi kesalahan dalam pengukuran tersebut

•

Jika variabel bersifat akumulatif, maka

kesalahan pengukuran juga akan terakumulatif

•

Error di pengamatan

t

dipengaruhi oleh error

Jenis autokorelasi

• _{Yang paling sering terjadi adalah first order serial autocorrelation: AR(1)}

t kt

k t

t

t

X

X

X

u

Y





₁





_{2 2}





_{3 3}











t t

t

u

u





_1







ρ menyatakan hubungan fungsional antar galat

u

_t 

Koefisien dari

first order autocorrelation

,

•

ρ=0, tidak ada autokorelasi

•

ρ→1, positif korelasi serial, galat waktu sebelumnya

sangat mempengaruhi galat saat ini.

–

Galat waktu

t

-1 yang (-) diikuti oleh galat waktu

t

yang juga (-)

–

Galat waktu

t

-1 yang (+) diikuti oleh galat waktu

t

yang juga (+)

•

ρ→-1, negatif korelasi serial, galat waktu

sebelumnya sangat mempengaruhi galat saat ini.

–

Galat waktu

t

-1 yang (-) diikuti oleh galat waktu

t

yang (+)

–

Galat waktu

t

-1 yang (+) diikuti oleh galat waktu

t

Positive Autocorrelation

Autokorelasi positif, ditunjukkan oleh pola siklus dari galat seiring waktu.

+

-t uˆ

+

1

ˆ_t

u

-3.7 -6 -6.5 -6 -3.1 -5 -3 0.5 -1 1 4 3 5 7 8 7

+

-Time

t

Negative Autocorrelation

Autokorelasi negatif, ditunjukkan dari pola yang ‘alternating’ dari galat seiring waktu

+

-t

uˆ

+

1

ˆt

u

+

-t

uˆ

No pattern in residuals –

No autocorrelation

Tidak ada pola dari galat, tidak ada autokorelasi

+

t

uˆ

-+

1

ˆ_t

u

+

-t

uˆ

Efek dari Autokorelasi

• Penduga OLS untuk koefisien regresi tetap tidak bias akan tetap tidak lagi efisien (ragam besar)

– Tidak lagi BLUE

• _{Penduga ragam bagi koefisien regresi menjadi bias dan tidak konsisten}

– Uji hipotesis tidak lagi valid

– Tidak mencerminkan hal yang sebenarnya

• _{Overestimated R}2:

– Lebih besar dari yang sebenarnya

– Model lebih sering dinyatakan ‘a good fit’ daripada hubungan yang sebenarnya

Efek matematis terhadap ragam penduga

koefisien

•

Ragam peragam penduga koefisien OLS tanpa autokorelasi:

 





1



 



1

'

ˆ

var

β



X'

X



X'

E

uu

X

X'

X



 

ˆ





1 ₂





1

var

β



X'

X



X'



IX

X'

X



 

ˆ

₂





1





1 ₂





1

•

Ragam peragam penduga koefisien OLS dengan autokorelasi:



Jika terdapat autokorelasi, maka:



uu



Ω

                       1 1 1 1 ' 3 2 1 3 2 2 2 1 2 2      n n n n n n E             



u

_t

u

_t



E

,

E



u

_t

,

u

_t1



E



u

_t

,

u

_{t 2}



 

_{ }





1



 



1

1

'

ˆ

Detecting Autocorrelation:The

Durbin-Watson Test

Uji Durbin-Watson (DW):

- Uji untuk first order autocorrelation AR (1) u_t = u_t-1 + v_t

dengan v_t  N(0, _v2).

• _{Hipotesis uji:}

– H₀: =0and H₁: 0

• _{Statistik uji}





DW

u u

u

t t

t T

t t

T



 _



 

  



1 2

2

The Durbin-Watson Test: Critical Values

Dengan penyederhanaan:

)

1

(

AR

pada

korelasi

koefisien

penduga

:

ˆ



1

ˆ

1









Sehingga:



1 ˆ



2 



DW

4

0 DW 

2 :

0

ˆ  DW 



Untuk DW → 2, tidak akan ada cukup bukti untuk adanya autokorelasi Terdapat dua nilai kritis bagi DW,

Upper critical value (d_u) Lower critical value (d_L)

The Durbin-Watson Test: Interpretasi hasil

uji

•

Dapat dilakukan untuk menguji autokorelasi sampai derajat ke

r

Uji Breusch-Godfrey

t r

t r t

t t

t

u

u

u

u

v

u





_{1 1}





_{2  2}





_{3 3}









_





₀

,

2



~

_v

t

N

v



Hipotesis nol dan hipotesis alternatif:

H

₀

:



₁

= 0 dan



₂

= 0 dan ... dan



_r

= 0

H

₁

:



₁



0 atau



₂



0 atau ... atau



_r



0

 Dengan mengkombinasikan sifat galat tsb dan model regresi:

t r

r t

t kt

k t

t

X

X

u

u

u

v

Langkah-langkah uji Breusch-Godfrey

• _{Langkah 1: Dapatkan penduga bagi model regresi}

 Langkah 2: Dapatkan penduga galat

t t

t

Y

Y

u

ˆ





ˆ

 Langkah 3: Dapatkan penduga auxiliary regression bagi penduga galat sebagai

fungsi dari seluruh peubah eksogen dan galat sejumlah lag yang ingin diuji

p t p k t

k kt

k t

t

X

X

u

u

u

ˆ





₀





_{1 2}













_1

ˆ

_1









_

ˆ

_ t

kt k t

t

t

X

X

X

u

 Langkah 4: Dapatkan statistik uji berdasarkan koefisien

determinasi dari auxiliary regression R2





2

~

2

r

R

r

n

LM









Langkah 5: Tolak H

₀

jika ada bukti yang nyata dari statistik uji

 Penentuan r tergantung dari periode data (bulanan, mingguan

Cara Mengatasi Autokorelasi

•

Berdasarkan pengetahuan tentang ρ diketahui

Mengatasi autokorelasi ketika ρ diketahui

• _{ρ diketahui dan diasumsikan autokorelasi terjadi seusai AR(1)}

model. t kt k t t

t

X

X

X

u

Y





₁





_{2 2}





_{3 3}











t t

t

u

u





_1





 Model yang sama berlaku pada waktu ke t-1

1 1 1 3 3 1 2 2 1

1    







t



t





k kt



t

t

X

X

X

u

Y











 Model pada t-1 dikalikan dengan ρ

1 1 1 3 3 1 2 2 1

1    







t



t





k kt



t

t

X

X

X

u

Y























(1)

• _{Persamaan (1) dikurangi dengan persamaan (2)} t kt k t t

t

X

X

X

u

Y





₁





_{2 2}





_{3 3}











1 1 1 3 3 1 2 2 1

1    







t



t





k kt



t

t

X

X

X

u

Y



























₂



_{2 2 1}





_{1 1}





₁



1

1

1

   























_{t t t k kt kt t t}

t

Y

X

X

X

X

u

u

Y



















t t

k t

t

X

X

Y

*





₁*





_{2 2}*









₃*





 Akibat pembedaan, pengamatan berkurang 1

 Pengamatan pertama digantikan dengan:

2 1 * 1 2 1 *

1



Y

1





,

X

i



X

i

1





Mengatasi autokorelasi ketika ρ tidak diketahui:

Cochrane-Orcutt Iterative Procedure

• _{Langkah 1: duga model regresi dan dapatkan penduga galat}

• _{Langkah 2: duga koefisien korelasi serial orde 1 dengan metode OLS}

dari:

t t

t

u

u

ˆ





ˆ

_1









2 1 * 1 2 1 * 1 1 * 1 * 1 1 *

ˆ

1

,

ˆ

1

ˆ

,

ˆ

1

,

ˆ



































_{ } i i it it it t t t

X

X

Y

Y

X

X

X

Y

Y

Y

t t k t t

t

X

X

Y

*





*





_{2 2}*









₃*





 Langkah 3: Lakukan transformasi untuk peubah peubah yang dipakai

dengan hubungan berikut:

 Langkah 4: Dapatkan penduga regresi dan penduga galat untuk

 Ulangi lagi langkah 2 sampai dengan 4 sampai dipenuhi kriteria

berikut:



iterasi

ke



ˆ



iterasi

ke



1





0

ˆ



j







j



