Ekonometrika
Program Studi Statistika Semester Ganjil 2012
Pendugaan Parameter Pada Regresi
dengan Dua Peubah
Menduga PRF dengan SRF
Menggunakan metode Ordinary Least Square (OLS)
i
i X
Yˆ ˆ1 ˆ2
PRF Yi 1 2Xi ui
SRF
Dari dua definisi tersebut:
i i
i Y Y
uˆ ˆ
i
i X
Y
ˆ1
ˆ2
i i
i i
i X u Y u
Pendugaan Parameter Pada Regresi
dengan Dua Peubah
Prinsip metode Ordinary Least Square (OLS):
Memilih SRF sedemikian sehingga jumlah kuadrat
dari residual sekecil mungkin
Penduga parameter model dipilih berdasarkan
metode optimasi:
Solusi dari turunan pertama dari
masing-masing parameter yang disamadengankan nol
n i i i n ii Y X
u 1 2 2 1 1
2 ˆ ˆ
Pendugaan Parameter Pada Regresi
dengan Dua Peubah
Asumsi-asumsi yang mendasari Metode
OLS
Diperlukan karena tujuan kita adalah
pengambilan kesimpulan mengenai nilai parameter yang sebenarnya.
1. Regresi linier pada parameter
2. Nilai peubah bebas (eksogen) dianggap non
stokastik (fixed)
3. Galat mempunyai nilai harapan nol
4. Homokedastisitas: ragam yang sama pada
galat
Asumsi-asumsi yang mendasari Metode
OLS
6. Peubah bebas (eksogen) dan galat saling bebas 7. Jumlah pengamatan harus lebih besar daripada
jumlah parameter yang akan diduga
8. Nilai peubah bebas harus bervariasi
9. Model regresi harus dispesifikasikan dengan
tepat: no specification bias
Regresi Linier Pada Parameter
Hanya parameter yang bersifat linier Peubah eksogen atau endogen boleh tidak linier
i i
i X u
Y 1 2
i i
i X u
Y 1 2 2
i i
i X u
Y ln
Nilai peubah bebas (eksogen) dianggap
non stokastik (fixed)
Untuk membentuk sebaran nilai-nilai peubah endogen (Y) pada setiap nilai peubah eksogen (X)
Pada X tertentu terdapat beberapa nilai Y
Analisis regresi di sini adalah analisis regresi bersyarat pada nilai X
i
i i ii E Y X u X u
Galat mempunyai nilai harapan nol
Dengan syarat nilai X tertentu, galatmempunyai rata-rata atau nilai harapan
Homokedastisitas: ragam yang sama pada
galat
Ilustrasi grafis asumsi Heterokesdastisitas
2
2var ui Xi E ui Xi i
3 2
1 X X
X
2 3 2
2 2
1
Pada kasus heterokesdastisitas
Ragam galat meningkat seiring dengan meningkatnya nilai X
Nilai-nilai Y pada X1 lebih terpusat di garis
regresi populasi (PRF) daripada nilai-nilai Y di
X yang lainnya
Pengamatan Y berasal dari X= X1 akan lebih mungkin terletak di dekat PRF daripada Y
yang berasal dari X yang lainnya.
Implikasi dari asumsi Homokesdastisitas
Dari asumsi homokesdastisitas, berlaku bahwa:
Ragam dari Y dengan syarat nilai X juga sama
untuk setiap kemungkinan nilai X
var
2 var Yi Xi ui Xi
Yi Xi
Var
1 2Xi ui Xi
var
Ragam dari konstanta adalah nol, dan kedua suku saling bebas
Galat Tidak Berkorelasi
Pada dua nilai X yang berbeda, korelasi / kovarians antar galat = 0.
Galat Tidak Berkorelasi
Asumsi ini disebut dengan ‘tidak ada
autokorelasi’ antar galat
Pada nilai X tertentu, penyimpangan nilai Y dari
rata-rata tidak mempunyai pola tertentu (acak).
Jika terdapat autokorelasi, maka Y tidak hanya
dipengaruhi oleh X, tapi juga dipengaruhi oleh
galat dari X yang lainnya
i
i i ii E Y X u X u
Y 1 2
1
i
i f u
Peubah bebas (eksogen) dan galat saling
bebas
Kovarians di antara galat dan peubah eksogen =
0
PRF dibentuk berdasarkan asumsi bahwa X dan u
mempunyai efek aditif (yang terpisah) bagi Y
Jika kedua efek tersebut berkorelasi
Kesulitan dalam menganalisis efek individu dari
X dan u
Jika keduanya tidak saling bebas
u semakin besar seiring peningkatan nilai X
(korelasi positif)
u semakin kecil seiring peningkatan nilai X
Jumlah pengamatan harus lebih besar
daripada jumlah parameter yang akan diduga
Syarat diperolehnya solusi unik dari suatu sistem persamaan (n: jumlah peubah, m: jumlah persamaan, m≥n)
Nilai peubah bebas harus bervariasi
Karena tujuan dari analisis adalahmempelajari perubahan Y seiring dengan perubahan X
Dari rumus penduga slope model regresi, penyebut akan bernilai nol jika tidak ada variasi dari nilai X
Tidak ada solusi bagi penduga slope
Model regresi harus dispesifikasikan
dengan tepat:
no specification bias
Model 1
Model 2
Jika digunakan model 2, maka pada X
tertentu, model akan
Tidak ada multikolinieritas sempurna
Tidak ada hubungan linier di antaraClassical Linier Regression Model
Asumsi-asumsi tersebut disebut denganasumsi pada Classical Linier Regression Model
(CLRM)
Asumsi tersebut mendasari sifat-sifat penduga OLS secara statistika.
Keakuratan dan galat baku dari penduga
OLS
Mempelajari sebaran penarikan contoh dari penduga regresi
SRF tidak pernah sama dari sampel satu ke sampel yang lain
Nilai penduga juga tidak pernah sama dari satu sampel ke sampel yang lain
Penduga dinyatakan akurat jika mempunyai ragam/simpangan baku yang kecil pada
Sebaran penarikan sampel penduga 1 -tepat, tidak bias
-Cukup akurat, ragam kecil
Sebaran penarikan sampel penduga 2 -tepat, tidak bias
Keakuratan dan galat baku dari penduga
OLS
Penduga ragam dari Penduga OLS
Sifat-sifat penduga OLS: Teorema Gauss
Markov
Jika semua asumsi-asumsi CLRM terpenuhi maka penduga OLS akan mempunyai sifat berikut ini:
Linier: fungsi linier dari peubah acak di dalam
model (Y)
Tidak bias: nilai harapan penduga adalah nilai dari
parameter
Mempunyai ragam terkecil dari semua penduga
linier yang tak bias
BLUE: (Best Linear
Unbiased Estimators)
Goodness of Fit dari garis regresi
Sebagai alat untuk:
Menentukan apakah tidak ada alternatif garis lain yang
dapat menjelaskan hubungan X dan Y
Mengukur seberapa baik model yang diperoleh
menjelaskan Y
Diperlukan penguraian nilai JK Y di sekitar nilai
tengahnya.
2
ˆ
2
Yi Y Yi ui Y
2
ˆ
2
ˆ
2
Yi Y Yi Y Yi YiJK total JK
Regresi
JK
Residual/Gala t
DR. Rahma Fitriani, S.Si., M.Sc
JK
Regresi JK Galat
JK total
Penguraian jumlah kuadrat Y di sekitar nilai
Dari penguraian JK tersebut dapat diturunkan koefisien determinasi berikut:
Total JK Regresi JK 2 R
Sebagai ukuran seberapa besar (dalam proporsi/persen)
keragaman total Y dapat dijelaskan oleh model regresi.
Total JK Galat JK Regresi JK 1 Galat JK Regresi JK Total JK Total JK Galat JK
1 R2
Rentang Nilai Koefisien Determinasi
Dari hubungan:
Total JK
Galat JK
1R2
Jika model regresi gagal menjelaskan keragaman nilai Y maka:
Total JK
Galat
JK R2 0
Jika model regresi menjelaskan keragaman nilai Y dengan
sempurna maka:
0 Galat
JK 2 1
R
1 0 R2
Uji Hipotesis dan Selang Kepercayaan
Dengan asumsi Classical Linier RegressionModel (CLRM) penduga OLS menyebar secara normal:
1 1
1 ~ ,var ˆ
ˆ
N
2 2
2 ~ ,var ˆ
ˆ N
2 2 2 ˆ ˆ var X Xi
2 2 2 1 ˆ ˆ var X X n X i Uji Keberartian Penduga OLS
Statistik uji:
0 : 0 : 1 0 i i H H
Uji satu arah jika
dipunyai wawasan
‘a priori’ : 0
0 : 1 0 i i H H
i i i i i se se t ˆ ˆ ˆ ˆ Tolak atau terima H0 berdasarkan nilai p untuk tingkat
nyata tertentu dan sifat uji, satu arah atau dua arah
Selang Kepercayaan
Selang di mana nilai β yang sebenarnya
terletak, pada tingkat kepercayaan tertentu
i ni t se
ˆ , 2 ˆ2