Pokok Bahasan :
Regresi Linier dengan Dua Peubah
Penjelas
Penulisan model regresi linier
berganda dengan notasi matriks
Model Regresi Linier dengan 2 peubah penjelas
Model Regresi Linier Berganda
Dengan notasi matriks dapat dituliskan :
ε x β x β β Y 0 1 1 2 2 n n y y y . . x x 1 . . . . . . x x 1 x x 1 . . 2 1 2 1 0 2n 1n 22 12 21 11 2 1 penjelas p banyaknya k , 1 1 1 1 1n k k
n
n y XPendugaan model regresi
berganda dengan matriks
Notasi Matriks pada Model Regresi Linier Berganda
dengan k = 2
Penduga parameter regresi berganda dg notasi matriks :
X
y
n n y y y . . x x 1 . . . . . . x x 1 x x 1 . . 2 1 2 1 0 2n 1n 22 12 21 11 2 1 1 1) (k ) 1 ( ) 1 ( 1 ) 1 (kb
k(
X
'
X
)
kX
'
n ny
1
Contoh: model regresi linier berganda
dalam notasi matriks
0 1 0 30 2.2 1 25 2.8 1 40 3.9 1 30 3.2 1 20 3.0 1 25 3.4 1 30 3.1 1 2.3 2.5 4.0 2.9 3.0 3.2 3.5 X y
Data : Model Regresi dalam notasi Matriks :
X y y x1 x2 3.5 3.1 30 3.2 3.4 25 3.0 3.0 20 2.9 3.2 30 4.0 3.9 40 2.5 2.8 25 2.3 2.2 30
Contoh : Menduga parameter regresi
linier berganda dg matriks
1 1) (k ) 1 ( ) 1 ( 1 ) 1 (k
b
k(
X
'
X
)
kX
'
n ny
1
30 2.2 1 25 2.8 1 40 3.9 1 30 3.2 1 20 3.0 1 25 3.4 1 30 3.1 1 Dugaan bagi parameter regresi :
Dari data contoh tsb. didapat :
30 25 40 30 20 25 30 2.2 2.8 3.9 3.2 3.0 3.4 1 . 3 1 1 1 1 1 1 1 X’X = 3 x 7 7 x 3
Contoh : Menduga parameter regresi
linier berganda dg matriks
X X 7 0 216 200 0 216 68 3 626 0 200 0 626 0 5950 0 . . . . . . . . .
Dengan perhitungan cara matriks didapat :
0.005 0.028 0.064 -0.028 0.760 1.529 -0.064 1.529 6.683 ) ' (X X 1 30 25 40 30 20 25 30 2.2 2.8 3.9 3.2 3.0 3.4 1 . 3 1 1 1 1 1 1 1 0.005 0.028 0.064 -0.028 0.760 1.529 -0.064 1.529 6.683 2.3 2.5 4.0 2.9 3.0 3.2 3.5 b = 017 . 0 898 . 0 214 . 0
Dugaan garis regresinya :
2 1
0
.
017
898
.
0
214
.
0
ˆ
x
x
y
lanjutan (X’X) -1 X’Pemeriksaan Model
untuk
Regresi Berganda
•Peubah penjelas apa yang memiliki hubungan linier dg peubah respon •Apakah penambahan peubah penjelas ke dalam model diperlukan
Ringkasan Regresi Berganda
Model Regresi Berganda dengan 2 peubah penjelas :
Model umum Regresi Berganda dengan k peubah
penjelas dalam notasi matriks :
Dugaan bagi parameter Regresi Berganda:
ε
x
β
x
β
β
Y
0
1 1
2 2
1 1 1 1 1 n k k
n
ny
X
1 1) (k ) 1 ( ) 1 ( 1 ) 1 (kb
k(
X
'
X
)
kX
'
n ny
1
Ringkasan Regresi Berganda
y
b
y
ˆ
X
H
1 2 1 1 0 1 0 0 ' ) ( ˆ ) , cov( ) , ( cov ) ( ˆ ) ( ˆ s b V b b b b b V b V X X Nilai ramalan Matriks dugaan ragam peragam bagi b :
Dugaan simpangan baku
lanjutan
dengan : s2 = KT sisaan
s
c
Uji Parameter
Regresi Linier Berganda : uji-t
0 atau 0 atau 0 : 0 : 1 1 1 1 1 0 H H
s
c
s
s
b
j j b b j j j j,
t
hit
( 1)( 1)ε
x
β
x
β
β
Y
0
1 1
2 2
Hipotesis : 1. Statistik uji-nya : Derajat bebasnya = n – k - 1 Unsur ke (j+1) diagonal (X’X)-1Akar dari KT sisaan k = banyaknya peubah penjelas
Model Regresi-nya : 2. 0 atau 0 atau 0 : 0 : 2 2 2 1 2 0 H H
Uji Parameter
Regresi Linier Berganda : uji-t
Uji-t dimaksudkan untuk menguji pengaruh setiap peubah penjelas secara satu per satu terhadap peubah responnya 0 atau 0 atau 0 : 0 : 1 0 j j j j H H lanjutan
Peubah penjelas Xj tidak berhubungan linier dg Y Peubah penjelas Xj berhubungan linier dg Y
Peubah penjelas Xj berhubungan linier positif dg Y Peubah penjelas Xj berhubungan linier negatif dg Y
Model Regresi Berganda dg 2 peubah penjelas :
ε
x
β
x
β
β
Y
0
1 1
2 2
Contoh : uji-t dengan notasi matriks
Dengan menggunakan data contoh pada slide sebelumnya ingin diuji apakah X1 dan atau X2 berpengaruh linier thdp Y
Didapatkan bahwa
Dugaan garis regresi-nya:
Hipotesisnya : 0.005 0.028 0.064 -0.028 0.760 1.529 -0.064 1.529 6.683 ) ' (X X 1 2 1 0.017 898 . 0 214 . 0 ˆ x x y 0 : 0 : 1 0 j j H H
Peubah penjelas Xj tidak berhubungan linier dg Y Peubah penjelas Xj berhubungan linier dg Y
Contoh : uji-t dengan notasi matriks
Statistik uji-nya : lanjutans
c
s
s
b
j j b b j j j j,
t
hit
( 1)( 1) 55 . 3 253 . 0 898 . 0 t 0.2530 0.2902 x 76 . 0 s 1, j untuk b hit 1 . . . 2 1 4 67 44 671031 0 08422 S2= 829 . 0 0205 . 0 017 . 0 0205 . 0 0.2902 x 005 . 0 s 2, j untuk b hit 2 tContoh : uji-t dengan notasi matriks
Tolak H0 Tolak H0 a/2=.025 -tn-3,α/2 Terima H0 0 a/2=.025 -2.776 2.776 d.b. = 7 - 3 = 4 t4,.025 = 2.776 (lanjutan) tn-3,α/2Untuk j=1 t hit = 3.55 tolak H0
Untuk j=2 t hit = 0.829 terima H0
KESIMPULAN :
1. Cukup bukti untuk mengatakan
bahwa ada hub linier antara x1 dan Y 2. Tidak cukup bukti untuk mengatakan
Contoh : uji-t dengan Minitab
Regression Analysis: Y versus X1, X2 The regression equation is
Y = - 0.214 + 0.898 X1 + 0.0175 X2
Predictor Coef SE Coef T P Constant -0.2138 0.7502 -0.29 0.790 X1 0.8984 0.2530 3.55 0.024 X2 0.01745 0.02116 0.82 0.456 S = 0.290208 R-Sq = 83.3% R-Sq(adj) = 74.9% lanjutan > 0.05 Terima H0
Uji Parameter
Regresi Linier Berganda : uji-F
Dengan uji F ini kita dapat mengetahui : peubah-peubah penjelas yang ada dalam model
berpengaruh secara serempak terhadap respon atau tidak.
Penambahan satu peubah penjelas ke dalam model setelah peubah penjelas lainnya ada dalam model berpengaruh nyata atau tidak terhadap respon
Penambahan sekelompok peubah penjelas ke dalam model setelah peubah penjelas lainnya ada dalam model berpengaruh nyata atau tidak terhadap respon
Uji Parameter
Regresi Linier Berganda : uji-F
Sumber Keragaman Derajat Bebas (db) Jumlah Kuadrat (JK) Kuadrat Tengah (KT)
Regresi | b0 2 b’X’Y – Y’11’Y
Sisaan n - 3 Y’Y – b’X’Y Total
(terkoreksi) n - 1 Y’Y – Y’11’Y
2 JKRegresi
n 3
JKsisaan
Regresi | b0 k b’X’Y – Y’11’Y Sisaan n – k - 1 Y’Y – b’X’Y
Total terkoreksi n - 1 Y’Y – Y’11’Y
2s
sisaan sisaan db JK Regresi Regresi db JK 2 b Tengah Nilai ny Banyaknya peubah penjelasUji Parameter
Regresi Linier Berganda : uji-F
Sumber Keragaman Derajat Bebas (db) Jumlah Kuadrat (JK) Kuadrat Tengah (KT) b1, b2| b0 2 b’X’Y – Y’11’Y
Sisaan n - 3 Y’Y – b’X’Y
Total
(terkoreksi) n - 1 Y’Y – Y’11’Y
2 JKRegresi
Apakah X1 dan X2 dalam model berpengaruh secara serempak terhadap Y
sisaan b | b , b hit KT KT F 1 2 0 1 ε x β x β β Y 0 1 1 2 2 1,2 j , 0 satu ada min : 0 : 1 2 1 0 j H H
n 3
JKsisaan Uji Parameter
Regresi Linier Berganda : uji-F
0 : Y model dalam 0 : 2 1 2 2 1 1 0 2 0 H x x H Sumber Keragaman Derajat Bebas (db) Jumlah Kuadrat (JK) Kuadrat Tengah (KT) b1, b2 | b0 2 b’X’Y – Y’11’Y
Sisaan n – 3 Y’Y – b’X’Y Total
(terkoreksi) n - 1 Y’Y – Y’11’Y
3 -n JKsisaan
Apakah penambahan X2 ke dalam model berpengaruh terhadap Y ε x β β Y 0 1 1 sisaan b , b | b hit KT KT F 2 0 1 1 0 2 b ,b b 1 0 1 0 2 1,b |b b |b b
JK
JK
1 JK 1 0 2 |b ,b bKoefisien Determinasi Berganda
Proporsi keragaman pada
Y
dijelaskan oleh
semua peubah
X
secara bersama-sama
yy yy yy
SS
SSE
SS
SSE
SS
R
1
Keragaman
Total
dijelaskan
yg
Keragaman
2Adjusted R
2
R2 besarnya tidak pernah turun ketika peubah X
ditambahkan ke dalam model
Hanya nilai Y yang menentukan besarnya SSyy
Tidak ada gunanya kalau membandingkan model yg satu dg yg
sdh ditambah peubah penjelasnya.
Solusi: Adjusted R2
Setiap penambahan peubah penjelas akan menurunkan nilai
adjusted R2.