UJI HIPOTESIS REGRESI BERGANDA

UJI HIPOTESIS

UJI HIPOTESIS

REGRESI BERGANDA

REGRESI BERGANDA

TUJUAN

TUJUAN

Menjelaskan teknik uji hipotesis dalam

Menjelaskan teknik uji hipotesis dalam

regresi berganda (full model dan

regresi berganda (full model dan

Dalam regresi berganda muncul per(?)an tentang kontribusi bbrp IV untuk memprediksi nilai Y. Tiga per(?)an:

a. An overall test: apakah semua IV (the fitted model) berkontribusi bermakna utk memprediksi Y?;

b. Uji utk adisi satu var.: apakah pe(+) satu IV me(+) secara bermakna utk memprediksi Y lebih besar di-banding tanpa pe(+)an var. baru dlm model?;

c. Uji utk adisi sekelompok var.: apakah pe(+)an atau adisi sekelompok IV akan me(+) secara bermakna utk memprediksi nilai Y dibanding tanpa pe(+)an kelompok var. tsb yg sudah ada di model?

Ke 3 per(?) dijawab dgn uji hipotesis stat. dr masing2

1. Uji F dlm analisa regresi adalah rasio dari dua

mengestimasi varians. Jika H_O salah (not true)

maka estimasi

_ˆ

2 2



Nilai F mendekati 1  jika H_O benar (true),

dan >1 bila H_O salah (not true). Makin besar nilai F makin besar kemungkinan H_O salah (not true)

2. Masing2 uji (test) dpt di interpretasikan sbg

perban-dingan 2 model. Model pertama disebut ‘full model’ atau ‘complete model’ dan model berikutnya adl ‘reduced

model’ (full model dikurangi satu atau lebih IV) Contoh:

Y = _0 + _1X₁ + _2X₂ + E  full model

Y = _0 + _1X₁ + E  reduced model

Dengan H_O: _2=0  ‘the full model’ dikurangi satu

atau lebih IV menjadi ‘reduced model’.

Pengujian H_O: _2=0 berarti menguji mana yang lebih baik ‘fit model’ antara kedua model tersebut

2 2

ˆ

_

Contoh itu menjelaskan bahwa ‘reduced model’ (X₁) mrpk bagian dr IV atau ‘full model’ (X₁ & X₂)

Di ‘full model’ kita H₀: _1=_2, di ‘reduced model’: Y=_0+_1X₁+E dgn _=_1=_2 & X=X₁+X₂

Uji Kemaknaan Regresi Berganda

Kita punya suatu model dengan k-IV: Y=_0+_1X₁+_2X₂+…….+_kX_k+E

Maka Null Hypothesis dpt ditulis: Tidak perbedaan bermakna dalam ‘overall regression’ atau



_{Merupakan Total Sum of Square dan Error}

Sum of Square. F-hitung dibandingkan dgn F

-tabel

=F

k,n-k-1

sesuai dgn



= 0.05.

H

₀

ditolak bila F

_-hitung

>= F

_-tabel

F

_-hitung

diperoleh dgn cara lain yaitu

Dengan sample 12 anak, kita mempunyai k=3

MS-Regr=231.02, MS-Resid=24.40 & r

2

=0.782

maka kita memperoleh:

umumnya ditulis F

_3,8,0.95

= 4.07 (p<0.05)

Hasil ini disimpulkan vars HGT, AGE dan AGE

2

secara bersama dpt memprediksi WGT (dgn

Pelajari tabel-tabel ANOVA berikut Model 1: WGT = _0 + _1HGT + E

Coefficient Standard Error Partial F

₀ = 6.190

1 = 1.073 S_1=0.242 19.66

Estimated model: WGT=6.190+1.073HGT ANOVA Table

Source

Source dfdf SSSS MSMS FF rr22

Regression

Regression 11 588.92588.92 588.92588.92 19.6719.67 .6630.6630

Residual

Residual 1010 299.33299.33 29.9329.93

Total

Model 2: WGT = _0 + _2AGE + E

Coefficient Standard Error Partial F

0 = 30.571

₁ = 3.643 S₂ = 0.955 14.55

Estimated model: WGT = 30.571 + 3.643AGE ANOVA Table

Source

Source dfdf SSSS MSMS FF rr22

Regression

Regression 11 526.39526.39 526.39526.39 14.5514.55 .5926.5926

Residual

Residual 1010 361.86361.86 36.1936.19

Total

Model 3: WGT = _0 + _3(AGE)2 +E

Coefficient Standard Error Partial F

0 = 45.998

₁ = 0.206 S₁=0.055 14.03

Estimated model: WGT=45.998 + 0.206 (AGE)2

ANOVA Table

Source

Source dfdf SSSS MSMS FF rr22

Regression

Regression 11 521.93521.93 521.93521.93 14.2514.25 .5876.5876

Residual

Residual 1010 366.32366.32 36.6336.63

Total

Model 4. WGT = _0 + _1HGT + _2AGE + E

Coefficient Standard Error Partial F

0 = 6.553

₁ = 0.722 S₁ = 0.261 7.65

2 = 2.050 S2 = 0.937 4.79

Esti’d model: WGT= 6.553 + 0.722HGT+ 2.050AGE ANOVA Table

Source

Source dfdf SSSS MSMS FF rr22

Regression

Regression 22 692.82692.82 346.41346.41 15.9515.95 .78.78

Residual

Residual 99 195.43195.43 21.7121.71

Total

Model 5. WGT = _0 + _1HGT + _3(AGE)2 + E

Coefficient Standard Error Partial F

0 = 15.118

₁ = 0.726 S₁ = 0.263 7.62

3 = 0.115 S3 = 0.054 4.54

Esti’d model: WGT = 15.118 + .726HGT + .115(AGE)2

ANOVA Table

Source

Source dfdf SSSS MSMS FF rr22

Regression

Regression 22 689.65689.65 344.82344.82 15.6315.63 .7764.7764

Residual

Residual 88 198.60198.60 22.0722.07 Total

Model 6: WGT = _0 + _1HGT + _2AGE + _3(AGE)2 + E

Coefficient Standard Error Partial F

0 = 3.438

₁ = 0.724 S₁ = .277 6.83

2 = 2.777 S2 = 7.427 0.14

3 = -0.042 S3 = 0.422 0.01

E.M. WGT = 3.438 + .724HGT + 2.777AGE - .042(AGE)2

ANOVA Table

Source

Source dfdf SSSS MSMS FF rr22

Regression

Regression 33 693.06693.06 231.02231.02 9.479.47 .7802.7802 Residual

Residual 88 195.19195.19 24.424.4 Total

Kita sudah mengetahui jawaban dr pertanyaan no.1

 perhatikan EM 6.

Menggunakan X₁=HGT sbg IV, nilai 588.92 adalah SS Regresi utk model garis lurus; nilai SSE utk model ini adl hanya menambahkan 195.19, 103.90 dan 0.24 secara bersama adl 299.33 dgn dk=10 (8+1+1)

F-stat utk menguji kemaknaan persamaan garis lurus dgn hanya memasuk HGT adl

F=(588.92/1)/(299.33/10)= 19.67  p<0.05

Utk menjawab per(?)an 2 & 3gunakan partial F test.

Null Hipothesis

Bila kita ingin menguji apakah pe(+)an satu var. X* akan secara bermakna meningkatkan prediksi Y ketika bbrp var. X₁, X₂,……,X_p sdh dlm model? Maka hipotesanya:

H₀: ‘X* tdk me(+) secara bermakna utk

memprediksi Y setelah ada X₁, X₂,....,X_p dlm model’  d.p.l

H₀: _* = 0 utk model Y=_0+_1X₁+_2X₂+…., +_pX_p+_*X*

Ini mrpk prosedur utk membandingkan antara ‘full model’ X₁, X₂,…….,X_p dan X* sbg IV dgn

‘reduced model’ X₁,X₂,……,X_p (tanpa X*) karena H₀: _* = 0  Tujuan analisis ini adl menentukan

ANOVA Tabel utk WGT dgn HGT, AGE, (AGE)2

Source

Source dfdf SSSS MSMS FF r2r2

X

X₁₁ 11 588.92588.92 588.92588.92 19.6719.67 .7802.7802

Regresi X

Regresi X₂₂llXX₃₃ 11 103.90103.90 103.90103.90 4.78 4.78

(.05<p<.1)

(.05<p<.1)

X

X₃₃llXX₁₁, X, X₂₂ 11 0.240.24 0.240.24 Residual

Residual 88 195.19195.19 24.4024.40

Total

Uji Partial F  Null Hypothesis

Andaikan kita uji apakah pe(+)an X* secara bermakna meningkatkan prediksi Y setelah X₁, X₂, ….., X_p sudah ada di model. Maka Ho: X* tidak meningkatkan secara bermakna prediksi Y setelah X₁, X₂, …., X_p ada di model atau Ho: _*=0 didalam model y = _0 + _1X₁ + _2X₂+ …..+ _pX_p +_*X* + E

Dengan perkataan lain kita membandingkan 2 model: Full model  X₁, X₂, ……, X_p dan X* sebagai IV dan

Reduced model  X₁, X₂, ….., X_p Ini

berarti kita menguji model regresi yang paling tepat, apakah pe(+) variabel X* meningkatkan secara

Prosedur

Uji parsial F utk mengetahui peran X* setelah ada var. X₁, X₂, ……, X_p didalam model, kita hrs hitung Sum of Square full model X₁, X₂, ….., X_p, X* dan

Sum of Square reduced model X₁, X₂, ……, X_p  di

ANOVA table:

Regression X*lX₁, X₂, ……, X_p dan Sum of Square

dihitung: SS dr pe(+) X* setelah ada X₁, X₂, …, X_p = Regr SS full model: X₁, X₂,….., X_p, X* - Regr SS

reduced model: X₁, X₂, …., X_p 

Jadi utk model Y = _0 + _1X_ + _2X₂ dengan H₀:_2 = 0

SS(X₂lX₁) = Regr SS (X₁,X₂) – Regr SS (X₁) =

692.82 - 588.92 = 103.90 Utk model Y = _0 + _1X₁ + _2X₂ + _3X₃

SS (X₃lX₁, X₂) = Regr SS(X₁,X₂,X₃) – Regr SS (X₁,X₂) = 693.06 – 692.82 = 0.24

Simpulan uji hipotesa: ‘penambahan var. X* kedalam model yang sudah ada X₁, X₂, ….., X_p tidak meningkat-kan secara bermakna utk memprediksi Y  atau

F(X*lX₁,X₂,.,X_p) = pe(+) SS setelah ada X₁,X₂,., X_p/ MS Resid model dgn var X₁,X₂,….., X_p, X*

F(X₂lX₁) = SS(X₂lX₁) / MS Residual (X₁,X₂) = (103.90)/(195.19+0.24)/9 =4.78 dan

F(X₃lX₁, X₂) = SS(X₃lX₁, X₂) / MS Resid (X₁, X₂, X₃) = 0.24 / 24.4 = 0.01

Dari tabel F kita lihat bahwa untuk F_1,9,0.90 = 3.36 dan F_1,9,0.95 = 5.12 maka hasil uji statistik untuk F(X₂lX₁) = 4.78  artinya nilai p: 0.05<p<0.1, artinya kita

menolak H₀ pada _ = 0.1  disimpulkan bahwa

pe(+)an var. AGE me(+) nilai utk memprediksi Y pada _ = 0.1 tidak pada _ = 0.05

Uji F(X₃lX₁,X₂) = 0.01  p>0.1 kita menerima H₀,

Uji t sebagai alternatif

Cara yang sama sperti uji F parsial adl menggunakan uji t dgn dk = n-k-1. Uji t fokus uji null hipotesa H0: _* = 0  _* adl nilai koefisien dr X* di model

regresi: Y = _0 + _1X₁ + _2X₂, ….,+ _pX_p +_*X* untuk menguji H₀: _0 = 0 digunakan uji

*

ˆ *

ˆ





S

t

_

Dalam uji ini kita menolak H₀: _* = 0 jika

ltl > t_{n-p-2, 1-a/2}  uji dua arah; Ha: _* # 0

T > t_{n-p-2, 1-a}  uji satu arah; Ha: _*>0

Uji t dua arah memberikan hasil yang sama dengan uji F parsial

Contoh: uji H0: _3 = 0 dalam model Y =_0 + _1X₁ + _2X₂ + _3X₃ + E

dari ANOVA table 6 kita akan memperoleh

SUMBER

DF SS

MS

F

REGRESI

x

₁

1

3196

3196 37.5

X

₂

|

x

₁

1 498

498

5.8

RESIDUAL 27 2301 85.2