Model Regresi Berganda

Model Regresi Berganda

i

pi

p

i

i

i

X

X

X

Y





₀





₁

₁





₂

₂

















Hubungan linear (dlm parameter) antara 1 peubah tak

bebas & 2 atau lebih peubah bebas

Intersep-Y

Populasi

Slope Populasi

Random

Error

i

pi

p

i

i

i

X

X

X

Y





₀





₁

₁





₂

₂

















Peubah tak bebas

(Respons) utk sampel

Peubah bebas (Explanatory)

utk model sampel

i

pi

p

i

i

i

b

b

X

b

X

b

X

e

Yˆ



₀



₁

₁



₂

₂













Model Regresi Berganda (Sampel)

utk 2 Peubah Bebas

Y

i i i i

b

b

X

b

X

e

Y



₀



_{1 1}



_{2 2}



e

_i

X

₂

X

₁ i i i

b

b

X

b

X

Y

ˆ



₀



_{1 1}



_{2 2}

O il (G a l) T e m p In su la tio n 275.30 40 3 363.80 27 3 164.30 40 10 40.80 73 6 94.30 64 6 230.90 34 6 366.70 9 6 300.60 8 10 237.80 23 10 121.40 63 3 31.40 65 10 203.50 41 6 441.10 21 3 323.00 38 3 52.50 58 10

Model Regresi Berganda: Teladan

(0_F)

Tentukan suatu model utk

memprediksi bahan bakar

pemanas (Galon) yg

digunakan sebuah

rumah-satu-keluarga di bln

Januari berdasarkan

rata-rata temperatur (

0

_{F) dan}

ketebalan isolasi (inchi).

O il (G a l) T e m p In su la tio n 275.30 40 3 363.80 27 3 164.30 40 10 40.80 73 6 94.30 64 6 230.90 34 6 366.70 9 6 300.60 8 10 237.80 23 10 121.40 63 3 31.40 65 10 203.50 41 6 441.10 21 3 323.00 38 3 52.50 58 10

Tentukan suatu model utk

memprediksi bahan bakar

pemanas (Galon) yg

digunakan sebuah

rumah-satu-keluarga di bln

Januari berdasarkan

rata-rata temperatur (

0

_{F) dan}



Y

Y



y

N

Y

Y





i

;

_i



_i



2 ₂

_

_{2 2}

_

2

;

x

X

X

N

X

X





i



_i





_{1 1}



1 1 1

;

x

X

X

N

X

X





i



_i



2

2

1

1

0

0

ˆ

Y

ˆ

X

ˆ

X

b















i

i

i

i

b

b

X

b

X

e

Y



₀



₁

₁



₂

₂



















₁

2



₂

2





₁

₂



2

2

1

2

2

2

1

1

1

ˆ























i

i

i

i

i

i

i

i

i

i

i

x

x

x

x

x

x

y

x

x

y

x

b



















₁

2



₂

2





₁

₂



2

2

1

1

2

1

2

2

2

ˆ























i

i

i

i

i

i

i

i

i

i

i

x

x

x

x

x

x

y

x

x

y

x

b



2

2

1

1

0

0

ˆ

Y

ˆ

X

ˆ

X

b















KTS p N e s e Var i     



1 ) ( 2 2









2

2

2

1

2

1

2 1

i

i

i

i

x

x

x

x

x

x

r



2



2

1

2

2

1

1

)

(

1

r

x

s

s

b

Var

i

b









Y

s

CV 

i

i

i

i

b

b

X

b

X

e

Y



₀



₁

₁



₂

₂



Koef Variasi:









2

2

2

1

2

1

2 1

i

i

i

i

x

x

x

x

x

x

r



2



2

1

2

2

1

1

)

(

1

r

x

s

s

b

Var

i

b











2



2

2

2

2

2

1

)

(

2

r

x

s

s

b

Var

i

b















_

_







2

2

2

1

2

2

2

1

1

)

,

(

2 1

i

i

b

b

x

x

r

r

s

s

b

b

Cov

i

i

i

b

b

X

b

X

Y

ˆ



₀



₁

₁



₂

₂

C o efficien ts In te rce p t 562.1510092 X V a ria b le 1 -5.436580588 X V a ria b le 2 -20.01232067

Output Excel

Dugaan Model Regresi Sampel

Satuan

Galon

Gal/

0

F

Gal/inc

C o efficien ts In te rce p t 562.1510092 X V a ria b le 1 -5.436580588 X V a ria b le 2 -20.01232067

i

i

i

.

.

X

.

X

Yˆ



562

151



5

437

₁



20

012

₂

Dgn isolasi yg tetap, utk tiap

kenaikan 1

0

_{F dlm temperatur,}

rata-rata jml bahan pemanas yg

di-gunakan turun sebesar 5.437 galon.

Dgn temperatur tetap, utk tiap

kenaikan 1 inchi isolasi,

rata-rata penggunaan bahan pemanas

turun sebesar 20.012 galon.

Satuan

Galon

Gal/

0

F

Gal/inc

Penggunaan Model utk Prediksi

969

278

6

012

20

30

437

5

151

562

012

20

437

5

151

562

₁

₂

.

.

.

.

X

.

X

.

.

Yˆ

_i

_i

_i



















Dugalah rata-rata jml bahan bakar pemanas yg

digunakan utk sebuah rumah jika rata-rata

temperaturnya 30

0

F dan isolasinya 6 inchi.

969

278

6

012

20

30

437

5

151

562

012

20

437

5

151

562

₁

₂

.

.

.

.

X

.

X

.

.

Yˆ

_i

_i

_i



















Dugaan bahan bakar

pemanas yg digunakan

sebanyak 278.97 galon

Koefisien Determination

R eg ressio n S tatistics

Multiple R

0.982654757

R Square

0.965610371

Adjusted R Square

0.959878766

Standard Error

26.01378323

Observations

15

Output Excel

SST

SSR

r

_Y2_,12



r

2

terkoreksi

•Utk membandingkan

model dgn jml peubah

bebas berbeda

•Merefleksikan jml

peubah bebas dan

ukuran contoh

• lebih kecil dari r

2

R eg ressio n S tatistics

Multiple R

0.982654757

R Square

0.965610371

Adjusted R Square

0.959878766

Standard Error

26.01378323

Observations

15

r

2

terkoreksi

•Utk membandingkan

model dgn jml peubah

bebas berbeda

•Merefleksikan jml

peubah bebas dan

ukuran contoh

Beberapa Plot Sisaan (Dibakukan)

•

Sisaan Vs Y

_i



Mungkin perlu transformasi peubah Y

•

Sisaan Vs X

₁



Mungkin perlu transformasi peubah X

₁

•

Sisaan Vs X

₂



Mungkin perlu transformasi peubah X

₂

•

Sisaan Vs Time



Mungkin punya sifat autokorelasi



•

Sisaan Vs Y

_i



Mungkin perlu transformasi peubah Y

•

Sisaan Vs X

₁



Mungkin perlu transformasi peubah X

₁

•

Sisaan Vs X

₂



Mungkin perlu transformasi peubah X

₂

•

Sisaan Vs Time

In su latio n R esid u al P lo t

0 2 4 6 8 10 12

Plot Sisaan: Teladan

Output Excel

T em p eratu re R esid u al P lo t -60 -40 -20 0 20 40 60 0 20 40 60 80 R e s id u a ls In su latio n R esid u al P lo t 0 2 4 6 8 10 12

Tidak terlihat

suatu Pola

T em p eratu re R esid u al P lo t -60 -40 -20 0 20 40 60 0 20 40 60 80 R e s id u a ls

I. Uji Model Secara Keseluruhan

•Apakah Model dapat menjelaskan keragaman Y

•Hipotesis Statistik:

H

₀

: Model tdk dpt menjelaskan keragaman Y



2

regresi

= 

2ε

atau



2regresi

/ 

2ε

= 1

b

₁

= b

₂

= … = b

_p

= 0 (

tidak dapat menjelaskan

)

H

₁

: Model dpt menjelaskan keragaman Y



2

regresi

> 

2ε

atau 

2regresi

/ 

2ε

> 1

Minimal ada b

_i

 0 (ada peubah

bebas yg mempengaruhi Y)

•Statistik uji-F = KTR/KTS

~ F

_{(p, n-1-p)}

Y

_i

= 

₀

+ 

₁

X

₁

+ 

₂

X1 +…+ 

_p

X

_p

+ ε

_i

F

_(2,12) 0 3.89

a = 0.05

•Apakah Model dapat menjelaskan keragaman Y

•Hipotesis Statistik:

H

₀

: Model tdk dpt menjelaskan keragaman Y



2

regresi

= 

2ε

atau



2regresi

/ 

2ε

= 1

b

₁

= b

₂

= … = b

_p

= 0 (

tidak dapat menjelaskan

)

H

₁

: Model dpt menjelaskan keragaman Y



2

regresi

> 

2ε

atau 

2regresi

/ 

2ε

> 1

Minimal ada b

_i

 0 (ada peubah

bebas yg mempengaruhi Y)

Uji Model Secara Keseluruhan:

Analisis Ragam (ANOVA)

A N O V A d f S S M S F S ig n ifican ce F R e g re ssio n 2 228014.6 114007.3 168.4712028 1.65411E-09 R e sid u a l 12 8120.603 676.7169 T o ta l 14 236135.2 A N O V A d f S S M S F S ig n ifican ce F R e g re ssio n 2 228014.6 114007.3 168.4712028 1.65411E-09 R e sid u a l 12 8120.603 676.7169 T o ta l 14 236135.2

p = 2, jumlah peubah

penjelas

n - 1

KTR

KTS

p value

Statistik Uji F =

H

₀

: b

₁

= b

₂

= … = b

_p

= 0

H

₁

: Minimal ada b

_i

 0

a = .05

db = 2 dan 12

Nilai Kritis:

Statistik Uji:

Keputusan:

Kesimpulan:

H

₁

pada a = 0.05

F



Uji Model Secara Keseluruhan

168.47

(Output Excel)

F

0

3.89

H

₀

: b

₁

= b

₂

= … = b

_p

= 0

H

₁

: Minimal ada b

_i

 0

a = .05

db = 2 dan 12

Nilai Kritis:

Statistik Uji:

Keputusan:

Kesimpulan:

H

₁

pada a = 0.05

• Model dpt menjelaskan

keragaman Y

• Minimal ada satu peubah

bebas yg mempengaruhi Y

Statistik Uji t utk X

₁

(Temperatur)

II. Uji Signifikansi Masing

2

Peubah Bebas

•Apakah peubah bebas X

_i

mempengaruhi Y

•Hypotesis Statistik:

H

₀

: b

_i

= 0 (

X

_i

tidak mempengaruhi Y

)

H

₁

: b

_i

 0

(

X

_i

mempengaruhi Y

)

C o efficien ts S tan d ard E rro r t S tat

In te rce p t 562.151009 21.09310433 26.65094

X V a ria b le 1 -5.4365806 0.336216167 -16.1699

X V a ria b le 2 -20.012321 2.342505227 -8.54313

Statistik Uji t utk X

₁

(Temperatur)

Statistik Uji t utk X

₂

(Isolasi)

H

₀

: b

₁

= 0

H

₁

: b

₁

 0

db = 12

Nilai Kritis:

Statistik Uji:

Keputusan:

Kesimpulan:

Apakah temperature berpengaruh nyata pada konsumsi

bulanan bahan bakar pemanas? Ujilah pada a = 0.05.

Teladan Uji t

t = -16.1699

H

₀

: b

₁

= 0

H

₁

: b

₁

 0

db = 12

Nilai Kritis:

Statistik Uji:

Keputusan:

Kesimpulan:

Tolak H

₀

at a = 0.05

Terbukti nyata, pengaruh

temperatur pada konsumsi

bahan bakar pemanas.

Z

0

2.1788

-2.1788

.025

Tolak H

₀

Tolak H

₀

.025

t = -16.1699

Dugaan Selang Kepercayaan utk Slope

Tentukan SK 95% bagi slope populasi 

₁

(pengaruh

temperatur thd Konsumsi Bahan Bakar Pemanas)

1

1

1

t

n

p

S

b

b



_

_

Co efficien ts L o w er 95% Up p er 95% In te rce p t

562.151009

516.1930837 608.108935

X V a ria b le 1

-5.4365806 -6.169132673

-4.7040285

X V a ria b le 2

-20.012321 -25.11620102

-14.90844

Co efficien ts L o w er 95% Up p er 95% In te rce p t

562.151009

516.1930837 608.108935

X V a ria b le 1

-5.4365806 -6.169132673

-4.7040285

X V a ria b le 2

-20.012321 -25.11620102

-14.90844

-6.169





₁



-4.704

Rata-rata konsumsi BBP berkurang antara 4.7 galon

sampai 6.17 galon tiap kenaikan suhu 1

0

F.

Pengujian Sebagian Model

• Kontribusi keragaman peubah X

_i

thd Model

(jika semua peubah lain sdh ada dlm model)



Dinotasikan dgn JKR(X

_i

semua peubah selain X

_i

)



 Koefisien determinasi parsial X

₁

dgn Y jika X

₂

konstan

• Evaluasi Model secara Terpisah

• Berguna dlm Memilih Peubah Bebas

• Kontribusi keragaman peubah X

_i

thd Model

(jika semua peubah lain sdh ada dlm model)



Dinotasikan dgn JKR(X

_i

semua peubah selain X

_i

)



 Koefisien determinasi parsial X

₁

dgn Y jika X

₂

konstan

• Evaluasi Model secara Terpisah

• Berguna dlm Memilih Peubah Bebas

2

2

1.

Y

Kontribusi X

₁

jika X

₂

sdh tercakup dlm model:

JKR(X

₁

X

₂

) =

JKR(X

₁

dan X

₂

)

-

JKR(X

₂

)

Pengujian Sebagian Model: JKR

JKR(X

₁

X

₂

) =

JKR(X

₁

dan X

₂

)

-

JKR(X

₂

)

Dari bagian ANOVA

regresi utk model :

i i

i

b

b

X

b

X

Yˆ



₀



_{1 1}



_{2 2}

Dari bagian ANOVA

regresi utk model :

i

i

b

b

X

Uji F Parsial utk Kontribusi X

_i

• Hipotesis:



H

₀

: Peubah X

_i

tidak signifikan memperbaiki

model setelah yg lainnya tercakup dlm model

H

₁

: Peubah X

_i

signifikan memperbaiki

model setelah yg lainnya tercakup dlm model

• Statistik Uji:



F =

• Hipotesis:



H

₀

: Peubah X

_i

tidak signifikan memperbaiki

model setelah yg lainnya tercakup dlm model

H

₁

: Peubah X

_i

signifikan memperbaiki

model setelah yg lainnya tercakup dlm model

• Statistik Uji:



F =

KTS

nnya

SemuaSelai

X

JKR

(

_i

)

Dgn db = 1 dan (n - p -1)

Koefisien Determinasi Parsial

)

(

)

(

)

(

2

1

2

1

2

1

2

2

.

1

X

X

JKR

X

dan

X

JKR

JKT

X

X

JKR

r

_Y







i i i

b

b

X

b

X

Yˆ



₀



_{1 1}



_{2 2}

Dari bagian ANOVA

regresi utk model:

Dari bagian ANOVA

regresi utk model:

i

i

b

b

X

Yˆ



₀



_{2 2}

H

₀

: X

₁

tidak memperbaiki

model (X

₂

sdh ada)

H

₁

: X

₁

memperbaiki model

a = .05, db = 1 dan 12

Nilai Kritis = 4.75

A N O V A S S R e g re ssi o n 51076.47 R e si d u a l 185058.8 T o ta l 236135.2 ANOVA SS MS Regression 228014.6263 114007.313 Residual 8120.603016 676.716918 Total 236135.2293

(For X₁ and X₂) (For X₂)

Ujilah pada a = .05 utk menentukan apakah peubah

temperatur signifikan memperbaiki model setelah

peubah isolasi ada dlm model

A N O V A S S R e g re ssi o n 51076.47 R e si d u a l 185058.8 T o ta l 236135.2

717

,

676

076

,

51

015

,

228

)

(

_{1 2}







KTS

X

X

JKR

F

ANOVA SS MS Regression 228014.6263 114007.313 Residual 8120.603016 676.716918 Total 236135.2293

(For X₁ and X₂) (For X₂)

= 261.47

Akibat Multikolinieritas

•

Koefisien Determinasi tinggi, tapi

banyak koefisien yg tdk nyata

•

Sulit memisahkan pengaruh dari

masing-masing faktor.

•

Tanda koefisien bukan hubungan yg

sebenarnya

•

Koefisien tdk nyata, bukan berarti

peubah tsb tdk berpengaruh.

•

Koefisien Determinasi tinggi, tapi

banyak koefisien yg tdk nyata

•

Sulit memisahkan pengaruh dari

masing-masing faktor.

•

Tanda koefisien bukan hubungan yg

sebenarnya

•

Koefisien tdk nyata, bukan berarti

peubah tsb tdk berpengaruh.

The regression equation is

Demand = 850 - 5.03 P + 4.74 Pr + 0.277 Advertise + 0.0107 Income + 1.31 T

Predictor Coef SE Coef T P Constant 850.0 134.8 6.31 0.000 P -5.0326 0.4394 -11.45 0.000 Pr 4.7435 0.9696 4.89 0.000 Advertise 0.2774 0.1046 2.65 0.014 Income 0.010658 0.001316 8.10 0.000 T 1.3091 0.7534 1.74 0.095 S = 33.6398 R-Sq = 91.5% R-Sq(adj) = 89.7% Analysis of Variance Source DF SS MS F P Regression 5 291364 58273 51.49 0.000 Residual Error 24 27159 1132 Total 29 318523

Contoh Output Minitab

The regression equation is

Demand = 850 - 5.03 P + 4.74 Pr + 0.277 Advertise + 0.0107 Income + 1.31 T

Predictor Coef SE Coef T P Constant 850.0 134.8 6.31 0.000 P -5.0326 0.4394 -11.45 0.000 Pr 4.7435 0.9696 4.89 0.000 Advertise 0.2774 0.1046 2.65 0.014 Income 0.010658 0.001316 8.10 0.000 T 1.3091 0.7534 1.74 0.095 S = 33.6398 R-Sq = 91.5% R-Sq(adj) = 89.7% Analysis of Variance Source DF SS MS F P Regression 5 291364 58273 51.49 0.000 Residual Error 24 27159 1132 Total 29 318523