Analisis Regresi 1. Model-model Regresi yang Lebih Lanjut. Pokok Bahasan : Itasia & Y Angraini Dep. STK FMIPA-IPB

Analisis Regresi 1

Pokok Bahasan :

Model-model Regresi yang

Lebih Lanjut

Macam-macam Model Regresi

Model Regresi

Sederhana Berganda

Linier Non Linier Linier Non Linier

1 peubah penjelas > 1 peubah penjelas

Reciprocal Log Multiplikatif

Polinom Eksponensial



Sederhana



Linier

 Hubungannya linier



Non Linier

 Polinom

 Multiplikatif

 Eksponensial

 Reciprocal

Contoh : Macam-macam Model Regresi

ε β x

β x β

Y 

₀



₁



₂ ²



ε β e

Y 

₀ ^{β1 x}

_{Y  β}

₀

_e

^β1x

_ε

ε β x

Y 

₀ ^β1

ε β x

β

1

1

0

 

ε β x

β

Y 

₀



₁



Model-model Regresi yang Lebih Lanjut

 SEDERHANA, NONLINIER dalam PARAMETER

 BERGANDA, LINIER dalam PARAMETER

 hubungannya LINIER :

 Ada interaksi :







































k k

x x

x Y

x x

Y

2

....

2 1

1 0

2 2 1

1 0





















































3 2 23 3

1 13 2

1 12 3

3 2

2 1

1 0

2 1 12 2

2 1

1 0

x x x

x x

x x

x x

Y

x x x

x Y





₀

x

^1

Y 

 BERGANDA, POLINOM

 Ordo DUA :

 Ordo TIGA :

(lanjutan)













































2 1 12 2

2 22 2

1 11 2

2 1

1 0

2 1 11 1

1 0

x x x

x x

x Y

x x

Y

































































2 2 1 122 2

2 1 112 2

1 12 3

2 222

3 1 111 2

2 22 2

1 11 2

2 1

1 0

3 1 111 2

1 11 1

1 0

x x x x x x x

x x

x x

x Y

x x

x Y

Model-model Regresi yang Lebih Lanjut

Model2 Regresi yang Lebih Lanjut



BERGANDA, NONLINIER dalam PARAMETER

 MULTIPLIKATIF

 EKSPONENSIAL

 RESIPROKAL

(lanjutan)





₀

x

₁^1

x

₂^2

x

₃^3

Y 







^{0 1x1 2x2}

. e

Y 

^{ }







   



2 2 1

1 0

1

x

Y x

Transformasi untuk Meluruskan Pola Garis



Pada analisis regresi transformasi terhadap peubah penjelas dan atau peubah respon dimaksudkan untuk :



Memenuhi asumsi yang disyaratkan pada suatu metode, agar metode tsb sah digunakan (mis.

MKT untuk menduga parameter, uji t dan uji F untuk menguji parameter)



Meluruskan pola dugaan garis regresi, agar

analisis dapat dilakukan dengan menggunakan model garis lurus (regresi linier yang hubungan- nya linier, banyaknya parameter sedikit)

pengerjaannya lebih sederhana/tidak rumit

Transformasi untuk Meluruskan:

Pola Parabola



POLA GARIS :

Y

X X

Y Y Y

β₁ < 0 β₁ > 0

β₁ < 0

β₁ > 0 β₂ > 0

β₂ > 0

β₂ < 0

β₂ < 0

2 2 1

0

β x β x

β

Y   

TRANSFORMASI:

X diperbesar  X² Y diperkecil  Y^1/2

TRANSFORMASI:

X diperkecil  X^1/2 Y diperkecil  Y^1/2

TRANSFORMASI:

X diperbesar  X² Y diperbesar  Y²

TRANSFORMASI:

X diperkecil  X^1/2 Y diperbesar  Y²



PERSAMAAN REGRESI :

X Y

Contoh: Transformasi untuk Meluruskan Tebaran Pola Parabola

 Persamaan Regresi: Y β₀ β₁x β₂x²

X

akar Y

10 8

6 4

2 0

16 14 12 10 8 6 4 2 0

Scatterplot of akar Y vs X

x1

y

10 8

6 4

2 0

250

200 150

100

50

0

Scatterplot of y vs x1

Y Y

^*



Transformasi Y*= akar Y telah mampu meluruskan pola tebaran menjadi garis lurus. Analisis dilakukan thdp data yg ditransformasi, menggunakan model linier sederhana.

di TRANSFORMASI :

Transformasi untuk Meluruskan:

Pola Hiperbola



PERSAMAAN REGRESI :



TRANSFORMASI :

Ke dua ruas dibalik

x Y x



 



X Y

X



POLA GARIS :

x 1

1













 

x x Y

Y 1



























1 0

*

*

* 1 0

*

,

1 ,

1 ,

lurus garis

x x Y Y

x Y

1

Contoh: Transformasi untuk Meluruskan Tebaran Pola Hiperbola

 Persamaan Regresi : di TRANSFORMASI : x

Y x



 

 ^{Y* = 1/Y}

X^* = 1/X

1/x

1/y

1.0 0.8

0.6 0.4

0.2 0.0

6.0 5.5 5.0 4.5 4.0 3.5 3.0

Scatterplot of 1/y vs 1/x

x1

y

10 8

6 4

2 0

0.35

0.30

0.25

0.20

0.15

Scatterplot of y vs x1

Transformasi untuk Meluruskan:

Pola Eksponensial



PERSAMAAN REGRESI :



TRANSFORMASI :

Ke dua ruas di ln β x

e Y  

X Y

X



POLA GARIS :

   

x e

y

^x







^





 ln

ln ln

Y

  ^{   }

















1 0

*

1 0

*

, ln

, ln

lurus garis

y Y

x

Y

Contoh: Transformasi untuk Meluruskan Tebaran Pola Eksponensial

 Persamaan Regresi : di TRANSFORMASI :

Y   e

^{β x}

x

y

10 8

6 4

2 0

60 50 40 30 20 10 0

Scatterplot of y vs x

x

ln(y)

10 8

6 4

2 0

4

3

2

1

0

Scatterplot of ln(y) vs x

r = 0.927 r = 0.987

Y

Y

^*

 ln

Transformasi untuk Meluruskan:

Pola Pangkat



MODEL REGRESI :



TRANSFORMASI : Ke dua ruas di ln

x β

Y  

X Y



POLA GARIS :

 

x x

y

ln ln

) (

ln ln







^







  ^{   }



















1 0

*

*

* 1 0

*

, ln

, ln

, ln

lurus garis

x x

y Y

x Y

1 1

 ^{1 1} 1 0 ₁ 

Contoh: Transformasi untuk Meluruskan Tebaran Pola Pangkat

 Persamaan Regresi : di TRANSFORMASI :

Y   x

^β

x

y

10 8

6 4

2 0

200

150

100

50

0

Scatterplot of y vs x r=0.89

ln(x)

ln(y)

2.5 2.0

1.5 1.0

0.5 0.0

5.5 5.0 4.5 4.0 3.5 3.0 2.5 2.0 1.5

Scatterplot of ln(y) vs ln(x) r=0.954

Y*= ln Y X*= ln X

Transformasi untuk Meluruskan:

Pola Kebalikan Eksponensial



PERSAMAAN REGRESI :



TRANSFORMASI : Ke dua ruas di ln

e

x

Y







X Y

X



POLA GARIS :

Y

0

e

β β

, β Y, x x

Y

β x β

Y

*

*

*















1 0

* 1 0

, 1 ln

ln

lurus

garis



0

e

1  0



1 0



 

x e

y

^x

 



^

ln

) (

ln ln







Contoh: Transformasi untuk Meluruskan Tebaran Pola Kebalikan Eksponensial

 Persamaan Regresi : di TRANSFORMASI :

Y*= ln Y X*= 1/X

e

x

Y







x

y

10 8

6 4

2 0

16

12

8

4

0

Scatterplot of y vs x r=-0.735

1/x

ln(y)

1.0 0.8

0.6 0.4

0.2 0.0

3.0 2.5 2.0 1.5 1.0 0.5 0.0

Scatterplot of ln(y) vs 1/x r=0.848

Model Hasil Transformasi



Hati-hati dengan asumsi sisaan jika Y ditransformasi



Sisaan = Y

transformasi

– Y

transformasi

Didiagnosa seperti yang telah diterangkan pada pokok bahasan DIAGNOSA SISAAN, untuk

mengetahui apakah sisaan tersebut memenuhi

kondisi Gauss-Markov pada MKT dan atau sebaran Normal.



Interpretasi hasil dilakukan terhadap transformasi

balik dugaan garis regresi yang didapat

Contoh: Menduga Parameter Regresi Pola Pangkat

 Persamaan Regresi : di TRANSFORMASI :

Y   x

^β

x

y

10 8

6 4 2 0 200

150 100 50 0

Scatterplot of y vs x r=0.89

ln(x)

ln(y)

2.5 2.0 1.5 1.0 0.5 0.0 5.5 5.0 4.5 4.0 3.5 3.0 2.5 2.0 1.5

Scatterplot of ln(y) vs ln(x) r=0.954

Y*= ln Y X*= ln X Karena bentuk tebarannya tidak linier, maka dilakukan transformasi agar menjadi linier. Setelah linier maka selanjutnya dilakukan anali- sis regresi linier sederhana.

Persamaan Regresi yang Digunakan : lnY  ₀  ₁ln x  garis lurus MENGUJI APAKAH MODEL REGRESI LINIER PAS ?

Sequential Analysis of Variance Source DF SS F P Linear 1 6.98396 89.44 0.000 Quadratic 1 0.15023 2.07 0.174

Penambahan penga- ruh kuadratik ke dlm model tidak nyata  pers.linier pas

Contoh: Menduga Parameter Regresi Pola Pangkat

Fitted Value

Residual

4.5 4.0

3.5 3.0

2.5 0.50 0.25 0.00 -0.25 -0.50 -0.75

Residuals Versus the Fitted Values (response is ln(y)1)

Dugaan garis regresi yang digunakan :

ln(y) = 1.64 + 1.44 ln(x)

MENDIAGNOSA SISAAN

The regression equation is: ln(y) = 1.64 + 1.44 ln(x)

Predictor Coef SE Coef T P Constant 1.6398 0.2506 6.54 0.000 ln(x) 1.4433 0.1526 9.46 0.000 S = 0.279431 R-Sq = 86.5% R-Sq(adj) = 85.5%

Dari hasil tebaran sisaan terhadap nilai dugaannya didapatkan bahwa :

- Sisaan di sekitar nol 

- Lebar pita hampir sama  ragam homogen - Tebaran tidak berpola  sisaan saling bebas

Sisaan memenuhi asumsi Gauss-Markov

0 dan

₁

0







 

^{ 0}

E

(lanjutan)

Contoh: Menduga Parameter Regresi Pola Pangkat

Residual

Percent

0.50 0.25

0.00 -0.25

-0.50 -0.75

99

95 90 80 70 60 50 40 30 20

10 5

1

Normal Probability Plot of the Residuals (response is ln(y)1)

APAKAH SISAAN MENYEBAR NORMAL?

Plot antara sisaan dan peluang normal menunjukkan pola garis lurus  sisaan menyebar Normal

 Uji t dapat digunakan

Predictor Coef SE Coef T P Constant 1.6398 0.2506 6.54 .000 ln(x) 1.4433 0.1526 9.46 .000

Kesimpulan : ln x berpengaruh linier terhadap ln Y

ln(Y) = 1.64 + 1.44 ln(x)

(lanjutan)

Contoh: Menduga Parameter Regresi Pola Pangkat



Dugaan persamaan garis regresi : ln Y = 1.64 + 1.44 ln x



Transformasi balik :



Interpretasi : perubahan x dari x

_i

ke x

_i+1

mengubah Y sebesar

   

 

44 . 1 64 . 1

ln 64

. 1

x ln 1.44 64

. 1 ln

.

.

^{1.4 4}

x e

e e

Y

e e

x Y







^

INTERPRETASI DUGAAN GARIS REGRESI HASIL TRANSFORMASI



^{1.44 1.44}



⁰



^{1 1}



64 .

1

x x e

^

x

^

x

^

e   



 

 . x x

.

¹

0



 Y

e Y

(lanjutan)

Model Regresi Polinomial



ORDO KE-SATU



hubungannya linier



Satu peubah penjelas



Dua peubah penjelas



K peubah penjelas



ORDO KE-DUA

ε β X

β

Y  ₀  ₁ 

ε β X

β X β

Y

 ₀  _{1 1}  _{2 2} 

ε β X

....

β X β X

β

Y 

₀



_{1 1}



_{2 2}

 

_{k k}



•

Satu peubah penjelas

• Dua peubah penjelas

Banyaknya parameter ordo ke-2 dg k peubah = ½( k²+3k) + 1

ε β X

β X β

Y 

₀



₁



₁₁ ²



ε X

β X β X

β X β X

β X β

Y  ₀  ₁  _{2 2}  _{11 1}²  _{22 2}²  _{12 1 2} 

Model-model Regresi Berdasarkan Peubah Penjelas-nya

Explanatory Variable

1st Order Model

3rd Order Model

2 or More Quantitative

Variables

2nd Order Model 1st

Order Model 2nd

Order Model

Inter- Action

Model

1

Qualitative Variable

Dummy Variable

Model 1

Quantitative

Variable

Model Ordo ke-1 dengan 2 Peubah Penjelas

1. Hubungan antara 2 peubah penjelas dengan peubah respon merupakan fungsi linier.

2. Diasumsikan tidak ada interaksi antara X

₁

& X

₂

 Pengaruh X

₁

terhadap Y tidak dipengaruhi nilai X

₂

3. Model Regresinya Y  β

₀

 β

₁

X

₁

 β

₂

X

₂

 ε

Tidak ada interaksi

Y

X

₁

4

8 12

0

0 0.5 1 1.5

Y = 1 + 2X

₁

+ 3X

₂

Model Ordo ke-1

dengan 2 Peubah Penjelas

Y

X

₁

4

8 12

0

0 0.5 1 1.5

E(Y) = 1 + 2X

₁

+ 3X

₂

E(Y) = 1 + 2X

₁

+ 3(0) = 1 + 2X

₁

Tidak ada interaksi

Model Ordo ke-1

dengan 2 Peubah Penjelas

Y

X

₁

4

8 12

0

0 0.5 1 1.5

E(Y) = 1 + 2X

₁

+ 3X

₂

E(Y) = 1 + 2X

₁

+ 3(1) = 4 + 2X

₁

E(Y) = 1 + 2X

₁

+ 3(0) = 1 + 2X

₁

Tidak ada interaksi

Model Ordo ke-1

dengan 2 Peubah Penjelas

Y

X

₁

4

8 12

0

0 0.5 1 1.5

E(Y) = 1 + 2X

₁

+ 3(2) = 7 + 2X

₁

E(Y) = 1 + 2X

₁

+ 3X

₂

E(Y) = 1 + 2X

₁

+ 3(1) = 4 + 2X

₁

E(Y) = 1 + 2X

₁

+ 3(0) = 1 + 2X

₁

Tidak ada interaksi

Tidak ada interaksi

Model Ordo ke-1

dengan 2 Peubah Penjelas

Y

X

₁

4

8 12

0

0 0.5 1 1.5

E(Y) = 1 + 2X

₁

+ 3(2) = 7 + 2X

₁

E(Y) = 1 + 2X

₁

+ 3X

₂

E(Y) = 1 + 2X

₁

+ 3(1) = 4 + 2X

₁

E(Y) = 1 + 2X

₁

+ 3(0) = 1 + 2X

₁

E(Y) = 1 + 2X

₁

+ 3(3) = 10 + 2X

₁

Tidak ada interaksi

Model Ordo ke-1

dengan 2 Peubah Penjelas

Pengaruh X

₁

thdp Y tidak bergantung pada X

₂

Y

X

₁

4

8 12

0

0 0.5 1 1.5

E(Y) = 1 + 2X

₁

+ 3(2) = 7 + 2 X

₁

E(Y) = 1 + 2X

₁

+ 3X

₂

E(Y) = 1 + 2X

₁

+ 3(1) = 4 + 2 X

₁

E(Y) = 1 + 2X

₁

+ 3(0) = 1 + 2 X

₁

E(Y) = 1 + 2X

₁

+ 3(3) = 10 + 2 X

₁

Tidak ada interaksi

Model Ordo ke-1

dengan 2 Peubah Penjelas

Explanatory Variable

1st Order Model

3rd Order Model

2 or More Quantitative

Variables

2nd Order Model 1st

Order Model 2nd

Order Model

Inter- Action

Model

1

Qualitative Variable

Dummy Variable

Model 1

Quantitative Variable

Model-model Regresi

Berdasarkan Peubah Penjelas-nya

Model Interaksi dengan 2 Peubah Penjelas

1.

Anggap ada 2 peubah penjelas yang saling berinteraksi



Pengaruh peubah penjelas yang satu (mis. X1) berubah-ubah tergantung pada nilai peubah penjelas lainnya (mis. X2)

2.

Model regresi-nya :

3.

Dapat dikombinasikan dengan model lainnya, mis. Model peubah boneka

ε X

β X β X

β X β

Y 

₀



_{1 1}



_{2 2}



_{3 1 2}



Efek Interaksi

1. Model Regresi-nya:

2. Tanpa Interaksi, efek X ₁ terhadap Y diukur oleh  ₁

3. Ada Interaksi, efek X ₁ terhadap Y diukur oleh  ₁ +  ₃ X ₂



Efek naik jika X

₂

naik

2 1

3 2

2 1

1

0

X X X X

Y        

Hubungan Model Interaksi

Y

X

₁

4

8 12

0

0 0.5 1 1.5

Y = 1 + 2X

₁

+ 3X

₂

+ 4X

₁

X

₂

Y

X

₁

4

8 12

0

0 0.5 1 1.5

Y = 1 + 2X

₁

+ 3X

₂

+ 4X

₁

X

₂

Y = 1 + 2X

₁

+ 3(0) + 4X

₁

(0) = 1 + 2X

₁

Hubungan Model Interaksi

Y

X

₁

4

8 12

0

0 0.5 1 1.5

Y = 1 + 2X

₁

+ 3X

₂

+ 4X

₁

X

₂

Y = 1 + 2X

₁

+ 3(1) + 4X

₁

(1) = 4 + 6X

₁

Y = 1 + 2X

₁

+ 3(0) + 4X

₁

(0) = 1 + 2X

₁

Hubungan Model Interaksi

Y

X

₁

4

8 12

0

0 0.5 1 1.5

Y = 1 + 2X

₁

+ 3X

₂

+ 4X

₁

X

₂

Y = 1 + 2X

₁

+ 3(1) + 4X

₁

(1) = 4 + 6X

₁

Y = 1 + 2X

₁

+ 3(0) + 4X

₁

(0) = 1 + 2X

₁

Hubungan Model Interaksi

Worksheet untuk Model Interaksi

Case, i Y

_i

X

_1i

X

_2i

X

_1i

X

_2i

1 1 1 3 3

2 4 8 5 40

3 1 3 2 6

4 3 5 6 30

: : : : :

Kalikan X

₁

dg X

₂

untuk mendapatkan X

₁

X

₂

.

Lakukan regresi X

₁

, X

₂

, X

₁

X

₂

thdp Y

Model-model Regresi Berdasarkan Tipe Peubah Penjelas-nya

Explanatory Variable

1st Order Model

3rd Order Model

2 or More Quantitative

Variables

2nd Order Model 1st

Order Model 2nd

Order Model

Inter- Action

Model

1

Qualitative Variable

Dummy Variable

Model 1

Quantitative

Variable

Peubah Boneka

(Dummy variable)









    



_{0 1 1 2 2 3 3}

Y

: Regresinya

Model x x x

Peubah boneka adalah peubah bebas/penjelas yang tipenya kategorik dengan dua taraf: yes ^atau no ^, on atau off , male atau female, nilainya 0 atau 1

Peubah Respon (Y) Peubah Penjelas (x)

Kuantitatif Kategorik

Banyaknya barang yang terjual dalam satu minggu

1.Harga barang

2.Biaya iklan Adanya hari libur dalam minggu tersebut

Kecepatan reaksi

bahan kimia 1.Suhu

2.Tekanan Jenis katalisator yang digunakan

Peubah Boneka (Dummy variable)



Jika uji parameter peubah boneka nyata

 peubah boneka berpengaruh nyata

 ada 2 persamaan (grafik): kategori-1 dan kategori-2

 Koef intersep untuk ke-dua kategori berbeda

 Slope untuk ke-dua kategori tersebut sama

1 0

1 0

1 2

0 1

0

x b

b (0)

b x

b b

y

x b )

b (b

(1) b

x b b

y

1 2

1

1 2

1























ˆ ˆ

Intersep berbeda Slope sama

(lanjutan)

Contoh : Penggunaan Peubah Boneka

Persamaan regresinya :

Y = banyaknya pie yg terjual/minggu x₁ = harga pie

x₂ = hari libur (X₂ = 1 jika dalam minggu tsb ada hari libur)

(X₂ = 0 jika dalam minggu tsb tidak ada hari libur

)

2 1

0

x x

Y    

₁

 

₂

Sebuah toko kue ingin memprediksi banyaknya pie yang terjual per minggu. Untuk itu dikumpulkan data penjualan selama 25 minggu, beserta data peubah-peubah penjelas yang diperkirakan

mempengaruhi banyaknya penjualan pie. Yaitu peubah harga, dan peubah ada/tidak-nya hari libur pd minggu ybs.

P Boneka

Contoh : Penggunaan Peubah Boneka

1 1 2

0 2

1 1

0

b x b ( 1 ) b b b x

b

Y      

(lanjutan)

y (banyaknya pie yg terjual)

b

₀

+ b

₂

b

₀

Jika H₀: β₂ = 0 ditolak, maka

“Hari Libur”

berpengaruh nyata thdp banyaknya penjualan pie y (banyaknya pie yg terjual)

b

₀

+ b

₂

y (banyaknya pie yg terjual)

b

₀

+ b

₂

y (banyaknya pie yg terjual)

b

₀

+ b

₂

y (banyaknya pie yg terjual)

b

₀

+ b

₂

b

₀

y (banyaknya pie yg terjual)

b

₀

+ b

₂

b

₀

y (banyaknya pie yg terjual)

b

₀

+ b

₂

b

₀

y (banyaknya pie yg terjual)

b

₀

+ b

₂

b

₀

y (banyaknya pie yg terjual)

b

₀

+ b

₂

b

₀

y (banyaknya pie yg terjual)

b

₀

+ b

₂

b

₀

y (banyaknya pie yg terjual)

b

₀

+ b

₂

b

₀

y (banyaknya pie yg terjual)

b

₀

+ b

₂

b

₀

y (banyaknya pie yg terjual)

1 1 0

2 1

1

0

b x b ( 0 ) b b x b

Y     

Ada hari libur

Tidak ada hari libur

b

₀

+ b

₂

b

₀

y (banyaknya pie yg terjual)

b

₀

+ b

₂

b

₀

y (banyaknya pie yg terjual)

b

₀

+ b

₂

b

₀

y (banyaknya pie yg terjual)

Interpretasi Koefisien Peubah Boneka

Contoh:

b

₂

= 15: rata-rata, banyaknya pie yg terjual 15 unit lebih banyak dalam minggu yg ada hari liburnya dibanding dg dalam minggu yg tidak ada hari liburnya

libur) 15(hari

30(harga) -

300 Penjualan

x 15 x

30 - 300 Y ˆ

2 1









Penjualan = banyaknyam pie yg terjual/minggu Harga = harga pie

hari libur 1 jika dalam minggu tsb ada hari libur

0 jika dalam minggu tsb tidak ada hari libur

Menyusun Worksheet-nya

Case, i Y

_i

X

_1i

X

_2i

1 1 1 1

2 4 8 0

3 1 3 1

4 3 5 1

: : : :

Taraf X

₂

: jika termasuk kategori 1 = 0