10. REGRESSI DAN KORELASI GANDA - PPT UEU Statistik Pertemuan 10

STATISTIK (ESA 310) PERTEMUAN 10 <TEAM DOSEN>

VISI DAN MISI UNIVERSITAS ESA

UNGGUL

Materi Sebelum UTS

02. Probabilitas

03. Distribusi Probabilitas: Peubah acak diskrit 04. Distribusi Probabilitas: Peubah acak kontinu 05. Distribusi Sampling

06. Estimasi

Materi Setelah UTS

09. Regressi dan Korelasi Sederhana

14. Statistik uji komparatif dan asosiatif dengan SPSS 10. Regressi dan Korelasi Ganda

11. Distribusi Chi-Square dan analisis frekuensi

12. Statistik non-Parametrik

10. REGRESSI DAN KORELASI

GANDA

Asumsi Analisis Regresi Linier

 _{Data Y berskala minimal interval}

 Data X berskala minimal nominal (jika data X berskala nominal / ordinal harus

menggunakan bantuan variabel dummy)

 _{Existensi untuk setiap nilai dari variabel x}

yang tetap, y adalah variabel random dengan distribusi probabilitas tertentu yang

mempunyai mean dan varians.

 _{Nilai y secara statistik saling bebas}

 _{Linieritas, nilai rata-rata y adalah sebuah}

fungsi garis lurus dari x

 _{Homoscedasticity. Varians dari y adalah sama}

Asumsi Analisis Regresi Linier

 _{Distribusi normal pada beberapa nilai tertentu}

Model regresi linier berganda melibatkan lebih dari satu variabel bebas. Modelnya :

Dimana

Y = variabel terikat

X_i = variabel bebas ( i = 1, 2, 3, …, k)

₀ = intersep

_i = koefsien regresi ( i = 1, 2, 3, …, k

)

Model penduganya adalah

k k X

X X

Y _{ 0  1 1 2 2 }..._{ }

k kX

b X

b X

b b

Misalkan model regresi dengan kasus 2

peubah bebas X

₁

dan X

₂

maka modelnya :

Sehingga setiap pengamatan

Akan memenuhi persamaan

2 2 1

1

0 X X

Y  _  _  _







X_1i, X_2i ;Y_i ;i 1,2,...,n



i X

X

Menaksir Koefsien Regresi

Dengan Menggunakan

Matriks

Dari hasil Metode Kuadrat Terkecil didapatkan

persamaan normal :

…..



















b

X

_i

b

X

_i

b

_k

X

_ki

Y

_i

nb

_{0 1 1 2 2}

...











X

_i



b

X

_i



b

X

_i

X

_i





b

_k

X

_i

X

_ki



X

_i

Y

_i

b

_{0 1 1 1} 2 _{2 1 2}

...

_{1 1}











X

_ki



b

X

_ki

X

_i



b

X

_ki

X

_i





b

_k

X

_ki



X

_ki

Y

_i

Menaksir Koefsien Regresi

Dengan Menggunakan

Matriks

Tahapan perhitungan dengan matriks :

1.

Membentuk matriks

A

,

b

dan

g

Menaksir Koefsien Regresi

Dengan Menggunakan Matriks

Menaksir Koefsien Regresi

Dengan Menggunakan Matriks

2.

Membentuk persamaan normal

dalam bentuk matriks

A b

=

g

3.

Perhitungan matriks koefsien

b

Metode Pendugaan

Parameter Regresi

Dengan Metode Kuadrat Terkecil, misalkan model terdiri dari 2 variabel bebas

Tahapan pendugaannya :

1. Dilakukan turunan pertama terhadap b₀ , b₁ dan b₂









 









n i n i i i i

i

Y

b

b

X

b

X

e

1 1 2 2 2 1 1 0 2





_{ } i i i

i _{Y b b X b X}

b e 2 2 1 1 0 0 2

2   

   







_{ } i i i i

i _{Y b b X b X X}

b e 1 2 2 1 1 0 1 2

2   

   











i i i i

i _{Y b b X b X X}

b e 2 2 2 1 1 0 2 2

2 _{  }

  

Metode Pendugaan

Parameter Regresi

2. Ketiga persamaan hasil penurunan

disamakan dengan nol







 

b X_i b X_i Y_i

nb_{0 1 1 2 2}









X _i b X_i b X _iX_i  X _iY_i

b_{0 1 1 1}2 _{2 1 2 1}









X _i b X_i X _i b X_i  X _iY_i

Metode Pendugaan

Parameter Regresi

3. Nilai

b

₁

dan

b

₂

dapat diperoleh dengan

memakai aturan-aturan dalam matriks

2 2 1

1

0 Y b X b X

b   

2 1 2 1 1 2 2 1 2 1 1 2 1 2 1 1 1 1 2 2 1                                                           















       n i n i n i n i n i n i n i X X X X Y X X X Y X X b 2

1 1 2 1 2 2 1 2 1 1 1 1 1 2

Uji Kecocokan Model

1.

Dengan Koefsien Determinasi

R2 menunjukkan proporsi variasi total dalam respon

Y yang dapat diterangkan oleh model

r merupakan koefsien korelasi antara Y dengan kelompok X₁ , X₂ , X₃ , … , X_k

JKT

JKR

R

2



Korelasi Berganda :

Apabila kita mempunyai tiga variabel

Y, X

₁

, X

₂

, maka korelasi X

₁

dan Y

digambarkan dengan rumus berikut :











2 2

1 1

i i

1

i i

1 y

y x

y

x

y

x

Korelasi X

₂

dan Y digambarkan dengan

rumus berikut :

Korelasi X1 dan X2 digambarkan dengan rumus berikut :











2 2 2 1 2 1 12 2 1 i i i x x

x

x

x

i

x

r

r











_{2 2}

Untuk mengetahui kuatnya hubungan

antara variabel Y dengan beberapa

variabel X lainnya (misalnya antara Y

dengan X

₁

dan X

₂

)

Koefisien Korelasi Linear Berganda (KKLB)

12 2

1 2

2 2

1 12

.

2

r

r

r

r

r

R

Koefsien Penentuan (KP):

suatu nilai untuk mengukur besarnya sumbangan dari beberapa variabel X terhadap variasi (naik-turunnya) Y. Jika Y’ = b₀ + b₁X₁ + b₂X₂,

KP mengukur besarnya sumbangan X₁ dan X₂ terhadap variasi, atau naik turunnya Y.

Apabila dikalikan dengan 100% akan diperoleh persentase sumbangan X1 dan X2 terhadap naik-turunnya Y.

2

12 .

y

R

Koefsien Korelasi Parsial :

Variabel Y berkorelasi dengan X

₁

dan X

₂

,

maka koefsien korelasi antara Y dan X

₁

(X

₂

konstan), antara Y dan X

₂

(X

₁

Koefsien korelasi parsial X

₁

dan Y, kalau X

₂

konstan

Koefsien korelasi parsial X

₂

dan Y, kalau X

₁

konstan

2 12 2 2 12 2 1 2 . 1

1

1

r

r

r

r

r

r

y y y y









2 12 2 1 12 1 2 1 . 2

1

1

r

r

Koefsien korelasi parsial X

₂

dan Y,

kalau X

₁

konstan

2 2 2

1

2 1

12 .

12

1

1

_{y y}

y y

y

r

r

r

r

r

r





Uji Kecocokan Model

2. Dengan Pendekatan Analisis Ragam Tahapan Ujinya :

3. Hipotesis = H₀ :   0

H_a :  _ 0

dimana

Uji Kecocokan Model

2.

Tabel Analisis Ragam

Komponen

Regresi SS db MS Fhitung

Regresi

JKR

k

JKR / k

JKR /k

s

2

Galat

JKG n – k – 1

s

2

= JKG / n-k-1

Uji Kecocokan Model

3.

Pengambilan Keputusan

H

₀

ditolak jika

pada taraf kepercayaan



Uji Parsial Koefsien Regresi

Tahapan Ujinya :

1.

Hipotesis =

H

₀

:



_j



0

H

_a

:



_j



0

dimana



_j

merupakan koefsien

Uji Parsial Koefsien

Regresi

2. Statistik uji :

Dimana :

b

j

= nilai koefsien b

j

s =

c

jj

= nilai matriks A

-1

ke-jj

jj j j

c

s

b

t







Uji Parsial Koefsien Regresi

3. Pengambilan keputusan

H

₀

ditolak jika

pada taraf kepercayaan



Pemilihan Model Terbaik

1.

All Possible Regression

Tahapan pemilihan :

i.

Tuliskan semua kemungkinan model

regresi dan kelompokkan menurut

banyaknya variabel bebas

ii.

Urutkan model regresi menurut besarnya

R

2

iii.

Periksalah untuk setiap kelompok apakah

terdapat suatu pola variabel yang

konsisten

iv.

Lakukan analisa terhadap kenaikan R

2

Pemilihan Model Terbaik

Contoh :

Akan dianalisis model regresi yang terdiri dari 4 variabel bebas

Pembagian kelompoknya

Kelompok A terdiri dari koefsien intersep

Kelompok B terdiri dari 1 variabel bebas

Kelompok C terdiri dari 2 variabel bebas

Kelompok D terdiri dari 3

Kelompok E terdiri dari 4 variabel bebas 0   Y i i X

Y _{ 0  }

j j i

iX X

Y _{ 0    }

k k j

j i

iX X X

Y _{0   }

4 4 3 3 2 2 1 1

0 X X X X

Pemilihan Model Terbaik

Persamaan regresi yang menduduki posisi utama dalam setiap kelompok adalah

Persamaan terbaiknya adalah Y = f(X₁ , X₄)

Kelompok

Model Regresi

R

2

B

Y

=

f

(

X

₄

)

67,5%

C

Y

=

f

(

X

₁

, X

₂

)

97,9%

Pemilihan Model Terbaik

2. Backward Elimination Procedur Tahap pemilihannya :

i. Tuliskan persamaan regresi yang mengandung semua variabel

ii. Hitung nilai t parsialnya

iii. Banding nilai t parsialnya

a. Jika t_L < t_O maka buang variabel L yang menghasilkan t_L, kemudian hitung

Pemilihan Model Terbaik

Contoh :

Akan dianalisis model regresi yang terdiri dari 4 variabel bebas

Model regresi yang mengandung semua variabel bebas

Model terbaiknya

Y = f(X₁,X₂)

Persamaan Regersi t parsial F

Y = f(X₁,X₂,X₃,X₄) 157,266* X₁ 4,337*

X₂ 0,497* X₃ 0,018 X₄ 0,041*

Y = f(X₁,X₂,X₄) 166,83* X₁ 154,008*

X₂ 5,026* X₄ 1,863

Y = f(XStatistics UEU 2017,X ) 229,5*

4 4 3

3 2

2 1

1

0 X X X X

Pemilihan Model Terbaik

3.

Stepwise Regression Procedur

Tahap pemilihannya :

i. Hitung korelasi setiap variabel bebas terhadap variabel Y. Variabel bebas dengan nilai korelasi tertinggi

masukkan dalam model regresi (syarat uji F menunjukkan variabel ini berpengaruh nyata)

ii. Hitung korelasi parsial setiap variabel bebas tanpa menyertakan variabel bebas yang telah mauk model. Masukkan variabel bebas dengan korelasi parsial

tertinggi ke dalam model

Pemilihan Model Terbaik

Contoh :

Model Variabel Korelasi t parsial F r_iy 0,731

r_2y 0,816 r_3y -0,535 r_4y -0,821

Y = f(X₄) 22,798*

r_1y.4 0,915 r_2y.4 0,017 r_3y.4 0,801

Y = f(X₁,X₄) 176,627*

r_2y.14 0,358 X₁ = 108,223* r_3y.14 0,320 X₄ = 159,295*

Y = f(X₁, X₂,X₄) 166,832*

X₁ = 154,008* X = 5,026*

Kesimpulan:

1. Regressi Linier berganda bisa digunakan untuk menganalisis hubungan linier lebih dari dua

variabel.

2. Kriteria Persamaan linier yang diperoleh

KEMAMPUAN AKHIR YANG DIHARAPKAN

Daftar Pustaka

1. Ronald E. Walpole, Raymond H. Myers, Sharon L. Myers and Keying Ye, 2007, Probabilitiy and

Statistics for Engineers and Scientists, 8th edition, Pearson Prentice Hall.

2. Sharma, Subhash, 1996, Applied Multivariate Techniques, John Willey & Son, Inc., USA.

3. Johson & Wichern, 2007, Applied multivariate statistical analysis, Upper Saddle River: Pearson Prentice Hall.

4. J. Supranto, M.A. ,2001, Statistika Teori dan Aplikasi, Erlangga, Jakarta.

5. Douglas C. Montgomery, George C. Runger, 2003, Applied Statistic and Probability for Engineer, third edition, John Wiley and Son Inc.