Regresi Linier Berganda - Spada UNS

Regresi Linier Berganda

Dr. Agr. Sc. Ernoiz Antriyandarti, SP, MP, M.Ec

Regresi Linier Berganda

Model regresi linier berganda melibatkan lebih dari satu variabel bebas. Modelnya :

Dimana

Y = variabel terikat

X_i = variabel bebas ( i = 1, 2, 3, …, k)

₀ = intersep

_i = koefisien regresi ( i = 1, 2, 3, …, k)

Model penduganya adalah

k k X X

X

Y  ₀  _{1 1}  _{2 2} ... 

k k X b X

b X

b b

Y  ₀  _{1 1}  _{2 2} ...

Keadaan-keadaan bila koefisien-koefisien regresi, yaitu b1 dan b2 mempunyai nilai :

• Nilai=0 variabel Y tidak dipengaruh oleh X1 dan X2

• Nilainya negatif terjadi hubungan dengan arah terbalik antara variabel Y dengan

variabel-variabel X1 dan X2

• Nilainya positif terjadi hubungan yang searah antara variabel Y dengan variabel bebas X1 dan X2

Regresi vs Korelasi

• Analisis Korelasi: tujuan utama adalah untuk

mengukur kekuatan atau tingkat hubungan linier antara dua variabel (keduanya dianggap acak)

• Analisis Regresi: mencoba memperkirakan atau memprediksi nilai rata-rata dari satu variabel (dependen, dan diasumsikan bersifat stokastik) berdasarkan nilai-nilai tetap dari variabel lain

(independen, dan non-stokastik), antara variabel dependen dan independen mempunyai hubungan kausalitas

Menaksir Koefisien Regresi Dengan Menggunakan Matriks

Dari hasil Metode Kuadrat Terkecil didapatkan persamaan normal :

…..

 





^{   }

 b X _i b X _i b_k X_{k i} Y_i

nb_{0 1 1 2 2} ...

 







^{X i  b X i b X iX i   bk X iXki  X iYi}

b_{0 1 1 1} ² _{2 1 2} ... _{1 1}

 







^{Xki  b XkiX i b XkiX i   bk Xki  XkiYi}

b_{0 1 1 2 2} ... ²

Menaksir Koefisien Regresi Dengan Menggunakan Matriks

Tahapan perhitungan dengan matriks : 1. Membentuk matriks A, b dan g





































   

2 2

1

1 2

1 2

1 1

2 1

...

...

...

...

...

...

...

...

k i i

k i i

k i k i

k i i

i i

i i

k i i

i

X X

X X

X X

X X

X X

X X

X X

X n

A

Menaksir Koefisien Regresi Dengan Menggunakan Matriks

 

 





 

 







b

k

b b b ...

1 0

 

 







 

 

















 

i k i k

i i

i

Y X

g

Y X

g

Y g

g ...

1 1

0

Menaksir Koefisien Regresi Dengan Menggunakan Matriks

2. Membentuk persamaan normal dalam bentuk matriks

A b = g

3. Perhitungan matriks koefisien b b = A^-1 g

Metode Pendugaan Parameter Regresi

Dengan Metode Kuadrat Terkecil, misalkan model terdiri dari 2 variabel bebas

Tahapan pendugaannya :

1. Dilakukan turunan pertama terhadap b₀ , b₁ dan b₂

 

 

 







n 

i

n

i

i i

i

i Y b b X b X

e

1 1

2 2 2 1

1 0

2

 

_{ }

i i

i

i Y b b X b X

b e

2 2 1

1 0 0

2

2   



 

 

 

_{ }

i i i

i

i Y b b X b X X

b e

1 2 2 1

1 0 1

2

2   



 

 

 

_{ }

i i

i i

i Y b b X b X X

b e

2 2

2 1

1 0

2 2

2   



 

 

Metode Pendugaan Parameter Regresi

2. Ketiga persamaan hasil penurunan disamakan dengan nol

 



^{ }

 b X_i b X_i Y_i nb_{0 1 1 2 2}

 





^{X i  b Xi  b X i Xi  X iYi}

b_{0 1 1 1}² _{2 1 2 1}

 





^{X i  b Xi X i  b Xi  X iYi}

b_{0 2 1 1 2 2 2}² ₂

Metode Pendugaan Parameter Regresi

3. Nilai b₁ dan b₂ dapat diperoleh dengan memakai aturan-aturan dalam matriks

2 2

1 1

0 Y b X b X

b   

 

²

1

2 1 2

2 1

1

2 2

1 1

2 2

X X X

X X

X

Y X X

X Y

X X

X

J J

J

J J

J b J



 

 

²

2

2 1 2

2 1

1

1 2

1 2

1 1

X X X

X X

X

Y X X

X Y

X X

X

J J

J

J J

J b J



 

Uji Kecocokan/Kesesuaian Model

1. Dengan Koefisien Determinasi

• Untuk mengetahui prosentase pengaruh variable- variable X1 dan X2 terhadap variable Y digunakan koefisien determinasi

• R² menunjukkan proporsi variasi total dalam respon Y yang dapat diterangkan oleh model

r merupakan koefisien korelasi antara Y dengan kelompok X₁ , X₂ , X₃ , … , X_k

JKT R²  JKR

r R² 

Uji Kecocokan/Kesesuaian Model

2. Dengan Pendekatan Analisis Ragam Tahapan Ujinya :

1. Hipotesis = H₀ :   0 H₁ :   0 dimana

 = matriks [ ₀, ₁, ₂, … , _k ]

Uji Kecocokan/Kesesuaian Model

2. Tabel Analisis Ragam

Komponen Regresi

SS db MS F_hitung

Regresi SSR k MSR=SSR / k MSR s² Eror SSE n – k – 1 s² = SSE / n-k-1

Total SST n – 1

Uji Kecocokan/Kesesuaian Model

__ 2 1

)

(y y

SST _i

n i





 

2 1

) (



 



 ⁿ _{i i}

i

y y

SSE

2 __

1

) (y y SSE

SST

SSR _i

n i









 ^



Dimana :

Uji Kecocokan/Kesesuaian Model

3. Pengambilan Keputusan

H₀ ditolak jika

pada taraf kepercayaan 

F_hitung

> F

tabel(k , n-k-1)

Contoh Output

Y = Prestasi

R² = 0.839, artinya 83.9% dari Prestasi dapat dijelaskan oleh variabel minat dan motivasi, dan 16.1% dejelaskan oleh variabel lainnya.

Contoh Output

Variabel Minat dan Motivasi secara

bersama-sama mempengaruhi Prestasi secara signifikan

Uji Parsial Koefisien Regresi

Tahapan Ujinya : 1. Hipotesis =

H₀ : _j  0 H₁ : _j  0

dimana _j merupakan koefisien yang akan diuji

Uji Parsial Koefisien Regresi

2. Statistik uji :

Dimana :

b_j = nilai koefisien b_j s =

bj j j

s t b 





1 / nk 

SSE J



1 r12²



s s

j

jX

X

bj  



_{1 1}



^{1 2} _{2 2}



12

X X X

X

X X

J J

r  J

Uji Parsial Koefisien Regresi

3. Pengambilan keputusan

H₀ ditolak jika

pada taraf kepercayaan 

t

_hitung

> t

/2(db= n-k-1)

Contoh Output

Variabel Motivasi tidak berpengaruh nyata terhadap variabel Kinerja Karyawan, sedangkan variabel Gaji berpengaruh positif secara signifikan terhadap Kinerja Karyawan.

Data

Terdapat 3 tipe data:

• Time series data

• Cross-sectional data;

• Pooled data/Panel Data