2-regresi linear berganda

(1)

LOGO

REGRESI BERGANDA

(2)

www.themegallery.com

Regresi Berganda

Analisis regresi berganda digunakan untuk:



melihat pengaruh sejumlah variabel independen (bebas) X

₁

, X

₂

, ...,X

_k

terhadap variabel dependen (tak bebas/terikat) Y



memprediksi nilai suatu variabel dependen Y berdasarkan nilai variabel-variabel independen X

₁

, X

₂

, ...,X

_k

.

2

(3)

.themegallery.com

Model

Model Umum:

Y

_i

= 

₀

+ 

₁

X

_1i

+ 

₂

X

_2i

+ 

₃

X

_3i

+ ...+ 

_k

X

_ki

+u

_i

i = Banyaknya observasi

k = Banyaknya variabel bebas

₀, ₁, _{2 ,} ..., _k = Parameter/koefisien regresi

X₁ , X₂ ...X_k = Variabel bebas/independen Y =Variabel dependen/terikat

u_i = error

(4)

Pemeriksaan Regresi

 Koefisien Determinasi (R²)

 Uji Hipotesis:

 Uji t  Signifikansi koefisien regresi

 Uji F  Signifikansi model regresi

 Uji asumsi klasik  sebagai syarat

pendugaan OLS (Ordinary Least Square) bersifat BLUE (Best Linear Unbiased

Estimate)

 Uji normalitas

 Uji multikolinieritas

 Uji homoskedastisitas

 Uji autokorelasi

4

(5)

.themegallery.com

Uji-t

 Dari tabel Coefficient (output regresi)  lihat nilai Sig. (Significant) untuk

masing-masing koefisien variabel bebas:

 Jika Sig. >= 0.05, maka terima H₀, artinya koefisien variabel bebas = 0  tidak ada pengaruh variabel bebas

 Jika Sig. < 0.05, maka tolak H₀ atau terima H₁, artinya koefisien variabel bebas ≠ 0  variabel bebas berpengaruh secara signifikan

(6)

Uji F

Uji-F

 Digunakan untuk uji hipotesis koefisien (slop) regresi secara bersamaan (simultan).

H₀ : _= ₂ = ₃ = ₄ =...= _k = 0

H₁ : Tidak semua paling tidak, ada satu yang  0)

Dimana: k adalah banyaknya variabel bebas.

 Pengujian  lihat tabel ANOVA (Analysis of Variance).

 Jika:

 Sig. >= 0.05  terima H₀  variabel bebas secara bersama-sama tidak berpengaruh terhadap variabel dependen (tak bebas)

 Sig. < 0.05  tolak H₀/terima H₁  variabel bebas secara bersama berpengaruh secara signifikan terhadap variabel dependen (tak bebas)  menunjukkan kelayakan model atau model regresi bagus/baik

6

(7)

.themegallery.com

Asumsi-asumsi Dasar OLS

Pendugaan OLS akan bersifat BLUE (Best Linier Unbiased Estimate) jika memenuhi 3 asumsi utama, yaitu:

 Tidak ada multikolinieritas

 Tidak mengandung Heteroskedastisitas  memenuhi asumsi homoskedastisitas

 Bebas dari autokorelasi

(8)

Multikolinieritas

 Multikolinieritas  adanya hubungan linier antara regressor (variabel

independen)

 Misalkan terdapat dua buah regressor, X₁ dan X₂. Jika X₁ dapat dinyatakan

sebagai fungsi linier dari X₂, misal : X₁ =

 X₂, maka ada kolinieritas antara X₁ dan X₂. Akan tetapi, bila hubungan antara X₁ dan X₂ tidak linier, misalnya X₁ = X₂² atau X₁ = log X₂, maka X₁ dan X₂ tidak kolinier.

8

(9)

.themegallery.com

Ilustrasi

 _Y_i₌_₀₊_₁_X₁₊_₂_X₂₊_₃_X₃_{+ u}_i Y : Konsumsi

X₁ : Total Pendapatan

X₂ : Pendapatan dari upah

X₃ : Pendapatan bukan dari upah

 Secara substansi: total pendapatan (X₁) = pendapatan dari upah (X₂) + pendapatan bukan dari upah (X₃). Bila model ini ditaksir menggunakan Ordinary Least Square (OLS), maka _i tidak dapat diperoleh, karena

terjadi perfect multicollinearity. Tidak

dapatnya  diperoleh karena ( X^T X )^-1, tidak bisa dicari.

(10)

Data Perfect Multikolinieritas

118 116

29

96 92

23

82 76

19

65 64

16

51 48

12

X₃ X₂

X₁

Nilai-nilai yang tertera dalam tabel menunjukan bahwa Antara X1 dan X2 mempunyai hubungan: X2 = 4X1. Hubungan seperti inilah yang disebut dengan perfect multicollinearity.

10

(11)

.themegallery.com

Akibat Multikolinieritas

 Varians besar (dari taksiran OLS)

 Interval kepercayaan lebar (variansi besar

 Standar Error besar  Interval kepercayaan lebar)

 R² tinggi tetapi tidak banyak variabel yang signifikan dari uji t.

 Terkadang taksiran koefisien yang didapat akan mempunyai nilai yang tidak sesuai dengan substansi, sehingga dapat

menyesatkan interpretasi.

(12)

Kesalahan Interpretasi

“Interpretasi dari persamaan regresi ganda secara implisit bergantung pada asumsi bahwa variabel-

variabel bebas dalam persamaan tersebut tidak saling berkorelasi. Koefisien-koefisien regresi biasanya

diinterpretasikan sebagai ukuran perubahan variabel terikat jika salah satu variabel bebasnya naik sebesar satu unit dan seluruh variabel bebas lainnya dianggap tetap. Namun, interpretasi ini menjadi tidak benar

apabila terdapat hubungan linier antara variabel bebas”

(Chatterjee and Price, 1977)

.

12

(13)

.themegallery.com

Ilustrasi

2267 220

160

2129 210

140

1954 190

135

1456 140

110

1234 120

100

1023 100

85

1136 110

90

856 80

65

659 65

50

500 50

40

Kekayaan (X₂) Pendapatan (X₁)

Konsumsi (Y)

(14)

Ilustrasi

 Model:

Y = 12,8 – 1,414 Pendapatan +

0,202 Kekayaan SE(4,696) (1,199) (0,117)

t (2,726) (-1,179) (1,721) R² = 0,982

 R² relatif tinggi, yaitu 98,2%. Artinya?

 Uji t tidak signifikan. Artinya?

 Koefisien X1 bertanda negatif. Artinya?

14

(15)

.themegallery.com

Ilustrasi: Model Dipecah

 Dampak Pendapatan pada Konsumsi Y = 14,148 + 0,649X₁ SE (5,166) (0,037) t (2,739) (17,659)

R² = 0,975

R² tinggi, Uji t signifikan, dan tanda X₁ positif.

 Dampak Kekayaan pada Konsumsi Y = 13,587 + 0,0635X₂ SE (4,760) (0,003) t (2,854) (19,280)

R² = 0,979

 R² tinggi, Uji t signifikan, dan tanda X₂ positif.

 X₁ dan X₂ menerangkan variasi yang sama. Bila 1 variabel saja cukup, kenapa harus dua?

(16)

Mendeteksi Multikolinieritas

1. Eigenvalues dan Conditional Index

 Aturan yang digunakan adalah: Multikolinieritas ditengarai ada didalam persamaan regresi bila nilai Eigenvalues mendekati 0.

 Hubungan antara Eigenvalues dan Conditional Index (CI) adalah sebagai berikut:

s eigenvalue

=

CI min

max

Jika CI berada antara nilai 10 sampai 30:

kolinieritas moderat.

Bila CI mempunyai nilai diatas 30:

kolinieritas yang kuat.

¹⁶

(17)

.themegallery.com

2. VIF dan Tolerance

) R

= (

j

1

2

VIF 1



; j = 1,2,……,k

k adalah banyaknya variabel bebas

adalah koefisien determinasi antara variabel bebas ke-j dengan variabel bebas lainnya.

2

Rj

2

Rj 2

R

j

Jika = 0 atau antar variabel bebas tidak berkorelasi, maka nilai VIF = 1.

≠ 0 atau ada korelasi antar variabel bebas, maka nilai VIF > 1.

Jika

Oleh karena itu, dapat disimpulkan bahwa kolinieritas tidak ada jika nilai VIF mendekati angka 1

(18)

Tolerance

 VIF ini mempunyai hubungan dengan Tolerance (TOL), dimana hubungannya adalah sebagai berikut:

 Variabel bebas dinyatakan tidak

multikolinieritas jika TOL mendekati 1

 1 2 

TOL

_j

1 = R

_j

= VIF 

18

(19)

.themegallery.com

Mengatasi Multikolinieritas

 Melihat informasi sejenis yang ada

 Tidak mengikutsertakan salah satu variabel yang kolinier

– Banyak dilakukan.

– Hati-hati, karena dapat menimbulkan

specification bias yaitu salah spesifikasi kalau variabel yang dibuang merupakan variabel yang sangat penting.

 Mentransformasikan variabel

 Mencari data tambahan

(20)

Heteroskedastisitas

 Variasi Error tidak konstan. Umumnya terjadi pada data cross section. Misal data konsumsi dan pendapatan, atau data keuntungan dan asset perusahaan

0 20 40 60 80 100 120

0 20 40 60

Pola Data Heteroskedastis

20

(21)

.themegallery.com

Data Heteroskedastisitas

 Fakta:

 hubungan positif antara X dan Y, dimana nilai Y meningkat searah dengan nilai X.

 semakin besar nilai variabel bebas (X) dan

variabel bebas (Y), semakin jauh koordinat (x,y) dari garis regresi (Error makin membesar)

 besarnya variasi seiring dengan membesarnya nilai X dan Y. Atau dengan kata lain, variasi data yang digunakan untuk membuat model tidak

konstan.

(22)

Pemeriksaan Heteroskedastisitas

1. Metode Grafik

 Prinsip: memeriksa pola residual (u

_i²

) terhadap taksiran Y

_i

.

 Langkah-langkah:

 Run suatu model regresi

 Dari persamaan regresi, hitung u

_i²

 Buat plot antara u

_i²

dan taksiran Y

_i

22

(23)

.themegallery.com

Pola Grafik

u_i²

Pengamatan: i

1.Tidak adanya pola yang sistematis.

2.Berapapun nilai Y prediksi, residual kuadratnya relatif sama.

3.Variansi konstan, dan data homoskedastis.

,

(24)

Pola Adanya Heteroskedastisitas

Pola sistematis

u_i² u_i²

i i

24

(25)

.themegallery.com

Mengatasi Heteroskedastisitas

Transformasi dengan Logaritma Transformasi ini ditujukan untuk

memperkecil skala antar variabel bebas.

Dengan semakin ‘sempitnya’ range nilai observasi, diharapkan variasi error juga tidak akan berbeda besar antar

kelompok observasi.

Adapun model yang digunakan adalah:

Ln Y_j = β₀ + β₁ Ln X_j + u_j

(26)

Autokorelasi

 Autokorelasi: korelasi antara variabel itu sendiri, pada pengamatan yang berbeda waktu atau individu.

 Umumnya kasus autokorelasi banyak terjadi pada data time series  Kondisi sekarang dipengaruhi waktu lalu. Misal:

Tinggi badan, upah, dsbnya.

 Salah satu alat deteksi  melihat pola hubungan antara residual (ui) dan

variabel bebas atau waktu (X).

26

(27)

.themegallery.com

Mendeteksi Autokorelasi

 Pola Autokorelasi

 ui ui

 *

 * **

 * * * * * *

 * * * **

 * * * Waktu/X **

Waktu/X

 * * * * ***

*

 Gambar nomor (1) menunjukan adanya siklus, sedang nomor (2) menunjukan garis linier. Kedua pola ini

menunjukan adanya autokorelasi.

(28)

Ketentuan Menggunakan Uji Durbin-Watson

Bandingkan nilai d yang dihitung dengan nilai d_L dan d_U dari tabel dengan aturan berikut :

 Bila d < d_L  tolak H₀; Berarti ada korelasi yang positif atau kecenderungannya  = 1

 Bila d_L  d  d_U  kita tidak dapat mengambil kesimpulan apa-apa

 Bila d_U < d < 4 – d_U  jangan tolak H₀; Artinya tidak ada korelasi positif maupun negatif

 Bila 4 – d_U  d  4 – d_L  kita tidak dapat mengambil kesimpulan apa-apa

 Bila d > 4 – d_L  tolak H₀; Berarti ada korelasi negatif

28

(29)

.themegallery.com

Gambar Ketentuan Penggunaan Uji Durbin-Watson

Tidak tahu/ Tidak tahu/

Tdk ada kesimpulan Tdk ada kesimpulan

Korelasi positif Tidak ada autokorelasi korelasi negatif

0 dL dU 4-dU 4-dL 4

(30)

Uji Asumsi Klasik pada SPSS

No. Asumsi Detektor Keterangan

1. Normalitas Normal P-P Plot of Regression Standardized Residual

Normal P-P Plot of Regression Standardized Residual memperlihatkan titik-titik data membentuk pola linear atau titik-titik data tersebar mendekati garis linear.

2. Homoskedastisitas Scatter Plot  Scatter plot antara standardized residual *SRESID dan standardized predicted value *ZPRED  tidak membentuk pola tertentu  varians residual-nya konstan  homoskedastis.

 Jika scatter plot-nya berpola  terjadi

heteroskedastisitas  varians-nya tidak sama 3. Multikolinieritas VIF (Variance Inflating Factor)  Nilai VIF : 1 – tak hingga

 VIF = 1  multikolinearitas rendah

 VIF < 10  Tidak terjadi multikolinearitas

 VIF >= 10  terjadi multikolinearitas

TOL (Tolerance)  Nilai TOL = 0 – 1; 0  kolinearitas tinggi dan 1 kolinearitas rendah

 Nilai TOL mendekati 1  tidak ada multikolinearitas 30

(31)

.themegallery.com

Uji Asumsi Klasik pada PASW/SPSS

No. Asumsi Detektor Keterangan

3. Multikolinieritas Eigenvalues  Nilai Eigenvalues mendekati 0  ada multikolinearitas

 Nilai Eigenvalues mendekati 1  tidak ada multikolinearitas

Conditional Index (CI)  CI < 15  tidak terjadi multikolinearitas

 CI >= 15  terjadi multikolinearitas

4. Otokorelasi Durbin-Watson (DW)  Nilai DW = 0 – 4

Bandingkan nilai DW dari output dan nilai DW dari tabel (Durbin-Watson Table), dengan kondisi:

• Jika : DW < dL  korelasi positif

• Jika : dL ≤ DW ≤ dU  tdk ada kesimpulan

• Jika : dU < DW < 4 – dU  tdk ada otokorelasi

• Jika : 4 - dU ≤ DW ≤ 4 - dL  tdk ada kesimpulan

• Jika : DW > 4 – dL

Lanjutan

(32)

Aplikasi Regresi Berganda

 Suatu perusahaan di bidang industri memiliki data sales person yang terdiri dari usia, penghasilan dan pengalaman kerja sebagai sales person. Pimpinan perusahaan ini ingin melihat apakah ada pengaruh usia dan pengalaman kerja terhadap penghasilan sales person. Selain itu perusahaan juga ingin membuat model regresi berganda untuk memprediksi income berdasarkan usia dan pengalaman kerja.

 Model Regresi: Y_i = b₀ + b₁X₁ + b₂X₂ + u_i

Y : Income

X₁ : Usia

X₂ : Pengalaman kerja

b0 ,b₁, b₂: Parameter

32

(33)

.themegallery.com

Aplikasi Regresi Berganda

Berdasarkan data pada file multiple_reg1.sav  kita akan

mencari persamaan regresi linear berganda, y = b0 + b1x1 + b2x2 dan melakukan uji hipotesis untuk mengetahui apakah koefisien regresi yang diperoleh signifikan.

Langkah-langkah:

1.Buka file multiple_reg1.sav

2.Klik Analyze  Regression  Linear

3.Pada tampilan Linear Regression, pindahkan variabel Income ke dalam box Dependent; dan variabel Usia dan pengalaman Kerja ke dalam box Independent(s).

4.Bagian Method : pilih Enter

5.Klik tombol Statistics, kemudian cek (beri tanda) pada

Estimates, Model fit, Collinearity Diagnostics dan Durbin-Watson 6.Klik Continue

7.Klik Plots

(34)

Aplikasi Regresi Berganda

Langkah-langkah (lanjutan):

8.Pada tampilan Linear Regression: Plots di bagian

Standardized Residual Plots, pilih Normal probability plot.

Kemudian pindahkan *SRESID (standardized residual) ke dolam kotak Y dan *ZPRED (standardized predicted value) ke dalam kotak X.

9.Klik Continue lalu klik OK.

34

(35)

.themegallery.com

Interpretasi Output Regresi Berganda

1. Koefisien Determinasi (R²)

Nilai R²menunjukkan bahwa 94.1 % varian Income dapat dijelaskan oleh perubahan dalam variabel Usia dan Pengalaman Kerja.

2. Uji Otokorelasi

Nilai Durbin-Watson = 1.497  tidak ada kesimpulan/tdk bisa ditentukan

(36)

3. Uji F dan Uji-t :

36

Interpretasi Output Regresi Berganda

(37)

.themegallery.com

 _{Uji F :}

Dari tabel ANOVA:

Uji hipotesis:

H₀ : b₁ = b₂ = 0 H₁ : b₁ ≠ b₂ ≠ 0

Jika Sig. (p value) < = 0.05  tolak H₀ terima H₁  b₁ dan b₂tdk semuanya bernilai nol (minimal satu ≠ 0)

Jika Sig. (p value) > = 0.05  terima H₀ tolak H₁  b₁ dan b₂ bernilai nol

Hasil (lihat tabel ANOVA):

Sig. (p value) = 0.000 < = 0.05  signifikan  tolak H₀  variabel usia dan pengalaman kerja (variabel bebas) secara bersama-sama dan

signifikan mempengaruhi income (variabel terikat)  model regresi baik

Interpretasi Output Regresi Berganda

(38)

 Uji-t

– Untuk menguji apakah masing-masing koefisien regresi signifikan  lihat tabel Coefficient

Hasil:

– Variabel Usia :

– Sig. : 0.000 < 0.05  Signifikan  variabel Usia secara signifikan mempengaruhi variabel Income

– Variabel Pengalaman Kerja (PK):

– Sig. : 0.013 < 0.05  Signifikan  variabel PK secara signifikan mempengaruhi

variabel Income

38

Interpretasi Output Regresi Berganda

(39)

.themegallery.com

 Persamaan Regresi yang diperoleh:

Y = -10360.5 + 1201.098 X₁ + 1663.516 X₂

Di mana: Y = Income

X₁ = Usia

X₂ = Pengalaman Kerja

Arti koefisien regresi:

b₁ = + 1201.098  setiap kenaikan 1 unit Usia, income akan bertambah sebesar 1201.098 unit (jika faktor lain dianggap tetap)

b₂ = + 1663.516  setiap kenaikan 1 unit pengalaman kerja, income akan bertambah sebesar 1663.516 unit (jika faktor lain dianggap tetap)

4. Uji Normalitas:

 Lihat Normal P-P Plots of Regression  titik-titik data tersebar

mendekati garis diagonal membentuk pola linear  data terdistribusi normal

Interpretasi Output Regresi Berganda

(40)

40

Interpretasi Output Regresi Berganda

(41)

.themegallery.com

5. Uji Homoskedastisitas

 Lihat hasil Scatterplot:

 Sebaran data tidak membentuk pola tertentu  varians-nya konstan

 data bersifat homoskedastis atau tdk ada heteroskedastisitas

Interpretasi Output Regresi Berganda

(42)

6. Uji Multikolinearitas

Lihat tabel Coefficients, bagian Collinearity Statistics:

Nilai VIF = 1.377 < 10  tidak terjadi multikolinearitas

TOL = 0.726  mendekati 1  tidak ada multikolinearitas

42

Interpretasi Output Regresi Berganda

(43)

.themegallery.com

Santoso, S. (2012). Aplikasi SPSS pada Statistik Multivariat. Jakarta: PT Elex Media Komputindo.

Uyanto, S.S. (2009). Pedoman Analisis data dengan SPSS. Yogyakarta: Graha Ilmu.

DAFTAR PUSTAKA

(44)