MULTIVARAT ANALISIS REGRESI (REGRESI LINEAR GANDA DENGAN SPSS)
Oleh: Sobur Setiaman
Pra syarat: telah memahami konsep dan procedure analisi regresi linear sederhana.
Kegunaan Analisis Regresi Linear Berganda: Analisis Regresi Linear Berganda digunakan
untuk mengukur pengaruh antara lebih dari satu variabel prediktor (variabel bebas) terhadap variabel terikat.
Struktural Equation Model (SEM) dengan SPSS
Structural equation modeling atau dikenal dengan istilah ‘causal modeling’ or ‘analysis of covariance structures’. SEM adalah suatu teknik modeling statistik yang bersifat sangat cross-sectional, untuk melihat hubungan dan kekuatan hubungan antar variabel serta memprediksi besarnya hubungan antar variabel tersebut.
Cara melihat causal model pada multivariate analisis, umumnya dilakukan dengan cara: menentukan Path diagram dan Path analysis pada program Lisrel atau AMOS atau confirmatory factor analysis (CFA) pada program SPSS.
Sedangkan SEM dg SPSS dilakukan dengan tiga tahap:
1. Pertama, dilakukan uji confirmatory factor analysis.
2. Kedua, dilakukan uji regresi linear antar variabel prediktor.
3. Ketiga, dilakukan uji regresi linear antara Variabel prediktor dengan Variabel respons.
Confirmatory factor analysis (CFA)
Tujuannya:
1. Untuk mereduksi dimensi data.
3. Untuk mengidentifikasi underlying dimensions (factors) yang dapat menjelaskan korelasi sekumpulan variabel.
4. Untuk mengidentifikasi variabel baru, yang dapat digunakan untuk analisis lainya (e.g., to regression.)
5. Untuk mengidentifikasi satu atau beberapa variabel dari variabel yang banyak jumlahnya. 6. Mengkonfirmasi kontruksi suatu variabel laten.
Basic Factor Analysis Concepts
1. Factor Matrix-matrik yang berisi faktor loading dari faktor yang terekstrasi.
2. KMO measure of sampling adequacy-indeks yang digunakan untuk menguji kesesuaian analisis faktor, nilainya minimal 0,5.
3. Communality-besarnya varian variabel yang disaring dengan variabel lainnya. 4. Eigenvalue -total variance yang dapat dijelaskan masing-masing faktor. 5. Factor loadings–korelasi antara faktor dan variabel.
6. Residuals-perbedaan antara korelasi observasi dan korelasi hasil estimasi dari matrik faktor.
Jadi Factor analysis: dapat digunakan untuk memprediksi suatu variabel, dan mengetahui hubungan dan kekuatan hubungan variabel-variabel.
Tahapan uji factor analysis dengan SPSS:
1. Formulasi Problem (Problem Formulation) a. Apa tujuan penelitian ?
b. Apa jumlah observasi mencukupi (rule of thumb: paling sedikit 4 -5 observasi untuk setiap variabel, minimal 100 sampel).
2. Menyusun Matrik Korelasi:
a. Matrik ini menunjukkan hubungan antara variabel.
b. Nilai korelasi yang tinggi atau signifikan menunjukkan bahwa kedua variabel tersebut berhubungan erat. (minimal 0.3, pada level of significant 95%)
3. Uji kesesuaian analisis factor dengan KMO measure of sampling adequacy (minimal 0.5) 4. Tentukan Prosedur analisis:
a. Principal components analysis; menguji total variance suatu data, umumnya digunakan untuk mereduksi item-item.
b. Principal axis factor analysis; menguji hanya common variance, biasanya digunakan untuk mengidentifikasi underlying dimensi.
5. Mengekstraksi Faktor (Extracting Factors):
a. Melihat Eigenvalue lebih besar atau sama dengan dari 1.0. b. Diagram scarter
6. Merotasi faktor (Rotating Factors)
a. Orthogonal rotation dengan varimax rotation, yang mana meminimalkan jumlah variabel dengan loading faktor yang besar.
Contoh:
Tujuan penelitian: Seorang Kepala Perawat ingin mengetahui apakah Sikap, Pengawasan, dan Motivasi berpengaruh terhadap kepatuhan cuci tangan pada staff perawat?
Hipotesis:
Ho : 1 = 2 = 3 = 0, Sikap, Pengawasan, dan motivasi tidak berpengaruh signifikan terhadap
kepatuhan cuci tangan pada staff perawat.
Ha : 1 2 2 0 Sikap, Pengawasan, dan motivasi berpengaruh signifikan terhadap
kepatuhan cuci tangan pada staff perawat.
X1=Sikap, X2=Pengawasan dan X3=Motivasi , Y=Kepatuhan
Diagram jalur:
Dari diagram jalur diatas, kita harus melihat hasil uji matrix korelasi antara X1, X2 dan X3 terhadap Y.
Prosedur factor analysis dengan SPSS:
1. Tekan analyze, Dimension reduction, Factor. 2. Masukan keempat variabel tersebut.
3. Tekan Descriptives:
a. Centang Initial Solution
b. KMO and Bartletts Test Sphericity. Continue 4. Tekan Extraction: centang Correlation matix, Continue. 5. Tekan Rotation: centang Varimax. Continue
6. Tekan Ok
X1: Sikap
X2: Pengawasan
Hasilnya:
Diagram jalur dengan hasil uji Principal Component Analysis: X1: Sikap
X2: Pengawasan
X3: Motivasi Y: Kepatuhan r 0.660
r 0.550
r 0.453
r 0.589
r 0.503
Hasil: Matrix correlation antar variabel > 0,3 Uji KMO >0,744 Fit untuk dilakukan Regresi linear.
Prosedur Uji regresi linear antar variabel prediktor dengan SPSS:
Y=0,1,763 + 0,95x1 + 0,606 X2
Uji persamaan: Y = a + b1X1+b2X2+…+bnXn a= 10,323, b1= 0,708, b2= 0,185, b3=0,928
Y=-10,323+ 0,708x1 + 0,185x2 + 0,928x3
Path diagram dengan hasil uji Regresi Linear: Path diagram:
Dari kausal model pada diagram di atas dapat diketahui:
1. Korelasi koefisien antara variabel sikap terhadap kepatuhan menunjukan P value < 0,05. Korelasi significant.
2. Korelasi koefisien antara variabel pengawasan terhadap kepatuhan menunjukan P value >0,05. Korelasi tidak significant.
3. Korelasi koefisien antara variabel motivasi terhadap kepatuhan menunjukan P value <0,05. Korelasi significant.
Kesimpulan:
Sikap dan motivasi memiliki korelasi tinggi terhadap kepatuhan cuci tangan dan significant. Pengawasan memiliki korelasi rendah terhadap kepatuhan cuci tangan, dan tidak significant.
Hipotesis Kesimpulan
Ho : 1 = 2 = 3 = 0, Sikap, Pengawasan, dan motivasi
tidak berpengaruh signifikan terhadap kepatuhan cuci tangan pada staff perawat.
Sikap dan motivasi tidak berpengaruh terhadap kepatuhan cuci tangan pada staff perawat.
Ho : 1 = 2 = 3 = 0, Sikap, Pengawasan, dan motivasi
berpengaruh signifikan terhadap kepatuhan cuci tangan pada staff perawat
Pengawasan berpengaruh signifikan terhadap kepatuhan cuci tangan pada staff perawat.
X1: Sikap
X2: Pengawasan
X3: Motivasi Y: Kepatuhan
Sig. 0.026
Sig. 0.009
Uji asumsi klasik atau Estimasi Model Regresi Linear Ganda
Estimasi model atau dikenal dengan uji asumsi klasik, yang dilakukan secara sekaligus dengan pengujian asumsi klasik (linieritas, korelasi, heteroskedastisitas dan normalitas) pada waktu melakukan uji regresi linier.
Sebelum melakukan uji regresi linier, harus diketahui beberapa asumsi sebelum melakukan uji regresi linear yang haris diikuti:
o Assums #1: variabel yang di uji berukuran kontinyu (skala interval atau ratio). Contohnya
tinggi badan dan ukuran berat badan.
o Assumsi #2: kedua variabel yang akan diuji memiliki linieritas pada grafik PP Plot (linear relationship).
o Assumsi #3: nilai residual (errors) menunjukan garis linier berdistribusi normal. Lihat
histogram (superimposed normal curve) atau Normal P-P Plot.
Linieritas bisa di lihat dari diagram scatterplot.
o Assumsi #5:data yang di uji menunjukan “homoscedasticity”, pada grafik Scatterplot
yaitu data yang muncul bergerak bersama sama, lihat gambar di gambar scatterplots dibawa ini.
o Assumsi #6: harus dilakukan pengamatan pada variabel independency (independence of
observations) dengan dilakukan uji autokorelasi dengan Durbin-Watson statistic.
Jadi uji asumsi yang harus di lakukan sebelum uji regresi linier ganda adalah sebagai berikut:
1. Uji linieritas/normalitas dengan grafik PP-Plot. 2. Uji heteroskedastisitas dengan grafik scatterplot. 3. Uji autokorelasi dengan uji Durbin Watson.
4. Uji kolinieritas dengan melihat Tolerance level dan VIF.
Uji Linieritas dan Heteroskedastisis dengan grafik
Sebelum memberikan interpretasi pada hasil regresi, dilakukan pengujian asumsi normalitas sebagai syarat regresi:
1. Apabila berdistribusi normal maka analisis parametrik seperti analisis regresi dapat dilanjutkan,
2. Apabila tidak tidak berdistribusi normal maka digunakan statistik non parametrik untuk menguji hipotesis.
Hasil Uji Linieritas Grafis dan ANOVA
Histogram: kurva data menunjukan sebaran
merata ke kanan dan kekiri bagian membentuk kurva normal
PP Plots: data menyebar secara linear.
Scatterplot: data menyebar secara versama,
memenuhi asumsi homoskedastisitas (homoscedascity).
Uji Multicollinearity
karena itu, sering kali kita bisa mendeteksi adanya multikolinearitas dengan adanya nilai standar error yang besar dari sebuah variabel bebas dalam model regresi.
Pada pengujian regresi linear ganda, variabel prediktor yang akan diuji regresi, dilakukan uji Uji multikolinearitas dilakukan dengan 4 cara yaitu sebagai berikut:
1) Correlation matrix – dilakuakan dengan cara penghitungan matrix dengan metoda “Pearson's Bivariate Correlation” diantara variabel predictor, dimana hasilnya harus kurang dari angka <0,8.
Correlation Matrixa
Sikap Pengawasan Motivasi Kepatuhan
Correlation Sikap 1.000 .660 .453 .550 dilakukan uji bersama sama dengan linear regression. Tolerance T = 1 – R² for these first step regression analysis. Bila T<0,1 Multicolinearitas. Contoh di bawah semua nilai T > 0,1. 3) Variance Inflation Factor (VIF) – the variance inflation factor pada linear regression di
Coefficientsa
4) Condition Index – the condition index dihitung menggunakan factor analysis pada variabel predictor. Bila nila antara 10 s/d 30 indikasi multicollinearitas menengah, bila > 30 indikasi multicollinearitas kuat. Pada table di bawah tidak ditemukan indikasi tersebut diatas.
5)
Collinearity Diagnosticsa
Model
Dimensi
on Eigenvalue Condition Index
Variance Proportions
(Constant) Sikap Pengawasan Motivasi
1 1 3.916 1.000 .00 .00 .00 .00
2 .034 10.709 .49 .30 .14 .14
3 .032 11.057 .45 .11 .03 .63
4 .018 14.631 .06 .58 .83 .23
a. Dependent Variable: Kepatuhan
Uji Autokorelasi dengan Uji Durbin Watson
Model Summaryb
Model Durbin-Watson
1 2.355a
a. Predictors: (Constant), Motivasi, Sikap,
Pengawasan
Uji Durbin Watson merupakan alat deteksi ada tidanya autokorelasi di dalam model regresi linear, apabila data merupakan data time series atau runtut waktu.
Autokorelasi adalah: sebuah nilai pada sampel atau observasi tertentu sangat dipengaruhi oleh nilai observasi sebelumnya. Hasil uji Durbin Watson digunakan untuk melihat adanya autokorelasi antara variabel-varaibel yang diuji.
Uji Durbin watson akan menghasilkan nilai Durbin Watson (DW) yang nantinya akan dibandingkan dengan dua (2) nilai Durbin Watson Tabel, yaitu Durbin Upper (DU) dan Durbin Lower (DL).
Dikatakan tidak terdapat autokorelasi jika nilai DW > DU dan (4-DW) > DU atau bisa dinotasikan juga sebagai berikut: (4-DW) > DU < DW.
Bila hasil uji Durbin Watson dengan angka 2.355 harus dibandungkan dengan dengan table Durban Watson dengan cara melihat berapa jumlah variabel actor yang diuji dan melihat berapa sample yang di uji.
Jumlah sample 20, dan jumlah variabel predictor 1 maka lihat table n 20 dan K3 menunjukan antara 1dan 1,68:
Daerah antara 1 dan 1,68 artinya autokrelasi ragu ragu.
Daerah antara 1,68 dan 2,32 ( 4-1,68=2,32) artinya ini daerah tidak ada autokrelasi. Daerah diatas 2,56 (4-1,44) artinya ini daerah autokrealsi negatif.
MULTIVARAT ANALISIS REGRESI (REGRESI LOGISTIK GANDA DENGAN SPSS)
Pra-syarat: Telah memahami teori dan prosedur regresi logistic sederhana dengan SPSS. Model yang digunakan pada regresi logistik adalah:
Log (P / 1 –p) = β0+ β1X1+ β2X2+ …. + βkXk
Dimana p adalah kemungkinan bahwa Y = 1, dan X1, X2, X3 adalah variabel independen, dan b adalah koefisien regresi.
Regresi logistik akan menghasilkan rasio peluang (odds ratios) terkait dengan nilai setiap prediktor. Peluang (odds) dari suatu kejadian diartikan sebagai probabilitas hasil yang muncul yang dibagi dengan probabilitas suatu kejadian tidak terjadi.
Secara umum, rasio peluang (odds ratios) merupakan sekumpulan peluang yang dibagi oleh peluang lainnya. Rasio peluang bagi prediktor diartikan sebagai jumlah relatif dimana peluang hasil meningkat (rasio peluang > 1) atau turun (rasio peluang < 1) ketika nilai variabel prediktor meningkat sebesar 1 unit.
Contoh kasus:
Kepala ruangan ingin mengetahui berapa peluang kepatuhan perawat perempuan, jika diketahui memiliki skor kepatuhan 10 dan pengalaman bekerja 5 tahun pada sejumlah sampel 40 perawat. Adapun variabel yang diteliti adalah sebagai berikut.
y (Kepatuhan) = 1 jika Patuh dan 0 jika tidak patuh
x1 = Skor Sikap
x2 = lama pengalaman kerja (tahun)
x3 (jenis kelamin) = 1 jika pelamarnya laki-laki dan 0 jika pelamarnya perempuan
Pertanyaan:
1. Carilah Model logit dan model regresi logistik dari kasus tersebut.
2. Interpretasikan nilai estimasi β (dengan menggunakan nilai odd dari masing-masing
3. Berapa peluang kepatuhan perawat perempuan, jika diketahui memiliki skor kepatuhan 10 dan pengalaman bekerja 5 tahun ?
Hasil analisis deskrepsi:
Descriptive Statistics
N Minimum Maximum Mean Std. Deviation
Sikap 40 16 20 17.6500 1.56156
Pengalaman kerja 40 .00 12 4.2250 3.65491
Valid N (listwise) 40
Jenis Kelamin
Frequency Percent Valid Percent Cumulative Percent
Valid Perempuan 17 42.5 42.5 42.5
Laki-laki 23 57.5 57.5 100.0
Total 40 100.0 100.0
Kepatuhan
Frequency Percent Valid Percent Cumulative Percent
Valid Tidak Patuh 19 47.5 47.5 47.5
Patuh 21 52.5 52.5 100.0
X1: Skor Sikap Path diagram:
Dari kausal model diagram di atas dapat di ketahui bahwa:
1. Korelasi significant:
a. Regresi linear skor sikap terhadap pengalaman kerja menunjukan korelasi koefisien (t) sebesar 8,130 P value <0,005. Ini menunjukan adanya korelasi significant.
b. Regresi logistisk pengalaman kerja terhadap kepatuhan cuci tangan menunjukan korelasi koefisien (W) sebesar 8,130 P value <0,005. Ini menunjukan korelasi significant.
c. Regresi logistisk skor sikap terhadap kepatuhan cuci tangan menunjukan korelasi koefisien (W) sebesar 24,382 P value <0,005. Ini menunjukan korelasi significant. d. Regresi logistisk skor pengalaman kerja terhadap jenis kelamin menunjukan korelasi
koefisien (W) sebesar 0,348 P value <0,005. Ini menunjukan korelasi significant. 2. Korelasi tidak tidak significant:
a. Regresi logistisk skor sikap terhadap jenis kelamin menunjukan korelasi koefisien (W) sebesar 1,409 P value >0,005. Ini menunjukan korelasi tidak significant.
b. Regresi logistisk jenis kelamin terhadap kepatuhan cuci tangan menunjukan korelasi koefisien (W) sebesar 2,222 P value >0,005. Ini menunjukan korelasi tidak significant.
Uji regresi logistik antar predictor (Sikap dan pengalaman kerja terhadap jenis kelamin) :
X2: Skor Pengalaman kerja
X3: Jenis=kelamin Y: Kepatuhan
Omnibus Tests of Model Coefficients
Step -2 Log likelihood Cox & Snell R Square Nagelkerke R Square
1 52.121a .059 .079
a. Estimation terminated at iteration number 4 because parameter estimates
changed by less than .001.
Classification Tablea
a. Variable(s) entered on step 1: X1, X2.
Omnibus Tests of Model Coefficients
Step -2 Log likelihood Cox & Snell R Square Nagelkerke R Square
1 37.797a .355 .474
a. Estimation terminated at iteration number 5 because parameter estimates
changed by less than .001.
Variables in the Equation
a. Variable(s) entered on step 1: X1, X2, X3.
Hasil uji regresi:
1. Hasil uji regresi linear antara variabel sikap, terhadap pengalaman kerja menunjukan nilai korelasi (R) 91,5%, besarnya determinant (Rsquare) 83,6%.
2. Hasil uji regresi logistik antara variabel sikap terhadap jenis kelamin (W) 1,409 dengan p value >0,05.
4. Hasil uji regresi logistik antara variabel sikap terhadap kepatuhan cuci tangan (W) 4,382 dengan p value <0,05.
5. Hasil uji regresi logistik antara variabel pengalama kerja terhadap kepatuhan cuci tangan (W) -0,8130 dengan p value <0,05.
6. Hasil uji regresi logistik antara variabel jenis kelamin terhadap kepatuhan cuci tangan (W) 2,222 dengan p value <0,05.
1. Model logit dan model regresi logistik dari kasus tersebut.
Persamaan Regresi Logistik variabel sikap, pengalaman kerja dan jenis kelamin terhadap kepatuhan cuci tangan adalah sebagai berikut:
B1= 0,636 B2= 0,410 B3= -1,34
B0 Constanta a= -12,204
Log (P / 1 –p) = β0+ β1X1+ β2X2+ …. + βkXk
Log(P/1-p)=-12,204 + 0,636x1 + 0,410x2 + -1,34x3
2. Interpretasikan nilai estimasi β (dengan menggunakan nilai odds ratio dari
masing-masing variabel).
a. OR Sikap terhadap kepatuhan cuci tangan Exp(B) 1,891 b. OR pengalaman kerja terhadap kepatuhan Exp(B) 1,507 c. OR jenis kelamin terhadap kepatuhan Exp(B) 0,261
� ��� �� ℎ � = exp � +� +�+exp � +� +� = + ,, + ,+ , + ,+ , = + ,, = , =78,5%
� ��� � � �� ℎ � = − , = , = , %
3. Berapa peluang kepatuhan perawat perempuan, jika diketahui memiliki skor kepatuhan 10 dan pengalaman bekerja 5 tahun ? peluang (probabilitas) -5,762
Sumber bacaan:
Field Andy. 2013. Discovering Statistics Using SPSS. 3rd Ed. SAGE Publications Ltd, 1 Oliver’s Yard, 55 City Road, London EC1Y 1SP.
Leech NL, Karen C. Barrett KC, and Morgan GA, 2005, SPSS for Intermediate Statistics: Use and
Interpretation. 2nd Ed. Lawrence Erlbaum Associates, Publisher, Mahwah, New Jersey
London.
Stevens, J. (2002). Applied multivariate statistics for the social sciences. Mahway, NJ: Lawrence Erlbaum Associates.
Agresti, A. & Franklin, C. (2014). Statistics. The Art & Science of Learning from Data. Essex: Pearson Education Limited.
Hair, J.F., Black, W.C., Babin, B.J. et al (2006). Multivariate Data Analysis. New Jersey: Pearson Prentice Hall.
Berry, W.D. (1993). Understanding Regression Assumptions. Newbury Park, CA: Sage.
Howell, D.C. (2002). Statistical Methods for Psychology (5th ed.). Pacific Grove CA: Duxbury.
