ANALISIS_REGRESI

ANALISIS

ANALISIS

REGRESI &

REGRESI &

KORELASI

KORELASI

Dalam kehidupan sehari Dalam kehidupan sehari Dalam kehidupan sehari

Dalam kehidupan sehari----hari, seringkalihari, seringkalihari, seringkalihari, seringkali dijumpai hubungan antara suatu variabel dijumpai hubungan antara suatu variabel dijumpai hubungan antara suatu variabel dijumpai hubungan antara suatu variabel dengan satu atau lebih variabel lain.

dengan satu atau lebih variabel lain. dengan satu atau lebih variabel lain. dengan satu atau lebih variabel lain. C

C C

Contohontohontohontoh:::: *

* DD *

* DDosis dan jenis pupuk yangosis dan jenis pupuk yangosis dan jenis pupuk yangosis dan jenis pupuk yang diberikandiberikandiberikandiberikan berhubu

berhubungan ngan dengandengan berhubu

berhubungan ngan dengandengan hasil pertanianhasil pertanianhasil pertanianhasil pertanian yang diperoleh yang diperoleh yang diperoleh yang diperoleh.... * * JJ *

* JJumlah pakan yang diberikanumlah pakan yang diberikanumlah pakan yang diberikanumlah pakan yang diberikan padapadapadapada ternak berhubungan

ternak berhubungan ternak berhubungan

ternak berhubungan dengan beratdengan beratdengan beratdengan berat badannya, badannya, badannya, badannya, * * DD *

Ide dasar analisis regresi :

Ide dasar analisis regresi :



 Dikenalkan oleh Sir Francis GaltonDikenalkan oleh Sir Francis Galton



 Ada kecenderungan bhw ortu yg tinggi akanAda kecenderungan bhw ortu yg tinggi akan

memiliki anak yg tinggi dan sebaliknya.

memiliki anak yg tinggi dan sebaliknya.



 Ada kecenderungan tinggi anak bergerakAda kecenderungan tinggi anak bergerak

menuju rata-rata tinggi populasi.

menuju rata-rata tinggi populasi.



 GaltGalton menyeon menyebut : but : RegrRegresi menujesi menuju mediou mediokritaskritas

(regression toward mediocrity)



 _{Studi mengenai ketergantungan 1 variabelStudi mengenai ketergantungan 1 variabel} dependen dengan 1 atau lebih variabel

dependen dengan 1 atau lebih variabel independen, dengan tujuan untuk

independen, dengan tujuan untuk

mengestimasi dan atau memprediksi rata

mengestimasi dan atau memprediksi rata--ratarata populasi atau nilai rata

populasi atau nilai rata--rata variabel dependenrata variabel dependen berdasarkan nilai variabel independen yang berdasarkan nilai variabel independen yang

diketahui. diketahui. 

 _{Hasil analisis adalah koefisien regresi untukHasil analisis adalah koefisien regresi untuk} masing

Hubungan Statistik vs

Deterministik



 Analisis regresi hanya menitik beratkan padaAnalisis regresi hanya menitik beratkan pada hubungan statistik.

hubungan statistik. 

 Hubungan Statistik pada dasarnya menggunakanHubungan Statistik pada dasarnya menggunakan variabel stokastik (random), yaitu variabel yang variabel stokastik (random), yaitu variabel yang

memiliki distribusi probabilitas. memiliki distribusi probabilitas. 

 Hubungan Deterministik bukan merupakanHubungan Deterministik bukan merupakan hubungan statistik karena bersifat eksak. hubungan statistik karena bersifat eksak. 

 Jika regresi diterapkan pd model denganJika regresi diterapkan pd model dengan

hubungan deterministik, akibatnya model akan hubungan deterministik, akibatnya model akan

menderita gejala

menderita gejala “ “MultikolinearitiMultikolineariti” ”  yangyang mendekati sempurna.

Macam hubungan antara

Macam hubungan antara

2 atau lebih variabel :

2 atau lebih variabel :





Keeratan hubungan

Keeratan hubungan



Korelasi 

Korelasi 



Regresi vs Korelasi

Regresi vs Korelasi



 _{Analisis Korelasi :Analisis Korelasi :}

►

► _{Bertujuan unt mengukur kekuatanBertujuan unt mengukur kekuatan}

asosiasi (hubungan) linier antara dua asosiasi (hubungan) linier antara dua variabel.

variabel.

►

► _{Tidak menunjukkan hub. Fungsional.Tidak menunjukkan hub. Fungsional.} ►

► _{Tidak membedakan variabel dependen danTidak membedakan variabel dependen dan}

variabel independen. variabel independen.



 _{Analisis Regresi :Analisis Regresi :}

►

► _{Mengukur kekuatan hubungan antar variabelMengukur kekuatan hubungan antar variabel} ►

► _{Menunjukkan arah hubungan antara variabelMenunjukkan arah hubungan antara variabel}

independen dengan variabel dependen. independen dengan variabel dependen.

KORELASI

Koefisien Korelasi Pearson (Product Moment Coefficient)









            











 

2 2 2 2 Y -Y n X -X n Y X -XY n r

Pengelompokan Regresi :

Pengelompokan Regresi :





Regresi Linier Sederhana

Regresi Linier Sederhana





Regresi Linier Berganda

Regresi Linier Berganda





Regresi Non Linier

Regresi Non Linier





Regresi dengan Variabel Dummy

Regresi dengan Variabel Dummy





Regresi Logistik

Regresi Logistik



• REGRESI LINIER SEDERHANA

Regresi Linier dengan : # 1 variabel dependen # 1 variabel independen

15.6 10 13.0 9 12.5 8 10.1 7 8.8 6 7.0 5 5.0 4 4.2 3 3.5 2 1.3 1 Y X

Contoh:

Contoh:



 Analisis Regresi mendasarkan pada modelAnalisis Regresi mendasarkan pada model

probabilistik, yang terdiri atas komponen probabilistik, yang terdiri atas komponen

deterministik dan kesalahan random. deterministik dan kesalahan random.

 Y 

 Y  : variabel dependen: variabel dependen X

X : variabel independen: variabel independen b

b₀₀ : intersep (konstanta): intersep (konstanta) b

b₁₁ : slope (koefisien regresi): slope (koefisien regresi)



: komponen kesalahan random (error): komponen kesalahan random (error) E(Y) =

E(Y) = bb₀₀ + b+ b₁₁ X = komponenX = komponen deterministik 

deterministik 

Y = b

Metode Kuadrat Terkecil

Biasa (OLS)



 _{Diperkenalkan oleh : Carl Friedrich GaussDiperkenalkan oleh : Carl Friedrich Gauss} 

 _{Digunakan unt mengestimasi garis regresi dgn jalanDigunakan unt mengestimasi garis regresi dgn jalan} meminimalkan jumlah dari kuadrat kesalahan setiap meminimalkan jumlah dari kuadrat kesalahan setiap

observasi thd garis tersebut. observasi thd garis tersebut.



 _{Tujuan utamanya mengestimasi fungsi regresiTujuan utamanya mengestimasi fungsi regresi} populasi berdasarkan fungsi regresi sampel. populasi berdasarkan fungsi regresi sampel.



  n 1 i 2 i i - Yˆ ) (Y SEE i 1 0 i) β β X (Y/X





 E 

a.n + b X = Y Persamaan Normal I a X + b X2 = XY Persamaan Normal II   X - n X Y X n -XY X -X n Y X -XY b 2 2









 

  X b -Y a 

















 Y - Yˆ Y - a - b X e 2 2 a Q   = - 2  (Y - a - b X) = 0 b Q   = - 2  (Y - a - b X) (X) = 0  Y - a.n - b  X = 0  X Y - a  X - b  X 2 = 0

• REGRESI LINIER BERGANDA

Regresi Linier dengan : # 1 variabel dependen

Y = a + b₁ X₁ + b₂ X₂ + e Persamaan Normal : I   _{Y = n.a + b1}  _{X1 + b2}  _X2 II   _{YX1 = a}  _{X1 + b1}  _(X1)2 _{+ b} 2  X1X2 III   _{YX2 = a}  _{X2 + b1}  _{X1X2 + b2}  _(X2)2

Statistik dalam Regresi Linear :

R2 _{= koefisien determinasi}

R2 _{menunjukkan besarnya sumbangan variabel}

bebas terhadap variasi tidak bebas.

R2 _{adjusted = R2 yang disesuaikan dengan}

banyaknya variabel bebas (k) dan banyaknya observasi elemen sampel (n).

R2 _{adjusted dapat digunakan untuk}

membandingkan 2 regresi berganda dengan Y yang sama, tetapi banyaknya variabel bebas tidak sama.

Uji F (Uji Simultan)

Hipotesis yang digunakan adalah :

H₀ : Semua variabel bebas secara bersama-sama tidak mempengaruhi variabel tidak bebas (Y) H₁ : Semua variabel bebas secara bersama-sama

mempengaruhi variabel tidak bebas (Y) atau paling tidak ada 1 variabel bebas yang

mempengaruhi variabel tidak bebas (Y).

Kriteria uji F  _{H0 ditolak jika F hitung ≤ F tabel}

n – 1 JKT Total KTG = JKG/(n – k) n – k  JKG Galat F( ; v₁ ; v₂) KTR/KTG KTR = JKR/(k – 1) k – 1 JKR Regresi F tabel F hitung KT db JK Sumber Variasi Tabel ANOVA

Uji t (Uji parsial)

Hipotesis yang digunakan adalah :

H₀ : i = 0  _{Variabel bebas Xi tidak berpengaruh} terhadap variabel tdk bebas (Y)

H₁ : i ≠ 0  Variabel bebas Xi berpengaruh

terhadap variabel tdk bebas (Y) Kriteria uji t  _{H0 ditolak jika t hitung ≤ t tabel}

t hitung = ) ( _i i b Se b



   } ) ( 1 }{( ) )( ( ) {( ) ( 2 ) 2 ( 1 2 2 r   X  n  X  S b Se i i i S = _KTG



_





_



 

_



_



  2 2 2 2 2 1 2 1 2 1 2 1 ) 2 ( 1 ) ( ) ( ) ( ) ( ) )( ( ) (  X   X  n  X   X  n  X   X   X   X  n r 

UJI ASUMSI KLASIK :

(Khususnya untuk masalah ekonomitri)

• Autokorelasi

• Multikolineariti

Uji Autokorelasi

• Bertujuan menguji apakah dalam model regresi linier ada korelasi antara kesalahan pengganggu (error) pada periode t dengan error pada periode sebelumnya.

• Diuji dengan Uji Durbin-Watson (DW test)

• Nilai DW hitung dibandingkan dengan DW tabel • Secara umum, tidak ada korelasi jika

Uji Multikolineariti

• Bertujuan menguji apakah dalam model regresi linier ada korelasi antar variabel bebas

• Dideteksi dengan :

* Nilai R2 _{tinggi, tetapi banyak variabel yang}

tidak signifikan.

* Dilihat nilai Tolerance dan atau VIF (Variance inflation factor)nya

Jika tolerance > 0,1  _{bebas multikolineariti}

Jika VIF < 10  _{bebas multikolineariti}

Cara mengobati :

1. Transformasi variabel  _{dlm bentuk log atau ln, dsb.}

2. Mengeluarkan 1 atau lebih variabel bebas yang mempunyai korelasi tinggi

3. Gunakan metode analisis regresi lain. 4. Atau yang lain.

Uji Heteroskedastisitas

• Bertujuan menguji apakah dalam model regresi linier terjadi ketidaksamaan variance dari residual 1 pengamatan ke pengamatan yang lain.

• Dideteksi dengan :

* Melihat plot antara prediksi variabel terikat dengan residualnya.

* Uji Park : ln e2 _{= a + b}

i ln Xi

* Uji Glejser : |e| = a + b_i X_i * Uji White : e2 _{= a + b}

Cara mengobati :

1. Melakukan transformasi bentuk model,

misalnya membagi regresi dengan salah satu variabel bebasnya.

Regresi Dengan Variabel Dummy

 _{Kita bisa menggunakan variabel bebas dengan skala} ukuran non metrik.

 _{Caranya dengan menempatkan variabel tersebut sebagai} variabel dummy.

 _{Koefisien regresi dari variabel dummy ini bukan}

menjelaskan pengaruh variabel dummy terhadap variabel Y , tetapi akan menjelaskan perbedaan dari variabel tidak bebas berdasarkan kategori dalam variabel dummy

tersebut

 _{Jika variabel dummy berkategiri n, maka digunakan} sebanyak (n-1) variabel dummy.

 Model regresi dengan variabel dummy 2 kategori,

ditulis dengan : Y =  +  D + e

 Model regresi dengan 1 variabel bebas dan variabel

dummy 2 kategori, ditulis dengan : Y =  +  X +  D + e

 Model regresi dengan k variabel bebas dan variabel

dummy 2 kategori ditulis dengan :

Y =  + ₁ X₁ + ₂ X₂ + ……….. + _k X_k +  D + e

 Model regresi dengan 1 variabel bebas dan variabel

dummy 3 kategori, ditulis dengan :

Y =  +  X + ………….. + ₁ D₁ + ₂ D₂ + e

 Model regresi dengan k variabel bebas dan variabel

dummy 3 kategori ditulis dengan :

Y =  + ₁ X₁ + ₂ X₂ + ……….. + _k X_k + ₁ D₁ + ₂ D₂ + e

Misalnya :

Misalnya :

Pekerjaan :

Pekerjaan : Petani, Pedagang, PegawaiPetani, Pedagang, Pegawai

** Dummy D1Dummy D1

D1 = 1 jika Petani D1 = 1 jika Petani

D1 = 0 jika yang lain D1 = 0 jika yang lain

** Dummy D2Dummy D2

D2 = 1 jika pedagang D2 = 1 jika pedagang

D2 = 0 jika yang lain D2 = 0 jika yang lain

Contoh variabel dummy 3 kategori

Contoh variabel dummy 3 kategori

Contoh variabel dummy 3 kategori

Contoh variabel dummy 3 kategori

Pekerjaan : Petani, Pedagang, Pegawai Pekerjaan : Petani, Pedagang, Pegawai

0 0 0 0 Pegawai Pegawai 1 1 0 0 Pedagang Pedagang 0 0 1 1 Petani Petani Nilai Variabel Nilai Variabel dummy D1 dummy D1 Nilai variabel Nilai variabel dummy D2 dummy D2 Pekerjaan Pekerjaan