A
A
n
n
a
a
l
l
i
i
s
s
i
i
s
s
R
R
e
e
g
g
r
r
e
e
s
s
i
i
L
L
i
i
n
n
i
i
e
e
r
r
Wihandaru Sotya Pamungkas Pendahuluan 2
P
P
e
e
n
n
d
d
a
a
h
h
u
u
l
l
u
u
a
a
n
n
A
A
.
.
P
P
e
e
ng
n
g
e
e
r
r
t
t
i
i
a
a
n
n
Re
R
e
g
g
re
r
es
si
i
d
d
a
a
n
n
K
Ko
o
re
r
e
l
l
a
a
si
s
i
Istilah regresi diperkenalkan oleh Francis Galton tahun 1886 diperkuat oleh Karl Pearson tahun 1903. Pengertian regresi secara umum adalah studi ketergantungan satu variabel tergantung (variabel dijelaskan atau variabel tak bebas) pada satu atau lebih variabel lain (variabel penjelas atau variabel bebas), dengan tujuan untuk menaksir atau memprediksi nilai rata-rata hitung (mean) atau rata-rata (populasi) variabel tak bebas, berdasarkan nilai yang diketahui atau tetap (dalam pengambilan sampel berulang-ulang) dari variabel penjelas
Wihandaru Sotya Pamungkas Pendahuluan 3
Menurut Gujarati, tujuan analisis regresi:
a. Untuk mengestimasi nilai rata-rata variabel tergantung dan nilai variabel penjelas tertentu.
b. Untuk menguji hipotesis mengenai sifat alamiah ketergantungan (interdependentcy) sesuai dengan teori ekonomi.
c. Untuk memprediksi atau meramalkan nilai rata-rata variabel tergantung dan nilai variabel penjelas tertentu.
Analisis korelasi digunakan untuk mengukur kekuatan
(strength) atau tingkat hubungan linier (degree of linear association) antara dua variabel. Dalam analisis korelasi baik variabel bebas (variabel penjelas) maupun variabel tergantung (variabel dijelaskan) diperlakukan secara simetris atau seimbang dimana tidak ada perbedaan antara variabel bebas (variabel penjelas) dengan variabel terikat (variabel dijelaskan).
Dalam analisis regresi, variabel bebas (variabel penjelas) dengan variabel tergantung (variabel dijelaskan) diperlakukan secara asimetris.
Wihandaru Sotya Pamungkas Pendahuluan 4
Hubungan antara X (variabel bebas) dengan Y (variabel tergantung) yang berbentuk fungsi Æ Y= f(X), dikatakan pasti
(deteriministik atau non-stokastik). Misal, hubungan
non-stokastik: permintaan akan suatu barang A diasumsikan
tergantung pada harga barang A itu saja, sementara faktor lain dianggap konstan (ceteris paribus). Æ QQ == ff((PP)) == αα ++ ββPP
B
B
.
.
P
P
e
e
n
n
g
g
e
e
r
r
t
t
i
i
a
a
n
n
L
L
i
i
n
n
i
i
e
e
r
r
Istilah linier dapat diartikan dengan dua cara yang berbeda, yaitu (Gujarati):
1
1
.
.
L
L
i
i
n
n
i
i
e
e
r
r
i
i
t
t
a
a
s
s
d
d
a
a
l
l
a
a
m
m
V
V
a
a
r
r
i
i
a
a
b
b
e
e
l
l
Linieritas adalah nilai rata-rata harapan variabel tergatung (variabel dijelaskan) adalah fungsi linear dari variabel bebas (variabel penjelas). EE((YY||XXii)) == ββ0 0 ++ ββ1X1X11. Secara geometrik, kurva regresi dalam kasus ini adalah suatu garis lurus.
Dalam interpretasi, suatu fungsi regresi seperti E
E((YY||XXii)) == ββ0 0 ++ ββ1X1X1122, adalah bukan fungsi regresi linier karena variabel X berpangkat dua (kuadrat).
Wihandaru Sotya Pamungkas Pendahuluan 5
2
2
.
.
L
L
i
i
n
n
i
i
e
e
r
r
i
i
t
t
a
a
s
s
d
d
a
a
l
l
a
a
m
m
P
P
a
a
r
r
a
a
m
m
e
e
t
t
e
e
r
r
Arti linieritas yang kedua adalah bahwa harapan bersyarat dari Y, E(Y|Xi) adalah fungsi linier dari parameter β; fungsi tadi mungkin linear atau tidak linier dalam variabel X.
Dalam interpretasi ini, EE((YY||XXii)) == ββ00 ++ ββ11XX1122 adalah model regresi linier, tetapi
E
(
Y
|
X
i)
=
β
0+
β
1X
1 bukan fungsi linier.Dari dua interpretasi di atas regresi linier selalu diartikan dengan suatu regresi dalam parameter (β); regresi tadi mungkin linier mungkin tidak linier dalam variabel penjelas.
Wihandaru Sotya Pamungkas Pendahuluan 6
C
C
.
.
R
R
e
e
g
g
r
r
e
e
s
s
i
i
L
L
i
i
n
n
i
i
e
e
r
r
B
B
e
e
r
r
s
s
y
y
a
a
r
r
a
a
t
t
B
B
e
e
r
r
g
g
a
a
n
n
d
d
a
a
Untuk memahami regresi linier bersyarat berganda, digunakan model regresi (model estimasi):
Y
Y
=
=
b
b
00+
+
b
b
11X
X
11+
+
b
b
22X
X
22+
+
e
e
Keterangan
Y Variabel tergantung X1 ; X2 Variabel bebas
b0 ; b1 ; b2 nilai parameter yang ditaksir menggunakan metode kuadrat terkecil dan menggunakan sampel sebanyak “n” e Faktor gangguan
∑
∑
∑
∑
∑
∑
∑
−
−
=
2 2 1 2 2 2 1 1 1 2 2 2 1 1)
x
x
(
x
x
x
x
yx
x
yx
b
∑
∑
∑
∑
∑
∑
∑
−
−
=
2 2 1 2 2 2 1 1 1 1 2 1 2 2)
x
x
(
x
x
x
x
yx
x
yx
b
)
X
b
X
b
(
b
2 _ 2 1 _ 1 _ 0=
Y
−
+
^Y
Y
e
=
−
Wihandaru Sotya Pamungkas Pendahuluan 7
D
D
.
.
S
S
i
i
f
f
a
a
t
t
-
-
s
s
i
i
f
f
a
a
t
t
M
M
e
e
t
t
o
o
d
d
e
e
O
O
r
r
d
d
i
i
n
n
a
a
r
r
y
y
L
L
e
e
a
a
s
s
t
t
S
S
q
q
u
u
a
a
r
r
e
e
(
(
O
O
L
L
S
S
)
)
d
d
a
a
l
l
a
a
m
m
R
R
e
e
g
g
r
r
e
e
s
s
i
i
L
L
i
i
n
n
e
e
a
a
r
r
B
B
e
e
r
r
s
s
y
y
a
a
r
r
a
a
t
t
B
B
e
e
r
r
g
g
a
a
n
n
d
d
a
a
Sifat-sifat dan atau ciri-ciri fungsi regresi
Y
Y
=
=
b
b
00+
+
b
b
11X
X
11+
+
b
b
22X
X
22+
+
e
e
a. Garis regresi linier bersyarat berganda melewati nilai rata-rata:
Y
,
X
,
X
2.
_ 1 _ _
b. Nilai rata-rata Y yang diestimasi , sama dengan nilai rata-rata Y yang sebenarnya.
) Y (= ^
c.
∑
e = e_ = 00 Y . e ^ =
∑
e. Faktor pengganggu, e, tidak berkorelasi dengan X1 dan X2,
yaitu:
0
X
.
e
X
.
e
1=
∑
2=
∑
f. Untuk tujuan pengujian hipotesis, maka diasumsikan faktor pengganggu, e, didistribusikan secara normal dengan nilai rata-rata 0 dan varian δ2, sehingga penaksir-penaksir
dengan sendirinya didistribusikan secara normal dengan rata-rata masing-masing dengan .
2 ^ 1 ^ ^ 0
,
b
,
b
b
2 1 0,
b
,
b
b
g. Dengan asumsi kenormalan dapat ditunjukkan bahwa 2 2 ^ / ) 3 N ( − δ δ
mengikuti distribusi X2 derajad bebas (n – 3) Æ n = jumlah
data.
Wihandaru Sotya Pamungkas Pendahuluan 9
E
E
.
.
M
M
e
e
m
m
i
i
l
l
i
i
h
h
M
M
o
o
d
d
e
e
l
l
E
E
m
m
p
p
i
i
r
r
i
i
s
s
Secara umum dapat dikemukakan bahwa model yang baik adalah:
a. Parsimony, model ekonometrika yang baik hanya memasukkan variabel-variabel yang dianggap penting dan dipilih berdasarkan teori ekonomi serta fenomena yang sesuai.
b. Data admissibility, model ekonometrika yang baik hendaknya mampu memprediksi besaran-besaran ekonomi yang sesuai dengan teori ekonomi.
c. Data coherency, model yang yang baik hendaknya mampu menjelaskan data yang ada. Biasanya kriteria ini menggunakan koefisien determinasi (R2), khususnya peneliti yang menggunakan analisis regresi linier Æ (pelajari koefisien determinasi).
d. Constant parameter, parameter yang diestimasi harus konstan dalam arti bahwa parameter dari model yang baik adalah besaran statistik yang deterministik (pasti) dan bukan
Wihandaru Sotya Pamungkas Pendahuluan 10
stokastik.
e. Theoritical consistency, model yang baik adalah model yang konsisten dengan teori ekonomi yang dipilih atau teori pesaingnya. Cara sederhana untuk mengidentifikasi apakah hasil estimasi mempunyai indikasi konsisten dengan teori adalah melihat tanda koefisien regresi. Misal harga saham berbanding terbalik dengan beta (risiko), semakin tinggi beta
(risiko) semakin rendah harga saham, sehingga tanda
[negatif].
f. Encompassing, model yang digunakan mampu mengungguli model pesaingnya (model yang lain).
F
F
.
.
A
A
s
s
u
u
m
m
s
s
i
i
K
K
l
l
a
a
s
s
i
i
k
k
Dalam buku ekonometrika ada beberapa asumsi klasik, yaitu (Gujarati, 1999):
a. Model regresi adalah linier, yaitu linier di dalam parameter. b. Nilai Xi (variabel penjelas) adalah tetap untuk sampel yang
Wihandaru Sotya Pamungkas Pendahuluan 11
c. Conditional expected value dari residual tergatung pada Xi
adalah 0.
d. Homoskedastisitas.
e. Tidak otokorelasi pada residual. f. Kovarian antara ei dan Xi adalah 0
g. Jumlah observasi harus lebih banyak dibanding banyaknya parameter yang akan diestimasi (n> Xi).
h. Variabilitas pada Xi, yaitu Xi dalam sampel tertentu harus mempunyai nilai yang tidak sama.
i. Spesifikasi dari model regresi (model estimasi) yang digunakan harus benar.
j. Tidak ada multikolinieritas sempurna.
Wihandaru Sotya Pamungkas Pendahuluan 12
G
G
.
.
K
K
e
e
a
a
n
n
d
d
a
a
l
l
a
a
n
n
E
E
s
s
t
t
i
i
m
m
a
a
s
s
i
i
Keandalan estimasi parameter dapat dikaji melalui 3 kriteria: a. Kriteria ekonomi, kriteria ini didasarkan pada teori ekonomi
dan berhubungan dengan tanda dan magnitude parameter. b. Kriteria statistika, kriteria ini didasarkan pada (a) uji F (uji
signifikansi secara serentak), (b) uji t (uji signifikansi secara partial) dan (c) Koefisien determinasi (R2) atau goodness of fit.
c. Kriteria penyimpangan terhadap asumsi klasik, kriteria ini antara lain: (a) normalitas, (b) linieritas, (c) multikolinearitas, (d) homoskedastisitas dan (e) non-otokorelasi.
Wihandaru Sotya Pamungkas Pendahuluan 13
H
H
.
.
S
S
i
i
f
f
a
a
t
t
B
B
L
L
U
U
a. Best: sifat varian terkecil secara sendirian tidak dibutuhkan, karena suatu taksiran memiliki varian nol [0], namun memiliki penyimpangan yang besar (enormous bias). Sifat varian minimum dibutuhkan jika dikombinasikan dengan sifat tidak bias (un-biasedness). Sifat ini penting dalam uji statistik (uji signifikansi) baku terhadap konstanta (b0) dan
koefisien regresi (b1 .. bk), serta membuat interval
keyakinan taksiran-taksiran.
b. Linear: sifat ini dibutuhkan untuk memudahkan perhitungan dalam penaksiran.
c. Un-biasedness: secara sendirian sifat ini tidak bergunan, namun akan bergunan jika jumlah sampel sangat besar. Penaksir parameter diperoleh dari sampel besar diharapkan dapat lebih mendekati pada nilai parameter sebenarnya.
Wihandaru Sotya Pamungkas Pendahuluan 14
D
D
a
a
f
f
t
t
a
a
r
r
P
P
u
u
s
s
t
t
a
a
k
k
a
a
Ghozali, Imam (2007), Edisi 4, Aplikasi Analisis Multivariate
dengan Program SPSS, BP Universitas Diponegoro,
Semarang.
Gujarati, Damodar N. (1995), Third Edition, Basics Econometrics, McGraw-Hill, New York.
Sumodiningrat, Gunawan (1998), Edisi I, Ekonometrika