1
Regresi Linier Sederhana
Diah Indriani
Bagian Biostatistika dan Kependudukan Fakultas Kesehatan Masyarakat Universitas Airlangga
Definisi Pengaruh
Jika terdapat 2 variabel, misalkan X dan Y yang data-datanya diplot seperti gambar dibawah
Y
X Y
3 Y
X Y
X Y
X
Definisi Pengaruh
Maka plot data yang membentuk suatu pola tertentu menunjukkan bahwa variabel X dan Y membentuk suatu hubungan
X Y hubungan
5
Definisi Pengaruh
Jika sudah jelas arah hubungannya
Mana variabel yang mempengaruhi ? Mana variabel yang dipengaruhi ? Maka disebut Pengaruh
Jika belum jelas variabel yang dipengaruhi / mempengaruhi (belum jelas arah hubungannya), maka disebut Hubungan
Regresi Linier Y Terhadap X
Jika pola yang membentuk hubungan X dan Y membentuk suatu garis lurus, maka disebut
Pengaruh Linier
Dimana :
7
Plot antara X dan Y
Regresi Linier Y Terhadap X
Garis lurus tersebut membentuk persamaan :
Y = a + bX a disebut intersep b disebut slope
Y
X
Intersep
Bila X = 0 maka Y = a
Y
X a
.
Bila a = 0 maka garis akan melalui titik (0,0)
Y
9
Slope
Slope = kemiringan
Y = a + bX
Perubahan 1 satuan pada X mengakibatkan perubahan b satuan pada Y, sehingga Y mengukur kemiringan/slope garis tersebut.
Slope
1 satuan
b satuan
α
Y
11
Slope
Bila b positif
Bertambahnya nilai X mengakibatkan bertambahnya nilai Y
Bila b negatif
Bertambahnya nilai X mengakibatkan berkurangnya nilai Y
Regresi Linier Sederhana
Model regresi linier yang hanya melibatkan satu variabel bebas (X). Model regresinya sbb:
X
Y
=
α
+
β
Dimana :
Y = variabel terikat
X = variable bebas
13
Regresi Linier Sederhana
Sehingga setiap pasangan pengamatan (Xi, Yi) dalam sampel akan memenuhi persamaan
i i
i
X
Y
=
α
+
β
+
ε
Dimana :
εi = sisaan / galat / eror Atau dalam persamaan dugaannya
i i i
a
bX
e
Y
=
+
+
Sisaan / Galat / Eror
Adalah penyimpangan model regresi dari nilai yang sebenarnya
1 e Y
X
. .
.
.
. . .
. . .
2 e
3
e 4 e
5
e e6 e7 8
e
9
15
Metode Pendugaan Parameter Regresi
α α α
α, ββββ parameter regresi yang akan diduga dari data sampel
a, b penduga parameter regresi
Metode Metode Kuadrat Terkecil (MKT)
(suatu metode pendugaan parameter dengan meminimumkan ∑ / Jumlah Kuadrat Eror / SSE )
=
Metode Pendugaan Parameter Regresi
Nilai dugaan a dan b diperoleh dari proses sbb :
1. Dilakukan turunan pertama terhadap a dan b
17
Metode Pendugaan Parameter Regresi
2. Kedua persamaan hasil penurunan disamkan dengan nol
∑
∑
Metode Pendugaan Parameter Regresi
Penduga Parameter Regresi αααα, ββββ
Dimana :
19
Uji Model Regresi
Dilakukan dengan pendekatan analisis variansi dengan menguraikan komponen-komponen total keragaman dari variabel terikat
SST = SSR + SSE
SST = Sum of Square Total / Jumlah Kuadrat Total
SSR = Sum of Square Regression / Jumlah Kuadrat Regresi SSE = Sum of Square Eror / Jumlah Kuadrat Eror
Uji Model Regresi
21
Uji Model Regresi
Tahapan uji keberartian model regresi sbb: 1. Hipotesis =
H0 : ββββ = 0 H1 : ββββ ≠ 0 dimana
β β β
β = matriks [ β0, β1]
Uji Model Regresi
2. Tabel Analisis Ragam
Komponen Regresi
SS db MS Fhitung
Regresi SSR 1 MSR = SSR/1 MSR / s2
Eror SSE n – 2 s2 = SSE / n-2
23
Uji Model Regresi
3. Pengambilan Keputusan
H0 ditolak jika
pada taraf kepercayaan α
Fhitung
> F
tabel(1 , n-2)Uji Parsial Parameter Regresi
Uji parsial untuk menguji apakah parameter β
berarti pada model secara parsial
Tahapan Ujinya : 1. Hipotesis =
25
Uji Parsial Parameter Regresi
2. Statistik Uji =
Dimana
xx
J
s
b
t
/
0
β
−
=
n X
X J
n
i i n
i i xx
2
1 1
2
− =
∑
∑
== −2
=
n SSE s
Uji Parsial Parameter Regresi
3. Pengambilan Keputusan =
H0 ditolak jika
pada taraf kepercayaan α
27
Uji Intersep Model Regresi
Uji parsial untuk menguji apakah parameter α
berarti pada model secara parsial
Tahapan Ujinya : 1. Hipotesis =
H0 : α = 0 H1 : α ≠ 0
Uji Intersep Model Regresi
2. Statistik Uji =
29
Uji Intersep Model Regresi
3. Pengambilan Keputusan =
H0 ditolak jika
pada taraf kepercayaan α
t
hitung> t
α/2(db= n-2)Selang Kepercayaan Untuk
β
β
β
β
Selang kepercayaan untuk parameter β
dalam persamaan regresi Y = α + βX
%
100
)
1
(
2 / 2
/
β
αα
α
=
−
+
<
<
−
xx
xx
J
s
t
b
J
31
Selang Kepercayaan Untuk
α
α
α
α
Selang kepercayaan untuk parameter α