ANALISIS
REGRESI SEDERHANA
SEJARAH REGRESI
Istilah Regresi diperkenalkan oleh Fancis Galtom
“Meskipun ada kecenderungan bagi orang tua yang tinggi mempunyai anak-anak yang tinggi, dan bagi orang tua yang pendek mempunyai anak yang pendek, distribusi tinggi dari suatu populasi tidak berubah secara menyolok (besar) dari generasi ke generasi”.
Regresi = “Kemunduran ke arah sedang”
ILUSTRASI
Pengertian Regresi
Analisis regresi merupakan studi ketergantungan satu atau lebih variabel bebas terhadap variabel tidak bebas. Dengan maksud untuk meramalkan nilai variabel tidak bebas.
Contoh Penerapan Analisis Regresi
1. Analisis Regresi antara tinggi orang tua terhadap tinggi anaknya (Gultom).
2. Analisis Regresi antara pendapatan terhadap konsumsi rumah tangga.
3. Analisis Regresi antara harga terhadap penjualan barang.
4. Analisis Regresi antara tingkat upah terhadap tingkat pengangguran.
5. Analisis Regresi antara tingkat suku bunga bank terhadap harga saham
6. Analisis regresi antara biaya periklanan terhadap volume penjualan perusahaan.
PENAMAAN VARIABEL
Variable Y yang nilainya akan diramalkan disebut variable tidak bebas (dependent variable)
sedangkan variable X yang nilainya digunakan untuk meramalkan nilai Y disebut variable bebas (independent variable) atau variable peramal (predictor) dan sering kali disebut variable yang menerangkan (exsplanatory).
Scatter Plot Examples
y
x y
x
y y
x
x Strong
relationships
Weak
relationships
Scatter Plot Examples
y
x y
x No
relationship
Perbedaan mendasar antara korelasi dan regresi ?
Korelasi hanya menunjukkan
sekedar hubungan.
Dalam korelasi
variabel tidak ada istilah tergantung dan variabel bebas.
Regresi menunjukkan hubungan pengaruh.
Dalam regresi terdapat istilah tergantung dan variabel bebas.
Istilah dan notasi variabel dalam regresi ?
Y
Varaibel tergantung (Dependent Variable)
Variabel yang dijelaskan (Explained Variable)
Variabel yang diramalkan (Predictand)
Variabel yang diregresi (Regressand)
Variabel Tanggapan (Response)
X
Varaibel bebas (Independent Variable)
Variabel yang menjelaskan (Explanatory Variable)
Variabel peramal (Predictor)
Variabel yang meregresi (Regressor)
Variabel perangsang atau kendali (Stimulus or control variable)
Persamaan Regresi
Persamaan Regresi linier Sederhana:
Y = + X +
Y = Variabel tidak bebas ,= = Parameter
= Koefesien regresi X = Variabel bebas
= Nilai Residu, galat
2 2
) (
) (
) )(
( ) (
X X
n
Y X
XY b n
n
X b
a Y ( )
Uji Pengaruh Variabel Independen terhadap Variabel Dependen
Uji Pengaruh Variabel Independen terhadap Variabel Dependen
Uji Pengaruh Variabel Independen terhadap Variabel Dependen
2. Menentukan taraf nyata dan nilai kritis Nilai kritis menggunakan Tabael Distribusi t dengan tingkat signifikansi 1%, 5% atau 10%.
Df = n – k
n jumlah sampel
k jumlah variabel (dependen dan independen)
Uji Pengaruh Variabel Independen terhadap Variabel Dependen
3. Menentukan nilai hitung t hitung = b -
Sb
n X X
Sb Se
2
2 ( )
k n
Y Se Y
( ˆ)2
Uji Pengaruh Variabel Independen terhadap Variabel Dependen
4. Keputusan
Batas antara daerah penerimaan H0 dan daerah penolakan H0 adalah nilai kritis.
t/2 -t/2
Daerah
penolakan H0
Daerah Penolakan H0
Daerah
penerimana H0
0
t/2
Daerah Penolakan H0
Daerah
penerimana H0
0
-t/2
Daerah
penolakan H0 Daerah
penerimana H0
0
Uji Pengaruh Variabel Independen terhadap Variabel Dependen
Uji Pengaruh Variabel Independen terhadap Variabel Dependen
Lets take a break . . .
Contoh Kasus:
Seorang manajer pemasaran akan meneliti apakah terdapat pengaruh iklan terhadap penjualan pada perusahaan-perusahaan di Kabupaten WaterGold, untuk kepentingan penelitian tersebut diambil 8 perusahaan sejenis yang telah melakukan promosi.
Pemecahan
1. Judul
Pengaruh biaya promosi terhadap penjualan perusahaan.
2. Pertanyaan Penelitian
– Apakah terdapat pengaruh positif biaya promosi terhadap penjualan perusahaan ?
3. Hipotesis
– Terdapat pengaruh positif biaya promosi terhadap penjualan perusahaan.
4. Kriteria Penerimaan Hipotesis
Ho : Tidak terdapat pengaruh positif biaya iklan terhadap penjualan perusahaan.
Ha : Terdapat pengaruh positif biaya iklan terhadap penjualan perusahaan.
Ho diterima Jika
b ≤ 0, t hitung ≤ tabel
Ha diterima Jika
b > 0, t hitung > t tabel.
5. Sampel
8 perusahaan
6. Data Yang dikumpulkan
Penjualan (Y) 64 61 84 70 88 92 72 77
Promosi (X) 20 16 34 23 27 32 18 22
7. Analisis Data
Untuk analisis data diperlukan, perhitungan:
1.Persamaan regresi 2.Nilai Prediksi
3.Koefesien determinasi 4.Kesalahan baku estimasi
5.Kesalahan baku koefesien regresinya 6.Nilai F hitung
7.Nilai t hitung 8.Kesimpulan
Persamaan Regresi
Y X XY X2 Y2
64 20 1280 400 4096
61 16 976 256 3721
84 34 2856 1156 7056
70 23 1610 529 4900
88 27 2376 729 7744
92 32 2944 1024 8464
72 18 1296 324 5184
77 22 1694 484 5929
608 192 15032 4902 47094
2 2
) (
) (
) )(
( ) (
X X
n
Y X
XY b n
497 , ) 1
192 ( ) 4902 (
8
) 609 )(
192 ( ) 15032 (
8
2
b
082 ,
8 40
) 192 (
497 ,
1 )
608
(
a
n
X b
a Y ( )
Y= 40,082 + 1,497X+e
Nilai Prediksi
Berapa besarnya penjualan jika promosi sebesar 20?
40,082 + (1,497*20)= 70,022
Berapa besarnya penjualan jika promosi sebesar 16?
40,082 + (1,497*16)=64,034
Berapa besarnya penjualan jika promosi sebesar 34?
40,082 + (1,497*34)= 90,98
Berapa besarnya penjualan jika promosi sebesar 23?
40,082 + (1,497*23)= 74,513
Berapa besarnya penjualan jika promosi sebesar 27?
40,082 + (1,497*27)=80,501
Berapa besarnya penjualan jika promosi sebesar 32?
40,082 + (1,497*32)= 87,986 Dan seterusnya……….!!!
No Y X XY X2 Y2 Ypred (Y-Ypred)2 (Y-Yrata)2
1 64 20 1280 400 4096 70.022 36.264 144
2 61 16 976 256 3721 64.034 9.205 225
3 84 34 2856 1156 7056 90.98 48.720 64
4 70 23 1610 529 4900 74.513 20.367 36
5 88 27 2376 729 7744 80.501 56.235 144
6 92 32 2944 1024 8464 87.986 16.112 256
7 72 18 1296 324 5184 67.028 24.721 16
8 77 22 1694 484 5929 73.016 15.872 1
Jlh 608 192 15032 4902 47094 608.08 227.497 886
Koefesien Determinasi
Koefesien determinasi:
2
2 2
) (
ˆ) 1 (
Y Y
Y
R Y 0,743
) 886 (
) 497 ,
227 1 (
2
R
Koefesien Determinasi Disesuaikan (adjusted)
1 ) 1
( 2
2
N P
R R P
Radj 0,70
1 1 8
) 743 , 0 1 ( 743 1 ,
0
adj R
Kesalahan Baku Estimasi
Digunakan untuk mengukur tingkat
kesalahan dari model regresi yang dibentuk.
k n
Y Se Y
( ˆ)2 6,1576
2 8
) 467 ,
227
(
Se
Standar Error Koefesien Regresi
Digunakan untuk mengukur besarnya tingkat kesalahan dari koefesien regresi:
n X X
Sb Se
2
2 ( ) 0,359
8 ) 192 ) (
4902 (
1576 ,
6
1 2
Sb
Uji F
Uji F digunakan untuk uji ketepatan model, apakah nilai prediksi mampu menggambarkan kondisi sesungguhnya:
Ho: Diterima jika F hitung F tabel
Ha: Diterima jika F hitung > F tabel
) /(
1
) 1 /(
2 2
k n R
k F R
17,367
) 2 8 /(
743 , 0 1
) 1 2 /(
743 ,
0
F
Karena F hitung (17,367) > dari F tabel (5,99) maka persamaan regresi dinyatakan Baik (good of fit).
Uji t
Digunakan untuk mengatahui pengaruh variabel bebas terhadap variabel tergantung.
Ho: Diterima jika t hitung t tabel
Ha: Diterima jika t hitung > t tabel
Sbj
Thitung bj 4,167
359 ,
0
497 ,
1
hitung t
Karena t hitung (4,167) > dari t tabel (1,943) maka Ha diterima ada pengaruh iklan terhadap penjualan.
SUMMARY OUTPUT
Regression Statistics
Multiple R 0.862
R Square 0.743
Adjusted R Square 0.700 Standard Error 6.158
Observations 8
ANOVA
df SS MS F Significan
ce F Regression 1 658.503 658.503 17.367 0.006
Residual 6 227.497 37.916
Total 7 886
Coefficien
ts Standard
Error t Stat P-value Intercept 40.082 8.890 4.509 0.004
X 1.497 0.359 4.167 0.006
Persamaan regresi linier:
Y = 40,082 + 1,497X
Kesalahan standar deviasi Sb = 0.359 Nilai t hitung = 4.167. nilai ini digunakan
dalam pengujian terhadap koefisien regresi untuk mengetahui apakah variable independen berpengaruh
secara signifikan terhadap perubahan nilai variabel dependen
Untuk kasus ini 5% nilai kritisnya adalah (lihat tabel distribusi normal):
t(n-k; /2) = t(8-2;0.025) = + 2.447
t.Hitung = 4.167 lebih besar dari t.kritis = 2.447. keputusannya adalah menolak H0. Artinya, secara statistik X
berpengaruh terhadap Y
Pengaruh X terhadap Y dapat juga dilihat melalui p-value
p-value = 0.00590 lebih kecil bila dibandingkan dengan 0.05,
sehingga keputusannya menolak H0.
Artinya, secara statistik X berpengaruh terhadap Y. ini konsisten dengan hasil pengujian menggunakan nilai t.hitung.
Koefisien determinasi r square = 0.743
Digunakan untuk mengetahui presentase pengaruh variabel
independen terhadap perubahan
variabel dependen. Artinya, pengaruh variabel X terhadap perubahan
variabel Y adalah 74.3%, sedangkan sisanya 25.7% dipengaruhi variabel lain selain variabel X.
Nilai F ratio = 17.367
Dapat digunakan dalam pengujian untuk mengetahui apakah variasi nilai
variabel independen secara statistik dapat menjelaskan variasi nilai
variabel dependen.
KESIMPULAN DAN IMPLIKASI
KESIMPULAN
Terdapat pengaruh positif biaya periklanan terhadap volume penjualan.
IMPLIKASI
Sebaiknya perusahaan terus meningkatkan periklanan agar penjualan meningkat.
Tugas:
Carilah persamaan regresi dari data berikut:
X 3 4 5 6 7 8 9
Y 12 11 13 12 13 14 16
ANALISIS
REGRESI BERGANDA
ANALISIS
REGRESI BERGANDA
Dalam kasus nyata, sering diinginkan
persamaan regresi yang akan digunakan untuk mengistimasi suatu variabel yang melibatkan lebih dari dua variabel
independen
ANALISIS
REGRESI BERGANDA
Persamaan regresi yang melibatkan lebih dari dua variabel independen akan sulit ditentukan dengan menggunakan cara manual.
Y = a + b1X1 + b2X2 = b3X3 + …+ bnXn
ANALISIS
PERSAMAAN REGRESI
Untuk mengetahui atau menaksir nilai variabel dependen, perlu diketahui:
1.Koefisien regresi (uji parsial) {uji hipotesis}
2.Persentase pengaruh semua variabel independen secara bersama-sama thd nilai variabel dependen {R square}
3.Pengaruh semua variabel independen secara bersama-sama thd nilai variabel dependen (uji simultan) {uji F}
Y X1 X2
1 100 1 200
2 300 5 700
3 400 8 800
4 200 6 400
5 100 3 100
6 400 10 600
Y = 6.3972 + 20.4921X1 + 0.2805X2
Sb (5.8822) (0.0689)
t.test (3.484) (4.089)
R square = 0.9737
F.ratio = 55.440
Pengujian Terhadap Koefisien Regresi (Uji Parsial)
Pengujian Terhadap Koefisien Regresi (Uji Parsial) ….. lanjutan
3. Nilai t.test (t.hitung) t.test untuk 1 = 3.484 t.test untuk 2 = 4.089
4. Pengambilan Keputusan
Nilai t.test dari setiap koefisien regresi terletak di daerah penolakan H0. maka, keputusannya
adalah menolak H0 dan menerima H1
Pengujian Terhadap Koefisien Regresi (Uji Parsial) ….. lanjutan
5. Kesimpulan
Nilai koefisien regresi dari setiap persamaan regresi berbeda dengan 0. sehingga dapat disimpulkan bahwa kedua variabel
independen tersebut (X1 dan X2)
berpengaruh terhadap variabel dependen (Y)
Pengukuran Persentase Pengaruh Semua Variabel Independen
Koefisien determinasi (R square) adalah 0.9737. artinya, pengaruh semua variabel independen terhadap perubahan nilai
variabel dependen adalah 97.37% dan
sisanya (2.63%) dipengaruhi oleh variabel lain selain variabel independen yang
digunakan (X1 dan X2).
Pengukuran Persentase Pengaruh
Semua Variabel Independen … lanjutan
Persentase pengaruh variabel independen
terhadap variabel dependen dalam persamaan regresi tersebut menunjukkan pengaruh yang besar (97.37%). Sehingga, jika diukur dari
besarnya pengaruh variabel independen thd perubahan nilai variabel dependen tsb, maka persamaan regresi yang dihasilkan baik utk menaksir nilai variabel dependen
Pengujian Terhadap Pengaruh Variabel Independen Secara Bersama (Uji
Simultan)
Menggunakan distribusi F dengan membandingkan antara nilai kritis dengan nilai F.test (F.ratio)
Pengujian thd pengaruh variabel independen
secara bersama-sama thd perubahan nilai variabel dependen dilakukan melalui pengujian thd
besarnya perubahan nilai variabel yang dijelaskan oleh perubahan nilai semua variabel independen
Pengujian Terhadap Pengaruh Variabel Independen Secara Bersama (Uji
Simultan) … lanjutan
1. Perumusan Hipotesis
H0: Variasi perubahan nilai variabel
independen tidak dapat menjelaskan variasi perubahan nilai variabel dependen.
H1 : Variasi perubahan nilai variabel independen dapat menjelaskan variasi perubahan nilai variabel dependen.
Pengujian Terhadap Pengaruh Variabel Independen Secara Bersama (Uji
Simultan) … lanjutan
2. Nilai Kritis
F(2;3;0.05) = 9.55 3. Nilai F.test
F.Test = 55.400 (lihat tabel anova, F.ratio) 4. Keputusan
Nilai F.test terletak di daerah penolakan H0, sehingga keputusannya adalah menolak H0 dan menerima H1
Pengujian Terhadap Pengaruh Variabel Independen Secara Bersama (Uji
Simultan) … lanjutan
5. Kesimpulan
Dapat disimpulkan bahwa variasi perubahan nilai variabel dependen dapat dijelaskan oleh variasi perubahan nilai semua variabel
independen. Artinya, semua variabel
independen (X1 dan X2) secara bersama- sama (secara simultan) dapat berpengaruh thd variabel dependen (Y)
KESIMPULAN
Persamaan regresi yang diperoleh dapat (baik) digunakan untuk menaksir nilai
variabel dependen (Y) pada nilai variabel
independen (X1,X2) tertentu. Kesimpulan ini didukung oleh:
KESIMPULAN
1. Hasil pengujian secara parsial diperoleh
kesimpulan bahwa setiap variabel independen (X1,X2) berpengaruh terhadap perubahan nilai variabel dependen (Y)
2. R square yang tinggi, yaitu 0.9737. ini
menunjukkan besarnya pengaruh semua
variabel independen (X1,X2) adalah 97.37%.
Sedangkan sisanya, 2,63% dipengaruhi oleh variabel selain X1 dan X2
KESIMPULAN … lanjutan
3. Hasil pengujian terhadap variasi
perubahan nilai variabel dependen (Y) yang dapat dijelaskan oleh variasi perubahan nilai variabel independen (X1 dan X2) dapat
dibuktikan bahwa semua variabel
independen secara bersama-sama (secara simultan) dapat mempengaruhi variabel
dependen (Y)