BAB 2
LANDASAN TEORI
2.1 Pengertian Regressi
Dalam Ilmu Statistika yang umum digunakan untuk menganalisa hubungan antara dua
variabel atau lebih adalah analisa regresi linier. Regresi pertama digunakan sebagai konsep
statistik pada tahun 1877 oleh Sir Francis Galton. Dia telah melakukan studi tentang kecenderungan tinggi badan anak. Hasil studi tersebut merupakan suatu kesimpulan bahwa
kecenderungan tinggi badan anak yang lahir terhadap orang tuanya adalah menurun
mengarah pada tinggi badan rata-rata penduduk. Istilah regresi pada mulanya bertujuan untuk
membuat perkiraan nilai satu variabel terhadap variabel yang lain. Pada perkembangan
selanjutnya, analisis regresi dapat digunakan sebagai alat untuk membuat perkiraan nilai
suatu variabel dengan menggunakan beberapa variabel lain yang berhubungan dengan
variabel tersebut. (Alfigari, 2000.Analisis Regresi Teori, kasus dan solusi, Edisi Kedua, Yogyakarta : BPFE halaman 1 dan 2)
Pada dasarnya dalam suatu persamaan regresi terdapat dua macam variabel, yaitu
variabel bebas (independent variable) yang dinyatakan dengan simbol X dan variabel terikat (dependent variable) yang biasanya dinyatakan dengan simbol Y. Variabel terikat adalah variabel yang dipengaruhi atau yang nilainya bergantung dari nilai variabel lain. Variabel
bebas adalah variabel yang memberikan pengaruh. Bila variabel bebas diketahui maka
variabel terikatnya dapat diprediksi besarnya. Prinsip dasar yang harus dipenuhi dalam
membangun suatu persamaan regresi adalah bahwa antara variabel terikat dengan variabel
2.2 Analisis Regressi Linier
Analisis regresi merupakan teknik yang digunakan dalam persamaan matematik yang
menyatakan hubungan fungsional antara variabel-variabel. Analisis regresi linier atau regresi
garis lurus digunakan untuk:
1. Menentukan hubungan fungsional antar variabel dependent dengan independent. Hubungan fungsional ini dapat disebut sebagai persamaan garis regresi yang berbentuk
linier.
2. Meramalkan atau menduga nilai dari satu variabel dengan hubungannya dengan variabel
yang lain yang diketahui melalui persamaan garis regresi.
Variabel yang lain diketahui melalui persamaan garis regresinya. Analisis regresi terdiri dari
dua bentuk, yaitu:
1. Analisis Regresi Linier Sederhana
2. Analisis Regresi Linier Berganda
Analisis Regresi Linier Sederhana adalah bentuk regresi dengan model yang bertujuan
untuk mempelajari hubungan antara dua variabel, yakni variabel terikat dan variabel bebas.
Sedangkan analisis regresi berganda adalah bentuk regresi dengan model yang memiliki
hubungan antara satu variabel terikat dengan dua atau lebih variabel bebas. Variabel bebas
adalah variabel yang nilainya tergantung dengan variabel lainya, sedangkan variabel terikat
adalah variabel yang nilainya tergantung dari variabel lainya.
Analisis regresi digunakan untuk mengetahui hubungan antara dua variabel atau lebih,
terutama untuk menelusuri pola hubungan yang modelnya belum diketahui dengan baik, atau
untuk mengetahui bagaimana variasi dari beberapa variabel bebas mempengaruhi variabel
terikat dalam suatu fenomena yang komplek. Jika adalah variabel-variabel
Y dimana variasi dari X akan diiringi pula oleh variasi dari Y. Jika dibuat secara matematis hubungan ini dapat dijabarkan sebagai berikut:
...
(4)
Keterangan:
Y = Variabel terikat (Dependent)
X = Variabel bebas (Independent)
e = Variabel residu (Disturbace term)
Berkaitan dengan analisis regresi ini, setidaknya ada empat kegiatan yang lazim dilaksanakan
yakni:
1. Mengadakan estimasi terhadap parameter berdasarkan data empiris.
2. Menguji berapa besar variasi variabel dependent dapat diterangkan oleh variasi
independent.
3. Menguji apakah estimasi parameter tersebut signifikan atau tidak.
4. Melihat apakah tanda menghitung dari estimasi parameter cocok dengan teori.
2.2.1 Analisis Regressi Linier Sederhana
Analisis regresi linier sederhana terdiri dari satu variabel bebas dan satu variabel terikat.
Dengan kata lain variabel yang dianalisis terdiri dari satu variabel prediktor dan satu variabel
kriterium. Model regresi linier sederhananya adalah
...
(5)
Keterangan:
Y = Variabel terikat (dependent variable) X = Variabel bebas (independent variable)
b = Kemiringan (slope)
Penggunaan regresi linier sederhana didasarkan pada asumsi, diantaranya sebagai berikut:
1. Model regresi harus linier dalam parameter.
2. Variabel bebas tidak berkolerasi dengan disturbance term (eror). 3. Nilai disturbance term sebesar 0 atau dengan simbol sebagai e.
4. Varian untuk masing-masing error term (kesalahan) konstan 5. Tidak terjadi autokorelasi
6. Model regresi dispesifikasikan secara benar. Tidak terdapat bias spesifikasi dalam model
yang digunakan dalam analisis empiris.
Koefisien - koefisien regresi a dan b dapat dihitung dengan rumus:
∑ (∑ ∑ ) ∑ ∑ ∑
∑ ∑ ∑ ∑ ∑
Jika koefisien b terlebih dahulu dihitung, maka koefisien a dapat dihitung dengan rumus:
̅ ̅
...
(6)
Dengan ̅dan ̅ masing-masing rata-rata untuk variabel-variabel X dan Y.
2.2.2 Analisis Regressi Linier Beganda
Regresi linier ganda (Multiple Regression) berguna untuk mencari pengaruh atau untuk meramalkan dua variabel prediktor atau lebih terhadap variabel kriteriumnya. Suatu
persamaan regresi linier yang memiliki lebih dari satu variabel bebas X dan satu variabel
terikat Y akan membentuk suatu persamaan regresi yang baru, disebut persamaan regresi
dengan model regrei linier sederhana, letak perbedaanya hanya pada jumlah variabel
bebasnya. Secara umum model regresi linier berganda adalah sebagai berikut:
...
(7)
Untuk memudahkan pengolahan data, maka data-data dapat dimasukkan ke dalam
tabel. Bentuk umum dari tabel untuk variabel penduga yang lebih dari satu adalah seperti
bentuk tabel di bawah ini:
Tabel 2.1 Bentuk Umum Tabel Data Regresi Linier Berganda
Dalam penelitian ini digunakan empat variabel yang terdiri dari satu variabel terikat
(Y) dan tiga variabel bebas (X). Maka persamaan regresi bergandanya adalah:
...
(8)
Persamaan diatas dapat diselesaikan dengan empat bentuk, yaitu:
∑ ∑ ∑ ∑
∑ ∑ ∑ ∑ ∑
∑ ∑ ∑ ∑ ∑
∑ ∑ ∑ ∑ ∑
Sistem persamaan diatas tersebut dapat disederhanakan sedikit, apabila diambil
̅ ̅ ̅ ̅
Maka persamaan sekarang menjadi:
...
(9)
Koefisien-koefisien untuk persamaan tersebut dapat dihitung dengan rumus:
∑ ∑ ∑ ∑
∑ ∑ ∑ ∑ ∑
∑ ∑ ∑ ∑ ∑
∑ ∑ ∑ ∑ ∑
Dengan penggunaan dan y yang baru, maka diperoleh harga
. Harga setiap koefisien penduga yang diperoleh kemudian disubsitusikan ke
persamaan awal sehingga diperoleh model regresi linier berganda y atas
2.3 Uji Keberartian Regressi
Sebelum persamaan regresi yang diperoleh digunakan untuk membuat kesimpulan, terlebih
dahulu diperiksa setidak-setidaknya mengenai kelinieran dan keberartiannya. Pemeriksaan ini
ditempuh melalui pengujian hipotesis. Uji keberartian dilakukan untuk meyakinkan diri
apakah regresi yang didapat berdasarkan penelitian ada artinya bila dipakai untuk membuat
kesimpulan mengenai hubungan sejumlah peubah yang sedang dipelajari.
Untuk itu diperlukan dua macam jumlah kuadrat (JK) yaitu jumlah kuadrat untuk
regresi yang ditulis dan jumlah kuadrat untuk sisa (residu) yang ditulis dengan . Jika ̅ ̅ ̅ ̅ maka secara umum jumlah kuadrat-kuadrat tersebut dapat dihitung dengan rumus sebagai berikut:
∑
∑
∑
... (10)
Dengan derajat kebebasan dk = k
∑ ̂
...
(11)
Dengan derajat kebebasan dk= (n – k – 1) untuk sampel berukuran n. Dengan demikian uji
keberartian regresi berganda dapat dihitung dengan:
...
(12)
Dimana statistik F yang menyebar mengikuti distribusi F dengan derajat kebebasan
pembilang
2.3.1 Pengujian Hipotesis
Pengujian hipotesis merupakan salah satu tujuan yang akan dibuktikan dalam penelitian. Jika
kemungkinan untuk terjadinya kesalahan dalam mengambil keputusan antara menolak atau
menerima suatu hipotesis.
Pengujian hipotesis dapat didasarkan dengan menggunakan dua hal, yaitu : tingkat
signifikansi atau probabilitas dan tingkat kepercayaan atau confidence interval. Didasarkan tingkat signifikansi pada umumnya orang menggunakan 0,05. Kisaran tingkat
signifikansi mulai dari 0,01 sampai dengan 0,1. Yang dimaksud dengan tingkat signifikansi
adalah probabilitas melakukan kesalahan tipe 1, yaitu kesalahan menolak hipotesis ketika
hipotesis tersebut benar. Tingkat kepercayaan pada umumnya ialah sebesar 95%, yang
dimaksud dengan tingkat kepercayaan ialah tingkat dimana sebesar 95% nilai sampel akan
mewakili nilai populasi dimana sampel berasal. Dalam melakukan uji hipotesis terdapat dua
hipotesis, yaitu: (hipotesis 0) dan (hipotesis alternatif). bertujuan untuk memberikan
usulan dugaan kemungkinan tidak adanya perbedaan antara perkiraan penelitian dengan
keadaan yang sesungguhnya yang akan diteliti. bertujuan memberikan usulan dugaan
adanya perbedaan perkiraan dengan keadaan sesungguhnya yang akan diteliti.
Pembentukan suatu hipotesis memerlukan toeri-teori maupun hasil penelitian terlebih
dahulu sebagai pendukung pernyataan hipotesis yang diusulkan. Dalam membentuk hipotesis
ada beberapa hal yang dipertimbangkan, yaitu:
1. Hipotesis nol dan hipotesis alternative yang diusulkan
2. Daerah penerimaan dan penolakan serta teknik arah pengujian (one tailed atau two tailed).
3. Penentuan nilai hitung statistik.
4. Menarik kesimpulan apakah menerima atau menolak hipotesis yang diusulkan dalam uji
keberartian regresi.
Langkah-langkah yang dibutuhkan untuk pengujian hipotesis ini antara lain.
Tidak terdapat hubungan fungsional yang signifikan antara variabel bebas dengan
variabel terikat.
Terdapat hubungan fungsional yang signifikan antara variabel bebas dengan variabel
terikat.
2. Pilih taraf nyata yang diinginkan.
3. Hitung statistik dengan menggunakan persamaan.
4. Nilai menggunakan daftar table F dengan taraf signifikansi yaitu: .
5. Kriteria pengujian : jika , maka ditolak dan diterima. Sebaliknya jika , maka diterima dan ditolak.
2.3.2 Koefisien Determinasi
Koefisien determinasi yang dinyatakan dengan untuk pengujian regresi linier berganda
yang mencakup lebih dari dua variabel adalah untuk mengetahui proporsi keragaman total
dalam variabel tak bebas (Y) yang dapat dijelaskan atau diterangkan oleh variabel-variabel
bebas (X) yang ada di dalam model persamaan regresi linier berganda secara bersama-sama.
Maka akan ditentukan dengan rumus, yaitu:
=
∑
. ...
(13)
Keterangan:
= Jumlah kuadrat regresi
Harga yang diperoleh sesuai dengan variansi yang dijelaskan masing-masing
penduga yang disebabkan oleh variabel yang berpengaruh saja ataupun dengan kata lain
hanya yang bersifat nyata.
2.4 Uji Korelasi
Analisa korelasi dilakukan untuk mengetahui hubungan antara dua variabel (bivariate correlation) atau lebih dari 2 variabel (multivariate correlation) dalam
suatu penelitian. Untuk menentukan seberapa besar hubungan antar variabel tersebut dapat
dihitung dengan menggunakan rumus koefisien korelasi.
Rumus untuk koefisien regresi adalah:
∑ ∑ ∑
√{ ∑ ∑ }{ ∑ ∑ }
...
(14)
Adapun untuk menghitung koefisien korelasi antara variabel terikat Y dan variabel bebas
yaitu :
1. Koefisien korelasi antara Y dan
∑ ∑ ∑
√{ ∑ ∑ }{ ∑ ∑ }
2. Koefisien korelasi antara Y dengan
∑ ∑ ∑
√{ ∑ ∑ }{ ∑ ∑ }
3. Koefisien korelasi antara Y dan
∑ ∑ ∑
Koefisien korelasi memiliki nilai antara -1 hingga +1. Sifat nilai koefisien korelasi
adalah (+) ataupun minus (-) yang menunjukan arah korelasi. Makna dari sifat korelasi
adalah:
1. Tanda positif (+) pada koefisien korelasi menunjukan hubungan searah atau koefisien
positif. Artinya jika nilai suatu variabel mengalami kenaikan maka nilai variabel yang
lain juga mengalami kenaikan dan demikian juga sebaliknya.
2. Tanda negatif (-) pada koefisien korelasi menunjukan hubungan yang berlawanan arah
atau korelasi negatif. Artinya jika nilai suatu variabel mengalami kenaikan maka nilai
variabel yang lain akan mengalami penurunan dan demikian juga sebaliknya.
Sifat korelasi akan menentukan arah korelasi. Keeratan korelasi dapat dikelompokan sebagai
berikut.
Interval Koefisien Tingkat Hubungan
0,80 - 1,000 Sangat Kuat
0,60 - 0,799 Kuat
0,40 - 0,599 Cukup Kuat
0,20 - 0,399 Rendah
0 - 0,199 Sangat Rendah
2.5 Kesalahan Standart Estimasi
Untuk mengetahui ketetapan persamaan estimasi dapat digunakan kesalahan standar estimasi
(standard error of estimate). Besarnya kesalahan standar estimasi menunjukan ketetapan persamaan estimasi untuk menjelaskan nilai variabel tidak bebas yang sesungguhnya.
Semakin kecil nilai kesalahan standar estimasi tersebut, makin tinggi ketetapan persamaan
estimasi yang dihasilkan untuk menjelaskan nilai variabel tidak bebas sesungguhnya.
estimasi yang dihasilkan untuk menjelaskan nilai variabel tidak sesungguhnya. (Alfigari, 2000.Analisis Regresi Teori, kasus dan solusi, Edisi Kedua, Yogyakarta : BPFE halaman 1 dan 2).
Kesalahan standar estimasi (kekeliruan baku taksiran) dapat ditentukan dengan rumus:
√
∑ ̂. ...
(15)
Dimana adalah nilai data sebenarnya dan ̂ adalah nilai taksiran.
2.6 Uji Signifikansi Koefisien Regressi Linier Berganda
Untuk mengetahui bagaimana keberartian setiap variabel bebas dalam regresi, perlu diadakan
pengujian tersendiri mengenai koefisien-koefisien regresi.
Model persamaan regresi linier berganda:
̂
...
(16)
Perumusan Hipotesa:
: dimana i = 1,2,…, k
: dimana i = 1,2,…, k
Perhatikan bahwa hipotesis nol menyatakan koefisien regresi populasi ke- (
bernilai nol. Dengan kata lain, variabel bebas ke- memiliki pengaruh yang tidak signifikan
secara statistik terhadap variabel tak bebas, dengan mengontrol pengaruh dari variabel bebas
lain. Hipotesis alternative menyatakan koefisien regressi populasi ke- ( tidak bernilai
nol. Dengan kata lain, variabel bebas ke- mempunyai pengaruh yang signifikan secara
statistik terhadap variabel tak bebas, dengan mengontrol pengaruh dari variabel bebas yang
Untuk pengambilan keputusan terhadap hipotesis, dapat dilakukan dengan
membandingkan nilai statistik dari uji t ( ) terhadap nilai kritis berdasarkan table distribusi t ( ). Berikut aturan pengambilan keputusan terhadap hipotesis
Berdasarkan uji t:
Jika | maka diterima dan ditolak. Jika | maka ditolak dan diterima.
Pengambilan keputusan terhadap hipotesis juga dapat dilakukan dengan menggunakan
pendekatan nilai probabilitas dari uji t. Nilai probabilitas dari uji t dibandingkan dengan
tingkat signifikansi yang digunakan. Berikut aturan pengambilan keputusan terhadap
hipotesis berdasarkan pendekatan nilai probabilitas. (Gio, Prana Ugiana. 2015. Belajar Statistika dengan SPSS. Medan: USU Press)
