BAB 2
LANDASAN TEORI
2.1 Analisis Regresi
Perubahan nilai suatu variabel tidak selalu tejadi dengan sendirinya, namun perubahan nilai variabel itu dapat pula disebabkan oleh berubahnya variabel lain yang berhubungan dengan variabel tersebut. Untuk mengetahui pola nilai suatu variabel yang disebabkan oleh variabel lain diperlukan alat analisis yang memungkinkan untuk membuat perkiraan nilai variabel tersebut pada nilai tertentu variabel yang mempengaruhinya.
Teknik yang umum digunakan untuk menganalisis hubungan antara dua atau lebih variabel dalam ilmu statistik adalah analisis regresi. Analisis regresi adalah teknik statistik yang berguna untuk memeriksa dan memodelkan hubungan diantara variabel-variabel. Analisis regresi berguna dalam menelaah hubungan dua variabel atau lebih dan terutama untuk menelusuri pola hubungan yang modelnya belum diketahui dengan sempurna, sehingga dalam penerapannya lebih bersifat eksploratif.
Persamaan regresi yang digunakan untuk membuat taksiran mengenai nilai variabel terikat disebut persamaan regresi estimasi, yaitu suatu formula matematis yang menunjukkan hubungan keterkaitan antara satu atau beberapa variabel yang nilainya sudah diketahui dengan satu variabel yang nilainya belum diketahui. Sifat hubungan antar variabel dalam persamaan regresi merupakan hubungan sebab akibat.
Regresi yang berarti peramalan, penaksiran atau pendugaan pertama kali diperkenalkan pada tahun 1877 oleh Sir Francis Galton (1822 - 1911) sehubungan
dengan penelitiannya terhadap manusia. Penelitian tersebut membandingkan antara tinggi anak laki-laki dan tinggi badan orang tuanya. Istilah regresi pada mulanya bertujuan untuk membuat perkiraan nilai suatu variabel (tinggi badan anak) terhadap suatu variabel yang lain (tinggi badan orang tua). Pada perkembangan selanjutnya, analisis regresi dapat digunakan sebagai alat untuk membuat perkiraan nilai suatu variabel dengan menggunakan beberapa variabel lain yang berhubungan dengan variabel tersebut.
2.1.1 Regresi Linier Sederhana
Regresi linier sederhana adalah analisis regresi yang melibatkan hubungan fungsional antara satu variabel terikat dengan satu variabel bebas. Variabel terikat merupakan variabel yang nilainya selalu bergantung dengan nilai variabel lain. Dalam hal ini variabel terikat yang nilainya selalu dipengaruhi oleh variabel bebas, sedangkan variabel bebas adalah variabel yang nilainya tidak bergantung pada nilai variabel lain. Dan biasanya variabel terikat dinotasikan dengan X. Hubungan-hubungan tersebut dinyatakan dalam model matematis yang memberikan persamaan-persamaan tertentu.
Bentuk umum persamaan regresi linier sederhana yang menunjukkan hubungan antara dua variabel, yaitu variabel X sebagai variabel bebas dan variabel Y sebagai variabel terikat adalah
i i a bX
Y = + (2.1)
Keterangan:
i
Y = variabel terikat ke-i
i
X = variabel bebas ke-i
a = intersep (titik potong kurva terhadap simbu Y) b = kemiringan (slope) kurva linier
Metode kuadrat terkecil adalah suatu metode untuk menghitung a dan b sebagai perkiraan A dan B, sedemikian rupa sehungga jumlah deviasi kuadrat (SSD=
∑
ei2) memiliki niali terkecil.Model sebenarnya : Y = A + BX + ε Model perkiraan : Y = a + bX +e
a, b merupakan perkiraan / taksiran atas A, B.
Jika X dikurangi rata-ratanya (xi = Xi −X ) akan diperoleh variabel baru x dengan
∑
xi =0. Maka persamaannya menjadi:i i i a bx e Y = + +
(
i)
i i Y a bx e = − +(
)
[
]
2 2∑
∑
= − + = ei Yi a bxi SSD (2.2)Metode meminimumkan jumlah deviasi kuadrat (regresi kuadrat terkecil) yang didasarkan pada pemilihan a dan b, sehungga meminimalkan jumlah kuadrat deviasi titik-titik data dari garis yang dicocokkan.
Kemudian akan ditaksir a dan b sehingga jika taksiran ini disubstitusikan ke dalam persamaan (2.2), maka jumlah deviasi kuadrat menjadi minimum. Dengan mendifferensialkan persamaan (2.2) terhadap a dan b dengan menetapkan derivatif parsial yang dihasilkan sama dengan nol, diperoleh:
∑
∑
∑
∑
∑
− − = − − = → = ∂ ∂ = ∂ ∂ 0 0 ) ( 2 2 i i i i i i x x b na Y bx a Y a a e Y n Y a = i = ⇒ ˆ∑
(2.3)∑
∑
∑
∑
∑
∑
− − = − − = → = ∂ ∂ = ∂ ∂ 0 0 ) ( 2 2 2 i i i i i i i i x x b x a Y x bx a Y b b e∑
∑
= ⇒ i i i x Y x bˆ 2 (2.4)Nilai aˆdan bˆ yang diperoleh dan cara ini disebut taksiran kuadrat terkecil masing-masing dari a dan b. Dengan demikian, taksiran persamaan regresi dapat ditulis sebagai, Yˆ =aˆ+bˆX yang disebut persamaan prediksi.
Garis regresi berguna untuk menentukan hubungan pengaruh perubahan variabel yang satu dengan yang lainnya. Selanjutnya dari hubungan dua variabel ini dapat dikembangkan untuk analisa tiga variabel atau lebih.
2.1.2 Regresi Linier Berganda
Regresi Linier Berganda merupakan regresi linier yang melibakan hubungan fungsional antara sebuah variabel terikat dengan dua atau lebih vaiabel bebas. Semakin banyak variabel bebas yang terlibat dalam suatu persamaan regresi semakin rumit menentukan nilai statistik yang diperlukan hingga diperoleh persamaan regresi estimasi. Regresi linier berganda berguna untuk mendapatkan pegaruh dua variabel kiteriumnya atau untuk mencari hubungan fungsional dua variabel bebas atau lebih dengan variabel kriteriumnya, atau untuk meramalkan dua variabel bebas atau lebih terhadap variabel kriteriumnya.
Hubungan linier lebih dari dua variabel yang bila dinyatakan dalam bentuk persamaan matematis adalah:
ε β β β + + + + = X kXk Y 0 1 1 (2.5) Keterangan: Y = variabel terikat
k
X
X ,...,1 = variabel bebas pada variabel ke-1 sampai variabel ke-k
k
β β
β0, 1,..., = parameter regresi
ε = nilai kesalahan (error)
Langkah-langkah dalam analisis regresi berganda:
1. Membuat hpotesis Ha dan H0 dalam bentuk kalimat:
H0 : Terdapat hubungan fungsional yang signifikan antara variabel k
X X
X1, 2,, dengan variabel Y.
Ha : Tidak terdapat hubungan fungsional yang signifikan antara variabel k
X X
X1, 2,, dengan variabel Y.
2. Kemudian mencari Rhitung dengan rumus:
∑
∑
+∑
+ + ∑ = 1 1 2 2 2 2 ) ,..., 2 , 1 ( y y x y x y x Ry k k k β β β (2.6)3. Kemudian menghitung Fsign hitung dengan menggunakan rumus:
2 ) ,..., 2 , 1 ( 2 ) ,..., 2 , 1 ( 1 ( ) 1 ( k y k y reg R k k n R F − − − = (2.7)
4. Dengan menggunakan taraf α = 0,05
5. Menghitung nilai Ftabel dengan mengunakan rumus:
Ftabel =Fα(k.n−k−1) (2.8)
Fhit > Ftabel : maka H0 ditolak signifikan Fhit ≤ Ftabel : maka H0 diterima.
7. Membuat Kesimpulan
2.2 Estimasi
Estimasi adalah menaksir ciri-ciri tertentu dari populasi tertentu dari populasi atau memperkirakan nilai populasi (parameter) dengan memakai nilai sampel (statistik). Dengan statistika kita berusaha meyimpulkan populasi. Dalam kenyataannya, mengingat berbagai faktor untuk keperluan tersebut diambil sebuah sampel yang represntatif dan berdasarkan hasil analisis terhadap data sampel kesimpulan mengenai populasi dibuat. Cara pengambilan kesimpulan tentang parameter berhubugan dengan cara-cara menaksir harga parameter. Jadi, harga parameter sebenarnya yang tidak diketahui akan diestimasi berdasarkan statistik sampel yang diambil dari populasi yang bersangkutan.
Sifat atau ciri estimator yang baik yaitu tidak bias, efisien dan konsisten: 1. Estimator yang tidak bias
Estimator dikatakan tidak bias apabila dapat menghasilkan estimasi yang mengandung nilai parameter yang diestimasikan. Misalkan, estimtor ϑˆ dikatakan estimator yang tidak bias jika rata-rata semua harga ϑˆ yang mungkin akan sama dengan ϑ . Dalam ekspektasinya dapat ditulis dengan
θ θˆ)= (
E .
2. Estimator yang efisien
Estimator dikatakan efisien apabila hanya dengan rentang nilai estiasi yang kecil saja sudah cukup mengandung nlai parameter, estimator bervarians minimum ialah estimator dengan varians terkecil di antara semua estimator untuk parameter yang sama. Jika ϑ dan ˆ1 ϑ dua estimator untuk ϑ dimana ˆ2
varians untuk ϑ lebih kecil dari varians untuk ˆ1 ϑ , maka ˆ2 ϑ merupakan ˆ1 estimator bervarians minimum.
3. Estimator yang konsisten
Estimator dikatakan konsisten apabila sampel yang diambil berapa pun besarnya, pada rentangnya tetap mengandung nilai parameter yang sedang diestimasi. Misalkan, ϑˆ estimator untuk θ yang dihitung berdasrakan sebuah sampek acak berukuran n. Jika ukuran sampel n makin besar mendeteksi ukuran populasi menyebabkan ϑˆ mendekati θ , maka ϑˆ disebut estimator konsisten.
Estimasi nilai parameter memiliki dua cara, yaitu estimasi titik (point
estimation) dan estimasi selang (Interval estimation).
a. Estimasi titik (point estimation)
Estimasi titik adalah estimasi dengan menyebut satu nilai atau untuk mengestimasi nilai parameter.
b. estimasi interval (Interval estimation)
Estimasi Interval dengan menyebut daerah pembatasan dimana kita menentukan batas minimum dan maksimum suatu estimator. Metode ini memuat nilai-nilai estimator yang masih dianggap benar dalam tingkat kepercayaan tertentu (confidence interval)
2.2.1 Estimasi Maksimum Likelihood
Salah satu cara untuk mendapatkan estimator yang baik adalah dengan menggunakan metode maksimum likelihood yang diperkenalkan oleh R. A. Fisher. Maksimum Likelihood merupakan suatu cara mendapat estimator a untuk parameter b yang tidak diketahui dari populasi dengan memaksimumkan fungsi kemungkinan.
Untuk data sampel x ,...,1 xndari distribusi yang kontinu dengan fungsi padat f(x;α ) ditentukan fungsi likelihood sebagai L(x1,...,xn;α)= f(x1;α)...f(xn;α).
Unuk data sampel distribusi yang diskrit dengan nilai kemungkinan
(
X x)
p i rp = i = i(α), =1,..., dan frekuensi f ,....,1 fk ditentukan dengan fungsi Likelihood sebagai berikut:
(
)
(
( )
)
(
( )
)
fr r f i n p p x x L α α 1 α ; , , 1 = ,∑
= = n i i n f 1Karena ln L merupakan transformasi yang monoton naik daripada L, maka ln L mencapai maksimumnya pada nilai α yang sama. Menurut hitung differensial persamaan menjadi ln =0
∂ ∂
α
L
. Suatu akar persamaan ini αˆ =a
(
x1,...,xn)
yangmemaksimumkan L, disebut estimasi maksimum likelihood untuk α .
2.2.2 Maksimum Likelihood dalam Regresi Linier Berganda
Maksimum Likelihood adalah metode yang dapat digunakan umtuk mengestimasi suatu parameter dalam regresi.
Jika X dikurangi dengan rata-atanya, maka maka akan diperoleh variabel baru x
(
x X X)
i
i = − dan selisih antara X dan X merupakan perhitungan yang sederhana i
karena jumlah dari nilai x tersebut adalah sama dengan nol i
=
∑
= n i i x 1 0 . Dan persamaan regresi linier berganda menjadi:ε β β β + + + + = k k i X X Y 0 1 1 ... (2.7) Keterangan:
i
Y = variabel terikat ke-i
ki
i x
x ,...,1 = selisih antara variabel bebas X dengan nilai rata-ratanya pada
pengamatan ke-i k β β β0, 1,..., = parameter regresi ε = nilai kesalahan(error)
Teknik estimasi maksimum likelihood mempertimbangkan berbagai populasi yang mungkin dengan perpindahan garis regresi dan regresi tersebut mengelilingi distribusi untuk semua posisi yang mungkin. Perbedaan posisi yang berhubungan dengan perbedaan nilai percobaan untuk β0,β1,...,βk. Dalam hal ini, pengamatan
likelihood dipilih hipotesis populasi yang maksimum dalam likelihood. Secara umum,
andaikan kita mempunyai sampel berukuran n dan kita ingin mengetahui kemungkinan sampel yang diamati. Diperlihatkan fungsi nilai kemungkinan sampel untuk β0,β1,...,βk:
(
Yi Y Yn k)
p , 2,..., /β0,β1,...,β (2.8)
Mengingat kemungkinan nilai pertama Y adalah:
( )
( ) 2 1 1 0 1 ... 2 1 2 1 − − + + + = σ β β β π σ ki k i x x Y i e Y p (2.9)Hal di atas adalah distribusi normal sederhana dengan rata-rata
ki k i x x β β β0+ 1 1 +...+ dan varians
( )
2σ yang disubstitusi ke dalam:
( )
− − = σ µ π σ x i e Y p 2 1 2 1. Kemungkinan nilai kedua Y sama dengan (2.9), kecuali angka satu diganti dengan dua dan deterusnya untuk semua nilai Y amatan lainnya.
Untuk nilai Y bebas dengan mengalikan semua kemungkinan bersama dalam (2.8), dimana:
(
Yi Y Yn k)
p , 2,..., /β0,β1,...,β = ( ) ( ) ... 2 1 2 1 2 1 1 0 2 2 1 1 0 1 ... 2 1 ... 2 1 − + + + − − + + + − σ β β β σ β β β π σ π σ ki k i ki k i x Y x x x Y e e ( )∏
= − + + + − = n i x x Yi i k ki e 1 ... 2 1 2 1 1 0 2 1 β β σ β π σ (2.10) Dengan∏
= n i 1menyatakan hasil kali n kemungkinan bersama untuk nilai Y i
yang penggunaannya dik enal untuk eksponensial. Hasil (2.10) dapat diperlihatkan dengan penjumlahan ekspnen:
(
)
( ) ( ) 2 ... 2 1 1 0 2 1 1 1 1 0 2 1 ,..., , / ,..., , ∑ = = − + + + − n i ki k i i x x Y n k n e Y Y Y p σ β β β π σ β β β (2.11)Mengingat Y amatan yang diberikan dipertimbangkan untuk berbagai nilai i
. ,..., , 1 0 β βk
β Sehingga persamaan (2.11) dinamakan fungsi likelihood:
(
)
(
)
∑ = = − − − − − n i ki k i i x x Y n k e L 1 2 1 1 0 ... 2 1 1 0 2 1 ,..., , σ β β β π σ β β β (2.12) Keterangan:(
k)
L β0,β1,...,β = fungsi maksimum likelihood pada parameter β0,β1,...,βk
σ = parameter yang merupakan simpangan baku untuk distribusi
π = nilai konstan (π= 3,1416) n = banyak data sampel
e = bilangan konstan (e = 2,7183)
i
i
β = parameter regresi ke-i
Dari persamaan (2.12) diperoleh lnL
(
β0,β1,...,βk)
, yaitu:Λ=
(
)
∑
= − − − − − − − = n i ki k i i k x x Y n n L 1 2 1 1 0 1 0 ... 2 1 ln ) 2 ln( 2 ,..., , ln σ β β β σ π β β β (2.13)Dengan mendiffrensialkan Λ terhadap setiap parameter β0,β1,...,βk dan menetapkan derivatif parsial yang dihasilkan sama dengan nol, diperoeh:
∑
(
)
= = − − − − = ∂ Λ ∂ n i ki k i i x x Y 1 1 1 0 2 0 0 ... 1 β β β σ β∑
∑
∑
∑
∑
= = = = = = = → = − − − − = n i n i n i n i n i ki i ki k i i n x x x x Y 1 1 1 1 1 1 1 1 0 β ... β 0 0 β Y n Y n i = = ⇒∑
=1 0 ˆ β (2.14)∑
(
)
= = − − − − − = ∂ Λ ∂ n i ki k i i i Y x x x 1 1 1 0 1 2 1 0 ... 1 β β β σ β∑
∑
∑
∑
∑
= = = = = = → = − − + + − = n i n i n i n i i ki i k i n i i i iY x x x x x x 1 1 1 1 1 1 2 1 1 1 1 0 1 β β ... β 0 0∑
∑
∑
= = = = − − + − ⇒ n i n i n i ki i k i i iY x x x x 1 1 1 1 2 1 1 1 β ... β 0 (2.15) ∑
(
)
= = − − − − − = ∂ Λ ∂ n i ki k i i ki Y x x x 1 1 1 0 2 2 0 ... 1 β β β σ β∑
∑
∑
∑
∑
= = = = = = → = − − + − − = n i n i n i n i ki ki k ki i n i ki i kiY x x x x x x 1 1 1 1 2 1 1 1 0 β ... β 0 0 β∑
∑
∑
= = = = − − + − ⇒ n i n i n i ki k ki i i kiY x x x x 1 1 1 2 1 1 ... β 0 βMaka hasil yang diperoleh dari penurunan parsial di atas dapat dihitung nilai parameter βˆ0,βˆ1,...,βˆk.
