4
BAB II
LANDASAN TEORI
Bab ini terdiri dari tiga sub bab yaitu tinjauan pustaka, teori penunjang dan kerangka pemikiran. Tinjauan pustaka yang berisi penelitian sebelumnya yang mendasari penelitian ini, teori penunjang yang berisi definisi-definisi sebagai dasar pengertian untuk memperoleh pembahasan selanjutnya, sedangkan yang terakhir yaitu kerangka pemikiran yang menjelaskan alur penulisan skripsi.
2.1 TINJAUAN PUSTAKA
Dalam model regresi, estimasi parameter yang umum digunakan adalah MKT. Akan tetapi, ketika data memiliki pencilan model ini akan menghasilkan estimasi parameter yang bertentangan dengan asumsi klasik. Karena itu model regresi robust digunakan untuk mengatasi pencilan. LMS merupakan estimasi parameter dalam regresi robust.
Drapper dan Smith [7] menyatakan apabila dalam observasi terdapat pencilan maka regresi robust dapat digunakan sebagai pengganti dari MKT. Hal ini dikarenakan regresi robust lebih tangguh digunakan dibandingkan dengan MKT jika dalam observasi terdapat pencilan.
Estimasi regresi robust yang pertama kali diperkenalkan adalah estimasi M. Estimasi M diperkenalkan Huber [10] pada tahun 1973, akan tetapi estimasi M hanya bisa mengestimasi parameter pada variabel dependen dengan breakdown point rendah yaitu kurang dari 50%. Pada tahun 1984 Rousseeuw [13] melakukan penelitian tentang regresi robust estimasi LMS untuk mengatasi pencilan pada sebuah data. Dalimunthe [6] ingin mengetahui presentase banyaknya pencilan yang mampu diatasi oleh estimasi LMS di tahun 2010. Model yang digunakan dalam penelitian ini adalah model regresi linier sederhana.
Teori-teori yang digunakan dalam penelitian ini meliputi model regresi linier, metode kuadrat terkecil, asumsi klasik model regresi, pendeteksian pencilan, regresi robust, estimasi LMS, dan pengujian signifikansi parameter.
5
2.2 TEORI-TEORI PENUNJANG 2.2.1 Regresi Linier
Secara umum, analisis regresi adalah studi mengenai variabel dependen (terikat) yang bergantung dengan satu atau lebih variabel independen (bebas), dengan tujuan untuk mengestimasi dan memprediksi rata-rata populasi atau rata- rata variabel dependen berdasarkan nilai variabel independen yang diketahui (Montgomery and Peck [11]). Regresi linier dibagi menjadi dua yaitu regresi linier sederhana dan regresi linier berganda. Regresi linier sederhana terdiri dari satu variabel dependen dan satu variabel independen. Sedangkan regresi linier berganda merupakan regresi linier dengan satu variabel dependen dan beberapa variabel independen.
2.2.1.1 Regresi Linier Sederhana
Model regresi linier sederhana ini merupakan suatu model regresi dasar yang melibatkan satu variabel independen. Bentuk umum regresi linier sederhana dapat dituliskan sebagai
, dengan
: variabel dependen pada observasi ke- , , dan : parameter regresi,
: variabel independen pada observasi ke- , : sisaan berdistribusi normal, dan
: banyaknya observasi.
2.2.1.2 Regresi Linier Berganda
Regresi linier berganda merupakan regresi linier dengan satu variabel dependen dan beberapa variabel independen. Model regresi linier berganda dapat ditulis sebagai
, dengan
: variabel dependen pada observasi ke- , ,
6 : parameter regresi, : variabel independen,
: banyaknya variabel independen, : sisaan berdistribusi normal, dan : banyaknya observasi.
2.2.2 Metode Kuadrat Terkecil
Metode Kuadrat Terkecil (MKT) digunakan untuk mengestimasi koefisien yaitu dengan meminimumkan jumlah kuadrat sisaan. Sisaan merupakan selisih antara nilai observasi dengan nilai estimasinya ̂. Fungsi yang meminimumkan adalah
∑ ∑ ̂ ∑ ( ̂ ̂ ̂ ) akan diminimumkan dengan menentukan turunan pertamanya secara parsial terhadap dan disamadengankan nol, sehingga diperoleh
̂ ∑( ̂ ̂ ̂ )
̂ ∑( ̂ ̂ ̂ )
̂ ∑( ̂ ̂ ̂ )
̂ ∑( ̂ ̂ ̂ )
Selanjutnya dari persamaan (2.4) menghasilkan persamaan
̂ ̂ ∑
̂ ∑
̂ ∑
∑
7 ̂ ∑
̂ ∑
̂ ∑
̂ ∑
∑
̂ ∑
̂ ∑
̂ ∑
̂ ∑
∑
̂ ∑
̂ ∑
̂ ∑
̂ ∑
∑
Jika disusun dalam bentuk matriks maka persamaan menjadi ̂
Akan lebih mudah model regresi dinyatakan dalam matriks. Notasi matriks yang diberikan adalah
dengan
[ ] [
] ̂ [
̂ ̂ ̂ ]
[ ]
Pada umumnya Y adalah matriks berukuran , sedangkan X adalah matriks berukuran , dan adalah matriks berukuran .
Penyelesaian persamaan ̂ diperoleh dengan mengalikan kedua sisi dengan invers dari , sehingga estimator adalah
̂
̂
8
2.2.3 Pengujian Asumsi Regresi
Pada model regresi, perlu dilakukan uji asumsi analisis regresi untuk mengetahui kecocokan model regresi. Model regresi yang melanggar asumsi regresi tidak disarankan dipakai untuk menggambarkan pola hubungan antara variabel dependen dan variabel independen. Menurut Gujarati dan Porter [8], asumsi yang memenuhi analisis regresi dengan MKT antara lain sisaan berdistribusi normal, homoskedastisitas, non autokorelasi, dan non multikolinieritas.
2.2.3.1 Uji Normalitas
Analisis regresi linier mengasumsikan bahwa sisaan berdistribusi normal.
Pada regresi linier diasumsikan bahwa sisaan berdistribusi normal dengan . Salah satu cara untuk menguji asumsi kenormalan adalah dengan uji Kolmogorov-Smirnov. Uji ini didasarkan pada nilai yang didefinisikan sebagai
| | , dengan adalah probabilitas komulatif normal dan adalah probabilitas komulatif empiris. Hipotesis yang digunakan dalam uji Kolmogorov-Smirnov adalah
: sisaan berdistribusi normal : sisaan tidak berdistribusi normal
Daerah kritisnya adalah | , diperoleh dari tabel Kolmogorov-Smirnov dengan tingkat signifikansi dan pengamatan. Jika
maka ditolak.
2.2.3.2 Uji Homoskedastisitas
Homoskedastisitas adalah variansi sisaan pada setiap variabel independen konstan. Pengujian asumsi homoskedastisitas atau non heteroskedastisitas pada sisaan digunakan untuk melihat homogenitas variansi sisaan. Untuk mendeteksi
9
adanya heteroskedastisitas digunakan uji Glejser. Hipotesis yang digunakan dalam uji Glejser adalah
: terdapat homoskedastisitas (variansi sisaan homogen).
: tidak terdapat homoskedastisitas (variansi sisaan tidak homogeny).
Pada uji homoskedastisitas statistik uji yang digunakan adalah
∑ | ̂ | | ̅|
∑ | | | ̂ | Daerah kritisnya adalah | . Jika
maka ditolak.
2.2.3.3 Uji Non Autokorelasi
Pada analisis regresi, autokorelasi bertujuan untuk melihat pengaruh antara variabel bebas terhadap variabel terikat. Untuk mendeteksi adanya autokorelasi antar sisaan, hipotesis yang digunakan adalah
: tidak terdapat autokorelasi antar sisaan : terdapat sisaan antar sisaan.
Sedangkan untuk statistik uji Durbin-Watson dapat ditulis
∑
∑ Daerah kritisnya adalah | . Jika maka ditolak. Untuk statistik dari Durbin-Watson dapat dilihat pada tabel Durbin-Watson.
2.2.3.4 Uji Non Multikolinieritas
Asumsi multikolinieritas bertujuan untuk melihat ada atau tidaknya korelasi yang tinggi antara variabel-variabel bebas dalam suatu model regresi linier, jika terjadi korelasi yang tinggi diantara variabel-variabel bebasnya maka
10
hubungan antara variabel bebas terhadap variabel terikat menjadi terganggu.
Multikolinieritas dapat dideteksi dengan variance inflation factor (VIF). Menurut Montgomery and Peck [11], kolinieritas terjadi karena terdapat korelasi yang cukup tinggi di antara variabel independen. VIF (Variance Inflation Factor) merupakan salah satu cara untuk mengukur besar kolinieritas dan didefinisikan sebagai berikut
dengan dan adalah banyaknya variabel independen sedangkan adalah koefisien determinasi yang dihasilkan dari regresi variabel independen dengan variabel independen lain yang dirumuskan
∑ ∑ ∑ ∑ ∑ ∑ ∑
Nilai VIF menjadi semakin besar jika terdapat korelasi yang semakin besar diantara variabel independen.
: tidak terdapat multikolinieritas : terdapat multikolinieritas
Daerah kritisnya adalah | . Jika maka ditolak.
2.2.4 Pencilan
Menurut Soemartini [15], pencilan adalah suatu data yang jauh berbeda dibandingkan keseluruhan data. Adanya pencilan dalam model regresi dapat menyebabkan pelanggaran dari asumsi klasik. Namun, membuang pencilan adalah tindakan kurang bijaksana karena terkadang pencilan memberikan informasi yang berarti. Permasalahan yang muncul akibat adanya pencilan yaitu
1. sisaan yang besar dari model yang terbentuk , 2. variansi dari data akan menjadi lebih besar, dan
3. estimasi interval akan memiliki rentang yang lebih besar.
11
Menurut Drapper dan Smith [7] dalam mendeteksi pencilan terhadap Y dapat menggunakan studientized delected residual (TRES) yang dirumuskan sebagai
(
)
dengan
: sisaan ke-
: jumlah kuadrat sesatan,
: nilai pengaruh (leverage value), : banyaknya variabel independen, dan : banyaknya observasi.
Hipotesis untuk menguji adanya pencilan adalah : Pengamatan ke-i merupakan pencilan.
: Pengamatan ke-i bukan merupakan pencilan.
Daerah kritis untuk mendeteksi pencilan terhadap Y adalah || | . Jika maka ditolak.
Metode yang digunakan dalam mengidentifikasi pencilan terhadap variabel adalah nilai pengaruh (leverage value). Nilai pengaruh dari pengamatan menunjukkan besarnya peranan terhadap ̂ didefinisikan sebagai
dengan adalah vektor baris yang berisi nilai-nilai dari variabel independen dalam pengamatan ke-i. Nilai berada diantara 0 dan 1,
∑ dengan dan ̅ ∑ . Jika lebih besar dari ̅ dengan
̅ ∑
12
Daerah kritisnya untuk mengidentifikasi pencilan terhadap X adalah | . Jika maka ditolak.
2.2.5 Regresi Robust Estimasi LMS
Regresi robust merupakan model regresi yang digunakan ketika distribusi dari sisaan tidak normal karena adanya pencilan dalam data (Andrews [2]).
Adanya pencilan akan memberikan kemungkinan besar bahwa asumsi kenormalan dalam regresi tidak dapat terpenuhi.
Regresi robust relatif tidak terpengaruh terhadap perubahan besar pada bagian kecil atau perubahan kecil pada bagian besar data. Estimasi LMS merupakan salah satu metode estimasi regresi robust. Menurut Morano [12] jika pada MKT hal yang perlu dilakukan adalah meminumkan kuadrat sisaan maka pada LMS hal yang perlu dilakukan adalah meminimumkan median kuadrat sisaan, yaitu
dengan adalah kuadrat sisaan hasil taksiran dengan MKT dan s adalah nilai konvergen dari .
Untuk mendapatkan nilai , dicari himpunan bagian data dari matriks sejumlah observasi, yaitu
dengan adalah banyaknya data dan adalah jumlah variabel independen ditambah satu.
Dalam proses perhitungan, nilai harus selalu dalam bentuk bilangan bulat. Oleh karena itu, jika nilai bukan bilangan bulat maka dilakukan pembulatan ke atas. Setelah didapatkan nilai , langkah selanjutnya yaitu mengestimasi parameter ̂ sehingga didapatkan nilai konvergen, yaitu saat iterasi berakhir pada iterasi ke-s. Nilai didapatkan dengan mencari nilai yang paling kecil. LMS merupakan estimasi parameter pada model regresi robust,
13
sehingga data diberi pembobot . Pembobot ditentukan berdasarkan estimasi robust yang didapat berdasarkan hasil perhitungan . Pembobot dirumuskan dengan ketentuan
Menurut Montgomery and Peak [11], pembobot ditentukan berdasarkan fungsi pembobot yang memakai fungsi influence yaitu
{
| | dengan
̂. Setelah pembobot dihitung maka dibentuk matriks , dengan ̂
√
Setelah pembobot dihitung, matriks pembobot dapat di bentuk
[
]
dengan memasukkan matriks dan .
Selanjutnya estimasi parameter regresi LMS dapat dihitung dengan rumus
̂ . Adapun langkah-langkah melakukan estimasi parameter regresi robust estimasi LMS adalah sebagai berikut.
1. Melakukan tahapan iterasi sebagai berikut a. Iterasi 1
i. Menghitung kuadrat sisaan dan nilai . ii. Menentukan median dari kuadrat sisaan . iii. Menghitung ̂ .
b. Iterasi 2
i. Menghitung kuadrat sisaan dari nilai . ii. Menghitung nilai .
iii. Menentukan median dari kuadrat sisaan .
14 iv. Menghitung ̂ .
c. Iterasi 3
i. Menghitung kuadrat sisaan dari nilai . ii. Menghitung nilai .
iii. Menentukan median dari kuadrat sisaan . iv. Menghitung ̂ .
Iterasi berhenti jika nilai dan ̂ sudah konvergen.
2. Menentukan nilai dengan menggunakan persamaan (2.11).
3. Menentukan pembobot dengan persamaan (2.13).
4. Menghitung ̂ menggunakan persamaan (2.15).
Salah satu alasan menggunakan prosedur LMS adalah karena metode ini mempunyai breakdown point yang tinggi. Rousseeuw [13] mendefinisikan breakdown point sebagai proporsi minimal dari banyaknya pencilan dibandingkan seluruh data observasi. Satu kelebihan LMS adalah mempunyai breakdown point 50%. Breakdown point 50% ini adalah breakdown point yang tinggi.
2.2.6 Uji Signifikansi Parameter
Uji signifikansi parameter bertujuan untuk menguji apakah nilai dari estimasi parameter signifikan atau tidak. Mengacu pada Sembiring [14], terdapat dua uji signifikansi parameter yakni Uji Serempak (Uji ) untuk menguji secara signifikan apakah variabel independen secara keseluruhan memengaruhi variabel dependen, dan Uji Parsial (Uji ) untuk menguji secara signifikan apakah masing- masing variabel independen secara individu memengaruhi variabel dependen.
Uji Serempak (Uji )
Uji dilakukan untuk menguji apakah variabel-variabel independen secara keseluruhan berpengaruh signifikan terhadap variabel dependen. Jika nilai lebih besar dari nilai , maka variabel independen secara keseluruhan berpengaruh signifikan terhadap variabel dependen. Hipotesis yang digunakan adalah
15
: (Semua variabel independen tidak berpengaruh secara signifikan terhadap model).
: untuk suatu . (Paling tidak ada satu variabel independen yang berpengaruh signifikan).
Nilai didefinisikan sebagai
dengan
: jumlah variabel independen yang diestimasi : jumlah observasi
: jumlah kuadrat regresi = ∑ ̂ ̅
Daerah kritisnya adalah | . ditolak jika artinya paling tidak ada satu variabel independen berpengaruh signifikan terhadap variabel dependen.
Uji Parsial (Uji )
Uji dilakukan untuk menguji apakah variabel independen secara individu berpengaruh signifikan terhadap variabel dependen. Hipotesis yang digunakan adalah
: (Variabel independen tidak berpengaruh secara signifikan terhadap model).
: untuk (Variabel independen berpengaruh secara signifikan terhadap model).
Nilai didefinisikan sebagai
dengan
: parameter yang diestimasi.
: nilai pada hipotesis.
: standar error .
16
Daerah kritisnya adalah | . ditolak jika .
2.3 KERANGKA PEMIKIRAN
Berdasarkan tinjauan pustaka, dapat dibentuk kerangka pemikiran untuk mengestimasi parameter regresi robust dengan menggunakan estimasi LMS pada data jumlah penduduk di Jawa Tengah tahun 2015 yang diperoleh dari Badan Pusat Statistik (BPS). Pada data tersebut dilakukan estimasi menggunakan MKT.
Namun demikian, bagi metode ini adalah data harus memenuhi asumsi klasik dan tidak memiliki pencilan. Apabila terdapat pencilan maka dengan metode ini pencilan tersebut dibuang begitu saja. Hal ini sangat memungkinkan data bahwa tidak utuh dan sudah tidak mewakili populasi, sehingga model yang dibentuk kurang valid. Sebagai alternatif metode yang dapat digunakan untuk data yang mengandung pencilan yaitu dengan menggunakan regresi robust. Salah satu estimasi yang digunakan dalam regresi robust adalah estimasi LMS. LMS merupakan estimasi parameter dalam regresi robust, dimana dengan estimasi ini data pencilan yang ada tidak dibuang begitu saja, tetapi diproses dan dieliminasi melalui sebuah iterasi. Penerapan tersebut kemudian diaplikasikan pada data jumlah penduduk di Jawa Tengah tahun 2015.
