ANALISIS PERBANDINGAN REGRESI KOMPONEN UTAMA
DAN REGRESI
RIDGE
UNTUK MENGATASI MASALAH
MULTIKOLINIERITAS PADA MODEL
REGRESI LINIER BERGANDA
SKRIPSI
WANDA SURIANTO
120803034
DEPARTEMEN MATEMATIKA
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM
UNIVERSITAS SUMATERA UTARA
ANALISIS PERBANDINGAN REGRESI KOMPONEN UTAMA DAN REGRESI RIDGE UNTUK MENGATASI MASALAH
MULTIKOLINIERITAS PADA MODEL REGRESI LINIER BERGANDA
SKRIPSI
Diajukan untuk melengkapi tugas dan memenuhi syarat mencapai gelar Sarjana Sains
WANDA SURIANTO 120803034
DEPARTEMEN MATEMATIKA
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SUMATERA UTARA
PERSETUJUAN
Judul : ANALISIS PERBANDINGAN REGRESI
KOMPONEN UTAMA DAN REGRESI RIDGE
UNTUK MENGATASI MASALAH MULTIKOLINIERITAS PADA MODEL REGRESI LINIER BERGANDA
Kategori : SKRIPSI
Nama : WANDA SURIANTO
Nomor Induk Mahasiswa : 120803034
Program Studi : SARJANA (S1) MATEMATIKA
Departemen : MATEMATIKA
Fakultas : MATEMATIKA DAN ILMU PENGETAHUAN
ALAM (FMIPA) UNIVERSITAS SUMATERA UTARA
Disetujui di Medan, Agustus 2016
Komisi Pembimbing :
Pembimbing 2, Pembimbing 1,
Drs. Ujian Sinulingga, M.Si Dr. Pasukat Sembiring, M.Si NIP. 19560303 198403 1 004 NIP. 19531113 198503 1 002
Disetujui Oleh
Departemen Matematika FMIPA USU Ketua,
PERNYATAAN
ANALISIS PERBANDINGAN REGRESI KOMPONEN UTAMA DAN REGRESI RIDGE UNTUK MENGATASI MASALAH
MULTIKOLINIERITAS PADA MODEL REGRESI LINIER BERGANDA
SKRIPSI
Menyatakan dengan sebenarnya bahwa skripsi yang saya serahkan ini benar-benar merupakan hasil karya saya sendiri, kecuali beberapa kutipan dan ringkasan yang masing-masing disebutkan sumbernya.
Medan , Agustus 2016
PENGHARGAAN
Puji dan syukur penulis panjatkan kehadirat Allah swt yang telah melimpahkan
rahmat dan hidayah-Nya kepada penulis, sehingga penulis dapat menyelesaikan
skripsi ini tepat pada waktunya. Skripsi dengan judul “Analisis Perbandingan
Regresi Komponen Utama dan Regresi Ridge untuk Mengatasi Masalah
Multikolinieritas pada Model Regresi Linier Berganda”. Salawat dan salam
semoga selalu tercurahkan kepada Nabi Muhammad saw, yang telah memberikan
contoh teladan sebagai pedoman hidup bagi seluruh umat manusia.
Dalam menyelesaikan skripsi ini, banyak pihak yang telah membantu
penulis baik moral maupun spiritual sehingga skripsi ini dapat selesai tepat pada
waktunya. Untuk itu, penulis menyampaikan ucapan terima kasih yang
sebesar-besarnya dan penghargaan yang setinggi-tingginya kepada:
1. Bapak Dr. Pasukat Sembiring, MSi dan Bapak Drs. Ujian Sinulingga,
M.Si selaku dosen pembimbing yang senantiasa membantu dan
mengarahkan saya dalam menyelesaikan skripsi ini.
2. Bapak Drs. Pengarapen Bangun, M.Si dan Bapak Drs. Gim Tarigan, M.Si
selaku dosen pembanding yang memberikan kritik dan saran yang
membangun dalam menyelesaikan skripsi penulis.
3. Bapak Dr. Kerista Sebayang, M.S selaku Dekan FMIPA Universitas
Sumatera Utara.
4. Seluruh Bapak dan Ibu dosen yang telah mendidik penulis selama
menjalani pendidikan dan Staf pegawai di Fakultas Matematika Dan Ilmu
Pengetahuan Alam USU Medan.
5. Yang paling teristimewa kepada kedua orangtua tercinta, ayahanda
Suriadi, Ibunda Ngatini, dan saudara-saudari penulis. Karena berkat doa,
kasih sayang dan kepercayaan yang tak ternilai serta dukungan moral dan
material kepada penulis yang tak pernah putus sehingga ananda dapat
menyelesaikan studi sampai ke jenjang sarjana. Semoga Allah S.A.W
memberikan balasan yang tak terhingga dengan syurga-Nya yang mulia.
Terima kasih penulis ucapkan kepada seluruh pihak yang telah membantu
dalam proses pembuatan skripsi.
Medan, Agustus 2016
WANDA SURIANTO
ANALISIS PERBANDINGAN REGRESI KOMPONEN UTAMA DAN REGRESI RIDGE UNTUK MENGATASI MASALAH
MULTIKOLINIERITAS PADA MODEL REGRESI LINIER BERGANDA
ABSTRAK
Multikolinieritas adalah kondisi dimana dalam sebuah regresi terdapat korelasi yang sangat tinggi antara variabel bebasnya. Regresi Komponen Utama dan Regresi Ridge adalah metode untuk mengatasi masalah multikolinieritas yang terjadi pada analisis regresi linier berganda. Metode Regresi Komponen Utama pada dasarnya bertujuan untuk menyederhanakan variabel yang diamati dengan cara menyusutkan (mereduksi) dimensinya. Metode Regresi Ridge adalah metode yang memberikan tetapan bias yang relatif kecil dengan cara mengalikan tetapan bias pada diagonal matriks identitas. Berdasarkan contoh data hasil penelitian bahwasanya Regresi Ridge lebih efektik digunakan jika data berdistribusi normal dan sebaliknya untuk Regresi Komponen Utama lebih efektif jika digunakan pada data yang tidak berdistribusi normal.
COMPARISON ANALYSIS OF PRINCIPAL COMPONENT REGRESSION AND RIDGE REGRESSION TO SOLVE
MULTYCOLINEARITY PROBLEM AT MULTIPLE LINEAR REGRESSION MODEL
ABSTRACT
Multicolinearity is a condition where there is a regression in a very high correlation between the independent variables. Principal Component Regression and Ridge Regression are a methodto overcome multicolinearity problems that occur on the analysis of multiple linear regression. Principal Component Regression Method is basically aimed at simplifying the observed variables in a way to shrink (reduce) its dimensions. Ridge Regression Method is a method which provides a relatively small constant bias by multiplying the bias constant on the diagonal identity matrix. Based on research data sample is Ridge Regression is more effectively used if the data were normally distributed and vice versa for the Principal Component Regression is more effective when used on data that are not normally distributed.
DAFTAR ISI
3.6. Perbandingan Hasil Regresi Komponen Utama Dan Regresi Ridge 51
Bab 4. KESIMPULAN DAN SARAN 1.1. Kesimpulan 54
1.2. Saran 55
DAFTAR TABEL
Nomor Judul Halaman
Tabel
Tabel 3.1 Data rata-rata jam kerja dan faktor-faktor yang mempengaruhinya
32
Tabel 3.2 Nilai Korelasi Data Rata-rata Jam Kerja Antar Variabel Bebas
36
Tabel 3.3 Faktor Variansi Inflasi (VIF) (Contoh Ilustrasi Kasus 1)
36
Tabel 3.4 Nilai Eigen, Proporsi Total Variansi dan Proporsi Variansi Kumulatif (Contoh Ilustrasi Kasus 1)
37
Tabel 3.5 Koefisien Komponen Utama (Eigen Vektor) (Contoh Ilustrasi Kasus 1)
38
Tabel 3.6 Skor Faktor Komponen Utama (Contoh Ilustrasi Kasus 1) 38 Tabel 3.7 Signifikansi Koefisien Regresi Komponen Utama
(Contoh Ilustrasi Kasus 1)
39
Tabel 3.8 Nilai VIF ̂ Dengan Berbagai Nilai (Contoh Ilustrasi Kasus 1)
40
Tabel 3.9 Nilai ̂ Dengan Berbagai Nilai (Contoh Ilustrasi Kasus 1)
41
Tabel 3.10 Data Mengenai Konsumsi ( ), Pendapatan Upah ( ), Pendapatan Non Upah ( ) dan Non Pertanian ( ) di Amerika Serikat dalam Milyar dollar
45
Tabel 3.11 Nilai Korelasi Data Mengenai Konsumsi Antar Variabel Bebas
46
Tabel 3.12 Nilai Faktor Variansi Inflasi (VIF) (Contoh Ilustrasi Kasus 2)
47
Tabel 3.13 Nilai Eigen, Proporsi Total Variansi dan Proporsi Variansi Kumulatif (Contoh Ilustrasi Kasus 2)
47
Tabel 3.14 Koefisien Komponen Utama (Eigen Vektor) (Contoh Ilustrasi Kasus 2)
48
Tabel 3.15 Skor Faktor Komponen Utama (Contoh Ilustrasi Kasus 2) Tabel 3.16 Koefisien Regresi dengan Satu Komponen Utama
(Contoh Ilustrasi Kasus 2)
48
Tabel 3.17 Nilai VIF ̂ Dengan Berbagai Nilai (Contoh Ilustrasi Kasus 2)
49
Tabel 3.18 Nilai ̂ Dengan Berbagai Nilai (Contoh Ilustrasi Kasus 2)
DAFTAR GAMBAR
Nomor Judul Halaman
Gambar
Gambar 3.1 Ridge Trace (Contoh Ilustrasi Kasus 1) 42
Gambar 3.2 VIF Plot (Contoh Ilustrasi Kasus 1) 42
Gambar 3.3 Ridge Trace (Contoh Ilustrasi Kasus 2) 51
Gambar 3.4 VIF Plot (Contoh Ilustrasi Kasus 2) 52
Gambar 3.5 Normal Plot dari Residual Persamaan (Contoh Ilustrasi Kasus 1)
54
Gambar 3.6 Normal Plot dari Residual Persamaan (Contoh Ilustrasi Kasus 2)
DAFTAR LAMPIRAN
Nomor Judul Halaman
Lampiran
Lampiran 1 Contoh Data Ilustrasi Kasus 1 56
Lampiran 2 Contoh Data Ilustrasi Kasus 2 57
Lampiran 3 Menentukan Parameter Regresi Linier Berganda (Contoh Ilustrasi Kasus 1)
58
Lampiran 4 Menentukan Parameter Regresi Linier Berganda (Contoh Ilustrasi Kasus 2)
62
Lampiran 5 Transformasi Data Kasus 1 64
Lampiran 6 Transformasi Data Kasus 2 65
Lampiran 7 Nilai Residual dan MSE (Contoh Ilustrasi Kasus 1)
66
Lampiran 8 Nilai Residual dan MSE (Contoh Ilustrasi Kasus 1)
