BAB 2
LANDASAN TEORI
2.1. Regresi Linier Berganda
Bentuk umum persamaan regresi linier berganda adalah
Y = 𝑏0+ 𝑏1𝑋1+ 𝑏2𝑋2+ 𝑏3𝑋3 + … + 𝑏𝑘𝑋𝑘+ 𝑒 (2.1) dengan: Y = variabel respon 𝑏0 = konstanta regresi 𝑏𝑖 = koefisien regresi (𝑏𝑖 = 1,2,3, ... , k) 𝑋𝑖 = variabel penduga (i = 1,2,3, ... , k) 𝑒 = galat taksiran (sisa residu)
Bentuk data yang akan diolah adalah seperti tabel 2.1:
Tabel 2.1Bentuk Pengolahan Data No Observasi Respon (Y) Variabel 𝑋1 𝑋2 𝑋3 ... 𝑋𝑘 1 𝑌1 𝑋11 𝑋12 𝑋13 ... 𝑋1𝑘 2 𝑌2 𝑋21 𝑋22 𝑋23 ... 𝑋2𝑘 3 𝑌3 𝑋31 𝑋32 𝑋33 ... 𝑋3𝑘 . . . . . . . . . . . . n 𝑌𝑛 𝑋𝑛1 𝑋𝑛2 𝑋𝑛3 ... 𝑋𝑛𝑘
Setelah diselesaikan dengan uji metoda kuadrat terkecil maka didapat persamaan regresi linier berganda yang merupakan penduga berbentuk:
dengan asumsi:
i. 𝑒𝑗≈𝑁 (0 ,𝜎2) berarti residu (𝑒𝑗) mengikuti distribusi normal dengan (e) = 0 dan varian (𝜎2)konstan.
ii. Tidak ada otokorelasi antar residu, berarti (𝑒𝑗 , 𝑒𝑘) = 0; j≠ 𝑘, sehingga penduga yang diperoleh adalah penduga linier tak bebas.
2.2 Metode Analisa
Metode yang digunakan adalah Metode Stepwise Forward yang mempunyai langkah-langkah penyelesaian sebagai berikut:
1. Membentuk Matriks Koefisien Korelasi
Koefisien korelasi yang dicari adalah koefisien korelasi linier sederhana 𝑌 dengan 𝑋𝑖, dengan rumus: 𝑟𝑦𝑥𝑖 = ∑(𝑋𝑖𝑗−𝑋�𝑖)(𝑌𝑗−𝑌�) �∑�𝑋𝑖𝑗−𝑋�𝑖�2∑�𝑌𝑗−𝑌��2 (2.3) dengan: 𝑌� =1 𝑛(∑ 𝑌𝑗) 𝑋�𝑖 = 1𝑛(∑ 𝑌𝑖𝑗) j = 1, 2, 3, ..., n i = 1, 2, 3, ..., k
Bentuk matriks koefisien korelasi linier sederhana antara 𝑌 dan 𝑋𝑖:
𝑟 = ⎝ ⎜ ⎛ 1 𝑟12 𝑟13 … 𝑟1𝑝 𝑟21 1 𝑟23 … 𝑟2𝑝 𝑟31 ⋮ 𝑟𝑝1 𝑟32 ⋮ 𝑟𝑝2 1 … 𝑟3𝑝 ⋮ 𝑟𝑝3 … 1 ⎠ ⎟ ⎞
2. Membentuk Regresi Pertama (Persamaan Regresi Linier)
Variabel yang pertama diregresikan adalah variabel yang mempunyai harga mutlak koefisien korelasi yang terbesar antara 𝑌 dan 𝑋𝑖 , misalnya 𝑋1. Dari variabel ini dibuat persamaan regresi linier:𝑌 = 𝑏0+ 𝑏1𝑋1 , dengan cara seperti berikut:
𝑋 = ⎝ ⎜ ⎛ 1 1 . .. 1 𝑋11 𝑋12. .. 𝑋1𝑛⎠ ⎟ ⎞ ; (𝑋𝑇𝑋)−1= � 𝑛 ∑ 𝑋1 ∑ 𝑋1 ∑ 𝑋12� −1 𝑌 = ⎝ ⎜ ⎛ 𝑌1 𝑌.2 .. 𝑌𝑛⎠ ⎟ ⎞ ; 𝑋𝑇𝑌 = � ∑ 𝑌 ∑ 𝑌𝑋1�
Keberartian regresi diuji dengan tabel analisa variansi. Perhitungan untuk membuat anava adalah sebagai berikut:
SSR = 𝛽.𝑋 𝑇𝑌−(𝑌𝑇.𝐽.𝑌) 𝑛 = ∑(𝛽𝑖. ∑ 𝑋𝑖𝑌) − (∑ 𝑌)2 (2.4) SST = 𝑌 𝑇𝑌−(𝑌𝑇.𝐽.𝑌) 𝑛 = ∑𝑌 2 −(∑𝑌)2 𝑛 (2.5) dengan: 𝐽 = ⎝ ⎜ ⎜ ⎛ 1 1 1 .. . 1 1 1 1 .. . 1 … … … … … … … 1 1 1 .. . 1⎠ ⎟ ⎟ ⎞ 𝑛×𝑛
MSR = SSR
𝑝−1 (2.7)
MSE = SSE
𝑛−𝑝 (2.8)
sehingga didapat harga standard error dari 𝑏, dengan rumus:
𝑆2(𝛽) = MSE (𝑋𝑇𝑋)−1 (2.9)
𝑆(𝑏0) = �𝑆2(𝑏0) (2.10)
Tabel 2.2Analisa Variansi untuk Uji Keberartian Regresi
Sumber DF SS MS 𝐹ℎ𝑖𝑡𝑢𝑛𝑔
Regresi (𝑋ℎ) p − 1 SSR MSR
MSR / MSE
Residu n − p SSE MSE
Total n − 1 SST
Uji hipotesa:
𝐻0 : Regresi antara 𝑌 dengan 𝑋ℎ tidak signifikan.
𝐻1 : Regresi 𝑌 dengan 𝑋ℎ signifikan.
Keputusan:
Bila𝐹ℎ𝑖𝑡𝑢𝑛𝑔 < 𝐹𝑡𝑎𝑏𝑒𝑙, maka terima 𝐻0.
Bila 𝐹ℎ𝑖𝑡𝑢𝑛𝑔 ≥ 𝐹𝑡𝑎𝑏𝑒𝑙, maka tolak 𝐻0. Dengan: 𝐹𝑡𝑎𝑏𝑒𝑙 = 𝐹(𝑝−1,𝑛−𝑝,0,05)
3. Seleksi Variabel Kedua Diregresikan
Cara menyeleksi variabel yang kedua diregresikan adalah memilih parsial korelasi variabel sisa yang terbesar. Untuk menghitung harga masing-masing parsial korelasi sisa digunakan rumus:
𝑟
𝑌𝑋ℎ.𝑋𝑘=
𝑟𝑌𝑋ℎ− 𝑟𝑌𝑋𝑘𝑟𝑋ℎ𝑋𝑘 ��1−𝑟𝑌𝑋𝑘2 ���1−𝑟
𝑋ℎ𝑋𝑘2 �
(2.11)
4. Membentuk Regresi Kedua (Persamaan Regresi Berganda)
Dengan memilih parsial korelasi variabel sisa terbesar untuk variabel tersebut masuk dalam regresi, persamaan regresi kedua dibuat 𝑌 = 𝑏0+ 𝑏ℎ𝑋ℎ+ 𝑏𝑘𝑋𝑘 dengan cara sebagai berikut: 𝑋 = ⎝ ⎛ 1 1 ⋮ 1 𝑋ℎ1 𝑋ℎ2 ⋮ 𝑋ℎ𝑛 𝑋𝑘1 𝑋𝑘2 ⋮ 𝑋𝑘𝑛⎠ ⎞ (𝑋𝑇𝑋)−1 = �∑ 𝑋𝑛ℎ ∑ 𝑋∑ 𝑋ℎ ∑ 𝑋𝑘 ℎ2 ∑ 𝑋ℎ𝑋𝑘 ∑ 𝑋𝑘 ∑ 𝑋ℎ𝑋𝑘 ∑ 𝑋ℎ2 � 𝑌 = � 𝑌1 𝑌2 ⋮ 𝑌𝑛 � 𝑋𝑇𝑌 = �∑ 𝑋∑ 𝑌 ℎ𝑌 ∑ 𝑋𝑘𝑌 � 𝛽 = (𝑋𝑇𝑋)−1 . 𝑋𝑇𝑌 = �𝑏𝑏0 ℎ 𝑏𝑘 � (2.12)
Uji keberartian regresi dengan tabel anava (sama dengan langkah kedua yaitu dengan menggunakan Tabel 2.2), kemudian dicek apakah koefisien regresi 𝑏𝑘 signifikan, dengan hipotesa: 𝐻0:𝑏ℎ = 0 𝐻1:𝑏ℎ ≠ 0
𝐹
ℎ𝑖𝑡𝑢𝑛𝑔= �
𝑆(𝑏𝑏ℎℎ)�
2 (2.13) sedangkan,𝐹
𝑡𝑎𝑏𝑒𝑙= 𝐹
(1,𝑛−𝑝,0,05)Keputusan: bila 𝐹ℎ𝑖𝑡𝑢𝑛𝑔 < 𝐹𝑡𝑎𝑏𝑒𝑙 terima 𝐻0 artinya 𝑏𝑘 dianggap sama dengan nol, maka proses dihentikan dan persamaan terbaik 𝑌 = 𝑏0+ 𝑏ℎ𝑋ℎ. Bila 𝐹ℎ𝑖𝑡𝑢𝑛𝑔 ≥ 𝐹𝑡𝑎𝑏𝑒𝑙 tolak 𝐻0 artinya 𝑏𝑘 tidak sama dengan nol, maka variabel 𝑋𝑘 tetap didalam penduga.
5. Seleksi Variabel yang Ketiga Diregresikan
Dipilih kembali harga parsial korelasi variabel sisa terbesar. Menghitung harga masing-masing parsial korelasi variabel sisa dengan Langkah 3, dengan rumus:
𝑟𝑌 𝑋1 .𝑋ℎ𝑋𝑘
=
𝑟𝑌𝑋1.𝑋ℎ−𝑟𝑌𝑋𝑘.𝑋ℎ𝑟𝑋1𝑋𝑘𝑋ℎ ��1−𝑟𝑌𝑋𝑘.𝑋ℎ2 ���1−𝑟
𝑋1𝑋𝑘.𝑋ℎ
2 � (2.14)
6. Membentuk Persamaan Regresi Ketiga (Regresi Ganda)
Dengan memilih parsial korelasi terbesar, persamaan regresi yang dibuat:
𝑌 = 𝑏0+ 𝑏ℎ𝑋ℎ+ 𝑏𝑘𝑋𝑘+ 𝑏1𝑋1 (2.15)
dengan𝑋1 adalah variabel sisa yang mempunyai parsial korelasi terbesar, dengan cara sebagai berikut: 𝑋 = ⎝ ⎛ 1 1 ⋮ 1 𝑋ℎ1 𝑋ℎ2 ⋮ 𝑋ℎ𝑛 𝑋𝑘1 𝑋𝑘2 ⋮ 𝑋𝑘𝑛 𝑋11 𝑋12 ⋮ 𝑋1𝑛⎠ ⎞ (𝑋𝑇𝑋)−1 = ⎝ ⎛ 𝑛 ∑ 𝑋ℎ ∑ 𝑋𝑘 ∑ 𝑋1 ∑ 𝑋ℎ ∑ 𝑋ℎ2 ∑ 𝑋ℎ𝑋𝑘 ∑ 𝑋ℎ𝑋1 ∑ 𝑋𝑘 ∑ 𝑋ℎ𝑋𝑘 ∑ 𝑋𝑘2 ∑ 𝑋𝑘𝑋1 ∑ 𝑋1 ∑ 𝑋ℎ𝑋1 ∑ 𝑋𝑘𝑋1 ∑ 𝑋12 ⎠ ⎞ −1
𝑋𝑇𝑌 = � ∑ 𝑌 ∑ 𝑋ℎ𝑌 ∑ 𝑋𝑘𝑌 ∑ 𝑋1𝑌 �
diperoleh = (𝑋𝑇𝑋)−1 . 𝑋𝑇𝑌 untuk membuat tabel anava uji keberartian regresi, menghitung masing-masing harga-harga yang diperlukan, dilakukan dengan cara yang sama seperti diatas. Begitu juga untuk pengujiannya. Bila hasil pengujian menyatakan koefisien regresi tidak signifikan maka proses dihentikan berarti persamaannya adalah:
𝑌 = 𝑏0+ 𝑏ℎ𝑋ℎ+ 𝑏𝑘𝑋𝑘 (2.16)
Jika signifikan maka proses dilanjutkan sama dengan cara yang diatas. Demikian seterusnya sampai tidak ada lagi variabel yang masuk dalam model. Uji keberartian keseluruhan koefisien regresi yang masuk ke dalam persamaan penduga. Dalam pengujiannya, masing-masing koefisien regresi diuji dengan uji hipotesa:
𝐻0:𝑏𝑞 = 0 𝐻1:𝑏𝑞 ≠ 0 untuk
𝐹
ℎ𝑖𝑡𝑢𝑛𝑔= �
𝑆(𝑏𝑏𝑞 𝑞)�
2 (2.17)dimana q adalah masing-masing nomor urutan variabel yang diterima masuk ke dalam persamaan penduga. Sedangkan 𝐹𝑡𝑎𝑏𝑒𝑙 = 𝐹(𝑝−1,𝑛−𝑝,0,05). Bila diantara harga 𝐹ℎ𝑖𝑡𝑢𝑛𝑔 < 𝐹𝑡𝑎𝑏𝑒𝑙, maka teorema 𝐻0 artinya variabel tersebut keluar dari regresi. Bila semua
harga 𝐹ℎ𝑖𝑡𝑢𝑛𝑔 < 𝐹𝑡𝑎𝑏𝑒𝑙, maka tolak 𝐻0 artinya semua variabel tetap dalam regresi.
7. Pembentukan Persamaan Penduga
Persamaan penduga 𝑌 = 𝑏0+ 𝑏1𝑋1, dengan𝑋1 adalah semua variabel 𝑋yang masuk ke dalam penduga (faktor penduga) dan 𝑏1 adalah koefisien regresi untuk 𝑋1.
Sebagai pembahasan suatu penduga, untuk mengomentari atau menanggapi kecocokan penduga yang diperoleh ada dua hal yang dipertimbangkan yakni:
a. Pertimbangan berdasarkan Koefisien Determinasi (𝑅2)
Suatu penduga sangat baik digunakan apabila persentase variasi yang dijelaskan sangat besar atau bila 𝑅2 mendekati 1.
b. Analisa Residu (sisa)
Suatu regresi adalah berarti dan model regresinya cocok (sesuai berdasarkan data observasi) apabila kedua asumsi pada 2.1 dipenuhi. Kedua asumsi ini dibuktikan dengan analisa residu. Untuk langkah ini awalnya dihitung residu (sisa) dari penduga yaitu selisih dari respon observasi terhadap hasil keluaran oleh penduga berdasarkan prediktor observasi. Dengan rumus: 𝑒𝑗 = 𝑌𝑗− 𝑌�𝑗 , ditunjukkan pada tabel 2.3:
Tabel 2.3Residu
No Residu Respon (𝑌𝑗) Penduga (𝑌�𝑗) Residu (𝑒𝑗)
1 𝑌1 𝑌�1 𝑌1− 𝑌�1 2 𝑌2 𝑌�2 𝑌2− 𝑌�2 3 𝑌3 𝑌�3 𝑌3− 𝑌�3 . . . . . . . . . . . . n 𝑌𝑛 𝑌�𝑛 𝑌𝑛− 𝑌�𝑛 Jumlah � 𝑒 𝑗 Rata-rata �𝑒𝑗 𝑛 i. Pembuktian Asumsi Asumsi :
a. Rata-rata residu sama dengan nol (𝑒̅ = 0). Kebenaran keadaan ini akan terlihat pada tabel 2.4.
Keadaan ini dibuktikan dengan uji statistik dengan menggunakan uji Korelasi Rank Spearman (Spearman’s Rank Correlation Test). Untuk uji ini, data yang diperlukan adalah Rank (𝑒𝑗) dan Rank (𝑌𝑗), dimana:
𝑑𝑗 = Rank (𝑌𝑗) − Rank (𝑒𝑗).
Hal ini ditunjukkan dengan tabel 2.4:
Tabel 2.4Rank Spearman No Observasi Penduga (𝑌𝑗) Residu (e) Rank (𝑌) Rank (e) 𝑑 𝑟𝑦− 𝑟𝑒 𝑑2 1 𝑌1 𝑒1 𝑟1 𝑟𝑒1 𝑑1 𝑑12 2 𝑌2 𝑒2 𝑟2 𝑟𝑒2 𝑑2 𝑑22 3 𝑌3 𝑒3 𝑟3 𝑟𝑒3 𝑑3 𝑑32 . . . . . . . . . . . . . . . . . . . . . n 𝑌𝑛 𝑒𝑛 𝑟𝑦𝑛 𝑟𝑒𝑛 𝑑𝑛 𝑑𝑛2 Jumlah Σ 𝑒𝑗 � 𝑑𝑗2
Koefisien Korelasi Rank Spearman (𝑟𝑠): 𝑟𝑠 = 1 − 6 � ∑𝑑𝑗
2
𝑛(𝑛2−1)� (2.18)
Pengujian menggunakan uji t dimana:
𝑡ℎ𝑖𝑡𝑢𝑛𝑔 =𝑟𝑠√𝑛−2 �1−𝑟𝑠2
(2.19)
𝑡𝑡𝑎𝑏𝑒𝑙 = 𝑡(𝑛−2,1−𝛼)
dimana 𝑛 − 2 adalah derajat kebebasan dan 𝛼 adalah taraf signifikan hipotesa. Dengan membandingkan 𝑡ℎ𝑖𝑡𝑢𝑛𝑔 < 𝑡𝑡𝑎𝑏𝑒𝑙, maka varian (𝑒𝑗) = varian (𝑒𝑘) dengan kata
lain bila 𝑡ℎ𝑖𝑡𝑢𝑛𝑔 < 𝑡𝑡𝑎𝑏𝑒𝑙, maka varian seluruh residu adalah sama. Bila terbukti varian (𝑒𝑗) = varian (𝑒𝑘), maka model yakni model linier adalah cocok.