MODEL REGRESI NON LINEAR
DAN UJI DETEKSI HUBUNGAN NONLINEAR
Azwar Rhosyied1 – 1305 100 054 Saudi Imam Besari2 – 1306 100 046
Arisman Wijaya3 – 1306 100 042
1rhosyied54@gmail.com, 2e_saudi@ymail.com , 3arin_mathlover@yahoo.co.id
Abstract
In our living, there are many data doesn’t has linear pattern. So it is fit to using non linear model to solving it. The purpose of this research is applying non linear regression model for three cases using SPSS, SAS and R software. The best model for the first case is adalah Yt = 81,84 + 102,40 exp(−t/203,19) +
.
2,22 4 , 29 w
T v is the model for the second case. All software has the same
result in estimating parameter for this model. For the third case, we use the newest model, Nelson Siegel (N-S) and Nelson Siegel Svensson (N-S-S) model with yield curve data. The result for each model is YTM = 0.133 - 0.031* exp( - TTM / 2.265) – 0.014*exp((TTM /2.265) * exp( - TTM / 2.265)) expecially for N-S model, YTM = 0.647 + 0.4*exp( -TTM / 0.601) – 0.087* ((TTM / 0.601) * exp(TTM /0.601)) + 0.004 * (( -TTM / 0.545) * exp( - TTM / 0.545)) expecially for N-S-S model.
Keywords : Nelson Siegel, stormer viscometer, model non linear, yield curve
1. Pendahuluan
Peristiwa di sekitar sering merupakan kejadian yang dapat dimodelkan dengan persamaan regresi. Berdasarkan hubungan kelinearan antar parameter dalam persamaan regresi, model regresi mempunyai dua bentuk hubungan kelinearan yaitu regresi linear dan regresi nonlinear. Seringkali kejadian dalam kehidupan sehari-hari lebih sering merupakan pola model regresi nonlinear. Untuk itu dalam makalah ini akan dibahas mengenai model regresi nonlinear. Beberapa penelitian yang menggunakan regresi non-linear diantaranya oleh Miconnet, Geeraerd, Impe, Roso, dan Cornu (2005) yaitu memodelkan produksi padi dengan least square non-linear dalam permodelan kurva pertumbuhan dalam produksi.
Dalam makalah ini sebagai studi kasus adalah data tentang program penurunan berat badan yang diikuti oleh seorang pasien laki-laki. Data kedua adalah data the stromer viscometer dan data tentang yield curve. Proses untuk mendapatkan model nonlinear pada penelitian ini digunakan software SPSS, SAS dan R, sehingga dapat membandingkan hasil output dari ketiga software tersebut.
2. Tinjauan Pustaka
Pada bagian ini dibahas mengenai metode dan beberapa teori yang mendukung untuk pengerjaan analisis hubungan non-linear.
▸ Baca selengkapnya: trend linear dan non linear
(2)2.1 Uji Deteksi Non-linear dengan Uji Ramsey’s RESET, Uji White dan Uji Terasvirta
Uji Ramsey’s RESET, Uji White dan Uji Terasvirta untuk mendeteksi apakah suatu model mengikuti pola linear atau non-linear tersedia dalam software R.
Statistik uji Ramsey’s RESET adalah (Lihat pembahasan lengkap di Gujarati, 1996).
F (Rnew2 Rold2 ) / p (1Rnew2 ) / (nk)
dengan p jumlah variabel independen baru, k jumlah parameter pada model baru, n jumlah data. Kesimpulanya Ho ditolak bila F > F(,p,n-k)
Uji White adalah uji deteksi non-linearitas yang dikembangkan dari model neural network yang ditemukan oleh White (1989). Uji white menggunakan statistik
2dan F. Prosedur yang digunakan untuk2adalah :
a. Meregresikan yt pada 1, x1, x2, …, xp dan menghitung nilai-nilai residual ut . b. Meregresikan uˆt pada 1, x1, x2, …, xp dan m prediktor tambahan dan
kemudian hitung koefisien determinasi dari regresi R2. Dalam uji ini, m prediktor tambahan ini adalah nilai-nilai dari hasil dari ('jwt) hasil dari suatu transformasi komponen utama.
c. Hitung 2=nR2, dimana n adalah jumlah pengamatan yang digunakan.
Dengan hipotesis linearitas, 2 mendekati distribusi (m2 ) atau tolak Ho jika P-value < α.
Uji Terasvirta adalah uji deteksi non-linearitas yang juga dikembangkan dari model neural network dan termasuk dalam kelompok uji tipe Lagrange Multiplier (LM) yang dikembangkan dengan ekspansi Taylor (Terasvirta, 1993). Pengambilan kesimpulan ketiga uji tersebut dapat dilihat melalui nilai P-value, yaitu tolak Ho jika kurang dari
.2.2 Model Regresi Non-linear Parametrik
Berdasarkan kelinearan antar parameter pada model regresi, maka suatu model regresi dapat diklasifikasikan menjadi dua macam yaitu model linear dan non-linear. Model regresi dikatakan linear jika dapat dinyatakan dalam model :
x x x kxk
y 0 1 1 2 2 3 3 ... (2) Apabila model tidak dapat dinyatakan dalam model tersebut maka model yang diperoleh adalah model non-linear. Secara umum model regresi non-linear parametrik dengan sebagai variabel respon pada replikasi sebanyak dan setiap nilai merupakan variabel independen.dapat dinyatakan dalam persamaan (Ripley, 2002) :
ij i
ij f x
Y ( ,) (3) dengan f adalah fungsi regresi dengan parameter yang harus diduga dan adalah galat dengan sifat N(0,α). Salah satu metode pendugaan parameter dalam sistem non-linear adalah jalan tengah Marquardt (Marquadt’s compromise). Metode Marquardt merupakan kompromi atau jalan tengah antara metode linearisasi atau deret Taylor dengan metode steepest descent (Draper & Smith, 1996).
(1)
2.3 Model Nelson Siegel (N-S) dan Nelson Siegel Svensson (N-S-S)
Tahun 1987, Nelson dan Siegel menunjukkan yield curve dari model yang terletak pada bentuk range yang sama. Model N-S dan N-S-S merupakan pendekatan untuk mendapatkan model yield curve. Model N-S dinyatakan dalam persamaan sebagai berikut
m m m
m exp exp exp
ˆ 0 1 2 (4)
dengan
m adalah nilai yield to maturity (YTM yang )merupakan yield dengan pendekatan forward rate pada maturitas m atau time to maturity (TTM). Sedangkan parameter
merupaka konstanta waktu dari belokan kurva dan parameter 0menunjukkan nilai asimtotik atau konstanta, serta 1 dan 2 merupakan parameter yang menunjukkan arah lengkungan dari kurva.
Sedangkan model N-S-S berikut merupakan pengembangan dari model N-S dengan penambahan parameter 3 dan 3 yang digunakan untuk menambah fleksibilitas kurva (Amoako et al, 2005).
2 2
3 1 1
2 1 1
0 exp exp exp exp
ˆ
m m m m m m (5)
3. Metodologi Penelitian
Dalam penelitian ini digunakan tiga jenis data. Masalah pertama adalah data mengenai program penurunan berat badan yang diikuti oleh pasien laki-laki dengan variabel prediktor adalah hari (t) dan berat badan dalam kg (yt) sebagai variabel respon. Data kedua mengenai The Stormer Viscometer dengan viscosity (v) dan berat fluida (w) sebagai variabel prediktor dan waktu (T) sebagai variabel respon.
Ketiga adalah data mengenai transaksi perdagangan obligasi pemerintah pada periode 6 April 2009 dengan variabel prediktor adalah time to maturity (TTM) dan variabel respon adalah yield to maturity (YTM).
Proses penglahan data digunakan software SPSS, SAS dan R dengan langkah-langkah sebagai berikut :
1. Melakukan identifikasi hubungan non-linear dengan Uji Ramsey’s RESET, Uji White dan Uji Terasvirta pada software R. Untuk kasus pertama sintak uji linearitas adalah sebagai berikut.
>library(lmtest)
> resettest(y.t. ~ t , power=2, type="regressor", data=kasus1)
> library(tseries)
> t<- kasus1$t
> y.t.<-kasus1$y.t.
> white.test(t, y.t.)
> terasvirta.test(t, y.t.)
kasus kedua sintak R adalah sebagai berikut :
sedangkan untuk kasus ketiga sintak yang digunakan adalah sebagai berikut,
3. Memodelkan data kasus 1 dengan pemodelan non-linear, kuadratik dan kubik.
Model non-linear yang diberikan adalah (Ripley, 2002) : Yt = β0 + β1 exp(−t/θ) +
Identifikasi awal penaksiran parameter β00, β10, dan θ0 yaitu :
a. Melakukan regresi kuadratik antara variabel hari (t) sebagai prediktor dan berat dalam kg (Yt) sebagai respon. Sehingga didapatkan nilai fitted value yˆi . Model kuadratik tersebut :
Yt = β0* + β1*t + β2*t2 +
b. Memilih tiga data secara berurutan xo, x1, x2 dari n data yang memiliki selisih sama ( ). Sehingga didapatkan yˆ0 , yˆ1 , dan yˆ2.
c. Menentukan nilai 0 dengan rumus :
2 1
1 0
ˆ ˆ
ˆ log ˆ
y y
y yo
d. Menentukan β00 dan β10 dengan meregresikan Yt sebagai respon dengan exp(-t/0) sebagai prediktor.
> library(lmtest)
> resettest(t ~ v+w , power=2, type="regressor", data=kasus2)
> library(tseries)
> t <- kasus2$t
> v <-kasus2$v
> w <-kasus2$w
> x.all <- cbind(v,w)
> white.test(x.all, t)
>library(lmtest)
> resettest(ytm ~ ttm , power=2, type="regressor", data=kasus3)
> library(tseries)
> y<- kasus3$ytm
> x<-kasus3$ttm
> white.test(x,y)
Makro penaksiran parameter dengan SAS :
Makro penaksiran parameter dengan R :
Menghitung eksplorasi data dengan t>250 yaitu dimulai dari t=251 hingga t=356. Setelah itu membadingkan antar model non-linear, kuadratik maupun kubik.
4. Melakukan permodelan data studi kasus kedua dengan permodelan regresi non-linear. Model non-linear adalah :
2 1
w T v
Identifikasi awal penaksiran parameter β10 dan β20 dengan melakukan pembentukan model baru dari model tersebut, sehingga menjadi :
10 20 ( 20)
v T w
wT
Makro SPSS untuk mendapatkan nilai awal title 'Non linear regression';
data kasus1; input t y;
datalines;
0 185
249 111;
proc model data=kasus1;
y = bo+b1*exp(-t/teta);
fit y start=(bo -67.501 b1 246.022 teta 729.464)/out=resid outall;
run;
proc print kasus1=resid;
run;
kasus1<-nls(y.t.~beta0+beta1*(exp(-t/teta)),data=kasus1,
start=list(beta0= -67.51, beta1= 246.022, teta= 729.5), trace=TRUE)
REGRESSION
/MISSING LISTWISE
/STATISTICS COEFF OUTS R ANOVA /CRITERIA=PIN(.05) POUT(.10) /ORIGIN
/DEPENDENT wT
/METHOD=ENTER v T .
Makro SPSS mendapatkan penaksiran parameter
Makro penaksiran parameter dengan SAS
Makro Penaksiran parameter dengan R
5. Melakukan permodelan data studi kasus keetiga dengan permodelan non- linear Nelson Siegel (N-S) dan Nelson Siegel Svensson (N-S-S) dengan tahapan sebgai berikut.
a. Penentuan nilai awal berdasarkan penelitian oleh Amoako (2002), b0=7.41 b1=-5.41 b2=-5.03 b3=-4.43 t1=0.44 dan t2=1.38.
b. Membagi data training dan testing masing-masing sebanyak 100 dan 32 data sampel dan memodelkan NS dan NSS berdasarkan nilai awal.
c. Menghitung nilai RMSE untuk masing-masing data training dan testing.
d. Memodelkan keseluruhan data dengan model NS dan NSS berdasarkan nilai awal yang sudah ada.
> fm <- nls(T~ b1*v/(w-b2), start=list(b1=28.9, b2=2.84), data=kasus2, trace=TRUE)
> summary(kasus2)
* NonLinear Regression.
MODEL PROGRAM b1=28.876 b2=2.844 . COMPUTE PRED_ = b1 * v / (w - b2).
NLR T
/OUTFILE='C:\DOCUME~1\X2\LOCALS~1\Temp\spss2360\SPSSFNLR.TM P'
/PRED PRED_
/SAVE PRED
data kasus2;
input w v T;
label w='weight' v='viscosity' T='Time';
datalines;
20 14.7 35.6
20 27.5 54.3
100 161.1 45.1
100 298.3 89
100 298.3 86.5
;
proc nlin data=kasus2 method=MARQUARDT;
parms b10=28.9 b20=2.84;
model T=b10*v/(w-b20);
run;
Makro SAS dalam penentuan nilai parameter model N-S
Makro SAS dala, penentuan penaksiran parameter model N-S-S
4. Hasil analisa data dan pembahasan
Hasil analisis pengujian deteksi hubungan non-linear dan regresi non-linear adalah sebagai berikut :
4.1
Pengujian Deteksi Hubungan Non-linear
Pengujian hubungan non-linear dengan uji Ramsey’s RESET, uji White dan uji Terasvirta (dengan uji Chi-Square) pada software R yaitu :
Tabel 1 Pengujian Deteksi Hubungan Non-linear
Data Studi Kasus Ramsey’s RESET White Terasvirta
1 714.1839 199.7347 210.1889
2.2e-16* 2.2e-16* 2.2e-16*
2 7.6107 11.2577 91.3249
0,0004* 0,0036* 2.2e-16*
3 42.3412 55.1889 53.9386
1.544e-09* 1.037e-12* 1.938e-12*
Keterangan : (*) nilai P-value data kasus3;
input X Y;
label X='TTM' Y='YTM';
datalines;
0.0833 0.075 0.1918 0.1056
18.874 0.1275;
proc nlin data=kasus3 method=MARQUARDT;
parms b0=7.41 b1=-5.41 b2=-5.03 t1=0.44;
model Y=b0 + b1 * EXP( - X / t1) + b2 *EXP((X /t1) * EXP( - X / t1));
run;
data kasus3;
input X Y;
label X='TTM' Y='YTM';
datalines;
0.0833 0.075 0.1918 0.1056
18.874 0.1275;
proc nlin data=kasus3 method=MARQUARDT;
parms b0=7.41 b1=-5.41 b2=-5.03 b3=-4.43 t1=0.44 t2=1.38;
model Y= b0 + b1*exp(-X/t1)+b2*((X/t1)*exp(X/t1))+
b3*((-X/t2)*exp(-X/t2));
run;
t
Y-Data
300 250 200 150 100 50 0 180 160 140 120
100 Variableyhat_quad yhat_cub yhat_non
Scatterplot of yhat_quad, yhat_cub, yhat_non vs t
Dari Tabel 1 di atas dapat diketahui bahwa uji Ramsey’s RESET, Ehite dan Terasvirta menunjukkan hasil bahwa semua data untuk tiap kasus mengikuti bentuk model non-linear .
4.2Model Non-linear Studi Kasus Pertama
Pembentukan model non-linear dimulai dengan penaksiran awal parameter yang akan digunakan. Dari persamaan kuadratik Yt183.30.454t0.001t2 diperoleh tiga data secara berurutan dengan =3 :
xo=27 , yˆ0= 171.51 x1=30 , yˆ1 = 170.26 x2 =33, yˆ2 .= 169.03
Sehingga didapatkan 00 = 428.27, β00 = 17.97 dan β10 = 162.13. Kemudian dilanjutkan dengan pembentukan model non-linear dengan software SPSS, R dan SAS dengan parameter awal β0 = 17.97 dan β1 = 162.13.
Tabel 2 Model Non-linear pada SPSS, R dan SAS
Software Model R2
SPSS Yt = 81,84 + 102,40 exp(−t/203,19) +
99,8 % R Yt = 81,84 + 102,40 exp(−t/203,19) +
- SAS Yt = 81,84 + 102,40 exp(−t/203,19) +
99,8 %Dengan Tabel 2 di atas dapat diketahui bahwa model dan koefisien determinasi (R2) yang diperoleh sama. Dengan estimasi parameter β0 = 81,84, β1 = 102,4 dan 0= 278,783. Parameter hari(t) tersebut terbukti signifikan berpengaruh dalam model karena P-value kurang dari
= 0,05. Koefisien determinasi yang tinggi sebesar 99,8 % menunjukkan bahwa variabel hari mampu menerangkan penurunan berat badan yang diikuti seorang pasien laki-laki tersebut sebesar 99,8% yang berarti waktu (hari) sangat berpengaruh terhadap penurunan berat badan.
Bila menggunakan metode regresi polinomial kuadratik maka diperoleh persamaan seperti pada pembentukan awal parameter, yaitu Yt = 183,3 - 0,4542t + 0,000684t2 +
dengan koefisien determinasi 99,7 %. Dan regresi polynomial kubik yaitu Yt = 184.5 – 0,5133t + 0,001281t2 – 0,000002t3 dengan koefisien determinansi 99,8 %. Berikut adalah perbandingan fitted value pada model non-linear, kuadratik dan kubik.Gambar 1 Plot Ekstrapolasi Data
Dari Gambar 1 di atas disimpulkan bahwa model non-linear adalah pilihan model terbaik, karena memperlihatkan hubungan hari dan berat badan yang sama dengan data pembentukan modelnya yaitu semakin besar hari maka berat badan akan semakin menurun. Hal ini juga didukung oleh nilai koefisien determinansi 99,8
% yang besar.
4.3Model Non-linear Studi Kasus Kedua
Studi kasus kedua tentang the stormer viscometer untuk mendapatkan model hubungan viscositas(v) dan berat fluida(w) terhadap waktu(T). Pembentukan identifikasiawal penaksiran parameter melalui model wT 28,9v2,84(w2) . Kemudian dilanjutkan dengan pembentukan model non-linear dengan software SPSS, R dan SAS dengan parameter awal β1 = 28,9 dan β2 = 2,84.
Tabel 3 Model Non-linear dengan SPSS, R dan SAS
Software Model R2
SPSS
22 , 2
4 , 29 w
T v 99,17 %
R
22 , 2
4 , 29 w
T v -
SAS
22 , 2
4 , 29 w
T v 99,17 %
Dari Tabel 2 di atas nilai penaksir parameter dan koefisien determinasi keluaran SPSS, R dan SAS sama, dengan estimasi parameter β1=29,4 dan β2=2,22 dan R2 = 99.17%. Koefisien determinasi yang tinggi menunjukkan bahwa variabel viskositas dan berat fluida sangat berpengaruh terhadap waktu.
4.4Model Non-linear Nelson Siegel (N-S) dan Nelson Siegel Svensson (N-S-S)
Untuk mendapatkan hasil model yang terbaik maka perlu dilakukan validasi dengan membagi data in sampel dan out sample kemudian menghitung nilai RMSE dan membandingkannya.
Tabel 4 RMSE in sample dan out sample
Model
RMSE
In sample Out sample
N-S 0.0029 0.0107
N-S-S 0.0029 0.0108
Dari Tabel 4 di atas dapat diketahui nilai RMSE terkecil adalah pada data in sample untuk model N-S maupun N-S-S, yaitu 0.0029.
Berikut adalah perbandingan hasil pemodelan dengan menggunakan data secara keseluruhan.
Tabel 5 Perbandingan hasil penaksir parameter model N-S dan N-S-S
Model N-S b0 b1 b2 b3 t1 t2 R2 Iterasi
SPSS 0.133 -0.031 -0.014 - 2.265 - 56.50% 20
SAS 0.0897 -0.0266 0.0246 - 7.0108 - - 23
R - - - -
Model N-S-S b0 b1 b2 b3 t1 t2 R2 Iterasi
SPSS 0.647 4 -0.087 0.004 0.601 0.545 55.50% 260
SAS 0.4353 -0.3485 0.0236 31597 15.294 1904380 - 100
R - - - -
Dari Tabel di atas dapat diketahui bahwa ada perbedaan hasil penaksiran parameter dengan menggunakan software SPSS dan SAS. Sedangkan software R tidak mampu menghasilkan output yang diinginkan dengan menggunakan model N- S dan N-S-S. Nilai koefisien determinasi model N-S lebih besar daripada model N-S- S, yakni 56.5%, sehingga model N-S merupakan model terbaik untuk data yield curve tanggal 6 April 2009.
Pada model N-S software SPSS mengiterasi model dengan iterasi sebanyak 20, sedangkan SAS sebanyak 23. sedangkan model N-S-S, iterasi SPSS lebih banyak dibandingkan iterasi yang dilakukan oleh SAS, yaitu 260.
TTM
Y-Data
20 15
10 5
0 0.14 0.13 0.12 0.11 0.10 0.09 0.08 0.07
Variable YTM Pred_NS Pred_NSS
Scatterplot of YTM, Pred_NS, Pred_NSS vs TTM
Gambar 2 Grafik Perbandingan Data YTM, Predicted Model N-S dan N-S-S
Dari Gambar 2 di atas secara visual dapat diketahui hasil prediksi model N-S dan N-S-S mengikuti pola data YTM.
5. Kesimpulan
Berdasarkan hasil analisis dan pembahasan dapat diambil beberapa kesimpulan sebagai berikut :
1. Data kesehatan suatu program penurunan berat badan yang diikuti seorang pasien laki-laki dan data tentang the stormer viscometer lebih mengikuti bentuk model non-linear dibandingkan model kuadratik maupun kubik.
2. Model terbaik pada studi kasus pertama adalah model non-linear Yt = 81,84 + 102,40 exp(−t/203,19) +
dengan koefisien determinansi 99,8 %.3. Model non-linear studi kasus kedua adalah
22 , 2
4 , 29 w
T v dengan
koefisien determinansi (R2) 99,17 %.
4. Software SPSS dan SAS memberikan hasil berbeda dalam menaksir parameter model N-S dan N-S-S, sedangkan software R tidak bisa menghitung taksiran parameter model N-S dan N-S-S
Daftar Pustaka
Gujarati, D.N. (1996). Basic Econometrics. 5th edition, McGraw Hill International, New York.
White, H. 1989.An additional hidden unit test for neglected nonlinearity in multilayer feedforward networks. In Proceedings of The International Joint Conference on Neural Networks, Washington, DC (pp. 451‐455). San Diego, CA: SOS Printing.
Terasvirta, T., Lin, C.F.,&Granger, C.W.J.1993.Power of the neural network linearity test. Journal of Time Series Analysis, 14, 159–171.
Drapper, N.,R.,& Smith, H.1996. Applied Regression Analysis, 2nd edition. New York: John Wiley & Sons. Chapman and Hall.
Venables, W., & Ripley, B. 2002. Modern Applied Statistics with S (4th ed.). New York: Springer.
