Pengestimasian Parameter Model Autoregresif Moving Average (ARMA) dengan Metode Unconditional Maximum Likelihood Estimation

Pengestimasian Parameter Model

Autoregresif Moving Average

(ARMA) dengan

Metode

Unconditional Maximum Likelihood Estimation

The Estimation of Parameter Autoregressive Moving Average - Model

With Unconditional Maximum Likelihood Estimation

Suyitno

Program Studi Statistika FMIPA Universitas Mulawarman

Abstract

A time series is an ordered sequence of observations. The ordering is usually through time or particularly in terms some equally time intervals, and it may also be taken through other dimensions, such as space. There are various objectives for studying time series. These include the understanding and description of generating mechanism, the forecasting of future values and optimal control of system. The intrinsic nature of a time series is that its observations are dependent or correlated, and the order of the observation is identically on the same times measure. The procedure to hand time series are model identification, parameter estimation, diagnostic checking & model selection, and forecasting. In this article discussed the second step that is parameters estimation the autoregressive moving average (ARMA)models by using Uncondtiional Maximum Likelihood Estimation. Under the assumption of known order p and q of the ARMA process, it parameters can be estimated by using unconditional maximum likelihood estimation and through the simulation ARMA(1,1)data yield the same value of the estimator parameter.

Keywords : Autoregressive moving average models, the estimation parameter, unconditional maximum likelihood, forecasting, back-forecasting, sum square error

I. PENDAHULUAN

Model umum pada analisis deret waktu dinamakan model Autoregressive Integrateg Moving Avarage (ARIMA) yang telah dipelajari secara mendalam oleh George Box dan Gwilym Jenkins (1976), dan nama mereka sering disinonimkan dengan proses ARIMA. Pada model ARIMA terdiri dari dua bagian yaitu bagian autoregressivedanmoving average. Secara umum model ARIMA ini dituliskan dengan notasi ARIMA(p,d,q), dimanapmenyatakan orde proses autoregressive (AR), q menyatakan orde proses moving average (MA) dan d menyatakan orde transpormasi pembedaan (differencing). Pada model ARIMA(p,d,q) jika harga d = 0 maka model menjadi ARIMA(p,0,q) atau dinamakan model ARMA(p,q), jelasnya model ARMA(p,q) adalah model ARIMA untuk data deret waktu yang stasioner yang tidak mengalami transpormasi pembedaan. Jika d = 0 dan q = 0, maka model dinamakan ARIMA(p,0,0) atau model ARMA(p,0) atau lebih umum dinamakan model AR(p) yakni modelautoregressiveorde p, dan jika p = 0 dan d = 0 maka model ARIMA menjadi model ARMA(0,q) atau dinamakan model Moving Average orde q dan dinotasikan dengan MA(q).

Berdasarkan pendekatan Box-Jenkins, dalam melakukan analisis deret waktu terdapat empat tahapan yaitu: (1) identifikasi model yang terdiri dari merumuskan model umum dan penetapan model sementara; (2) penaksiran (estimation)

parameter; (3) pemeriksaan diagnostik model (diagnostic checking) dan (4) peramalan (forecasting).

Pada pembahasan sebelum (Suyitno, 2011) telah membahas pengestimasian parameter model AR dengan metode moment, metode kuadrat terkecil dan metode maksimum Likelihood bersyarat, dengan hasil penelitian bahwa jika orde proses AR diketahui maka pengestimasian dapat dilakukan dengan menggunakan tiga metode yaitu metode moment, ordinary least square (OLS) dan metode maksimum likelihood (ML), dan ketiga metode tersebut memberikan hasil penaksir parameter yang sama, dan jika orde AR tidak diketahui maka prosedur pengestimasian parameter mengikuti tahapan Box-Jenkins yaitu: (1) identifikasi model sementara; (2) pengestimasi parameter untuk beberapa orde pada tahap pertama; (3) memilih orde yang memberikan nilai information criteria minimum.

Dan sebagai kelanjutannya pada artikel ini dibahas pengestimasian model ARMA dengan metode Maksimum Likelihood tak bersyarat (Unconditional Maximum Likelihood ), dimana para peneliti masih masih relatif sedikit yang membahas teori ini. Pada artikel ini berturut-turut akan diuraikan model umum ARMA(p,q), fungsi autokorelasi dan fungsi autokorelasi parsial, pengestimasian parameter ARMA dan aplikasinya pada data deret waktu

II. TINJAUAN PUSTAKA Model ARMA

Seperti yang telah diuraikan pada pendahuluan bahwa model Autoregressive Moving Average atau ARMA(p,q) adalah model khusus dari model ARIMA. Model ARMA merupakan model campuran yaitu campuran model Autorgressive (AR) dan Moving Average (MA). Bentuk umum model campuran ARMA(p,q) adalah t q t p

(

B

)

Z

~



(

B

)

a





, (1) dengan

Z

~

_t



Z

_t





;





E

(

Z

_t

)

adalah mean proses {Zt};

{

a

_t

}

adalah proseswhite noise dan p p p

B



B



B



B



(

)



1



₁



₂ 2







; q q q

B



B



B



B



(

)



1



₁



₂ 2







serta B adalah operator backshif yang didefinisikan oleh

B

j

Z

_t



Z

_tj. Persamaan (1) dapat ditulis

p t p t t t

Z

Z

Z

Z

~





₁

~

_1





₂

~

_2









~

_ q t q t t t

a

a

a

a



_



_





_





_{1 1}



_{2 2}





atau











_{t t p tp} t

Z

Z

Z

Z



_{1 1}



_{2 2}





q t q t t t

a

a

a

a



_



_





_











_{0 1 1 2 2}



(2) Dengan



₀



(

1





₁









_p

)



,(Wei,1999). Proses ARMA(p,q) stasioner jika semua akar-akar persamaan



_p

(

B

)



0

terletak di luar lingkaran satuan dan invertibel jika semua akar-akar

0

)

(

B



q



terletak di luar lingkaran satuan. Jika kedua ruas persamaan (2) dikalikan k

t

Z

~

_ dan kemudian dihitung nilai harapan atau ekspektasinya didapat fungsi autokovariansi proses ARMA(p,q) :











_{k k p kp} k















_{1 1 2 2}









_{ } 

)

(

~

)



~

(

Z

_{t k}

a

_{t 1}

E

Z

_{t k}

a

_{t 1}

E



)

~

(

_{t k t q} q

E

Z



a





. (3)

Karena

E

(

Z

~

_tk

a

_tj

)



0

untuk

k



j

maka fungsi autokovariansi proses ARMA(p,q) dapat ditulis p k p k k k 





 





  









_{1 1 2 2}  ;kq, (4) sehingga fungsi autokorelasi (fak) proses ARMA(p,q) untuk

k



q

adalah

p k p k k k





























_{1 1 2 2}



(5) Untuk harga p = 1 danq = 1, maka model pada persamaan (1) dinamakan proses ARMA(1,1) yang model umumnya adalah

t t

B

a

Z

B

)

~

(

1

)

1

(





₁







₁ atau

Z

~

_t





₁

Z

~

_t1



a

_t





₁

a

_t1. (6) Proses ARMA(1,1) pada persamaan (6) stasioner jika

|



₁

|



1

dan invertibel jika

|



₁

|



1

. Berdasarkan persamaan (3) maka fungsi autokovariansi proses ARMA(1,1) adalah

)

~

(

)

~

(

_{1 1} 1 1 







 



_{k t k t t k t} k





E

Z

a



E

Z

a



(7) Untuk k = 0, maka

E

(

Z

~

_t

a

_t

)





_a2; 2 1 1 1

)

(

)

~

(

Z

_t

a

_{t a}

E

_











, dan untuk k= 1 didapat



₁





₁



₀





₁



_a2, sehingga fungsi kovariansi proses ARMA(1,1) adalah

2 2 1 1 1 2 1 0

)

1

(

)

2

1

(

a





















; 2 2 1 1 1 1 1 1

)

1

(

)

1

)(

(

a























, 1 1 



_k k







untuk

k



2

, (8)

dan fungsi autokorelasinya (fak) adalah

































untuk

2

1

untuk

,

2

1

)

1

)(

(

0

untuk

1

1 1 1 1 2 1 1 1 1 1

k

k

k

k k





















(9) Berdasarkan persamaan (9), fungsi autokorelasi proses ARMA(1,1) turun secara eksponensial (sinusoida) menuju 0 dengan bertambahnya lag (k) atau dies downturun secara ekponensial (dies down). Nilai fak pada lag pertama tergantung pada parameter



₁ dan



₁ dan fak pada lag kedua dan seterusnya mengikuti pola fak AR(1). Sedangan rumus umum fungsi autokorelasi parsial (fakp) proses ARMA(1,1) adalah kompleks dan tidak dperlukan. Tetapi perlu dicatat bahwa karena ARMA(1) memuat proses MA(1) maka fakpnya juga dies down semakin besar k yang bentuknya tergantung tanda parameter



₁ dan

1

Jika fak sampel adalah





   











_n t t k n t t t k k k

Z

Z

Z

Z

Z

Z

1 2 1 0

)

(

)

)(

(

ˆ

ˆ

ˆ







,

k = 0, 1, 2, . . . , maka dengan metode moment melalui persamaan (9) dan dengan memperhatikan syarat kestasioneran serta ivertibel proses ARMA(1,1) maka estimasi parameter



₁ dapat ditentukan dan kemudian



₁ dapat ditentukan dengan motode iteratif, (Makridakis 1998). Untuk selanjutnya, pada artikel dibahas bagaimana pengestimasian parameter ARMA(1,1) dengan menggunakan metode Unconditional Maximum Lilkelihood Estimation(ML tak bersyarat).

Pengestimasian Parameter Proses ARMA dengan MetodeUnconditional ML

Seperti yang ditelah diuraikan sebelumnya bahwa

{

a

_t

}

pada persamaan (1) adalah proses white noise yang saling bebas dan berdistribusi identik

N

(

0

,



_a2

)

. Kemudian pertanyaannya adalah apakah bisa dilakukan peramalan mundur (back -forecacst) nilai-nilai yang tidak diketahui

)

,

,

,

(

_{1 1 0} *



Z



Z



Z



Z

_p



dan

)

,

,

,

(

_{1 1 0} *



a



a



a



a

_q



. Tentu saja ini

dapat dilakukan karena sebarang model ARMA dapat dinyatakan dalam model maju









B

_p

B

p

)

Z

~

_t

1

(



₁





t q q

B

a

B

)

1

(





₁









, (10)

atau model mundur









F

_p

F

p

)

Z

~

_t

1

(



₁





t q q

F

e

F

)

1

(





₁









, (11)

dengan

F

j

Z

_t



Z

_tj. Karena sifat stasioner maka (10) dan (11) mempunyai struktur kovarian yang sama, sehingga

{

e

_t

}

juga merupakan proses white noise dengan mean sama dengan nol dan variansinya



_e2. Karena {at} adalah iid.

N

(

0

,



_a2

)

, maka mempunyai fungsi kepadatan peluang (FKP)

























1/2 ₂ 2 2

2

1

exp

2

)

,

(

_t a a a t

a

a

f









, (12)

dan fungsi kepadatan peluang bersama dari

)

,

,

,

(

_{1 2}





a

a

a

_n

a



adalah

)

,

,

,

|

(

a

_a2

P









=

L

(

a

|



,



,



_a2

)

=

)

,

(

.

).

,

(

).

,

(

a

_{1 a}2

f

a

_{2 a}2

f

a

_{n a}2

f









=

 





















  n t t a n a

a

1 2 2 2 / 2

2

1

exp

.

2





. (13)

Box dan Jenkins (1976) memberi petunjuk untuk fungsi log-likelihood tak bersyarat yaitu

2 2 2

2

)

,

(

2

ln

2

)

,

,

,

(

ln

a a a

n

S

L























(14) dengan

S

(



,



,



)

adalah fungsi jumlah kuadrat yang diberikan oleh







 



n t t

Z

a

E

S

(



,



,



)

(

|



,



,



,

)

2 , (15) dengan

E

(

a

_t

|



,



,



,

Z

)

adalah ekspektasi bersyarat dari

a

_t jika diketahui



,



,



dan Z. Harga-harga



ˆ

,



ˆ

dan



ˆ

yang meminimalkan

)

,

,

(







S

pada persamaan (15) dinamakan Uncoditional Maximum Likelihood Estimators (ML tak bersyarat). Karena nilai

)

,

,

,

(

ln

L









_a2 pada persamaan (14) tergantung pada data pengamatan pada suku

)

,

,

(







S

sehingga penaksir ML tak bersyarat adalah ekuivalen dengan Uncoditional Least Squares Estimator dengan meminimalkan fungsi

)

,

,

(







S

. Dalam prakteknya penjumlahan (15) diestimasi oleh sebuah penjumlahan berhingga







 



n M t t

Z

a

E

S

(



,



,



)

(

|



,



,



,

)

2, (16) dengan M adalah bilangan bulat yang cukup

besar sedemikian sehingga















,

,

)



(

_

|

,

,

)

|



|

(

|

E

Z

_t

E

Z

_{t 1} ;

)

1

(







M

t

untuk bilangan positip



yang cukup kecil yang ditentukan. Berdasarkan persamaan (16) maka berimplikasi









,

,

)



|

(

Z

_t

E

dan oleh karena itu

)

,

,

|

(

a

_t







E

dapat diabaikan untuk

)

1

(







M

t

. Dan setelah penduga



ˆ

,



ˆ

dan



ˆ

ditentukan, maka penduga



ˆ

_a2 dapat dihitung yaitu

n

S

a

)

ˆ

,

ˆ

,

ˆ

(

ˆ

2











. (17)

Perhitungan jumlah kuadrat tak bersyarat (16) dilakukan secara rekursif menggunakan persamaan (10), dengan produr sebagai berikut : (1) melihat kestasioneran data, jika data tidak stasioner pada mean maka dilakukan transpormasi pembedaan, (2) berdasarkan data yang statsioner, dihitung nilai

e

_t untuk

t



q

dengan menggunakan model backcasting (11) dengan nilai awal

e

_n1



0

dan

Z

_n1



Z

serta nilai awal parameter dengan memperhatikan syarat kestasioneran dan invertibel, (3) menghitung nilai

0

)

1

(

;



M





t



Z

_t dengan menggunakan

form backcasting dengan nilai

e

_t



0

dan menentukan harga M yang memenuhi persamaan (16); (4) menghitung nilai

a

_t untuk

n

t

M







dan menghitung jumlah kuadrat persamaan (16); dan (5) langkah 2 – 4 diulangi sampai memperoleh nilai jumlah kuadrat minimum.

III.METODE PENELITIAN

Penelitian ini adalah penelitian eksperimen, pembuktian aplikasi dari suatu teori melalui studi literatur. Data penelitian adalah data simulasi (eksperimen) yaitu data bangkitan model ARMA(1,1) , pengestimasi parameter model menggunakan metode unconditional ML dan perhitungan dilakukan dengan membuat suatu program aplikasi pada program MATLAB.

IV.HASIL DAN PEMBAHASAN

Data deret waktu pada tabel 1, merupakan data deret waktu dengan ukuran n = 100 hasil simulasi model ARMA(1,1) dengan persamaan

t t

B

a

Z

B

)

(

1

0

,

5

)

8

,

0

1

(







. Dengan melihat

pola data pada gambar 1 nampak bahwa pola data sejajar dengan sumbu mendatar (t) yang menunjukkan data deret waktu stasioner. Hal ini diperkuat oleh FAK dan FAKP pada gambar 2 dan 3 yang masing-masing bersifat dies down. Setelah tahap identifikasi dengan kesimpulan bahwa data deret waktu stasioner maka tahap berikutnya adalah pengestimasian parameter dengan metode unconditional ML. Dengan mengikuti tahapan dalam pengestimasian parameter



dan



yang telah diuraikan di atas dan dengan mengambil nilai

|



ˆ

|



1

dan

1

|

ˆ

|





didapat nilai minimum







 





100 74 2

))

5

,

0

(

,

),

9

,

0

(

|

(

)

,

,

(

t t

Z

a

E

S







adalah 7477,67 untuk M = 74 (untuk 175 pengamatan) dengan

005

,

0

004313

,

0

|

|

Z

_74



Z

_75





dan

nilai penduga parameter



ˆ



0

,

9

,



ˆ





0

,

5

serta



ˆ



Z



103

,

99

. Sedangkan untuk

7886

,

0

ˆ

_



dan



ˆ





0

,

5

menghasilkan jumlah kuadrat error S = 24482,14 dengan M = 28. Sebagai perbandingan, perhitungan dengan menggunakan program MINITAB didapat

7886

,

0

ˆ

_



dan



ˆ





0

,

5122

, dengan jumlah kuadrat galat S = 1809,10 pada 100 pengamatan (backforecast dikeluarkan) .

V. KESIMPULAN DAN SARAN

Berdasarkan pengestimasian parameter dengan metode Uncoditional ML menghasilkan model yang sama seperti model pada data bangkitan. Agar pengestimasian parameter lebih akurat dengan jumlah digit yang lebih besar untuk penduga parameter yang menghasilakan jumlah error yang lebih kecil lagi diperlukan pengembangan pembuatan bahasa pemprograman yang bisa menjawab persoalan ini, sehingga diperlukan penelitian lanjutan.

DAFTAR PUSTAKA

Aswi & Sukarna, 2006. Analisis Deret Waktu, Makasar: Andira Publisher.

Box, G.E.P & Jenkins, GM., 1976. Time Series Analysis Forecasting and Control, 2nd Edition, San Francisco : Holden-Day. Hamilton, J.D., 1994. TimeSeries Analysis, New

Jersey : Princeton University Press.

Judge, G.G., Griffiths, W.E.,

L

u





tkepol

, H., Hill, R.C., Lee, T.C., 1985. The Theory and Practice of Econometrics, 2nd_{Edition, USA:} John Wiley & Sons, Inc.

ssner,

a

Kirchg





G., & Wolters, J., 2007.

Introduction to Modern Time Series Analysis, Berlin: Springer-Verlag.

Koutsoyiannis, A., 1977. Theory Of Econometrics: An Introductory Exposition of Econometric Methods, 2nd _{Edition, USA:} Harper & Row Publishers, Inc.

Makridakis, S., Wheelwright, S.C., & MicGee, V.E., 1998.Forecasting and Aplications, 2nd , John Wiley & Sons, Inc. (alih bahasa: Hari .

Soejoeti, Z., 1987. Analisis Runtun Waktu, Jakarta: Kurnia Universitas Terbuka. Tsay, R.S., 2002. Analysis of Financial Time

Series: Financial Econometrics, New York:John Wiley & Sons. Inc.

Wei, W.W.S., 1994. Time Series Analysis: Univariate and Multivariate Methods, California: Addison-Wesley Publishing Company.

LAMPIRAN

Tabel 1: Data simulasi deret waktu t t

B

a

Z

B

)

(

1

0

,

5

)

9

,

0

1

(







97.84 88.64 86.24 89.37 85.42 89.97 99.89 102.69 103.96 105.26 104.23 106.97 105.15 114.08 117.45 115.93 119.96 120.92 118.50 112.25 110.42 103.43 103.32 112.89 112.20 113.54 120.60 113.71 101.15 100.29 99.69 102.17 107.75 112.58 119.55 124.16 129.37 123.40 117.96 115.33 105.38 102.12 97.27 101.98 101.29 101.79 104.03 99.57 86.45 82.09 78.68 81.35 87.29 98.30 105.65 103.35 103.31 98.88 96.37 96.45 96.68 95.42 100.56 93.87 91.94 98.30 104.36 108.64 109.42 111.97 115.31 113.92 110.00 106.58 97.81 93.17 93.86 96.34 104.71 106.10 107.72 112.51 117.96 113.55 110.78 111.42 105.83 99.02 102.67 104.46 105.63 106.48 102.88 98.20 99.20 95.64 97.61 102.64 99.69 96.34 Sumber : Simulasi 2012 t Z( t) 100 90 80 70 60 50 40 30 20 10 1 130 120 110 100 90 80

Time Series Plot of ARMA(1,1)

Gambar 1 : Grafik deret waktu simulasi ARMA(1,1):

(

1



0

,

9

B

)

Z

_t



(

1



0

,

5

B

)

a

_t Lag A u to co rr e la ti o n 24 22 20 18 16 14 12 10 8 6 4 2 1.0 0.8 0.6 0.4 0.2 0.0 -0.2 -0.4 -0.6 -0.8 -1.0 AutocorrelationFunctionfor ARMA(1,1)

(with 5%significance limits for the autocorrelations)

Gambar 2: FAK deret waktu

t t

B

a

Z

B

)

(

1

0

,

5

)

9

,

0

1

(







Lag P a rt ia lA u to co rr e la ti o n 24 22 20 18 16 14 12 10 8 6 4 2 1.0 0.8 0.6 0.4 0.2 0.0 -0.2 -0.4 -0.6 -0.8 -1.0

Partial Autocorrelation Functionfor ARMA(1,1)

(with 5%significance limits for the partial autocorrelations)

Gambar 3 : Grafik FAKP deret waktu t t

B

a

Z

B

)

(

1

0

,

5

)

9

,

0

1

(







Tabel 2 : Tabel nilai backcasting

e

_t dan nilai forecasting

a

_t untuk



ˆ



0

,

8

dan



ˆ





0

,

5

t Zt et at -74 -73 -72



-1 0 1



98 99 100 0,03882 0.04314 0.047930



84.99558 94.43953 97.83700



102,6450 99,69400 96,34300 0 0 0



0 0 12.772478



7.1156893 11.609421 2.751757 0.0388239 -0.0112158 0.01471475



11.1373525 12.374836 6.6539967



9.5115899 2.5577050 5.3395474

Tabel 3. Nilai

S

(



ˆ

,



ˆ

,



ˆ

)

untuk beberapa pasangan



ˆ

dan



ˆ



ˆ

_

ˆ

M

S

(



ˆ

,



ˆ

,



ˆ

)

0.7886