Estimasi Maksimum Likelihood Pada Model Arima

ESTIMASI MAKSIMUM LIKELIHOOD PADA MODEL ARIMA

SKRIPSI

IRMA WAHNI SINAGA

080823040

DEPARTEMEN MATEMATIKA

FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM

UNIVERSITAS SUMATERA UTARA

MEDAN

ESTIMASI MAKSIMUM LIKELIHOOD PADA MODEL ARIMA

SKRIPSI

Diajukan untuk melengkapi tugas dan memenuhi syarat mencapai gelar Sarjana Sains

IRMA WAHNI SINAGA 080823040

DEPARTEMEN MATEMATIKA

FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SUMATERA UTARA

PERSETUJUAN

Judul : ESTIMASI MAKSIMUM LIKELIHOOD PADA

MODEL ARIMA

Kategori : SKRIPSI

Nama : IRMA WAHNI SINAGA

Nomor Induk Mahasiswa : 080823040

Program Studi : SARJANA (S1) MATEMATIKA

Departemen : MATEMATIKA

Fakultas : MATEMATIKA DAN ILMU PENGETAHUAN

ALAM (FMIPA) UNIVERSITAS SUMATERA UTARA

Diluluskan di

Medan, 05 Januari 2011

Komisi Pembimbing :

Pembimbing 2 Pembimbing 1

Drs. H. Haluddin Panjaitan Drs. Pangeran Sianipar, MS NIP 19460309 197902 1 001 NIP 19470208 197403 1 001

Diketahui/Disetujui oleh

Departemen Matematika FMIPA USU

Prof. Dr. Tulus, M.Si

PERNYATAAN

ESTIMASI MAKSIMUM LIKELIHOOD PADA MODEL ARIMA

SKRIPSI

Saya mengakui bahwa skripsi ini adalah hasil kerja saya sendiri, kecuali beberapa kutipan dan ringkasan yang masing-masing disebutkan sumbernya.

Medan, 05 Januari 2011

PENGHARGAAN

Puji dan syukur penulis ucapkan kepada Bapa yang di Surga, Allah yang begitu baik yang memberikan pertolongan sehingga penulis dapat menyelesaikan Skripsi ini,

Ucapan terima kasih saya sampaikan kepada Drs. Pangeran Sianipar, MS dan Drs. H. Haluddin Panjaitan selaku pembimbing pada penyelesaian skripsi ini yang telah memberikan panduan dan penuh kepercayaan kepada saya untuk menyempurnakan kajian ini. Ucapan terima kasih juga ditujukan kepada Ketua dan Sekretaris Departemen Prof. Dr. Tulus, M.Si. dan Drs. Henri rani Sitepu, M.Si., Dekan dan Pembantu Dekan Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Sumatera Utara, semua dosen pada Departemen Matematika FMIPA USU, pegawai di FMIPA USU, dan rekan-rekan kuliah.Terima kasih juga penulis ucapkan kepada seluruh keluarga, terkhusus ‘my Lovely Family’ Bapa B. Sinaga,

Mama S. Saragih, Kel. Kakakku Ramen Wirawati, Adik-adikku May Friska Sol

Marito, Selfi, Hartono yang telah mendukung penulis di dalam doa, memberikan bantuan dan dorongan yang saya perlukan, teman-teman sepelayanan di KMKS, Saudara PA-ku ‘Grace’ (b’Harles, B’David, B’ Sandro, K’Lina, Ucia, Sabeth), Adik-adik PA-ku ‘MDP-Geboren’ (Lungguk, Dages, Eva) ‘Ekk. Marvelous’ (K’Epa, Dosma, Hansen, Rico), Abang dan Adikku (B’Fe n Vincent) dan Saudaraku di

‘ALC’ (Tuti, Sondang, Pesta, Pratiwina, Novalina, Jelita, Romasta, Selfi, Ani, Wina,

Wita, Peni, Tina, Ririz, Tata, Uly, Sabeth, Elisabeth, Maria, Dina) yang selalu setia memberikan dukungan n semangat.

Akhir kata, semoga Skripsi ini berguna bagi semua pihak yang membutuhkan.

ABSTRAK

Runtun waktu adalah himpunan observasi berurutan dalam waktu (atau dalam satuan yang lain). Runtun waktu dibedakan menjadi 2 yaitu runtun waktu stasioner dan runtun waktu nonstasioner. Runtun waktu nonstasioner yang telah distasionerkan dengan metode pembeda (diferensi) disebut proses ARIMA. Salah satu model ARIMA adalah ARIMA (1, 1, 0). Langkah selanjutnya setelah ditentukan model adalah mengestimasikan parameternya.

Berdasarkan uraian diatas permasalahan yang akan dibahas adalah bagaimana bentuk fungsi Likelihood ARIMA (1, 1, 0) dan menentukan estimator parameter-parameter yang ada pada model ARIMA (1, 1, 0). Tujuannya adalah mempelajari cara mengkontruksi fungsi Likelihood model ARIMA (1, 1, 0) Box – Jenkins, selanjutnya menentukan estimator parameter-parameter yang ada pada model tersebut dengan metode estimasi maksimum Likelihood (EML). Sedangkan manfaatnya adalah menambah pengetahuan tentang estimasi maksimum Likelihood pada model ARIMA(1, 1, 0).

Penerapan estimasi maksimum Likelihood dilakukan dengan cara meminimumkan fungsi jumlah kuadrat S(Φ) dari log fungsi Likelihood model ARIMA (1, 1, 0) Box – Jenkins. Menentukan estimator untuk parameter dengan estimasi maksimum Likelihood (EML) menjumpai kesulitan karena bentuk �_� =

��1₂����_�(1)��

��� adalah fungsi dari � yang cukup rumit. Untuk mengatasi kesulitan ini di

ESTIMASI MAKSIMUM LIKELIHOOD PADA MODEL ARIMA

ABSTRACT

Time series is the set of sequential observations in time (or in another unit). Time series is divided into two stationary time series and economic time series nonstasioner. Nonstasioner time series that has been distasionerkan with distinctive method

(diferensi) is called ARIMA process. One of the ARIMA model is ARIMA (1, 1, 0). The next step after the specified model is estimating the parameters.

Based on the description above issues to be discussed is how to form

Likelihood function ARIMA (1, 1, 0) and determine the parameters estimator on the model ARIMA (1, 1, 0). The goal is to learn how to construct Likelihood function ARIMA model (1, 1, 0) Box - Jenkins, then determine the parameters estimator on the model by Maximum Likelihood estimation method (EML). While the benefits are increasing knowledge about the maximum Likelihood estimation of ARIMA models (1, 1, 0).

Application of Maximum Likelihood estimation was done by minimizing the sum of squares function S (Φ) of the log Likelihood function ARIMA model (1, 1, 0) Box - Jenkins. Define the estimator for the parameters with estimated maximum Likelihood (EML), encounter difficulties due to the shape �_� =��

1

2�����(1)��

��� is a

DAFTAR ISI

Arti lambang dan singkatan ... x

Bab 1 Pendahuluan... 1

1.1 Latar Belakang Masalah ... 1

1.1.1 Perumusan Masalah... 3

1.1.2 Tujuan Penelitian ... 4

1.1.3 Kontribusi Penelitian ... 4

1.1.4 Metode Penelitian... 4

Bab 2 Landasan Teori ... 5

2.1 Konsep Dasar Analisis Runrun Waktu ... 5

2.1.1 Stasioner dan Takstasioner ... 6

2.1.2 Fungsi Autokovariansi ... 7

2.1.3 Autokorelasi... 8

2.1.4 Autokorelasi Parsial ... 9

2.1.5 Metode Box-Jenkins ... 10

2.2 Model Runtun Waktu ... 12

2.2.1 Model Runtun Waktu Stasioner ... 13

2.2.1.1 Proses-proses Autoregresif 2.2.1.1.1 Proses autoregresif Orde 1 [AR(1)] ... 13

2.2.1.1.2 Proses Autoregresif Orde 2 [AR(2)] ... 13

2.2.1.1.3 Proses Autoregresif Orde p [AR(p)] ... 14

2.2.1.2 Autokorelasi Proses-proses Autoregresif ... 14

2.2.1.2.1 Autokorelasi Proses-proses AR(1) ... 14

2.2.1.2.2 Autokorelasi Proses AR(2) ... 15

2.2.1.2.3 Autokorelasi Prosses AR(p)... 17

2.2.1.3 Autokorelasi Parsial Proses Autoregresif ... 18

2.2.1.4 Proses Moving Average q [MA(q)] ... 19

2.3 Model Runtun Waktu Nonstasioner ... 21

2.3.1 Proses Autoregressive Integrated Moving Average (model ARIMA)... 21

2.3.2 Proses ARIMA (p, d, 0) ... 22

2.3.2.1 Model ARIMA (p, d, 0) jika d = 0 ... 22

2.3.2.2 Model ARIMA (p, d, 0) jika d > 0 ... 23

Marginal dan Distribusi Bersyarat ... 24

2.4.2 Fungsi Likelihood dan Estimasi Maksimum Likelihood... 24

Bab 3 Pembahasan ... 28

3.1 Inferensi Proses Autoreagresif Klasik Box-Jenkins... 28

3.1.1 Menentukan selisih (diffrensi) pertama runtun waktu... 28

3.1.1.1 Fungsi Likelihood ARIMA (1, 1, 0) atau ARI(1,1) ... 32

3.1.2 Estimasi Maksimum Likelihood pada Model ARIMA (1,1,0) ... 33

Bab 4 Kesimpulan dan saran... 37

ARTI LAMBANG DAN SINGKATAN

AR (p) : Autoregresif orde p MA (q) : Moving Average orde q

ARMA (p, q) : Campuran antara AR (p) dan MA (q)

ARIMA (p, d, q) : Autoregresif Integreted Moving Average process, yaitu model runtun waktu stasioner (p, d, q) setelah dilakukan differensi. �� : Runtun waktu stasioner

�� : Unsur galat yang menyebar normal dan independen

�� = ��− ��−1 : Runtun waktu stasioner setelah dilakukan differensi E (�_�) = �_� : Nilai tengah dari runtun �_�

Cov (��,��−�) : Kovariansi �� dan ��−�

��2 = V (��) : Variansi dari runtun ��

��, (k = 0, 1, 2, …) : Fungsi autokovariansi �� : autokorelasi dari runtun �� pada lag k ���=�� : estimasi fungsi autokorelasi ��� = �� : estimasi fungsi autokovariansi

� : Barisan atau vektor yang stasioner dan merupakan selisih observasi

P (�_�) : Suatu realisasi dari suatu variabel random �_� yang mempunyai distribusi dan fungsi densitas probabilitas (fdp) tertentu

Ф��, (k = 1, 2, …) : Fungsi autokorelasi parsial (fakp) B�_� = �_�−1 : Operator backshift (B)

∇�� = ��− ��−1 : Operator diffrensi

� (B) : Operator Linier yang mentransformasikan �� ke ��

ABSTRAK

Runtun waktu adalah himpunan observasi berurutan dalam waktu (atau dalam satuan yang lain). Runtun waktu dibedakan menjadi 2 yaitu runtun waktu stasioner dan runtun waktu nonstasioner. Runtun waktu nonstasioner yang telah distasionerkan dengan metode pembeda (diferensi) disebut proses ARIMA. Salah satu model ARIMA adalah ARIMA (1, 1, 0). Langkah selanjutnya setelah ditentukan model adalah mengestimasikan parameternya.

Berdasarkan uraian diatas permasalahan yang akan dibahas adalah bagaimana bentuk fungsi Likelihood ARIMA (1, 1, 0) dan menentukan estimator parameter-parameter yang ada pada model ARIMA (1, 1, 0). Tujuannya adalah mempelajari cara mengkontruksi fungsi Likelihood model ARIMA (1, 1, 0) Box – Jenkins, selanjutnya menentukan estimator parameter-parameter yang ada pada model tersebut dengan metode estimasi maksimum Likelihood (EML). Sedangkan manfaatnya adalah menambah pengetahuan tentang estimasi maksimum Likelihood pada model ARIMA(1, 1, 0).

Penerapan estimasi maksimum Likelihood dilakukan dengan cara meminimumkan fungsi jumlah kuadrat S(Φ) dari log fungsi Likelihood model ARIMA (1, 1, 0) Box – Jenkins. Menentukan estimator untuk parameter dengan estimasi maksimum Likelihood (EML) menjumpai kesulitan karena bentuk �_� =

��1₂����_�(1)��

��� adalah fungsi dari � yang cukup rumit. Untuk mengatasi kesulitan ini di

ESTIMASI MAKSIMUM LIKELIHOOD PADA MODEL ARIMA

ABSTRACT

Time series is the set of sequential observations in time (or in another unit). Time series is divided into two stationary time series and economic time series nonstasioner. Nonstasioner time series that has been distasionerkan with distinctive method

(diferensi) is called ARIMA process. One of the ARIMA model is ARIMA (1, 1, 0). The next step after the specified model is estimating the parameters.

Based on the description above issues to be discussed is how to form

Likelihood function ARIMA (1, 1, 0) and determine the parameters estimator on the model ARIMA (1, 1, 0). The goal is to learn how to construct Likelihood function ARIMA model (1, 1, 0) Box - Jenkins, then determine the parameters estimator on the model by Maximum Likelihood estimation method (EML). While the benefits are increasing knowledge about the maximum Likelihood estimation of ARIMA models (1, 1, 0).

Application of Maximum Likelihood estimation was done by minimizing the sum of squares function S (Φ) of the log Likelihood function ARIMA model (1, 1, 0) Box - Jenkins. Define the estimator for the parameters with estimated maximum Likelihood (EML), encounter difficulties due to the shape �_� =��

1

2�����(1)��

��� is a

BAB I

PENDAHULUAN

1.1. Latar Belakang Masalah

Suatu runtun waktu adalah himpunan observasi beraturan dalam waktu (atau dalam dimensi apa saja yang lain). Jika pengalaman yang lalu, keadaan yang akan datang dapat diramalkan secara pasti, maka runtun waktu itu dinamakan deterministik, dan tidak memerlukan penyelidikan lebih lanjut. Sebaliknya jika pengalaman yang lalu hanya bisa menunjukkan struktur probabilitas keadaan yang akan datang suatu runtun waktu, maka runtun waktu semacam ini dinamakan stokastik (statistik).

Runtun waktu statistik dapat dipandang sebagai suatu realisasi dari stokastik. Biasanya tidak mungkin diperoleh realisasi yang lain dari suatu proses statistik, yaitu tidak dapat diulang kembali keadaan untuk memperoleh himpunan observasi serupa seperti yang telah dikumpulkan. Selanjutnya, misalkan �₁,�₂, … ,�_� adalah observasi yang telah diidentifikasikan suatu model yang diperkirakan telah menghasilkan observasi itu. Dengan demikian �� dapat dipandang sebagai suatu realisasi dari suatu variable random �_� yang mempunyai distribusi dengan fungsi densitas probabilitas (fdp) tertentu, misalnya � (�_�).

pembatasan m ≥ p, dengan p bilangan bulat positif, maka stasioneritas itu dinamakan stasioner tingkat p.

Untuk proses Gaussian yang didefenisikan dengan sifat bahwa fkp (fungsi kepadatan peluang) yang berkaitan dengan sebarang himpunan waktu adalah normal multivariate, stasioneritasnya hanya memerlukan stasioneritas tingkat dua. Dengan demikian biasanya cukup puas dengan stasioneritas tingkat dua, yang dinamakan stasioneritas lemah dengan mengharapkan asumsi normalitas berlaku.

Runtun waktu yang stasioner pada umumnya jarang sekali dijumpai dalam praktek, namun stasioneritas merupakan asumsi yang sangat bermanfaat dalam mengestimasi runtun waktu. Pada tahun 1970-an Box-Jenkins membahas tentang model runtun waktu klasik, termasuk didalamnya model autoregresif klasik. Dalam perkembangannya model autoregresif itu mempunyai dua macam yakni model autoregresif yang stasioner dan model autoregresif yang tidak stasioner (nonstasioner). Pada runtun waktu yang stasioner biasanya bisa langsung dilakukan estimasi terhadap parameter - parameter yang ada, tetapi untuk model runtun waktu yang tidak stasioner perlu dilakukan langkah untuk menjadikan runtun waktu itu stasioner dulu, kemudian mengestimasi parameter - parameternya.

Jika data asli menunjukkan adanya ketidakstasioneran, maka perlu dilakukan transformasi, apabila ragam runtun aslinya telah stasioner tetapi nilai tengah runtun menunjukkan keadaan yang tidak stasioner, maka untuk menghilangkan ketidakstasioneran itu digunakan metode pembeda (diferensi). Cara ini akan membuat runtun waktu selisih (derajat tertentu) nilai-nilai yang berurutan dari runtun aslinya �_� (ditulis �_� =�_�− �_�−1) menjadi stasioner, yang dipandang bahwa �_� sebagai integrasi runtun waktu �_� yang dikenal sebagai proses autoregresife integrated moving average (ARIMA), sehingga ketentuan yang berlaku pada proses ARMA barlaku pula untuk proses ARIMA.

model autoregresif atau ARIMA (1, d, 0), (2, d, 0), (1, 1, 0), (2, 1, 0), (2, 2, 0) dan (p, d, 0).

Model runtun waktu yang tidak stasioner dikelompokkan menjadi dua yaitu model runtun waktu tak stasioner (nonstasioner) homogen dan runtun waktu tak stasioner (nonstasioner) tak homogen. Runtun waktu nonstasioner yang homogen ditunjukkan oleh selisih (perubahan) nilai-nilai yang berurutan adalah stasioner. Proses runtun waktu ARIMA (1, 1, 0) Box-Jenkins klasik ditulis dalam bentuk:

(1− �₁�)�(1− �)�_�−��=�_�

Selanjutnya misalkan �₁,�₂, … ,�_� adalah sekumpulan observasi dan telah diidentifikasikan suatu model yang diperkirakan telah menghasilkan observasi itu, dengan memandang observasi itu sebagai variabel random yang diambil dari distribusi bersama ���/�₁,�,�_�2� dengan �₁, μ dan σa2 adalah parameter-parameter yang tidak diketahui, sedangkan W menunjukkan barisan atau vektor yang stasioner dan merupakan selisih observasi di atas. Dari fungsi bersama tersebut dapat ditentukan estimasi maksimum likelihoodnya.

Dari uraian di atas, penulis tertarik ingin mengadakan penelitian tentang estimasi maksimum likelihood model ARIMA (1, 1, 0).

1.1.1. Perumusan Masalah

Menentukan nilai-nilai parameter pada model ARIMA (1, 1, 0) yang homogen dengan menggunakan metode maksimum likelihood.

1.1.2. Tujuan Penelitian

Adapun tujuan penelitian ini adalah:

a. Mempelajari cara mengkontruksi bentuk fungsi likelihood dari model aoutoregresif, khususnya model ARIMA (1,1,0).

b. Menentukan estimator untuk parameter-parameter yang ada pada model ARIMA (1,1,0) dengan menggunakan metode estimasi maksimum likelihood.

1.1.3. Kontribusi Penelitian

Penelitian ini diharapkan dapat memberikan manfaat antara lain:

1. Bagi peneliti diharapkan dapat menambah wawasan pengetahuan yang lebih luas terutama yang berkaitan dengan masalah estimasi model ARIMA (1,1,0) Box-Jenkins.

2. Secara umum diharapkan dapat memberikan sumbangan pengetahuan dan gambaran tentang estimasi model ARIMA (1,1,0) Box-Jenkins.

1.1.4. Metode Penelitian

Penelitian dilakukan dengan beberapa langkah yaitu:

1. Pada langkah pertama melakukan satu kali proses diferensi untuk suatu time series (runtun waktu).

2. Langkah kedua mengestimasi parameter-parameter yang ada pada model ARIMA (1, 1, 0) Box-Jenkins. Pada langkah kedua ini digunakan estimasi kuadrat terkecil.

BAB II

LANDASAN TEORI

2.1. Konsep Dasar Analisis Runtun Waktu

Pada bagian ini akan dikemukakan beberapa definisi yang menyangkut pengertian dan konsep dasar analisis runtun waktu.

Definisi 1

Runtun waktu adalah himpunan observasi terurut dalam waktu atau dalam dimensi lain. (Zanzawi S, 1987 : 2.2)

Dalam pembahasan ini runtun waktu dinotasikan dengan �_�, jika t ∈ A dengan A bilangan asli, maka �_� adalah berupa runtun waktu diskrit sedangkan jika t ∈ ℜ dengan ℜ bilangan real, maka �_� adalah runtun waktu kontinu. Jika runtun waktu didasarkan terhadap sejarah nilai observasi itu diperoleh, maka runtun waktu dapat dibedakan antara runtun waktu deterministik dan stokastik.

Definisi 2

Runtun waktu deterministik adalah runtun waktu dengan nilai observasi yang akan datang dapat diramalkan secara pasti berdasarkan observasi lampau. (Zanzawi S, 1987 : 2.2)

Definisi 3

2.1.1. Stasioner dan Takstasioner

Himpunan observasi dari runtun waktu stokastik yang telah didapat tidak akan diperoleh kembali dengan mengadakan proses stokastik yang lain, sebab runtun waktu stokastik merupakan suatu realisa dari suatu proses statistik (stokastik), sehingga untuk sebarang �_� dapat dipandang sebagai suatu realisa dari suatu variabel random �_� yang mempunyai distribusi dengan fungsi densitas probabilitas (fdp) tertentu, sebut �(�_�). Setiap himpunan �_�, misalnya {�_�,�_�,…,�_�}mempunyai fungsi densitas probabilitas (fdp) bersama �{�_�,�_�, … ,�_�} sehingga dari uraian diatas dapat diturunkan definisi proses stasioner dan proses tak stasioner.

Definisi 4

Jika suatu proses stokastik yang mempunyai fungsi kepadatan peluang (fkp) bersama ����+�₁,��+�₂,��+�₃, … ,��+�_�� yang independen terhadap t, sebarang bilangan bulat k dan sebarang pilihan n₁, n₂, . . ., n_k dengan sifat bahwa struktur probabilistiknya tidak berubah dengan berubahnya waktu, maka proses seperti ini dinamakan stasioner. Jika tidak demikian dinamakan tidak stasioner.(Zanzawi S, 1987: 2.4)

Jika hal tersebut berlaku tetapi dengan pembatasan m ≤ p, dimana p bilangan bulat positip, maka stasioneritas itu kita namakan stasioneritas tingkat p. Selanjutnya jika runtun waktu �_� stasioner, maka nilai tengah (mean), variansi, dan covarian runtun waktu tersebut tidak dipengaruhi oleh berubahnya waktu pengamatan, sehingga:

Nilai tengah : �_�=�(�_�) =�(�_�+�)

Variansi : �_�2 =�(�_�− �_�)2 = (�_�+�− �_�)2

Covarians : �_�=�(�_�− �_�)(�_�+�− �_�)

=�(��+�− ��)(��+�+� − ��)

untuk t, m, k sebarang.

dengan k sebarang pergeseran sepanjang sumbu waktu. Untuk m = 1, maka �(�_�) =

�(�_�+�), sehingga distribusi marginal tidak bergantung waktu, yang menyebabkan �(�_�) =� dan ���(�_�) =�₀.

Untuk proses normal (Gaussian) yang didefinisikan dengan sifat bahwa fungsi densitas probabilitas (fdp) yang berkaitan dengan sebarang waktu adalah normal multivariate dimana stasioneritasnya hanya memerlukan stasioner tingkat dua, sehingga biasanya cukup puas dengan stasioner tingkat dua yang disebut dengan stasioner lemah dengan mengharapkan asumsi normal berlaku.

Mengingat definisi 4 diatas, maka runtun waktu dapat dikelompokan menjadi dua yaitu :

1. Runtun waktu stasioner 2. Runtun waktu tak stasioner.

Untuk runtun waktu tak stasioner dibedakan menjadi dua yaitu runtun waktu tak stasioner homogen dan runtun waktu tak stasioner (tak homogen). Berdasarkan uraian ini maka dapat diturunkan definisi di bawah ini.

Definisi 5

Runtun waktu tak stasioner yang homogen adalah selisih (perubahan) nilai-nilai yang berurutan stasioner. (Zanzawi S, 1987: 4.2)

Berdasarkan definisi 5, maka dapat dikatakan bahwa runtun waktu tak stasioner homogen adalah runtun waktu yang mempunyai selisih derajat tertentunya adalah stasioner. Dalam skripsi ini runtun waktu yang homogen yang akan menjadi objek penelitian.

2.1.2. Fungsi Autokovariansi

Telah diperoleh bahwa dalam proses stasioner lemah mean proses itu menyebabkan �[�_�] =�, variansi proses itu �(�_�) =�₀ ���(�_�,�_�+�) =�_�, dengan μ dan γk untuk

autokovarian pada lag k. Pada proses stasioner lemah variansinya adalah konstan, yaitu :

�(�_�) =�_�2 =�₀

Juga untuk semua bilangan bulat k �−�=��, dan juga karena :

���(��,��+�) =���(��+�,��) =���(��,��+�) =�� (2.1) Sehingga yang perlu ditentukan adalah kγ untuk semua k≥ 0.

Definisi 6

Himpunan { γk :k=0,1,2,3,...} disebut fungsi autokovariansi. (Zanzawi S,1987:2.5)

Definisi 7

Autokorelasi pada lag k ditulis dengan : �= Cov(Zt,Zt−k)

{�(�_�),�(�_�−�)}12 =

��

(�₀,�₀)12 =

γ_k

γ₀ (2.3)

(Zanzawi S, 1987: 2.5)

Definisi 8

Himpunan {�_�:� = 0, 1, 2, … } dengan �₀ = 1 disebut fungsi autokorelasi (fak).

2.1.3. Autokorelasi

Dari suatu runtun waktu yang stasioner �₁,�₂, … ,�_� mean μ dan fungsi

autokovariansi { γk : k=0,1,2,...}dapat diestimasi dengan menggunakan statistik : �̂=�̅=1_�∑�_�=1Z_t

Untuk mendapatkan harga estimasi yang cukup baik biasanya diperlukan n > 50 dan harga �_� yang dibutuhkan sekitar k < n/4. Nilai �_� diestimasi dengan

���=�� =�_��₀ (2.2) Untuk proses normal yang stasioner, rumus Bartlett menyatakan bahwa dengan menganggap �_�= 0 untuk semua k > 0 diperoleh : Sedangkan akar positif adalah sesuatu standar �_� untuk lag besar, sehingga

��(�_�)≈ ��(�_�)

2.1.4. Autokorelasi Parsial

Fungsi Autokorelasi Parsial (fakp) dinotasikan dengan {���:� = 1, 2, … , }, yakni himpunan autokorelasi parsial untuk lag k didefenisikan sebagai berikut :

nilai estimasi ���� diperoleh dengan mengganti �� dengan �_�.

Untuk lag yang cukup besar dimana fungsi autokorelasi parsial (fakp) menjadi sangat kecil nilainya hingga mendekati nol (�_� = 0) dari persamaan (2.3) maka diperoleh persamaan:

��������� ≈_�1

Untuk N besar ��_�� dianggap mendekati distribusi normal.

2.1.5. Metode Box – Jenkins

Analisis runtun waktu �� yang dikembangkan menurut metode Box – Jenkins menggunakan dua operator, yaitu operator backshift B dan operator differensi ∇. Operator backshift B didefenisikan sebagai:

��� =��−1

Sedangkan operator differensi ∇ didefenisikan sebagai: ∇�� =��− ��−1

Sehingga kedua operator mempunyai hubungan: ∇�� =��− ��−1

=��− ���

= (1− �)��, jadi ∇= (1− �)

Adapun model proses stokastik yang sering digunakan adalah bentuk:

�(�)�_�=�(�)�_� (2.6) Dengan �(�) dan �(�) adalah polinomial dan {�_�:� = 1, 2, 3, … } adalah barisan variabel random independen dan distribusi normal dan dengan �[�_�] = 0,

��� [��] =�, [�_�2] =�2 serta ��� (��,��−�) = 0; {��:� = 1, 2, 3, … } merupakan suatu runtun getaran yang dibangkitkan oleh proses white noise (gerakan random). Persamaan (2.6) dapat ditulis dengan bentuk:

�� =�(�)

�(_�)��, atau �� =�(�)��

Dengan �(�)�_�=_��(�)

kombinasi linier (filter linier) dengan fungsi transfer �(�). Kondisi ini menunjukkan operasi linier filter yang mempresentasikan runtun waktu sebagai hasil dari linier filter jumlah tertimbang dari observasi sebelumnya, yakni:

�� =�+��+�₁��−1+�2��−2+�₃�3+⋯

�� =�+�(�)�� (2.7) Dengan �(�) = 1 +�_�=�₁(�) +�₂(�) +�₃(�) +⋯

adalah operator linier yang mentransformasikan �_� ke �_� merupakan fungsi transfer atau filter.

Atau dapat ditulis dalam bentuk:

��− � =��+�₁��−1+�2��−2+�₃��−3+⋯

�̅� =��+∑∞�=1����−� (2.8) dengan �̅� =��− �.

Bentuk ini merupakan devisa proses itu dari titik referensi, atau meannya jika proses itu stasioner. Barisan itu biasanya disebut proses white noise atau random shocks. Selanjutnya dari persamaan tersebut diperoleh:

�(�_�) =�

�0 =�(��) =�(��− �)2 =�2∑∞�=0�2� (2.9) dengan menggunakan nilai ����−�,��−��

�� = (��− �)(��−�) (2.10)

=�(�_�+�₁�_�−1+�₂�_�−2+⋯+�_��_�−�+�_�−1�_{�−�−1})(�_�−�+�₁�_{�−�−1}+. . . ) =�2(1.�_� +�₁�_�+2+⋯)

=�2∑∞_�=0�_��_�+�

Sehingga persamaan autokorelasi pada lag k dapat ditulis dalam bentuk: ��∑ ����+�

∞ �=0

∑∞_�=0�_�2 = ��

�0 (2.11)

Jika jumlah bobot �_� tak hingga, maka diasumsikan bahwa bobot itu konvergen secara absolute atau ����<∞, sebagai contoh jika �₁ =−�����_� = 0 untuk j > 1. Maka proses white noise dapat ditulis menjadi:

��− � =��− ���−1 (2.12)

��− � =��+���−1+�2��−2+⋯

=�_�+�(�_�−1+��_�−2+�2�_�−2+⋯)

=�(�_�−1− �) +�_�

Model ini dalam runtun waktu dikenal dengan model autoregresif tingkat (orde) satu, selanjutnya untuk memenuhi keadaan stasioner maka |�| < 1.

2.2. Model Runtun Waktu

Model Runtun waktu dapat dikelompokan menjadi dua yaitu: 1. Kelompk runtun waktu stasioner,

2. Kelompok runtun waktu tak stasioner (nonstasioner).

Kelompok runtun waktu pertama meliputi proses autoregresif, untuk orde p ditulis AR (p), moving average untuk orde q ditulis MA (q), dan model campuran autoregresif-moving average, jika masing-masing berorde p dan q maka model ini ditulis ARMA (p, q). Sedangkan kelompok kedua merupakan kelompok runtun waktu yang banyak dijumpai dalam praktek, dalam hal ini runtun waktu nonstasioner yang mempunyai selisih (derajat tertentu) nilai-nilai yang berurutan dari runtun aslinya �� yaitu ��− ��−1=�� adalah stasioner. Dalam proses ini �� dipandang sebagai integrasi runtun �_�, yang dikenal dengan autoregresive integrated moving average proses (ARIMA), sehingga ketentuan yang berlaku pada model ARMA berlaku pula pada model ARIMA. Suatu runtun waktu nonstasioner setelah diambil selisih ke-d menjadi stasioner yang mempunyai model AR (p) dan model MA (q) ditulis dengan ARIMA (p, d, q).

Kedua kelompok model runtun waktu tersebut, dapat dipandang sebagai model ARIMA, dengan melihat nilai p, q dan tingkat selisih d (nilai untuk d model stasioner adalah 0). Sehingga untuk model stasioner AR (p) dapat ditulis ARIMA (p, 0, 0), model stasioner MA (q) dapat ditulis ARIMA (0, 0, q) dan model stasioner ARMA (p, q) dapat ditulis ARIMA(p, 0, q) uraian untuk masing-masing kelompok model runtun waktu dibahas pada bagian berikut ini.

2.2.1.1Proses-proses Autoregresif

2.2.1.1.1 Proses auotoregresif Orde 1[AR(1)]

Model AR(1) telah dikemukakan pada bagian (2.7), oleh karena itu pembahasan pada bagian ini mengacu model (2.12) yang dapat ditulis dalam bentuk

�� − ∅���� �−1�=�� dengan ���=��− � (2.13)

Jika operator Backshift B diterapkan pada model (2.13) maka dapat ditulis menjadi: �� =∅��−1+�� (2.14)

=∅�∅��_�−2+�_�−1�+�_�

= ∅2��_�−2+∅��_�−1+�_�

=∅2�∅��_�−3+�_�−2�+∅�_�−1+�_� =∅3��_�−3+∅2�_�−2+∅_�−1+�_�

Sehingga diperoleh bentuk

��� =��+∅��−1+∅2��−2+∅3��−3+∅4��−4+⋯ (2.15) Jika operator B diterapkan pada persamaan (2.15) maka diperoleh bentuk

��� = (1 +∅1���−1+∅2�2��−2+∅3�3��−3+∅4�4��−4+⋯)��

= (1− ∅�)−1�_�

dengan (1− ∅�)−1 = (1 +∅�+∅₂�2+∅₃�3+⋯)

dalam pernyataan ini harus dicatat bahwa |∅| < 1 yang merupakan syarat stasioner. Selanjutnya untuk memudahkan penulis diambil �= 0 sehingga ��_� =�_� dan ��_�−1=

��−1, dengan demikian persamaan (2.14) dapat ditulis menjadi

�� =∅��−1+�� (2.16)

2.2.1.1.2 Proses Autoregresif Order 2[AR (2)]

Model AR(2) dapat diperoleh dengan cara yang sama dengan model AR(1) dari persamaan (2.9), sehingga diperoleh:

�=∅�_�−1+∅₂�_�−2+�_� (2.17) dengan menggunakan operator backshift B. Bentuk persamaan (2.17) dapat ditulis dalam bentuk:

2.2.1.1.3 Proses Autoregresif Order p[AR (p)]

Bentuk AR(p) diperoleh cara yang sama pada AR(1) dan AR(2), sehingga model autoregresif tingkat p adalah:

�� =∅1��−1+∅2��−2+⋯+∅���−�+��

Terlihat bahwa model AR(p) dapat dipandang sebagai data �_� yang diregresikan pada p nilai �� yang lalu, dalam hal ini pengamatan yang lalu yaitu �1,�2, … ,��−�.

Jika operator backshift B diterapkan pada proses ini maka model (2.18) dapat ditulis dalam bentuk:

�1− ∅₁� − ∅₂�2− ⋯ − ∅_�����_�=�_� atau ∅(�)��=��

dengan ∅(�) = 1− ∅₁ − ∅₂�2− ⋯ − ∅_���

2.2.1.2 Autokorelasi Proses-proses Autoregresif

2.2.1.2.1 Autokorelasi Proses-proses AR(1)

Dalam penelitian ini akan dibahas dua cara untuk mencari autokorelasi dengan menggunakan pendekatan yang berbeda.

Cara pertama adalah cara penggunaan langsung (2.9) dan (2.10) dengan �_� =��

sehingga diperoleh �0 =�2∑∞�=0��2 =�2∑∞_�=0�2�

=�2(1 +�2+�4+⋯)

=�2� 1

1−�2�

=_1−��2₂

Dengan |�| < 1

�� =�2∑∞_�=0�_�2�_�+�

=�2(1 +�2+�4+⋯)��

=�2��

1−�2

dengan |�| < 1

Sehingga fungsi autokorelasinya adalah: �� =��

�0 =

�2�� 1−�2 .

�1−�2_�

�2

=�� dengan k = 0, 1, 2, ...

Cara kedua merupakan cara dengan pendekatan yang dapat digunakan secara umum untuk proses yang lain. Cara ini diperoleh dari persamaan (2.16) �_� =��_�−1+

�� yaitu dengan mengganti ��−� pada persamaan (2.16) kemudian mengambil harga harapannya (Box-Jenkins : 1976), maka diperoleh:

�(�_�,�_�−�) =��(�_�−1,�_�−�) +�(�_��_�−�) �� =���−1+�(����−�)

dengan �(�_��_�−�) =�{�_�(�_�+��_�−1+�2�_�−2+⋯)} karena untuk nilai

k = 0 �(�_��_�−�) =�{�_�(�_�+��_�−1+�2�_�−2+⋯)} =�2 dan �> 0�(�_��_�−�) =�{�_�(�_�+��_�−1+�2�_�−2+⋯)} = 0 Maka diperoleh

�0 =���−1+�2 =��1+�2 �� =���−1 dengan k = 1, 2, 3, ...

2.2.1.2.2 Autokorelasi Proses AR(2)

Autokorelasi pada proses AR(2) diperoleh dengan menggunakan pendekatan cara kedua pada AR(1), yaitu:

Persamaan pada (2.17) dikalikan dengan ��−� kemudian diambil harga harapannya, sehingga diperoleh:

�(�_��_�−�) =�₁�(�_�−1�_�−�) +�₂�(�_�−2�_�−�) +�(�_��_�−�) Atau �_� =�₁�_�−1 +�₂�_�−2+�(�_��_�−�)

�(����−�) =� �2,������ = 0 Bentuk persamaan diferensinya dari persamaan (2.21) adalah:

(1− �1� − �2�2)�� = 0

Untuk lag k yang lain, digunakan persamaan (2.20) dalam menghitung �_� secara rekursif (berulang), dengan langkah sebagai berikut:

�0 =�1�0�_�1₀ +�2�0�_�2₀ +�2

yang memberikan daerah stasioner, ini berarti �₂ < 1

2.21.2.3 Autokorelasi Proses AR(p)

Autokorelasi untuk AR(p) sejalan dengan proses AR sederhana dengan cara kedua, yaitu dengan mengalikan persamaan (2.18) dengan �_�−� dan selanjutnya harapannya, maka diperoleh: dari persamaan pertama (2.23) dengan cara yang sama pada proses autoregresif tingkat dua, maka diperoleh:

�0 = �2

1−�1�1−�2�2−⋯−����

Autokerelasi diperoleh dari kedua persamaan (2.23) yaitu: ��

�0 =��=�1��−1+�2��−2+⋯+����−� untuk k > 0 (2.24)

Parameter autoregresif � dapat dinyatakan sebagai fungsi p autokorelasi dengan menyelesaikan sistem persamaan (2.25) yaitu:

�=�−1�

Untuk model AR(1) persamaan Yule Walker diberikan dengan �₁ =� sedangkan untuk model AR(2) persamaan Yule Walker diberikan dengan:

�1 =�1 +�1�2 �2 =�1�1+�2

yang dapat dinyatakan dalam bentuk matriks sebagai berikut: �_��1

2�=�

1 �₁

�1 1� �� 1 �2�

dari bentuk matriks ini diperoleh: �1 =�1_1−�(1−�₁2) dan �2 =�2−�1

2

1−�₁2

dengan �₁ =�₁ dan �₂ =�₂ diperoleh harga estimasi awal untuk ��₁ dan ��₂, sedangkan untuk menentukan jenis model diantara model yang berbeda, diperlukan pembahasan tentang fungsi autokorelasi parsial.

2.2.1.3Autokorelasi Parsial Proses Autoregresif

Autokorelasi parsial pada lag k dapat dipandang sebagai koefisien regresi �_�� dalam bentuk ��=��1��−1+��2��−2+⋯+�����−�+��.

Bentuk ini mengukur korelasi antara �_� dan �_�−� sesudah penyesuaian dibuat untuk variabel tengah �_�−1,�_�−2, … ,�_�−�+1. Autokorelasi parsial pada lag 1 diberikan oleh koefisien regresi parsial dalam bentuk:

�� =�11��−1+��

Persamaan Yule Walker untuk model AR(1), memberikan �11 =�1, hal ini karena tidak variabel tengah antara �_�−1 dan �_�.

Autokorelasi parsial pada lag 2 diberikan oleh koefisien regresi parsial �₂₂ dalam bentuk:

�� =�11��−1+�22��−2 +��

�1 =�11+�1�22 �2 =�1�11+�22

Koefisien �₂₂ dapat dinyatakan sebagai: �22 =��2−�12�

�1−�₁2�

Secara umum, autokorelasi parsial lag k (���) diperoleh dari persamaan Yule Walker, yang dalam notasi matriks adalah sebagai berikut:

�

Autokorelasi parsial �_�� sebagai fungsi autokorelasi parsial. Untuk mendapatkan �_��, maka:

Beberapa bentuk fungsi autokorelasi parsial proses autoregresif adalah sebagai berikut:

��(1):�₁₁ =�₁;�_�� = 0, untuk k > 1 ��(2):�₁₁ =�₁;�₂₂ =��_�1−�2−�12�

12� ;���= 0, untuk k > p

Sifat-sifat fungsi autokorelasi dan fungsi autokorelasi parsial dapat digunakan untuk menentukan jenis proses autoregresif.

2.2.1.4Proses Moving Average Order q[MA(q)]

Proses moving average tingkat q dikontruksikan dari model (2.9) dengan �_� =

�� dan �� = 0 untuk �>�, sehinggga model MA(q) adalah:

�� =�+�1��−1+�2��−2+⋯+����−�+�� (2.26) dengan �_�~�(0,�₂2)

�� =�+�� (�)��

dengan �(�) =�1 +�₁�+�₂�2+⋯+�_����

Fungsi autokorelasi MA(q) diperoleh dengan menggunakan cara kedua seperti pada proses autoregresif order p, yaitu dengan mengalikan kedua sisi persamaan (2.26) dengan �_�−�, kemudian mengambil nilai harapannya. Sehingga diperoleh fungsi autokovariansinya sebagai berikut:

�� =�−��+�1��+1+�2��+2+⋯+��−�����2 (2.27) Untuk k = 0, maka

�0 =�1 +�₁2+�₂2+⋯+��2��2

�� =�_��₀ =�−��+�1�_1+��+1₁2+�_+�2��+2+⋯+��−��� 22+⋯+��2

0;�>�

; 1≤ � ≤ � (2.28)

Estimasi awal dari parameter-parameter diperoleh dengan mensubsitusikan nilai autokorelasi empirik �_� untuk �� pada persamaan (2.28) dan menyelesaikannya. Fungsi autokorelasi untuk model MA(1) diperoleh dari persamaan (2.28), dengan q = 1, sehingga diperoleh:

�1 =�_1+��1₁2

0;�≥2

;�= 1 (2.29)

Estimasi awal dari �₁ diperoleh dengan cara mengganti �₁ dan �₁ pada persamaan (2.29) dan menyelesaikannya, dengan syarat ���1�< 1.

Fungsi autokorelasi untuk model MA(2) diperoleh dari persamaan (2.28), dengan q = 2 sehingga diperoleh

�1 =−�1(1−�2)

1+�12+�22 (2.30)

�2 =_1+�−�2

12+�22

�� = 0;� ≥3

2.3. Model Runtun Waktu Nonstasioner

Pembentukan model yang tepat dalam runtun waktu, pada umumnya menggunakan asumsi kestasioneran, sehingga jika terdapat kasus ketidakstasioneran, maka data tersebut harus distasionerkan terlebih dahulu sebelum melangkah lebih lanjut pada pembentukan model runtun waktu.

Bentuk visual dari plot runtun waktu seringkali cukup meyakinkan bahwa suatu runtun waktu stasioner atau tidak stasioner, akan tetapi lebih meyakinkan lagi dengan membuat plot nilai-nilai autokorelasi tersebut turun sampai nol dengan cepat, sesudah lag kedua atau ketiga, maka data tersebut dapat dikatakan stasioner. Sedangkan jika nilai-nilai autokorelasinya turun sampai nol dengan lambat atau berbeda secara signifikan dari nol, maka data tersebut tidak stasioner.

Menurut Box-Jenkins (1976), bahwa runtun waktu yang tidak stasioner dapat diubah menjadi runtun waktu yang stasioner dengan melakukan deferensi berturut-turut, yaitu dengan melihat barisan ∆�_�, ∇�_�, ... dengan ∇ adalah operator diferensi, yang mempunyai nilai (1 – B) atau (∇=−�).

2.3.1. Proses Autoregressive Inteagrated Moving Average (model ARIMA)

Berdasarkan uraian didepan telah dikemukakan bahwa runtun waktu �_� yang takstasioner, dapat diubah manjadi stasioner dengan melakukan diferensi �_�=∇ Z_t = (1−B)�_�. Karena �_� merupakan runtun yang stasioner, maka dapat menggunakan model ARMA untuk menggambarkan �_�. Selanjutnya jika didefinisikan :

W

t = Zt – Zt - 1

Maka proses umum model ARMA (p,q) dapat ditulis dalam bentuk: �� =∅1��−1+∅2��−2+⋯+∅���−�+�1��−1+⋯+����−�+��

Ini berarti bahwa Z

t dapat dipandang sebagai integrasi runtun waktu Wt, sehingga proses ARMA (p, q) dipandang sebagai integrated autoregressive-moving average proses disingkat ARIMA. Dengan demikian proses ARIMA (p, d, q) untuk {Z} merupakan proses ARIMA (p, q) untuk {W

t}, maka teori runtun waktu stasioner berlaku pula untuk W

t.

Selanjutnya proses ARIMA yang tidak mempunyai bagian autoregresif (AR) ditulis sebagai integrated moving average ditulis sebagai ARIMA (0, d, q). Sedangkan proses ARIMA yang tidak mempunyai bagian moving average ditulis ARIMA (p, d, 0) atau autoregresif integrated [ARI(p, d, 0)].

2.3.2. Proses ARIMA (p, d, 0)

Bentuk umum proses ARIMA (p, d, 0) adalah : Ф(�){(1− �)��_�− �} =�_� dengan � ≥0

dengan a

t (t = ..., -1, 0, 1, 2...) variabel random independen terhadap N (0, σ 2

a), B menyatakan operator Backshift sehingga ∅(�) =�1− ∅₁� − ∅₂�2− ⋯ −

∅���_{�Pada model ARIMA (p, d, 0) diatas apabila d = 0 maka akan diperoleh suatu} runtun waktu yang stasioner, akan tetapi jika d > 0 maka akan diperoleh suatu runtun waktu yang tak stasioner (nonstasioner). Kedua bentuk ini akan dibahas secara detail pada bagian berikut ini.

2.3.2.1. Model ARIMA (p, d, 0) jika d = 0

Model ARIMA (p, d, 0) untuk d = 0 sebagai berikut: ∅(�){�_�− �} =�_�

atau

Seperti pada proses AR (1) pada pembahasan sebelumnya, untuk memudahkan penulisan diambil μ = 0 sehingga diperoleh bentuk :

∅(�)�_� =�_� atau

�1 − ∅1��−1− ∅2��−2− ⋯ − ∅���−� =�� �� =∅1��−1+∅2��−2+⋯+∅���−� =��

Terlihat bahwa bentuk tersebut merupakan proses autogresif order p [AR (p)].

2.3.2.2. Model ARIMA (p, d, 0) jika d > 0

Bentuk ARIMA (p, d, 0) untuk d > 0 merupakan proses nonstasioner, menurut uraian di depan telah dikemukakan bahwa runtun waktu Z

t yang nonstasioner dapat dibuat menjadi runtun waktu yang stasioner dengan jalan melakukan differensi W

t = Δ d

Z t = (1 - B)dZ

t dan substitusi Wt pada model ARIMA (p, d, 0), maka diperoleh bentuk: ∅(�){�_�− �} =�_�

Menurut Box-Jenkins (1976), untuk d > 0 akan cocok jika diambil μ = 0, sehingga diperoleh bentuk:

∅(�)�_� =�� atau

��− ∅���−1− ∅2��−2− ⋯ − ∅���−� =�� Terlihat bahwa W

t merupakan runtun yang stasioner dan merupakan proses autogresif order p [AR (p)], dengan demikian maka dapat menggunakan model ARMA untuk menggambarkan W

t. Selanjutnya jika didefinisikan : W

t = Zt – Zt-1

Maka proses umum model ARMA (p, q) dapat ditulis sebagai:

�� =∅1��−1+∅2��−2+⋯+∅���−�+�1��−1+�2��−2 +⋯+����−�+�� Sehingga diperoleh persamaan sebagai berikut:

Bentuk ini menunjukan bahwa Z

t dapat dipandang sebagai integrasi runtun waktu Wt, sehingga proses ARMA (p, q) dipandang sebagai integrated autoregressive-moving average process disingkat ARIMA. Dengan demikian proses ARIMA (p, d, q) untuk {Z

t} merupakan proses ARMA (p, q) untuk {Wt}, ini berarti teori runtun waktu stasioner berlaku pula untuk �_�.

2.4. Tinjauan Distribusi Normal Multivariate

2.4.1. Fungsi Densitas Normal Multivariate Bersama, distribusi Marginal dan

Distribusi Bersyarat

Misalkan X varibel random berdistribusi normal (univariate) dengan mean μ dan variansi �2 biasanya dinyatakan dengan �~(�,�2).

Fungsi densitas dari X adalah : �(�) = 1

�√2���� �− 1 2�

�−� � �

2

�,∞<�<∞,∞<�<∞

dan �> 0 (2.41) jika X

1,X2,...,Xp adalah variabel random berdistribusi independent �(�,�

2_{), maka} vektor random X = ��1,�2, … ,��� mempunyai fungsi densitas bersama:

����=�(�1)�(�2) …����� = 1

(_2�)�2_�1�2…�_���� �− 1 2∑

(�_�−�_�)2 ��

�

�=1 �,−∞<�� <∞,−∞<�� <∞

dan �_� > 0;�=1,2,3,... (2.42)

2.4.2. Fungsi Likelihood dan Estimasi Maksimum Likelihood

Contoh :

Dipunyai data runtun waktu sebagai berikut 15,5 15,7 15,6 16,7 18,0 17,4 17,9 18,8 17,6 17,0

Dari fak dan fakp ditentukan model AR(1) : (�_�− ��) =∅(�_�− ��) +�� dengan �� =��− ��−1.

Diperoleh estimasi parameter ∅ adalah ∅� =�₁ = 0,36 dan

��2 =��2(1− ∅12) = 1,25(1−0,362) = 1,09 maka model runtun waktu tersebut adalah:(�_�−0,51) = 0,36(�_�−0,51) +�_� dimana nilai �_�~�(0,�_�2).

Metode untuk mengestimasikan harga parameter dari model suatu runtun waktu dengan menggunakan metode maksimum likelihood.

Menurut Bain dan Engelhardt (1992), metode maksimum likelihood menggunakan nilai dalam ruang parameter Ω yang bersesuai dengan harga kemungkinan maksimum dari data observasi sebagai estimasi dari parameter yang tidak diketahui.

Dalam aplikasi L(θ) menunjukan fungsi densitas probabilitas bersama dari sample random. Jika Ω ruang parameter yang merupakan interval terbuka dan L(θ) merupakan fungsi yang dapat diturunkan serta diasumsikan maksimum pada Ω maka persamaan maksimum likelihoodnya adalah:

�

�(_�)�(�) = 0

Jika penyelesaian dari persamaan tersebut ada, maka maksimum dari L(θ) dapat terpenuhi. Apabila tak terpenuhi maka fungsi L(θ) dapat dibuat logaritma naturnya, dengan ketentuan jika ln L(θ) maksimum maka L(θ) juga maksimum, sehingga persamaan logaritma natural likelihoodnya adalah:

�

��ln�(�) = 0

Definisi 9

Fungsi densitas probabilitas bersama dari n variable random �₁,�₂, … ,�_�

yang observasi pada �₁,�₂, … ,�_� di notasikan dengan �(�₁,�₂, … ,�_�,�). Untuk menentukan fungsi likelihood dari �₁,�₂, … ,�_� yang merupakan � dan dinotasikan dengan �(�), dengan �₁,�₂, … ,�_� adalah sampel random dari fungsi densitasprobabilitas �(�;�) yang fungsi likelihoodnya adalah:

�(�) =�(�₁;�)�(�₂;�) …�(�_�;�) =∏�_�=1���_�;��

Defenisi 10

BAB III

PEMBAHASAN

4.1 Inferensi Proses Autogresif Klasik Box-Jenkins

Bentuk umum proses ARIMA (1, 1, 0) klasik Box-Jenkins adalah:

Ф(�){(1− �)�_�− �} =�_� (4.1) dengan �(�) = (1− �₁�),�_�(� =⋯,−1, 0, 1, 2, … ) variabel yang independen N

(0,�_�2). B menyatakan operator Backshift sehingga ��_�=�_�−1.

Inferensi model ARIMA (1, 1, 0) Box-Jenkins biasanya dikerjakan dalam dua tahap, yaitu:

1. Pada langkah pertama melakukan satu kali proses diferensi untuk suatu time series (runtun waktu) atau menstasionerkan runtun waktu yang nonstasioner dengan metode pembeda (diferensi) yang disebut dengan proses ARIMA. 2. Langkah kedua mengestimasi parameter-parameter yang ada pada model

ARIMA (1,1,0) Box-Jenkins. Pada langkah kedua ini digunakan estimasi maksimum likelihood dan estimasi kuadrat terkecil.

Masing-masing langkah tersebut akan dibahas sebagai berikut.

4.1.1 Menentukan selisih (diferensi) pertama runtun waktu

Misalkan Z

Motivasi untuk memusatkan perhatian pada pengambilan selisih nilai yang berurutan runtun waktu nonstasioner homogen sebagai cara untuk membuatnya stasioner. Hal ini akan menjadi jelas dengan memandang contoh proses autoregresif (AR) tingkat pertama.

Z

t = ΦZt – 1 + at

Dan nilai-nilai yang mungkin dijalani oleh parameter Φ. Jika nilai mutlak Φ kurang dari 1, maka proses itu stasioner dan jika lebih besar dari satu maka tingkat gerak runtun waktu itu menjadi eksplosif. Artinya jika mulai gerak proses itu dari 0 misalnya maka suku gangguan (sesatan) menjadi penting dalam menentukan beberapa nilai pertama runtun waktu tersebut.

Namun demikian setelah beberapa saat waktu akan tinggal landasan dan berkembang secara eksponensial. Suku gangguan (sesatan) menjadi kecil dan dapat diabaikan relatif terhadap tingkat runtun waktu itu, sehingga runtun waktu menjadi deterministik (pada dasarnya) dalam perkembangannya. Kondisi ini merupakan runtun waktu nonstasioner yang homogen, karena distribusi selisih dalam proses itu tidak berubah.

Dengan demikian runtun waktu selisih adalah stasioner karena selisih-selisih itu adalah Z

t – Zt – 1 = at (4.2)

Dengan distribusi a

t tertentu (tetap). Secara generalisasi dari proses random walk ini adalah untuk memandang AR (P) yang stasioner sebagai mekanisme pembentukan yang penting proses selisih suatu runtun waktu nonstasioner. Untuk ini didefinisikan W

t sebagai barisan selisih W

t = Zt – Zt – 1 = at (4.3) Maka proses umum autoregresif dapat menjadi

W

t = Φ1Wt – 1 + ………..+ ΦpWt – p + at (4.4) Jika W

t diganti dengan (Zt – Zt-1), maka runtun waktu Zt dapat ditulis sebagai Z

t = Zt-1 + Φ(Zt-1 – Zt-2) + ….. + Φp (Zt-p – Zt-p-1) + at (4.5) Dari persamaan (4.3) Z

t dapat ditulis menjadi: Z

Z

t-1 = Zt-2 + Wt-1 Z

t-2 = Zt-3 + Wt-2 Sehingga diperoleh Z

t = Wt + Wt-1 + Wt-2 + … (4.6) Hal ini berarti Z

t dapat dipandang sebagai integrasi runtun waktu Wt dan proses (4.4) dipandang sebagai autoregressive integrated (ARI).

Dalam bentuk kasus selisih pertama suatu runtun waktu sudah stasioner. Selanjutnya dengan menuliskan derajat selisih 1, maka suatu proses ARIMA dapat dipandang dengan dimensi p, 1 dan q. Dengan demikian proses ARIMA (p, 1, q) berarti suatu runtun waktu nonstasioner yang setelah diambil selisih ke 1 menjadi stasioner yang mempunyai model autoregresif derajat p dan moving average q.

Selanjutnya proses ARIMA yang tidak mempunyai bagian moving average ditulis sebagai ARI (p, d) atau ARIMA (p, d, 0). Untuk melihat proses ARIMA (p, d, 0) menunjukan tingkat gerak yang homogen, yakni tingkah gerak yang independen dengan tingkat Z

t. Langkah ini dapat dilihat bagaimana akibat pemindahan seluruh runtun waktu dengan kuantitas sebarang c sampai waktu t-1. Melalui cara pemindahan runtun waktu itu Z

t menjadi: Z

t = (Zt-1 + c)+ Φ[(Zt-1 – c) – (Zt-2 + c)]+ …..+ Φp [(Z

t-p + c) – (Zt-p-1+ c)]+at (4.7) yang tidak lain adalah nilai Z

t sebelum pemindahan ditambah kuantitas c. Ini berarti pemindahan tidak mengubah tingkah gerak runtun waktu itu, melainkan hanya menggeser tingkatnya saja.

Selisih nilai runtun waktu dapat ditulis dalam bentuk ∇�_� =�_�− �_�−1. Dengan bentuk ini akan ditulis selisih derajat d dengan ∇��_�, sehingga

∇�� =��+��−1 ∇2_�

� =��−2��−1+��−2 ∇3_�

Jika ditulis ∇��� =�_�, maka proses ARI (p, d) untuk {�_�}, sehingga teori untuk runtun waktu stasioner berlaku pula untuk runtun waktu �_�. Jika �(�_�)≠0, digunakan W

t = Wt – W, sehingga E(Wt) = 0.

Bentuk runtun waktu yang ditulis dalam persamaan (4.5) dapat ditulis kembali menjadi:

�� = (1 +Ф1)��−1 + (Ф2 − Ф1)��−2+⋯+

�Ф_�− Ф_�−1��_�−�− Ф_��_{�−�−1}+�_�

(4.8) atau

��−(1 +Ф1)��−1+⋯+Ф���−� =�� atau

Ф(�)�_� =�_�

Dengan Φ(B) operator autoregresif berubah dan merupakan polinomial derajat p+1 untuk selisih derajat d, yakni �_� =∇��_�, maka Ф(�)

merupakan polinomial derajat (p+d) dengan d nilai nol sama dengan 1 dan nilai nol yang lain di luar lingkaran satuan.

Jadi Ф(�) =Ф_�(�)(1− �)�

Ф_�(�)∇� (4.10) dengan Φ(B) adalah operator autoregresif stasioner tingkat p.

Pandang suatu proses yang akan stasioner kecuali adanya pergeseran tingkat yang terjadi secara random. Ini memerlukan model yang tingkat geraknya tidak dipengaruhi oleh tingkat proses yang sekarang, dengan demikian jika M sebarang konstanta, maka

Φ(B) (Z_t + M) = Φ(B) Z_t atau

Φ(B) M = 0

Ini berarti jika Φ(1) = 0 maka Φ(B) mempunyai satu faktor (1 – B) dan Φ(B) mempunyai bentuk:

Jika Φ(B) hanya mempunyai satu faktor semacam itu, maka selisih derajat 1 cukup untuk menghasilkan runtun waktu yang stasioner.

Prosedur atau cara umum untuk mengenali runtun waktu nonstasioner adalah dengan memeriksa grafik runtun waktu dan kemudian menghilangkan nonstasioneritasnya dengan menghitung selisih derajat tertentu yang diperlukan, sehingga runtun waktu mencapai stasioner.

Sebelum membahas estimasi maksimum likelihood pada model ARIMA (1, 1, 0) klasik Box-Jenkins, terlebih dahulu akan dibahas mengenai fungsi likelihood untuk model ARIMA (1, 1, 0) dan fungsi likelihood untuk model sebagai berikut.

4.1.1.1 Fungsi Likelihood Model ARIMA (p, d, 0)

Dengan melakukan diferensi W t = ∇

d Z

t = (1 – B) d

Z

t dan mengambil nilai μ = 0 ternyata menghasilkan bentuk autoregresif orde p yang stasioner.

Model autoregresif orde p [AR (p)] sebagaimana pada (2.18) dapat dinyatakan dalam bentuk:

�� =��− Ф1��−1− ⋯ − Ф���−� (4.11) Densitas probabilitas dari (4.11) adalah:

���/�,Ф,�,�_�2�= (2��2)−�/2_�� �(�,0)�

1/2

��� �����(�,0)��

2��2 � (4.12)

Dengan �_�(�,0) adalah matriks simetri berukuran nxn dari elemen-elemen diagonal utama. Bentuk (4.12) pengkontruksinya adalah sebagai berikut:

���/�,Ф,�,�_�2� dapat dinyatakan sebagai

���/�,Ф,�,�_�2�=���_�+1,�_�+2, … ,�_���_�,Ф,�_�2�

���_�|�,Ф,�,�_�2� (4.13) Dengan �_�=��₁,�₂, … ,�_�� faktor pertama ruas kanan dari (4.13), diperoleh bentuk:

Untuk suatu �_�,���+1,��+2, … ,���, dan ��_�+1,�_�+2, … ,��� tertentu, ketiganya dihubungkan oleh suatu transformasi:

��+1=��+1+Ф1��+⋯+Ф��1 ��+2=��+2+Ф1��+1+⋯+Ф�� Μ

�� =��+Ф1��−1+⋯+Ф���−�

yang mempunyai Jacobian satu (unit), sehingga diperoleh:

�₂(1)

dengan menyamakan elemen kedua matriks tersebut diperoleh �₁(1)

=�₁2 = 1 sehingga �₁(1)= 1− �₁2 dan ��₁(1)�=�₁(1)= 1− �₁2 Selanjutnya untuk proses orde 1 dan 2 ditentukan oleh:

�₁(1) kuadrat dalam runtun W, juga merupakan bentuk kuadrat dalam parameter �.

Selanjutnya sebut �_� =�1,�₁,�₂, … ,�_�� untuk suatu matriks D dengan ukuran (p + 1) x (p + 1) akan menjadi jelas dan benar bahwa fungsi kuadrat dari runtun W adalah: ����(�)�� =�����

elemen dari ��� adalah simetris jumlah kuadrat dari perkalian langkah yang didefinisikan sebagai berikut:

��� =��� =���� +��+1��+1+⋯+��+1−���+1−� dimana �_�� memuat n – (i – 1) – (j – 1) suku (term).

� ��/�,�_�2�=�(�,�_�2|�_�)

dan log bilangan pokoknya “e” dari fungsi likelihoodnya adalah: ln L(�,��2|�_�) = 1(�,�_�2|�_�)

4.1.1.2Fungsi Likelihood ARIMA (1, 1, 0) atau ARI (1, 1)

Bentuk proses ARIMA (1, 1, 0) adalah:

�� = (1 +�1)��−1− �1��−2+�� atau �� =�1��−1+�� (4.19) Fungsi likelihood proses ARIMA (1, 1, 0) merupakan bentuk yang paling sederhana dari proses ARIMA (p, d, 0), sehingga pengkontruksian fungsi likelihood model ARIMA (1, 1, 0) sejalan dengan model ARIMA (p, d, 0). Selanjutnya dari (4.17) dapat dinyatakan dalam bentuk:

�� =��− ����−1;�= 1, 2, 3, … ,� (4.20) �(�₁,�₂, … ,�_�) adalah runtun waktu stasioner, dengan asumsi �_�~�(0,�_�2), sehingga fungsi densitas bersama dapat dinyatakan dalam bentuk:

� ��/�,�_�2�= (2���2)−�2|�₁1|12 ��� ����21��

2��2 � (4.21)

bentuk (4.21) dapat dinyatakan sebagai:

� ��/�,�_�2�=� ��₂,�₃, … ,�_���₁,�,�_�2� � ��/�,�,�_�2� (4.22) Faktor pada ruas kanan dari (4.22) kontruksi distribusinya diperoleh dari:

M

��� =��+�1��−1

yang mempunyai Jacobian satu unit, sehingga diperoleh: � ��2,�3, … ,����1,�,��2�= (2���2)

dan log bilangan pokoknya “e” dari fungsi likelihoodnya adalah:

ln�(�,�_�2|�_�) = 1(�,�_�2|�_�)

4.1.2 Estimasi Maksimum Likelihood pada Model ARIMA (1, 1, 0)

Metode maksimum yang digunakan untuk mengestimasi model ARIMA (1, 1, 0) klasik Box-Jenkins ini adalah estimasi maksimum likelihood (EML) atau estimasi kemungkinan maksimum (EKM). Metode estimasi perhitungan yang akan menemukan estimasi - estimasi untuk setiap model ARIMA yang mungkin ditentukan bagaimanapun datanya atau nilai-nilai p, q. Apabila banyaknya observasi cukup besar, estimasi yang memaksimumkan fungsi likelihood adalah estimasi yang efisien.

Estimasi maksimum likelihood untuk parameter - parameter pada model autoregresif klasik Box-Jenkins dengan memaksimumkan fungsi likelihoodnya, dengan cara mendiferensialkan �(�,�_�2/�) terhadap parameter - parameternya dan menyamakannya dengan nol,sehingga diperoleh:

�1 sehingga untuk menentukan estimator untuk � merupakan masalah yang tidak mudah. Menurut Box-Jenkins ada tiga alternatif metode pendekataan yang dapat digunakan untuk menentukan estimator dari �, yaitu:

1. Metode estimasi kuadrat terkecil

2. Pendekatan estimasi maksimum likelihood dan 3. Estimasi Yule-Walker

Pada skripsi ini dibahas metode kuadrat terkecil untuk mengatasi kesulitan dalam menentukan estimator �, metode estimasi kuadrat terkecil pembahasannya sebagai berikut:

sedangkan nilai dari ����₁(1)� sangat kecil untuk ukuran sampel sedang atau besar (N

> 30), sehingga dapat diabaikan, akibatnya bentuk

( )

( )

( )

Estimator �� untuk � dengan memaksimumkan (4.29). Penggunaan metode estimasi kuadrat terkecil dalam bentuk ini adalah dengan meminimumkan (�) =

�=�1−2�2+�02�

�1−��0 =

�1−2�0,54+0,7942� (0,68−0,794) =

(1−1,08+0,630436) −0,114 =

0,550463

−0,114 =−4,83 sehingga

��0 =�−4,83+�(−4,83)

2_−4�

2 =

(₋₄,83+4,396)

2 =

−0,433

2 =−0,216 �(�) =�₂ =��_��2�1+�_1−�1

1��

1 2

=�1,267

55 � 1−0,68 1+0,68��

1 2

=1,₅₅267(0,1904) = 0,0043

�_�2 =�_�2�1− ��₀2� = 1,267(1−0,216) = 1,540672

BAB IV

KESIMPULAN DAN SARAN

Berdasarkan hasil pembahasan pada bab-bab sebelumnya maka dapat diambil kesimpulan :

1. Fungsi Likelihood untuk model ARIMA(1, 1, 0) Box-Jenkins dapat dikontruksikan melalui asumsi kenormalan dan independensi dari sesatan �� dengan distribusi probabilitas bersamanya � ��₁,�₂, … ,�_���,�_�2�, dan fungsi densitas bersama �_� adalah � ��_���,�_�2� dan fungsi likelihood untuk parameter-parameternya jika data observasi diketahui adalah :

� ��,�_�2|�_��= (2��_�2)�2��_�(1,0)� 1

2_{��� �−}�(_�) 2��2�

2. Dalam proses maksimum likelihood bentuk ��_�(1,0)� untuk ukuran sampel kecil atau sedang dapat diabaikan, hal ini karena tidak berpengaruh terhadap hasil yang diperoleh. Sedangkan parameter-parameter yang diestimasi masuk pada bentuk jumlah kuadrat �(�) dan mendominasi log fungsi likelihood, sehingga langkah untuk memperoleh estimatornya, diperoleh dengan cara meminimumkan �(�)

dengan metode kuadrat terkecil, diperoleh: �� =�₁−1�

�� =�₁₁−1�₁₂ =∑��=1��+1��

∑�_�=2�_�2 dan ���2 = �(�)

�

DAFTAR PUSTAKA

Anderson, O. D. 1977. Time Series Analysis and Forecasting – The Box-Jenkins Approach. London : Butterworths

Anderson, T. W. 1971. The Statistical Analysis of Time Series, Wiley, New York Bain, Lee J dan Engelhardt, Max. 1992. Introduction Probalbility and Mathematical

Statistic. California : Belmont

Bresler, Y, and A. Macovski. 1985. Exact Maximum likelihood Estimation of Superimposed Exponential Signal in noise. Tampa, Fla

Box, G. E. P, and G. M. Jenkins. 1970. Time series Analysis: Forecasting and Control, Holden Day, San Fransisco

Chatfield, C . 1975. The Analysis of Time Series : Theory and Practise. London : Chapman and Hall

Goodman, N. R. 1963. Statistical Analysis Based on a Certain Multivariate Comlex Gaussian Distribution. Englewood Cliffs, New Jersey

Kay, S. M. 1988. Modern Spectral Estimation: Theory and Application. Englewood Cliffs, New Jersey

Kendal, Sir M, and A. Stuart. 1976. The Advanced Theory of Statistics. Charles Griffin, London

Makridakis; Wheelwright & McGee.1993. Metode Peramalan. Jakarta: Erlangga Makridakis; Wheelwright & McGee. 1999. Metode dan Aplikasi Peramalan. Jakarta:

Binarupa Aksara

Rife, D. C. 1973. Digital Tone Parameter Estimation in the Presence of Gaussian Noise. Polytechnic Institute of New York