Metode Identifikasi Rekursif. Zulkifli Hidayat Laboratorium Teknik Sistem Jurusan Teknik Elektro FTI - ITS

(1)

Metode Identifikasi Rekursif

Zulkifli Hidayat

Laboratorium Teknik Sistem Jurusan Teknik Elektro FTI - ITS

(2)

RE1465 Pengolahan Sinyal Pengaturan 2 / 29

Mengapa Identifikasi Rekursif?

Alasan menggunakan identifikasi rekursif ◦ Estimasi online

◦ Sistem Pengaturan Adaptif

◦ Sistem parameter berubah waktu ◦ Deteksi kegagalan

(3)

Bagaimana Caranya?

Bagaimana melakukan estimasi parameter berubah waktu? ◦ Model diperbarui secara reguler (setiap waktu cacah). ◦ Menggunakan perhitungan sebelumnya dengan efisien.

◦ Prosedur dasarnya adalah dengan memodifikasi metode-metode off-line.

(4)

Sifat-sifat Yang Diinginkan

Diinginkan sifat-sifat metode estimasi sebagai berikut: ◦ Cepat mencapai konvergensi.

◦ Estimasi yang konsisten (untuk model time-invariant). ◦ Kemampuan tracking yang baik.

◦ Komputasi yang sederhana (dapat menyelesaikan semua perhitungan dalam satu waktu cacah).

Trade-offs

◦ Tidak algoritma yang sempurna ◦ Kerumitan komputasi vs akurasi

(5)

Metode Least Square Rekursif

ˆ θ = arg min θ Vt(ˆθ), Vt(ˆθ) = t X k=1 ε(k)

dimana ε(k) = y(k) − ϕT(k)θ. Penyelesaiannya adalah ˆ θ(k) = R−1_t rt dimana R_t = t X k=1 ϕ(k)ϕT(k) r_t = t X k=1 ϕ(k)y(k)

Fungsi kriteria V_t(ˆθ) berubah setiap saat k sehingga estimasi parameter ˆ

(6)

Metode Least Square Rekursif

Algoritma:

1. Untuk k = 0: pilih ˆθ(0) dan P(0).

2. Untuk setiap waktu cacah, perbarui ϕ(k) dan hitung ˆ θ(k) = ˆθ(k − 1) + K(k)ε(k) ε(k) = y(k) − ϕ(k)ˆθ(k − 1) K(k) = P (k)ϕ(k) P(k) = P(k − 1) − ϕ(k)P(k − 1)ϕ T_{(k)P(k − 1)} 1 + ϕT(k)P(k − 1)ϕ(k)

(7)

Tracking

Bagaimana menghadapi sistem time-varying?

◦ Buat perkiraan model time-varying. Biasanya parameter akan bervari-asi sesuai dengan random walk dan gunakan filter Kalman sebagai estimator.

◦ Modifikasi fungsi biaya sehingga kita bisa mengabaikan pengaruh data lama. Karena itu model akan sesuai dengan data yang yang paling baru (model diadaptasi untuk mendeskripsikan data terbaru). ◦ Fungsi biaya yang dimodifikasi:

ˆ θ(k) = arg min θ Vk(θ), Vk(θ) = k X n=1 β(k, n)ε2(n)

(8)

Tracking

◦ Anggap fungsi pembobot β(k, n) memenuhi

β(k, n) = λ(k)β(k − 1, n), 0 ≤ n < k β(k, n) = 1

Pilihan yang umum adalah memberi nilai λ(k) = λ, dimana λ disebut dengan forgetting factor. Pada kasus ini didapatkan:

β(k, n) = λk−n, 0 < λ ≤ 1 ◦ λ = 1 bersesuaian dengan standar RLS.

(9)

RLS Berbobot

Algoritma:

◦ Pada saat k = 0: pilih ˆθ(0) dan P(0).

◦ Untuk setiap waktu cacah, perbarui ϕ(k) dan hitung ˆ

θ(k) = ˆθ(k − 1) + K(k)ε(k) ε(k) = y(k) − ϕT(k)ˆθ(k − 1)

(10)

Kondisi Awal

◦ θ(0) adalah estimasi parameter mula-mulai.ˆ

◦ Pandang P(0) sebagai estimasi dari matrix kovarians dari estimasi parameter mula-mula.

◦ P(0) (dan P(k)) adalah matriks kovarians, dan harus positif definit.

◦ Pilih P(0) = ρI.

◦ ρ besar artinya respon mula-mula besar. Ini baik jika estimasi ˆ

(11)

Forgetting Factor

Misal λ(k) = λ. Forgetting factor akan menentukan kemampuan track-ing.

◦ Untuk menjadi konvergen haruslah λ = 1.

◦ λ kecil berarti data lama dilupakan lebih cepat, karena itu meng-hasilkan tracking yang lebih baik.

◦ λ kecil berarti algoritma ini sensitif terhadap noise (konvergensi men-jadi buruk).

◦ Konstanta ingatan didefinisikan dengan T0 = _1−λ1 .

Karenanya pemilihan nilai λ adalah trade-off antara kemampuan track-ing dan sensitifitas terhadap noise. Pilihan yang umum diambil adalah λ ∈ (0.95, 0.99). Biasanya juga membuat λ(k) naik secara eksponensial menuju 1, yaitu

(12)

Filter Kalman

Perhatikan sistem:

x(k + 1) = Fx(k) + Gu(k) + v(k)

y(k) = Hx(k) + e(k)

dimana v(k) dan e(k) adalah white noise yang saling independen dengan E{e2(k)} = R₂ dan E{v(k)vT(k)} = R₁.

(13)

Filter Kalman

Prediktor variabel state x(k) yang optimal dinyatakan dengan filter Kalman ˆ x(k + 1) = Fˆx(k) + Gu(k) + K(k) [y(k) − Hˆx(k)] K(k) = FP(k)H T R₂ + HP(k)HT dimana P(k + 1) = FP(k)FT − FP(k)H T_HPF R₂ + HP(k)HT − R1

(14)

Filter Kalman

Kita modelkan variasi parameter menurut θ(k + 1) = θ(k) + v(k)

y(k) = ϕT(k)θ(k) + e(k) Maka

ˆ

(15)

Filter Kalman

Kemampuan tracking dipengaruhi oleh matriks kovarian R₁ (untuk penyeder-hanaan anggap R2 = 1).

◦ Pandang R₁ sebagai variabel disain. ◦ Anggap R₁ adalah matriks diagonal.

◦ Elemen-elemen R1 yang besar =⇒ variasi parameter besar dan

seba-liknya.

◦ Filter Kalman lebih fleksibel dibanding dengan forgetting factor. Kita dapat dengan mudah membuat asumsi variasi yang berbeda untuk setiap parameter.

(16)

IVM Rekursif

Seperti pada metode kuadrat terkecil, bentuk rekursif dari metode IV dapat dicari secara langsung

ˆ θ(k) = " _k X n=1 z(k)ϕT(k) #−1" _k X n=1 z(k)y(k) # sebagai ˆ θ(k) = ˆθ(k − 1) + K(k)ε(k) K(k) = P(k)z(k) ε(k) = y(k) − ϕT(k)ˆθ(k − 1)

(17)

Filter Kalman

◦ Pengaruh variabel disain P(0), ˆθ(0), dan λ serupa dengan metode RLS.

◦ Metode RIV menghasilkan estimasi A(q−1) dan B(q−1) yang konsis-ten pada model ARMAX. Konsiskonsis-tensi ini bahkan berlaku pada noise berwarna (colored noise).

(18)

PEM Rekursif

Untuk mendapatkan metode PEM rekursif dimulai dengan mendefin-isikan fungsi biaya (untuk sistem SISO)

Vk(θ) = 1 2 k X s=1 λk−sε2(s, θ)

Mendapatkan algoritma rekursif secara langsung dari metode off-line tidak dimungkinkan karena metode off-line menggunakan minimisasi nu-merik. Karena itu harus digunakan pendekatan.

(19)

PEM Rekursif

Anggap bahwa ˆθ(k − 1) meminimalkan V_k(θ) and titik minimum dari Vk(θ) mendekati ˆθ(k − 1). Dengan menggunakan ekspansi Taylor orde

kedua dari V_k(θ) didapatkan

V_k(θ) ≈ V_k(ˆθ(k − 1)) + V_k0(ˆθ(k − 1))(θ − ˆθ(k − 1)) + 1

2(θ − ˆθ(k − 1))

T

V_k00(ˆθ(k − 1))(θ − ˆθ(k − 1))

Fungsi di atas diminimisasi terhadap θ dan nilai minimumnya adalah ˆ

θ(k):

ˆ

θ(k) = ˆθ(k − 1) − [V_k00(ˆθ(k − 1))]−1V_k0(ˆθ(k − 1))T

(20)

PEM Rekursif

Algoritma: ˆ θ(k) = ˆθ(k − 1) + K(k)ε(k) K(k) = P(k)ψ(k) P(k) = 1 λ P(k − 1) − P(k − 1)ψ(k)ψ T_{(k)P(k − 1)} 1 + ψT(k)P(k − 1)ψ(k)

dimana implementasi pendekatannya

ε(k) ≈ ε(k, ˆθ(k − 1)) yang bergantung pada struktur model.

(21)

Regresi Pseudolinier Rekursif

Perhatikan model ARMAX

A(q−1)y(k) = B(q−1)u(k) + C(q−1)e(k) Model dapat ditulis ulang menjadi

y(k)ϕT(k) + e(k)

ϕT(k) = −y(k − 1) · · · −y(k − n_a)

u(k − 1) · · · u(k − n_b) e(k − 1) · · · e(k − n_c) θ = a₁ · · · a_n_a b₁ · · · b_n_b c₁ · · · c_n_c

Disini e(k − 1), · · · , e(k − n_n_c) tidak diketahui. Dengan mengganti eror dengan prediksi eror ε(k − 1), · · · , ε(k − n_n_c) dan menggunakan RLS di-dapatkan RPLR. Perhatikan ε(k) = y(k) − ϕTθ(k − 1).ˆ

(22)

Regresi Pseudolinier Rekursif

Perbandingan RPEM dan RPLR:

◦ Beban komputasi kedua metode sama.

◦ RPEM konvergen dengan asumsi yang lemah sedangkan konvergensi RPLR tidak selalu dijamin (bergantung pada C₀(q−1)).

◦ Pada beberapa kasus tertentu, RPLR memiliki perilaku transien yang lebih baik dibanding RPEM.

(23)

Masalah yang Umum Terjadi

pada Identifikasi Rekursif

◦ Eksitasi

◦ Estimator Windup

(24)

Eksitasi

Sebagaimana pada identifikasi off-line, masukan saat melakukan iden-tifikasi rekursif juga harus persistently excited dengan orde yang cukup tinggi. Ini berlaku selama proses identifikasi.

(25)

Estimator Windup

Seringkali, ada periode eksperimen identifikasi yang menunjukkan eksi-tasi yang buruk. Kasus ini menyebabkan masalah pada algoritma iden-tifikasi. Perhatikan keadaan ekstrim saat ϕ(k) = 0 pada algoritma RLS. Maka ˆ θ(k) = ˆθ(k − 1) P(k) = 1 λ P(k − 1) Perhatikan:

◦ θ konstan saat k naik.ˆ

(26)

Estimator Windup

Ketika sistem dieksitasi lagi (ϕ(k) 6= 0), maka penguatan estimator K(k) = P (k)ϕ(k) akan menjadi sangat besar. Sehingga akan ada pe-rubahan mendadak pada estimasi ˆθ walaupun sistem tidak tidak dirubah. Ini yang disebut dengan estimator windup.

Penyelesaian:

Jangan perbarui P(k) jika eksitasi yang jelek. Ada beberapa algoritma yang dapat melakukan hal ini secara otomatis.

(27)

P(k) Tak Hingga

P(k) adalah matriks kovarians yang harus simetris dan definit positif.

Kesalahan pembulatan bisa terakumulasi yang membuat P(k) tak hingga (yang akan menjadikan estimasi divergen). Untuk menyelesaikan perlu diingat bahwa setiap matriks definit positif dapat ditulis menjadi

P(k) = S(k)ST(k)

Maka algoritma identifikasi dapat dirubah dengan memperbarui S(k) yang disebut dengan Algoritma Potters Square Root.

(28)

Algoritma Pendekatan

Struktur dari RPEM (Newton-Raphson) ˆ θ(k) = ˆθ(k − 1) − h V_t00(ˆθ(k − 1)) i−1 V_t0(ˆθ(k − 1))T ◦ Menghitung Hessian V_t00(ˆθ(k − 1)) akan merepotkan.

◦ Algoritma pendekatan akan lebih lebih sederhana secara komputasi. Misalkan mengabaikan Hessian

ˆ

θ(k) = ˆθ(k − 1) − γkV_t0(ˆθ(k − 1))T

Ini bisa menjadi algoritma steepest descent, algritma rata-rata kuadrat terkecil (LMS), dan lainnya.

(29)

Kesimpulan

◦ Kita akan sering menggunakan identifikasi rekursif (sistem parameter berubah waktu, identifikasi on-line, deteksi kesalahan).

◦ Metode LSM dan IVM mudah dikonversi ke dalam bentuk rekursif. Untuk metode PEM hanya bisa dilakukan pendekatan.

◦ Sifat-sifat metode on-line sebanding dengan metode off-line.

◦ Kemampuan tracking dapat dimasukkan dengan menggunakan

for-getting factor atau dengan memodelkan variasi parameter.

◦ Ada trade off antara kecepatan konvergen dengan sifat tracking, juga antara kerumitan komputasi dan akurasi.

◦ Pada prakteknya, dapat dilakukan penyederhanaan dan modifikasi untuk menjadikan metode lebih mudah secara komputasi dan robust secara numerik.