Workshop Memecahkan Masalah Kendali Optimal dengan Metode Langsung

(1)

Workshop – Memecahkan Masalah Kendali Optimal dengan Metode

Langsung

Karunia Putra Wijaya Mathematical Institute University of Koblenz–Landau

Dipresentasikan di Universitas Indonesia Kampus Depok, May 11, 2017

(2)

Outline

Bagian 0: Motivasi

Bagian 1: Optimasi Taklinier

Dasar–dasar

Teorema Karush–Kuhn–Tucker

Bagian 2: Sequential Quadratic Programming

Bagian 3: Masalah Kendali Optimal dengan Persamaan Di↵erensial Biasa

Beberapa definisi elementer Masalah kendali optimal Metode Langsung

(3)

Model dinamika nyamuk 1 [WGS2014]

Model matematika 8 > > > > > > > > < > > > > > > > > : ˙ E1= p↵A ( 1+ µ1)E1 qu1E1 ˙ E2= (1 p)↵A ( 2+ µ2)E2 ˙L1= 1E1 1L21 ( 3+ µ3)L1 u1L1 ˙L2= 2E2 2L22 ( 4+ µ4)L2 ˙ A = 3L1+ 4L2 µ5A u2A. A E1 u1 L1 u1 E2 L2 u2 ↵ ↵ I indoor–outdoor I age I ↵constant

(4)

Model dinamika nyamuk 1 [WGS2014]

0 50 100 150 0 10 20 30 40 50 60 70 80 90 100 time (day)

indoor larva (individual)

Uncontrolled Controlled 0 50 100 150 0 20 40 60 80 100 120 140 160 180 time (day)

outdoor larva (individual)

Uncontrolled Controlled 0 50 100 150 0 5 10 15 20 25 30 35 40 time (day) adult (individual) Uncontrolled Controlled 0 50 100 150 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1 time (day)

Control measures (1/day)

Temephos dissm. Fumigation

Masalah kendali optimal

min Z T 0 X i !x,ixi2 +X j !u,juj2dt s.t. Modeland 0 uj 1, j = 1, 2.

(5)

Model dinamika nyamuk 2 [WGS2015]

Model matematika 8 > > > > > > > > < > > > > > > > > : ˙ E1= p↵(t)A ( 1+ µ1)E1 qu1E1, ˙ E2= (1 p)↵(t)A ( 2+ µ2)E2, ˙L1= 1E1 1L21 ( 3+ µ3)L1 u1L1, ˙L2= 2E2 2L22 ( 4+ µ4)L2, ˙ A = 3L1+ 4L2 µ5A u2A. A E1 L1 E2 L2 ↵(t) ↵(t) I ↵ periodic ↵(t):= ✏ + ✏0cos( t)

(6)

Model dinamika nyamuk 2 [WGS2015]

1.3 1.3 1.3 1.4 1.4 1.4 1.5 1.5 1.5 1.6 1.6 1.6 1.7 1.7 1.7 1.8 1.8 1.8 1.9 1.9 1.9 2 2 2 2 2.1 2.1 2.1 p ε 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1 1 1.5 2 2.5 3 3.5 4 4.5 5 0 50 100 150 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1 time (day) control (1/day) temephos ULV aerosol 0 50 100 150 0 50 100 150 200 250 300 350 400 450 500 time (day)

all classes (individual)

ind. egg out. egg ind. larv out. larv adult 0 50 100 150 0 50 100 150 200 250 300 350 time (day)

all classes (individual)

ind. egg out. egg ind. larv out. larv adult

Masalah kendali optimal

min Z T 0 X i !x,ixi2 +X j !u,juj2dt s.t. Modeland 0 uj 1, j = 1, 2.

(7)

Model epidemic dengue SIRUV [GABW2017]

2010 2011 2012 2013 2014 2015 Date 0 10 20 30 40 50 60 Dengue Cases raw data Fourier filtered, quarterly

I SIRUV–model ˙ S = µ(N S) MSV , ˙I =MSV ( + µ)I , ˙ R = I µR, ˙U = ✓ NUI ⇢U, ˙ V = ✓ NUI ⇢V , I IR–model ˙I = (N I R) I I + ⌫N ( + µ)I , I Original model S I R U V

I Time scale separation

S I R I Constant population I R I Parameter estimation min1 2 I I DATA 2 +! 2k k 2 s.t. IR–model µ ⌫ 1 1

(8)

Model epidemik dengue SIRUV [GABW2017]

2010 2011 2012 2013 2014 2015 Date 0 10 20 30 40 50 60 Dengue Cases raw data Fourier filtered, quarterly

Jan 2010 Jul 2010Jan 2011 Jul 2011 Jan 2012Jul 2012 Jan 2013 Jul 2013Jan 2014 Jul 2014 Jan 2015 Date 0 10 20 30 40 Dengue Cases 0 5 10 15 20 Precipitation [mm/d] Data Simulation with Model β Simulation with βopt

Monthly average Precip.

20 30 40 50 60 70 Dengue Cases Reported Data Simulation with new β model Simulation with first β model

I 1st-step: Relate directly

with precipitation = Xp+¯ | {z } unknows . I 2nd-step: correct by = ( Xp+ ¯)· k1· k2.

(9)

Model epidemik dengue SIR [WG2017]

-th month 0 10 20 30 40 50 60 # of cases 0 200 400 600 800 1000 1200 -th month 0 10 20 30 40 50 60 # of cases 0 200 400 600 800 1000 1200 β 0.65 0.7 0.75 0.8 0.85 0.9 0.95 0 5 10 15 20 25 γ 0.8 0.82 0.84 0.86 0.88 0.9 0.92 0.94 0 5 10 15 20 -th month 0 10 20 30 40 50 60 # of cases 0 200 400 600 800 1000 1200 -th month 0 10 20 30 40 50 60 ×106 1.38 1.385 1.39 1.395 1.4 y1 -th month 0 10 20 30 40 50 60 ×104 0 0.5 1 1.5 2 y3 -th month 0 10 20 30 40 50 60 # of cases 0 200 400 600 800 1000 1200 y2,e y2 -th month 0 10 20 30 40 50 60 0 0.5 1 1.5 2 βe β S I R ⌫ I Deterministic, constant I Stochastic, constant I Deterministic, time-varying I Spatially uniform

(10)

Model epidemik dengue SIR [WG2017]

t = 0 0 0.5 1 0 0.2 0.4 0.6 0.8 1 5 10 15 20 25 30 35 40 45 t = 1 0 0.5 1 0 0.2 0.4 0.6 0.8 1 5 10 15 20 25 30 35 40 45 t = 2 0 0.5 1 0 0.2 0.4 0.6 0.8 1 2 4 6 8 10 12 14 16 t = 3 0 0.5 1 0 0.2 0.4 0.6 0.8 1 2 4 6 8 10 t = 4 0 0.5 1 0 0.2 0.4 0.6 0.8 1 5 10 15 20 t = 5 0 0.5 1 0 0.2 0.4 0.6 0.8 1 5 10 15 20 25 30 t = 0 0 0.5 1 0 0.2 0.4 0.6 0.8 1 5 10 15 20 25 30 35 40 45 t = 1 0 0.5 1 0 0.2 0.4 0.6 0.8 1 15 20 25 30 35 40 t = 2 0 0.5 1 0 0.2 0.4 0.6 0.8 1 12 13 14 15 16 t = 3 0 0.5 1 0 0.2 0.4 0.6 0.8 1 2 4 6 8 10 12 t = 4 0 0.5 1 0 0.2 0.4 0.6 0.8 1 19 20 21 22 23 24 t = 5 0 0.5 1 0 0.2 0.4 0.6 0.8 1 22 23 24 25 26 27 28 29 S I R ⌫ I Reaction–di↵usion

I optimal from the seasonal model

t = 0 0 0.5 1 0 0.2 0.4 0.6 0.8 1 0 0.2 0.4 0.6 0.8 1 t = 1 0 0.5 1 0 0.2 0.4 0.6 0.8 1 0.5 1 1.5 2 2.5 3 t = 2 0 0.5 1 0 0.2 0.4 0.6 0.8 1 0.2 0.4 0.6 0.8 1 1.2 1.4 1.6 t = 3 0 0.5 1 0 0.2 0.4 0.6 0.8 1 0.2 0.4 0.6 0.8 1 1.2 t = 4 0 0.5 1 0 0.2 0.4 0.6 0.8 1 0.5 1 1.5 2 2.5 t = 5 0 0.5 1 0 0.2 0.4 0.6 0.8 1 0.5 1 1.5 2 2.5 3

(11)

The basic reproductive number: motivasi

(12)

Outline

Bagian 0: Motivasi

Dasar–dasar

Teorema Karush–Kuhn–Tucker Bagian 2: Sequential Quadratic Programming

Bagian 3: Masalah Kendali Optimal dengan Persamaan Di↵erensial Biasa Beberapa definisi elementer

Masalah kendali optimal Metode Langsung

(13)

Norm

Definisi

Misal X adalah sebuah ruang vektor atas lapangan riilR. Pemetaan k·k : X ! R

dikatakan sebagainormjika memenuhi 3 kondisi:

1. kxk > 0 untuk setiap x 2 X , x 6= 0

2. k↵xk = |a| kxk untuk setiap ↵ 2 C dan x 2 X

3. kx + yk  kxk + kyk untuk setiap x, y 2 X .

Beberapa contoh I lp_–norm kxkp:= n X i=1 |xi|p !1/p I l1–norm kxk1:= limp!1 n X i=1 |xi|p !1/p = max i |xi| .

(14)

Norm matriks

Norm ”Terinduksi”

Untuk A2 Rn⇥m, norm terinduksi dari A didefinisikan sebagai

kAkp:= max_x_2Rm kAxkp kxkp = max kxkp=1 kAxkp. Beberapa contoh

I _kAk₁= maxkxk1=1kAxk1= maxkxk1=1

⇣P jA1jxj,· · · , P jAnjxj ⌘> = maxkxk1=1 P i P jAijxj  maxkxk1=1 P j|xj|Pi|Aij|  maxjPi|Aij| ⇣Pj|xj| ⌘ .

Pilih k sehinggaP_i|Aik| = maxjP_i|Aij| dan xk= 1 dan xj= 0 untuk j6= k.

MakakAxk1= maxkxk1=1

P i P jAijxj = P i|Aik| = maxj P i|Aij|. I _kAk₁= maxiP_j|Aij|.

(15)

Bola dan persekitaran

Bola

Sebuah bola dengan radius ✏ > 0 dan pusat x2 Rn_disimbolkan_B

✏(x)⇢ Rn(buka) atauB✏(x)⇢ Rn(tutup)didefinisikan sebagai

B✏(x) :={y 2 Rn:kx yk < ✏}

B✏(x) :={y 2 Rn:kx yk  ✏} .

Persekitaran

Sebuah himpunan U(x) dikatakan sebagai persekitaran dari x2 Rn

jika terdapat

(16)

Gradien, Hessian, O ”big–oh”, o ”small–oh”

Gradien dan Hessian

Misal f : D! R dimana D ⇢ Rn terbuka dan f 2 C2(D).

I Gradien dan Hessian dari f di x2 D didefinisikan sebagai

rf (x) := ✓ @f @x1(x),· · · , @f @xn(x) ◆ r2f (x) := ✓ @2f (x) @xi@xj ◆ i,j = 0 B B @ @2f @x1@x1(x) · · · @2f @x1@xn(x) .. . . .. ... @2f @xn@x1(x) · · · @2f @xn@xn(x). 1 C C A O dan o Misal f , g :Rn ! Rm_{dan x} 02 Rn.

I Kita katakanf = O(g ) saat x! x0jhj terdapat C > 0 dan UC(x0) sehingga

f (x) Cg(x) untuk setiap x 2 UC(x0).

(17)

Kecepatan konvergensi

Definisi

Misal (zk)_k sebuah barisan dimana limk!1zk= z⇤. Maka kita katakan

I (zk)k konvergen linier ke z⇤ jika terdapat M2 (0, 1) sehingga

kzk+1 z⇤k  M kzk z⇤k

I _(zk)k _{konvergen kuadrat ke z}⇤_{jika terdapat M > 0 sehingga}

kzk+1 z⇤k  M kzk z⇤k2

I (zk)k konvergen superlinier ke z⇤dengan order ↵ > 1jika terdapat M > 0 sehingga

kzk+1 z⇤k  M kzk z⇤k↵

untuk k yang cukup besar. Konvergen lokal

(zk)k dikatakan konvergen lokal ke z⇤jika terdapat ✏ > 0 sehingga limk!1zk= z⇤

(18)

Keminimalan

Definisi

Misal f : D! R dimana D ✓ Rn_{. Sebuah titik x}⇤_{2 D dikatakan sebagai}

I minimum lokal, jika terdapat persekitaran U(x⇤) sehingga

f (x⇤) f (x), 8x 2 D \ U(x⇤)

I minimum lokal ketat, jika

f (x⇤) < f (x), 8x 2 (D \ U(x⇤))\ {x⇤}

I minimum global, jika

(19)

Syarat perlu dan syarat cukup (EXERCISE 1)

Theorem (Syarat perlu)

Misal f 2 C2

(D) dimana D✓ Rn

buka. Jika x⇤2 D minimum lokal, maka sudah pasti

rf (x⇤) = 0 (syarat perlu pertama)

r2f (x⇤) semidefinit positif. (syarat perlu kedua)

Theorem (Syarat cukup)

Misal f 2 C2_{(D) dimana D}

✓ Rn _{buka dan x}⇤_{2 D sebarang titik. Jika}

rf (x⇤) = 0 dan

r2f (x⇤) definit positif,

(20)

Kecembungan/konveksitas

I Sebuah himpunan D⇢ Rn _{dikatakan konveks, jika}

8x, y 2 D dan 8 2 (0, 1), x + (1 )y2 D.

I Sebuah fungsi f : D! R dimana D ⇢ Rn_{konveks dikatakan sebagai fungsi}

konveks, jika

8x, y 2 D dan 8 2 (0, 1), f (x + (1 )y ) f (x) + (1 )f (y ).

I f dikatakan sebagai fungsi konveks ketat, jika

8x, y 2 D dan 8 2 (0, 1), f (x + (1 )y ) < f (x) + (1 )f (y ).

Bagaimana melihat ini secara geometri?

Beberapa sifat fungsi konveks:

(A1) Jika fi : D! R konveks dan ↵i 0 (i = 1,· · · , m), makaP_i↵ifi juga konveks.

(A2) Level set dari f : D! R, c:={x 2 Rn: f (x) c} merupakan himpunan

konveks diRn.

(21)

Kecembungan/konveksitas

x y f ( x + (1 )y ) f (y ) f (x) f (x) + (1 )f (y )

(22)

Kecembungan/Konveksitas

(A4) Jika f : D! R konveks ketat, maka

terdapat satu saja minimum global dari f di D.

(A5) Jika f 2 C1(Rn

), maka f konveks di

sebuah himpunan konveks D⇢ Rn_jhj

f (y ) f (x) +rf (x)>(y x)

untuk setiap x, y 2 D.

(A6) Jika f 2 C2_(Rn

), maka f konveks di

sebuah himpunan konveks D⇢ Rn_jhj

r2_{f (x) semidefinit positif untuk}

setiap x 2 D. x y ✓ tan(✓) tan( ) f (y ) f (x) y x f 0_(x)

(23)

Kombinasi linier, kerucut dan konveks

Sebuah vektor x2 Rn

dikatakan sebagai

I kombinasi linierdari v1,· · · , vm2 Rn, jika terdapat{ i}m_i=1⇢ R sehingga

x =Pi ivi

I kombinasi kerucutdari v1,· · · , vm2 Rn, jika terdapat{ i}m_i=1⇢ R dimana i 0

untuk setiap i = 1,· · · , m sehingga x =Pi ivi

I kombinasi konveksdari v1,· · · , vm2 Rn, jika terdapat{ i}mi=1⇢ R dimana

i 0 untuk setiap i = 1,· · · , m danP_i i= 1 sehingga x =P_i ivi.

Selimut linier, kerucut dan konveks

Misal V ={v1,· · · , vm} ⇢ Rn. Maka kita mendefinisikan

lin(V ) cone(V ) conv(V ) := 8 < :x2 R n : x kombinasi linier kerucut konveks dari v1,· · · , vm 9 = ;

(24)

Kerucut-kerucut

Kerucut, Kerucut Polar

Misal K , V ✓ Rn.

I Himpunan K dikatakan sebagaikerucut, jika x 2 K untuk setiap x 2 K dan

0.

I Kerucut polardari V adalah

Vp:=nw : v>w  0, 8v 2 Vo.

Beberapa sifat kerucut polar: V , V1, V2✓ Rn

(B1) Vp adalah kerucut konveks

tertutup. (B2) Jika V1✓ V2maka V1p◆ V p 2. (B3) Jika V6= ; maka (Vp₎p = cone(V ). (B4) (Vp)p= V jhj V adalah kerucut konveks tertutup (B5) ⇣cone(V )⌘p= Vp_.

(B6) Jika V adalah subruang linier diRn

,

i.e. v2 V =) v 2 V , maka

Vp= V?:=

(25)

Outline

Bagian 0: Motivasi

Dasar–dasar

Teorema Karush–Kuhn–Tucker Bagian 2: Sequential Quadratic Programming

Bagian 3: Masalah Kendali Optimal dengan Persamaan Di↵erensial Biasa Beberapa definisi elementer

Masalah kendali optimal Metode Langsung

(26)

Masalah Optimasi Berkendala

Masalah Optimasi

I Masalah utama yang kita perhatikan dalam compact course ini adalah

(P) 8 > < > : min f (x) s.t. g (x) 0 h(x) = 0 dimana f , g , h :Rn! R, Rp_,_Rq

adalah kontinu Lipschitz lokal.

I Untuk mempersingkat penulisan biasanya kita menotasikan

S :={x 2 Rn

: g (x) 0, h(x) = 0}

sebagai himpunan semua kendala feasible. Kendala Aktif

Dari semua fungsi kendala ketaksamaan g1,· · · , gp, kita katakangi aktif di x⇤jika

gi(x⇤) = 0. Himpunan semua indeks i sehingga gi aktif di x⇤kita notasikan sebagai

(27)

Arah Feasible dan Arah Penurunan

Diberikan x2 S ✓ Rn _{dan f :}_Rn

! R.

I Kita katakan d2 Rn _sebagai_{arah feasible dari x di S}_{, jika terdapat} _{> 0}

sehingga x + td2 S untuk setiap t 2 [0, ].

I Kita katakan d2 Rn_sebagai_{arah penurunan f di x}_{, jika terdapat} _{> 0 sehingga}

f (x + td) < f (x) untuk setiap t2 [0, ].

I Untuk selanjutnya, himpunan semua arah penurunan f di x dinotasikan sebagai

F (x) :={d 2 Rn :9 > 0, f (x + td) < f (x), 8t 2 [0, ]} . Lemma Misal f 2 C2₍_Rn_{). Maka} I _{rf (x)}>_d_{ 0 untuk setiap d 2 F (x)} I _{jika d}_{2 R}n memenuhirf (x)>_{d < 0, maka d}_{2 F (x).}

(28)

2 Himpunan Penting ...

Kita definisikan D(x) :=nd2 Rn:rgi(x)>d  0, rhj(x)>d = 0, i2 A(x), j = 1, · · · , q o dan C (x) := 8 < : q X j=1 jhj(x) + X i2A(x) µirgi(x) : µi 0, i 2 A(x) 9 = ;. Lemma

(29)

2 Himpunan Penting ...

Theorem

Untuk setiap x2 S, C (x) = D(x)p_.

Proof.

I Cukup buktikan bahwa D(x) = C (x)p_.

I (✓) Berikan d 2 D(x) dan c 2 C (x), maka

d>_{c =}P j jd_|>rh_{zj(x)_} =0 +P_i_2A(x) µi |{z} 0 d>rgi(x) | {z } 0  0.

I (◆) Berikan d 2 C (x)p _{sehingga d}>_c _{ 0 untuk setiap c 2 C (x). Perhatikan}

bahwarhj dan rhj ada di C (x), sehingga d>rhj= 0. Karena! rgi2 C (x)

untuk i2 A(x), maka d>_rg

(30)

Kerucut Tangent (tangential cone)

Definisi

Sebuah vektor d2 Rn_{dikatakan sebagai}_{arah tangent S dari x}

2 S, jika d = 0 atau

9(xk)k2 S sehingga xk! x dan xk x

kxk xk !

d

kdk.

HImpunan dari semua arah tangent S dari x dinotasikan sebagai T (x)

Untuk setiap x2 S,

(C1) T (x) adalah sebuah kerucut

(C2) T (x) tertutup

(C3) T (x) dan D(x) adalah 2 aproksimasi linier dari S di x

(C4) Jika x⇤_{2 S adalah lokal minimum dari f di S, maka}

(31)

Kerucut Tangent (tangential cone)

Theorem

Untuk setiap x2 S, T (x) ⇢ D(x).

Proof.

I Pilih sebarang d2 T (x), d 6= 0. Maka terdapat (xk)k⇢ S dimana xk! x dan

xk x

kxk xk!

d kdk.

I Karena xk, x2 S dan i 2 A(x), maka hj(xk) = hj(x) = 0 dan gi(x) = 0 tetapi

gi(xk) 0. Dengan kata lain

rhj(x)> xk x kxk xk+ O kxk xk2 kxk xk = 0 k!1 ! rhj(x)> d kdk= 0 rgi(x)> xk x kxk xk+ O kxk xk2 kxk xk  0 k!1 ! rgi(x)> d kdk  0.

(32)

Teorema Karush–Kuhn–Tucker

Theorem

Misal x⇤adalah minimum lokal dari f di S. JikaT (x⇤)p_{= D(x}⇤₎p_{, maka terdapat}

2 Rq_dan_µ 2 Rp+sehingga rf (x⇤) = q X j=1 jrhj(x⇤) + p X i=1 µirgi(x⇤) (Lagrange)

µigi(x⇤) = 0, i = 1,· · · , p. (Complementary slackness)

Proof.

I x⇤minimum lokal, maka rf (x⇤)>d 0 untuk setiap d 2 T (x⇤).

I _{rf (x}⇤₎_{2 T (x}⇤₎p ! = D(x⇤)p= C (x⇤) atau rf (x⇤) =Pqj=1 jrhj(x⇤) +Pi2A(x⇤)µirgi(x⇤) I Definisikan µi = ( µi untuk i2 A(x⇤)

0 untuk i lainnya sehingga

rf (x⇤_{) =}Pq

j=1 jrhj(x⇤) +

Pp

(33)

Teorema Karush–Kuhn–Tucker

Kualifikasi kendala (KK) T (x)p= D(x)p secara umum sangat sulit untuk dilihat!

+

Cari kualifikasi kendala lain yang lebih mudah untuk dilihat, tapi mengakibatkan T (x)p_{= D(x)}p_.

(34)

Beberapa kualifikasi kendala

KK1: Quasiregularitas

I Didefinisikan dengan ketika T (x) = D(x).

I _{maka otomatis T(x)}p_{= D(x)}p_.

I Apakah konversnya T (x)p_{= D(x)}p₌

) T (x) = D(x) berlaku? tidak harus!.

Contoh: h(x) = x1x2dan g (x) = x1 x2.

KK2: Ketentuan Slater

I Didefinisikan dengan ketika g konveks, h linier dan terdapat ¯x2 S sehingga

h(¯x) = 0 dan g (¯x) < 0.

Theorem (EXERCISE 2)

Jika x2 S memenuhi KK2 (ketentuan Slater), maka x juga memenuhi KK1

(35)

Beberapa kualifikasi kendala

KK3: Kebebasan linier

I Didefinisikan dengan ketika semuarhj(x) (j = 1,· · · , q) dan rgi(x) (i2 A(x))

adalah bebas linier. I Terlalu kuat!

I Perhatikan min f (x) = x2s.t. g1(x) = x12+ x2 0, g2(x) = x2 0.

KK4: Ketentuan Mangasarian–Fromovitz

I Didefinisikan dengan ketika

I _rh₁(x),· · · , rhq(x) bebas linear I _{9d 2 R}n_sehingga_rh

j(x)>d = 0 danrgi(x)>d < 0, i2 A(x) dan j = 1, · · · , q.

Jika x2 S memenuhi KK3 (kebebasan linear), maka x juga memenuhi KK4

(ketentuan Mangasarian–Fromovitz).

Konvers tidak berlaku! Contoh: g1(x) = (x1 1)2+ (x2 1)2 2,

(36)

Beberapa kualifikasi kendala

Jika x2 S memenuhi KK4 (ketentuan Mangasarian–Fromovitz), maka x juga

(37)

SQP: simple but brilliant ...

I Perhatikan kembali (P) ( minx2Sf (x) dimana S ={x 2 Rn_{: g (x)}  0, h(x) = 0} .

I Untuk x⇤_{2 S lokal minimum dan}_{T (x}⇤₎p_{= D(x}⇤₎p_{, maka terdapat}

2 Rq _dan µ2 Rp + sehingga rL(x⇤, µ, ) :=_{rf (x}⇤) + q X j=1 jrhj(x⇤) + p X i=1 µi_rgi(x⇤) = 0 µigi(x⇤) = 0, i = 1,· · · , p. Ide SQP Cari solusi dari

(x, µ, ) := 0 @ diag(µ) g (x)rL(x, µ, ) h(x) 1 A = 0.

(38)

Menuju SQP ...

I Metode Newton perlu r =

0 @ r 2 xxL r2xµL> r2x L> diag(µ)rg(x) diag(g(x)) 0 rh(x)> ₀ ₀ 1 A nonsingular!

I Dengan demikian perlu

I x memenuhi KK3 – kebebasan linear dari kolom-kolom

G (x) := rh1(x),· · · , rhq(x),rgi1(x),· · · , rgis(x)

| {z }

ij2A(x)

I _r2

xxL definit positif di ruang nul G>, yakni

dr2xxLd > 0, 8d 6= 0 sehingga G>d = 0.

I _Bukti?

I Ada kalanya dalam iterasi Newton, x terlalu dekat dengan singularitasr

kalkulasir2

xxL menjadi ”sangat mahal”.

(39)

Langkah–langkah SQP

I Definisikan x(k)_{:= x}(k+1) _x(k)_, _µ(k)_{:= µ}(k+1) _µ(k)_, (k)_:= (k+1) (k) danr (x, µ, ) = r (x, µ, , B). I Metode Newton r (x(k), µ(k), (k), Bk)> ⇣ x(k), µ(k), (k)⌘>= (x(k), µ(k), (k))

Sequential Quadratic Programming

r (x(k), µ(k+1), (k+1), Bk)>

⇣

x(k), µ(k), (k)⌘>= (x(k), µ(k), (k))

dimana harus terpenuhi

µ(k+1) ₀

g⇣x(k+1)⌘⇡ g⇣x(k)⌘+rg⇣x(k)⌘> x(k) 0 )

(40)

Langkah–langkah SQP

I Dengan merombak SQP, kita mendapatkan

rf⇣x(k)⌘_{+ B} k x(k)+Pp_i=1 (k+1)_i rgi ⇣ x(k)⌘_{= 0} diag⇣µ(k+1)⌘_g⇣_x(k)⌘₊ rg⇣x(k)⌘> _x(k)_{= 0} h⇣x(k)⌘₊ rh⇣x(k)⌘> _x(k)_{= 0} 9 > > > = > > > ; (D2)

I _{Lihat bahwa (D1) dan (D2) adalah kondisi Karush–Kuhn–Tucker untuk}

masalah optimasi kuadrat

(Qk) 8 > > > < > > > : miny2Rnrf ⇣ x(k)⌘y + y>Bky s.t. g⇣x(k)⌘₊ rg⇣x(k)⌘>_y  0 h⇣x(k)⌘₊ rh⇣x(k)⌘>_{y = 0.}

I Update Bk dengan quasi–Newton:

Bk+1 ⇣ x(k+1) x(k)⌘ | {z } x(k)=:v =rL⇣x(k+1), µ(k+1), (k+1)⌘ _rL⇣x(k), µ(k+1), (k+1)⌘ | {z } =:w .

(41)

Langkah–langkah SQP

I _{Kita formulasikan B}_k+1_{= B}_k_{+ U}_k _{dimana U}_k _{adalah matrix dengan rank 1 atau}

2 sehingga jika Bk definit positif, maka Bk+1juga definit positif.

I 3 kemungkinan solusi untuk Uk

UkPSB:=(w Bkv )v >_{+ v (w} _B kv )> v>_v (w Bkv )>v (v>_{v )}2 vv > UkBFGS:=ww > v>_w Bkvv>Bk v>_B_k_v UkDFP:=(w Bkv )w >_{+ w (w} _B kv )> w>_v (w Bkv )>v (w>_{v )}2 ww >_.

I PSB–update tidak menjamin Bk+1definit positif.

I Jika v>_{w > 0 dan B}_k _{positif definit, maka DFP– dan BFGS–update}

menghasilkan Bk+1positif definit.

I Jikar2

xxL tidak positif definit, maka kondisi v>w > 0 tidak terpenuhi.

Theorem

Jika asumsi-asumsi untuk non-singularitasr terpenuhi, maka SQP dengan

(42)

SQP: Algorithm

Step 0 Choose x(0) _{and (µ}(0)_, (0)_{) where µ}(0)_{> 0;}

a symmetric matrix B0⇡ r2xL(x(0), µ(0), (0));

error tolerance ✏ > 0 and = ✏ + 1;

k = 0.

Step 1 While ✏

(1.a) SolveQk to obtain ( x, µ, )

(1.b) Set x(k+1)_{= x}(k)₊ _{x and (µ}(k+1)_, (k+1)_{) = (µ, )}

(1.c) Compute Bk+1