Peranan Fungsi Objektif Linier Dalam Metode Barrier

TESIS

Oleh

DAME IFA SIHOMBING 117021023/MT

FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM PROGRAM STUDI MAGISTER MATEMATIKA

PERANAN FUNGSI OBJEKTIF LINIER DALAM

METODE BARRIER

TESIS

Diajukan Sebagai Salah Satu Syarat

untuk Memperoleh Gelar Magister Sains dalam Program Studi Magister Matematika pada Fakultas Matematika dan Ilmu Pengetahuan Alam

Universitas Sumatera Utara

Oleh

DAME IFA SIHOMBING

117021023/MT

FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM PROGRAM STUDI MAGISTER MATEMATIKA

Nama Mahasiswa :Dame Ifa Sihombing

NIM :117021023

Program Studi :Magister Matematika

Menyetujui, Komisi Pembimbing

( Prof. Dr. Herman Mawengkang ) ( Prof.Dr. Opim Salim S.,M.Sc)

Pembimbing I Pembimbing II

Ketua Program Studi Dekan Fakultas MIPA

(Prof. Dr. Herman Mawengkang ) ( Dr. Sutarman M.Sc)

Telah diuji pada Tanggal 5 Juni 2013

PANITIA PENGUJI TESIS

Ketua : Prof.Herman Mawengkang Anggota : Prof.Dr.Opim Salim S.,M.Sc

Metode Newton/log barrier dalam persoalan optimisasi non linier dengan fungsi objektif yang non linier, pengurangan parameter barrier sering tidak baik ditam-pilkan dalam mendapatkan solusi optimal. Dalam tesis ini akan dianalisa peri-laku asimptotik dari metode logaritma barrier dengan kendala pertidaksamaan mengambil langkah yang efektif dari arah Newton setelah mereduksi paramater barrier dengan memanfaatkan fungsi objektif linier yang dapat menghasilkan kon-vergensi superlinier .

ABSTRACT

Newton/log barrier method for non linear programming optimization,when the objective function is non linear, on reduction barrier parameter often performs more and more poorly. This thesis will analyze the asymptotic behavior of the Newton/log barrier with inequality constrained an effective step can be taken along Newton direction to get superlinear convergence with the case of a linear objective.

Dengan kerendahan hati dan penuh ucapan syukur kepada Tuhan Yang Maha Esa untuk segala berkat dan penyertaanNya penulis dapat menyelesaikan tesis ini dengan judul : PERANAN FUNGSI OBJEKTIF LINIER DALAM METODE BARRIER. Tesis ini merupakan salah satu syarat untuk menye-lesaikan studi pada Program Studi Magister Matematika Universitas Sumatera Utara. Pada kesempatan ini, penulis menyampaikan ucapan terima kasih dan penghargaan yang sebesar-besarnya kepada :

Prof. Dr.dr.Syahril Pasaribu, D.T.M.& H,M.Sc(C.T.M).Sp.A.(K) selaku Rektor Universitas Utara.

Dr.Sutarman,M.Sc selaku Dekan Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Sumatera Utara yang telah memberikan kesempatan kepada penulis untuk mengikuti Program Studi Magister Matematika di Universitas Su-matera Utara.

Prof.Herman Mawengkang Ketua Program Studi Magister Matematika pada Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Sumatera Utara dan juga selaku pembimbing utama penyelesaian tesis ini.

Seluruh rekan-rekan Mahasiswa angkatan 2010/2011Program Studi Mag-ister Matematika Universitas Sumatera Utara yang telah memberikan bantuan moril dan dorongan kepada penulis dan tidak lupa kepadaSaudari Misiani,S.Si selaku staf Administrasi Program Studi Magister Matematika Universitas Sumat-era Utara yang telah banyak memberikan pelayanan yang baik kepada penulis selama mengikuti perkuliahan.

Secara khusus penulis menyampaikan terimakasih yang sebesar-besarnya untuk keluarga tercinta, AyahandaJaspiun Sihombingdan IbundaRasima Saragih, serta adik-adik dan sahabat terkasih Yani, Adi, Ita, Pran, Enitayang senan-tiasa memberikan dukungan dan mendoakan penulis dalam menyelesaikan pen-didikan ini serta seluruh pihak yang tidak dapat disebutkan satu persatu, penulis berterimakasih atas dukungan doa dan semangat yang diberikan, semoga Tuhan yang Maha Esa membalas segala kebaikan yang telah diberikan. Penulis menyadari tesis ini masih jauh dari sempurna, namun demikian penulis berharap semoga tesis ini bermanfaat bagi pembaca dan pihak-pihak yang memerlukannya.

Medan, 2013 Penulis,

DAFTAR ISI

Halaman

ABSTRAK . . . i

ABSTRACT . . . ii

KATA PENGANTAR . . . iii

RIWAYAT HIDUP . . . vi

DAFTAR ISI . . . iii

BAB 1 PENDAHULUAN . . . 1

1.1 Latar Belakang . . . 1

1.2 Perumusan Masalah . . . 3

1.3 Tujuan Penelitian . . . 3

1.4 Manfaat Penelitian . . . 3

1.5 Metode Penelitian . . . 4

BAB 2 TINJAUAN PUSTAKA . . . 5

2.1 Pemrograman Nonlinier . . . 5

2.2 Optimisasi Nonlinier dengan kendala pertidaksamaan . . . 7

2.2.1 Kondisi Karush Kuhn Tucker (KKT) . . . 8

2.2.2 Konveksitas dan Kualifikasi kendala . . . 10

2.3 Metode Titik Interior . . . 11

BAB 3 LANDASAN TEORI . . . 14

3.1 Metode Barrier . . . 14

3.2 Fungsi Logaritma Barrier . . . 14

3.5 Pecarian Arah Newton . . . 18

BAB 4 PERANAN FUNGSI OBJEKTIF LINIER . . . 22

4.1 Konvergensi Metode Newton dengan unit langkah terhadap

log-barrier minimizer . . . 22 4.2 Konsistensi Strategi Newton Line Search . . . 28 4.3 Kecepatan Konvergensi pada saat Fungsi Objektif Linier . . 29 4.4 Membatasi Perilaku arah Newton . . . 32

BAB 5 KESIMPULAN . . . 44

ABSTRAK

Metode Newton/log barrier dalam persoalan optimisasi non linier dengan fungsi objektif yang non linier, pengurangan parameter barrier sering tidak baik ditam-pilkan dalam mendapatkan solusi optimal. Dalam tesis ini akan dianalisa peri-laku asimptotik dari metode logaritma barrier dengan kendala pertidaksamaan mengambil langkah yang efektif dari arah Newton setelah mereduksi paramater barrier dengan memanfaatkan fungsi objektif linier yang dapat menghasilkan kon-vergensi superlinier .

Newton/log barrier method for non linear programming optimization,when the objective function is non linear, on reduction barrier parameter often performs more and more poorly. This thesis will analyze the asymptotic behavior of the Newton/log barrier with inequality constrained an effective step can be taken along Newton direction to get superlinear convergence with the case of a linear objective.

BAB 1

PENDAHULUAN

1.1 Latar Belakang

Persoalan optimasi sering digunakan untuk mendapatkan suatu solusi yang opti-mal dari persoalan yang bersifat linier atau nonlinier. Pada pemrograman nonlin-ier tidak jarang ditemukan bentuk yang lebih kompleks dan dinamis. Pembagian pemrograman nonlinier dapat ditentukan dari bentuk fungsi tujuan,dari karakter-istik fungsi objektif atau dari keberadaaan fungsi-fungsi kendala. Nash dan Sofer (1994).

Salah satu bentuk persoalan nonlinierprogramming yaitu

minf(x) kendala ci(x)≥0 (1.1)

dimana f : Rn → R dan c : Rn → Rm adalah fungsi mulus yang dapat ditu-runkan dua kali secara kontinu, dengan mempertimbangkan fungsi objektif yang berbentuk linier

f(x) =gT_{(x) (1.2)}

Metode Barrier adalah metode yang digunakan untuk menyelesaikan pro-gram nonlinier pada daerah layak yang memiliki titik interior yang tidak kosong. Metode barrier mereformulasi pertidaksamaan kendala-kendala ke dalam fungsi logaritma barrier.

Bentuk fungsi logaritma barrier adalah

P(x, µ) =f(x)−µ

m

X

i=1

Dengan x(µ) sebagai fungsi minimizer dari P(·;µ) untuk µ > 0 dan di asum-sikan bahwa x(µ) ada untuk semuaµ yang cukup kecil. Fungsi logaritma barrier mengestimasi x(µ) untuk semua urutan yang terkecil, dan meminimalkan nilai dari µ >0. Pada kondisi tertentu, terdapat limµ→₀x(µ) =x∗, dimana x∗ adalah

nilai lokal minima dari fungsi non linier. Setelahx(µ) diestimasi untuk nilaiµ >0, langkah yang nyata untuk dilakukan adalah mengurangi nilaiµmenjadi beberapa nilai µ+ dan kemudian mengambil langkah Metode Newton untuk meminimalkan fungsi barrier P(x;µ+).Wright dan Jarre (1999).

Dalam metode Newton/logaritma barrier,apabila fungsi objektif linier maka langkah-langkah metode Newton dapat diambil dengan menggunakan fungsi log-aritma barrier untuk mendapatkan sebuah nilai yang pasti dari parameter barrier sampai kriteria kekonvergensian dipenuhi. Parameter barrier akan semakin kecil dan proses Newton akan diulang. Tetapi pada kasus fungsi objektif yang nonlinier metode Newton sering menampilkan hasil yang kurang baik pada pengurangan parameter barrier sampai ke titik nol. Wright dan Jarre(1999).

Aproksimasi akhir terhadapx(µ) digunakan sebagai titik awal metode New-ton untuk fungsi logaritma barrier P(·;µ+), hal ini segera dapat dilihat bahwa langkah pertama Newton untuk masing-masing nilai µ biasanya pencarian arah yang buruk, dan sebuah panjang langkah α dengan sangat lebih kecil dari 1 bi-asanya digunakan untuk mempertahankan kelayakan pada iterasi ini. (Conn et al, 1994).

Bagaimanapun, iterasi-iterasi berikutnya dari metode Newton konvergen dengan cepat menuju x(µ). Walaupun Hessian Pxx(x;µ) adalah definit positif

bi-3

asanya lebih baik dari hasil yang diharapkan dalam teori konvergensi yang biasa, dimana dinyatakan bahwaEuclidian ball yang besar dengan konvergensi kuadratik dapat menghasilkan jari-jariO(µ2_{). Metode Newton akan menampilkan satu unit} langkah yang konvergen dari semua titik didalam Euclidian ball dengan jari-jari O(µσ_{), untuk sebarang σ > 1 dan semua nilaiµ yang kecil.}

(Fiacco dan McCormick, 1990).

1.2 Perumusan Masalah

Pada persoalan nonlinier jika fungsi objektif berbentuk nonlinier maka metode Newton /logaritma barrier tidak menampilkan hasil yang baik karena parameter barrier dikurangi sampai ke titik nol, tetapi apabila fungsi objektif berbentuk linier dengan kendala nonlinier yang berbentuk pertidaksamaan, melalui metode Newton/logaritma barrier sebuah langkah yang efektif dapat ditampilkan pada pengurangan parameter barrier sampai pada algoritma akhir yang dibutuhkan.

1.3 Tujuan Penelitian

Tujuan dari penelitian ini adalah untuk menentukan peranan fungsi objektif linier dalam metode barrier dengan strategi line search metode Newton untuk menda-patkan konvergensi superlinier.

1.4 Manfaat Penelitian

1.5 Metode Penelitian

Penelitian ini bersifat studi literatur ataupun studi kepustakaan yang berhubu-ngan deberhubu-ngan program nonlinier serta analisa pencarian nilai optimalnya deberhubu-ngan langkah-langkah metode penelitian adalah :

1. Menjelaskan latar belakang masalah dan rumusan masalah

2. Menampilkan bahan-bahan pustaka yang berhubungan dengan metode bar-rier yaitu optimisasi pada program non linier

3. Menjelaskan tentang teori penyelesaian metode barrier dalam persoalan non-linier

BAB 2

TINJAUAN PUSTAKA

Pada bab ini akan dijelaskan mengenai teori-teori yang berhubungan dengan pem-bahasan ini sehingga dapat dijadikan sebagai landasan berpikir dan akan mem-permudah dalam hal pembahasan hasil utama berikutnya.

2.1 Pemrograman Nonlinier

Menurut Bradley et al (1977), persoalan umum optimisasi adalah memilihn varia-bel keputusanx1, x2, ..., xndari daerah layak yang diberikan untuk mengoptimasi

(maksimum atau minimum) fungsi tujuan yang diberikanf(x1, x2, ..., xn) dari

va-riabel keputusan.Persoalan ini disebut persoalan nonlinier jika fungsi tujuannya nonlinier dan atau daerah layaknya ditentukan oleh kendala nonlinier. Fokus utama dari pemrograman nonlinier adalah terkait dengan eksistensi dari solusi optimal, karakterisasi dari solusi optimal dan algoritma untuk menghitung solusi optimal.Persoalan nonlinier mempunyai 2 jenis persoalan yaitu persoalan nonlinier berkendala dan nonlinier tidak berkendala.Pada persoalan nonlinier programming berkendala yang memiliki fungsi mulus dengan kata lain dapat diturunkan secara kontinu, yaitu

minf(x), x∈Rn (2.1)

ci(x) = 0, i= 1, ..., me (2.2)

ci(x)≥0, i=me+ 1, ..., m (2.3)

Disini, x adalah parameter vektor berdimensi n, disebut juga vektor varia-bel rancangan, f adalah fungsi objektif atau fungsi harga untuk meminimisasi persamaan nonlinier. Diasumsikan bahwa fungsi nya dapat diturunkan secara kontinu dalamRn. Supaya lebih lengkap lagi maka diasumsikan bahwa batas atas dan batas bawah xu dan xl tidak bisa diberlakukan secara terpisah dengan kata

lain bahwa batas-batas tersebut dikategorikan sebagai bentuk umum pertidak-samaan kendala-kendala. Sehingga diperoleh bentuk persoalan umum nonlinier programming.

Walaupun software untuk optimisasi dapat digunakan dalam black box, sa-ngat diperlukan untuk memahami sedikitnya ide dasar dari analisa persoalan ini. Salah satu alasannya adalah bahwa ada banyak kondisi dimana kita da-pat menghindari algoritma dari sebuah solusi pendekatan melalui langkah yang benar.

Menurut Zillober dan Schittkowski (2002) untuk alasan inilah, maka dasar-dasar dari teori optimisasi perlu dipahami sebelum menampilkan algoritma-algoritma pada langkah awal. Pertama, kita perlu memahami beberapa notasi untuk tu-runan pertama dan kedua dari fungsi yang terdiferensiasi.

Gradien fungsi f(x)adalah

∇f(x) = ∂

∂x1f(x), ..., ∂ ∂xn

f(x)T (2.5)

Selanjutnya dari turunan parsial diatas dibentuk sebuah matriks Hessian dari fungsi f(x) yaitu

∇2f(x) = ∂ 2 ∂xi∂xj

f(x)

7

Matriks Jacobian dari fungsi vektor value F(x) = (f1(x), ..., fl(x))T adalah

∇f(x) = ∂ ∂xi

fj(x)

i=1,...,n j=1,...,l (2.7)

Dapat juga ditulis dalam bentuk∇F(x) = (f1(x), ..., fl(x)

Hal yang paling mendasar untuk memperoleh kondisi optimal dan algoritma op-timasi dinamakan fungsi Lagrange, yaitu

L(x, µ) :=f(x)− m

X

i=1

λici(x) (2.8)

Didefinisikan untuk semua x ∈ Rn dan u = (u1, ..., um)T ∈ Rm. Tujuan dari L(x, u) adalah menghubungkan fungsi objektif f(x) dengan kendala ci(x), i =

1, ..., m. Variabel λi disebut pengali Lagrangian dari persoalan nonlinier.

Selan-jutnya, P sebagai daerah layak,yaitu himpunan semua daerah layak.

P :={x∈Rn :ci(x) = 0, i= 1, ..., me, ci(x)≥0, i=me+ 1, ..., m} (2.9)

Pertidaksamaan kendala aktif yang mengacu pada nilaix∈P ditunjukkan dalam bentuk I(x) := {i:ci(x) = 0, me < i≤m

2.2 Optimisasi Nonlinier dengan kendala pertidaksamaan

Menurut Forsgren et al (2002) Bentuk umum persoalan nonlinier dengan pertidaksamaan berkendala adalah

minx∈ℜnf(x) kendala c_i(x)≥0 (2.10)

dengan c(x) adalah m-buah vektor dari fungsi {ci(x)}, i = 1, ..., m dan

turunan kedua f. Gradien dan Hessian yaitu ci(x) dan ∇2ci(x). Matriks

Jaco-bian m x n yaituc′

(x) dari c(x) memiliki barisan{∇ci(x)T}

Syarat kondisi optimal untuk optimisasi nonlinier berkendala adalah sebagai be-rikut :

2.2.1 Kondisi Karush Kuhn Tucker (KKT)

Kondisi KKT adalah kondisi yang diperlukan bagi penyelesaian permasala-han optimasi nonlinier. Jaminan akan diperoleh solusi optimal jika kondisi KKT terpenuhi.

Menurut Forsgren et al(2002) ada beberapa definisi untuk menyatakan suatu kon-disi KKT, antara lain

Definisi 1 (Operator · sebagai komponen pengali) Diberikan dua buah vektor x

dan y dari r - dimensi, x·y adalah sebuah r - vektor dimana komponen ke - i

adalah xiyi.

Definisi 2 (Daerah layak) Diberikan kendala c(x) ≥ 0,maka daerah layaknya adalah F , {x∈Rn: c(x)≥0}

Definisi 3 (first order titik KKT) First-Order dari kondisi KKT untuk persoalan pertidaksamaan berkendala diperoleh dari (2.11) dipenuhi pada titikx∗

atau setara

dengan, x∗

adalah kondisi first order KKT, jika terdapat sebuah m-vektor λ∗

maka

disebut vektor pengali Lagrange,sedemikian sehingga

c(x∗)≥0(kelayakan) (2.11)

9

λ∗ ≥0(P engaliyangnonnegatif) (2.13) c(x∗

)·λ∗

= 0(kelengkapan) (2.14)

Definisi 4 (kendala aktif, tidak aktif dan terlarang) Himpunan kendala-kendala

c(x) ≥ 0,kendala ke - i dikatakan kendala aktif pada titik x¯ jika ci(¯x) = 0 dan tidak aktif jika ci(¯x) > 0. Himpunan kendala aktifA(¯x)adalah himpunan yang mengindikasi kendala-kendala aktif pada x¯, yakni A(¯x) = {i : ci(¯x) = 0}; argu-men A akan dihilangkan jika sudah terlihat jelas. Kendala ci(x) ≥ 0 dikatakan terlarang pada x¯ jika ci(x)<0.

Untuk memenuhi kondisi kelengkapan c(x∗

)·λ∗

= 0 (2.15),komponen λ∗

diga-bungkan dengan kendala tidak aktif akan sama dengan nol yang berarti gradien dari f pada titik KKTx∗

harus merupakan kombinasi linier dari gradien kendala aktif yaitu

g(x∗

) =JA(x ∗

)Tλ∗

A, (2.15)

dimanaJA menyatakan kendala aktif dari Jacobian danλ∗A vektkor pengali untuk

kendala yang aktif.

Definisi 5 (Pengali Lagrange yang diterima) Diberikan titik KKTx∗

dari (2.11),

maka himpunan pengali yang diterima didefinisikan sebagai

Mλ(x∗),{λ∈Rm :g(x∗) =J(x∗)Tλ, λ ≥0, dan c(x∗)·λ = 0} (2.16)

Dalam hal ini syarat kelengkapan c(x∗

) ·λ = 0 membuat nilai λi menjadi nol

jika kendala ke i merupakan kendala tidak aktif tetapi sangat mungkin bahwa λi = 0 pada saat kendala ke i aktif. Syarat-syarat strict complementary terjadi

Definisi 6 (strict complementary) strict complementary dipenuhi pada titik KKT

x∗

jika terdapat λ∗

∈ Mλ sedemikian sehingga λ∗

i >0 untuk semua i∈ A(x

∗

)

2.2.2 Konveksitas dan Kualifikasi kendala

Menurut Forsgren et al (2002) untuk persoalan dengan kendala linier, kondisi

first order KKT adalah penting untuk kondisi optimal, tetapi ciri ini tidak dapat di aplikasikan pada persoalan dengan kendala nonlinier. Untuk spesifikasi kon-disi penting first order pada kendala yang nonlinier dibutuhkan bahwa kendala-kendala tersebut harus memenuhi kualifikasi pada titik (x∗

), jika hal ini tidak dipenuhi maka kemungkinanx∗

tidak memenuhi titik KKT.

Definisi 7 (Kualifikasi kendala bebas linier) Misalkan sebuah persoalan pertidak-samaan kendala dengan kendalac(x)≥0. Kualifikasi kendala bebas linier dipenuhi pada titik layak x¯ jika x¯ strictly feasible(berarti tidak ada kendala aktif) atau jika Jacobian dari kendala aktif pada x¯ memiliki full row rank, yaitu jika gradien dari kendala aktif adalah bebas linier.

Definisi 8 (Kualifikasi kendala Mangasarian-Fromovitz) Misalkan sebuah per-soalan dengna pertidaksamaan kendala c(x)≥0. Kualifikasi kendala Mangasarian Fromovitz dipenuhi pada titik x¯ jika x¯ srtictly feasible atau jika terdapat sebuah vektor p sedemikian sehingga ∇ci(¯x)Tp > 0 untuk semua i ∈ A(¯x) yaitu jika JA(¯x)_p >0

11

vektor p sedemikian sehingga ∇ci(¯x)Tp > 0 untuk semua i ∈ A(¯x) dengan kata

lain jikaJA(¯x)p >0.

2.3 Metode Titik Interior

Zillober dan Schittkowski (2002) mengatakan pengembangan dari program linier salah satunya adalah variasi dari bentuk metode barrier modern yang di-turunkan sehingga disebut dengan metode titik interior. Berdasarkan kondisi tersebut, himpunan fungsi minima barrier tak berkendala membentuk kurva mu-lusx(µ) untukµ ∈(0;∞)pada persoalan optimisasi konveks, yang disebutcentral path. Sebuah arah pencarian dk pada iterasi xk dihitung dengan eksplorasi linier

sepanjang garis singgung central path. Untuk mendukung hal ini, abaikan per-samaan kendala untuk masalah yang sederhana, dan memperkenalkan variabel slack untuk pertidaksamaan tanpa batas dengan kata lain, diproses dari sebuah perluasan persoalan

minf(x),x∈Rn, y∈Rm g(x)−y= 0

y≥0

dimana g(x) = (g1(x), ..., gm(x))T menunjukkan hubungan kondisi Karush Kuhn

Tucker terhadap fungsi Lagrange.

L(x, y, u, v) =f(x)−(g(x)−y)Tu−vTy (2.17)

dengan

∇f(x)− ∇g(x)u= 0, g(x)−y= 0,

vjyj = 0, j = 1, ..., m

dimana u = (u1, ..., um)T adalah vektor-vektor pengali.Tetapi, aplikasi metode

Newton dalam penyelesaiannya pada persoalan nonlinier secara langsung sangat dihalangi oleh kondisi pada saatvjyj = 0,yang menyatakan bahwa slack variabel

haruslah bernilai 0. Oleh karena itu, dengan mengganti kondisi tersebut menjadi bentuk vjyj = µ, dengan parameter µ sebagai parameter positif yang sesuai dan

kemudian mengalikan ketiga persamaan dengan (-1). Dengan mengasumsikan

strict feasibility dari v dan y, yakniv >0 dan y >0,maka diperoleh persamaan

∇f(x)− ∇g(x)u= 0, (2.18)

y−g(x) = 0, vjyj =µ, j= 1, ..., m

Pada kondisi yang lain,dapat diperoleh persamaan yang sama mewakili sebuah solusi optimal, jika dimasukkan titik stasioner pada fungsi logaritma barrier yaitu

L(x, y, v, r) =f(x)−(g(x)−y)Tv− 1 {µk} himpunan barisan parameter positif yang mendekati nilai 0.Oleh karena itu digunakan Metode Newton kedalam persamaan (2.19), ketiga persamaan diatas ditulis dalam bentuk µk −v1kymk = 0 menghasilkan

Dalam hal iniL(xk, vk) mengacu pada fungsi Lagrangian dari persoalan asli NLP.

13

persamaan sebelah kanan didefinisikan sebagai

ak :=−(∇f(xk)− ∇g(xk)vk) (2.21)

dan

bk := (µkV

−₁

c−g(xk)), c ∈ ℜm (2.22)

adalah sebuah vektor yang mengandung nilai satu pada masing-masing komponen. Jika dk dan pk menotasikan solusi dari sistem linier, iterasi baru diperoleh yakni

xk+1 =xk +dk, vk+1 =vk +pk (2.23)

Hubungan variabel slack dihitung dariyk+1 =−V_k−1(Ykpk −µkc) dengan

menga-sumsikan bahwa ∇2

xL

−1 _{ada, maka dapat direduksi menjadi}

(∇g(xk)T∇2xL

−₁

(xk, vk)∇g(xk) +V

−₁

k Yk)p=−∇g(xk) T_∇2

xL

−₁

(xk, vk)ak−bk

(2.24) Asumsi variabel slackyk dan variabel dualvk harus tetap positif selama iterasi,hal

ini dijalankan melalui strategi line search. Manfaat utama adalah, bahwa ke-layakan variabel awalxk tidak dibutuhkan. Beberapa koefisien konvergen ke nol,

jika hubungan masing-masing kendala menjadi aktif. Parameter Barrier µk di

LANDASAN TEORI

3.1 Metode Barrier

Metode Barrier adalah salah satu klasifikasi dari Metode Interior Point untuk menyelesaikan NLP,dimana daerah layak memiliki titik interior yang tidak kosong. Pada tahun 1960-an langkah yang sudah diterima untuk menyelesaikan persoalan berkendala adalah mentransformasi persoalan berkendala ke dalam bentuk pa-rameter persoalan tidak berkendala melalui sebuah ’penalty’ atau ’barrier’. Un-tuk benUn-tuk pertidaksamaan kendala, metode barrier di motivasi oleh fungsi ob-jektif minimasi yang tidak berkendala f digabung dengan sebuah ’barrier’ posi-tif yang berbobot untuk menghindarkan iterasi-iterasi menjauhi daerah layak. Metode penalty secara kontras, didasarkan pada fungsi minimasi yang mencakup fungsi f dan sebuah penalty yang positif jika dievaluasi pada sebarang titik pada daerah tidak layak. Penentuan nilai optimal pada persoalan nonlinier, dapat di-lakukan dengan pendekatan metode Newton menggunakan fungsi logaritma bar-rier dalam pencarian arah terdekat dari central path dan menggunakan pertidak-samaan kendala (Forsgren et al, 2002)

3.2 Fungsi Logaritma Barrier

pertidak-15

samaan kendala menjadi masalah tanpa kendala, dan dapat diaplikasikan dalam metode Newton. Ide utama dari metode barrier adalah untuk memperkirakan in-dikator fungsi konveks dan turunan fungsi. Bentuk umum fungsi logaritma Barrier adalah

Phx;µi=f(x)−µ

m

X

i=1

lnci(x) (3.1)

dimana µ > 0 adalah parameter barrier.Fungsi logaritma barrier mengestimasi x(µ) untuk semua urutan yang terkecil, dan meminimalkan nilai dari µ > 0. Berdasarkan hal tersebut, terdapat limµ→₀ = x∗, dimana x∗ adalah nilai lokal

minimal dari fungsi nonlinier. Setelah x(µ) diestimasi untuk nilaiµ >0, langkah yang nyata untuk dilakukan adalah mengurangi nilaiµmenjadi beberapa nilaiµ+ dan kemudian mengambil langkah Metode Newton untuk meminimalkan fungsi barrier P(x;µ+). Wright dan Jarre (1999).

3.3 Metode Newton dan Fungsi Barrier

Dalam pengembangan metode interior untuk optimisasi dengan kendala nonlin-ier,beberapa aspek dari Metode Newton dikhususkan pada fungsi barrier. Dalam penelitian ini akan dibahas pemakaian metode Newton yang digunakan sekaligus untuk menyelesaikan persoalan persamaan nonlinier dan optimisasi tanpa kendala. Untuk persamaan nonlinierF(x) = 0, dimana F adalah fungsi kontinu dan differ-ensiabel dari Rn→ Rn, pk adalah langkah Newton dari iterasi xk dimanaF′(xk)

nonsingular yang didefinisikan sebagai langkah untuk mendekati titik 0, diambil dari model rangkaian lokal linier TaylorF yaitu

F′(xk)pk =−F(xk) (3.2)

rangka-ian lokal kuadratik Taylor yaitu

f(xk +p)≈f(xk) +gTkp+

1 2p

T_∇2_f(x

k)p

dimanagk menyatakan∇f(xk). Jika ∇2f(xk) definit positif, fungsi kuadratik ini

mempunyaiminimizer unik pada xk+pk, dimana pk akan memenuhi persamaan

∇2f(xk)pk =−gk (3.3)

Pada kedua persamaan (3.2) dan (3.3), iterasi-iterasi metode Newton asli adalah xk+1 =xk+pk, dan dibawah kondisi yang paling dikenal iterasi-iterasi ini

konver-gen secara kuadratik menuju titik nol dari F(x) atau disebut sebagai minimizer

dari f(x)

Walaupun metode Newton sangat terkenal dengan konvegensi lokal yang cepat, tetap harus dibutuhkan metode yang praktis untuk mendorong konvergensi kepada titik awal yang lebih umum. Sebuah globalisasi strategi umum berdasarkan metode Newton untuk persoalan nonlinier dan minimisasi persoalan tak ber-kendala adalah dengan memasukkan strategi line search, sehingga iterasi baru didefinisikan sebagai

xx+1 =xk +αkpk (3.4)

dengan αk >0, dimanaαk dipilih untuk memastikan bahwa beberapa fungsi yang

layak akan dikurangi melalui pergerakan menuju xk+1. (forsgren et al, 2002)

3.4 Kondisi Optimal pada Persoalan Nonlinier

Ada beberapa kondisi yang harus dipenuhi untuk menyatakan persoalan nonlinier berada dalam kondisi optimal. Asumsikan titik solusi nya adalahx∗

17

fungsi Lagrange yaitu

L(x, λ) =f(x)−λTc(x), (3.5) dimanaλadalah vektor pengali Lagrange. Solusix∗

memenuhi kondisifirst order, sehingga terdapat vektor pengali Lagrange λ∗

yang memenuhi Kendala-kendala aktif adalah komponen c untuk ci(x∗) = 0. Diasumsikan bahwa

titik solusinya adalah non degenerate yaitu

[∇c1(x∗

)|...|∇cq(x∗)] (3.7)

Juga diasumsikanstrict complementary yaitu

λ∗_i +ci(x

∗

)>0, i= 1,2, ..., m (3.8)

Terakhir, diasumsikan bahwa second order merupakan kondisi cukup untuk nilai optimal yang dipenuhi pada titik (x∗

, λ∗

) yaitu

yTLxx(x∗, λ∗)y >0 ∀y6= 0 dengan ∇ci(x

∗

)Ty= 0, ∀i= 1,2, ..., q (3.9)

Dengan demikian, sangat mudah untuk dilihat bahwa (x∗

, λ∗

) adalah akar dari fungsi F(x, λ) yang didefinisikan sebagai

F(x, λ) =

Fungsi Jacobian F adalah

dimana C(x) = diag(c1(x), c2(x), ..., cm(x)). Pada kondisi nondegeneracy, strict complementary, dan second order cukup dipenuhi, maka ∇F(x∗

, λ∗

) dikatakan non singular. Hal ini menyebabkan asumsi dari kemulusan fungsi f dancdimana jika fungsi Jacobian ∇F(x, λ) non singular, maka untuk semua (x, λ) pasti akan dekat dengan (x∗

, λ∗

). (Fiacco dan McCormick, 1990)

Diberikan sebarang titik solusi x dan sebarang parameter barrier positif µ, dide-finisikan sebuah vektor pengali Lagrange yang mengestimasiλ(x, µ) yaitu

λ(x, µ) =µC(x)−1e=

Jika x adalah minimizer yang tepat x(µ) dariP(., µ) didefinisikan

λ(x)_,λ(x(µ), µ) (3.13)

Selanjutnya, sebagai referensi bahwa turunan-turunan dari fungsi barrier adalah

Px(x;µ) =∇f(x)−

3.5 Pecarian Arah Newton

19

Dengan menggabungkan (3.12) dan (3.14) maka diperoleh

∇f(x) = A(x)λ(x, µ) +Px(x;µ) (3.16)

pada saatx=x(µ), diambil dari (3.13 )diperoleh yaitu∇f(x(µ)) =A((x(µ), λ(µ)) sehingga dengan mensubstitusi (3.12) ke dalam (3.14) diperoleh nilai parameter barrier yang terbaru yaitu µ+

Px(x;µ+) =∇f(x)− µ_µ+A(x)λ(x, µ) = (1−µ_µ+)∇f(x) + µ_µ+Px(x;µ). Arah Newton yang awal p dihitung setelah pengurangan parameter barrier dari µ ke µ+ yang memenuhi persamaan

Pxx(x;µ+)p =−Px(x;µ+) (3.18)

Jika fungsi objektiff linier, identitas∇2_{f(x)≡0 menyebabkan persamaan (3.19)} menjadi sederhana. Pada kenyataannya ditunjukkan bahwa (µ+/µ)p) akan men-jadi sama terhadap komponenxyang merupakan langkah untuk mengaplikasikan metode Newton terhadap sistem persamaan nonlinier yaitu :

F x,˜ ˜λ

Hubungan dari persamaan diatas, adalah kunci yang terbaik untuk langkah µ+

µ p

, berdasarkan keterangan sebelumnya bahwa fungsi Jacobian secara seragam adalah nonsingular pada daerah yang layak dan oleh sebab itu Metode Newton konvergen dengan sangat linier terhadap akar (˜x,λ) = (x(µ+), λ(µ+)). Keterangan lebih˜ lanjut lagi bahwa kelebihan µ+

µ p

dapat diselidiki melalui kondisi-kondisi penting dalam parameter barrier jika fungsi objektif linier.

Maka diperoleh dari (3.17), (3.12) dan (3.5) yaitu

Pxx(x;µ+) =

Persamaan (3.22) menggambarkan bahwa konsep barrier terhindar dari sistemati-ka underestimator dari pengali-pengali pada saat µ direduksi sampai µ+. Hanya pengali 1 untuk ∇f(x) dipertahankan pada kondisi optimal ∇f(x)−A(x)λ = 0 ketika µ diganti. Jika fungsi objektif linier, seperti yang ditampilkan pada (3.21),underestimasi pengali-pengali mengaplikasikan secara seragam terhadap semua nilaiPxx. Jika ruas kanan persamaan (3.18) dan (3.19) tidak terlalu

21

Oleh karena itu, arah dari langkah ini tidak dipengaruhi, dan interval yang ku-rang baik dari pengali µ+

µλ(x, µ) hanya membuat langkah-langkah menjadi sangat

PERANAN FUNGSI OBJEKTIF LINIER

4.1 Konvergensi Metode Newton dengan unit langkah terhadap log-barrier minimizer

Akan dianalisa sifat konvergensi lokal dari metode Newton melalui satu unit langkah menuju minimizer x(µ) fungsi barrier P(x;µ),untuk memperoleh nilai yang pasti dariµ. Dimulai dari iterasiwyang sekarang, langkah Newtons adalah

s=−Pxx(w;µ)−1Px(w;µ) (4.1)

Dan iterasi berikutnya adalahw+ =w+s.Dianggap sebuahEuclidean Ball berada disekitarminimizer P(·;µ) sedemikian sehingga pada saat metode Newton dimu-lai dari sebarang titik pada bola ini, maka konvergensi akan sangat cepat menuju

minimizer. Pembahasan sebelumnya asumsi kondisi second order yaitu bahwa fungsi barrierP(x;µ) memilikiminimizer x(µ) dimana Hessian nya definit positif. Lebih lagi, karena fungsi objektiff(·) dan fungsi kendalaci(·), i= 1,2, ..., m

Lip-schitz dapat diturunkan dua kali secara berturut-berturut maka P(x, µ) juga dua kali dapat diturunkan secara berturut-turut,mendekati x(µ). Jika w1, w2, w3, ... adalah iterasi Newton maka teori ini akan menghasilkan estimasi

kwt+1−x(µ)k ≤ L1(µ)L2(µ)kwt−x(µ)k2 (4.2)

dimanaL1(µ) adalah konstanta Lipschitz untuk Pxx(x;µ) dalam lingkunganx(µ)

dan L2(µ) adalah batas pada kPxx(x;µ)−1k dekat dengan x(µ). Dengan

masing-masing nilai

23

Oleh karena itu persamaan (4.2) berubah jadi

kwt+1−x(µ)k=O(µ

−₂

)kwt−x(µ)k2

Hal ini tidak menunjukkan kekonvergensian jika w1 tidak berada pada daerah solusi yang sangat kecil, secara rinci dapat ditulis sebagai

kw1 −x(µ)k=O(µ2) (4.4)

Wright dan Jarre (1999) menyelidiki manfaat dari reformulasi (1.1) dimana fungsi objektif nya berbentuk linier. Mereka menunjukkan bahwa jika perkiraan akhir terhadap x(µ−) diperoleh dari nilai parameter barrier µ− sebelumnya adalah

sa-ngat mungkin mendapatkan hasil yang akurat, sehingga langkah Newton P(·;µ) di titik ini untuk mendapatkan nilai parameter yang baru yaitu µ pelan-pelan akan lewat mendekatiminimizeryang barux(µ).Bahkan pada kasus ini,walaupun hasilnya secara umum tidak berada pada daerah yang ada di persamaan (4.4), kecuali mungkin, pada saat dilakukan kriteria penghentian yang tiba-tiba dari

kPx(x;µ)k=O(µ) digunakan pada nilaiµ yang sebelumnya.

Dari persamaan (4.2) dan (4.4) masih sangat sulit untuk melihat konvergensi metode Newton. Jika dibahas selanjutnya,terdapat sebuah konstanta ¯µ > 0 sedemikian sehingga konvergensi kuadratik metode Newton dengan satu unit langkah dapat diperoleh dari sebarang titikw yaitu

kw−x(µ)k ≤C0µσ, ∀µ ∈(0,µ0]¯ (4.5)

aktif Jacobian beserta komplemennya. Diasumsikan teori-teori sebelumnya bahwa w berada pada daerah layak

kw−x(µ)k ≤Cµσ, (4.6)

dengan konstanta yang diberikanC > 0 danσ >1 dan

µ ∈(0,µ],¯ (4.7)

untuk beberapa ¯µ >0.Analisis ini berdasarkan akibat dari teorema Taylor. Jikaw adalah iterasi pada saat ini dansadalah langkah Newton sebagaimana persamaan (4.1) maka diperoleh

Dengan menganalisa persamaan integral diatas, diperoleh estimasi proyeksiPxx(w+

s;µ) terhadap dua komplementari sub ruang yang dipaksa oleh matriks kendala Jacobian. Akhirnya diselidiki proyeksi dua sisi dari Pxx(w+s;µ) dalam sub

ru-ang yru-ang sama untuk mendapatkan batas ukuran lru-angkah Newton, satu-satunya adalah diambil dari titik w +s.Dengan mengasumsikan tetapi tanpa menghi-langkan generalisasi nilai ¯µ sangat kecil, bahwa lingkungan yang terdapat pada (4.6) melarang minimizer lokal P(·;µ) yang lain selain dari pada x(µ).Karena σ > 1 pada (4.6),maka hal ini membuat untuk semua nilai µ cukup kecil dilihat dari eksistensi dan keterbatasan ( ˙x(µ),λ(µ)) sehingga˙

25

Oleh karena itu, dengan menggunakan persamaan (3.12) asumsistrict complemen-tary dan dari persamaan (4.6) diperoleh untuk semua indeks aktif i = 1,2, ..., q bahwa

ci(w) =ci(x(µ)) +O(kw−x(µ)k)

= µ λi(µ)

+O(µσ) = µ λ∗

i

+O(µmin(2,σ)) = Θ(µ). i= 1,2, ..., q (4.10) untuk semua µ yang sangat kecil. Fiacco dan McCormick(1990).

Teorema 1 Diberikan konstanta C >0 danσ >1, hal yang sama juga diberikan untuk C1, C2, C3 danµ¯,maka persamaan (4.6) dipenuhi untuk semuaw. Andaikan konstanta C0 > 0 dan µ0¯ dipilih maka dengan itu pertidaksamaan berikut akan dipenuhi

(1 + 2C1)C0 ≤C, 2C0C1C2C3µ−₀σ−1 ≤1/4 (4.11)

Maka jika µ ∈(0,µ0]¯ dan w1 adalah sebarang titik dimana

kw1−x(µ)k ≤C0µσ, (4.12)

maka metode Newton dengan satu unit langkah, diaplikasikan terhadap fungsi

P(·;µ) dan mulai dari w1, menghasilkan sebuah barisan dari sekumpulan langkah {st}t=1,2,3,... dan iterasi-iterasi {wt}t=1,2,3,... sedemikian sehingga

kwt+1−xµk ≤C4µ−1k2, t= 1,2,3, ..., (4.13)

untuk beberapa konstanta C4, dan oleh karena itu konvergen secara kuadratik ter-hadap x(µ)

(Wright, 1997). Bukti

Langkah pertama s1 Newton memenuhi persamaan berikut

dan oleh karenaC0 yang diberikan oleh (4.10) maka iterasiw2 =w1+s1 menjadi

kw2−x(µ)k ≤ kw1−x(µ)k+ks1k ≤(1 +C1)kw1−x(µ)k ≤C0(1 +C1)µσ < Cµσ

,sehinggaw2 juga berada dalam lingkungan pada persamaan (4.6), dan berikutnya dapat di estimasi langkah Newton berikutnya yaitu s2:

ks2k ≤2C2C3µ−1_ks1k2 _(4.15)

maka dari persamaan (4.11) dan (4.13) diperoleh

µ−1_{ks1k ≤C0C1µ}σ−1_,

dengan mensubstitusi (4.14) melalui definisi persamaan (4.10) diperoleh

ks2k ≤2C0C1C2C3µσ−1ks1k ≤(1/4)ks1k

Oleh karena itu iterasi berikutnya adalah w3 =w2+s2, diperoleh

kw3−x(µ)k ≤ kw1−x(µ)k+ks1k+ks2k

≤ kw1−x(µ)k+ (5/4)ks1k ≤C0(1 + (5/4)C1)µσ < Cµσ

sehingga w3 juga berada dalam lingkungan pada persamaan (4.6). Pernyataan diatas masih berlanjut secara induktif, jika diberikan t= 1,2,3, ...,menjadi

kst+1k ≤2C2C3µ−1kstk2 ≤(2C2C3µ−1ks1k)kstk ≤(1/4)kstk (4.16)

dan

kwt+1−x(µ)k ≤ kw1−x(µ)k+

t

X

j=1

ksjk

≤ kw1−x(µ)k+

t

X

j=1

27

sehingga semua iterasi Newtonw1, w2, w3, ...termasuk di dalam lingkungan pada persamaan (4.6).

Dari persamaan (4.15),diperoleh kstk, t = 1,2, ... turun secara geometri dalam hal ini secara kuadratik menuju titik nol. Oleh karena itu, {wt} adalah barisan Cauchy, berarti konvergen misalkan ke titikw∗(µ).Dalam hal ini berarti titik limit

akan memenuhi

Px(w∗(µ);µ) = 0.

Selanjutnya, berdasarkan kondisi second order maka dari pemilihan ¯µ dan Hes-sian dariPxx(·;µ) dan invers nya maka dapat disimpulkanPxx(w;µ) adalah definit

positif untuk semua nilai w pada persamaan (4.6).Hal ini berarti w∗(µ) adalah

lokalminimizer dariP(·;µ).Karenax(µ) satu-satunya lokalminimizer dari lingkun-gan pada fungsi (4.6) maka w∗(µ) = x(µ). Untuk membuktikan bahwa

konver-gensi dari {wt} terhadap x(µ) adalah kuadratik,misalkan di estimasikan bahwa

kwt− x(µ)k dalam kstk error. Dengan menggunakan persamaan (4.15) untuk

semua nilait = 1,2,3, ... bahwa

Dengan cara yang sama diperoleh

hal ini menunjukkan bahwa kekonvergensian barisan {wt}adalah kuadratik. Sebagai catatan untuk kemudian, dari persamaan (4.12), (4.14) dan (4.16) dipe-roleh

kst+1k ≤[2C0C1C2C3]2

t

(2C2C3)−1µ2t(σ−1)+1, t= 0,1,2, ...,

dan oleh karena itu

kPx(wt+1;µ)k ≤2C2µ−2kstk2 ≤[2C0C1C2C3]2

t

(2C2C₃2)−1_µ2t

(σ−1)_{, t= 1,2,3, ...,} (4.17)

4.2 Konsistensi Strategi Newton Line Search

Pada metode Newton konvergensi global klasik satu unit langkah diambil pada setiap iterasi.Disamping itu versi yang lebih praktis dari metode Newton yaitu menggunakan line search untuk menjamin konvergensi bergerak ke titik stasioner atau daerah lokal minimizer. Bentuk standar untuk menerima sebuah panjang langkah α yaitu dengan mengasumsikan titikw pada daerah layak per-samaan (4.6) akan ditunjukkan bahwaα= 1 adalah sebuah panjang langkah yang dapat diterima dan memenuhi untuk semua nilaiµ yang kecil. Kondisiline search

dalam α adalah sebagai berikut

P(w+αs;µ)≤P(w;µ) +γαsTPx(w;µ) (4.18)

|sTPx(w+αs;µ)| ≤ −γs¯ TPx(w;µ), (4.19)

dimana γ dan ¯γ adalah parameter yang memenuhi interval

0< γ <1/2, γ <γ <¯ 1 (4.20)

29

terdapat interval titik-titik yang memenuhi. Secara alami, dibutuhkan w+αs yang strictly feasible untuk persoalan pada (1.1), karena sebaliknya fungsiP(·;µ) tidak didefinisikan.

Berdasarkan praktek yang sering digunakan, jika kita mengambil panjang langkah α = 1 kapanpun pilihan ini akan memenuhi kondisi pada persamaan (4.18) dan (4.19). Dapat dipastikan bahwa memang untuk kasus nilai µ yang cukup kecil, kapanpun nilaiw dalam persamaan (4.6 )akan dipenuhi juga.

Murray dan Wright(1994).

Teorema 2 Misalkan asumsi dari Teorema 1 dipenuhi, maka diberikan sebarang konstanti γ dan γ¯ memenuhi persamaan (4.18), terdapat µ1¯ ∈(0,µ0¯] sedemikian sehingga pada saatw1 adalah sebarang titik yang memenuhi persamaan(4.11) den-gan µ ∈(0,µ1¯] langkah penuh α = 1 sepanjang arah Newton s1 akan melengkapi semua pernyataan pada (4.16) dan (4.17)

(Wright, 1997).

4.3 Kecepatan Konvergensi pada saat Fungsi Objektif Linier

mengambil strategiline search sepanjang arah Newton bersamaan dengan kriteria penghentian berdasarkan arah turunan, sama hal nya seperti pada (4.19). Untuk mempermudah, maka digunakan parameter skala line search, dengan menggan-tikan αdalam(4.19) oleh ¯α(µ/µ−)

Teorema 3 Misalkan fungsi f linier, yaitu∇f(x)≡g dan nilai parameter barrier

µ− danµ memenuhi kondisi sebagai berikut

µ∈[ρ0µ¯σ−, ρ1µ−] (4.21)

dimana ρ0 >0, ρ1 ∈(0,1), danσ˜ ∈(1,2] adalah konstanta. Misalkan juga bahwa batas

kPx(x;µ−)k ≤µ− (4.22)

dipenuhi pada nilai x yang sekarang. Maka jika s merupakan arah Newton untuk fungsi P(·;µ) dari x sekarang, berarti diperoleh

−sT_P

(Wright dan Jarre,1999) dalam pembuktian ini pada teorema 2 mengganti beber-apa notasi, yaitus menjadi p, µ− menjadi µ, µ menjadi µ+ kemudian ¯α menjadi

31

persamaan (3.14) diperoleh persamaan sebagai berikut

−sTPx(x+ ¯α(µ/µ−)s;µ) =−sTg+µ

Kemudian dengan mengambil persamaan (47) dari Wright dan Jarre (1999) maka diperoleh

sTg =−q(µ2−/µ)[1−µ/µ−+O(µ−)] (4.26)

Persamaan diatas dapat diuraikan lagi menjadi

sT_∇c

Untuk estimasi dari ksk diperoleh

ksk=O(µ2−/µ) (4.29)

pada indeks yang aktif i = q + 1, ..., m ditulis bahwa ci(x+ ¯α(µ/µ−)s) secara

seragam terbatas jauh dari titik nol, maka dari persamaan (4.29) sehingga sT_∇c

i(x+ ¯α(µ/µ−)s)

ci(x+ ¯α(µ/µ−)s)

=O(ksk) =O(µ2−/µ), i=q+ 1, ..., m. (4.30)

Dengan mensubstitusi persamaan-persamaan diatas maka diperoleh

Untuk membuktikan estimasi lain dari (4.24), digunakan persamaan (4.28) dan (3.12) untuk memperoleh

ci(x)

ci(x+ ¯α(µ/µ−)s)

= ci(x)

−µ−λ_i(x, µ−)−1[1−α(1¯ −µ/µ−) +O(µ−)]

= 1

(1−α)(1¯ −µ/µ−) +µ/µ−+O(µ−)

4.4 Membatasi Perilaku arah Newton

Persamaan (3.18) mejelaskan hubungan antara arah Newton dengan titik xyang merupakan fungsi minimasi x(µ+) dari P(x;µ+) dan solusi x∗

dari persamaan (1.1). Hubungan antara arah Newton dan sistem nonlinier (3.20) hasilnya dipe-roleh dengan mengaplikasikan teorema fungsi yang lengkap kedalam (3.20) untuk menunjukkan bahwa µ+/µ)p

≈x(µ+)−x, dibawah kondisi yang sesuai dengan µ, µ+ dan kPx(x, µ)k. Akhirnya ditunjukkan bahwa panjang langkah ”optimal”

p dekat dengan ”optimal” panjang langkah sepanjang arah p akan secepatnya memilih panjang langkah dari (µ+/µ) sehingga teknik yang sangat mendasar un-tuk menampilkan sebuah line search sepanjang arah p akan secepatnya memilih panjang langkah darix(µ+) atau mendekati nilai tersebut dan akan menghasilkan langkah-langkah yang sangat efektif terhadap minimizer yang baru x(µ+). Lemma dibawah ini adalah akibat dari teorema fungsi implisit, Lang (1983).

Lemma 1 Misalkan pasangan vektor (˜x)(z, ζ),˜λ(z, ζ)

didefinisikan secara

im-plisit sebagai solusi dari sistem nonlinier

F(˜x,˜λ) =



 

z ζe





 (4.31)

33

persamaan (3.10). Maka ada bilangan positif ǫ > 0 dan M > 0 sedemikian sehingga pernyataan berikut dipenuhi :

1. x(z, ζ˜ ),˜λ(z, ζ)

adalah sebuah fungsi C2 _{dari (z, ζ) pada lingkungan yang} didefinisikan oleh ℵǫ ={(z, ζ)|kzk+|ζ|| ≤ǫ}

2. Untuk ζ > 0 dan (z, ζ) ∈ ℵǫ, diperoleh ˜λi(z, ζ) > 0 dan ci x(z, ζ˜ )

> 0 untuk i= 1,2, ..., m

3. Untuk (z1, ζ1)dan(z2, ζ2) dalam ℵǫ diperoleh



) diperoleh dari teorema fungsi yang lengkap ǫ > 0 sedemikian sehingga ˜

(2) Dapat digunakan kondisi strict complementary dan decrease ǫ jika penting sehingga (z, ζ)∈ ℵǫ diperoleh

˜

λ(z, ζ)>0, i= 1, ..., q

ci x(z, ζ˜ )>0, i=q+ 1, ..., m

kondisi λici(˜x) = ζ > 0, memastikan bahwa komponen komplemen juga positif

yaitu

˜

λi(z, ζ)>0i=q+ 1, ..., m

(3) dapat dibuktikan dengan bukti-bukti yang diberikan sebelumnya. Menyeragamkan kenonsingularitasan ∇F pada lingkungan (x∗

, λ∗

) menyatakan kondisi pertama pada persamaan ruas kanan (4.32) mendominasi kondisi second order untuk ǫ yang cukup kecil, yaitu :

(Wright dan Jarre, 1999)

Teorema 4 Misalkan fungsi objektif f linier dan nilai parameter barrier µ dan

µ+ memenuhi kondisi sebagai berikut

µ+ ≤ρmaxµ (4.35)

untuk beberapa nilaiρmax ∈(0,1). Maka untuk semuaxsedemikian sehinggakPx(x;µ)ksangat kecil, sehingga diperoleh

Misalkan ǫ adalah nilai dari lemma 1 dan anggap bahwa µ dan x sedemikian sehingga

35

Maka untuk sebarang µ+ ∈[0, µ], kombinasi (−Px(x;µ), µ) dan (0, µ+) keduanya

berada pada lingkungan ℵǫ. Sangat mudah untuk menguji bahwa

(z, ζ) = (Px(x, µ), µ)⇒ x(z, ζ˜ ),˜λ(z, ζ)

Oleh karena itu Lemma 1 menyatakan bahwa



Sebagai catatan bahwa c(x) > 0, didefinisikan vektor δλ ∈ ℜm _{secara implisit}

melalui persamaan

Λ(x, µ)A(x)T(µ+

µ )p+C(x)δλ=−(µ−µ+)e (4.39) ditunjukkan bahwa (3.19) dan (4.39) secara bersamaan menyatakan(µ+/µ)p, δλ memenuhi persamaan berikut:

Baris kedua dari persamaan (4.40) identik dengan definisi pada persamaan (4.39) dariδλ. Untuk baris pertama dari persamaan (4.40),perlu diingat lagi persamaan (3.12) dan(3.16) dan identitas ∇f(x) =g, sehingga diperoleh

Dengan menggabungkan identitas-identitas ini dalam persamaan (4.39) maka di-peroleh

A(x)Λ(x, µ)2A(x)T(µ+

µ )p = A(x)Λ(x, µ)[−(µ−µ+)e−C(x)δλ]

= −(µ−µ+)(g−Px(x;µ))−µA(x)δλ (4.41)

Dengan mensubstitusi (4.41) ke dalam (3.19),dan memperhatikan identitas∇f(x) = g dan ∇2_{f(x) = 0 oleh karena itu ((µ+/µ)p, δλ) memenuhi persamaan (4.40)} seperti yang sudah dibuktikan diatas. Hal ini di ikuti juga dengan melihat per-samaan (4.38),(4.40)dan estimasi (4.39) yaitu



Teorema 4 melengkapi pembuktian terdahulu oleh wright (1995) yang me-nunjukkan bahwa bobot arah Newton pada interval ruang dari kendala aktif nor-mal lebih besar dari yang seharusnya oleh faktor µ+/µ.

Selanjutnya akan dipertimbangkan kriteria perhentian selanjutnya untuk sebuah aproksimasi minimizer x dari fungsi barrier P(·;µ) pada masing-masing nilai µ. Misalkanσadalah konstanta pada interval (1,2] dan diambilxsebagai aproksimasi terhadap x(µ) jika

kPx(x;µ)k ≤µσ/2 (4.42)

Selanjutnya akan ditunjukkan bahwa kondisi ini dapat dipastikan akan menjadi sebuah langkah yang baik dan dengan segera dapat diambil melalui pengurangan µ menjadi µ+ (Wright dan Jarre, 1999)

Preposisi 1 Asumsikan bahwa (4.42) memenuhi semua titik x, dan andaikan p

37

Maka skala langkah Newton x→x+ (µ+/µ)p mendekati fungsi minimizer x(µ+)

dari P(·;µ+) dengan kata lain

x+ (µ+/µ)p−x(µ+) =O(kx−x(µ+)kσ−1 (4.43)

Bukti

Pada saat (4.42) dipenuhi, persamaan(4.36) menjadi

x+ (µ+/µ)p−x(µ+) =O(µσ)

Sehingga hasil dari (4.43) akan menunjukkan

(µ+/µ)p= Ω(µ) (4.44)

Dari (4.40),(4.42) dan keseragaman nonsingular dari∇F(x, λ) dekat dengan (x∗

, λ∗

dari persamaan (4.34) dengan

(z1, ζ1) = (Px(x, µ), µ)yaitu(˜x(z1, ζ1),˜λ,(z1, ζ1)) = (x, λ(x, µ)),

Dengan menggabungkan hasil tersebut melalui asumsistrict complementary, dite-mukan bahwa ada konstanta positif γmin dan γmax sedemikian sehingga untuk

setiap indeks yang aktifi=1,2,...q diperoleh

untuk semuaµ yang sangat kecil. Oleh karena itu dari (3.12) dan (4.41) diperoleh

ci(x)δλi =µδλi/λi(x, µ) =O(µ1+δ/2), i= 1,2, .., q (4.48)

Untuk sebarang i = 1,2, ..q dari (4.35),(4.43) dan (4.44) maka

−∇ci(x)T(µ+/µ)p = λi(x, µ)−1[(µ−µ+) +ci(x)δλi] ≥ γ_max−1

(1−ρmax)µ+ 0 µ1+

σ

2

≥ γ−₁

max

1−ρmax

2 µ, (4.49)

Untuk nilaiµ yang sangat kecil, maka persamaan (4.49) ruas kanan adalah Ω(µ). Jika (µ+/µ)p =O(µ),maka persamaan ruas kiri (4.49) akan menjadi O(µ), kon-tradiksi dengan (4.44). Oleh karena itu pembuktian (4.43) menjadi lengkap. (Wright dan Jarre,1999)

Persamaan (4.42) mengendalikan kedekatan x terhadap fungsiminimizerP(x;µ) dengan x↓ 0. Persamaan (4.35) membuat pengurangan yang signifikan pada pa-rameter barrier. Jika kondisi ini gagal terjadi maka µ+ ≈ µ, diharapkan jarak antara dua fungsi minimizer yang pasti dan berhasil x(µ) dan x(µ+) sangat singkat. Pada saat µ+ ≪ µ, (4.36),(4.43) menyatakan bahwa panjang langkah µ+/µ sepanjang arah Newton akan membawa parameter semakin dekat terhadap solusi optimal x∗

pada fungsi persamaan (1.1). Bagaimanapun juga, teorema 4 tidak menjamin bahwa panjang langkah ini akan menjadi layak atau diterima dengan sebuah prosedur line search. Hasil berikutnya akan menunjukkan bahwa

39

Teorema 5 Misalkan terdapat x, µ, µ+ dan f(·) memenuhi kondisi dari teorema 4 dan sebagai tambahan persamaan (4.38) dipenuhi yaitu

µ+ ≥ρminµσ˜ (4.50)

dimana ρmin > 0 dan σ˜ ∈ [1, σ) adalah konstana dan σ ∈ (1,2]juga konstanta diperoleh dari (4.42). Jika sedikitnya terdapat satu kendala aktif pada solusinya

(q >0),maka nilai tekecil dari τ akan memenuhi titik

x+τ(µ+/µ)p (4.51)

adalah daerah tidak layak pada persamaan (1.1) yang berada pada interval[1, 2 (1−ρmax)].

Selanjutnya fungsi P(x+τ(µ+/µ)p);µ+ memiliki fungsi lokal minimizer pada τ∗

yang memenuhi

|1−τ∗

|=O(µσ−₁

) (4.52)

Bukti

Diselidiki kembali bahwa fungsi kendala ci adalah nonnegatif untuk smua titik

pada persamaan (4.51). Untuk indeks yang tidak aktifq+ 1, ..., myang diperoleh dari (4.45) dan (4.46) dan ci(x∗)>0 maka

ci(x+τ(µ+/µ)p) =ci(x

∗

) +O(kx−x∗k+k(µ+/µ)pk) =ci(x

∗

) +O(µσ/2)>0

untuk semua τ ∈ [0,1] dan semua nilai µ yang kecil. Pada indeks yang aktif i= 1,2, ..., qdiperoleh dari (4.49), (4.48) dan definisi dari persamaan (3.12) bahwa

Dengan menggunakan persamaan (4.45),(4.47) dan fungsi mulus ci, diperoleh

Oleh sebab itu dengan menggunakan persamaan (4.50) dan dari kondisi ˜σ < σ, diperoleh bahwa ci(x) +τ(µ+/µ) > 0 untuk semua τ ∈ [0,1] kapanpun maka µ

akan sangat kecil. Dengan mengambil (4.53) sebagai langkah selanjutnya dengan menggunakan persamaan (4.35),(4.47) diperoleh

ci(x+ (µ+/µ)p)≤µλi(x, µ)−1[1−τ(1−ρmax) + 0(τσ−1)], i= 1,2, ..., q.

Maka untuk τ > ₁−_ρ2max dan µ yang sangat kecil, diperoleh ci(x+τ(

µ+

µ )p) ≤ 0.

Oleh karena itu, nilai τ terkecil yang mengganggu daerah kelayakan berada pada interval[1,₍₁−_ρ2max)].

Untuk pernyataan yang kedua dari teorema diatas, dapat dicari sebuah estimasi dari τ untuk turunan berarah dari P sepanjang arah (µ+/µ)p atau setara dengan

(µ+/µ)pTPx(x+τ(µ+/µ)p;µ+) = 0. (4.54)

Dari (4.2) dan(3.14) diperoleh

(µ+/µ)pTPx(x+τ(µ+/µ)p;µ+)

Selanjutnya membuat hubungan batas masing-masing persamaan ruas kanan. Un-tuk hubungan yang pertama, dari (3.16) dan estimasi (4.42) dan(4.45) bahwa

41

Untuk indeks yang aktif, dengan mengambil (4.49) dan(4.48) yaitu

λi(x, µ)∇ci(x)T(µ+/µ)p=−(µ−µ+) +O(µ1+σ/2), i= 1,2, .., q (4.57)

Sementara itu untuk indeks yang tidak aktif, setelah didefinisikan kembali nilai yang mungkin dari ρmin > 0 pada (4.47) bahwa ci(x) ≥ γmin untuk semua i =

Oleh karena itu, dari (4.45),(4.50) dan fungsi mulus dari c(·),diperoleh

λ(x, µ)∇ci(x)T( Dengan mensubstitusikan (4.53) dan (4.54) ke dalam (4.52) diperoleh

(µ+/µ)pTg =−q(µ−µ+) + 0(µσ), i=q+ 1, .., m (4.59)

Untuk hubungan yang kedua pada persamaan ruas kanan dari (4.51), akhirnya dihubungkan kembali dengan indeks yang aktif dan tidak aktif secara tepisah. Untuk indeks aktifi= 1,2, .., q dari persamaan (4.53),(4.45) dan (4.47) bahwa

∇ci(x+τ(µ+/µ)p)T(µ+/µ)p = ∇ci(x)T(µ+/µ)p+O(µσ)

= λi(x, µ)

−1

[−(µ−µ+) +O(µσ)]

Dengan menggabungkan (4.49) dan menggunakan (4.35) diperoleh

Untuk indeks yang tidak aktif, mengikuti persamaan (4.45) akan diperoleh Sementara itu sebagai denominator, kemudian diperoleh

ci(x+τ(µ_µ+)p) =ci(x) +O(µ

σ

2)≥ γmin

2 >0, i=q+ 1, .., m Untukµ yang sangat kecil.

Oleh karena itu, hubungan kedua pada (4.51) dijumlahkan menjadi

−(µ+/µ)(µ =µ+)

Dengan mensubstitusikan persamaan diatas dan (4.54) kedalam (4.55) dan meng-gunakan σ ≤1 + σ

Untuk persamaan yang berada di dalam kurung besar, diperoleh

1 +O(µσ−1₎

Untuk τ yang sedikit lebih kecil dari 1, hasilnya akan negatif, sementara untuk pada τ sedikit lebih besar dari 1 menjadi positif. Dari (4.60), bahwa tanda dari

d

dτP(x+τ( µ+

µ )p;µ+)

mengubah nilai negatif menjadi positif dimanapun nilai yang dekat denganτ = 1. Oleh karena itu ada sebuah local minizer τ∗ dekat dengan titik 1. Selanjutnya, dari O(µσ_{) masih dengan melihat persamaan (4.60) dan koefisien (µ−µ+) yang}

berada pada bagian dalam kurung, disimpulkan bahwa (4.61) memiliki ukuran O(µσ−1_{) pada minimizer τ}∗

43

bawah pada (4.35) di (µ+

µ ), dapat disimpulkan bahwa (1−τ) = O(µ

σ−1_{), maka}

KESIMPULAN

Dengan mengambil fungsi objektif yang linier pada persoalan nonlinier, dipero-leh nilai yang akurat dalam arah gradien kPx(x;µ)k melalui pengurangan nilai

µ. Konvergensi superlinier minimizer x(µ+) dari P(·;µ+) menjamin bahwa dari sebarang titik awal w dapat memenuhi kondisi kw−x(µ+)k = O(µσ˜

+),jika nilai ˜

DAFTAR PUSTAKA

Bertsekas, D.P.(1999).Non Linear Programming.,Massachusetts Institute of Tech-nology.

Bradley, S.P., Arnoldo, C.H.,and Magnanti,T.L.(1977). Applied Mathematical Programming.Addison-Wesley

Conn, A.R., Gould, N. and Toint,P.L.(1994). A note on using alternative second-order models for the subproblems arising in barrier function methods for minimization, Numerische Mathematik, 68 pp.17-33

Conn, A.R., Gould, N. and Toint,P.L.(1997). A globally convergent lagrangian barrier algorithm for optimization with general inequality constraints and simple bounds,Mathematics of Computation, 66 pp.261-288.

den Hertog,D.,Roos,D. and Terlaky,T.(1992).On the classical logarithmic barrier function method for a class of smooth convex programming problelms,Journal of Optimization Theory and Application, 73(1) pp.1-25.

Dennis, J.E., Schnabel, R.B. (1983): Numerical Methods for Unconstrained Opti-mization. Prentice-Hall,Eaglewood Cliffs, NJ

Fiacco,A.V. and McCormick G.P.(1990).Non Linear Programming-Sequential Un-constrained.Research Analysis Corporation,Mc.Lean, Virginia.

Floudas,C.A.(1995). Non Linear and Mixed Integer Optimization.Oxford Univer-sity Press. New York.

Forsgren. A. and Murray. W. (1997) Newton methods for large-scale linear inequality- constrained minimation, SIAM J.OPTIM. Vol.7, No.1,pp.162-176.

Forsgen, A., Gill P.E. and Wright H.M.(2002) Interior methods for non linear optimization. SIAM J.OPTIM, Vol.44, No.4, pp. 525-597.

Forsgren,A. and Gill, P. E. (1998). Primal-dual interior-point methods for noncon-vex nonlinear programming. SIAM Journal on Optimization, S(4):1132-1152 Gockenbach M.S., Introduction to inequality-constrained optimization: The

loga-rithmic barrier method

Lang S.(1983). Real Analysis,second edn. Addison-Wesley,Reading,MA.

Lange, K. (1994) An adaptive barrier method for convex programming. Methods and Application of Analysis 1(4), pp.392-402.

Mangasarian O.L.(1969).Nonlinier Programming, Mc.Graw Hill: New York. Murray,W. and Wright, M.H.(1994).Line search procedures for logarithmic barrier

Nash, S.G. and Sofer A.(1993).A barrier method for large-scale constrained opti-mization. ORSA Journal of Computing, 5 pp.40-53

Nash, S.G. and Sofer A.(1994)Linear and Nonlinear Programming. The Mc.Graw-Hill Companies : New York

Nocedal,J., Wachter A., and Waltz, R.A.(2009). Adaptive barrier update strategies for nonlinear interior methods. SIAM Journal on Optimization, vol.19 pp. 1674-1693.

Ortega,J.M.and Rheinboldt, W.C.(2000). Iterative solution of nonlinear equations in several variables. SIAM Classics Applied Mathematical,Philadelphia. 30 Sun, w. and Yuan, Y.X.(2006). Optimization Theory and Methods Nonlinier

Pro-gramming, Springer.

Wright, S.J. (1997) On the convergence of the newton/ log-barrier method.

Mathematics and Computer Science Division, Argonne National Laboratory. Preprint ANL/MCS-P681-0897.

Wright, S.J. and Jarre F.(1999) The role of linear objective function in barrier methods. Mathematical Programming, Series A,84:357-373.