Prosiding Seminar Nasional Matematika dan Pembelajarannya. Jurusan Matematika, FMIPA UM. 13 Agustus 2016
METODE NUMERIK STEPEST DESCENT DENGAN ARAH PENCARIAN
RERATA ARITMATIKA
Rukmono Budi Utomo
Universitas Muhammadiyah Tangerang
rukmono.budi.u@mail.ugm.ac.id
rukmono.budi.u@students.itb.ac.id
Abstrak
Penelitian ini mengkaji tentang Metode numerik Stepest Descent dengan arah pencarian Rerata Aritmatika. Penelitian dilakukan dengan memahami terlebih dahulu mangenai metode numerik Stepest Descent dengan arah pencarian gradien beserta algoritmanya. Setelah itu dikonstruksi metode numerik Stepest Descent dengan arah pencarian Rerata Aritmatika beserta algoritmanya. Dalam penilitian ini juga diberikan contoh penggunaan kedua metode numerik dalam menyelesaikan masalah optimisasi tanpa kendala beserta analisinya.
Kata kunci: metode numerik steepest descent, arah pencarian gradien, rerata aritmatika
PENDAHULUAN
Tidak selamanya solusi analitik dari suatu permasalahan matematika khususnya masalah optimisasi dapat dengan mudah ditemukan. Terkadang ditemukan kendala yang cukup rumit sehingga solusi analitik dari permasalahan optimisasi tersebut tidak mudah ditemukan. Berdasarkan hal tersebut solusi numerik merupakan sesuatu hasil yang cukup realistis untuk dicari meski hasilnya merupakan hampiran atau pendekatan. Metode numerik merupakan suatu metode pendekatan (approximation) dari solusi sejati, dan berdasarkan hal tersebut terdapat besarnya angka kesalahan (eror) yang dihasilkan oleh perhitungan numerik. Kesalahan ini lebih sering diakibatkan baik karena pemotongan suku atau pembulatan nilai. Masalah optimisasi merupakan persoalan yang banyak menggunakan metode numerik dalam mencari solusi penyelesaian tatkala solusi analitik sulit ditemukan.
Menurut kendalanya (constrain), masalah optimisasi dibagi dua yakni masalah optimisasi dengan kendala dan tanpa kendala, sedangkan menurut variabel bebasnya masalah optimisasi juga dibagi atas dua, yakni masah optimisasi dengan satu variabel bebas dan banyak variabel bebas.Masalah optimisasi juga dibagi atas dua bagian berdasarkan banyaknya fungsi objektif yang dioptimalkan, yakni masalah optimisasi dengan satu fungsi objektif dan banyak fungsi objektif.
Metode numerik untuk menyelesaikan masalah optmisasi dengan kendala dapat menggunakan metode Kuhn-Tucker atau pengali Lagrange, sedangkan untuk masalah optimisasi tanpa kendala dengan satu variabel bebas dapat menggunakan metode Golden Rasio, Fibonacci, Biseksi, Dichotomus dan Secant. Lebih lanjut untuk menyelesaikan masalah optmisasi dengan lebih dari satu variabel bebas dapat menggunakan metode Aksial, Newton, Hook and Jeeves, Stepest Descent, Arah Konjugasi, dan Rosenberg. Untuk menyelesaikan masalah optimisasi dengan banyak fungsi objektif dapat menggunakan program linear multi objektif, namun hal tersebut tidak dibahas dalam tulisan ini
Makalah ini membahas mengenai metode numerik Steepest Descent degan arah pencarian (direction) berupa rerata aritmatika. Diketahui bahwa metode Steepest Descent pada umumnya menggunakan arah pencarian gradien biasa
d
k
Z X
k , sedangkan padapenelitian ini arah pencarian dimodifikasi menjadi rerata aritmatika
1 n k k kZ X
d
n
dan
1
2 k k kZ X
Z X
d
n
. Penelitian dilakukan dengan memahami terlebih dahulu mengenai metode numerik Steepest Descent dengan arah pencarian gradien biasa kemudian menyusun algoritma untuk metode Steepest Descent dengan arah pencarian rerata aritmatika Dalam tulisan ini juga akan diberikan contoh perhitungan numerik untuk metode Steepest Descent dengan kedua arah pencarian tersebut beserta analisis dan perbandingan keakuratan solusi antara keduanya.PEMBAHASAN Definisi Ruang Vektor
Himpunan tak kosong V merupakan ruang vektor apabila x y z V, , dan a b, R sedemikian hingga memenuhi aksioma-aksioma sebagai berikut:
i.
x
y V
ii. x y y x iii.
x
y
z
x
y
z
iv.
0 V
0
V
V
0
0
v.
0
V
x
x
0
vi. ax V vii.a x
y
ax ay
viii.
a b x
ax bx
ix.
ab x
a bx
x. 1xx Definisi NormDiberikan X Y,
sembarang
dua vektor. Sembarang bilangan riil ||X ||dinamakan norm dariX
apabila memenuhi aksioma-aksioma sebagai berikut i. |X || 0
ii.
||
aX
|| 0
X
0
iii. ||aX|| | ||| a X||,aRiv. |XY|| || X||||Y||
Definisi Ruang Bagian
Himpunan bagian Wdari V disebut ruang bagian dari V jika W ruang vektor dengan operasi jumlah dan kali sama seperti V
Definisi Kombinasi Linear
MisalkanXi , 1 i m vektor-vektor di V maka
X
disebut kombinasi linear dari vektor-vektor i X jika 1 m i i i X a X
Definisi Bebas LinearVektorXi, 1 i m anggota-anggota V disebut tak bebas linear jika dan hanya jika terhadap bilangan-bilangan riil tak semuanya nol sedemikian hingga
1 0 m i i i a X
. Apabila pembuat nol hanyaa
i
0
, maka vektor-vektor tersebut dikatakan bebas linear.Prosiding Seminar Nasional Matematika dan Pembelajarannya. Jurusan Matematika, FMIPA UM. 13 Agustus 2016
Definisi Basis Ortonormal.
Basis ortonormal di 2didefinisikan sebagai l1
1, 0 Tdan l2
0,1T, sedangkan untuk n basis ortonormal didefinisikan sebagail1
1, 0, , 0
T,l2
0,1, , 0
T, ,ln
0, 0, ,1
TDefinisi Hubungan Dua Vektor
Diberikan dua buah vektor X Y, dengan X { ,x x1 2,...,xn}dan
Y
{ ,
y y
1 2,...,
y
n}
. Pernyataan berikut dapat dibuktikan benari.
X
Y
jika dan hanya jika xi yi
i i
,
1, 2,...,
n
ii.
X
Y
jika dan hanya jika xi yi
i i
,
1, 2,...,
n
iii.
X
Y
jika dan hanya jika xi yi
i i
,
1, 2,...,
n
Definisi Bola Terbuka
Diberikan x0 n serta
0
. HimpunanB x
0,
x
nx
0
x
merupakan persekitaran
darix
0atau disebut bola terbuka dengan pusatx
0dan radius
.Definisi Titik Dalam
Titik 0
n
x X disebut titik dalam (interior point) dari himpunan
X
jika
0
sehingga
0,
B x
X
Definisi Titik Batas
Titik
x
0
X
ndisebut titik batas (boundary point) dari himpunanX
jika setiap sekitar
darix
0 memuat beberapa titik yang berada diX
dan beberapa titik yang tidak berada diX
Definisi Komplemen Suatu Himpunan
Jika
X
n,maka himpunan n
X
yang memuat semua titik-titik yang ada di nnamun tidak dariX
disebut komplemen dariX
.Definisi Himpunan Terbuka
Himpunan
X
disebut himpunan terbuka jika setiap titik dariX
merupakan titik dalam dariX
. Lebih lanjut himpunanY
merupakan himpunan tertutup jika merupakan komplemen dari himpunan terbuka.Definisi Himpunan Tertutup
Himpunan
X
disebut hinmpunan tertutup jika himpunan tersebut memuat semua titik batasnya.Teorema Himpunan Tertutup
Sebarang irisan dari himpunan tertutup adalah tertutup.
Definisi Himpunan Terbatas
Himpunan Sdikatakan terbatas jika terdapat M 0sehingga x S, berlaku
x
M
Definisi Himpunan Terbatas Ke atas
Himpunan S dikatakan terbatas ke bawah jika
y
n dengan semua komponennya berhingga sedemikian hingga x S y, x, sebaliknya Sdikatakan terbatas ke atasDefinisi Bentuk Kuadratik
2 2 2
11 1 2 2 12 1 2 1,3 1 3 23 2 3
( )
2
...
nn n...
...
F X
c x
c
x
c x
c x x
c x x
c x x
denganc
ij
R
,1i j, n, disebut fungsi bentuk kuadratik dengan
n
variabel bebas x x1, 2,...,xnDefinisi Fungsi Definit
Bentuk kuadratik T
X AX
disebut positif (negatif) definit jika X AXT ( )0 untuk semua 0X dan terdapat sekurangnya satu vektor tak nol sedemikian hingga T 0
X AX . Apabila tidak memenuhi keduanya, maka bentuk kuadratik tersebut dikatakan indefinite
Teorema Fungsi Definit
Suatu matriks
A
dikatakani. Positif definit jika dan hanya jika
i
0
ii. Negatif definit jika dan hanya jika
i
0
iii. Positif semi definit jika dan hanya jika
i
0
iv. Negatif semi definit jika dan hanya jika
i
0
dengan
i merupakan nilai-nilai eigen dari matriks A dan ketidaksamaan dicapai untuk sekurang-kurangnya satuj
. Lebih lanjut apabila
itidak memenuhi butir i,ii,iii, dan iv maka matriksA
disebut indefiniteDefinisi Minimum Global
Fungsi F x( )dikatakan memiliki minimum global di
x
0 dalam Sjika f x( ) f x( )0Definisi Minimum Lokal Relatif
Fungsi F x( )dikatakan memiliki minimum lokal di
x
0 dalam Sjika terdapat sekitar
darix
0 sedemikian hingga f x( ) f x( )0 untuk setiapx
di dalam persekitaran tersebut.Definisi Deret Taylor
Deret Taylor untuk fungsi F X( ) dengan X { ,x x1 2,...,xn}didefinisikan sebagai
'
( )
3 2
(
)
( )
( )
X( )(
)
F X
x
F X
F X
X
H X
x
dengan
3 merupakan suku berderajat besar, danH X
( )
merupakan metrik Hessian yang didefinisikan sebagai2 2 2 2 1 1 2 1 2 2 2 2 2 1 2 2 2 2 2 2 1 2
..
.
.
.
n n n n nF
F
F
x
x x
x x
F
F
F
H
x x
x
x x
F
F
F
x x
x x
x
Syarat perlu agar
X
merupakan titik ekstrim dari fungsi F X( )adalah F X( )0 dengan1 2
( )
,
,...,
nF
F
F
F X
x
x
x
Algoritma Stepest Descent
Diberikan Z F X( )F x x( ,2 2,.,xn) dan akan ditentukan nilai X { ,x x1 2,.,xn}yang meminimalkan fungsi F X( ) tersebut
i. Ambil 1
{ ,
1 2,.,
}
n nX
x x
x
R
yang merupakan sembarang titik awal dan
0 yang merupakan suatu konstanta positif yang menyatakan besarnya kesalahan eror yang ditoleransi.ii. Dibentuk fungsi gradient
1 2
,
,
,
nZ
Z
Z
Z X
x
x
x
dan tentukan
Z X
1 sertalakukan untuk
Z X
kProsiding Seminar Nasional Matematika dan Pembelajarannya. Jurusan Matematika, FMIPA UM. 13 Agustus 2016
iv. Tentukan
k dengan cara mencari titik ekstrimZ X
k
kd
k
yakni dengan cara menderivatifkan fungsiZ X
k
kd
k
dan menyamadengankan nol dengan arah pencariand
k
Z X
kv. Nilai
X
k ditentukan denganX
k
X
k1
k1d
k1Berdasarkan algoritma Stepest Descent dngan arah pencarian gradien
d
k
Z X
k , akan dikembangkan suatu metode Stepest Descent dengan arah pencarian rerata aritmatika.Algoritma Stepest Descent Dengan Arah Pencaraian Rerata Aritmatika
Diberikan fungsi Z F X( )F x x( ,2 2,.,xn) dan akan ditentukan X { ,x x1 2,.,xn}yang meminimalkan fungsi F X( ) tersebut
i. Ambil X1 { ,x x1 2,.,xn}Rn titik sembarang titik awal dan
0suatu konstanta positif yang menyatakan besarnya kesalahan eror yang ditolerasnsi.ii. Dibentuk
1 2,
,
,
nZ
Z
Z
Z X
x
x
x
kemudian tentukan untuk
Z X
k,
1, 2, ,
k n
iii. Apabila Z X
k
, maka iterasi berhenti, sebaliknya iterasi dilanjutkaniv. Cari
k dengan cara mencari titik ekstrimZ X
k
kd
k
yakni dengan cara menderivatifkanZ X
k
kd
k
dan menyamadengankan nol dengan atrah pencarian
1 n k k kZ X
d
k
dan
1
2 k n k k kZ X
Z X
d
n
Contoh Numerik 1Tentukan nilai X { ,x x1 2} yang meminimalkan
Z x x
( ,
1 2)
2
x
12
x
22
3
x
1
x
2dengan menggunakan metode Stepest Descent dengan toleransi kesalahan
0.03Solusi Stepest Descent dengan Arah Pencarian Gradien
Ambil sebarang titk awal 1 2 1
{ 1, }
2X
R
. Berdasarkan masalah optimisasi di atas dapat ditentukan
Z X
1
7, 0
. Karena norm Z X
1 7
maka iterasi dilanjutkan dengan arah pencariand
1
Z X
1
7, 0
dan berdasarkan hal tersebut dapat diperoleh 1 14
. Apabila dicari lebih lanjut, akan diperoleh nilai 23 1
,
4 2
X
dengan nilai gradien
20, 0
Z X
dan norm Z X
2 0
. Berdasarkan hal tersebut iterasi berhenti sehingga nilaiX
2
x x
1,
2
yang meminimalkan masalah optimisasi di atas adalah2 3 1 , 4 2 X .
Karena Z X
2 0
hal ini mengindikasikan bahwa solusi numerik ini sama dengan solusi analitiknya. Pada penyelesaian masalah optimisisasi tanpa kendala di atas, terlihat bahwa untuk nilai awal 1 21 { 1, }2
X R dan arah pencarian
d
k
Z X
k , solusi numerik yang dihasilkan sama dengan solusi analitik yakni 3 1,4 2
X
dan langkah pengerjaannya hanya
menbutuhkan dua iterasi.
Solusi Stepest Descent dengan Arah Pencarian Rerata Aritmatika
Tetap diambil sebarang titk awal 1 2 1 { 1, }2
X R . Berdasarkan masalah optimisasi di atas dapat
ditentukan
Z X
1
7, 0
. Karena norm Z X
1 7
maka iterasi dilanjutkan denganarah pencarian
d
1
Z X
1
7, 0
dan berdasarkan hal tersebut dapat diperoleh 1 14
. Apabila dicari lebih lanjut, akan diperoleh nilai 2 3 1,4 2
X
dengan
Z X
2
0, 0
dan dengan arah pencarian rerata sebagai berikut
2 1 2 1 7 2 2, 0
2
k kZ X
Z X
Z X
d
k
. Karena
Z X
2
0
, iterasi tetap harus berhenti dan solusi numeric steepest descent dengan arah pencarian rerata aritmatika ini sama dengan solusi dari metode steepest descent dengan arah pencarian gradien biasa yakni3 1 , 4 2 X Contoh Numerik 2
Pandang kembali contoh numerick1. Apabila diambilX1 { 1,1}R2, penyelesaian akan coba dilakukan dengan metode Steepest Descent dengan kedua jenis arah pencarian.
Solusi Stepest Descent dengan Arah Pencarian Gradien
Berdasarkan hal tersebut diperoleh
Z X
1
7,1
dengan norm Z X
1 50
. Karena norm masih lebih besar dari
, maka iterasi dilanjutkan. Arah pencarian
1 1
7, 1
d
Z X
dan berdasarkan hal tersebut dapat diperoleh 1 50198
. Apabila dicari lebih lanjut, diperoleh 2 76 74,99 99
X
dengan
Z X
2
0.070, 0.494
dan nilai norm
2 0.498Z X
, berdasarkan hal tersebut iterasi dilanjutkan. Dengan cara yang sama, diperoleh
d
2
Z X
2
0.070, 0.494
sehingga berdasarkan hal tersebut dapat diperoleh
2 0.49. Lebih lanjut diperoleh nilaiX
3
0.732, 0.504
dengan nilai gradien
30.072, 0.008
Z X
Prosiding Seminar Nasional Matematika dan Pembelajarannya. Jurusan Matematika, FMIPA UM. 13 Agustus 2016
Proses dilanjutkan sehingga diperoleh arah pencarian
d
3
Z X
3
0.072, 0.008
dan 3 0.25
.Berdasarkan hal tersebut diperoleh 4 3 1, 4 2X
dengan nilai gradien
40, 0
Z X
dan Z X
4 0
sehingga iterasi berhenti dan solusi numeriknya juga merupakan solusi analitik.Solusi Stepest Descent dengan Arah Pencarian Rerata Aritmatika
Diambil 2
1 { 1,1}
X R sebarang nilai awal. Berdasarkan hal tersebut diperoleh nilai gradien
17,1
Z X
dengan norm Z X
1 50
. Karena norm masih lebih besar dari
,maka iterasi dilanjutkan. Karena arah pencarian
d
1
Z X
1
7, 1
maka berdasarkan hal tersebut dapat diperoleh 1 50198
. Apabila dicari, maka akan diperoleh nilai 2 76 74, 99 99X
dengan nilai gradient
Z X
2
0.070, 0.494
dan norm Z X
2 0.498
. Nilai arahpencarian
2 1 2 1 23.465, 0.747
2
2
k kZ X
Z X
Z X
d
.Berdasarkan hal tersebut diperoleh
2 0.0053 sehingga dapat ditemukan nilaiX
3
0.786, 0.743
.Lebih lanjut
Z X
3
0.144, 0.486
dengan norm Z X
3 0.506
. Karenanorm masih lebih besar dari
, maka iterasi dilanjutkan. Dengan cara yang sama akan diperoleh
3
2.262, 0.66
d
dengan
3 0.00023 sehingga dapat ditemukanX
4
0.785, 0.743
dengan
Z X
4
0.14, 0.486
dan norm Z X
4 0.505
. Iterasi dilanjutkan sehingga diperolehd
4
1.661, 0.616
dan
4
0.0056
. Berdasarkan hal demikian diperoleh nilaiX
5
0.794, 0.739
dengan nilai gradient
Z X
5
0.176, 0.478
dan
5 0.504Z X
. Terlihat bahwa nilai 2 1
x semakin menjauhi nilai aslinya yakni 1
0.75
x
namun untuk x2 2terlihat mendekati nilai aslinya yakni x2 0.5 2meskimembutuhkan iterasi yang panjang. Dengan demikian dengan cara ini, iterasi akan tetap berhenti saat Z X
k
, dengan nilaix
2yang semakin akurat dengan solusi asli namun tidak samahalnya dengan
x
1 yang justru menjauhi nilai aslinya.Lebih lanjut apabila arah pencarian rerata aritmatika didefinisikan dengan
1
2 n k k kZ X
Z X
d
n
, maka akan diperoleh nilai arah pencarian
2 1 1 2 2 23.535, 0.253
2
2
k kZ X
Z X
Z X
Z X
d
. Berdasarkan hal tersebut diperoleh
2 0.0024 sehingga dapat ditemukan nilaiX
3
0.759, 0.748
. Lebih lanjut
Z X
3
0.036, 0.496
dengan
Z X
3
0.497
. Karena norm masihlebih besar dari
, maka iterasi dilanjutkan. Dengan cara yang sama diperoleh
3
2.368, 0.0033
d
dengan nilai
3 0.0037 sehingga dapat ditemukan nilai
4
0.75, 0.748
X
dengan
Z X
4
0, 0.496
dan
Z X
4 0.496
. Dari siniterlihat bahwa nilai 2 1
x telah sama dengan nilai aslinya yakni
x
1
0.75
, namun2 2
x
terlihat menjauhi nilai aslinya. Iterasi tetap akan berhenti di suatu keadaan karena nilai
kZ X
semakin kecil mendekati nilai epsilon.
KESIMPULAN DAN SARAN
Penelitian ini memberikan beberapa kesimpulan dan saran yang diuraikan dalam beberapa poin dibawah ini
Kesimpulan
Dari penelitian yang telah dilakukan, terdapat beberapa hal yang dapat disimpulkan:
i. Dalam suatu masalah optimisasi dua variabel tanpa kendala dengan nilai awal tertentu 1
X
, solusi numerik Stepest Descent dengan arah pencarian gradien biasa dan aritmatika akan menghasilkan solusi yang identik dengan solusi analitik pada masalah optimisasi yang dibahas dalam tulisan ini.ii. Solusi masalah optimisasi dengan metode steepest descent dengan arah pencarian rerata aritmatika menghasilkan salah satu nilai dari x ii, 1, 2 yang menjauhi niai aslinya.
Untuk metode steepest descent dengan arh pencarian
1 k k k kZ X
d
k
menghasilkan nilaix
2yang semakin akurat dengan solusi asli namun tidak sama halnya denganx
1yang justru menjauhi nilai aslinya. Sedangkan untuk Steepest Descent dengan arah pencarian
1
2 n k k kZ X
Z X
d
n
akan terbentuk nilai x1 2 yang telah sama dengan nilai aslinya yaknix
1
0.75
, namun2 2
x terlihat menjauhi nilai aslinya. Terlepas dari hal tersebut, suatu saat iterasi akan berhenti di suatu kondisi karena nilai Z X
kyang semakin kecil mendekati nilai epsilon.
Saran
Perlu dikonstrusi arah pencarian rerata aritmatika yang pas agar baik nilai
x
1 maupunx
2 yang dihasilkan dapat menuju pada nilai yang seharusnya, yakni mendekati atau sama dengan solusi asalitiknya. Lebih lanjut perlu diselidiki untuk masalah optimisasi yang lain dengan nilai awal1
X
tertentu agar ditemukan kesimpulan umum mengenai kecepatan iterasi menemukan solusi pada metode numerik Steepest Descent dengan arah pencarian gradient biasa dengan gradien rerata aritmatika.
Prosiding Seminar Nasional Matematika dan Pembelajarannya. Jurusan Matematika, FMIPA UM. 13 Agustus 2016
DAFTAR RUJUKAN