Steepest Descent (Ascent) untuk Kasus Min (Maks)

Dr. Rahma Fitriani, S.Si., M.Sc

Steepest Descent (Ascent) untuk Kasus Min (Maks)


• Menentukan titik min (maks) pada fungsi non linier tanpa kendala dengan n peubah

• Titik tersebut adalah titik di mana vektor gradien bernilai nol di segala arah

• Dipakai ketika pembuat nol dari vektor gradien tidak dapat ditentukan secara analitik


Prinsip Dasar Algoritma

• Pilih titik awal• Tentukan arah turun (naik) bagi kasus min (maks)• Tentukan besar langkah (sebesar-besarnya)

steepest• Update – Tentukan titik baru

• Berhenti ketika kriteria pemberhentian terpenuhi


• Arah penurunan (min) atau kenaikan (maks) dipilih berdasarkan vektor gradien

• Ilustrasi pada fungsi dengan dua variabel• Berdasarkan kontur dari fungsi:• Vektor gradien pada suatu titik mengarah

pada kenaikan fungsi (maks)• Kebalikan dari vektor gradien pada suatu

titik mengarah pada penurunan fungsi (min)


Ilustrasi dari Kontur Fungsi


Ilustrasi 3 dimensi


Ilustrasi 3 Dimensi


• Gradien dari fungsi dengan n variabel adalah vektor– Setiap elemen adalah kemiringan fungsi pada arah

masing-masing variabel– Setiap elemen adalah turunan parsial terhadap masing-

masing variabel

– Contoh:

Vektor gradien

dd x

fxf

xfxxxff )()()(),,,()(

2121

xxxx

212121

21

2221

2121

62)()(),()(

3),()(

xxxxxf

xfxxff

xxxxxxff

xxx

x


Vektor gradien pada suatu titik adalah arah kenaikan terbesar (steepest ascent) dari suatu fungsi

Arah sebaliknya adalah arah penurunan terbesar (steepest descent) dari suatu fungsi

121 ),( xxxf

),( 21 xxf

),( 21 xxf

221 ),( xxxf


• Konsep sederhana: ikuti arah gradien downhill• Proses:

1. Pilih titik awal: x0 = ( x1, x2, …, xn )2. Tentukan arah turun: - f( xt )3. Pilih panjang langkah penurunan:

Optimasi satu dimensi

4. Update posisi titik baru: xt+1 = xt - f( xt )5. Kembali ke langkah 2 sampai kriteria pemberhentian terpenuhi

• Kriteria pemberhentian– f( xt+1 ) ~ 0

Algoritma Gradien (Steepest) Descent


Contoh

• Selesaikan permasalahan berikut:

• Digunakan titik awal x0 = (1, 1)• Hitung vektor gradien pada titik tersebut:

)2(2)3(2),()( 2121 xxxxff x

24)1 ,1()( 0 ff x

221

22

21

),.(.

)2()3(min

Rxxts

xxz


• Arah penurunan adalah: 24)( 0 xf

• Sebesar langkah yang akan dipilih sesuai permasalahan optimasi satu dimensi berikut

)( 11max ttt fff xxx

)( 001max xxx fff

21412411)( 001 xxx f

221 214221,41max

ff x


• Solusi dari permasalahan tersebut diperoleh dari turunan pertama fungsi terhadap yang disamadengankan nol

• Pada =0.5• Update titik yang baru:

221 214221,41max

ff x

23245.011)( 001 xxx f

• Algoritma dihentikan karena pada titik baru ini vektor gradien sudah sama dengan nol

00)22(2)33(2)2 ,3()( 1 ff x


• Konsep sederhana: ikuti arah gradien uphill• Proses:

1. Pilih titik awal: x0 = ( x1, x2, …, xn )2. Tentukan arah nai: f( xt )3. Pilih panjang langkah penurunan:

Optimasi satu dimensi

4. Update posisi titik baru: xt+1 = xt - f( xt )5. Kembali ke langkah 2 sampai kriteria pemberhentian

terpenuhi

• Kriteria pemberhentian– f( xt+1 ) ~ 0

Algoritma Gradien (Steepest) Ascent

Steepest Descent (Ascent) untuk Kasus Min (Maks)

Documents

Transcript of Steepest Descent (Ascent) untuk Kasus Min (Maks)