Dr. Rahma Fitriani, S.Si., M.Sc

Steepest Descent (Ascent) untuk Kasus Min (Maks)

Dr. Rahma Fitriani, S.Si., M.Sc

• Menentukan titik min (maks) pada fungsi non linier tanpa kendala dengan n peubah

• Titik tersebut adalah titik di mana vektor gradien bernilai nol di segala arah

• Dipakai ketika pembuat nol dari vektor gradien tidak dapat ditentukan secara analitik

Dr. Rahma Fitriani, S.Si., M.Sc

Prinsip Dasar Algoritma

• Pilih titik awal• Tentukan arah turun (naik) bagi kasus min (maks)• Tentukan besar langkah (sebesar-besarnya)

steepest• Update – Tentukan titik baru

• Berhenti ketika kriteria pemberhentian terpenuhi

Dr. Rahma Fitriani, S.Si., M.Sc

• Arah penurunan (min) atau kenaikan (maks) dipilih berdasarkan vektor gradien

• Ilustrasi pada fungsi dengan dua variabel• Berdasarkan kontur dari fungsi:• Vektor gradien pada suatu titik mengarah

pada kenaikan fungsi (maks)• Kebalikan dari vektor gradien pada suatu

titik mengarah pada penurunan fungsi (min)

Dr. Rahma Fitriani, S.Si., M.Sc

Dr. Rahma Fitriani, S.Si., M.Sc

Ilustrasi dari Kontur Fungsi

Dr. Rahma Fitriani, S.Si., M.Sc

Ilustrasi 3 dimensi

Dr. Rahma Fitriani, S.Si., M.Sc

Ilustrasi 3 Dimensi

Dr. Rahma Fitriani, S.Si., M.Sc

• Gradien dari fungsi dengan n variabel adalah vektor– Setiap elemen adalah kemiringan fungsi pada arah

masing-masing variabel– Setiap elemen adalah turunan parsial terhadap masing-

masing variabel

– Contoh:

Vektor gradien

dd x

fxf

xfxxxff )()()(),,,()(

2121

xxxx

212121

21

2221

2121

62)()(),()(

3),()(

xxxxxf

xfxxff

xxxxxxff

xxx

x

Dr. Rahma Fitriani, S.Si., M.Sc

Vektor gradien pada suatu titik adalah arah kenaikan terbesar (steepest ascent) dari suatu fungsi

Arah sebaliknya adalah arah penurunan terbesar (steepest descent) dari suatu fungsi

121 ),( xxxf

),( 21 xxf

),( 21 xxf

221 ),( xxxf

Dr. Rahma Fitriani, S.Si., M.Sc

• Konsep sederhana: ikuti arah gradien downhill• Proses:

1. Pilih titik awal: x0 = ( x1, x2, …, xn )2. Tentukan arah turun: - f( xt )3. Pilih panjang langkah penurunan:

Optimasi satu dimensi

4. Update posisi titik baru: xt+1 = xt - f( xt )5. Kembali ke langkah 2 sampai kriteria pemberhentian terpenuhi

• Kriteria pemberhentian– f( xt+1 ) ~ 0

Algoritma Gradien (Steepest) Descent

Dr. Rahma Fitriani, S.Si., M.Sc

Contoh

• Selesaikan permasalahan berikut:

• Digunakan titik awal x0 = (1, 1)• Hitung vektor gradien pada titik tersebut:

)2(2)3(2),()( 2121 xxxxff x

24)1 ,1()( 0 ff x

221

22

21

),.(.

)2()3(min

Rxxts

xxz

Dr. Rahma Fitriani, S.Si., M.Sc

• Arah penurunan adalah: 24)( 0 xf

• Sebesar langkah yang akan dipilih sesuai permasalahan optimasi satu dimensi berikut

)( 11max ttt fff xxx

)( 001max xxx fff

21412411)( 001 xxx f

221 214221,41max

ff x

Dr. Rahma Fitriani, S.Si., M.Sc

• Solusi dari permasalahan tersebut diperoleh dari turunan pertama fungsi terhadap yang disamadengankan nol

• Pada =0.5• Update titik yang baru:

221 214221,41max

ff x

23245.011)( 001 xxx f

• Algoritma dihentikan karena pada titik baru ini vektor gradien sudah sama dengan nol

00)22(2)33(2)2 ,3()( 1 ff x

Dr. Rahma Fitriani, S.Si., M.Sc

• Konsep sederhana: ikuti arah gradien uphill• Proses:

1. Pilih titik awal: x0 = ( x1, x2, …, xn )2. Tentukan arah nai: f( xt )3. Pilih panjang langkah penurunan:

Optimasi satu dimensi

4. Update posisi titik baru: xt+1 = xt - f( xt )5. Kembali ke langkah 2 sampai kriteria pemberhentian

terpenuhi

• Kriteria pemberhentian– f( xt+1 ) ~ 0

Algoritma Gradien (Steepest) Ascent