Algoritma JST Backpropagation

Arsitektur JST BackpropagationContoh Arsitekstur JST Backpropagation dengan:n unit masukkanp unit layer tersembunyim unit masukkan

1

Y1

Y2

Ym

Z1

Z2

Zp

1

X1

X2

Xn

V10V20Vp0

V11

Vp1V21

V12

Vm2

V22

V1n

Vpn

V2m

W10W20

Wm0

W11

Wm1

W21

W12

Wm2

W22

W1p

Wmp

W2p

Layer Masukkan

Layer tersembunyi

Layer Keluaran

Fungsi AktifasiFungsi aktifasi yang digunakan pada backpropagation yaitu sigmoid biner dan sigmoid bipolar

Fungsi Aktifasi

Algoritma Pelatihan Backpropagation

Algoritma Pelatihan Backpropagation dengan satu layer tersembunyi dan dengan menggunakan fungsi aktivasi sigmoid biner

Langkah 0 : Inisialisasi semua bobot dengan bilangan acak kecil.

Langkah 1 : Jika kondisi penghentian belum terpenuhi, lakukan langkah 2 sampai dengan 8.

Langkah 2: Untuk setiap pasang data pelatihan, lakukan langkah 3 sampai dengan 8

1

Y1

Y2

Ym

Z1

Z2

Zp

1

X1

X2

Xn

V10V20Vp0V11

Vp1V21

V12

Vm2

V22

V1n

Vpn

V2m

W10W20Wm0W11

Wm1W21

W12

Wm2W22

W1p

Wmp

W2p

Algoritma Pelatihan Backpropagation

Fase I: Propagasi Maju Langkah 3Tiap unit masukkan menerima sinyal dan meneruskan ke unit

tersembunyi Langkah 4Hitung semua keluaran di unit tersembunyi (Zj):

1

Y1

Y2

Ym

Z1

Z2

Zp

1

X1

X2

Xn

V10V20Vp0V11

Vp1V21

V12

Vm2

V22

V1n

Vpn

V2m

W10W20Wm0W11

Wm1W21

W12

Wm2W22

W1p

Wmp

W2p

Algoritma Pelatihan Backpropagation

Langkah 5Hitung semua jaringan di unit keluaran (yk)

1

Y1

Y2

Ym

Z1

Z2

Zp

1

X1

X2

Xn

V10V20Vp0V11

Vp1V21

V12

Vm2

V22

V1n

Vpn

V2m

W10W20Wm0W11

Wm1W21

W12

Wm2W22

W1p

Wmp

W2p

Algoritma Pelatihan Backpropagation

Fase II : Propagasi MajuLangkah 6Hitung factor unit keluaran berdasarkan kesalahan setiap unit keluaran yk (k=1,2,3….)

k=(tk-yk) f’(y_netk)= (tk-yk) yk (1-yk) k meruapakan unit kesalahan yang akan dipakai dalam perubahan bobot layer dibawahnya (lankah 7) Hitung suku perubahan bobot Wkj dengan laju perubahan α Δwkj= α k zj ; k=1,2,3,…,m ; j=0,1,2,…,p

1

Y1

Y2

Ym

Z1

Z2

Zp

1

X1

X2

Xn

V10V20Vp0V11

Vp1V21

V12

Vm2

V22

V1n

Vpn

V2m

W10W20Wm0W11

Wm1W21

W12

Wm2W22

W1p

Wmp

W2p

Algoritma Pelatihan Backpropagation

Langkah 7Hitung factor unit tersembunyi berdasarkan kesalahan di setiap unit tersembunyi zj (j=1,2,3,…,p)

 Faktor unit tersembunyi 

j = _netj f’(z_netj)= _netj zj (1-zz) Hitung suku perubahan bobot vji

 

Δvji=α jxi ; j=1,2,…,p ; i=0,1,2,…,n

1

Y1

Y2

Ym

Z1

Z2

Zp

1

X1

X2

Xn

V10V20Vp0V11

Vp1V21

V12

Vm2

V22

V1n

Vpn

V2m

W10W20Wm0W11

Wm1W21

W12

Wm2W22

W1p

Wmp

W2p

Algoritma Pelatihan Backpropagation

Fase III : Perubahan BobotLangkah 8Perubahan bobot garis yang menuju unit keluaran wkj (baru)= wkj (lama) + Δwkj  Perubahan bobot garis yang menuju ke unit tersembunyiVji (baru)= vji (lama) + Δvji

1

Y1

Y2

Ym

Z1

Z2

Zp

1

X1

X2

Xn

V10V20Vp0V11

Vp1V21

V12

Vm2

V22

V1n

Vpn

V2m

W10W20Wm0W11

Wm1W21

W12

Wm2W22

W1p

Wmp

W2p

Laju PemahamanLaju pemahaman di simbolkan dengan αLaju pemahaman menentukan lama iterasi

Nilai dari α diantara 0 sd 1Semakin besar nilai α semakin cepat lama iterasi

Akan tetapi jika terlalu besar akan merusak pola, sehingga justru akan lebih lama iterasinya

EpochEpoch yaitu satu siklus pelatihan yang melibatkan semua pola

Misal jika suatu arsitektur JST terdapat 4 pola masukkan dan 1 target, maka pelatihan 4 pola masukkan tersebut adalah 1 epoch