ANALISIS PERBANDINGAN ONLINE DAN OFFLINE TRAINING …

49

ANALISIS PERBANDINGAN ONLINE DAN OFFLINE TRAININGPADA JARINGAN BACKPROPAGATION PADA KASUS

PENGENALAN HURUF ABJAD

M Anggi Rivai Nst, Muhammad Zarlis, Zakarias SitumorangProgram Studi S-2 Teknik Informatika USU

[email protected]

Abstrak- Penelitian ini dibuat untuk pembelajaran tentang model jaringan syaraf tiruanyaitu Backpropagation, dimana didalamnya terdapat metode pembelajaran-pembelajaran yangbermanfaat untuk kita ketahui dalam identifikasi masalah sehingga dapat mempelajari modeldengan sendirinya dengan memiliki langkah-langkah yang telah kita berikan. Ada dua metodedari model Backpropagation dalam melakukan pembelajaran berupa pelatihan-pelatihan secaralangsung(Online) dan secara tidak langsung(Offline). Dengan membandingkan kedua metode inimaka analisis dari pengenalan huruf abjad akan mudah didapat berdasarkan titik-titik yangdimiliki tiap iterasi yang ada. Dengan melakukan perbandingan kedua metode ini kita jugadapat mengetahui dimana perbedaan yang didapat sehingga kita dapat mengetahui dengan baikyang mana sebaiknya kita gunakan dalam proses melakukan perkenalan huruf abjad.Berdasarkan perbandingan yang dibuat bukan hanya untuk melakukan perbandingan yang baikatau buruk tetapi untuk pembelajaran tentang akurasi dan waktu yang digunakan.

Kata Kunci - Jaringan Syaraf Tiruan, Backpropagation, Online, Offline.

I. PENDAHULUAN

Artificial Neural Network atau jaringan syaraftiruan merupakan bidang yang sangat berkembangsaat ini. Pemanfaatan teknologi mesin dancomputer yang tidak terbatas sebagai alat bantudalam aktifitas manusia mendorong penelitiansecara besar-besaran terhadap kecerdasan buatanatau artificial intelligence. Mesin yang selama inihanya bekerja sesuai dengan instruksi yangditentukan diharapkan mampu bekerja danmengambil keputusan sekaligus layaknyamanusia(Parker, 2006).

Identifikasi dan klasifikasi merupakan kegiatanmenggolongkan objek kedalam kategori tertentuuntuk tujuan – tujuan tertentu. Kegiatan identifikasidan klasifikasi yang membutuhkan pengetahuandan intuisi manusia dapat digantikan oleh mesinsehingga dapat meningkatkan kecepatan dalamkegiatan produksi pada beberapa bidang industrimaupun kecepatan pengolahan data pada bidang –bidang lain. Jaringan syaraf tiruan merupakanmodel matematika yang meniru cara kerja syarafmanusia sehingga computer atau mesin dapatbelajar dari data yang diberikan dan memberikanoutput yang ditentukan. Mesin yang telahdilengkapi dengan jaringan syaraf tiruan dapatbelajar terhadap lingkungan yang diberikan danmampu melakukan kegiatan yang selama ini masihdilakukan oleh manusia yaitu mengambil keputusanterhadap identifikasi maupun klasifikasi.

Backpropagation merupakan salah satu model

dari jaringan syaraf tiruan, dimanaBackpropagation menggunakan beberapa lapisanyang terdiri dari lapisan input, hidden dan output(Hermawan, 2006). Tiap lapisan terdiri dari node –node yang saling terhubung dan tiap hubungandiberikan bobot.

Jaringan Backpropagation merupakan metodeyang banyak digunakan dalam proses identifikasidan proses klasifikasi karena kemampuannya dalammempelajari beberapa kelas sekaligus melaluiproses propagasi balik.

Backpropagation merupakan metode yangsangat baik dalam proses pengenalan mengingatkemampuannya dalam mengadaptasikan kondisijaringan dengan data yang diberikan dengan prosespembelajaran (Hermawan, 2006). Prosespembelajaran jaringan syaraf tiruan terbagi menjadidua jenis yaitu pembelajaran Onlinedan Offline.Pembelajaran Online merupakan pembelajarandimana proses perbaikan bobot dilakukan pada tiapsample data yang dilatih pada tiap iterasi sedangkanpembelajaran Offline melakukan perbaikan bobotjaringan menggunakan error dari seluruh sampledata (Duffner & Garcia, 2007). PembelajaranOnline maupun Offline memiliki kelebihan dankelemahan tersendiri. Beberapa penelitian menilaipembelajaran Onlinelebih baik daripadapembelajaran Offline, beberapa penelitian lainmengatakan sebaliknya (Lemme, 2010), (Singh,2012), (Sha & Bajic, 2000).

InfoTekJar (Jurnal Nasional Informatika dan Teknologi Jaringan) e-ISSN : 2540-7600Vol 2, No 1, September 2017 p-ISSN : 2540-7597

50

Secara teoritis pembelajaran Offlinememberikan performa yang lebih baik daripadapembelajaran Online, dimana pembelajaran Offlinememberikan kecepatan belajar yang lebih baikdibandingkan dengan pembelajaran Online. Sistemnyata atau real time system yang menggunakan dataactual atau data terus berkembang dan bervariasimembuat pembelajaran Offline menjadipembelajaran yang tidak efektif, dan pada kasus iniOnline training memberikan kinerja yang lebih baikdibandingkan dengan pembelajaran Offline(LeCun,1998)(Istook, 2003).

II. TINJAUAN PUSTAKA

A. Jaringan syaraf Tiruan

Model saraf ditunjukkan dengankemampuannya dalam emulasi, analisis, prediksidan asosiasi. Kemampuan yang dimiliki JST dapatdigunakan untuk belajar dan menghasilkan aturanatau operasi dari beberapa contoh atau input yangdimasukkan dan membuat prediksi tentangkemungkinan output yang akan muncul ataumenyimpan karakteristik dari input yang disimpankepadanya. Jaringan syaraf merupakan sebuahkelompok pengolahan elemen dalam suatukelompok yang khusus membuat perhitungansendiri dan memberikan hasilnya kepada kelompokkedua atau berikutnya.Setiap sub-kelompokmenurut gilirannya harus membuat perhitungansendiri dan memberikan hasilnya untuk subgrupatau kelompok yang belum melakukanperhitungan. Pada akhirnya sebuah kelompok darisatu atau beberapa pengolahan elemen tersebutmenghasilkan keluaran (output) dari jaringan.

Setiap pengolahan elemen membuatperhitungan berdasarkan pada jumlah masukan(input). Sebuah kelompok pengolahan elemendisebut layer atau lapisan dalam jaringan. Lapisanpertama adalah input dan yang terakhir adalahoutput. Lapisan di antara lapisan input dan outputdisebut dengan lapisan tersembunyi (hidden layer).Jaringan sayaraf tiruan merupakan suatu bentukarsitektur yang terdistribusikan paralel dengansejumlah besar node dan hubungan antar-nodetersebut. Tiap titik hubungan dari satu node kenode yang lain mempunyai harga yangdiasosiasikan dengan bobot. Setiap node memilikisuatu nilai yang diasosiasikan sebagai nilai aktivasinode.

B. BackpropagationSebuah jaringan Backpropagation sederahana

terdiri dari sebuah input dan output layer. Inputpada input layer diteruskan melalui bobot untukmembawa input menuju lapisan output (Muijrers,2011). Jaringan perambatan galat mundur terdiri

atas tiga lapisan atau lebih unit pengolah.Ketigalapisan tersebut terhubung secarapenuh.Perambatan galat maju dimulai denganmemberikan pola masukan ke lapisanmasukan.Pola masukan ini merupakan nilaiaktivasi unit-unit masuka.Dengan melakukanperambatan maju dihitung nilai aktivasi pada unit-unit di lapisan berikutnya.Pada setiap lapisan, tiapunit pengolah melakukan penjumlahan berbobotdan menerapkan fungsi sigmoid untuk menghitungkeluarannya.

Gbr 1 Arsitektur Multilayer Neural NetworkSumber : Hermawan, A

Algoritma selengkapnya elatihan jaringanBackpropagation adalah sebagai berikut(Hermawan, 2006) :

Langkah 0 :Inisialisasi bobot (ambil bobotawal dengan nilai random yang cukup kecil).

Langkah 1 :Bila syarat berhenti adalah salah,kerjakan langkah 2 sampaiLangkah 2 :Untuk setiap pasangan pelatihan,kerjakan langkah 3-8.

…

… …

… …

…y1

a1 ak ai

x1 xn

ym

b1 bj

w11 w1k

bl

w1i

wn1

wnk wni

v11v1l

v1jvk1

vkl

vkj vi1

vil vij

u11

u1muj1

uj1

HiddenLayer

OutputLayer

InputLayer

ul1ulm


51

Feedforward:Langkah 3 : Tiap-tiap unit input (Xi, i=1,2,3,...,n)menerima sinyal xi dan meneruskan sinyal kesemua unit pada lapisan hidden(lapisantersembunyi).

Langkah 4 : Tiap-tiap unit lapisan tersembunyi (Zj,j=1,2,3,...,p) menjumlahkansinyal-sinyal inputterbobot:

z_inj = v0j +

n

iijivx

1(2.1)

v=Bobot awal input ke hidden.

Gunakan fungsi aktivasi untuk menghitung sinyaloutputnya:

zj = f(z_inj) (2.2)

dan mengirimkan sinyal tersebut ke semua unit dilapisan atasnya (unit unit output).

Langkah 5 : Tiap-tiap output (Yk, k=1,2,3,...,m)menjumlahkan sinyal-sinyal input terbobot.

y_ink = w0k +

p

jjkj wz

1(2.3)

gunakan fungsi aktivasi untuk menghitung sinyaloutputnya:

yk = f(y_ink)(2.4)

dan kirimkan sinyal tersebut ke semua unit dilapisan hidden (lapisan tersembunyi).Catatan: Langkah (b) dilakukan sebanyak jumlahlapisan tersembunyi.

BackpropagationLangkah 6 : Tiap-tiap unit output (Yk,k=1,2,3,...,m) menerima target polayangberhubungan dengan pola input pembelajaran,hitung informasi errornya

k = (tk-yk) f’(y_ink)(2.5)

Kemudian hitung koreksi bobot (yang nantinyaakan digunakanuntuk memperbaiki nilai wjk):

wjk = kzj(2.6)

Hitung juga koreksi bias

w0k = k(2.7)

Langkah 7 : Tiap-tiap unit lapisan tersembunyi (Zj,j=1,2,3,...,p) menjumlahkandelta inputnya (dariunit-unit yang berada dilapisan hidden).

_inj =

m

kjkk w

1 (2.8)

Kalikan nilai ini dengan turunan dari fungsiaktivasi untuk menghitung informasi error:

j = _inj f’(z_inj)(2.9)

kemudian hitung koreksi bobot:vij = jxi(2.10)

Langkah 8 : Tiap-tiap unit ouput (Yk, k=1,2,3,...,m)memperbaiki bias dan bobotnya (j=1,2,3,...,p):

wjk(baru) = wjk(lama) + wjk(2.11)

Tiap-tiap unit lapisan tersembunyi (Zj, j=1,2,3,...,p)memperbaiki nilai bias dan bobotnya(i=1,2,3,...,n.):vij(baru) = vij(lama) + vij (2.12)

Langkah 9 : Uji syarat berhenti.

C. OnlineBackpropagation

OnlineBackpropagation merupakan jaringanBackpropagation yang menggunakan proses updatesecara Online. Online dimaksudkan setiapperubahan bobot dilakukan pada setiap sample ataupada setiap input. Pelatihan dimulai denganmemasukkan nilai input dan melakukanperambatan maju, error kemudian dikalkulasi danupdate bobot baru langsung diterapkan untuk inputtersebut. Proses update bobot dilakukan untuksetiap varian input (Istook, 2003).

Backpropagation mungkin algoritmapembelajaran yang paling popular, algoritma untukperceptron multilayer merupakan jenis arsitekturjaringan saraf yang sederhana dan efekif. Ini adalahmetode backpropagtion secara Online dengantingkat adaptif pembelajaran secara global yangdidasari oleh ide yang disebut sudut tingkatperingatan yang di inisiasikan. Dengan nilai yangsangat kecil dan ditambah atau di kurangi sesuaidengan evolusi criteria kesalahan dari interiaksiterakhir.

Terdapat dua kelompok tingkat pembelajaran :1. Mengacu kepada metode penyesuaian tingkat

pembelajaran secara keseluruhan untuk seluruhjaringan.

2. Adaptasi secara independen tergantung tingkatmasalah yang dihadapi.

D. OfflineBackpropagationOfflineBackpropagation merupakan jaringan

Backpropagation yang menggunakan proses updatesecara batch. Offline dimaksudkan setiapperubahan bobot dilakukan pada saat error dari tiapset diperoleh. Pelatihan dimulai dengan


52

memasukkan nilai input dan melakukanperambatan maju, error kemudian ditampung dandisumarikan sampai pada sample input terakhir.Proses update bobot dilakukan berdasarkan erroryang diperoleh dari semua set input (Istook, 2003).

Offline training dapat juga disebut sebagaibatch training, dimana pelatihan dilakukan denganerror dari setiap sample input ditampung terlebihdahulu kemudian digunakan untuk proses updatebobot pada saat semua sample telah dilatih.Beberapa kelebihan Offline training yaitu sebagaiberikut (LeCun, 1998) : Kondisi dari konvergensi dapat dengan

mudah dilacak dan dipelajari. Beberapa teknik peningkatan

pembelajaran hanya bekerja pada Offlinetraining.

Analisis teori terhadap perubahan bobotdan konvergensi lebih mudah.

E. Klasifikasi Pada Jaringan Syaraf TiruanJaringan syaraf tiruan merupakan bidang

pengetahuan yang mana bertujuan untukmenciptakan mesin yang memiliki kecerdasan danpemahaman dengan menerapkan simulasi darisystem syaraf manusia (Cheriet, 2007). Sebuahjaringan syaraf tiruan terdiri dari beberapa neuron –neuron yang saling terhubung satu sama lain.

Pada jaringan syaraf tiruan sebuah neuronsering juga disebut dengan sebuah unit atau sebuahnode.Sebuah model neuron memiliki beberapakoneksi yang memiliki bobot, unit penjumlah dansebuah fungsi aktivasi.

Gbr 2 Model dari sebuah jaringan neuron (Cheriet, 2007).

Jaringan syaraf tiruan mampu merekampengetahuan yang direpresentasikan dengan bobotpada koneksi antar neuron. Proses pelatihan sebuahjaringan syaraf tiruan merupakan kegiatanmemberikan sejumlah input pada jaringan sehinggajaringan memodifikasi bobot – bobot pada tiapkoneksi neuronnya dalam rangka mempelajariinput yang diberikan.

Jaringan syaraf yang telah mampu memahamiinput yang telah diberikan kemudian dapatdigunakan untuk kegiatan identifikasi danklasifikasi. Kemampuan jaringan syaraf dalammelakukan identifikasi dan klasifikasi tidakterlepas pada kemampuannya beradaptasi terhadapinput yang diberikan dalam bentuk perubahanbobot pada koneksi antar neuron.

Gbr 3 Ilustrasi Klasifikasi Pola MenggunakanJaringan Syaraf Tiruan (McClelland, 2013)

Kemampuan klasifikasi yang dimiliki olehjaringan syaraf tiruan kemudian dimanfaatkan padaberbagai bidang seperti bidang identifikasi objekdan klasifikasi pola. Beberapa set objek diberikankepada jaringan dalam proses pelatihan sehinggajaringan mampu mengenali dan mengidentifikasiobjek – objek tersebut.

III. ANALISIS DAN PERANCANGAN

Langkah – langkah yang akan dilakukandalam penelitian ini adalah

1. Persiapan karakter yang akan digunakanpada proses pelatihan Online dan Offlinepada jaringan Backpropagation dalambentuk format citra digital.

2. Perancangan jaringan Backpropagation yangakan digunakan pada penelitian.

3. Menentukan parameter bobot, bias dantarget yang akan digunakan pada pelatihanOnline dan Offline.

4. Melakukan pengamatan terhadap performapembelajaran pada pelatihan Online danOffline dari jaringan Backpropagation yangdibangun.

5. Melakukan analisa terhadap kecepatanpelatihan, perubahan gradien dan akurasidari kedua jenis pelatihan.

Arsitektur jaringan syaraf tiruanBackpropagation yang akan digunakan padapenelitian ini dapat dilihat pada gambar berikut ini.

Gbr 4 Rancangan Arsitektur Jaringan Syaraf Tiruan

Karakter yang digunakan pada penelitian iniadalah karakter ‘A’ – ‘Z’ dengan jenis kapitalseperti yang terlihat pada gambar berikut.


53

Gbr 5 Karakter Pelatihan

A. Analisis Proses Pelatihan OfflinePelatihan Offline merupakan pelatihan jaringansaraf tiruan yang menganut konsep batch.Secaragaris besar tahapan pelatihan pada jenis pelatihanOffline dapat dijabarkan sebagai berikut.

1. Baca nilai input dari data latih ke – n.2. Teruskan nilai input ke unit input.3. Teruskan nilai input yang diterima oleh

unit input ke unit tersembunyi atauhidden.

4. Hitung nilai keluaran dari unittersembunyi menggunakan nilai sinyalinput terbobot menggunakan persamaan2.2 dan melakukan perhitungan fungsiaktivasi untuk memperoleh nilai keluarandari unit tersembunyi menggunakanpersamaan 2.3.

5. Teruskan nilai keluaran dari unittersembunyi ke unit output.

6. Hitung nilai keluaran dari unit outputdengan menghitung nilai sinyal keluaranunit keluaran terbobot menggunakanpersamaan 2.3 yang kemudian diikutidengan menghitung nilai outputmenggunakan fungsi aktivasimenggunakan persamaan 2.4.

7. Hitung galat error untuk data latih ke – nmenggunakan persamaan 2.5.

8. Hitung koreksi untuk tiap bobot padalapisan tersembunyi menggunakanpersamaan 2.6.

9. Hitung galat error pada unit tersembunyimenggunakan persamaan 2.9.

10. Hitung koreksi untuk tiap bobot padalapisan input menggunakan persamaan2.10.

11. Lanjutkan tahap pelatihan untuk data latihn+1.

12. Setelah semua data latih telah dipresentasikan ke dalam jaringan lakukanperubahan bobot pada unit tersembunyimenggunakan nilai koreksi bobot hasildari perhitungan menggunakan persamaanberikut.∆= (∆ (1) + ∆ (2) + ⋯+ ∆ ( )) (3.1)Dimana :

∆ = nilai koreksi bobot lapisantersembunyi.

= jumlah data latih

13. lakukan perubahan bobot pada unit inputmenggunakan nilai koreksi bobot hasildari perhitungan menggunakan persamaanberikut.∆= (∆ (1) + ∆ (2) + ⋯+ ∆ ( )) (3.2)Dimana :∆ = nilai koreksi bobot lapisan input.

= jumlah data latih

Seperti yang dapat dilihat pada tahapan prosesdiatas, pelatihan Offline mendata nilai perubahanbobot pada setiap data latih. Setelah semua datalatih telah dipresentasikan maka nilai perubahanbobot pada setiap data latih dijumlahkan untukmemperoleh nilai perubahan bobot baru yangdigunakan untuk proses perubahan bobot. Berikutdiagram alir dari proses pelatihan Offline.

Gbr 6 Proses Pelatihan Offline

B. Analisis Proses PelatihanOnlinePelatihan Online merupakan pelatihan jaringan

saraf tiruan yang menganut konsep linear ataustochastic. Secara garis besar tahapan pelatihanpada jenis pelatihan Online dapat dijabarkansebagai berikut.

1. Baca nilai input dari data latih ke – n.2. Teruskan nilai input ke unit input.3. Teruskan nilai input yang diterima oleh

unit input ke unit tersembunyi atauhidden.


54

4. Hitung nilai keluaran dari unittersembunyi menggunakan nilai sinyalinput terbobot menggunakan persamaan2.2 dan melakukan perhitungan fungsiaktivasi untuk memperoleh nilai keluarandari unit tersembunyi menggunakanpersamaan 2.3.

5. Teruskan nilai keluaran dari unittersembunyi ke unit output.

6. Hitung nilai keluaran dari unit outputdengan menghitung nilai sinyal keluaranunit keluaran terbobot menggunakanpersamaan 2.3 yang kemudian diikutidengan menghitung nilai outputmenggunakan fungsi aktivasimenggunakan persamaan 2.4.

7. Hitung galat error untuk data latih ke – nmenggunakan persamaan 2.5.

8. Hitung koreksi untuk tiap bobot padalapisan tersembunyi menggunakanpersamaan 2.6.

9. Lakukan update bobot pada lapisantersembunyi menggunakan persamaan2.11.

10. Hitung galat error pada unit tersembunyimenggunakan persamaan 2.9.

11. Hitung koreksi untuk tiap bobot padalapisan input menggunakan persamaan2.10.

12. Lakukan update bobot pada lapisan inputmenggunakan persamaan 2.12

13. Lanjutkan tahap pelatihan untuk data latihn+1.

Seperti yang dapat dilihat pada tahapan prosesdiatas, pelatihan Online tidak melakukan pendataankoreksi bobot yang disebabkan oleh setiap datalatih. Nilai koreksi bobot yang diperoleh dari tiapdata latih langsung diterapakan untuk melakukanperubahan bobot pada jaringan. Berikut diagramalir dari proses pelatihan Online.

Gbr 7. Proses Pelatihan Online

IV. HASIL DAN PEMBAHASAN

A. Kerangka Kerja PembuatanBerikut kerangka kerja yang digunakan

sebagai langkah-langkah dalam penyelesaianpermasalahan diatas.

Gbr 8 Proses Kerangka Kerja

B. Target Output BackpropagationPada proses pelatihan harus ditentukan target

output dari tiap karakter yang dipelajari. Berikuttable target output pada tiap karakter.

Masukkan Hurufyang sudahditentukantargetnya

Konversi Ke Biner

Model Offline Model Online

Perbandingan dariSisi Akurasi, Error

yang didapat,Waktu yang

dicapai, danPencapaian yang

didapat


55

TABEL ITARGET OUTPUT DATA PELATIHAN

No. Karakter Target Output1. A 0 0 0 0 02. B 0 0 0 0 13. C 0 0 0 1 04. D 0 0 0 1 15. E 0 0 1 0 06. F 0 0 1 0 17. G 0 0 1 1 08. H 0 0 1 1 19. I 0 1 0 0 0

10. J 0 1 0 0 111. K 0 1 0 1 012. L 0 1 0 1 113. M 0 1 1 0 014. N 0 1 1 0 115. O 0 1 1 1 016. P 0 1 1 1 117. Q 1 0 0 0 018. R 1 0 0 0 119. S 1 0 0 1 020. T 1 0 0 1 121. U 1 0 1 0 022. V 1 0 1 0 123. W 1 0 1 1 024. X 1 0 1 1 125. Y 1 1 0 0 026. Z 1 1 0 0 1

C. Parameter Jaringan BackpropagationPada jaringan Backpropagation terdapat

beberapa parameter yang harus ditentukan untukmembentuk jaringan Backpropagationitu sendiri,berikut parameter – parameter yang akan digunakanpada penelitian ini.

1. Jumlah Node Input.Sesuai dengan batasan masalah yang telahpenulis uraikan mengenai ukuran pikselpada tiap karakter yaitu 10 x 10, makajumlah node input pada jaringan harusdapat menampung tiap nilai dari tiappiksel karakter, sehingga jumlah nodeinput yang digunakan adalah 100 Node.

2. Jumlah Node Output.Karakter huruf terdiri dari karakter hurufbesar dengan jumlah 26 karakter. Untukitu harus disusun pola output biner yangdapat mengakomodasi jumlah karakter,sehingga digunakan jumlah node outputsebanyak 5 node, dimana 2 ^ 5 adalah 32sehingga dengan menggunakan 5 nodeakan memberikan kemungkinan 32 nilaikeluaran berbeda yang mana sudah lebihdari cukup untuk mengakomodasi 26karakter yang digunakan pada penelitianini.

3. Jumlah Node Hidden.Jumlah node hidden dapat dikalkulasikansebagai berikut.

NH = + = (2/3 * 100) + 5 = 72 Hiden Node.

D. Hasil RancanganRancangan yang dibentuk dapat dilihat pada

gambar dibawah ini:

Gbr 9 Tampilan Utama Aplikasi

Aplikasi yang dibangun memiliki beberapafitur utama yaitu pelatihan jaringan saraf tiruanBackpropagation terhadap data karakter dankemudian identifikasi. Seperti yang telah dijelaskansebelumnya, aplikasi yang dibangun merupakanalat bantu untuk meneliti kinerja jaringan danbukanlah output utama dari penelitian ini. Untukmengakomodasi kebutuhan akan pelatihan danidentifikasi terhadap karakter pada citra digitalmaka aplikasi dilengkapi dengan beberapaantarmuka seperti antarmuka data training yangdapat dilihat pada gambar berikut.

Gbr 10 Antarmuka Data Training

Antarmuka data training seperti yang terlihatpada gambar 10 memiliki beberapa fungsi yangdapat digunakan untuk melakukan penambahan danpenghapusan data latih yang digunakan untukmelatih jaringan saraf tiruan Backpropagation


56

sebelum jaringan bacpropagation tersebut dapatdigunakan untuk proses identifikasi ataupengenalan.

E. Analisis dan PengujianAnalisis yang dilakukan pada penelitian ini

adalah analisis terhadap kinerja jaringan saraftiruan Backpropagation menggunakan pelatihanyang berbeda yaitu Online dan Offline training.Untuk dapat melakukan analisis terhadap jaringansaraf Backpropagation tersebut maka akandilakukan pengujian terhadap jaringanBackpropagation yang dibangun. Parameter –parameter dan data yang diperlukan oleh kegiatanpengujian pertama sekali harus ditentukan dandisiapkan seperti data karakter, parameter tingkatpembelajaran, bobot dan lain sebagainya.

Jaringan saraf tiruan Backpropagationmemiliki arsitektur jaringan yang tetap sehinggadiperlukan pengaturan konfigurasi dan penentuanparameter dalam membangun jaringan saraf tiruanBackpropagation sebelum dapatdigunakan.jaringan saraf Backpropagation yangdigunakan pada penelitian ini memiliki arsitektursebagai berikut :

a. Jumlah unit input : 100 unit.b. Jumlah unit tersembunyi (hidden node) : 60

unit.c. Jumlah unit output : 6 unit.

Penggunaan jumlah unit input dengan jumlah100 unit bertujuan untuk dapat mengakomodasicitra karakter yang berukuran 10 x 10 piksel,dimana citra dengan ukuran 10 x 10 pikselmemiliki total piksel berjumlah 100 pikselsehingga diperlukan 100 unit input untuk dapatmenerima nilai dari piksel dari citra karakter yangdigunakan. Jumlah unit tersembunyi dipilihsebanyak 60 unit dengan mempertimbangkanbahwa jumlah unit tersembunyi harus diantarajumlah unit input dan jumlah unit keluaran. Unitoutput atau unit keluaran menggunakan 6 unituntuk dapat mengakomodasi rentang targetkarakter yang digunakan yaitu berjumlah 26karakter.

Pengujian akan dilakukan secara bertahap yangmana setiap tahap akan menggunakan jumlah datakarakter yang berbeda – beda. Secara garis besarpengujian yang akan dilakukan pada penelitian initerdiri dari 5 pengujian yaitu pengujian A denganmenggunakan jumlah data pelatihan sebanyak duadata, pengujian B dengan menggunakan jumlahdata pelatihan sebanyak 10 buah data, pengujian Cdengan menggunakan jumlah data pelatihansebanyak 26 buah data.

F. Pengujian A (Karakter A-B)Pengujian A dilakukan dengan melakukan

pelatihan pada jaringan saraf tiruanBackpropagation menggunakan dua data latih yaitukarakter A dan B. Pelatihan pada pengujian A akandilakukan sebanyak dua pelatihan yaitu pelatihanOnline dan pelatihan Offline. Proses pelatihan padajaringan saraf tiruan Backpropagation padapengujian ini menggunakan parameter pelatihansebagai berikut.

a. Maksimum Epoch : 5000b. Alpha (Tingkat Pembelajaran) : 0.5c. Minimum Error / Goal : 0.001Proses pelatihan dilakukan menggunakan

aplikasi yang telah dikembangkan denganmenggunakan data latih citra karakter yang telahdisiapkan pada bagian sebelumnya. Prosespelatihan dapat dilihat pada gambar 11 dan gambar12 berikut.

Gbr 11 Pelatihan Online pengujian A

Pelatihan Online pada pengujian A sepertiyang terlihat pada gambar 11 mampu mencapaigoal atau target minimum error pada epoch ke 112.Statistik memperlihatkan pelatihanOnlinemembutuhkan waktu 16 detik dalam prosespelatihannya.

Gbr 12 Pelatihan Offline pengujian A

Pelatihan Offline pada pengujian A sepertiyang terlihat pada gambar 11 mampu mencapaigoal atau target minimum error pada epoch ke 262.Statistik memperlihatkan pelatihan Offlinemembutuhkan waktu 39 detik dalam prosespelatihannya. Berikut grafik dari error komparatifpada pengujian A.


57

Gbr 13 Perbandingan Error Pengujian A

G. Pengujian A (Karakter A-J)Pengujian B dilakukan dengan melakukan

pelatihan pada jaringan saraf tiruanBackpropagation menggunakan sepuluh data latihyaitu karakter A sampai J. Pelatihan padapengujian B akan dilakukan sebanyak duapelatihan yaitu pelatihan Online dan pelatihanOffline. Proses pelatihan pada jaringan saraf tiruanBackpropagation pada pengujian ini menggunakanparameter pelatihan sebagai berikut.



Gbr 14 Pelatihan Online pengujian B

Pelatihan Online pada pengujian B sepertiyang terlihat pada gambar 14 mampu mencapaigoal atau target minimum error pada epoch ke 176.Statistik memperlihatkan pelatihan Onlinemembutuhkan waktu 2 menit 11 detik dalam prosespelatihannya.

Gbr 15 Pelatihan Offline pengujian B

Pelatihan Offline pada pengujian B sepertiyang terlihat pada gambar 15 mampu mencapaigoal atau target minimum error pada epoch ke1571. Statistik memperlihatkan pelatihan Offlinemembutuhkan waktu 19 menit 40 detik dalamproses pelatihannya. Berikut grafik dari errorkomparatif pada pengujian B.

Gbr 16 Perbandingan Error Pengujian B

H. Pengujian A (Karakter A-Z)Pengujian C dilakukan dengan melakukan

pelatihan pada jaringan saraf tiruanBackpropagation menggunakan 26 data latih yaitukarakter A sampai Z. Pelatihan pada pengujian Cakan dilakukan sebanyak dua pelatihan yaitupelatihan Online dan pelatihan Offline. Prosespelatihan pada jaringan saraf tiruanBackpropagation pada pengujian ini menggunakanparameter pelatihan sebagai berikut.



00.10.20.30.40.5

1 11 21 31 41 51 61 71 81 91

Erro

r

Perbandingan Error

Offline

Online

0

0.2

0.4

0.6

0.81 18 35 52 69 86 103

120

137

154

171

Erro

r

Perbandingan ErrorOffline

Online


58

Gbr 17 Pelatihan Online pengujian C

Pelatihan Online pada pengujian B sepertiyang terlihat pada gambar 18 tidak mampumencapai goal atau target minimum error padaepoch ke 300. Statistik memperlihatkan pelatihanOnline membutuhkan waktu 9 menit 54 detikdalam proses pelatihannya untuk mencapai 300epoch.

Gbr 18 Pelatihan Offline pengujian C

Pelatihan Offline pada pengujian C sepertiyang terlihat pada gambar 19 tidak mampumencapai goal atau target minimum error padaepoch ke 300. Statistik memperlihatkan pelatihanOffline membutuhkan waktu 9 menit 44 detikdalam proses pelatihannya. Berikut grafik dari errorkomparatif pada pengujian B.

Gbr 19 Perbandingan Error Pengujian C

I. Analisis Hasil PengujianPengujian yang telah dilakukan pada sub bab

sebelumnya memberikan hasil statistik yangberbeda untuk tiap jenis pelatihan. Pada sub bab iniakan dilakukan analisis hasil pengujian sertapembahasan terhadap kinerja kedua jenis pelatihanjaringan saraf tiruan Backpropagation berdasarkanhasil analisis yang dilakukan. Berdasarkanpengujian yang telah dilakukan maka dapatdiperoleh data kinerja dari kedua jenis pelatihanseperti yang terlihat pada tabel berikut.

TABEL IIHASIL PENGUJIAN PELATIHAN ONLINE

No. Pengujian DataLatih

Target Epoch yangdibutuhkan

Waktu

1. PengujianA

A–B Tercapai 112 16 D

2. PengujianB

A–J Tercapai 176 2 M11 D

3. PengujianC

A–Z Tidak 300 9 M54 D

TABEL IIIHASIL PENGUJIAN PELATIHAN OFFLINE

No. Pengujian DataLatih

Target Epochyang

dibutuhkan

Waktu

1. PengujianA

A–B Tercapai 262 39 D

2. PengujianB

A–J Tercapai 1571 19 M40 D

3. PengujianC

A–Z Tidak 300 9 M44 D

Berdasarkan hasil pengujian seperti yang dapatdilihat pada tabel 2 dan 3 diatas, dapat dilihatbahwa pelatihan jaringan Backpropagationmenggunakan pelatihan Online memberikankinerja yang jauh lebih baik dibandingkan denganpelatihan Offline baik dari sisi waktu maupunepoch yang dibutuhkan untuk mencapai goal.Namun seiring bertambahnya jumlah data latih ataudata training, pelatihan Online memperlihatkanpergerakan error yang semakin tidak stabil seiringbertambahnya jumlah training. Pelatihanmenggunakan jaringan Offline memiliki pergerakanerror lebih stabil dimana error menurun secarahalus. Hal ini menunjukkan pelatihan Offlinememberikan kestabilan yang cukup tinggi danmemiliki toleransi terhadap meningkatnya jumlahdata training.

0

0.2

0.4

0.6

0.8

1

1.2

1 23 45 67 89 111

133

155

177

199

221

243

265

287

Erro

r

Perbandingan ErrorOffline

Online


59

DAFTAR PUSTAKA

[1] ALGORITHM FOR MLP AND APPLICATIONTO ANDENTIFICATION PROBLEM.Durban: Centre ForEngineering Research,Technikon Natal.

[2] Baxes, & Gregory, A. (1994). Digital Image Processing:Principles and Applications. New York: John Wiley &Sons.

[3] Cheriet, M. (2007). Character Recognition System.Canada: John Willey & Son.

[4] Duffner, S., & Garcia, C. (2007). An OnlineBackpropagation Algorithm with Validation Error BasedAdaptive Learning Rate. Cesson-Sevigne: Orange Labs.

[5] Hermawan, A. (2006). Jaringan Saraf Tiruan.Yogyakarta: Penerbit Andi.

[6] Istook, E. (2003). IMPROVED BACKPROPAGATIONLEARNING IN NEURAL NETWORKS WITHWINDOWED MOMENTUM. International Journal ofNeural Systems , vol. 12, No. 3 &4 .

[7] LeCun, Y. (1998). Efficient BackProp. NewJersey:Springer.

[8] Lemme, A. (2010). Efficient online learning of a non-negative sparse autoencoder. Bielefeld: CoR-Lab.

[9] McClelland, J. (2013). Explorations in ParallelDistributed Processing: A Handbook of Models,Programs, and Exercises. Stanford.

[10] Muijrers, V. (2011). Training a Back-PropagationNetwork with Temporal Difference Learning and adatabase for the board game pente. Philedelphia: ECTS.

[11] Parker, L. R. (2006). Notes on Multilayer, FeedforwardNeural Networks. CS494/594: Projects in MachineLearning.

[12] Sha, D., & Bajic, V. B. (2000). ON-LINE ADAPTIVELEARNING RATE BP.

[13] Singh, G. (2012). Recognition of Handwritten HindiCharacters using Backpropagation Neural Network.International Journal of Computer ScienceandInformation Technologies , Vol. 3.

[14] Sutoyo, T. (2009). Pengolahan Citra Digital. Yogyakarta:Penerbit Andi.

[15] Tiwari, R. R. (2013). HANDWRITTEN DIGITRECOGNITION USING BACKPROPAGATIONNEURAL NETWORK& K-NEAREST NEIGHBOURCLASSIFIER. International Journal of Electrical,Electronics and Data Communication , Vol. 1.

ANALISIS PERBANDINGAN ONLINE DAN OFFLINE TRAINING …

Documents

Transcript of ANALISIS PERBANDINGAN ONLINE DAN OFFLINE TRAINING …