Jaringan Syaraf Tiruan (JST)

http://mhs.stiki.ac.id/06114001/Software/bowo/JST.ppt

Susunan syaraf manusia

Model sel syaraf

• Sel syaraf (neuron) adalah unit pemrosesan informasi yang merupakan dasar dari operasi JST.

• Terdapat tiga elemen dasar dari model neuron, yaitu:1. Sekumpulan sinapsis atau jalur hubungan, di mana

masing-masing sinapsis memiliki bobot atau kekuatan hubungan.

2. Suatu adder untuk menjumlahkan sinyal-sinyal input yang diberi bobot oleh sinapsis neuron yang sesuai. Operasi-operasi yang digambarkan di sini mengikuti aturan linear combiner.

3. Suatu fungsi aktivasi untuk membatasi amplituda output setiap neuron.

Pengertian JST

• JST merupakan salah satu upaya manusia untuk memodelkan cara kerja atau fungsi sistem syaraf manusia dalam melaksanakan tugas tertentu.

• JST mempunyai struktur tersebar paralel yang sangat besar dan mempunyai kemampuan belajar, sehingga bisa melakukan generalisasi, yaitu bisa menghasilkan output yang benar untuk input yang belum pernah dilatihkan.

Model sel syarafModel sel syaraf

• Sebuah neuron bisa memiliki banyak masukan tetapi hanya memiliki satu keluaran yang bisa menjadi masukan bagi neuron-neuron yang lain.

• Pada gambar terlihat serangkaian sinyal masukan x1, x2, …, xp.

• Tiap sinyal masukan dikalikan dengan suatu bobot (wk1, wk2, …, wkp) dan kemudian semua masukan yang telah diboboti tadi dijumlahkan untuk mendapatkan output kombinasi linear uk.

• Selanjutnya uk akan diinputkan ke suatu fungsi aktivasi(.) untuk menghasilkan output dari neuron tersebut yk.

• Suatu nilai threshold atau bias() dapat ditambahan untuk menyesuaikan nilai masukan ke fungsi aktivasi.

Model sel syaraf (dengan Model sel syaraf (dengan menyertakan threshold)menyertakan threshold)

Model sel syaraf (dengan Model sel syaraf (dengan menyertakan nilai bias)menyertakan nilai bias)

Fungsi Aktivasi

• Fungsi aktivasi yang dinotasikan dengan (.) mendefinisikan nilai output dari suatu neuron dalam level aktivitas tertentu berdasarkan nilai output pengkombinasi linier ui.

• Ada beberapa macam fungsi aktivasi yang biasa digunakan, di antaranya adalah:– Hard Limit

– Threshold

– Symetric Hard Limit

– Fungsi linear (identitas)

– Fungsi Saturating Linear

– Fungsi Sigmoid Biner

– Fungsi Sigmoid Bipolar

Fungsi Hard Limit

• Fungsi hard limit dirumuskan sebagai:

Hard Limit (dengan threshold)

• Fungsi hard limit dengan threshold dirumuskan sebagai:

Symetric Hard Limit

• Fungsi symetric hard limit dirumuskan sebagai:

Fungsi linear (identitas)

• Fungsi linear dirumuskan sebagai:

Fungsi Saturating Linear

• Fungsi saturating linear dirumuskan sebagai:

Fungsi Sigmoid Biner

• Fungsi sigmoid biner dirumuskan sebagai:

Fungsi Sigmoid Bipolar

• Fungsi sigmoid bipolar dirumuskan sebagai:

Arsitektur Jaringan

• Pola di mana neuron-neuron pada JST disusun berhubungan erat dengan algoritma belajar yang digunakan untuk melatih jaringan.

• Secara umum arsitektur jaringan dapat dibagi menjadi empat, yaitu:– Single layer feedforward networks

– Multi layer feedforward networks

– Recurrent Networks

– Lattice Structure

Single layer feedforward Single layer feedforward networksnetworks

Suatu JST biasanya diorganisasikan dalam bentuk Suatu JST biasanya diorganisasikan dalam bentuk lapisan-lapisan (layer).lapisan-lapisan (layer).

Pada bentuk paling sederhana hanya terdapat input Pada bentuk paling sederhana hanya terdapat input layer dan output layer, seperti pada gambar berikut:layer dan output layer, seperti pada gambar berikut:

Multi layer feedforward Multi layer feedforward networksnetworks

Kelas kedua dari feedforward neural Kelas kedua dari feedforward neural network adalah jaringan dengan satu atau network adalah jaringan dengan satu atau lebih lapis tersembunyi (lebih lapis tersembunyi (hidden layerhidden layer).).

Recurrent NetworksRecurrent Networks Recurrent neural network adalah Recurrent neural network adalah

jaringan yang mempunyai minimal jaringan yang mempunyai minimal satu satu feedback loopfeedback loop..

Sebagai contoh, suatu recurrent Sebagai contoh, suatu recurrent network bisa terdiri dari satu lapisan network bisa terdiri dari satu lapisan neuron tunggal dengan masing-neuron tunggal dengan masing-masing neuron memberikan kembali masing neuron memberikan kembali outputnya sebagai input pada semua outputnya sebagai input pada semua neuron yang lainneuron yang lain

Recurrent NetworksRecurrent Networks

Recurrent NetworksRecurrent Networks Berikut adalah jenis lain dari recurrent network Berikut adalah jenis lain dari recurrent network

dengan hidden neurons.dengan hidden neurons.

Lattice StructureLattice Structure Sebuah lattice (kisi-kisi) terdiri dari array neuron Sebuah lattice (kisi-kisi) terdiri dari array neuron

berukuran satu dimensi, atau dua dimensi, atau berukuran satu dimensi, atau dua dimensi, atau lebih.lebih.

Berikut adalah lattice satu dimensi dengan 3 neuron Berikut adalah lattice satu dimensi dengan 3 neuron yang mendapatkan masukan dari 3 node sumber.yang mendapatkan masukan dari 3 node sumber.

Lattice StructureLattice Structure Berikut adalah lattice dua dimensi dengan 3 kali 3 Berikut adalah lattice dua dimensi dengan 3 kali 3

neuron yang mendapatkan masukan dari 3 node sumber.neuron yang mendapatkan masukan dari 3 node sumber.

Proses belajar

• Proses belajar dalam konteks JST dapat didefinisikan sebagai berikut:– Belajar adalah suatu proses di mana parameter-

parameter bebas JST diadaptasikan melalui suatu proses perangsangan berkelanjutan oleh lingkungan di mana jaringan berada.

• Pada pembahasan selanjutnya akan dibahas dua metode belajar, yaitu:– Supervised learning (belajar dengan pengawasan)

– Unsupervised learning (belajar tanpa pengawasan).

Supervised Learning• Supervised learning adalah proses belajar yang

membutuhkan guru, yaitu sesuatu yang memiliki pengetahuan tentang lingkungan.

• Guru bisa direpresentasikan sebagai sekumpulan sampel input-output.

• Pembangunan pengetahuan dilakukan oleh guru dengan memberikan respons yang diinginkan kepada JST.

• Parameter-parameter jaringan berubah-ubah berdasarkan vektor latih dan sinyal kesalahan, yaitu perbedaan antara keluaran JST dan respons yang diinginkan.

• Proses perubahan dilakukan dalam bentuk iterasi.

Unsupervised Learning

• Unsupervised Learning atau self-organized learning tidak membutuhkan guru untuk membantu proses belajar.

• Dengan kata lain, tidak ada sekumpulan sampel input-output atau fungsi tertentu untuk dipelajari oleh jaringan.

• Salah satu contoh unsupervised learning adalah competitive learning, di mana neuron-neuron saling bersaing untuk menjadi pemenang.