PROBABILISTIC NEURAL NETWORK

Probabilistic neural network dominan sebagai pengklasifikasi. PNN adalah implementasi dari algoritma statistik disebut analisis kernel diskriminan yang diorganisasikan ke dalam multi layered feedforward network dengan empat layer yaitu:

Layer input Layer pola Layer jumlahan Layer output

Jika fungsi rapat probabilitas (pdf) dari setiap populasi diketahui, maka x (tidak dikatahui) termasuk kelas “i” jika

f i( x )> f j ( x ), semua j ≠ i adalah PDF untuk kelas k

Estimasi pdf dengan menggunakan sampel dari populasi (set training)

PDF untuk singel sampel (di dalam populasi yang diketahui)

1σ

W ( x−xk

σ )dengan

x = input yang tidak diketahuixk = sampel ke-kW = fungsi bobotσ = parameter smoothing

PDF untuk singel populasi

1nσ ∑

k=1

n

W ( x−xk

σ )rata-rata PDF dari “n” sampel dalam populasi

Fungsi Bobot

Nilai bobot bernilai besar untuk jarak yang dekat antara titik training dengan titik yang tidak diketahui

Nilai bobot menurun dengan cepat menuju nol sebanding dengan peningkatan jarak

Fungsi bobot untuk PNN secara umum menggunakan fungsi gaussian. Fungsi gaussian digunakan karena berkelakuan baik dan mudah untuk dikomputasi. Penggunaan fungsi gauss ini tidak berhubungan dengan distribusi normal.

PDF estimasi menjadi

g( x )= 1nσ ∑

k=1

n

e−

(x− xk )2

σ2

Input untuk network adalah sebuah vektor

PDF untuk singel sampel (dalam populasi yang diketahui)

1(2 π )p/2 σ p ni

∑k=1

ni

e−

‖x− xik‖2

2 σ2

x = input yang tidak diketahui

xk = sampel ke-k

σ = parameter smoothing

p = panjang vektor

PDF untuk singel populasi

gi( x )= 1(2 π )p/2 σ pni

∑k=1

ni

e−

‖x−x ik‖2

2 σ2

(rata-rata PDF dari “ni” sampel dalam populasi ke-i)

Kriteria klasifikasi

gi( x )>g j (x ), semua j ≠ i

gi( x )= 1ni∑k=1

ni

e−

‖x−xik‖2

2σ 2

Training Set

Training set harus sepenuhnya mewakili populasi sebenarnya untuk klasifikasi yang efektif

Penambahan dan pengurangan sampel training berarti menambah dan mengurangi “saraf” pada layer pola

Ketika training set jumlahnya meningkat, PNN secara asimptotik konvergen menuju Bayes optimal classifier

PDF estimasi mendekati nilai PDF sebenarnya, dengan menganggap PDF sebenarnya adalah smooth

Proses training pada PNN adalah proses untuk menentukan nilai parameter smoothing, sigma