Post on 12-Jul-2016
description
PROBABILISTIC NEURAL NETWORK
Probabilistic neural network dominan sebagai pengklasifikasi. PNN adalah implementasi dari algoritma statistik disebut analisis kernel diskriminan yang diorganisasikan ke dalam multi layered feedforward network dengan empat layer yaitu:
Layer input Layer pola Layer jumlahan Layer output
Jika fungsi rapat probabilitas (pdf) dari setiap populasi diketahui, maka x (tidak dikatahui) termasuk kelas “i” jika
f i( x )> f j ( x ), semua j ≠ i adalah PDF untuk kelas k
Estimasi pdf dengan menggunakan sampel dari populasi (set training)
PDF untuk singel sampel (di dalam populasi yang diketahui)
1σ
W ( x−xk
σ )dengan
x = input yang tidak diketahuixk = sampel ke-kW = fungsi bobotσ = parameter smoothing
PDF untuk singel populasi
1nσ ∑
k=1
n
W ( x−xk
σ )rata-rata PDF dari “n” sampel dalam populasi
Fungsi Bobot
Nilai bobot bernilai besar untuk jarak yang dekat antara titik training dengan titik yang tidak diketahui
Nilai bobot menurun dengan cepat menuju nol sebanding dengan peningkatan jarak
Fungsi bobot untuk PNN secara umum menggunakan fungsi gaussian. Fungsi gaussian digunakan karena berkelakuan baik dan mudah untuk dikomputasi. Penggunaan fungsi gauss ini tidak berhubungan dengan distribusi normal.
PDF estimasi menjadi
g( x )= 1nσ ∑
k=1
n
e−
(x− xk )2
σ2
Input untuk network adalah sebuah vektor
PDF untuk singel sampel (dalam populasi yang diketahui)
1(2 π )p/2 σ p ni
∑k=1
ni
e−
‖x− xik‖2
2 σ2
x = input yang tidak diketahui
xk = sampel ke-k
σ = parameter smoothing
p = panjang vektor
PDF untuk singel populasi
gi( x )= 1(2 π )p/2 σ pni
∑k=1
ni
e−
‖x−x ik‖2
2 σ2
(rata-rata PDF dari “ni” sampel dalam populasi ke-i)
Kriteria klasifikasi
gi( x )>g j (x ), semua j ≠ i
gi( x )= 1ni∑k=1
ni
e−
‖x−xik‖2
2σ 2
Training Set
Training set harus sepenuhnya mewakili populasi sebenarnya untuk klasifikasi yang efektif
Penambahan dan pengurangan sampel training berarti menambah dan mengurangi “saraf” pada layer pola
Ketika training set jumlahnya meningkat, PNN secara asimptotik konvergen menuju Bayes optimal classifier
PDF estimasi mendekati nilai PDF sebenarnya, dengan menganggap PDF sebenarnya adalah smooth
Proses training pada PNN adalah proses untuk menentukan nilai parameter smoothing, sigma