Teoria RP Bayes

8/16/2019 Teoria RP Bayes

http://slidepdf.com/reader/full/teoria-rp-bayes 1/56

TEORIA DE LA DECISIONDE BAYES

1



TEORIA DE LA DECISION DE BAYES

2




PROBABILIDAD A PRIORI

3




4




5




DENSIDAD DE PROBABILIDAD

Además de la probabilidad a priori a menudo setiene información adicional: el valor de laobservación x que se va a clasificar.

Ejemplo:¿Cómo etiquetaríamos a una persona cuya analítica

Ha ue considerar:• Probabilidad a priori• Valor de la observación

6





7





8




9




10




11




PROBABILIDAD A POSTERIORI

12




PROBABILIDAD A POSTERIORI

13




14




Efecto de la prob. a priori sobre la prob. a posteriori

15




REGLA DE CLASIFICACIÓN DE BAYES

16




17




18




19




20




Al considerar robabilidades a riori las clases

muy infrecuentes resultan ‘castigadas’

21




PROBLEMAS MULTICLASE CON PATRONES MULTIDIMENSIONALES

REGLA DE CLASIFICACIÓN DE BAYES

22




FUNCIONES DISCRIMINANTES Y SUPERFICIES DE DECISIÓN

Supongamos que existen gi(X) funciones discriminantes:Una función discriminante para la clase ‘i’ (gi(X)) tiene

la propiedad de que alcanza un mayor valor quecua qu er o ra unc n scr m nan e g j para o as asotras clases

Seleccionarwi si gi(X) >= g j(X) para todo j

23




FUNCIONES DISCRIMINANTES Y SUPERFICIES DE DECISIÓN

Una posibilidad para considerar gi(X) es:gi(X)=P(wi|X)

o bien cualquier otra función equivalente:gi = i πi

Para un problema de clasificación en dos clases, laformulación se simplifica. Basta considerar:

g(X)=g1(X)-g2(X)Siendo la regla de clasificación:

1 2

24




FRONTERA Y REGIONES DE DECISIÓN ENTRE 2 CLASES

25





26





Influencia de la Probabilidad a Priori i

27




ERROR EN LA CLASIFICACION

28





29





MÍNIMO ERROR

30





31




ESTIMACIÓN DEL ERROR Y VERIFICACIÓN DE LOS RESULTADOS

32





33





34




35




ESTIMACIÓN POR RESUSTITUCIÓN

36




ESTIMACIÓN POR RESUSTITUCIÓN

37





38




ESTIMACIÓN POR CONJUNTO DE PRUEBA O TEST

39




ESTIMACI N POR VALIDACI N CRUZADA

40




41




ESTIMACIÓN POR VALIDACIÓN CRUZADA

42




VERIFICACIÓN DE RESULTADOS

Matriz de confusión o Matriz de contingencia• Presentación y análisis del resultado de una

clasificación

• Matriz cuadrada de orden JxJ que tiene anexas filas

y columnas auxiliares para contabilizar totales y otras

métricas

43





EJEMPLO DE MATRIZ DE CONFUSIÓN con 5 clases

44





45






46



.

EJEMPLO DETALLADO

DE UNSISTEMA DE RECONOCIMIENTO DE PATRONES

47

EJEMPLO



EJEMPLO

SISTEMA DE RECONOCIMIENTO DE PATRONES PARALA CONCESION O NO DE UN PRÉSTAMO BANCARIO

Variables disponibles: Clases:

• a

•Salario mensual

• o va a evo ver

• No lo va a devolver (MOROSO)

Se disponen de 20 ejemplos, 10 por cada clase

48

EJEMPLO



EJEMPLO

49

EJEMPLO



EJEMPLO

1.8

2

1.8

2

NO devuelve el prestamo SI devuelve el prestamo

1.6 1.6

1.2

.

i d u o s 1.2

.

i d u o s

0.8

1

N o d e

i n d i

0.8

1

N o d e

i n d i

0.6 0.6

0.2

.

0.2

.

50

0 20 40 60 800

Edad

0 20 40 60 800

Edad

EJEMPLO



EJEMPLO

1.8

NO devuelve el prestamo SI devuelve el prestamo

1.4

1.6.

1.2

i v i d u o s

2

i v i d u o s

0.8

1

N o d

e i n d 1.5

N o d

e i n d

0.4

0.61

0.2

0.5

51

0 1000 2000 30000

Salario mensual

0 1000 2000 30000

Salario mensual

EJEMPLO



EJEMPLO

2500Concesion de prestamo

SI devuelve el prestamo

2000

1500

e n s u a l

1000 S a l a r i o

500

10 20 30 40 50 60 70 800

52

Edad

EJEMPLO



EJEMPLO

Probabilidad a riori: 0.5 ara las 2 clases

No se conocen las densidades de probabilidad de los atributos

,

Clasificador utilizado:

DISTANCIA EUCLIDEA A LA MEDIA DE CADA CLASE

53

EJEMPLO



J O

2500 Concesion de prestamo

NO devuelve el prestamoSI devuelve el prestamo

2000

62 1745

1500

n s u a l

media CLASE SI

1000 S a l a r

i o m e

500media CLASE NO

(33, 589)

0

54

10 20 30 40 50 60 70 80

Edad

EJEMPLO



55

EJEMPLO



MATRIZ DE CONFUSIÓN

Clases 1 2 Total Éxito Error 1 9 1 10 90% 10%

2 1 9 10 90% 10%

BONDAD MEDIA

56

Teoria RP Bayes

Documents

Transcript of Teoria RP Bayes