Redes Neuronales

Aplicaciones Empresariales AvanzadasLuis Sánchez Castellanos

David Mesas Teruel

¿Qué es una neurona biológica?

La neurona biológica:• Pequeñas unidades de procesamiento• Composición:

– Canales de entrada: dendritas– Núcleo– Canal de salida: axón– Conexión: Sinapsis

Analogías entre biológicas y artificialesNeuronas biológicas Neuronas artificiales

Neuronas Unidades de procesamiento

Conexiones sinápticas Conexiones ponderadas

Efectividad de las sinápsis Peso de las conexiones

Efecto excitatorio o inhibido de una conexión

Signo del peso de una conexión

Efecto combinado de las sinápsis

Función de propagación o de red

Activación → tasa de disparo Función de activación → Salida

Analogías entre biológicas y artificiales

1jW

2jWjO

.

.

.

1I

2I

nI

f

jb

NEURONA j

jnW

FUNCIÓN DETRANSFERENCIA

SALIDAjs

PESOS

ENTRADAS

¿Cómo trabaja una neurona artifical?

El primer modelo fué el de McCulloch-Pitts:

El resultado del cálculo en una neurona consiste en realizar una suma ponderada de las entradas, seguida de la aplicación de una función no-lineal.

Esto se expresa matemáticamente comoo = s(red)

Donde: es la suma ponderada.xi: es el valor de la i-ésima entrada (input).Wi: es el peso (weights) de la conexión entre la i-ésima entrada y la neurona.: es el valor umbral (threshold)o: es la salida (output) de la neurona.s: es la función no-lineal conocida como función de activación.

¿Qué es una red neuronal?

Una red neuronal es un sistema compuesto de muchos elementos simples de proceso operando en paralelo cuya función está

determinada por la estructura de la red, los pesos de las conexiones, y el procesado realizado en los elementos o nodos de

cálculo.

La estructura de redLa estructura de red depende de cómo se vaya a

enfocar el problema a resolver, es el conjunto de una serie de neuronas que interconectan sus

axones con las dentritas de las siguientes, un ejemplo lo podemos ver en la imagen.

Topología

Hay tres tipos:• Dos tipos de redes de propagación hacia

delante o acíclicas.– Monocapa. Ejemplos: perceptrón, Adaline.

– Multicapa. Ejemplos: perceptrón multicapa.

• Las redes recurrentes que presentan al menos un ciclo cerrado de activación neuronal. Ejemplos: Elman, Hopfield, máquina de Bolzman.

Topología

Ventajas que aportan las RN

• Aprendizaje Adaptativo: capacidad de aprender a realizar tareas basadas en un entrenamiento o en una experiencia inicial.

• Auto-organización: una red neuronal puede crear su propia organización o representación de la información que recibe mediante una etapa de aprendizaje.

• Tolerancia a fallos: la destrucción parcial de una red conduce a una degradación de su estructura; sin embargo, algunas capacidades de la red se pueden retener, incluso sufriendo un gran daño.

Ventajas que aportan las RN

• Operación en tiempo real: los cómputos neuronales pueden ser realizados en paralelo; para esto se diseñan y fabrican máquinas con hardware especial para obtener esta capacidad.

• Fácil inserción dentro de la tecnología existente: se pueden obtener chips especializados para redes neuronales que mejoran su capacidad en ciertas tareas. Ello facilitará la integración modular en los sistemas existentes.

Muy bien... pero ¿para qué sirven?

Los campos de aplicación son habitualmente todos aquellos en los que se utilizan o pueden

utilizarse modelos estadísticos y/o lineales.

Finanzas NegociosPredicción de índicesDerección de fraudesRiesgo crediticio, clasificaciónPredicción de la rentabilidad de acciones

MarketingVenta cruzadaCampanas de venta

Tratamiento de textos y proceso de formas AlimentaciónReconocimiento de caracteres impresos mecánicamenteReconocimiento de gráficosReconocimiento de caracteres escritos a manoReconocimiento de escritura manual cursiva

Análisis de olor y aromaPerfilamiento de clientes en función de la compraDesarrollo de productosControl de Calidad

Industria manufacturera Energía

Control de procesosControl de calidadControl de robots

Predicción consumo eléctricoDistribución recursos hidráulicos para la producción eléctricaPredicción consumo de gas ciudad

Medicina y salud Ciencia e ingeniería

Control de procesosControl de calidadControl de robots

Análisis de datos y clasificaciónIngeniería QuímicaIngeniería EléctricaClimatología

Transportes y comunicacionesOptimización de rutas.Optimización en la distribución de recursos

Un caso práctico: Nuestra práctica(Valga la rebuznancia)

• Relacionada con el mundo del poker, la máquina tenía que “adivinar” qué mano teníamos.

• Los datos que disponíamos eran (por cada caso):

– 5 cartas con un número y un palo cada una.

– El tipo de mano que teníamos.

• Es decir, un problema de CLASIFICACIÓN

Un caso práctico: Nuestra práctica(Valga la rebuznancia)

• Habían 2.598.960 posibles manos distintas.

• Entrenamiento 25.010 manos (un 0,96%)

• Testeo 1.000.000 manos (un 38,48%)

• Tres métodos de clasificación distintos:

– Árboles de decisión ID3

– Naive Bayes

– Redes Neuronales Multicapa

Un caso práctico: Nuestra práctica(Valga la rebuznancia)

• Los resultados fueron:– Árboles ID3:

• Instancias correctamente clasificadas: 40.7%

• Tiempo: 1 segundo

– Naive Bayes: • Instancias correctamente clasificadas: 49.4%

• Tiempo: 1 segundo

– Redes Neuronales Multicapa: • Instancias correctamente clasificadas: 94.3%

• Tiempo: 30 minutos

Conclusiones

Casos como el anterior nos demuestran que, para un pequeño conjunto de casos de

entrenamiento, se pueden obtener muy buenos resultados.