Redes Neuronales
Artificiales
1

Redes Neuronales Artificiales
Índice
„ 1.- Introducción histórica
„ 2.- Redes neuronales biológicas
„ 3.- Redes neuronales artificiales
ƒ 3.1.- Funcionamiento
ƒ 3.2.- Características
ƒ 3.3.- Tipos
„ 4.- Aplicaciones prácticas
ƒ 4.1.- Tipos de problemas que resuelven
ƒ 4.2.- Ejemplos
2

1. HISTORIA DE LAS REDES NEURONALES
„ 1890 William James:
ƒ Psicólogo.
ƒ Modelo para explicar como el cerebro realiza asociaciones.
„ Otros científicos que se distinguieron por sus estudios sobre el
cerebro fueron:
ƒ Ramón y Cajal.
ƒ Charles Sherrington.
ƒ Iwan Pawlow.
3

1. HISTORIA DE LAS REDES NEURONALES
„ En 1943 se publicó un importante artículo sobre el
cerebro:
ƒ 1943 McCulloch/Pitts:
ƒ A logical calculus of the ideas immanent in nervous activity
„ El siguiente hecho importante en la historia de las redes
neuronales fue logrado por los resultados de las
investigaciones de Donald Hebb:
4

1. HISTORIA DE LAS REDES NEURONALES
ƒ 1949 Donald Hebb:
ƒ The organization of behavior.
ƒ Los trabajos de Hebb constituyen la base de la teoría de redes
neuronales.
ƒ 1950 Karl Lashley:
ƒ In search of engram.
5

1. HISTORIA DE LAS REDES NEURONALES
„ La primera simulación por ordenador fue desarrollada en
los cincuenta.
ƒ 1956 Dartmouth Conference:
„ Uno de los principales resultados de esta conferencia
fue que la simple regla de aprendizaje desarrollada por
Hebb, deducida de los efectos observados en el cuerpo
humano, no era aplicable a muchos problemas
prácticos.
6

1. HISTORIA DE LAS REDES NEURONALES
ƒ 1958 Frank Rosenblatt:
ƒ Perceptron
ƒ 1969 Marvin Minsky/Seymour Papert:
ƒ Perceptrons
ƒ Esta casi fue el fin de las redes neuronales debido a que Minsky
y Papert probaron matemáticamente que el Perceptrón no era
capaz de resolver problemas relativamente fáciles (como
aprender la función XOR). Concluyeron que, en general, los
descubrimientos en redes neuronales no merecían la pena.
7

1. HISTORIA DE LAS REDES NEURONALES
8

1. HISTORIA DE LAS REDES NEURONALES
ƒ 1974 Paul Werbos
ƒ Desarrolló la idea básica del algoritmo de retropropagación.
ƒ 1977 Stephen Grossberg
ƒ Adaptative Resonance Theory (ART)
ƒ ART es una ‘arquitectura’ de red que difiere de todo lo
anteriormente inventado. Simula otra habilidad del cerebro: la
memoria a largo y a corto plazo.
9

1. HISTORIA DE LAS REDES NEURONALES
ƒ Rumelhart, McClelland & Hinton crean el grupo PDP. Este
grupo de trabajo solucionó los problemas propuestos por Minsky
y Papert, gracias al algoritmo de retropropagación.
ƒ 1985 John Hopfield
ƒ Provocó el renacimiento de las redes neuronales con el libro:
ƒ Neural computation of decisión in optimization problems.
10

3. REDES NEURONALES ARTIFICIALES.
3.1.- FUNCIONAMIENTO
ENTRADAS CONEXIONES
FUNCION FUNCION DE
X1 DE RED ACTIVACION
W1 net(.) act(.)
Σ
X2 SALIDA
W2
X3 ENTRADAS
W3 PONDERADAS
14

3. REDES NEURONALES ARTIFICIALES.
3.2.- COMPARACIÓN.
„ COMPARACIÓN CON LAS REDES NEURONALES
BIOLÓGICAS.
Redes Neuronales Redes Neuronales
Biológicas Artificiales
Neuronas Unidades de proceso
Conexiones sinápticas Conexiones ponderadas
Efectividad de las sinápsis Peso de las conexiones
Efecto excitatorio o inhibitorio de Signo del peso de una
una conexión conexión
Efecto combinado de las sinápsis Función de propagación o
de red
Activación -> tasa de disparo Función de activación ->
Salida
15

3. REDES NEURONALES ARTIFICIALES.
3.3.- CARACTERÍSTICAS.
ƒ APRENDIZAJE INDUCTIVO.
ƒ GENERALIZACIÓN.
ƒ ABSTRACCIÓN O TOLERANCIA AL RUIDO.
ƒ PROCESAMIENTO PARALELO.
ƒ MEMORIA DISTRIBUIDA.
16

3. REDES NEURONALES ARTIFICIALES.
3.4.- MODO DE OPERACIÓN.
ƒ FASE DE APRENDIZAJE.
‚ APRENDIZAJE SUPERVISADO.
‚ APRENDIZAJE NO SUPERVISADO.
‚ APRENDIZAJE REFORZADO.
ƒ FASE DE APLICACIÓN.
ƒ FASE DE TEST (OPCIONAL).
17

3. REDES NEURONALES ARTIFICIALES.
3.4.- MODO DE OPERACIÓN.
3.4.1.- APRENDIZAJE SUPERVISADO.
„ 1.- ALEATORIZAR LOS PESOS DE TODAS LAS CONEXIONES.
„ 2.- SELECCIONAR UN PAR DE ENTRENAMIENTO
„ 3.- CALCULAR SALIDA MEDIANTE OPERACIONES USUALES.
„ 4.- CALCULAR LA DISCREPANCIA EN LA SALIDA.
„ 5.- APLICAR LA REGLA DE APRENDIZAJE.
„ 6.- VOLVER AL PASO 2.
18

3. REDES NEURONALES ARTIFICIALES.
3.4.- MODO DE OPERACIÓN.
3.4.2.- MODELO NO SUPERVISADO
„ REQUIERE PROPAGAR INFORMACIÓN(EL ERROR) HACIA ATRÁS.
„ REQUIERE UN INSTRUCTOR QUE PROPORCIONE LA SALIDA.
„ NO REQUIERE PRESENTAR PATRONES DE SALIDA.
19

3. REDES NEURONALES ARTIFICIALES.
3.5.- TIPOS DE R.N.A.
ASOCIADORES MAPAS DE MODELOS DE OTRAS REDES
DE AUTO- SATISFACCIÓN DE ASOCIATIVAS DE
PATRONES ORGANIZACIÓN DEMANDA PESOS FIJOS
Perceptrones Redes de Redes de Hopfield Memorias
Kohonen proasociativas
Redes de Máquinas de
retropropaga Arquitecturas Boltzmann Redes de Hamming
ción ART
20

4.- APLICACIONES PRÁCTICAS
„ Cuándo utilizar una red neuronal artificial
ƒ En tareas en las que un ser humano se desenvuelve bien.
„ Cuándo no utilizarla
ƒ Solución algorítmica es eficiente
ƒ No dispongamos de suficientes patrones-ejemplos
21

4.1.-PROBLEMAS QUE RESUELVEN ( l )
„ 3 grupos:
ƒ Optimización
ƒ Reconocimiento
ƒ Generalización
„ Optimización
ƒ Determinar una solución que sea óptima
ƒ Muy utilizado en la gestión empresarial(niveles adecuados de
tesorería,de existencias,de producción)
22

4.2.- PROBLEMAS QUE RESUELVEN (II)
„ Reconocimiento
ƒ Se entrena una RN con entradas como sonidos,números,letras y se
procede al test presentando esos mismos patrones con ruido.
„ Generalización
ƒ La RN se entrena con unas entradas y el test se realiza con otros casos
diferentes.
ƒ Clasificación
‚ Asignar a cada caso su clase correspondiente (préstamos)
ƒ Predicción
‚ Lo que más interés despierta (ratio)
23

4.3.- PROBLEMAS QUE RESUELVEN (III)
„ Ejemplos
ƒ Conversión de texto escrito a lenguaje hablado.
ƒ Compresión de imágenes
ƒ Reconocimiento de escritura manual (japonesa)
ƒ Visión artificial en robots industriales (inspección de
etiquetas,clasificación de componentes)
24