Red De Hopfield

RED DE HOPFIELD

La Red de Hopfield es una red recurrente, es decir, existe realimentación entre las neuronas. De esta forma, al introducir un patrón de entrada, la información se propaga hacia adelante y hacia atrás, produciéndose una dinámica. En algún momento, la evolución se detendrá en algún estado estable. En otros casos, es posible que la red no se detenga nunca.

Las redes recurrentes deben cumplir tres objetivos:

1. Dado cualquier estado inicial, deben converger siempre a un estado estable.

2. El dominio de atracción de cada estado estable debe estar perfectamente delimitado y cumplir algún criterio de métrica (por ejemplo, que el estado final sea el más cercano al inicial).

3. Debe poder tener cualquier número de estados estables.

La red de Hopfield fue diseñada en 1982. Consta de una matriz de pesos fija W, simétrica y de diagonal nula. Dado que la matriz de pesos es fija, puede parecer que la red no aprende nunca. En el caso de estas redes, es el proceso de construcción de esta matriz W la que le da el proceso de aprendizaje / memorización.

Cada elemento wij (i distinto de j) de esta matriz se calcula como:

Siendo xpi el elemento i del patrón de entrada p. El sumatorio se hace sobre todos los patrones que queramos que la red memorice. Se sabe por experimentos empíricos que una red de Hopfield puede memorizar un patrón por cada 7 neuronas, aproximadamente (una proporción de 0.14N patrones, siendo N el número de neurona).

Sus señales (entradas y salidas) son bipolares (-1 y 1). Además es una red completamente conectada, todas sus neuronas reciben como entradas las salidas del resto de los elementos de proceso:

Cada elemento de proceso tiene un valor umbral, de forma que la función de transferencia de un elemento de proceso viene dada por:

ai(t+1) = signo(ii(t+1))

Dado que W es tal que wij=wji y wii=0, se puede definir una función de Lyapunov o función de Energía E de manera que:

Si se relaja la condición de simetría de la matriz de pesos o se emplea actualización paralela, las condiciones de estabilidad también cambian.

No obstante, la red de Hopfield no garantiza que el estado estable sea el más cercano al inicial.

Estas redes de Hopfield suelen usarse como memoria auto-asociativa: ante la entrada de un patrón x incompleto o perturbado por ruido, la red evoluciona hacia el patrón completo más cercano.

Ejemplo

Se va a desarrollar un ejemplo de reconocimiento de patrones, bastante sencillo, mediante una red Hopfield.

El entrenamiento va a consistir en el aprendizaje de dos informaciones (patrones) de cuatro pixeles cada una. Los pixeles se representan mediante el valor -1 si es blanco y 1 si es negro. Por tanto, las informaciones de entrada de la red van a ser dos vectores (M=2) de 4 elementos (N=4) conteniendo los valores de los pixeles. La red tendría 4 neuronas para que cada una reciba el valor de un pixel.

Patron1 Patron2

1 2 1 2

3 4 3 4

Los valores de los vectores de entrada que representan cada patrón son:

E1= [1,1,-1,-1] y E2 = [-1,-1,1,1]

ETAPA DE APRENDIZAJE

El aprendizaje de estas dos informaciones

...