Topologías de Redes Neuronales

Topologías de Redes Neuronales

 

En este apartado nos enfocaremos sobre las topologías de redes. En cuanto a esto, la principal distinción que podemos hacer es entre:

 

1. Redes Feed-forward

 

Si los datos fluyen desde la entrada a las unidades de salida es estrictamente Feed-forward. Los datos pueden extenderse sobre múltiples (capas) unidades, pero las conexiones no Feed-back están presentes, esto significa, extender las conexiones desde las unidades de la salida a las unidades de la entrada en la misma capa o capas anteriores.

1. Red Feed-forward

 

Clásicos ejemplos de redes Feed-forward son:

 

· a) Perceptrón: El Perceptrón fue propuesto por Rosenblat (Rosenblat, 1959) por allá en los años 50, la regla de aprendizaje ‘Perceptrón’ es un método con procedimientos iterativos que ajustan los pesos. Un mismo aprendizaje se presenta a la red y para cada peso un nuevo valor es calculado agregando una corrección al viejo valor. Esta regla de aprendizaje Perceptrón es usada para aprender una función discriminante correcta para un número de muestras.

2. Perceptrón

 

 

· b) Adeline: La palabra Adeline proviene de la fusión de las siguientes palabras inglesas “Adaptive Linear Element”, las mismas que en su traducción literal al español sería el Elemento lineal adaptable, también nombrado Adalina, desarrollada por Windrow y Holf (Windrow & Holf, 1969).

 

En una implementación física simple este dispositivo está compuesto por un conjutno de reóstatos conectados a un circuito que puede sumar corrientes causadas por las señales de voltaje de entrada. Usualmente el bloque central, el sumador, también es seguido por un cuantificador que produce +1 o -1, dependiendo sobre la polaridad de la suma.

3. Adeline

 

2. Redes Recurrentes

 

Contrariamente a la redes Feed-forward, las propiedades dinámicas de la red son importantes. En algunos casos los valores de activación sufren un proceso de relajación tales que la red evolucionará a un estado estable en el cual estas activaciones no cambian más. En otras aplicaciones el cambio de los valores de activación de las neuronas de salida son significantes, tales que el comportamiento dinámico constituye la salida de la neurona (Pearlmutter, 1990).

Una pregunta importante que tenemos que considerar es la siguiente: ¿qué deseamos aprender en una red recurrente? Después de todo, cuando se considera a una red recurrente, es posible continuar propagando la activación de valores hasta el infinito, o hasta alcanzar un punto estable (atrayente). Como veremos en una próxima presentación, existen redes recurrentes que son atrayentes basadas, es decir, en los valores de la activación en la red se son actualizados en varias ocasiones hasta que se alcanza un punto estable después de lo cual se adaptan los pesos, pero existen también las redes recurrentes en donde la regla que aprende es utilizada después de cada propagación (donde está un valor de la activación transpuesto sobre cada peso solamente una vez), mientras que las entradas externas se incluyen en cada propagación. En estas redes, las conexiones recurrentes se pueden mirar como entradas adicionales a la red (los valores de la cual son computados por la red sí mismo).

 

4. Red recurrente de Jordan

 

Referencias:

 

[1] Ben Kröse & Patrick van der Smagt. “An Introduction to Neural Networks”, eighth edition (1996). The University of Amsterdam.

[2] Laurene V. Fausett. “Fundamentals of Neural Networks Architectures, Algorithms, and applications”. Prentice-Hall (1994).

[3] Prof. Leslie Smith An Introduction to Neural Networks”. Centre for Cognitive and Computational Neuroscience Department of Computing and Mathematics University of Stirling.




    Responder

    Introduce tus datos o haz clic en un icono para iniciar sesión:

    Logo de WordPress.com

    Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

    Imagen de Twitter

    Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

    Foto de Facebook

    Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

    Google+ photo

    Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

    Conectando a %s



A %d blogueros les gusta esto: