Self-Organized Learning in Oscillatory Neural Networks with Memristive Signed Couplings

Resumen Técnico: Aprendizaje Autoorganizado en Redes Neuronales Oscilatorias con Acoplamientos Memristivos con Signo

Planteamiento del Problema
Las Redes Neuronales Oscilatorias (ONN, por sus siglas en inglés) ofrecen una arquitectura neuromórfica prometedora para el aprendizaje e inferencia continuos, aprovechando sistemas dinámicos acoplados donde la información se representa mediante relaciones de fase. Sin embargo, una limitación significativa en las implementaciones de hardware de las ONN es la dificultad de realizar pesos negativos (inhibitorios). Mientras que los modelos numéricos como los de Hopfield o Ising asumen rutinariamente pesos con signo para soportar estructuras de atractores complejas, las implementaciones físicas suelen depender únicamente de acoplamientos positivos (excitatorios) debido a restricciones de dispositivos y circuitos. La ausencia de acoplamientos inhibitorios impide la estabilización de relaciones de antifase (diferencias de fase de $\pi$), lo que provoca que las redes colapsen en estados de sincronización total triviales. Además, los algoritmos de aprendizaje tradicionales como la retropropagación son incompatibles con el hardware neuromórfico debido a su dependencia de reglas de actualización no locales y a la separación física de la memoria y el cómputo en las arquitecturas von Neumann. Existe la necesidad de un mecanismo físicamente realizable que permita el aprendizaje autónomo y autoorganizado con pesos con signo, donde la memoria y el cómputo se co-ubiquen dentro de la física del dispositivo.

Metodología
Los autores proponen un primitivo neuromórfico que acopla osciladores de puente de Wien utilizando una arquitectura híbrida de resistencias estáticas y elementos memristivos para lograr pesos efectivos con signo.

• Arquitectura del Circuito: Cada par de osciladores se conecta a través de dos vías: una resistencia estática en la trayectoria no inversora (que proporciona acoplamiento excitatorio) y un memristor en la trayectoria inversora (que proporciona acoplamiento inhibitorio adaptativo).
• Mecanismo de Aprendizaje: El sistema se basa en la plasticidad dependiente de la fase. La conductancia del memristor evoluciona según la integral temporal de la diferencia de voltaje entre los osciladores.
  • Cuando los osciladores están suficientemente fuera de fase (gran diferencia de voltaje), el memritor es impulsado hacia un estado de menor resistencia, fortaleciendo el acoplamiento inhibitorio. Esto sigue una regla "anti-hebbiana" donde los osciladores fuera de fase potencian el enlace inhibitorio, reforzando su separación.
  • Cuando los osciladores están en fase (pequeña diferencia de voltaje), el memristor se relaja hacia un estado de mayor resistencia, debilitando la inhibición y sesgando el sistema hacia la sincronización.
• Enfoque de Simulación: Los autores utilizaron LTspice para simular redes totalmente conectadas de 4, 9 ($3\times3$), 16 ($4\times4$), 25 ($5\times5$) y 64 ($8\times8$) osciladores. Emplearon un modelo de memristor modificado basado en un dispositivo de $HfO_2$ dependiente del estado y del umbral de voltaje.
• Marco Teórico: El sistema se modela como un sistema de ecuaciones diferenciales ordinarias (ODE) autónomas acopladas que involucran variables de fase ($\phi$) y estados de memristor ($x$). El análisis de estabilidad utiliza la teoría de Floquet para caracterizar la estabilidad de los atractores de fase bloqueada en presencia de corrientes periódicas en el tiempo que impulsan los memristores.

Contribuciones Claves

1. Primitivo de Acoplamiento con Signo: El artículo introduce un diseño de circuito compacto que permite una plasticidad de tipo Hebbiano nativa con pesos efectivos tanto positivos como negativos. Esto se logra equilibrando resistencias excitatorias estáticas con memristores adaptativos inhibitorios.
2. Demostración de Aprendizaje Autónomo: Los autores demuestran que el aprendizaje surge de la co-evolución de bucle cerrado de la fase y la conductancia sin reglas externas de actualización de pesos o relojes globales. El sistema se autoorganiza para almacenar patrones como atractores estables.
3. Prueba Teórica de la Necesidad de Inhibición: Un análisis teórico rigurooso utilizando exponentes de Floquet demuestra que los pesos efectivos con signo son estrictamente necesarios para que los atractores de antifase persistan de forma autónoma. En las redes sin signo (solo excitatorias), la curvatura del paisaje de energía no puede soportar las restricciones de antifase, lo que conduce a la inestabilidad.
4. Validación de Denotación y Recuperación: El sistema fue validado en tareas de memoria autoasociativa, incluyendo la eliminación de ruido de patrones binarios y la reconstrucción de prototipos de dígitos escritos a mano a partir de entradas ruidosas.

Resultados

• Recuperación de Patrones: En una red de 4 osciladores, el sistema aprendió y recuperó con éxito ocho patrones de fase distintos, incluyendo aquellos con relaciones de antifase. Tras la eliminación del forzamiento externo, la red convergió a los estados atractores aprendidos.
• Papel de la Inhibición: Las simulaciones comparativas entre redes con pesos inhibitorios y redes solo excitatorias mostraron que estas últimas fallaron al recuperar cualquier patrón que contuviera relaciones de antifase, colapsando en su lugar en un estado de sincronización total. Las redes con pesos inhibitorios lograron un error de fase promedio cercano a cero ($\approx 3.0 \times 10^{-9}\%$), mientras que las redes solo excitatorias exhibieron un error alto ($\approx 62\%$).
• Escalabilidad: La arquitectura escaló con éxito a redes de $3\times3$, $4\times4$ y $5\times5$ para el reconocimiento de dígitos binarios ("0" y "1"), manteniendo errores de fase absoluta media por par muy bajos (por ejemplo, $0.04^\circ$ para el "1" en la red de $4\times4$).
• Eliminación de Ruido: Una red de 64 neuronas reconstruyó con éxito seis prototipos de dígitos escritos a mano de $8\times8$ a partir de pistas ruidosas (donde el 15% de las fases fueron aleatorizadas), logrando un error de reconstrucción promedio del 2%.
• Alineación Teórica: Las predicciones teóricas sobre la necesidad de pesos efectivos negativos para la estabilidad de la antifase fueron confirmadas por los resultados de la simulación. El análisis de Floquet identificó correctamente que solo los acoplamientos con signo podrían convertir la variedad de antifase en un estado atrayente.

Significancia y Reivindicaciones
El artículo afirma que este trabajo proporciona una ruta práctica para implementar acoplamientos inhibitorios en hardware, expandiendo la clase de estructuras de atractores accesibles para las redes oscilatorias más allá de los acoplamientos puramente sincrónicos. Al permitir memorias codificadas por fase donde las restricciones de antifase persisten autónomamente después del entrenamiento, la arquitectura propuesta posiciona a las ONN como un candidato viable para el aprendizaje e inferencia continuos.

Los autores enfatizan que su enfoque realiza el aprendizaje autoorganizado enteramente dentro de la física intrínseca del dispositivo, donde la formación de la memoria y la recuperación emergen de la co-evolución local de la fase y la conductancia. Señalan que, si bien las propiedades de memoria asociativa se reducen a las de una red de Hopfield, la importancia radica en la realización física de pesos con signo sin control digital externo. El trabajo sirve como una prueba de concepto para mecanismos de acoplamiento con signo, demostrando que los pesos negativos no son meramente una conveniencia teórica, sino una necesidad física para estabilizar memorias complejas codificadas por fase en sistemas oscilatorios. Los autores se mantienen modestos respecto a la escalabilidad, reconociendo que las demostraciones a gran escala dependen actualmente de acoplamientos resistivos fijos debido a los costos de simulación, y que se requiere trabajo futuro para la validación experimental en hardware físico y la exploración de la codificación de amplitud-fase.