Hybridizing Equilibrium Propagation with Ising Machines for Efficient Energy-Based Learning

Resumen Técnico: Hibridación de la Propagación de Equilibrio con Máquinas de Ising para un Aprendizaje Basado en la Energía Eficiente

Planteamiento del Problema
El rápido avance de las redes neuronales profundas (DNN) se ha visto limitado por el alto consumo de energía y los requisitos de tiempo de la computación convencional basada en GPU. Si bien los resolvedores de hardware físico (por ejemplo, las máquinas de Ising) ofrecen una vía para la computación de bajo consumo energético, a menudo son preentrenados mediante retropropagación (BP) en electrónica externa, lo que los hace vulnerables al ruido del hardware y a las imperfecciones de fabricación. Esto requiere métodos de entrenamiento físicamente fundamentados donde el aprendizaje ocurra directamente dentro de la dinámica física.

La Propagación de Equilibrio (EP) es un destacado algoritmo de aprendizaje basado en la energía que unifica el entrenamiento y la inferencia mediante reglas de aprendizaje locales. Sin embargo, la EP estándar depende de redes de Hopfield, las cuales están gobernadas por dinámicas disipativas no hamiltonianas ($\dot{x} = -\nabla E(x)$). Esta formulación conduce a la contracción del espacio de fase, lo que provoca que el sistema converja frecuentemente en mínimos de energía locales en lugar de en el óptimo global, socavando así la efectividad del entrenamiento. Además, el mapeo directo de los parámetros de una red multicapa a sistemas de espín a gran escala enfrenta problemas de escalabilidad, incluyendo tiempos de convergencia prolongados.

Metodología
Los autores proponen un marco de entrenamiento híbrido denominado cSB-EP (Propagación de Equilibrio de Bifurcación Simulada Continua). Este enfoque integra las reglas de aprendizaje locales de la EP con una ruta física hacia el equilibrio inspirada en la dinámica de Ising.

1. Dinámica de Espacio de Fase Extendido: En lugar de la relajación puramente disipativa de las redes de Hopfield estándar, los autores reemplazan la dinámica con un sistema de Bifurcación Simulada continua (cSB) derivado de un marco hamiltoniano. Este sistema introduce variables conjugadas (momento) a los estados de las neuronas.

   • La dinámica está gobernada por ecuaciones diferenciales acopladas: $\dot{s}_{yi} = -s_i - \gamma s_{yi} + \rho(\sum J_{ij}s_j)$ y $\dot{s}_i = s_{yi}$, donde $s_{yi}$ actúa como una coordenada conjugada que proporciona impulso inercial.
   • La función de activación $\rho(x) = \min(\max(x, 0), 1)$ reemplaza las barreras de potencial inelásticas para acelerar la computación, mientras que un término de amortiguamiento $\gamma$ asegura la convergencia.

2. Mecanismo de Acción: La introducción de la coordenada conjugada permite que el sistema se mueva temporalmente hacia regiones de mayor energía potencial. Este impulso inercial permite que la red supere mínimos locales poco profundos, una capacidad ausente en los sistemas disipativos no hamiltonianos donde la energía disminuye estrictamente de forma monótona. El análisis teórico basado en el principio de Freidlin-Wentzell sugiere que el acoplamiento débil reduce las barreras de energía efectivas, aumentando exponencialmente la tasa de transición fuera de los óptimos locales.

3. Arquitectura de Entrenamiento: El marco retiene la regla de aprendizaje de dos fases de la EP:

   • Fase Libre: La red evoluciona hacia un estado estable bajo la entrada de datos.
   • Fase de Perturbación (Nudge Phase): Se aplica una perturbación controlada por el parámetro $\beta$ a la capa de salida para conducir el sistema hacia el estado objetivo.
   • Implementación: El algoritmo utiliza una configuración híbrida CPU/GPU. El procesamiento de datos y las actualizaciones de parámetros ocurren en la CPU, mientras que la búsqueda intensiva del estado fundamental (convergencia de los estados de las neuronas) se acelera en la GPU utilizando el algoritmo cSB.

Contribuciones Clave

• Dinámica Novedosa: El artículo introduce un cambio de la relajación disipativa de Hopfield hacia una dinámica hamiltoniana de espacio de fase extendido dentro del marco de la EP, mitigando eficazmente el problema de los mínimos locales causado por la contracción del espacio de fase.
• Bifurcación Simulada Continua (cSB): Los autores adaptan la máquina de Bifurcación Simulada, diseñada originalmente para sistemas de espín binario, en un sistema dinámico continuo adecuado para la optimización de redes neuronales con funciones de activación específicas.
• Escalabilidad: El marco se extiende con éxito desde redes sencillas totalmente conectadas hasta redes de Hopfield convolucionales profundas (CNN), demostrando compatibilidad con arquitecturas complejas.

Resultados
Se realizaron experimentos en los conjuntos de datos MNIST, Fashion-MNIST y CIFAR-10:

• Convergencia y Energía: cSB-EP logra distribuciones de energía efectiva más bajas y una convergencia más rápida hacia estados estables en comparación con la EP convencional. La energía promedio de la red se desplaza hacia valores más bajos más rápidamente durante el entrenamiento.
• Precisión: En MNIST, Fashion-MNIST y CIFAR-10, cSB-EP logra tasas de error de prueba comparables a la retropropagación (BP) y superiores a las variantes existentes de EP (por ejemplo, cEP). Por ejemplo, en CIFAR-10, cSB-EP supera a la EP convencional y se aproxima al rendimiento de BP.
• Eficiencia: El método demuestra una reducción significativa en el número de iteraciones requeridas para la búsqueda del estado fundamental. En comparación con los algoritmos de EP existentes, cSB-EP logra una aceleración computacional de aproximadamente 3$\times$ manteniendo una precisión comparable.
• Robustez: El marco exhibe una robustez mejorada ante el ruido. Bajo condiciones de ruido (simulando imperfecciones de hardware analógico u optoelectrónico), cSB-EP mantiene una mayor precisión de clasificación que la EP estándar. La dinámica inercial ayuda al sistema a escapar de los óptimos locales incluso cuando es perturbado por el ruido, siempre que la intensidad del ruido no sea excesiva.

Significancia y Reivindicaciones
Los autores afirman que cSB-EP representa más que una mera aplicación de las máquinas de Ising a las redes neuronales; establece un nuevo paradigma de entrenamiento inspirado en la dinámica de máquinas de Ising. Al alterar la ruta física hacia el equilibrio preservando las reglas de aprendizaje locales, el marco ofrece una vía viable para un aprendizaje basado en la energía eficiente, escalable y compatible con el hardware.

El estudio sugiere que este enfoque es particularmente adecuado para su despliegue en plataformas físicas como sistemas ópticos, sistemas optoelectrónicos y osciladores electrónicos. Al abordar las limitaciones de convergencia y robustez al ruido de los métodos de entrenamiento físico tradicionales, cSB-EP tiene como objetivo facilitar el despliegue de IA de bajo consumo en dispositivos de computación perimetral (edge computing) e IoT, yendo más allá de la dependencia de modelos preentrenados generados por la costosa retropropagación de energía.