Self-orthogonalizing attractor neural networks emerging from the free energy principle

Resumen Técnico: Redes Neuronales Atractoras Auto-Ortogonalizantes Emergentes del Principio de Energía Libre

Enunciado del Problema
La dinámica de atractores es fundamental para los sistemas complejos, incluido el cerebro, actuando como mecanismos para la memoria, la toma de decisiones y el control motor. Sin embargo, existe una brecha fundamental en la comprensión de cómo surgen dichas redes atractoras auto-organizadas a partir de primeros principios sin reglas de aprendizaje o inferencia impuestas explícitamente. Los modelos tradicionales a menudo dependen de reglas de aprendizaje ad hoc (por ejemplo, aprendizaje hebbiano, divergencia contrastiva) que carecen de una derivación unificada a partir de las restricciones termodinámicas o inferenciales que gobiernan los sistemas biológicos. El artículo aborda la necesidad de derivar una auto-organización adaptativa, donde una red no solo opera como un sistema atractor, sino que también "se construye a sí misma" a través de interacciones locales, a partir del Principio de Energía Libre (FEP).

Metodología
Los autores formalizan la emergencia de redes atractoras aplicando el Principio de Energía Libre a una "partición universal" de sistemas dinámicos aleatorios, utilizando específicamente el concepto de particiones particulares profundas.

1. Marco Teórico:

   • Particiones Particulares Profundas: El sistema se descompone en una jerarquía de "subpartículas" (unidades a escala micro), cada una poseyendo estados internos ($\sigma_i$), estados sensoriales ($s_{ij}$) y estados activos ($a_{ij}$). Estas subpartículas están separadas de los estados externos por una manta de Markov, asegurando la independencia condicional ($\sigma_i \perp \sigma_j | s_{ij}, a_{ij}$).
   • Modelo Generativo: Los estados internos se modelan como variables de Bernoulli continuas (distribuciones exponenciales truncadas) con sesgos a priori. El acoplamiento entre subpartículas se define mediante una matriz de pesos $J$.
   • Minimización de la Energía Libre Variacional (VFE): La derivación central asume que, para persistir, el sistema debe minimizar la energía libre variacional. Esta minimización se realiza localmente en cada nodo (subpartícula) con respecto a sus estados internos y acoplamientos.

2. Derivación de la Dinámica:

   • Inferencia: Minimizar la VFE con respecto a los estados internos produce una regla de actualización estocástica. El valor esperado del estado sigue una función de Langevin (una activación sigmoidea), impulsada por la suma de un sesgo a priori y entradas ponderadas de los vecinos. Esto resulta en un comportamiento de red de Hopfield estocástica de estado continuo.
   • Aprendizaje: Minimizar la VFE con respecto a los acoplamientos (pesos) produce una regla de aprendizaje local. Esta regla toma la forma de una actualización contrastiva: $\Delta J_{ij} \propto \sigma_i \sigma_j - \hat{\sigma}_i \sigma_j$. El primer término es hebbiano (potenciación basada en correlación) y el segundo es anti-hebbiano (depresión basada en error predictivo). Crucialmente, esta regla no requiere fases separadas de "fijación" (clamped) y "ejecución libre" (free-running) (a diferencia de la Divergencia Contrastiva), sino que utiliza correlaciones instantáneas.

3. Protocolo de Simulación:

   • Los autores implementaron las reglas derivadas en Python y JAX.
   • Simulaciones 1–2: Entrenadas con patrones correlacionados (imágenes de dígitos escritos a mano) para probar la ortogonalización y la generalización bajo variaciones de precisión (temperatura inversa) y fuerza de la evidencia.
   • Simulación 3: Entrenada con datos secuenciales para probar la emergencia de acoplamientos asimétricos y dinámicas de secuencia.
   • Simulación 4: Probó la resistencia al olvido catastrófico mediante actividad espontánea de "ejecución libre" (sesgo cero).
   • Simulación 5: Evaluó la escalabilidad y la capacidad de memoria hasta 50.000 nodos.
   • Simulación 6: Aplicada al conjunto de datos de rostros Olivetti (4096 nodos) para probar el rendimiento en datos naturalistas de alta dimensión.

Contribuciones Clave

• Derivación de Reglas de Auto-Organización: El artículo demuestra que las redes atractoras, incluidas sus dinámicas de aprendizaje e inferencia, emergen naturalmente del FEP aplicado a particiones particulares profundas, eliminando la necesidad de reglas de aprendizaje impuestas externamente.
• Auto-Ortogonalización Emergente: Un hallazgo central es que la regla de aprendizaje derivada impulsa inherentemente a la red hacia representaciones atractoras aproximadamente ortogonales. Al minimizar la complejidad del modelo (redundancia) junto con la precisión predictiva, la red penaliza los atractores superpuestos. Esto resulta en un conjunto de atractores que abordan eficientemente el subespacio de entrada, asemejándose a "redes neuronales proyectoras" (Kanter-Sompolinsky) que ofrecen una capacidad de memoria máxima.
• Inferencia y Aprendizaje Unificados: El marco unifica la inferencia y el aprendizaje como dos facetas de la minimización de la VFE. La inferencia actualiza los estados para coincidir con la evidencia, mientras que el aprendizaje actualiza los acoplamientos para minimizar la sorpresa futura, todo ocurriendo simultáneamente en un régimen de aprendizaje continuo.
• Generalización de las Máquinas de Boltzmann: Las redes derivadas generalizan las máquinas de Boltzmann convencionales.
  • Con datos aleatorios, convergen a acoplamientos simétricos (tipo Boltzmann).
  • Con datos secuenciales, desarrollan acoplamientos antisimétricos, creando dinámicas de estado estacionario no equilibrado (NESS) con flujos solenoidales (rotacionales). Esto permite que la red aprenda y recuerde secuencias temporales (ciclos heteroclínicos) sin alterar la distribución estacionaria del paisaje energético subyacente.
• Robustez ante el Olvido Catastrófico: La naturaleza estocástica de la dinámica permite que la red "reproduzca" espontáneamente atractores durante las fases de ejecución libre. Esta actividad refuerza los atractores existentes, previniendo la pérdida de representaciones aprendidas cuando se introduce nueva información, mitigando efectivamente el olvido catastrófico.

Resultados

• Formación de Base Ortogonal: Las simulaciones confirmaron que, al entrenarse con entradas correlacionadas, los atractores de la red se vuelven aproximadamente ortogonales (por ejemplo, reduciendo la correlación de $r=0.77$ a $r=-0.19$). Esta ortogonalización fue más efectiva en un "régimen equilibrado" de precisión intermedia.
• Generalización: Los atractores ortogonalizados permitieron que la red generalizara a datos no vistos (aprendizaje de un solo disparo) combinando estados base cuasi-ortogonales, superando a las redes de Hopfield estándar en tareas de reconstrucción a partir de entradas ruidosas.
• Aprendizaje de Secuencias: Cuando se presentó con datos secuenciales, la matriz de acoplamiento desarrolló un componente antisimétrico significativo. Esto permitió que la red generara espontáneamente la secuencia aprendida (1→2→3→...) en ausencia de entrada externa, impulsada por corrientes de probabilidad a lo largo de contornos de isoenergía.
• Escalabilidad y Capacidad: La red demostró capacidades de memoria sustancialmente superiores al límite clásico de Hopfield ($\sim 0.14N$), acercándose al límite de la red proyectora ($K \approx N$) debido a la ortogonalización emergente. Se confirmó que la escalabilidad del tiempo de ejecución es $O(N^2)$, consistente con la complejidad analítica.
• Reconocimiento Facial: En el conjunto de datos de rostros Olivetti, la red reconstruyó con éxito identidades a partir de entradas fuertemente corruptas integrando evidencia sensorial ruidosa con priores aprendidos basados en atractores, demostrando una inferencia bayesiana robusta.

Significado y Afirmaciones

El artículo afirma proporcionar una teoría unificadora para las redes atractoras auto-organizadas que une la neurociencia y la inteligencia artificial.

• Para la Neurociencia: Los hallazgos ofrecen una explicación normativa de por qué las redes neuronales biológicas podrían exhibir plasticidad hebbiana/anti-hebbiana, actividad espontánea y representaciones ortogonales. Sugiere que la capacidad del cerebro para realizar inferencia activa y mantener memorias estables sin programación explícita surge del imperativo fundamental de minimizar la energía libre. Se propone que la emergencia de atractores ortogonales es una firma de sistemas impulsados por el FEP, potencialmente detectable en datos cerebrales a gran escala (por ejemplo, redes en estado de reposo).
• Para la Inteligencia Artificial: El marco ofrece una alternativa principista a la retropropagación y la divergencia contrastiva. Permite el aprendizaje continuo y la resistencia al olvido catastrófico a través de dinámicas espontáneas. La regla de aprendizaje derivada es computacionalmente eficiente (sin fase de ejecución libre) y soporta naturalmente el aprendizaje de secuencias y la generalización.
• Implicaciones Teóricas: El trabajo postula que la separación de la matriz de acoplamiento en componentes simétricos (percepción/minimización de energía) y antisimétricos (acción/planificación/flujo solenoide) puede reflejar una correspondencia formal más profunda con los objetivos duales del FEP.

Los autores mantienen una postura modesta respecto a las limitaciones, reconociendo que la huella de memoria $O(N^2)$ es prohibitiva para redes muy grandes sin aproximaciones dispersas, y que las simulaciones actuales están limitadas a arquitecturas de una sola capa. Sugieren que el trabajo futuro debería explorar particiones profundas jerárquicas e implementación en hardware termodinámico o memristivo para aprovechar la naturaleza local y estocástica de las actualizaciones.