Resumen Técnico: Dinámica Composicional en Aprendizaje y Mecánica

Planteamiento del Problema

El artículo aborda la falta de un marco unificado y composicional que trate el aprendizaje basado en gradientes (por ejemplo, la retropropagación en redes neuronales) y la mecánica de estilo hamiltoniano (por ejemplo, ecuaciones de onda para sistemas de partículas) como instancias de una misma estructura subyacente. Aunque ambos campos dependen de la transformación de covectores (gradientes o momentos) en vectores (actualizaciones de parámetros o velocidades) a través de una estructura "reactiva" (una métrica o forma simpléctica), suelen modelarse con sintaxis y semánticas distintas. El objetivo es construir una sintaxis única para "arreglos adaptativos suaves" donde los subsistemas puedan ser compuestos, y una semántica funcional que genere sistemas dinámicos de tiempo discreto explícitos a partir de estas composiciones.

Metodología

Los autores emplean la teoría de categorías, específicamente operades, functores polinomiales y lentes (lenses), para construir un marco de dos etapas:

1. Sintaxis (El Operad ArrSm):
   El artículo define una sintaxis para "arreglos adaptativos suaves" como el operad ArrSm. Sus objetos son interfaces de entrada-salida (pares de variedades) y sus morfismos son arreglos adaptativos suaves. Un arreglo consiste en:

   • Un espacio de parámetros reactivo $Q$ (un espacio vectorial equipado con un mapa "agudo" $\sharp_Q: Q^* \to Q$).
   • Un lente $(f_-, f_+)$: un mapa hacia adelante $f_+: Q \times M^+ \to N^+$ y un mapa hacia atrás $f_-: Q \times M^+ \times N^- \to M^-$ que enruta la información.
   • Un potencial $U: Q \times M^+ \times N^- \to \mathbb{R}$, cuyo diferencial impulsa la dinámica.

   Esta sintaxis generaliza los diagramas de cableado estáticos al permitir que el acoplamiento entre subsistemas dependa de parámetros internos y señales externas que evolucionan en el tiempo.

2. Semántica (Functores hacia Coalgebras Polinomiales):
   La semántica consiste en functores $\Phi: \text{ArrSm} \to \mathbf{PC}$, donde $\mathbf{PC}$ es la 2-categoría de coalgebras polinomiales (sistemas dinámicos discretos de entrada-salida). La construcción procede en tres pasos:

   • Internalización de Lentes: Un resultado técnico clave es la construcción de un functor laxo monoidal simétrico $\Theta: \text{Lens}_\mathcal{C} \to \mathcal{C}$ (Corolario 3.3.4). Esto "internaliza" una interfaz de lente $(c^-, c^+)$ en un objeto $[c^-, I] \otimes c^+$, permitiendo que el paso hacia atrás y el potencial sean tratados como datos dentro de la categoría ambiente.
   • Interpretación Polinomial: Los datos suaves (variedades, mapas, potenciales) se mapean a functores polinomiales mediante el functor cotangente $\text{cot}: \text{Mfd} \to \text{Poly}$. Esto traduce las variedades en interfaces donde las posiciones son puntos y las direcciones son covectores.
   • Integradores: Para convertir los mapas polinomiales en dinámicas discretas, el artículo introduce "integradores". Un integrador especifica un espacio de estado $S$ y una regla para actualizar $S$ basándose en los covectores entrantes. El artículo define dos integradores específicos:
     • Integrador de Configuración ($\Phi_{\text{conf}}$): El estado es el espacio de parámetros $Q$. Las actualizaciones siguen una regla de descenso (por ejemplo, $q \mapsto q - \sharp_Q(\nabla U)$).
     • Integrador de Fase ($\Phi_{\text{phase}}$): El estado es el fibrado cotangente $T^*Q$ (posición y momento). Las actualizaciones siguen un paso de Euler simpléctico, preservando el emparejamiento simpléctico canónico bajo condiciones específicas.

Contribuciones Clave

• Internalización de Lentes: El artículo establece un mecanismo categórico general (Teorema 3.3.3, Corolario 3.3.4) para internalizar interfaces de lentes en objetos de una categoría monoidal simétrica cerrada, permitiendo tratar el flujo de datos bidireccional como morfismos estándar.
• Sintaxis y Semántica Unificadas: Construye el operad ArrSm y dos semánticas distintas, $\Phi_{\text{conf}}$ y $\Phi_{\text{phase}}$, demostrando que el aprendizaje y la mecánica son diferentes "lecturas" de un mismo objeto sintáctico.
• Recuperación de Algoritmos Estándar:
  • Aplicar $\Phi_{\text{conf}}$ a una red neuronal parametrizada recupera el descenso de gradiente con retropropagación, donde el paso hacia atrás es el mapa hacia atrás del lente.
  • Aplicar $\Phi_{\text{conf}}$ a un sistema cerrado con un mapa agudo específico basado en la Hessiana recupera el método de Newton.
  • Aplicar $\Phi_{\text{phase}}$ a una cadena de partículas armónicas recupera la ecuación de onda discreta.
  • Aplicar $\Phi_{\text{conf}}$ a la misma cadena armónica recupera la ecuación de calor discreta.
• Prueba de Simpleticidad: El artículo demuestra (Proposición 6.6.1) que para arreglos armónicos cerrados (mapa agudo simétrico constante, potencial cuadrático), el functor de dinámica de fase $\Phi_{\text{phase}}$ produce actualizaciones que son isomorfismos lineales que preservan el emparejamiento simpléctico canónico, discretizando efectivamente el flujo hamiltoniano.

Resultados

El artículo demuestra que un único arreglo adaptativo (un diagrama con cableado, potencial y estructura de reacción fijos) puede generar regímenes dinámicos cualitativamente diferentes dependiendo únicamente de la elección del integrador:

• Conservativo vs. Disipativo: El integrador de fase produce un sistema de segundo orden y conservativo (ecuación de onda), mientras que el integrador de configuración produce un sistema de primer orden y disipativo (ecuación de calor).
• Dinámica Composicional: Debido a que ArrSm es un operad, se pueden construir sistemas más grandes cableando arreglos más pequeños. Los functores de semántica ensamblan la dinámica global de forma funcional a partir de las partes locales, asegurando que la dinámica de un sistema compuesto esté determinada por la dinámica de sus componentes y su interconexión.
• Semántica Ejecutable: Las coalgebras resultantes son máquinas de estado explícitas. El artículo señala que estas construcciones son lo suficientemente precisas como para ser compiladas en código ejecutable (haciendo referencia al código compañero en los agradecimientos).

Significancia

El artículo se posiciona como un puente entre el marco de "energía abierta-impulsada" de Capucci–Lynch–Spivak (tiempo continuo) y la mecánica/aprendizaje de tiempo discreto, ofreciendo un análogo de tiempo discreto que maneja el acoplamiento adaptativo y las actualizaciones de parámetros de forma nativa. Su importancia radica en:

1. Unificación: Revela una profunda comunalidad estructural entre la optimización (aprendizaje) y la física (mecánica), mostrando que ambas están gobernadas por la misma sintaxis composicional y difieren solo en la elección del integrador (espacio de estado y regla de actualización).
2. Generalidad: El marco no se limita a variedades; está construido sobre ingredientes categóricos abstractos (categorías cartesianas, monoides monoidales) y se instancia en el entorno suave. Esto sugiere aplicabilidad a sintaxis algebraicas y otros dominios.
3. Modularidad: Al tratar la dinámica como semántica funcional de un operad, el trabajo ofrece un método riguroso para componer sistemas dinámicos complejos a partir de componentes más simples y reutilizables, con una consistencia garantizada en cómo se ensamblan sus dinámicas.