From Adam to Adam-Like Lagrangians: Second-Order Nonlocal Dynamics

1. El Problema

A pesar del éxito empírico del algoritmo Adam en el aprendizaje profundo, carece de una interpretación dinámica sistemática en tiempo continuo. Adam es intrínsecamente un proceso de tiempo discreto que utiliza medias móviles exponencialmente ponderadas de los gradientes y sus cuadrados para ajustar la tasa de aprendizaje y la dirección de la actualización. Esta dependencia de la historia pasada (memoria) hace que su descripción sea no local en el tiempo. El problema central es encontrar una formulación en tiempo continuo que capture fielmente este mecanismo de memoria y permita utilizar herramientas analíticas de sistemas dinámicos para estudiar su estabilidad y convergencia.

2. Metodología

El autor emplea un enfoque de expansión de Taylor de segundo orden en el tamaño del paso ($\alpha$) para transitar del algoritmo discreto a un modelo de ecuaciones diferenciales. La metodología se divide en tres pilares:

1. Modelado Integro-Diferencial (IDE): En lugar de usar ecuaciones diferenciales ordinarias (ODE) locales, el autor modela los momentos de Adam como convoluciones causales con núcleos (kernels) exponenciales. Esto transforma la dinámica en un sistema de segundo orden con fricción y un término de fuerza no local.
2. Análisis de Estabilidad de Lyapunov: Se construye un funcional de Lyapunov que combina la suboptimidad del objetivo con términos de momento, permitiendo certificar la convergencia incluso en paisajes no convexos.
3. Formalismo Variacional No Local: Se introduce una extensión de la mecánica clásica donde el Lagrangiano depende de la trayectoria completa (no solo del estado instantáneo), utilizando el concepto de operador de traslación temporal en el espacio cinemático.

3. Contribuciones Clave

• Derivación de la Dinámica de Segundo Orden: Se demuestra que Adam puede representarse como un sistema inercial de la forma:
  $$\frac{\alpha^2}{2} \ddot{\theta}(t) + \dot{\theta}(t) = -\eta(t+\alpha) T_i(\theta, t+\alpha)$$
  donde $T_i$ es un término de fuerza precondicionado que depende de la historia de los gradientes a través de operadores de memoria.
• Relación de Refinamiento $\alpha$: Se prueba que, a medida que el tamaño del paso $\alpha \to 0$, este modelo de segundo orden recupera el modelo de primer orden (propuesto previamente por el autor en 2025), estableciendo una jerarquía de precisión.
• Condición de Positividad del Segundo Momento: Se establece una condición matemática ($\beta_1 \leq \sqrt{\beta_2}$) que garantiza que el segundo momento $v(t)$ permanezca no negativo, incluso en regímenes de subamortiguamiento (donde los núcleos son oscilatorios).
• Propuesta de Lagrangiano No Local: Se define una clase de Lagrangianos "inspirados en Adam" que generan flujos inerciales bajo una condición de reciprocidad ponderada, ofreciendo un marco para diseñar nuevos optimizadores basados en principios de simetría.

4. Resultados Principales

• Convergencia y Estabilidad:
  • Caso PL (Polyak-Łojasiewicz): Se demuestra que el error del objetivo decae exponencialmente hasta una vecindad de orden $O(\rho^2)$, donde $\rho$ es un parámetro dependiente de $\alpha$ y los hiperparámetros $\beta$.
  • Caso KL (Kurdyka-Łojasiewicz): Se obtienen tasas de convergencia que siguen el perfil de la propiedad KL, con un error residual de orden $O(\rho^{1/2\sigma})$.
• Validación Numérica:
  • Las simulaciones en funciones tipo Rosenbrock confirman que el modelo de segundo orden es más preciso que el de primer orden para capturar la trayectoria de Adam discreto.
  • El modelo captura correctamente fenómenos de cambio de cuenca de atracción (basin switching) en paisajes no convexos.
  • Se identifica que la condición $\beta_1 \leq \sqrt{\beta_2}$ es crítica: si se viola, la dinámica presenta oscilaciones inestables en la aceleración.

5. Significado e Impacto

Este trabajo eleva el estudio de los optimizadores adaptativos de un nivel puramente algorítmico a uno de física teórica y sistemas dinámicos. Al tratar a Adam como un sistema inercial con memoria, permite:

1. Diseño de Algoritmos: Proporcionar un "plano arquitectónico" (blueprint) para crear nuevos optimizadores mediante la manipulación de simetrías y principios variacionales.
2. Comprensión Teórica: Explicar por qué ciertos hiperparámetros ($\beta_1, \beta_2$) causan inestabilidad.
3. Generalización: El marco es aplicable no solo a Adam, sino también a AdaGrad y RMSProp, sugiriendo una teoría unificada para la optimización adaptativa basada en la memoria.