Resumen Técnico: Aprendizaje de Sistemas Parcialmente Observados con Ecuaciones Diferenciales Ordinarias Hamiltonianas Neuronales

Enunciado del Problema

El artículo aborda el desafío de aprender sistemas dinámicos a partir de datos cuando el estado del sistema es solo parcialmente observable. En muchos escenarios físicos, ciertas variables de estado son inaccesibles a la medición, pero influyen en la evolución de las variables observadas. Los modelos estándar de aprendizaje automático informados por física, como las Redes Neuronales Hamiltonianas (HNN), típicamente requieren acceso al estado completo del sistema (todas las posiciones y momentos) y sus derivadas temporales para definir la función de pérdida. Este requisito los hace inaplicables a configuraciones parcialmente observadas donde las variables latentes deben inferirse sin supervisión directa. Por el contrario, los enfoques puramente impulsados por datos, como las Ecuaciones Diferenciales Ordinarias Neuronales estándar (Neural ODE), a menudo fallan al generalizar o mantener la estabilidad en estas configuraciones, particularmente para sistemas complejos o caóticos, debido a la falta de restricciones físicas necesarias para limitar el espacio de soluciones.

Metodología

Los autores proponen Ecuaciones Diferenciales Ordinarias Hamiltonianas Neuronales (NHODE), un marco que integra las garantías estructurales de la mecánica hamiltoniana con los procedimientos de entrenamiento flexibles de las Neural ODE.

Marco Central

El sistema se modela como un sistema hamiltoniano canónico:
$$\dot{x} = S \nabla H(x)$$
donde $x = (q, p)^T$ representa la posición y el momento generalizados, $H$ es el hamiltoniano (energía total) y $S$ es la matriz simpléctica canónica.

El marco NHODE se distingue por tres componentes clave:

1. Entrenamiento basado en proyecciones (Rollout) con pérdida parcial: A diferencia de las HNN estándar que calculan la pérdida basándose en el residuo de las ecuaciones de Hamilton en cada paso de tiempo (requiriendo datos de estado completo), NHODE adopta el paradigma de entrenamiento de Neural ODE. El modelo integra el campo vectorial aprendido hacia adelante desde una condición inicial para generar una trayectoria completa. La función de pérdida se define solo sobre los componentes observados del estado ($x_{obs}$) en los puntos de tiempo de los datos. Los componentes latentes ($x_{hid}$) se excluyen del cálculo de la pérdida, lo que significa que su influencia en el entrenamiento es indirecta, mediada únicamente a través de la evolución de las variables observadas.

2. Inferencia del estado latente: Para inicializar la integración, el marco emplea un codificador de red neuronal para inferir el estado inicial de las variables no observadas ($x_{hid}(t_0)$) basándose en el historial inicial de las variables observadas. Este codificador y la red hamiltoniana se entrenan conjuntamente utilizando una función de pérdida compartida.

3. Restricciones físicas mediante simetría y separabilidad: Para limitar aún más el espacio de soluciones y mejorar la generalización, los autores incorporan priores físicos específicos:

   • Transformaciones de coordenadas: Para sistemas con simetría traslacional, las coordenadas absolutas se transforman en distancias relativas pares antes de ser pasadas a la red neuronal. Esto impone la invariancia traslacional, asegurando la conservación del momento lineal.
   • Hamiltonianos separables: El marco soporta modelos donde el hamiltoniano se asume separable ($H = T(p) + V(q)$) con un término de energía cinética conocido ($T(p) = p^2/2m$). En esta configuración, la red neuronal solo aprende la energía potencial $V(q)$. Cuando se combina con coordenadas relativas, esta formulación también impone la conservación del momento angular.

Los autores definen dos variantes principales de modelo:

• NHODEtot: Aprende la energía total directamente mediante una red neuronal.
• NHODEpot: Aprende solo la energía potencial, asumiendo una forma de energía cinética conocida y masas de partículas.

Contribuciones Clave

1. Marco novedoso para observabilidad parcial: El artículo introduce NHODE, el primer marco que combina exitosamente la estructura hamiltoniana con el entrenamiento de Neural ODE específicamente para manejar sistemas con variables de estado completamente no observadas.
2. Demostración de priores físicos: El trabajo demuestra sistemáticamente que incrustar estructura física (conservación de energía, conservación de momento mediante simetría) no es meramente beneficioso, sino esencial para aprender dinámicas estables en regímenes parcialmente observados, de alta dimensión y caóticos.
3. Validación empírica en complejidad creciente: El método se evalúa en tres sistemas de complejidad creciente:
   • Un sistema lineal 1D de dos masas y dos resortes.
   • Un sistema no lineal 2D triangular de tres masas y tres resortes.
   • El problema caótico de tres cuerpos en 3D.
4. Aprendizaje de condiciones iniciales: Se demuestra que el marco puede inferir efectivamente las condiciones iniciales de variables ocultas únicamente a partir de trayectorias observadas, una tarea donde las líneas base puramente impulsadas por datos fallan.

Resultados

Los experimentos comparan NHODE contra dos líneas base:

• NODEvanilla: Una Neural ODE estándar.
• NODEphys: Una Neural ODE informada por física que aprende solo las derivadas del momento.

Hallazgos:

• Sistemas lineales: En el simple sistema masa-resorte 1D, todos los modelos (incluidas las líneas base) funcionan razonablemente bien, aunque los modelos NHODE muestran una estabilidad ligeramente superior.
• Sistemas no lineales: En el sistema masa-resorte no lineal 2D, la brecha de rendimiento se amplía. Mientras que los modelos NHODE mantienen un error bajo, las líneas base comienzan a divergir en horizontes temporales más largos.
• Sistemas caóticos: En el problema de tres cuerpos, la distinción es marcada. Las líneas base puramente impulsadas por datos (NODEvanilla) e incluso la NODEphys parcialmente informada por física se vuelven inestables y divergen rápidamente. Solo el modelo NHODE más informado por física (NHODEpot,rel), que impone la conservación de energía, momento lineal y momento angular, produce trayectorias estables y no divergentes en horizontes largos.
• Métricas de error: En todos los ejemplos, aumentar la cantidad de estructura física incrustada (por ejemplo, pasar de NHODEtot a NHODEpot, o de coordenadas absolutas a relativas) mejora sistemáticamente tanto la precisión de la predicción como la estabilidad a largo plazo.

Significado y Afirmaciones

El artículo afirma que su contribución principal es demostrar que el conocimiento físico incrustado en un modelo de aprendizaje automático permite el aprendizaje preciso tanto de las partes observadas como latentes de un sistema parcialmente observado, una tarea donde los métodos puramente impulsados por datos fallan.

Los autores enfatizan que, aunque la dinámica latente podría no ser identificable de manera única sin información adicional (como parámetros del sistema conocidos), el marco NHODE aprende un estado latente que es físicamente consistente y produce predicciones precisas para las variables observadas. El trabajo destaca que en regímenes caóticos, donde pequeñas perturbaciones conducen a una divergencia exponencial, la incorporación de priores físicos fuertes (leyes de conservación) es crítica para evitar que las dinámicas aprendidas "exploten", extendiendo así la ventana de predicción útil.

El artículo concluye que el marco NHODE es una herramienta generalizable para configuraciones donde los sistemas dinámicos son parcialmente observados, se conoce la estructura física y se requieren predicciones temporales estables, como en la monitorización industrial, la robótica y experimentos científicos con acceso limitado a sensores.