Resumen Técnico: Regresión Entrópica de Descomposición de Modos Dinámicos (ERDMD)

Planteamiento del Problema

La Descomposición de Modos Dinámicos (DMD) se ha convertido en una herramienta estándar para el descubrimiento de modelos basados en datos, particularmente en la dinámica de fluidos y sistemas caóticos. Sin embargo, la DMD estándar suele tener dificultades con datos multiescala y atractores caóticos donde los modelos simples de retardo fallan al proporcionar pronósticos precisos a largo plazo. Aunque la HODMD (DMD de Orden Superior) y los métodos Hankel-DMD intentan abordar esto incorporando retardos temporales, típicamente dependen de retardos de tiempo uniformes o requieren la selección manual de dimensiones de embebido. La literatura existente sugiere que los retardos de tiempo no uniformes pueden generar modelos más ricos desde el punto de vista de la teoría de la información, pero existe una falta de métodos totalmente automáticos para descubrir el conjunto óptimo de retardos no uniformos para una serie temporal dada. Además, determinar el modelo "más probable" requiere navegar por un vasto espacio de posibles combinaciones de retardos sin un criterio robusto de selección, especialmente en presencia de ruido.

Metodología

Los autores proponen la Regresión Entrópica de Descomposición de Modos Dinámicos (ERDMD), un método que fusiona el marco de HODMD con la Regresión Entrópica (ER), una técnica derivada de la teoría de la información y la entropía de causalidad. El objetivo central es descubrir modelos de DMD con retardos de tiempo no uniformos y dispersos que maximicen el flujo de información respecto a la evolución de la serie temporal.

El método opera en tres etapas distintas, formalizadas en el Algoritmo 1:

1. Inicialización: El proceso comienza con un modelo mínimo que contiene solo el retardo unitario ($l=1$), correspondiente a una matriz DMD estándar $K_1$.
2. Fase de Construcción (Build Phase): El algoritmo prueba iterativamente la adición de retardos candidatos de un grupo de posibles retrasos. Para cada retardo candidato, se construye un nuevo modelo. El algoritmo calcula la Entropía de Causalidad (una generalización de la entropía de transferencia) para medir la información mutua condicional entre el modelo propuesto y el estado objetivo, condicionado al estado actual del modelo. Específicamente, busca maximizar:
   $$\tilde{I} = \arg\max_j I(Y^+_d, K(l_t)Y^-(l_t) \mid K(l_c)Y^-(l_t))$$
   donde $Y^+_d$ es el estado objetivo, $l_c$ es el conjunto actual de retardos, y $l_t$ es el conjunto de prueba que incluye un nuevo retardo. Si la ganancia de información es estadísticamente significativa (verificada mediante pruebas de permutación/shuffle testing), el retardo se añade al modelo.
3. Fase de Poda (Prune Phase): Una vez agotada la fase de construcción, el algoritmo prueba la necesidad de cada retardo seleccionado. Elimina un retardo a la vez y calcula la pérdida de información. Si la eliminación de un retardo resulta en una disminución estadísticamente insignificante de la información (es decir, la ganancia de información es efectivamente cero), ese retardo es podado del modelo.

El modelo resultante es una combinación lineal dispersa de estados con retardos temporales:
$$y_{j+1} = \sum_{k=1}^{N_L} K_{l_k} y_{j+1-l_k}$$
donde el conjunto de retardos $\{l_k\}$ es no uniforme y se descubre automáticamente. Los autores también caracterizan las propiedades espectrales del modelo resultante construyendo una matriz compañera $K_a$ y analizando las raíces del polinomio característico asociado, lo que permite la separación de la dinámica basada en las escalas de tiempo.

Contribuciones Clave

• Descubrimiento Automático de Retardos: El artículo introduce un mecanismo totalmente automático para determinar los retardos de tiempo no uniformos óptimos para los modelos DMD, yendo más allá de las estructuras de retardo fijas o uniformes comunes en HODMD y Hankel-DMD.
• Selección Basada en la Teoría de la Información: Al utilizar la Regresión Entrópica y la Entropía de Causalidad, el método selecciona los términos del modelo basándose en su capacidad para proporcionar la mayor cantidad de información sobre la evolución del sistema, en lugar de depender únicamente de la minimización de mínimos cuadrados.
• Modelos Dispersos y Robustos: Se demuestra que los modelos resultantes son altamente dispersos (utilizando un número mínimo de términos) mientras mantienen una alta fidelidad en la reconstrucción. El uso de la teoría de la información proporciona una robustez inherente al ruido de los datos.
• Descomposición Espectral: La estructura de retardo no uniforme permite una caracterización más clara del espectro de Koopman, permitiendo la separación de modos dinámicos rápidos y lentos mediante el análisis de polinomios reducidos derivados de las matrices de retardo.

Resultados

Los autores validan ERDMD en tres sistemas dinámicos caóticos:

1. Sistema Lorenz-63:

   • Con un retardo máximo $d=150$, ERDMD convergió a un modelo altamente disperso con retardos $l_c = \{1, 149\}$.
   • Mientras que la HODMD completa (usando todos los retardos) mostró un error de reconstrucción ligeramente menor, el modelo ERDMD demostró un rendimiento de pronóstico superior, sugiriendo que la HODMD completa estaba sufriendo de sobreajuste (overfitting).
   • El análisis espectral reveló que el amortiguamiento en la dinámica fue impulsado por la disparidad en los valores de los retardos.
   • Cuando el retardo máximo se redujo a $d=100$, el algoritmo seleccionó un conjunto de retardos más complejo ($l_c = \{1, 15, 26, \dots, 99\}$), resaltando la adaptabilidad del método al horizonte temporal disponible.

2. Sistema Rössler:

   • Este sistema exhibe una dinámica multiescala (oscilaciones planas rápidas y crecimiento lento).
   • ERDMD identificó con éxito un conjunto no uniforme de retardos ($l_c = \{1, 3, 170, 436, 553, 665, 988\}$) que capturó tanto las escalas rápidas como las lentas.
   • Las normas de las matrices de retardo abarcaron diez órdenes de magnitud, con los retardos cortos ($1, 3$) teniendo normas grandes y los retardos largos teniendo normas minúsculas.
   • El análisis espectral mostró que el polinomio reducido derivado de los retardos largos aproximó con precisión las escalas más lentas, mientras que los retardos cortos capturaron los modos rápidos inestables.

3. Ecuación de Kuramoto–Sivashinsky (KS):

   • Aplicado a un sistema caótico de mayor dimensión y extendido espacialmente ($L=11$).
   • El método convergió a un modelo disperso con retardos $l_c = \{1, 123, 141, 158\}$.
   • La reconstrucción fue exitosa, aunque los autores señalan que para horizontes de reconstrucción más largos, los errores se acumularon más rápido que en el modelo HODMD completo, indicando que los modelos DMD con retardos óptimos por sí solos podrían no ser suficientes para todos los sistemas caóticos de alta dimensión.
   • El análisis espectral nuevamente mostró una clara separación de modos basada en los valores de retardo, donde los modos más inestables correspondían al retardo más corto ($K_1$).

Significado y Reivindicaciones

El artículo afirma que ERDMD materializa la ambición de trabajos previos (como [8]) de encontrar operadores de Koopman exactos en sistemas eródicos al proporcionar una forma práctica y automática de determinar embebimientos de tiempo no uniformos. La importancia principal radica en la capacidad de construir modelos de alta fidelidad y mínimos que son robustos al ruido y capaces de identificar características multiescala sin ajuste manual.

Los autores reconocen explícitamente las limitaciones:

• En el caso de la ecuación de Kuramoto–Sivashinsky, el método tuvo dificultades para reconstruir perfectamente atractores extraños de mayor dimensión sobre horizontes largos en comparación con la HODMD completa, lo que indica que los modelos DMD con retardos óptimos por sí solos pueden no ser suficientes para todos los sistemas caóticos de alta dimensión.
• Sugieren que el trabajo futuro debería acoplar ERDMD con estrategias de redes neuronales de auto-codificación (autoencoding) (como en [12]) para abordar estas deficiencias.
• El artículo señala que, si bien el método es robusto al ruido, las pruebas con datos reales ruidosos siguen siendo una frontera para investigaciones futuras.

El trabajo posiciona a ERDMD como un enfoque complementario a los métodos existentes de descubrimiento de redes causales, ofreciendo una herramienta específica para la construcción de modelos de paso de tiempo que sean tanto dispersos como dinámicamente informativos.