Online learning of Koopman operator using streaming data from different dynamical regimes

Resumen Técnico

1. Planteamiento del Problema

El aumento de la disponibilidad de sensores ha generado un flujo masivo de datos de sistemas complejos, lo que impulsa la necesidad de métodos de modelado y control basados en datos. Sin embargo, los enfoques tradicionales de descomposición de modos dinámicos (DMD) y descomposición de modos dinámicos extendidos (EDMD) enfrentan desafíos críticos cuando se trata de datos en streaming:

• Costo Computacional: Los métodos batch requieren operaciones costosas como la descomposición en valores singulares (SVD) y la inversión de matrices, que se vuelven inviables a medida que crece el volumen de datos.
• Regímenes Dinámicos Diversos: Los datos en streaming pueden provenir intermitentemente de regímenes dinámicos muy diferentes o eventos raros. Los métodos adaptativos con "factores de olvido" (forgetting factors) tienden a descartar datos antiguos, perdiendo información crítica de regímenes que podrían ser visitados nuevamente en el futuro.
• Orden del Sistema Desconocido: Determinar el orden del sistema y aprender las funciones de base (basis functions) adecuadas para sistemas no lineales desconocidos en tiempo real es un desafío no resuelto eficientemente por los métodos existentes.

El objetivo es desarrollar un marco que aprenda el operador de Koopman en línea, priorizando la eficiencia computacional, la capacidad de detectar nuevos regímenes dinámicos y la optimización del orden del sistema y las funciones de base.

2. Metodología

Los autores proponen un marco de aprendizaje en línea basado en la Identificación de Subespacios Recursiva (R-SSID) combinada con una selección de datos guiada por la distancia de Grassmann.

Conceptos Clave:

• Operador de Koopman: Se aproxima el sistema no lineal como un sistema lineal de tiempo invariante (LTI) en un espacio de dimensión superior (espacio "levantado" o lifted space).
• Identificación de Subespacios (SSID): Se utiliza para estimar las matrices del sistema $(K, B, C, D)$ y el espacio de observabilidad extendido sin necesidad de especificar a priori las funciones de base.
• Procesamiento de Regresión Gaussiana (GP): Se utiliza para mapear los estados originales a los estados levantados, aprendiendo las funciones de base de manera adaptativa.

Algoritmo Propuesto (R-SSID con Selección de Datos):

1. Inicialización: Se utiliza un lote inicial de datos para aproximar la matriz de observabilidad extendida y el operador de Koopman.
2. Procesamiento de Datos en Streaming: A medida que llegan nuevos segmentos de datos, se construyen matrices de Hankel.
3. Cálculo de la Distancia de Grassmann: Se calcula la distancia entre el subespacio del subespacio de observabilidad extendido actual ($\Gamma_i$) y el subespacio del nuevo segmento de datos ($\Gamma_{i+1}$).
   • La distancia se define como $G = \sqrt{\sum \theta_k^2}$, donde $\theta_k$ son los ángulos principales entre los subespacios.
4. Umbral de Novedad ($\epsilon$):
   • Si $G > \epsilon$: El nuevo segmento de datos representa un nuevo régimen dinámico o información no redundante. Se añade al archivo de datos y se actualiza recursivamente el operador de Koopman y el orden del sistema.
   • Si $G \le \epsilon$: El dato se considera redundante (similar al régimen actual) y se descarta, evitando el crecimiento innecesario de la base de datos y el costo computacional.
5. Actualización Recursiva: Se utiliza una actualización basada en el teorema de inversión de matrices (similar a mínimos cuadrados recursivos) para actualizar las matrices del sistema sin recalcular todo el conjunto de datos.
6. Aprendizaje de Funciones de Base: Se emplea regresión de procesos gaussianos para aprender las funciones de base que mapean los estados físicos a los estados levantados.

3. Contribuciones Clave

• Detección de Regímenes Dinámicos: El uso de la distancia de Grassmann permite identificar automáticamente cuándo los datos provienen de un régimen dinámico diferente (ej. eventos raros o cambios de comportamiento), priorizando su inclusión en el modelo.
• Optimización de Recursos: Al descartar datos redundantes, el método mantiene un archivo de datos pequeño, reduciendo drásticamente los requisitos de memoria y cómputo en comparación con los métodos batch o de olvido.
• Determinación del Orden del Sistema: El algoritmo ajusta dinámicamente el orden del sistema ($r$) basándose en los valores singulares dominantes de la matriz de datos actualizada, sin necesidad de conocimiento previo.
• Aprendizaje Adaptativo de Funciones de Base: Integra procesos gaussianos para aprender las funciones de base necesarias para la linealización, eliminando la necesidad de definir un diccionario fijo de antemano.

4. Resultados de las Simulaciones

Los autores validaron el algoritmo en dos escenarios:

1. Ejemplo Numérico Simple (Sistema No Lineal):

   • Se demostró que el algoritmo identifica correctamente el modelo de Koopman discreto.
   • De 100 conjuntos de datos, solo se necesitaron 10 para actualizar el modelo, descartando el 90% como redundante.
   • La distancia de Grassmann convergió a cero, confirmando la similitud con el modelo verdadero, y el orden del sistema se identificó correctamente como 3.

2. Oscilador de Duffing con Control (Sistema Complejo):

   • Se simuló un oscilador de Duffing con entradas de control que generaban oscilaciones de "pozo único" y "pozo doble".
   • El algoritmo detectó el cambio de régimen en el dataset 601 (donde la distancia de Grassmann aumentó bruscamente), adaptando el orden del sistema de 9 a 11 para capturar la nueva dinámica.
   • Comparación con EDMD: El modelo actualizado ($K_{900}$) mostró un error cuadrático medio (RMSE) menor que un modelo entrenado con solo 600 datos ($K_{600}$).
   • Eficiencia: El algoritmo propuesto (R-SSID) con solo 11 funciones de base superó en precisión predictiva al método K-EDMD que utilizaba 27 y 102 funciones de base, demostrando una mayor eficiencia en la representación del sistema.

5. Significado e Impacto

Este trabajo es significativo porque aborda la brecha entre el modelado de sistemas complejos y la realidad de los datos en streaming.

• Viabilidad Computacional: Hace posible el modelado de sistemas no lineales en tiempo real en entornos con recursos limitados, donde almacenar y procesar grandes matrices de datos históricos es imposible.
• Robustez ante Eventos Raros: A diferencia de los métodos de "olvido", este enfoque preserva la memoria de eventos críticos o regímenes poco frecuentes que son esenciales para el control seguro y la predicción a largo plazo.
• Automatización: Elimina la necesidad de intervención humana para definir el orden del sistema o seleccionar funciones de base, permitiendo una adaptación totalmente autónoma a la complejidad de los datos entrantes.

En conclusión, el método propuesto ofrece un equilibrio óptimo entre la precisión del modelo, la complejidad computacional y la capacidad de adaptación a dinámicas cambiantes, siendo una herramienta prometedora para el control y la identificación de sistemas complejos en la era de los grandes datos.