Online learning of Koopman operator using streaming data from different dynamical regimes

1. Il Problema

La crescente disponibilità di dati provenienti da sensori in sistemi complessi ha favorito l'adozione di metodi basati sui dati per la modellazione e il controllo. Tuttavia, l'uso di dati in streaming (flusso continuo) presenta sfide significative:

• Sovraccarico computazionale: I metodi tradizionali basati sull'operatore di Koopman (come DMD - Dynamic Mode Decomposition o EDMD - Extended DMD) richiedono l'elaborazione di grandi dataset storici, rendendo operazioni come la decomposizione ai valori singolari (SVD) e l'inversione di matrici computazionalmente proibitive man mano che i dati aumentano.
• Regimi dinamici eterogenei: I dati in streaming possono provenire intermittemente da diversi regimi dinamici o eventi rari. I metodi adattivi con "fattore di dimenticanza" (forgetting factor) rischiano di scartare dati vecchi ma critici (eventi rari) che potrebbero essere rilevanti in futuro.
• Ordinamento del sistema e funzioni di base: Esiste la difficoltà di determinare dinamicamente l'ordine del sistema e le funzioni di base (dictionary) appropriate quando la dinamica sottostante è sconosciuta e non lineare.

L'obiettivo è sviluppare un metodo che apprenda l'operatore di Koopman in tempo reale, gestendo efficientemente i dati in streaming, identificando nuovi regimi dinamici e adattando la complessità del modello senza accumulare enormi archivi di dati.

2. Metodologia

Il paper propone un framework basato sull'Identificazione Sottomodale Ricorsiva (R-SSID) combinata con la distanza di Grassmanniana per la selezione dei dati.

Concetti Fondamentali

• Operatore di Koopman: L'approccio approssima un sistema dinamico non lineare come un sistema lineare tempo-invariante (LTI) ad alta dimensione (spazio "lifted") agendo su osservabili.
• Identificazione Sottomodale (SSID): Invece di specificare a priori le funzioni di base, il metodo utilizza l'identificazione sottomodale per stimare direttamente la matrice di osservabilità estesa e l'operatore di Koopman dai dati ingresso-uscita.
• Regressione con Processi Gaussiani (GP): Le funzioni di base (lifting) non sono fisse ma vengono apprese adattivamente. Lo stato "lifted" ($z_t$) è modellato come una realizzazione di un processo gaussiano mappato dallo stato originale $x_t$.

Algoritmo Proposto (R-SSID con Selezione Guidata dalla Grassmanniana)

L'algoritmo opera in un ciclo ricorsivo quando arrivano nuovi blocchi di dati (dataset):

1. Calcolo della Distanza di Grassmanniana: Per ogni nuovo segmento di dati in streaming, viene calcolata la distanza tra il sottospazio della matrice di osservabilità estesa del modello corrente ($\Gamma_i$) e il sottospazio derivato dal nuovo segmento di dati ($\Gamma_{i+1}$).
   • La distanza è definita come $G = \left[ \sum_{k=1}^r \theta_k^2 \right]^{1/2}$, dove $\theta_k$ sono gli angoli principali tra i sottospazi.
2. Soglia di Novità ($\epsilon$):
   • Se $G \le \epsilon$: Il nuovo dato è considerato ridondante (proviene dallo stesso regime dinamico) e viene scartato.
   • Se $G > \epsilon$: Il nuovo dato rappresenta un regime dinamico diverso o un evento raro. Viene aggiunto all'archivio e utilizzato per aggiornare ricorsivamente l'operatore di Koopman.
3. Aggiornamento Ricorsivo: Utilizzando l'algoritmo di Oku e Kimura (estensione del Least Squares Ricorsivo), le matrici del sistema $(K, B, C, D)$ vengono aggiornate senza dover ricalcolare l'intera SVD su tutti i dati storici.
4. Adattamento dell'Ordine del Sistema: L'algoritmo monitora i valori singolari dominanti della matrice dei dati aggiornata per determinare dinamicamente l'ordine del sistema ($r$), permettendo al modello di espandersi o contrarsi in base alla complessità dei dati ricevuti.

3. Contributi Chiave

• Selezione Intelligente dei Dati: L'uso della distanza di Grassmanniana permette di filtrare i dati ridondanti mantenendo solo quelli che apportano "novità" informativa, riducendo drasticamente la quantità di dati necessari per l'aggiornamento.
• Apprendimento Adattivo delle Funzioni di Base: A differenza dell'EDMD che richiede un dizionario fisso, questo metodo apprende le funzioni di base tramite regressione con Processi Gaussiani, adattandosi alla dinamica reale.
• Determinazione Dinamica dell'Ordine: Il metodo non richiede che l'ordine del sistema sia noto a priori; lo stima in tempo reale basandosi sulla struttura dei valori singolari.
• Efficienza Computazionale: Evita l'accumulo di grandi matrici storiche, rendendo il processo scalabile per applicazioni con dati in streaming indefiniti.

4. Risultati Sperimentali

Gli autori hanno validato il metodo su due casi di studio:

1. Sistema Non Lineare Semplificato:

   • Un sistema non lineare è stato mappato in uno spazio lineare 3D.
   • Su 100 dataset in streaming, l'algoritmo ne ha selezionati solo 10 per l'aggiornamento (basandosi sulla soglia $\epsilon$), dimostrando un'efficienza di filtraggio del 90%.
   • L'operatore di Koopman identificato ha convergito verso il modello vero, con la distanza di Grassmanniana che tendeva a zero e gli autovalori che si allineavano a quelli del sistema LTI reale.

2. Oscillatore di Duffing con Controllo:

   • Un sistema complesso con comportamenti a "pozzo singolo" (single-well) e "pozzo doppio" (double-well).
   • Il sistema è stato alimentato con 900 dataset. L'algoritmo ha rilevato un cambiamento critico al dataset 601 (passaggio da oscillazioni a pozzo singolo a pozzo doppio), aumentando la distanza di Grassmanniana e adattando l'ordine del sistema (da 9 a 11).
   • Confronto con K-EDMD: Il modello R-SSID (con 11 funzioni di base apprese) ha mostrato errori di previsione (RMSE) inferiori rispetto al metodo K-EDMD che utilizzava 27 o addirittura 102 funzioni di base radiali fisse.

5. Significato e Conclusioni

Questo lavoro rappresenta un passo avanti significativo nell'apprendimento automatico per sistemi dinamici complessi.

• Robustezza: Dimostra che è possibile mantenere un modello di Koopman accurato e a ordine ridotto anche quando i dati provengono da regimi dinamici eterogenei e intermittenti.
• Efficienza: Risolve il collo di bottiglia computazionale dei metodi batch, rendendo fattibile il controllo e la modellazione in tempo reale per sistemi con grandi flussi di dati.
• Flessibilità: La capacità di apprendere le funzioni di base e l'ordine del sistema "on-the-fly" rende il metodo applicabile a sistemi complessi dove la fisica sottostante non è completamente nota o è troppo complessa per essere modellata analiticamente.

In sintesi, il metodo proposto ottimizza il compromesso tra accuratezza del modello, complessità computazionale e capacità di adattarsi a cambiamenti strutturali nella dinamica del sistema.