Sintesi Tecnica: Sintesi di Osservatori KKL per Sistemi Non Lineari tramite Apprendimento Informato dalla Fisica

1. Definizione del Problema

Il documento affronta la sfida della progettazione di osservatori Kazantzis-Kravaris/Luenberger (KKL) per sistemi autonomi non lineari. Un osservatore KKL si basa su una mappa di trasformazione di coordinate iniettiva, $T$, che eleva un sistema non lineare in uno spazio a dimensione superiore dove la sua dinamica è lineare fino all'iniezione dell'uscita e stabile. L'osservatore replica quindi la dinamica lineare e mappa lo stato nel sistema originale utilizzando la mappa inversa, $T^*$.

La sintesi di tali osservatori affronta due ostacoli primari:

1. Intrattabilità Analitica: Trovare la mappa di trasformazione $T$ richiede la risoluzione di una specifica equazione differenziale alle derivate parziali (PDE), che è computazionalmente difficile. Inoltre, il calcolo della mappa inversa $T^*$ in modo analitico o numerico è spesso impraticabile.
2. Limitazioni dell'Apprendimento: Gli approcci basati sull'apprendimento esistenti (ad esempio, architetture encoder-decoder congiunte) soffrono spesso di gradienti conflittuali durante l'addestramento, portando a minimi locali subottimali e una scarsa generalizzazione, in particolare quando lo stato iniziale del sistema devia dalla distribuzione di addestramento. Inoltre, i metodi puramente basati sui dati possono fallire nel rispettare i vincoli fisici sottostanti delle dinamiche del sistema.

2. Metodologia

Gli autori propongono un nuovo framework di apprendimento sequenziale che disaccoppia l'apprendimento della mappa di trasformazione diretta ($T$) e della sua inversa ($T^*$), utilizzando Reti Neurali Informate dalla Fisica (PINN).

2.1 Architettura di Apprendimento Sequenziale

A differenza dei lavori precedenti che addestrano un autoencoder (apprendendo congiuntamente $T$ e $T^*$), questo metodo impiega un processo in due fasi:

1. Apprendimento della Mappa Diretta ($\hat{T}_\theta$): Una rete neurale viene addestrata per approssimare la mappa di trasformazione $T$. L'obiettivo dell'addestramento combina un termine di adattamento ai dati (corrispondenza con traiettorie sintetiche) con un termine di regolarizzazione informato dalla fisica. Questo termine penalizza il residuo della PDE governante:
   $$\mathcal{P}_\theta(x) = \frac{\partial \hat{T}_\theta}{\partial x}(x)f(x) - A\hat{T}_\theta(x) - Bh(x)$$
   dove $f$ e $h$ sono le funzioni di dinamica e di uscita del sistema, e $A, B$ sono matrici dell'osservatore fisse.
2. Apprendimento della Mappa Inversa ($\hat{T}^*_\eta$): Una volta che la mappa diretta è stata addestrata e fissata, una seconda rete neurale viene addestrata per apprendere l'inversa. Essa minimizza il rischio di ricostruzione mappando gli stati latenti stimati nuovamente nello spazio degli stati originali:
   $$\min_\eta \mathbb{E}_{x \sim D_X} [\|x - \hat{T}^*_\eta(\hat{T}_\theta(x))\|^2]$$

2.2 Generazione dei Dati

I dati sintetici sono generati simulando le dinamiche del sistema e le dinamiche dell'osservatore lineare. Per gestire le condizioni iniziali sconosciute dello stato dell'osservatore $z(0)$, gli autori sfruttano la stabilità dell'osservatore (matrice $A$ di Hurwitz). Simulano traiettorie da punti iniziali casuali e scartano la parte transitoria della traiettoria $z$, garantendo che i punti dati rimanenti siano effettivamente indipendenti dallo stato iniziale dell'osservatore e giacciano sul manifold invariante.

2.3 Garanzie Teoriche

Il documento stabilisce garanzie di apprendimento non asintotiche:

• Limiti di Generalizzazione: Utilizzando la teoria della pseudo-dimensione, gli autori derivano limiti ad alta probabilità sugli errori di approssimazione sia delle mappe diretta che di quella inversa.
• Robustezza: Il documento prova che l'errore di stima medio temporale è limitato dall'errore di approssimazione dell'apprendimento e dalle incertezze del sistema (disallineamento del modello e rumore di misura). Nello specifico, l'errore converge a un intorno dello zero determinato dalla qualità della mappa inversa appresa e dall'entità dei disturbi esterni.

3. Contributi Chiave

1. Strategia di Apprendimento Sequenziale: Il documento introduce un approccio sequenziale per l'apprendimento di osservatori KKL, evitando i gradienti conflittuali inerenti all'addestramento congiunto dell'encoder-decoder. Ciò migliora la stabilità dell'ottimizzazione e l'accuratezza.
2. Regolarizzazione Informata dalla Fisica: Incorporando la PDE KKL come termine di perdita, il metodo impone la coerenza fisica, agendo come un forte regolarizzatore che previene l'overfitting sui dati di addestramento e consente l'estrapolazione verso stati non visti.
3. Analisi Teorica: Il lavoro fornisce rigorosi limiti non asintotici che collegano la minimizzazione del rischio empirico all'errore di approssimazione reale. Dimostra inoltre che l'osservatore risultante è robusto sia agli errori di apprendimento che alle incertezze del sistema, garantendo un errore di stima medio temporale limitato.
4. Validazione Empirica: L'approccio è validato su quattro sistemi non lineari benchmark (Reverse Duffing, Van der Pol, Rössler e attrattori di Lorenz), dimostrando capacità di generalizzazione superiori rispetto ai metodi allo stato dell'arte basati sui dati (Neural ODEs, deep model-free switching e autoencoder non supervisionati).

4. Risultati

Le simulazioni numeriche sui sistemi benchmark dimostrano che il metodo proposto (indicato come SPINN) raggiunge:

• Maggiore Accuratezza: Minore errore percentuale medio simmetrico (SMAPE) rispetto ai metodi concorrenti.
• Generalizzazione Superiore: Il metodo mantiene alte prestazioni quando testato su condizioni iniziali al di fuori del dominio di addestramento (validazione out-of-domain), mentre i metodi puramente basati sui dati (come NODE e DMF) degradano significamente.
• Robustezza: L'osservatore stima efficacemente gli stati in presenza di rumore di misura e incertezze del modello, aderendo ai limiti teorici derivati.

Gli autori attribuiscono questo successo al fatto che il vincolo della PDE agisce come un bias induttivo, restringendo lo spazio delle ipotesi e costringendo la rete neurale a imparare mappature che preservano gli invarianti del sistema (ad esempio, i cicli limite) anche nelle regioni non coperte dai dati di addestramento.

5. Significato e Rivendicazioni

Il documento afferma che la sua importanza primaria risiede nel superare i limiti della esistente sintesi di osservatori basata sull'apprendimento, specificamente la difficoltà di trovare inversioni analitiche e la scarsa generalizzazione dei modelli puramente basati sui dati.

• Utilità Pratica: Il metodo fornisce un modo sistematico per progettare osservatori KKL per sistemi non lineari generali dove le soluzioni analitiche non sono disponibili.
• Affidabilità: Fornendo garanzie teoriche sulla robustezza e sui limiti dell'errore non asintotico, il documento posiziona l'osservatore appreso come uno strumento affidabile per applicazioni critiche per la sicurezza, a differenza degli approcci di apprendimento "black-box".
• Direzioni Future: Gli autori notano modestamente che il lavoro futuro si concentrerà sull'estensione di questo framework a sistemi non autonomi e controllati (che comportano PDE tempo-varianti) e sull'integrazione dell'identificazione del sistema con la progettazione dell'osservatore per scenari con modelli di sistema sconosciuti. Suggeriscono inoltre di esplorare l'apprendimento attivo per ottimizzare il campionamento dei dati.

Il documento conclude che l'approccio proposto di apprendimento sequenziale e informato dalla fisica offre una soluzione robusta e generalizzabile per la sintesi di osservatori KKL, colmando il divario tra la teoria del controllo rigorosa e il moderno apprendimento automatico.