Data-Driven Prediction and Control of Hammerstein-Wiener Systems with Implicit Gaussian Processes

Questo lavoro propone un metodo di previsione e controllo basato su dati per sistemi Hammerstein-Wiener che utilizza processi gaussiani fisicamente informati con kernel strutturati e punti derivati virtuali per garantire prestazioni superiori rispetto ai modelli black-box.

L'essenziale

🌟 Il "Cervello" che impara le regole nascoste delle macchine

Immagina di dover guidare un'auto molto strana. Questa auto ha tre parti:

1. Il volante (Input): Dove tu dai gli ordini.
2. Il motore (Dinamica): Che è un po' complicato e cambia velocità in modo lineare.
3. Il tachimetro (Output): Che però non mostra la velocità vera, ma una versione "distorta" (magari ingrandita o rimpicciolita) della velocità reale.

Il problema è che non sai come è distorto il tachimetro e non hai il manuale d'uso. Hai solo un registro di guida (dati) dove hai annotato cosa hai girato al volante e cosa ha mostrato il tachimetro. Il tuo obiettivo è guidare l'auto in modo sicuro ed efficiente, prevedendo dove andrà senza rompere nulla.

Questo è esattamente il problema che risolve il paper: come controllare sistemi complessi (chiamati "Hammerstein-Wiener") usando solo i dati, senza conoscere le formule matematiche esatte.

Ecco come gli autori ci sono riusciti, passo dopo passo:

1. Il vecchio modo vs. Il nuovo modo

• Il vecchio modo (Scatola Nera): Prima, si prendevano i dati e si diceva: "Ok, impariamo a memoria tutto". Era come cercare di indovinare la ricetta di una torta assaggiandola, senza sapere se c'era zucchero o sale. Funzionava, ma era impreciso e richiedeva tantissimi assaggi (dati).
• Il nuovo modo (Istruzioni Invisibili): Gli autori dicono: "Aspetta, sappiamo che l'auto ha una struttura precisa (Volante -> Motore -> Tachimetro). Usiamo questa conoscenza come una mappa". Invece di imparare tutto a caso, impariamo solo le parti che ci mancano (le distorsioni), rispettando la struttura della macchina.

2. La "Palla di Neve" e il "Ghiaccio" (Gaussian Processes)

Per imparare le parti mancanti, usano una tecnica chiamata Gaussian Process (GP).
Immagina di dover disegnare una linea che collega dei punti su un foglio.

• Un metodo normale disegna una linea che passa esattamente per tutti i punti, anche se c'è un errore di misura (come se la linea tremolasse).
• Il metodo GP è come avere una palla di neve elastica: si adatta ai punti, ma mantiene una forma morbida e naturale. Se un punto sembra fuori posto (rumore), la palla di neve non si deforma troppo, mantenendo la previsione stabile.

3. Il trucco della "Struttura Implicita"

Qui sta il genio del paper. Invece di chiedere al computer: "Qual è la formula del tachimetro?", chiedono: "Qual è la relazione che lega tutto insieme in modo che l'equazione sia zero?".
È come se invece di chiederti "Qual è il prezzo della mela?", ti chiedessero: "Se metti insieme il prezzo della mela, quello della pera e il resto, la somma deve essere zero".
Questo approccio, chiamato Implicito, permette al computer di "indovinare" la struttura corretta senza dover scrivere esplicitamente ogni singola formula complessa. È come risolvere un puzzle guardando i bordi invece che i singoli pezzi.

4. I "Punti Fantasma" per la monotonia

C'è un problema: il tachimetro (la parte non lineare) dovrebbe essere monotono. Significa che se giri il volante di più, il tachimetro deve sempre salire, mai scendere. Non ha senso che accelerando il contachilometri vada indietro!
Il computer, però, a volte sbaglia e disegna una linea che sale e poi scende.
Per evitare questo, gli autori usano un trucco chiamato Expectation Propagation. Immagina di aggiungere dei "punti fantasma" (punti virtuali) sul grafico che dicono al computer: "Ehi, qui la pendenza deve essere positiva!".
Il computer, vedendo questi punti invisibili, corregge la sua palla di neve elastica per assicurarsi che la linea salga sempre. È come mettere dei guardiani invisibili che controllano che la strada non faccia curve pericolose.

5. Il Controllo: Guidare con la sfera di cristallo

Una volta imparato il modello, il sistema deve decidere come guidare l'auto (Controllo Predittivo).

• Il problema: Se prevedi il futuro, devi anche considerare che potresti sbagliare (incertezza).
• La soluzione: Il sistema calcola non solo il percorso migliore, ma anche quanto è "probabile" che quel percorso sia sicuro. Se c'è troppa incertezza (la palla di neve è troppo grande), il sistema stringe i freni e si fa più prudente per rispettare i vincoli di sicurezza (come non superare la velocità massima).

🏁 I Risultati: Perché è meglio?

Gli autori hanno fatto delle prove su computer:

1. Precisione: Il loro metodo (che usa la struttura nascosta) è molto più preciso di chi cerca di imparare tutto a caso (il "black-box"). È come se chi conosce la ricetta della torta facesse un dolce migliore di chi indovina gli ingredienti.
2. Sicurezza: Riesce a rispettare i limiti di sicurezza molto meglio, perché sa dove sta sbagliando e si adatta.
3. Il prezzo da pagare: È un po' più lento a calcolare le risposte (come un cervello che ci mette più tempo a ragionare perché sta usando più logica), ma ne vale la pena per la precisione e la sicurezza ottenute.

In sintesi

Questo paper ci insegna che, quando si cerca di controllare macchine complesse, non basta guardare i dati. Bisogna capire come sono fatti i dati (la struttura). Usando un "cervello elastico" (Gaussian Process) che rispetta le regole fisiche della macchina e che viene aiutato da "guardiani invisibili" (punti virtuali) a non fare errori assurdi, possiamo guidare sistemi molto complicati in modo sicuro ed efficiente, anche senza avere il manuale d'istruzioni.

Sommario tecnico

Titolo: Predizione e Controllo Guidati dai Dati di Sistemi Hammerstein-Wiener con Processi Gaussiani Impliciti

1. Problema

Il lavoro affronta la sfida della predizione e del controllo guidati dai dati (data-driven) per sistemi Hammerstein-Wiener (H-W). Questi sono sistemi non lineari a blocchi orientati, composti da:

1. Una non linearità statica all'ingresso ($\psi(\cdot)$).
2. Un blocco dinamico lineare ($G(q)$).
3. Una non linearità statica all'uscita ($\phi^{-1}(\cdot)$).

Le sfide principali identificate dagli autori sono:

• Limiti degli approcci esistenti: I metodi basati sul Lemma Fondamentale di Willems (WFL) per sistemi lineari non si applicano direttamente alle non linearità di uscita nei sistemi Wiener. Inoltre, le estensioni esistenti per sistemi Hammerstein richiedono un dizionario finito di funzioni di base, il che è spesso impraticabile o richiede condizioni di eccitazione persistente difficili da soddisfare nello spazio dei segnali sollevato.
• Limiti dei modelli GP "Black-box": Gli approcci standard di Controllo Predittivo basato su Processi Gaussiani (GP-MPC) utilizzano modelli completamente black-box o strutture additive. Questi non codificano la struttura fisica H-W, portando a spazi funzionali troppo ampi, scarsa efficienza nell'apprendimento e difficoltà nella propagazione dell'incertezza su orizzonti di predizione multi-step.
• Obiettivo: Sviluppare un predittore che incorpori la struttura fisica H-W (approccio physics-informed) senza richiedere la conoscenza parametrica esatta dei componenti, gestendo al contempo le non linearità di ingresso e uscita sconosciute.

2. Metodologia

Gli autori propongono un framework basato su Processi Gaussiani (GP) Impliciti che apprende una funzione implicita invece di una mappa esplicita ingresso-uscita.

• Struttura del Predittore Implicito:

  • Invece di apprendere direttamente $y_{futuro} = f(u, y_{passato})$, il metodo formula il problema come l'apprendimento di una relazione lineare tra le trasformazioni non lineari degli ingressi/uscite e i dati storici.
  • Si parte da una caratterizzazione del tipo ARX multi-step per la parte lineare, espressa come: $0 = [\Gamma_1 \ \bar{\Gamma}_2] \text{col}(\Psi(u), \Phi(y_p), \Phi(y_f)) - \bar{\Gamma}_2 e$.
  • Le non linearità $\Psi$ e $\Phi$ sono modellate come Processi Gaussiani con kernel strutturati.
  • I parametri lineari $\Gamma_1$ e $\Gamma_2$ sono trattati come iperparametri del modello GP, stimati congiuntamente alle non linearità.

• Design del Kernel Strutturato:

  • Viene derivato un kernel strutturato che combina i kernel delle non linearità (ingresso e uscita) con i parametri lineari. Questo riduce lo spazio delle funzioni da apprendere, rendendo il modello "physics-informed" e compatibile con la struttura H-W.

• Gestione della Monotonicità (Expectation Propagation):

  • Per garantire che la non linearità di uscita $\phi^{-1}(\cdot)$ sia ben definita (assunzione di monotonia crescente), vengono aggiunti punti derivati virtuali ai dati di training.
  • Viene utilizzato l'algoritmo di Expectation Propagation (EP) per approssimare la distribuzione a posteriori sotto il vincolo di monotonia, trattando la condizione come una likelihood probit.

• Stima degli Iperparametri (JMAP-ML):

  • Per evitare l'overfitting, specialmente dato l'alto numero di parametri lineari, viene utilizzata una ipriori a spline stabile (stable spline hyperprior) sui parametri lineari $\Gamma_1, \Gamma_2$.
  • Gli iperparametri vengono stimati risolvendo un problema congiunto di Massima A Posteriori / Massima Verosimiglianza (JMAP-ML).

• Controllo Predittivo (DDPC):

  • Il predittore implicito viene applicato al Controllo Predittivo a Orizzonte Mobile (MPC).
  • Il problema di controllo minimizza un costo atteso e soddisfa vincoli di uscita come vincoli probabilistici (chance constraints).
  • A differenza del GP-MPC standard che richiede la propagazione dell'incertezza (difficile e approssimata), il predittore multi-step diretto del modello implicito evita questo problema, fornendo direttamente la distribuzione a posteriori per l'orizzonte futuro.

3. Contributi Chiave

1. Modellazione Implicita Physics-Informed: Prima applicazione di GP impliciti per sistemi H-W completi (sia ingresso che uscita non lineari), superando i limiti dei metodi basati su dizionari di funzioni di base o modelli black-box.
2. Kernel Strutturato e Stima Ibrida: Sviluppo di un kernel GP che integra esplicitamente i parametri del modello lineare e le prior sulle non linearità, permettendo l'apprendimento congiunto.
3. Inclusione della Monotonia: Integrazione efficace della conoscenza a priori sulla monotonia delle non linearità di uscita tramite punti derivati virtuali e Expectation Propagation.
4. Controllo con Vincoli Probabilistici: Formulazione di un algoritmo di controllo che garantisce il soddisfacimento dei vincoli di uscita con una certa probabilità, gestendo l'incertezza del modello in modo rigoroso senza approssimazioni di propagazione dell'errore.
5. Validazione Sperimentale: Dimostrazione che l'approccio proposto supera i modelli GP black-box e i predittori lineari in termini di accuratezza di predizione e prestazioni di controllo.

4. Risultati

Gli esperimenti numerici sono stati condotti su due casi di studio: un sistema SISO generato casualmente e un processo chimico reale (processo a pH).

• Predizione:

  • L'algoritmo proposto (Algoritmo 2) ha mostrato errori di predizione significativamente inferiori rispetto ai modelli GP black-box (sia multi-step che ricorsivi) e ai predittori lineari.
  • In simulazioni Monte Carlo su un orizzonte di 4 passi, l'errore mediano è stato ridotto del 59.8% rispetto al GP black-box multi-step, del 58.8% rispetto al GP ricorsivo e del 70.5% rispetto al predittore lineare.
  • L'uso dei punti derivati virtuali ha permesso di recuperare correttamente la forma delle non linearità mantenendo la monotonia, cosa che falliva senza tali punti.
  • L'uso dell'ipriori a spline è risultato cruciale: senza di essa, l'errore di predizione aumentava drasticamente a causa dell'overfitting.

• Controllo (DDPC):

  • Nell'esempio del processo a pH, il controller proposto ha tracciato il riferimento con prestazioni quasi identiche al MPC non lineare basato sul modello vero (benchmark ideale).
  • I controller basati su modelli black-box e lineari hanno mostrato sottoregolazione (under-actuation) ai picchi del riferimento, fallendo nel catturare le non linearità di uscita.
  • Il metodo proposto ha rispettato i vincoli di uscita probabilistici.

• Complessità Computazionale:

  • Il principale svantaggio è l'alta complessità computazionale. Il tempo di training e predizione è significativamente più alto rispetto ai metodi black-box (es. 56s contro 0.02s per la predizione in un test specifico), dovuto all'ottimizzazione congiunta di molti iperparametri e all'uso dell'EP.

5. Significatività

Questo lavoro rappresenta un passo avanti significativo nel campo del controllo guidato dai dati per sistemi non lineari complessi.

• Superamento del compromesso Struttura/Adattabilità: Dimostra che è possibile combinare la flessibilità dei Processi Gaussiani con la struttura fisica dei sistemi a blocchi, ottenendo modelli più efficienti e interpretabili rispetto ai black-box puri.
• Gestione delle Non Linearità di Uscita: Risolve un problema aperto nella letteratura WFL, estendendo la predizione guidata dai dati ai sistemi Wiener, che sono comuni in applicazioni reali (es. sensori non lineari).
• Affidabilità del Controllo: Offre un framework rigoroso per il controllo predittivo con vincoli probabilistici, evitando le approssimazioni spesso necessarie nella propagazione dell'incertezza dei GP standard.
• Impatto Futuro: Sebbene la complessità computazionale sia una sfida, il lavoro apre la strada a sviluppi futuri su algoritmi di ottimizzazione più efficienti e sulla garanzia di stabilità in loop chiuso per tali sistemi.