Learning Dynamics from Input-Output Data with Hamiltonian Gaussian Processes

Titolo: Apprendimento della Dinamica da Dati Input-Output con Gaussian Processes Hamiltoniani

1. Il Problema

L'apprendimento dei modelli dinamici di un sistema è fondamentale per il controllo basato su modelli e per la comprensione dei sistemi, specialmente quando le conoscenze a priori sono limitate. Sebbene l'integrazione di leggi fisiche (come la conservazione dell'energia) nell'apprendimento automatico garantisca modelli fisicamente coerenti, le metodologie esistenti basate su Gaussian Processes (GP) Hamiltoniani presentano limitazioni significative:

• Dipendenza dai dati di stato completo: I metodi attuali richiedono misurazioni dirette di velocità o momenti coniugati ($p$) oltre alle posizioni ($q$). In molte applicazioni pratiche, questi dati non sono disponibili o sono costosi da ottenere.
• Sensibilità al rumore: Approcci "ad hoc" che derivano la velocità dalle posizioni tramite differenziazione numerica sono altamente sensibili al rumore di misura.
• Mancanza di modelli non conservativi: Molti approcci esistenti assumono sistemi conservativi, ignorando lo scambio di energia con l'ambiente (forze esterne, dissipazione).
• Incertezza strutturale: La maggior parte dei lavori si basa su approcci frequentisti che non forniscono una quantificazione dell'incertezza su parametri strutturali (es. coefficienti di smorzamento) o iperparametri del GP.

L'obiettivo di questo lavoro è sviluppare un metodo per apprendere modelli dinamici fisicamente coerenti e non conservativi (che includono dissipazione e input esterni) utilizzando esclusivamente dati input-output (posizioni e forze applicate), fornendo al contempo una quantificazione completa dell'incertezza.

2. Metodologia

Gli autori propongono un modello ibrido che combina la meccanica hamiltoniana con i Gaussian Processes, utilizzando un approccio Bayesiano completo.

• Formulazione Hamiltoniana Non Conservativa:
  Il sistema è descritto da equazioni di stato continue:
  $$\dot{x} = (J(x) - R(x)) \nabla_x H(x) + G(x)u + w$$
  $$y = g(x) + e$$
  Dove $H(x)$ è la funzione Hamiltoniana (energia), $J$ è la matrice di interconnessione antisimmetrica, $R$ è la matrice di dissipazione (simmetrica, semidefinita positiva), $G$ è la matrice di ingresso, e $u$ sono gli input esterni. Il modello permette lo scambio di energia con l'ambiente.

• Gaussian Process a Rango Ridotto (Reduced-Rank GP):
  Per evitare la complessità computazionale cubica ($O(T^3)$) dei GP standard, la funzione Hamiltoniana $H(x)$ è approssimata utilizzando un GP a rango ridotto (Solin & Särkkä, 2020).

  • L'Hamiltoniana è espansa in una serie finita di autofunzioni del Laplaciano: $H(x) \approx \sum a_k \phi_k(x)$.
  • Il gradiente $\nabla_x H(x)$, necessario per le equazioni del moto, è ottenuto in forma chiusa come combinazione lineare dei coefficienti $a$.
  • Questo approccio garantisce una complessità computazionale indipendente dalla dimensione dei dati di addestramento ($O(M)$) e rende il modello lineare nei parametri, facilitando l'apprendimento.

• Schema di Inferenza Bayesiana (Particle Gibbs):
  Poiché non si hanno misurazioni dirette dell'Hamiltoniana o dei momenti, ma solo di posizione ($y$), il problema richiede l'inferenza di stati latenti e parametri nascosti.

  • Viene utilizzato un approccio Particle Markov Chain Monte Carlo (PMCMC), specificamente uno schema Particle Gibbs.
  • Il processo alterna due fasi:
    1. Inferenza degli stati latenti: Campionamento della distribuzione congiunta degli stati nascosti ($x_t$) e dei gradienti dell'Hamiltoniana ($h_t$) dati i dati e i parametri, utilizzando un Conditional Sequential Monte Carlo (SMC).
    2. Apprendimento dei parametri: Aggiornamento degli iperparametri del kernel del GP ($\vartheta_K$) e dei parametri strutturali (es. coefficienti di smorzamento in $R$) tramite passi Metropolis-Hastings all'interno dello schema Gibbs.
  • I parametri del GP ($\theta$) vengono aggiornati in forma chiusa sfruttando la coniugazione della prior Normal-Inverse Gamma.

3. Contributi Chiave

1. Apprendimento da Input-Output: È il primo lavoro che applica i GP Hamiltoniani per apprendere dinamiche non conservative utilizzando solo dati di posizione e input, eliminando la necessità di misurazioni di velocità o momento.
2. Modellazione Non Conservativa: Il modello cattura esplicitamente la dissipazione di energia e l'interazione con forze esterne, rendendolo adatto a sistemi reali.
3. Inferenza Bayesiana Completa: Fornisce distribuzioni di probabilità (non solo stime puntuali) per:
   • Stati latenti nascosti (momento, energia).
   • Iperparametri del kernel del GP.
   • Parametri strutturali fisici (es. coefficienti di smorzamento).
4. Efficienza Computazionale: L'uso di GP a rango ridotto riduce drasticamente il costo computazionale rispetto ai GP esatti, rendendo l'approccio scalabile per serie temporali più lunghe.

4. Risultati Sperimentali

Il metodo è stato valutato su un caso di studio di simulazione con un oscillatore non armonico soggetto a forze esterne e smorzamento.

• Confronto: Il metodo proposto (Input-Output) è stato confrontato con:
  • Lo stesso metodo in un setting ideale con dati Input-Stato completi.
  • Un modello GP Hamiltoniano esatto basato su lavori precedenti (Beckers et al., 2022) che richiede dati di stato completo.
• Accuratezza: Nonostante l'uso di soli dati di posizione rumorosi, il modello proposto ha appreso la mappa del flusso dinamico con un errore quadratico medio (RMSE) comparabile a quello ottenuto con dati di stato completi.
• Coerenza Fisica: Le simulazioni forward dei campioni estratti dalla distribuzione a posteriori mostrano un comportamento fisicamente coerente, rispettando la dissipazione di energia e la risposta agli input.
• Stima dei Parametri: Il metodo è riuscito a stimare la densità di probabilità del coefficiente di smorzamento e degli iperparametri del kernel, sebbene con un leggero bias nel setting input-output dovuto a problemi di identificabilità (risolti in simulazione imponendo vincoli di simmetria).

5. Significato e Implicazioni

Questo lavoro rappresenta un passo significativo verso l'applicazione pratica dell'apprendimento fisico-informato (Physics-Informed Learning) in scenari reali.

• Superamento delle barriere dei dati: Rimuove la dipendenza da sensori di velocità/momento, spesso assenti o rumorosi, aprendo la strada all'uso di GP Hamiltoniani in robotica, ingegneria meccanica e sistemi biologici dove si misurano solo posizioni.
• Controllo Robusto: La capacità di quantificare l'incertezza su parametri fisici critici (come lo smorzamento) e sugli stati nascosti è cruciale per il controllo stocastico sicuro e l'apprendimento sicuro (Safe Learning).
• Fondamento per il Controllo: Fornisce un modello dinamico non lineare, probabilistico e fisicamente coerente che può essere utilizzato direttamente per strategie di controllo basate su modelli, anche con conoscenze a priori limitate.

In sintesi, il paper propone un framework robusto ed efficiente per l'identificazione di sistemi dinamici complessi, combinando la flessibilità dei Gaussian Processes con le leggi fondamentali della fisica, operando esclusivamente con dati osservabili tipicamente disponibili nei sistemi reali.