Learning Dynamics from Input-Output Data with Hamiltonian Gaussian Processes

1. Problématique

L'apprentissage de modèles de dynamique physique à partir de données limitées est crucial pour le contrôle basé sur modèle et l'analyse des systèmes. Bien que les méthodes d'apprentissage informées par la physique (Physics-Informed Machine Learning) aient fait des progrès significatifs en intégrant des lois de conservation (comme la conservation de l'énergie) dans des réseaux de neurones ou des Processus Gaussiens (GP), une limitation majeure persiste dans la littérature existante : la dépendance aux données d'état complet.

Les approches actuelles basées sur les GPs Hamiltoniens nécessitent généralement des mesures de momentum (ou de vitesse) en plus des positions pour l'entraînement. Or, dans de nombreuses applications pratiques, ces grandeurs ne sont pas directement mesurables ou sont trop sensibles au bruit si elles sont estimées par différenciation numérique. De plus, les méthodes existantes peinent souvent à gérer les systèmes non conservatifs (avec dissipation d'énergie et forces externes) tout en fournissant une quantification rigoureuse de l'incertitude sur les paramètres structurels (comme les coefficients d'amortissement).

L'objectif de cet article est de développer une méthode pour apprendre des dynamiques Hamiltoniennes non conservatives en se basant exclusivement sur des données entrée-sortie (positions et forces d'entrée), sans accès direct aux vitesses ou aux moments, tout en fournissant une inférence bayésienne complète.

2. Méthodologie

Les auteurs proposent un cadre d'apprentissage entièrement bayésien combinant des Processus Gaussiens à rang réduit (Reduced-Rank GPs) et une inférence par Particle Gibbs.

A. Modélisation Hamiltonienne Non Conservatrice

Le système est décrit par une mécanique Hamiltonienne forcée et dissipative :
$$\dot{x} = (J(x) - R(x)) \nabla_x H(x) + G(x)u + w$$
où :

• $H(x)$ est la fonction Hamiltonienne inconnue (énergie).
• $J(x)$ est la matrice d'interconnexion antisymétrique.
• $R(x)$ est la matrice de dissipation symétrique semi-définie positive.
• $G(x)$ est la matrice d'entrée.
• $u$ représente les entrées exogènes et $w$ le bruit de processus.

Contrairement aux travaux précédents, le gradient du Hamiltonien $\nabla_x H(x)$ est modélisé directement via un GP, évitant ainsi le besoin de mesurer $H$ ou ses dérivées directement.

B. Processus Gaussiens à Rang Réduit (Reduced-Rank GP)

Pour surmonter la complexité computationnelle cubique ($O(T^3)$) des GPs standards et permettre l'apprentissage sur de grands jeux de données, les auteurs utilisent une approximation par développement en fonctions propres (Solin & Särkkä, 2020).

• Le noyau du GP est approximé par une somme finie de fonctions propres du Laplacien sur le domaine de l'état.
• Cela transforme le GP en un modèle linéaire en ses paramètres (les coefficients de la base), permettant des expressions de gradient en forme fermée et une complexité de prédiction indépendante du nombre de points de données ($O(M)$).
• Le gradient du Hamiltonien est ainsi représenté comme une combinaison linéaire de fonctions de base dérivées.

C. Schéma d'Inférence Bayésienne (Particle Gibbs)

L'objectif est d'estimer la distribution conjointe a posteriori des états latents (positions, moments, gradients du Hamiltonien) et des paramètres (hyperparamètres du noyau, paramètres structurels comme l'amortissement).
Le problème est décomposé en deux étapes itératives via un algorithme Particle Markov Chain Monte Carlo (PMCMC) :

1. Inférence d'état (Conditional SMC) : Échantillonnage des trajectoires latentes $z_{0:T}$ (incluant les états cachés et les gradients) conditionnellement aux paramètres actuels, en utilisant un filtre particulaire conditionnel (Particle Gibbs).
2. Apprentissage des paramètres :
   • Paramètres du modèle ($\theta$) : Mis à jour de manière analytique (forme fermée) grâce à la conjugaison entre la vraisemblance (gaussienne) et l'a priori (Normal-Inverse-Gamma).
   • Hyperparamètres ($\vartheta$) : Les paramètres du noyau GP et les paramètres structurels (ex: coefficient d'amortissement $d$) sont mis à jour via des étapes Metropolis-Hastings au sein du schéma de Gibbs.

3. Contributions Clés

1. Apprentissage sans données de vitesse/moment : C'est la première méthode Hamiltonienne GP capable d'apprendre des dynamiques non conservatrices uniquement à partir de données entrée-sortie (positions bruyantes et forces d'entrée), éliminant le besoin de mesures de vitesse souvent indisponibles.
2. Modèle linéaire et efficace : L'utilisation de GPs à rang réduit permet une complexité computationnelle indépendante de la taille des données d'entraînement pour la prédiction, rendant la méthode applicable à des problèmes pratiques plus larges.
3. Inférence Bayésienne complète : Contrairement aux approches fréquentistes antérieures, la méthode fournit des distributions de probabilité complètes pour :
   • Les états cachés (moments non mesurés).
   • Les hyperparamètres du noyau GP.
   • Les paramètres structurels physiques (ex: coefficients d'amortissement).
4. Gestion des systèmes non conservatifs : Le modèle intègre explicitement la dissipation d'énergie et les échanges avec l'environnement via des forces externes.

4. Résultats

Les auteurs évaluent leur méthode sur un cas d'étude de simulation : un oscillateur non harmonique avec dissipation.

• Comparaison : La méthode proposée (entrée-sortie) est comparée à une version utilisant des données d'état complet (entrée-état) et à un GP Hamiltonien exact (méthode de référence de Beckers et al., 2022).
• Précision : Malgré l'absence de mesures de vitesse, la méthode proposée apprend une carte de flux (flow map) avec une erreur quadratique moyenne (RMSE) comparable à celle des méthodes ayant accès à l'état complet.
• Inférence des paramètres : L'algorithme parvient à estimer la densité de probabilité du coefficient d'amortissement inconnu. Bien que légèrement biaisé dans le cas entrée-sortie (en raison de problèmes d'identifiabilité inhérents à la configuration), il capture correctement la valeur réelle.
• Consistance physique : Les simulations avant (forward simulations) à partir de la distribution a posteriori montrent que le modèle appris respecte les lois de la physique, capture la dissipation d'énergie et peut représenter des densités multimodales dans l'espace des phases.

5. Signification et Conclusion

Ce travail comble un fossé important entre l'apprentissage informé par la physique et l'identification de systèmes bayésienne. En démontrant qu'il est possible d'apprendre des modèles dynamiques non linéaires, non conservateurs et quantifiés en incertitude, uniquement à partir de données entrée-sortie, les auteurs ouvrent la voie à des applications de contrôle avancé dans des systèmes complexes où les capteurs de vitesse sont absents ou peu fiables.

La méthode propose un compromis efficace entre la rigueur physique (conservation de l'énergie, structure Hamiltonienne) et la flexibilité des données (apprentissage bayésien sans hypothèses restrictives sur les mesures). Les auteurs notent que la complexité computationnelle augmente avec la dimension du problème et que des contraintes de symétrie peuvent être nécessaires pour garantir l'identifiabilité dans des configurations entrée-sortie très complexes, ouvrant ainsi des pistes pour des recherches futures.