🤖 machine learning

Learning partially observed systems with neural Hamiltonian ordinary differential equations

Ce papier présente les équations différentielles ordinaires hamiltoniennes neuronales (NHODE), un cadre qui combine les réseaux de neurones hamiltoniens avec les équations différentielles ordinaires neuronales pour apprendre des systèmes dynamiques partiellement observés en imposant la conservation de l'énergie et des contraintes physiques, permettant ainsi d'atteindre une précision supérieure et une stabilité à long terme par rapport aux modèles de référence purement basés sur les données.

Auteurs originaux : Sunniva Meltzer, Sølve Eidnes, Alexander Johannes Stasik

Publié 2026-05-25

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Sunniva Meltzer, Sølve Eidnes, Alexander Johannes Stasik

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez d'enseigner à un robot comment prédire le mouvement d'une machine complexe. Habituellement, vous montreriez au robot une vidéo de la machine entière et diriez : « Regardez ceci, apprenez les règles, puis dites-moi ce qui se passe ensuite. »

Mais que se passe-t-il si la machine possède un compartiment secret ? Vous pouvez voir les engrenages extérieurs tourner, mais vous ne pouvez pas voir les engrenages cachés à l'intérieur. Les engrenages extérieurs bougent à cause des engrenages cachés, mais vous n'avez pas de caméra à l'intérieur pour les voir. Si vous essayez d'enseigner à un robot standard (un apprenant « purement basé sur les données ») simplement en lui montrant l'extérieur, il finira par se confondre. Il se trompera dans ses prédictions concernant les engrenages cachés, et bientôt sa prédiction de l'ensemble de la machine s'effondrera, dérivant follement hors de sa trajectoire.

Cet article présente un nouveau type d'enseignant robotique appelé NHODE (Équations Différentielles Ordinaires Hamiltoniennes Neurales). Il est conçu spécifiquement pour résoudre ce problème de « point aveugle » en enseignant au robot à respecter les lois de la physique plutôt que de simplement mémoriser des motifs.

Voici comment cela fonctionne, en utilisant des analogies simples :

1. Le Problème : L'Apprenant « Aveugle »

Dans le monde réel, nous ne pouvons souvent pas tout mesurer. Peut-être pouvons-nous voir la vitesse d'une voiture mais pas le niveau de carburant, ou nous pouvons voir la position d'une planète mais pas la gravité invisible qui l'attire.

L'Ancienne Méthode (Données Pures) : Imaginez un élève essayant d'apprendre une danse en ne regardant que les pieds du danseur. Si la partie supérieure du corps du danseur fait quelque chose d'inattendu, l'élève est perdu car il ne comprend pas le lien entre les pieds et le reste du corps. Dans l'article, ces modèles « purement basés sur les données » ont échoué rapidement, en particulier dans les systèmes chaotiques (comme le « Problème à Trois Corps », qui ressemble à trois planètes dansant une valse sauvage et imprévisible).

2. La Solution : L'Enseignant « Priorité à la Physique »

Le cadre NHODE est comme un enseignant qui dit : « Ne regardez pas seulement les pieds ; rappelez-vous que l'énergie ne peut être ni créée ni détruite. »

La Banque d'Énergie (Hamiltonien) : L'article utilise un concept appelé « Hamiltonien », qui est essentiellement un compte bancaire pour l'énergie totale du système. Dans un système fermé, cet équilibre énergétique doit toujours rester constant.
L'Astuce : Le modèle NHODE est construit de manière à ce qu'il ne puisse pas enfreindre cette règle. Il force les mathématiques à obéir à la conservation de l'énergie. Même si le robot ne peut pas voir les engrenages cachés, il sait que si les engrenages visibles accélèrent, les engrenages cachés doivent ralentir ailleurs pour maintenir l'équilibre énergétique total correct.

3. Comment il Gère les Parties « Cachées »

L'article décrit un processus astucieux en deux étapes :

Le Détective (Encodeur) : D'abord, le modèle examine l'historique court des parties visibles (l'« historique observé »). Il agit comme un détective, utilisant les indices visibles pour deviner ce que font les parties cachées à cet instant. Il infère l'« état initial » des engrenages invisibles.
Le Simulateur (Déroulement) : Une fois qu'il a une hypothèse pour les parties cachées, il lance une simulation vers l'avant dans le temps. Crucialement, il ne vérifie ses devoirs que par rapport aux parties qu'il peut réellement voir. Il n'est pas puni pour avoir deviné directement les parties cachées de manière incorrecte ; il n'est puni que si les parties visibles ne correspondent pas à la vraie vidéo.
- Analogie : Imaginez jouer à un jeu de « Simon dit » où vous ne pouvez voir que les mains de Simon. Vous devez deviner ce que font ses pieds. Si votre hypothèse sur les pieds fait que votre prédiction des mains est fausse, vous perdez. Mais si votre hypothèse sur les pieds maintient les mains en mouvement correctement, vous gagnez.

4. Ajout de Règles Supplémentaires (Symétrie)

Les auteurs ne se sont pas arrêtés à l'énergie seule. Ils ont ajouté plus de règles de « bon sens » :

Symétrie de Translation : Si vous déplacez toute la machine d'un pied vers la gauche, la physique ne devrait pas changer. Le modèle apprend à regarder la distance entre les parties plutôt que leur position absolue.
Énergie Séparable : Ils ont supposé que l'énergie est divisée en « énergie de mouvement » (dont ils connaissent la formule) et « énergie potentielle » (que l'IA apprend). Cela rend le travail plus facile et plus précis.

5. Les Résultats : Stabilité dans le Chaos

L'article a testé cela sur trois scénarios, du simple au très difficile :

Deux Masses sur des Ressorts : Un système simple. Toutes les méthodes ont fonctionné correctement, mais celle basée sur la physique était légèrement meilleure.
Trois Masses en Triangle : Un peu plus complexe. Les modèles purement basés sur les données ont commencé à dériver et à faire de grosses erreurs. Le modèle basé sur la physique est resté sur la bonne voie.
Le Problème à Trois Corps : C'est le « niveau chef ». Trois planètes s'attirant mutuellement dans une danse chaotique.
- Le Résultat : Les modèles purement basés sur les données (les apprenants « aveugles ») sont devenus fous et leurs prédictions ont explosé en absurdités très rapidement.
- Le Gagnant : Le modèle NHODE, en particulier celui avec toutes les règles de physique supplémentaires (conservant l'énergie, la quantité de mouvement et le moment cinétique), a continué à prédire correctement la danse pendant très longtemps. Il ne se contentait pas de deviner ; il comprenait les règles de la danse, donc même lorsqu'il ne pouvait pas voir un danseur, il savait comment ils devaient bouger pour maintenir la danse.

Résumé

L'article affirme qu'en intégrant directement les lois physiques dans le cerveau de l'IA, nous pouvons lui apprendre à comprendre des systèmes même lorsque nous ne pouvons pas voir toutes les parties. Cela transforme un « devineur aveugle » en un « détective avisé en physique » capable d'inférer l'invisible à partir du visible, maintenant ses prédictions stables même dans des environnements chaotiques et imprévisibles.

Les auteurs notent que bien que le modèle puisse prédire parfaitement les parties visibles, l'état exact des parties cachées pourrait ne pas être unique (il pourrait y avoir plusieurs scénarios cachés différents qui semblent identiques de l'extérieur), mais le modèle trouve une version qui est physiquement cohérente et précise pour les parties qui nous importent.

Résumé Technique : Apprentissage de Systèmes Partiellement Observés avec des Équations Différentielles Ordinaires Hamiltoniennes Réseaux de Neurones

Énoncé du Problème

L'article aborde le défi de l'apprentissage de systèmes dynamiques à partir de données lorsque l'état du système n'est observé que partiellement. Dans de nombreux scénarios physiques, certaines variables d'état sont inaccessibles à la mesure, tout en influençant l'évolution des variables observées. Les modèles d'apprentissage automatique informés par la physique, tels que les Réseaux de Neurones Hamiltoniens (HNN), nécessitent généralement l'accès à l'état complet du système (toutes les positions et moments) et à leurs dérivées temporelles pour définir la fonction de perte. Cette exigence les rend inapplicables aux contextes partiellement observés où des variables latentes doivent être inférées sans supervision directe. À l'inverse, les approches purement basées sur les données, telles que les Équations Différentielles Ordinaires Réseaux de Neurones (Neural ODE) standards, échouent souvent à généraliser ou à maintenir la stabilité dans ces contextes, en particulier pour des systèmes complexes ou chaotiques, car elles manquent des contraintes physiques nécessaires pour restreindre l'espace des solutions.

Méthodologie

Les auteurs proposent les Équations Différentielles Ordinaires Hamiltoniennes Réseaux de Neurones (NHODE), un cadre qui intègre les garanties structurelles de la mécanique hamiltonienne avec les procédures d'entraînement flexibles des Neural ODE.

Cadre Central

Le système est modélisé comme un système hamiltonien canonique :
$\dot{x} = S \nabla H(x)$
où $x = (q, p)^T$ représente la position et le moment généralisés, $H$ est l'hamiltonien (énergie totale), et $S$ est la matrice symplectique canonique.

Le cadre NHODE se distingue par trois composants clés :

Entraînement par Déroulement avec Perte Partielle : Contrairement aux HNN standards qui calculent la perte basée sur le résidu des équations de Hamilton à chaque pas de temps (nécessitant des données d'état complet), NHODE adopte le paradigme d'entraînement des Neural ODE. Le modèle intègre le champ vectoriel appris vers l'avant à partir d'une condition initiale pour générer une trajectoire complète. La fonction de perte est définie uniquement sur les composantes observées de l'état ( $x_{obs}$ ) aux points de temps des données. Les composantes latentes ( $x_{hid}$ ) sont exclues du calcul de la perte, ce qui signifie que leur influence sur l'entraînement est indirecte, médiée uniquement par l'évolution des variables observées.
Inférence de l'État Latent : Pour initialiser l'intégration, le cadre utilise un encodeur réseau de neurones pour inférer l'état initial des variables non observées ( $x_{hid}(t_0)$ ) sur la base de l'historique initial des variables observées. Cet encodeur et le réseau hamiltonien sont entraînés conjointement en utilisant une fonction de perte partagée.
Contraintes Physiques via Symétrie et Séparabilité : Pour restreindre davantage l'espace des solutions et améliorer la généralisation, les auteurs intègrent des a priori physiques spécifiques :
- Transformations de Coordonnées : Pour les systèmes possédant une symétrie de translation, les coordonnées absolues sont transformées en distances relatives paires avant d'être transmises au réseau de neurones. Cela impose l'invariance par translation, assurant la conservation de la quantité de mouvement linéaire.
- Hamiltoniens Séparables : Le cadre prend en charge des modèles où l'hamiltonien est supposé séparable ( $H = T(p) + V(q)$ ) avec un terme d'énergie cinétique connu ( $T(p) = p^2/2m$ ). Dans cette configuration, le réseau de neurones n'apprend que l'énergie potentielle $V(q)$ . Combinée aux coordonnées relatives, cette formulation impose également la conservation du moment cinétique.

Les auteurs définissent deux variantes principales de modèle :

NHODEtot : Apprend l'énergie totale directement via un réseau de neurones.
NHODEpot : Apprend uniquement l'énergie potentielle, en supposant une forme d'énergie cinétique et des masses de particules connues.

Contributions Clés

Cadre Novel pour l'Observabilité Partielle : L'article introduit NHODE, le premier cadre à combiner avec succès la structure hamiltonienne avec l'entraînement Neural ODE spécifiquement pour gérer des systèmes avec des variables d'état complètement non observées.
Démonstration des A Priori Physiques : Le travail démontre systématiquement que l'intégration d'une structure physique (conservation de l'énergie, conservation de la quantité de mouvement via la symétrie) n'est pas seulement bénéfique mais essentielle pour apprendre des dynamiques stables dans des régimes partiellement observés, de haute dimension et chaotiques.
Validation Empirique sur une Complexité Croissante : La méthode est évaluée sur trois systèmes de complexité croissante :
- Un système linéaire 1D à deux masses et deux ressorts.
- Un système non linéaire 2D triangulaire à trois masses et trois ressorts.
- Le problème chaotique à trois corps en 3D.
Apprentissage des Conditions Initiales : Il est démontré que le cadre infère efficacement les conditions initiales des variables cachées uniquement à partir des trajectoires observées, une tâche où les références purement basées sur les données échouent.

Résultats

Les expériences comparent NHODE à deux références :

NODEvanilla : Une Neural ODE standard.
NODEphys : Une Neural ODE informée par la physique qui apprend uniquement les dérivées de moment.

Constatations :

Systèmes Linéaires : Dans le simple système masse-ressort 1D, tous les modèles (y compris les références) fonctionnent raisonnablement bien, bien que les modèles NHODE montrent une stabilité légèrement supérieure.
Systèmes Non Linéaires : Dans le système masse-ressort non linéaire 2D, l'écart de performance s'élargit. Alors que les modèles NHODE maintiennent une faible erreur, les références commencent à diverger sur des horizons temporels plus longs.
Systèmes Chaotiques : Dans le problème à trois corps, la distinction est flagrante. Les références purement basées sur les données (NODEvanilla) et même la NODEphys partiellement informée par la physique deviennent instables et divergent rapidement. Seul le modèle NHODE le plus informé par la physique (NHODEpot,rel), qui impose la conservation de l'énergie, de la quantité de mouvement linéaire et du moment cinétique, produit des trajectoires stables et non divergentes sur de longs horizons.
Métriques d'Erreur : Pour tous les exemples, augmenter la quantité de structure physique intégrée (par exemple, passer de NHODEtot à NHODEpot, ou des coordonnées absolues aux coordonnées relatives) améliore systématiquement à la fois la précision de la prédiction et la stabilité sur de longs horizons.

Importance et Revendications

L'article revendique que sa contribution principale est de démontrer que la connaissance physique intégrée dans un modèle d'apprentissage automatique permet l'apprentissage précis des parties observées et latentes d'un système partiellement observé, une tâche où les méthodes purement basées sur les données échouent.

Les auteurs soulignent que si les dynamiques latentes ne sont pas nécessairement identifiables de manière unique sans informations supplémentaires (telles que des paramètres de système connus), le cadre NHODE apprend un état latent qui est physiquement cohérent et produit des prédictions précises pour les variables observées. Le travail met en évidence que dans les régimes chaotiques, où de petites perturbations entraînent une divergence exponentielle, l'intégration d'a priori physiques forts (lois de conservation) est cruciale pour empêcher les dynamiques apprises de "s'effondrer", étendant ainsi la fenêtre de prédiction utile.

L'article conclut que le cadre NHODE est un outil généralisable pour les contextes où les systèmes dynamiques sont partiellement observés, où la structure physique est connue, et où des prédictions temporelles stables sont requises, comme dans la surveillance industrielle, la robotique et les expériences scientifiques avec un accès limité aux capteurs.