🤖 machine learning

Prediction Is Not Physics: Learning and Evaluating Conserved Quantities in Neural Simulators

Cet article démontre que, bien que les simulateurs neuronaux standards échouent souvent à préserver les lois de conservation physiques malgré des prédictions de trajectoires précises, des architectures spécialisées telles que les réseaux de découverte de conservation peuvent apprendre avec succès des quantités conservées globalement à partir de trajectoires hamiltoniennes, bien que leurs performances dépendent de manière critique de stratégies d'entraînement telles que la cohérence temporelle et l'alignement avec les conditions initiales.

Auteurs originaux : Andrew Bukowski, Aditya Kothari, Simba Shi, Ishir Rao

Publié 2026-05-20

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Andrew Bukowski, Aditya Kothari, Simba Shi, Ishir Rao

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous enseigniez à un robot à jouer au billard. Vous montrez au robot des milliers de vidéos de boules rebondissant les unes sur les autres. Le robot devient très bon pour prédire où seront les boules une seconde plus tard. Il est si performant que si vous lui demandez : « Où est la boule rouge dans 0,1 seconde ? », il répond avec une précision quasi parfaite.

Mais voici le hic : le robot ne comprend pas réellement les règles de la physique.

Ce papier, intitulé « La prédiction n'est pas la physique », explore un problème étrange : un modèle informatique peut être excellent pour prédire où vont les choses, mais terrible pour comprendre pourquoi elles vont là. Plus précisément, il échoue à respecter la loi de conservation de l'énergie.

Le problème central : le robot « dérivant »

Dans le monde réel, l'énergie n'apparaît ni ne disparaît simplement. Si vous lancez une boule, sa vitesse et sa hauteur s'échangent parfaitement. Si elle monte plus haut, elle ralentit. Le « budget énergétique » total reste exactement le même.

Les chercheurs ont entraîné un « modèle de diffusion » (un type d'IA générant du mouvement) sur ces simulations physiques.

La bonne nouvelle : L'IA a prédit la trajectoire de la boule avec une erreur très faible. Cela semblait juste.
La mauvaise nouvelle : Lorsqu'ils ont vérifié l'énergie, le « budget énergétique » de l'IA devenait fou. Dans certains cas, l'énergie de l'IA fluctuait 36 000 fois plus qu'elle ne l'aurait dû.

L'analogie : Imaginez un compte bancaire. L'IA est un caissier capable de prédire parfaitement combien d'argent vous aurez dans votre poche la semaine prochaine. Mais, le registre interne de l'IA montre votre solde sautant de 10 $à 10 000$ puis revenant à 0 $ de manière aléatoire, même si vous n'avez jamais déposé ni retiré d'argent. La prédiction de où vous êtes est juste, mais la physique de votre richesse est brisée.

L'expérience : l'IA peut-elle apprendre les règles ?

Les chercheurs se sont demandé : Pouvons-nous enseigner à une IA à découvrir la « loi de conservation » (la règle selon laquelle l'énergie reste constante) simplement en observant le mouvement, sans lui indiquer les mathématiques au préalable ?

Ils ont testé trois types différents de « détectives » (modèles d'IA) sur trois problèmes physiques classiques :

Une boule lancée (mouvement de projectile).
Un pendule oscillant.
Un ressort rebondissant.

Détective 1 : L'architecte « structuré »

Cette IA a été construite avec un plan spécifique : « Vous devez calculer l'énergie comme Énergie de vitesse + Énergie de position. »

Résultat : Elle était parfaite. Elle a trouvé la règle de l'énergie presque instantanément.
Faiblesse : Elle était rigide. Lorsque les chercheurs ont ajouté du « bruit » (comme de la neige sur un écran de télévision) aux données, ce détective s'est confondu. Il a essayé d'intégrer le bruit dans son plan strict et a fait des erreurs.

Détective 2 : La « boîte noire » (CDN)

Cette IA n'avait aucun plan. C'était simplement un réseau de neurones à qui l'on disait : « Trouvez un nombre qui reste constant pendant que l'objet se déplace, mais ne devinez pas simplement « 5 » pour tout. »

Résultat : Elle était très bonne, mais avait besoin d'un tout petit indice. Si les chercheurs lui donnaient une légère impulsion au départ (lui disant : « Hé, votre première hypothèse devrait ressembler un peu à la vraie énergie »), elle performait presque aussi bien que l'architecte structuré.
La surprise : Lorsque les données étaient bruyantes, ce détective flexible s'en est en fait mieux sorti que le rigide. Il pouvait ignorer la neige et trouver le vrai motif.

Détective 3 : L'élève « polynomiale »

Cette IA a tenté de trouver la règle en mélangeant des formules mathématiques simples (comme $x^2$ , $\sin(x)$ , etc.).

Résultat : Elle était très sensible à la durée de son étude.
- Étude courte : Elle a abandonné trop tôt. Elle a trouvé une règle « partielle » (comme ne regarder que la vitesse) et a obtenu un score faible (0,78).
- Étude longue : Avec plus de temps et de données, elle a compris la règle complète et complexe et a obtenu un score quasi parfait (0,9998).
Leçon : Parfois, un modèle n'est pas « mauvais » ; il n'a tout simplement pas été entraîné assez longtemps pour échapper à un « piège local » où il pense avoir trouvé la réponse.

La grande conclusion

Le papier conclut par un avertissement pour quiconque construit une IA pour la physique :

« Être précis dans la prédiction de l'étape suivante n'est pas la même chose que comprendre les lois de l'univers. »

Vous pouvez avoir une IA qui prédit l'avenir parfaitement bien (faible erreur) mais qui viole les lois fondamentales de la nature (l'énergie dérive sauvagement). Les chercheurs ont découvert que dire simplement à l'IA d'être « conservatrice » ne suffit pas ; il faut souvent la guider avec un indice de la vraie physique, ou s'assurer qu'elle s'entraîne assez longtemps pour échapper aux mauvaises solutions.

Résumé en quelques mots

Prédiction $\neq$ Physique : Une IA peut deviner où va une boule sans savoir que l'énergie est conservée.
La « dérive » est énorme : Même une IA précise peut avoir des erreurs d'énergie des milliers de fois plus grandes que la réalité.
Flexibilité vs Rigidité : Les modèles rigides (construits avec des règles physiques) sont excellents sur des données propres mais cassent avec du bruit. Les modèles flexibles (apprenant à partir de zéro) sont plus résistants au bruit mais ont besoin de plus de temps d'entraînement pour trouver la bonne réponse.
La leçon : Pour simuler le monde réel, nous devons mesurer non seulement « à quel point la prédiction est proche ? » mais aussi « l'énergie reste-t-elle constante ? ».

Résumé technique : La prédiction n'est pas la physique : Apprentissage et évaluation de quantités conservées dans les simulateurs neuronaux

Énoncé du problème

Les réseaux de neurones entraînés sur des données de simulation physique atteignent souvent une haute précision de prédiction à court terme (faible erreur quadratique moyenne de déroulement) tout en échouant à respecter les lois physiques fondamentales, telles que la conservation de l'énergie. Même lorsque des modèles génératifs comme les réseaux de diffusion sont guidés par des structures de conservation apprises lors de l'échantillonnage, ils produisent fréquemment des trajectoires où l'énergie dérive de manière significative au fil du temps. Cette déconnexion soulève une question critique : Les réseaux de neurones peuvent-ils apprendre ou sélectionner directement des quantités globalement conservées à partir d'observations d'état, et une faible erreur de prédiction suffit-elle à garantir un mouvement physiquement valide ?

Les auteurs investiguent si les modèles peuvent identifier des propriétés invariantes à partir de trajectoires physiques pour vérifier les modèles, guider la génération ou identifier des lois physiques, en traitant spécifiquement l'écart entre la précision au niveau de la trajectoire et la conservation globale.

Méthodologie

Environnements et données

L'étude évalue trois systèmes hamiltoniens classiques avec des invariants analytiques connus :

Mouvement de projectile : Énergie séparable $E = \frac{1}{2}(v_x^2 + v_y^2) + gy$ .
Pendule non linéaire : Hamiltonien non séparable $H = \frac{1}{2}\omega^2 - g \cos \theta$ .
Système masse-ressort : Énergie séparable $E = \frac{1}{2}kx^2 + \frac{1}{2}v^2$ .

Les données sont générées à l'aide de solutions exactes sous forme fermée ou d'intégration adaptative RK45 pour garantir que la dérive d'énergie de la vérité terrain soit négligeable ( $10^{-5}$ à $10^{-7}$ ). Les expériences incluent des trajectoires sans bruit et des trajectoires avec un bruit gaussien additif de 1 %.

Modèles évalués

Les auteurs comparent quatre approches pour l'apprentissage d'invariants :

Réseau d'énergie structuré (SE) : Une architecture décomposant explicitement le scalaire en termes cinétiques et potentiels, $H(s) = T_\theta(v) + V_\phi(q)$ . Cela sert de référence avec des priors physiques forts.
Réseau de découverte de conservation boîte noire (CDN) : Un MLP standard sans structure physique imposée.
- CDN-Conservation : Entraîné uniquement sur la cohérence temporelle.
- CDN-Accordé : Entraîné sur la cohérence temporelle plus une perte d'accord standardisée faible vers l'énergie analytique à $t=0$ .
CDN polynomial : Un modèle linéaire $f(s) = w^\top \phi(s)$ où $\phi(s)$ inclut des polynômes de degré 2 et des caractéristiques trigonométriques.
Référence de diffusion : Un DDPM entraîné pour générer des changements d'état ( $\Delta s$ ), guidé lors du déroulement par l'invariant CDN et une projection douce vers le niveau d'énergie du réseau SE.

Fonctions de perte

L'objectif principal pour l'apprentissage d'invariants combine deux termes :

Cohérence temporelle : Minimise la différence entre l'invariant appris à des pas de temps consécutifs, $f(s_{t+1}) - f(s_t)$ .
Seuil de variance : Empêche la solution triviale où le modèle sort une constante pour toutes les entrées en imposant une variance sur le lot initial.
Perte d'accord (optionnelle) : Une perte standardisée faible à $t=0$ pour aligner l'invariant appris avec l'énergie analytique à l'échelle et au décalage près.

Contributions et résultats clés

1. La précision de prédiction n'implique pas la conservation

Le modèle de diffusion a atteint un faible MSE de déroulement (par exemple, $3,4 \times 10^{-4}$ pour le pendule) mais n'a pas conservé l'énergie. L'écart-type de l'énergie dans les trajectoires générées était 7 500 à 36 000 fois plus grand que dans les trajectoires de vérité terrain. Cela démontre qu'une faible erreur de prédiction et un guidage doux par invariant sont insuffisants pour imposer des lois de conservation globales.

2. La nécessité d'une supervision faible pour la sélection d'invariants

Bien que l'objectif de conservation (cohérence temporelle) encourage le modèle à apprendre quelque chose de constant, il est sous-déterminé.

CDN-Conservation (sans accord) : Sans accord avec l'énergie analytique, le modèle échoue à retrouver le vrai hamiltonien. Sur les systèmes pendule et masse-ressort, le $R^2$ de Pearson s'est effondré près de zéro ( $< 10^{-3}$ ).
CDN-Accordé : Avec un petit terme d'accord ( $\lambda_{align}=0,2$ ), le CDN boîte noire a atteint $R^2 \ge 0,996$ sur tous les systèmes, prouvant que la cohérence temporelle combinée à une supervision faible peut récupérer des quantités physiquement significatives sans priors structurels.

3. Sensibilité aux calendriers d'entraînement (CDN polynomial)

Le CDN polynomial a montré une sensibilité significative à la durée d'entraînement et au volume de données :

Calendrier court : Sur le pendule, il a convergé vers une solution partielle dominée par le terme d'énergie cinétique ( $\omega^2$ ), manquant le terme potentiel ( $\cos \theta$ ), résultant en $R^2 = 0,78$ .
Calendrier long : Avec plus d'époques et de données, le modèle a retrouvé le hamiltonien complet, atteignant $R^2 = 0,9998$ .
Cela indique que le paysage de perte de conservation contient de mauvais minima locaux (hamiltoniens partiels) qui nécessitent un budget d'entraînement suffisant pour être évités.

4. Robustesse au bruit

Sous un bruit gaussien additif de 1 %, les performances du réseau d'énergie structuré se sont dégradées uniformément ( $R^2$ diminué d'environ $0,013$). En revanche, le CDN boîte noire s'est révélé plus robuste sur les systèmes de projectile et masse-ressort, surpassant le modèle structuré. Les auteurs suggèrent que forcer une décomposition $T(v) + V(q)$ sur des données bruitées nécessite d'ajuster séparément des signaux corrompus, tandis que le CDN non contraint peut apprendre une fonction robuste de l'état complet.

5. Validation par régression symbolique

En utilisant la régression parcimonieuse STLSQ sur les cibles d'énergie analytiques, les auteurs ont confirmé que leur bibliothèque de caractéristiques était suffisamment expressive pour retrouver les équations symboliques exactes pour les trois systèmes. Cependant, ils notent qu'il s'agit d'une vérification de pipeline plutôt que d'une découverte non supervisée, car la cible de régression était l'énergie connue.

Importance et affirmations

L'article soutient que les métriques de précision au niveau de la trajectoire (comme le MSE) sont des références insuffisantes pour les modèles de simulation physique. Un modèle peut être hautement précis à court terme tout en violant les lois fondamentales de conservation.

Les auteurs affirment que :

La conservation est un axe distinct de qualité : Elle doit être évaluée séparément de l'erreur de prédiction.
Les priors architecturaux ont des compromis : Bien que les réseaux structurés (SE) fonctionnent presque parfaitement sur des données propres correspondant à leurs hypothèses, ils peuvent être plus fragiles face au bruit que les modèles boîte noire flexibles (CDN) lorsqu'une supervision faible est fournie.
L'optimisation compte : La capacité à retrouver des quantités conservées dépend fortement des calendriers d'entraînement ; des budgets limités peuvent conduire à des solutions partielles qui semblent valides ( $R^2$ modéré) mais échouent à capturer la physique complète.
Le guidage n'est pas une solution miracle : Un guidage doux par des invariants appris lors de l'échantillonnage de diffusion ne garantit pas la conservation de l'énergie sur de longs déroulements, soulignant le besoin de contraintes plus strictes ou de meilleures stratégies d'échantillonnage.

L'ouvrage conclut que si les réseaux de neurones peuvent apprendre des invariants, le faire de manière fiable nécessite une considération attentive de la conception de la perte, de la durée d'entraînement et de l'équilibre entre priors structurels et flexibilité du modèle.