🤖 machine learning

When Do Conservation Laws Survive Learned Representations? Certified Horizons for Latent World Models

Cet article établit un cadre pour certifier le nombre d'étapes pendant lesquelles un modèle de monde latent appris reste sur l'ensemble de niveau d'un invariant physique en bornant l'« horizon certifié » par la décomposition des défauts de représentation, de lecture et de dynamique, démontrant que si les priors géométriques rigides comme les structures symplectiques peuvent échouer à se généraliser à travers des cartes apprises, les invariants mous alignés sur Lipschitz peuvent préserver de manière robuste les lois de conservation dans l'espace physique décodé.

Auteurs originaux : Hongbo Wang

Publié 2026-06-25

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Hongbo Wang

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous appreniez à un robot à prédire le mouvement d'un pendule oscillant. Au lieu de lui montrer la physique réelle (angles et vitesses), vous le laissez apprendre son propre langage secret, interne (une « représentation latente»), pour comprendre le monde. Le robot devient très doué pour prédire l'étape suivante dans son propre langage secret.

Mais voici le problème : Comment faire confiance au robot ?

Dans le monde physique réel, certaines choses ne changent jamais, comme l'énergie totale d'un pendule en oscillation. Si votre robot prédit que le pendule va soudainement gagner une énergie infinie de nulle part, nous savons qu'il est défaillant. Cette publication pose la question suivante : Pouvons-nous prouver que notre robot respecte toujours ces lois immuables, même s'il réfléchit dans son propre langage secret ?

Les auteurs disent : « Oui, mais seulement si l'on vérifie la bonne chose. »

L'idée centrale : La vérité « décodée »

L'article soutient que vous ne pouvez pas faire confiance au score d'énergie interne du robot. Le robot peut être parfait pour maintenir sa propre « énergie » secrète constante, mais cette énergie secrète n'a peut-être rien à voir avec l'énergie du monde réel.

Au lieu de cela, vous devez forcer le robot à traduire ses pensées secrètes en coordonnées du monde réel (angles et vitesses) et ensuite vérifier si l'énergie réelle est constante.

La mauvaise méthode : Vérifier si les mathématiques internes du robot restent constantes. (C'est comme vérifier si le code secret d'un espion reste cohérent, même si l'espion ment sur la mission).
La bonne méthode : Vérifier si le message décodé (la physique du monde réel) reste constant. (C'est vérifier si le rapport réel de l'espion au quartier général est précis).

Les trois « niveaux » de confiance

Les auteurs ont testé cette idée dans trois scénarios différents, comme on grimpe un escalier de difficulté :

1. Le niveau facile (Coordonnées connues) :
Le robot reçoit directement la physique réelle (angles et vitesses).

Résultat : Si vous forcez le robot à utiliser des règles mathématiques « dures » (structure symplectique) qui imitent la physique réelle, cela fonctionne parfaitement. Il reste sur le bon chemin d'énergie pendant longtemps.
Analogie : C'est comme donner à un conducteur une carte qui est déjà parfaitement alignée avec la route. S'il suit les règles de la carte, il reste sur la route.

2. Le niveau moyen (Coordonnées apprises) :
Le robot doit découvrir son propre langage secret à partir de données simples.

Résultat : Les règles « dures » du niveau facile échouent. Le robot apprend un langage secret où l'« énergie » est constante, mais c'est la mauvaise énergie. Il s'éloigne de la réalité.
La solution : Les auteurs ont utilisé une approche « douce ». Ils ont appris au robot à trouver un motif qui reste constant, puis ils ont construit un pont (un calibrage mathématique) pour relier ce motif à l'énergie réelle.
Analogie : Le conducteur crée maintenant sa propre carte. Les règles « dures » de l'ancienne carte ne fonctionnent plus. Mais si vous construisez un traducteur (le pont) qui dit : « Quand le conducteur dit "Bleu", cela signifie "Nord" », vous pouvez toujours lui faire confiance. Le motif « doux » a survécu à la traduction ; la règle « dure » ne l'a pas fait.

3. Le niveau difficile (Images de pixels) :
Le robot ne voit que des images (pixels) du pendule, pas des nombres. Il doit deviner la physique à partir de l'image.

Résultat : C'est très bruité. Le « décodeur » du robot (transformer les pixels en nombres) fait des erreurs.
La solution : Ils ont trouvé une « zone de sécurité ». S'ils ne font confiance au robot que lorsqu'il regarde le pendule de manière stable et claire (en ignorant les angles flous ou étranges), l'approche « douce » avec le pont a de nouveau fonctionné.
Analogie : Le conducteur regarde maintenant la route à travers une fenêtre embrumée. On ne peut pas lui faire confiance partout. Mais si vous lui dites : « Ne conduis que lorsque le brouillard est léger », il peut toujours rester sur la route.

La grande découverte : Le mur de « Kepler »

Ils ont également testé un système très difficile (deux planètes orbitant l'une autour de l'autre). Même avec tous leurs tours, le robot a échoué lorsque les planètes se sont approchées très près l'une de l'autre.

Pourquoi ? Ce n'était pas parce que le robot était « stupide » ou que les mathématiques étaient fausses. C'était une limite géométrique. Lorsque les planètes se rapprochent trop, la physique devient infiniment abrupte (comme une falaise). Aucune amélioration de l'apprentissage ou des cartes ne peut réparer une fala cliff qui est trop raide pour être gravie.
Analogie : Même le meilleur conducteur avec le meilleur traducteur ne peut pas conduire une voiture sur un mur vertical. Le mur est simplement trop raide.

Résumé

Ne faites pas confiance aux sentiments internes du robot : Ce n'est pas parce que le robot pense faire la bonne chose qu'il la fait vraiment.
Faites confiance à la traduction : Vous devez vérifier la sortie du robot après qu'il a traduit ses pensées secrètes en physique du monde réel.
Les règles dures se brisent quand la carte change : Les règles physiques rigides ne fonctionnent que si vous connaissez la carte à l'avance. Si le robot apprend sa propre carte, vous avez besoin d'un « pont » flexible pour connecter ses idées à la réalité.
Certains murs sont infranchissables : Parfois, la physique elle-même est trop extrême (comme des planètes qui s'entrechoquent), et aucune quantité d'IA ne peut certifier la sécurité dans ces cas-là.

L'article prouve que nous pouvons construire des « certificats » (garanties) pour les modèles de monde de l'IA, mais seulement si nous sommes honnêtes sur ce que nous mesurons et sur la façon dont nous traduisons les pensées de l'IA vers la réalité.

Résumé Technique : Quand les lois de conservation survivent-elles aux représentations apprises ?

Énoncé du Problème

Les modèles de monde modernes atteignent leur scalabilité en apprenant des représentations latentes et en effectuant des projections vers l'avant dans cet espace latent plutôt que dans l'espace d'observation. Cependant, ce changement complique la certification de la fiabilité physique. Bien que les lois de conservation (par exemple, la conservation de l'énergie) constituent une monnaie naturelle pour la confiance dans les systèmes physiques, un modèle latent remplace les coordonnées physiques par des coordonnées apprises. Par conséquent, un modèle peut parfaitement conserver un scalaire interne appris (un hamiltonien ou un témoin latent) alors que l'énergie physique réelle dérive de manière significative.

La question centrale abordée est la suivante : Quand une loi de conservation reste-t-elle certifiable après qu'un modèle a appris une représentation latente ? Plus précisément, l'article cherche à borner, à l'avance et à partir de défauts mesurables du modèle, le nombre d'étapes pendant lesquelles une projection (rollout) reste prouvablement sur le niveau de surface d'un invariant physique. Le défi critique consiste à définir ce qui est certifié : non pas les quantités latentes apprises, mais l'invariant physique décodé.

Méthodologie

L'Objet Certifié

L'article fixe l'objet certifié comme étant l'invariant physique décodé, noté $\Psi(z) = H^*(\Pi D_\psi z)$ .

$z$ : État latent.
$D_\psi$ : Mapping du décodeur du latent vers l'observation.
$\Pi$ : Mapping de lecture (readout) de l'observation vers les coordonnées physiques $(q, p)$ .
$H^*$ : L'invariant physique connu (ex: l'énergie mécanique réelle).

Crucialement, l'article ne certifie pas directement l'hamiltonien latent appris $H_\theta$ ou un témoin scalaire appris $C_\omega$ . Ceux-ci sont traités comme des « témoins » ou des proxys. Un modèle peut conserver ces quantités internes tout en voyant l'invariant physique décodé dériver. La certification n'est valide que là où le pipeline de l'état et le pipeline du latent-décodé convergent sur $H^*$ .

Cadre de Certification

Les auteurs dérivent des « certificats d'horizon de coquille » (shell-horizon certificates) qui bornent le nombre d'étapes $T$ qu'une projection reste dans une tolérance $\epsilon$ de la coquille d'énergie. Le budget pour cet horizon se décompose en trois sources de défauts distinctes :

Défaut de Représentation ( $\epsilon_0$ ) : Erreur d'initialisation dans l'encodage/embedding.
Défaut de Lecture ( $\epsilon_{\Pi, \text{num}}$ ) : Erreur introduite par le mapping du décodeur et de la lecture (dominante dans les observations de pixels).
Défaut de Dynamique Latente ( $\delta_{\text{tube}}^{\text{phys}}$ ) : Dérive par étape de l'invariant décodé dans la dynamique latente.

L'horizon est calculé comme suit :
$T = \left\lfloor \frac{m_{c,\rho}\epsilon - \text{défauts d'initialisation}}{\text{dérive par étape}} \right\rfloor$
où $m_{c,\rho}$ est la sensibilité de la coquille (norme minimale du gradient).

Pont d'Alignement (Témoins Doux)

Pour utiliser un invariant « doux » appris (un témoin scalaire $C_\omega$ entraîné pour être conservé dans l'espace latent), l'article introduit un pont d'alignement de Lipschitz contrôlé.

Un témoin doux n'est pas intrinsèquement l'énergie physique. Il doit être aligné via une fonction de calibration $g_C$ .
La condition pour un certificat valide est un pont bi-Lipschitzien ( $0 < \kappa \le g'_C \le L_g$ ).
Ce pont transforme le témoin doux en un lien de type « théorème » avec l'invariant décodé. L'article démontre que la simple monotonie est insuffisante ; une monotonie non contrôlée (par exemple, la régression isotonic) peut avoir des constantes de Lipschitz infinies, faisant s'effondrer l'horizon certifié à zéro.

Configuration Expérimentale

Le cadre est testé sur trois systèmes conservatifs : le pendule simple, l'oscillateur harmonique et le problème de Kepler à deux corps (un système singulier).

Représentations : L'étude fait varier la représentation d'entrée tout en gardant l'objet certifié fixe :
1. État : Coordonnées canoniques $(q, p)$ en entrée ; la lecture est l'identité.
2. Levée (Lift) : Des observations de faible dimension sont encodées dans un graphe latent appris ; la lecture est propre.
3. Pixels : Des images de haute dimension sont en entrée ; un décodeur/lecture appris introduit une erreur significative.
Variantes du Modèle :
- Plain : Carte résiduelle latente non contrainte.
- Hard Symplectic : Intégrateurs latents contraints d'être symplectiques (Störmer–Verlet, SympNet).
- Soft (B-self) : Témoin scalaire/vectoriel auto-supervisé entraîné pour être invariant, aligné via le pont.

Résultats Clés

1. Espace d'État (Coordonnées Canoniques)

Dans les coordonnées de phase connues, la structure symplectique dure (hard symplectic) est la grande gagnante.

Sur le système de Kepler, les modèles symplectiques durs ont obtenu des certificats d'invariants conjoints non vacues dans 3/3 graines (seeds), alors que les modèles simples en ont obtenu 0/3.
La dérive de l'invariant par étape était environ $7,6\times$ plus petite pour les modèles symplectiques.
Conclusion : Les priors rigides fonctionnent efficacement lorsque le graphe est connu et correspond à la forme symplectique physique.

2. Levée Apprise (Coordonnées Latentes)

Lorsque le modèle apprend un graphe à partir d'observations de faible dimension, les priors symplectiques durs s'effondrent, tandis que les invariants doux survivent.

Les modèles symplectiques durs (Verlet, SympNet) deviennent statistiquement indiscernables des bases simples. La contrainte symplectique préserve la forme du flux mais pas l'identité du scalaire conservé par rapport à l'énergie physique sous un graphe appris arbitraire.
L'invariant B-self doux traverse avec succès le graphe appris, atteignant un ratio de gain de structure $\approx 1,30$ et un taux de victoire $P(\text{soft} > \text{plain}) = 0,88$ sur 8 graines.
Conclusion : Les priors géométriques rigides sont sensibles aux coordonnées et ne survivent pas automatiquement à l'apprentissage de la représentation ; les invariants doux alignés via un pont bi-Lipschitzien sont plus robustes.

3. Observations de Pixels

La certification sous des entrées de pixels est possible mais restreinte à un sous-tube stable de la lecture.

Le terme de décodeur/lecture domine souvent le budget d'erreur.
En appliquant une « règle de lecture stable gelée » (excluant les points où le score de Lipschitz de la lecture est trop élevé), le témoin doux stabilisé a permis de récupérer des certificats non vacues.
Résultats : 9/10 graines étaient non vacues (contre 4/10 pour le modèle simple), avec une fraction exclue $\le 2,3\%$ .
Conclusion : La certification par pixels est un problème perceptuel ; elle nécessite de stabiliser la lecture pour trouver un sous-tube où l'invariant décodé est fidèle.

4. La Limite Géométrique de Kepler

La levée de Kepler a révélé une limite géométrique intrinsèque.

Malgré la variation de la capacité latente et l'application de re-cartographies métriques légales, le certificat d'invariant conjoint décodé a échoué ( $T=0$ ) près du périastre.
Cet échec est attribué à la rigidité (stiffness) près du périastre du potentiel en carré inverse, qui amplifie les petites erreurs de $(q, p)$ .
Conclusion : Il s'agit d'une limite géométrique spécifique au système, et non d'un échec de la méthodologie de certification de la conservation elle-même.

Signification et Revendications

La contribution principale de l'article est un cadrage de la robustesse de la représentation pour les certificats de conservation. L'article soutient que :

L'Objet Certifié Compte : Les certificats doivent être attachés à l'invariant physique décodé, et non à l'hamiltonien latent ou au témoin non aligné. Un modèle peut conserver son proxy interne tout en échouant physiquement.
Priors Durs vs Doux : La structure symplectique canonique rigide est sensible aux coordonnées. Elle produit les horizons les plus longs dans les coordonnées de phase connues, mais échoue à traverser les graphes appris. À l'inverse, un invariant doux, entraîné pour être conservé dans l'espace latent et aligné via un pont de Lipschitz contrôlé, survit aux changements de représentation.
La Monotonie est Insuffisante : Aligner un témoin doux sur l'énergie physique nécessite une calibration bi-lipschitzienne. Une simple monotonie est trop lâche et conduit à des certificats vacus.
Limites Géométriques : Les certificats alignés sur la conservation peuvent échouer en raison de singularités géométriques intrinsèques (ex: périastre de Kepler) qu'aucune augmentation de la capacité ou de l'apprentissage de la représentation ne peut surmonter.

Les auteurs positionnent ce travail non pas comme un benchmark pour les modèles de monde visuels à long horizon, mais comme une étude méthodologique sur ce qui peut être certifié lorsque les invariants physiques sont évalués à travers des représentations apprises. Les conclusions suggèrent que pour les modèles de monde appris, il faut soit certifier dans des coordonnées où la forme symplectique est physique, soit coupler les priors structurels avec un alignement explicite du scalaire conservé.