🤖 machine learning

Certified World Models: Predictability Across Configuration, Horizon, and Resolution

Cet article introduit un certificat de prédictibilité calculable pour les modèles de monde latents équivariants qui exploite la symétrie pour borner les erreurs de déploiement à travers la configuration, l'horizon et la résolution, démontrant que l'équivariance exacte garantit une erreur invariante tandis que l'équivariance approximative permet l'estimation de l'horizon via des spectres de Lyapunov pour guider une prise de décision fiable.

Auteurs originaux : Hongbo Wang

Publié 2026-07-03

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Hongbo Wang

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

L'idée principale : Échelle vs Structure

Imaginez que vous essayiez de prédire la météo.

L'approche par l'« Échelle » : Vous donnez à un ordinateur massif énormément de données sur la météo passée pour qu'il devienne très doué pour deviner ce qui arrive ensuite si la météo ressemble exactement au passé. C'est comme un étudiant qui mémorise toutes les réponses d'un manuel. Si vous posez une question légèrement différente de celle du livre, il pourrait se tromper. Ce papier appelle cela « acheter de l'interpolation ». Cela fonctionne bien à l'intérieur de la boîte des données connues, mais cela n'offre aucune garantie en dehors de cette boîte.
L'approche par la « Structure » : Au lieu de simplement mémoriser des données, vous apprenez à l'ordinateur les règles de la physique (comme la gravité ou la symétrie). Par exemple, vous lui dites : « Si je fais pivoter cette scène de 90 degrés, les lois de la physique ne changent pas. » Ce papier appelle cela « acheter un certificat ».

La thèse principale : Si vous construisez un modèle avec les bonnes règles structurelles (symétrie), vous pouvez mathématiquement prouver (certifier) qu'il fonctionnera correctement dans des situations qu'il n'a jamais vues auparavant. Vous n'avez pas besoin de le tester sur tous les scénarios possibles ; il vous suffit de vérifier quelques règles de base, et les mathématiques garantissent le reste.

Les trois axes du certificat

Les auteurs affirment que ce « certificat » couvre trois éléments simultanément :

Configuration (Le « Quoi ») : Imaginez un Rubik's Cube. Si vous savez comment résoudre une face, et que vous connaissez les règles de rotation du cube, vous savez automatiquement comment résoudre n'importe quelle combinaison de rotations, même celles que vous n'avez jamais vues. Le papier prouve que si un modèle respecte la symétrie, vérifier seulement quelques mouvements de base (générateurs) garantit qu'il fonctionnera pour toutes les combinaisons possibles (le monoïde entier).
Horizon (Le « Combien de temps ») : Jusqu'où pouvez-vous prédire dans le futur ?
- Dans les systèmes chaotiques (comme la météo), les erreurs croissent rapidement. Le papier montre que le « certificat » vous indique exactement jusqu'à quand vous pouvez faire confiance à la prédiction avant qu'elle ne devienne inutile. C'est comme une date de péremption sur une prédiction.
- Si quelque chose est parfaitement conservé (comme l'énergie dans un système sans friction), le certificat indique que vous pouvez le prédire indéfiniment.
Résolution (Le « Quel niveau de détail ») : Quelle précision votre prédiction doit-elle avoir ? Si vous n'avez besoin que d'une estimation approximative, le certificat dure plus longtemps. Si vous avez besoin d'une précision au millimètre près, le certificat expire plus tôt.

Analogies clés du papier

1. La garantie « Orbit-Flat » (Orbite plate)

Imaginez que vous marchez sur une piste circulaire parfaitement plate.

Le modèle non-équivariant (Échelle) : Il apprend à bien marcher à un endroit spécifique de la piste. Si vous le déplacez à un autre endroit, il trébuche car il n'a pas appris la forme de la piste, seulement le sol spécifique sur lequel il se trouvait.
Le modèle équivariant (Structure) : Il apprend la forme circulaire de la piste. Parce que la piste est un cercle parfait, le modèle sait que marcher au point A est exactement la même chose que marcher au point B, juste avec une rotation. Le papier prouve que si le modèle est construit ainsi, son erreur est « plate » sur tout le cercle. Peu importe où vous commencees, la performance est garantie identique.

2. Le « Certificat » vs le « Pari »

Le Certificat : Imaginez un ingénieur en pontage qui calcule les limites de charge en utilisant les lois de la physique. Il peut dire : « Ce pont supportera 10 tonnes. » Vous n'avez pas besoin de faire traverser 1 000 camions de 10 tonnes pour le croire. Les mathématiques sont le certificat.
Le Pari (Échelle) : Imaginez un conducteur qui a traversé le pont 1 000 fois avec des camions de 5 tonnes. Il est confiant qu'il supportera 5 tonnes. Mais si vous demandez : « Supportera-t-il 10 tonnes ? », il n'a aucune preuve. Il peut parier, mais il ne peut pas certifier.

3. La « Charnière de Noether » (Pourquoi la symétrie compte)

Le papier relie deux idées qui semblent habituellement distinctes : la Symétrie (les règles du jeu) et la Conservation (les choses qui ne changent pas, comme l'énergie).

L'analogie : Pensez à un patineur artistique qui tourne sur lui-même. À cause de la symétrie de la rotation, son moment cinétique est conservé (il reste constant).
L'apport du papier : Les auteurs prouvent que si un modèle respecte la symétrie (la rotation), il apprend automatiquement à conserver la quantité (le moment cinétique). Et parce que cette quantité est conservée, le modèle peut la prédire pendant très longtemps (horizon long). Cela relie la « forme » du modèle à sa capacité de vision à long terme.

Ce que les expériences ont montré

Les auteurs ont testé cela sur de réelles simulations physiques (comme pousser des blocs, faire tourner des pendules, ou des systèmes météorologiques chaotiques) :

Le modèle « Structure » : Même s'il était beaucoup plus petit (moins de paramètres) que les modèles « Échelle », il fonctionnait parfaitement sur des situations nouvelles et inédites. Il était « orbit-flat ».
Le modèle « Échelle » : Il était énorme (88 fois plus grand dans un test) et excellait sur les données d'entraînement. Mais dès qu'on lui demandait de prédire quelque chose de légèrement différent (comme un bloc poussé sous un nouvel angle), il échouait lourdement. Il ne pouvait pas généraliser.
Le test du « Budget » : Dans un système chaotique, vous devez vérifier l'état du système occasionnellement pour maintenir la précision de votre prédiction (ré-observation).
- Le modèle Structure savait exactement quand vérifier (en se basant sur son certificat). Il est resté dans son budget et n'a jamais échoué.
- Le modèle Échelle s'est trompé sur le moment de vérifier. Il a vérifié trop souvent (gaspillant son budget) ou trop tard (et a échoué).
- Résultat : Le modèle Structure a économisé de l'argent (budget de calcul) car son certificat était digne de confiance.

Ce que le papier NE prétend PAS

Il ne dit pas que la « Structure » est toujours meilleure en termes de précision brute. Parfois, un modèle énorme et non symétrique est plus précis à l'intérieur des données d'entraînement.
Il ne promet pas la sécurité. Le papier montre que le modèle est efficace et digne de confiance dans un budget donné, mais il admet que si le contrôleur (le cerveau du robot) est mauvais, le robot peut quand même s'écraser, même si le modèle de prédiction est parfait.
Il ne fonctionne pas sur tout. Si la physique du monde brise la symétrie (par exemple, un vent qui ne souffle que de la gauche), le certificat se dégrade progressivement, mais il n'est plus parfait.

L'essentiel

« L'échelle achète de l'interpolation ; la structure achète un certificat. »

Si vous voulez un modèle qui devine bien sur des données qu'il a déjà vues, rendez-le immense (Échelle).
Si vous voulez un modèle dont vous pouvez prouver qu'il fonctionnera sur des données qu'il n'a jamais vues, construisez-le avec les bonnes règles (Structure). Ce papier fournit les mathématiques pour écrire cette preuve.

Résumé Technique : Modèles de Monde Certifiés

Énoncé du Problème

La recherche actuelle sur les modèles de monde est souvent présentée comme une compétition entre l'échelle (mise à l'échelle brute des données et des paramètres) et la structure (incorporation de priors géométriques comme la symétrie). Si l'échelle réduit l'erreur moyenne sur les distributions d'entraînement, elle n'offre aucune garantie concernant des situations spécifiques et inédites. À l'inverse, les approches structurelles visent l'efficacité d'échantillonnage, mais manquent souvent de limites rigoureuses et calculables sur leurs capacités de généralisation.

L'article répond au besoin d'un certificat de prédictibilité : une région prouvable et calculable définissant précisément où le comportement d'un modèle de monde est garanti de se transférer. Ce certificat doit s'étendre sur trois axes orthogonaux :

Configuration : Généralisation à travers le monoïde exponentiellement grand généré par les symétries primitives.
Horizon : Jusqu'où la garantie s'étend dans le futur.
Résolution : Le niveau de détail auquel la garantie est tenue.

La thèse centrale est : « L'échelle achète l'interpolation ; la structure achète un certificat. »

Méthodologie

1. Cadre Théorique

Les auteurs établissent un théorème maître pour les modèles de monde latents équivariants consistant en un encodeur $E: \mathcal{X} \to \mathcal{Z}$ et un prédicteur conditionné par l'action $f: \mathcal{Z} \times \mathcal{A} \to \mathcal{Z}$ .

L'Axe de Configuration (Théorème A) : Sous des hypothèses d'équivariance exacte (l'encodeur et le prédicteur commutent avec les actions de groupe, et le groupe est une symétrie des dynamiques réelles), l'erreur de prédiction de l'ensemble du pipeline est invariante sur l'ensemble du monoïde généré par $k$ symétries primitives. Crucialement, la vérification des $k$ générateurs certifie l'ensemble de la vaste collection de compositions.
- Converse (Lemme 2) : L'erreur constante sur l'orbite contre toute cible équivariante est équivalente à l'équivariance. Ainsi, une architecture non contrainte ne peut certifier cette propriété par construction ; elle doit l'apprendre et être vérifiée.
Les Axes d'Horizon et de Résolution (Théorème B) : Pour l'équivariance approximative, les défauts se propagent le long du spectre de Lyapunov à temps fini.
- Canaux expansifs ( $\lambda > 0$ ) : L'erreur croît exponentiellement. L'horizon certifié suit une loi de type $T_j(\epsilon) \sim \log(1/\epsilon)/\lambda_j$ .
- Canaux neutres ( $\lambda = 0$ ) : L'erreur s'accumule linéairement.
- Canaux contractifs ( $\lambda < 0$ ) : L'erreur se stabilise sur un plancher borné.
- Conservation exacte : Si une charge est exactement conservée ( $\eta=0$ ), l'horizon est illimité.
La Charnière de Noether (Section 4) : L'article relie les axes de configuration et d'horizon. Il démontre que les charges conservées (modes lents) résident dans des blocs isotypiques spécifiques (invariants ou équivariants) déterminés par la théorie des représentations. Plus précisément, les charges scalaires conservées vivent dans le bloc invariant ( $\ell=0$ ), tandis que les charges vectorielles conservées (comme le moment cinétique) vivent dans des blocs équivariants ( $\ell=1$ ) et nécessitent des degrés polynomiaux spécifiques (par exemple, des produits vectoriels de degré 2) pour la lecture.
Certificats Actionnables (Théorème B' & Propositions) :
- Théorème B' : Un certificat de cône/métrique adaptée peut lire un horizon certifié sain, a priori, directement à partir du champ Jacobien du modèle appris sans accès aux dynamiques réelles. Il est précis sur les dynamiques uniformément hyperboliques et s'abstient ailleurs.
- Proposition 9 : Une estimation erronée de l'horizon (par exemple, un exposant de Lyapunov surévalué) gonfle linéairement le budget de détection requis pour la re-observation active.

2. Conception Expérimentale

L'article valide ces affirmations à travers plus de 30 expériences sur des échelles CPU/1-GPU, utilisant des graines aléatoires explicites et des portes pré-enregistrées.

Systèmes : Environnements de jeu structurés, dynamique de contact de moteurs physiques réels (PushT, FetchPush), systèmes chaotiques (Lorenz, Hénon, Rössler, Lorenz-96) et modèles de monde pré-entraînés publics (TD-MPC2, LeWM, V-JEPA).
Comparaisons : Les modèles équivariants sont comparés à des bases non-équivariantes mises à l'échelle (MLP, GRU) et à des bases augmentées par données.
Métriques : Platitude de l'orbite (ratio d'erreur à travers l'orbite), récupération du spectre de Lyapunov ( $R^2$ ), et efficacité du budget de re-observation.

Résultats Clés

1. Configuration : Certification Exponentielle

$\mathbb{Z}_2^6$ (I Ching) : L'entraînement sur 6 générateurs certifie les 64 compositions avec une précision machine. Les bases non-équivariantes se dégradent de manière monotone avec la longueur de la composition.
Dynamique de Contact Réelle (PushT & FetchPush) : Sur des données de moteurs physiques réels (et non des jeux de l'esprit faits main), les modèles équivariants maintiennent une platitude d'orbite exacte (ratio 1.000) hors distribution. Les bases mises à l'échelle (jusqu'à 160x plus grandes) se dégradent de plusieurs ordres de grandeur (2 à 1000x) lorsqu'elles sont pivotées hors du segment d'entraînement.
Levée SO(3) : Le certificat tient pour les groupes non-abéliens (SO(3) sur des nuages de points 3D), prouvant que le résultat n'est pas spécifique aux cercles abéliens.

2. Horizon : Récupération Spectrale et Lois

Récupération du Chaos : Sur Lorenz, Hénon et Rössler, l'escalier de l'horizon certifié récupère le véritable exposant de Lyapunov à 1–12 % près.
Structure de Haute Dimension : Sur Lorenz-96 en 40-D, un modèle de convolution cyclique $\mathbb{Z}_N$ -équivariant récupère l'intégralité du spectre de Lyapunov ( $R^2 \approx 0.98$ ). Un MLP dense et un GRU entraînés de la même manière échouent de manière catastrophique ( $R^2 < 0$ ), le GRU échouant à cause de modes de Lyapunov cachés violant la condition de Lyapunov conditionnelle à haute dimension.
Échelle vs Structure : Mettre à l'échelle un modèle non-équivariant améliore l'interpolation intra-distribution mais ne peut pas récupérer le spectre de haute dimension ou la garantie de platitude d'orbite.

3. Actionnabilité : Décisions Budgétisées

Efficacité de la Re-observation : Dans un système chaotique de 40-D avec un budget de détection fixe, un agent utilisant le certificat fidèle du modèle équivariant respecte le budget (médiane de 10 % de violation de prévision). Un agent utilisant le certificat gonflé du modèle non-équivariant sur-observe et affame le budget (médiane de 63 % de violation).
Audit de Modèles Publics : Le certificat audite avec succès les modèles pré-entraînés publics (TD-MPC2, LeWM, V-JEPA). Il identifie correctement les régimes où le modèle est expansif (calibré), proche du neutre (s'abstient) ou piloté par un biais (s'abstient), correspondant à la carte de portée théorique.

4. Limites et Portée Honnête

Performance Intra-Distribution : Les modèles équivariants sont compétitifs mais pas nécessairement supérieurs en intra-distribution ; leur avantage est la garantie hors distribution.
Contrôle en Boucle Fermée : Bien que le certificat de planification soit plat sur l'orbite, le succès réel de la tâche sur FetchPush est resté peu concluant en raison de l'exploitation du modèle par le planificateur CEM, un problème connu en RL basé sur le modèle, sans rapport avec le certificat lui-même.
Symétrie Approximative : Le certificat se dégrade gracieusement avec les défauts de rupture de symétrie, mais possède un seuil mesuré ( $\epsilon_{world} \approx 0.01\text{--}0.06$ ) au-delà duquel l'hypothèse devient nuisible.
Entrées de Pixels : La moyenne de trames rend l'a priori d'équivariance neutre sur l'exactitude des pixels bruts, mais la prédiction de pixels multi-étapes absolue reste un défi ouvert à petite échelle.

Signification et Revendications

L'article prétend fournir un critère unique et exécutable (Algorithme 1) pour déterminer ce qu'un modèle de monde équivariant peut certifier de prédire. Sa signification réside dans le passage des « courses de benchmarks » aux « compétitions de types » :

De l'Empirique au Prouvable : Il dépasse la généralisation empirique pour proposer une région prouvable et calculable (configuration $\times$ horizon $\times$ résolution) dérivée du propre Jacobien du modèle et des vérifications de symétrie.
La Structure comme Garantie : Il démontre que la structure achète un certificat fiable qui est a-priori (ne nécessite aucune donnée de calibration de rollout), tandis que l'échelle n'achète que l'interpolation.
Mécanisme de Conservation : Il fournit une explication par la théorie des représentations (charnière de Noether) de pourquoi la mécanique céleste exactement conservée est prévisible pendant des millénaires (blocs invariants/équivariants sont lents/conservés) tandis que la météo ne l'est pas (canaux chaotiques, expansifs).
Confiance Actionnable : Le certificat n'est pas simplement descriptif ; il permet une prise de décision budgétisée (par exemple, la re-observation active) qui est prouvée plus efficace que l'utilisation d'horizons non calibrés ou gonflés.

Les auteurs déclarent explicitement qu'il s'agit d'un article de mécanisme et de théorie avec des expériences de preuve de concept, et non d'un benchmark à grande échelle. La contribution centrale est la certifiabilité du comportement du modèle, offrant une lecture structurelle de pourquoi certaines dynamiques sont prévisibles et d'autres non.