💻 computer science

A Unifying Perspective on Causal World Models: From Observations to Representations to Structure

Cet article propose un cadre formel pour les modèles de monde causaux qui unifie plusieurs niveaux d'abstraction — des observations aux représentations structurelles — afin de permettre aux agents de capturer les propriétés et les interactions des entités pour une prédiction, une planification et une prise de décision robustes au-delà de leur distribution d'entraînement.

Auteurs originaux : Avinash Kori, Fabrizio Russo

Publié 2026-08-14

📖 9 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Avinash Kori, Fabrizio Russo

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez d'apprendre à un robot à jouer aux billes. Vous pourriez simplement lui montrer un million de vidéos de billes roulant et espérer qu'il comprenne les règles en devinant ce qui se passe ensuite. C'est ainsi que fonctionnent beaucoup de systèmes d'IA modernes : ils sont comme des perroquets super intelligents capables de prédire la prochaine image d'un film, mais ils ne comprennent pas réellement pourquoi la bille a roulé ou ce qui se passerait si vous la poussiez différemment. Ce domaine de la science s'appelle l'Intelligence Artificielle, et plus précisément les « Modèles de Monde » (World Models). Un Modèle de Monde est essentiellement une carte mentale qu'un agent (comme un robot ou un programme logiciel) construit pour comprendre comment son environnement fonctionne. La grande question que les chercheurs se posent est la suivante : comment amener une machine à dépasser le stade de la simple prédiction du futur pour atteindre la compréhension des causes des événements ? Pour y parvenir, nous devons comprendre quelques idées clés. Premièrement, il y a la « Causalité », qui est la différence entre voir un coq chanter et le soleil se lever (corrélation) et savoir que le chant du coq n'a pas causé le lever du soleil (causalité). Deuxièmement, il y a l'« Apprentissage de Représentation » (Representation Learning), qui est l'art de prendre un amas de données désordonnées et non structurées (comme les pixels bruts d'une image de caméra) et de les organiser en concepts nets et compréhensibles (comme « bloc rouge », « bloc bleu » ou « pince »). Enfin, il y a l'« Intervention », qui est la capacité de demander : « Que se passerait-il si je faisais ceci au lieu de cela ? »

Cet article, intitulé « A Unifying Perspective on Causal World Models », soutient que pour que l'IA soit véritablement intelligente et sûre, elle doit cesser d'être une simple boule de cristal prédisant l'avenir pour devenir un détective comprenant la mécanique du monde. Les auteurs, Avinash Kori et Fabrizio Russo de l'Imperial College London, proposent une nouvelle façon de construire ces cartes mentales. Ils suggèrent qu'un bon Modèle de Monde ne devrait pas être un seul bloc monolithique et confus. Au lieu de cela, il devrait être une chaîne de montage structurée qui prend des observations brutes, les transforme en une liste d'objets spécifiques et de leurs propriétés, détermine comment ces objets interagissent, puis utilise cette structure pour planifier des actions. Ils appellent cela un « Modèle de Monde Causal » (Causal World Model ou CWM). L'article ne prétend pas avoir construit un robot capable de faire cela parfaitement aujourd'elle ; il fournit plutôt un blueprint formel et un ensemble de règles sur la manière dont nous devrions concevoir ces modèles. Il clarifie exactement quelles parties du modèle peuvent être apprises à partir des données et quelles parties nécessitent une guidance humaine ou des hypothèses spécifiques pour fonctionner correctement.

L'échelle du détective : des pixels aux plans

Imaginez que vous êtes un détective essayant de résoudre un mystère dans une pièce remplie de jouets. Vous avez une caméra qui prend des photos de la pièce chaque seconde. C'est votre « observation ». Dans l'ancienne méthode, l'IA regarderait simplement les pixels et dirait : « D'accord, la prochaine seconde, la balle rouge sera probablement ici. » C'est une bonne supposition, mais si vous demandiez : « Et si j'avais poussé le bloc bleu à la place ? », l'IA pourrait être confuse car elle n'aurait jamais vraiment compris que le bloc bleu a causé le mouvement de la balle rouge.

Les auteurs proposent une nouvelle approche, visualisée comme une échelle à quatre étapes (ou « Échelle Causale ») que l'IA doit gravir pour devenir véritablement intelligente.

Étape 1 : Les sens bruts (Perception)
Au bas de l'échelle, l'IA voit le monde brut. C'est comme regarder une photo floue et chaotique d'une table avec un bloc rouge, un bloc bleu et un bras de robot. Le premier travail de l'IA est d'agir comme un bon éditeur. Elle doit prendre cette photo désordonnée et la découper en morceaux distincts : « Voici le bloc rouge », « Voici le bloc bleu », « Voici la pince ». L'article appelle cela des « caractéristiques au niveau de l'entité ». L'IA ne fait pas que deviner ; elle apprend à identifier les personnages spécifiques de l'histoire.

Étape 2 : La carte des relations (Représentation)
Une fois que l'IA a identifié les personnages, elle doit comprendre comment ils sont liés entre eux. C'est le deuxième échelon. L'IA construit une carte structurée. Elle ne sait pas seulement que le bloc rouge existe ; elle sait que le bloc rouge appuie sur le bloc bleu. Elle sait que la pince touche l'objectif. L'article décrit cela comme un « état relationnel structuré ». Imaginez cela comme un graphe de réseau social pour les objets sur la table. L'IA crée un diagramme où les blocs sont des points et les interactions (comme « appuyer sur » ou « toucher ») sont des lignes reliant ces points. C'est un bond immense car l'IA comprend désormais la structure de la scène, et non plus seulement l'image.

Étape 3 : La machine du « Et si ? » (Intervention)
Maintenant que l'IA possède une carte de qui est connecté à qui, elle peut commencer à poser des questions de type « Et si ? ». C'est le troisième échelon. Si l'IA veut déplacer le bloc rouge vers l'objectif, elle peut simuler l'action dans sa tête. Elle peut dire : « Si je pousse le bloc rouge, le bloc bleu va glisser et la pince va heurter le mur. » Parce qu'elle comprend les liens causaux (les lignes dans sa carte), elle peut prédire le résultat de ses actions sans les exécuter réellement. C'est ce que les auteurs appellent l'« intervention ». C'est la différence entre regarder un accident de voiture et comprendre que la vitesse a causé l'accident, afin de décider de ralentir pour l'éviter.

Étape 4 : L'imagination (Contrefactuels)
Au sommet de l'échelle se trouve la capacité d'imaginer des scénarios qui ne se sont jamais produits. « Et si le bloc rouge était bleu ? » ou « Et si je l'avais poussé deux fois plus fort ? ». C'est ce qu'on appelle le raisonnement contrefactuel. Cela permet à l'IA d'apprendre de erreurs qu'elle n'a même pas encore commises, ce qui la rend beaucoup plus sûre et adaptable.

Le Blueprint : Comment construire la machine

La principale contribution de l'article est une définition formelle de ce « Modèle de Monde Causal ». Les auteurs soutiennent que nous devons cesser de traiter ces modèles comme un seul bloc de code monolithique. Au lieu de cela, nous devrions les décomposer en parties spécifiques et gérables, comme le moteur d'une voiture avec une transmission, un système de carburant et un volant. Chaque partie a son propre rôle et ses propres règles sur la fiabilité de son fonctionnement.

Ils définissent le modèle comme une chaîne d'événements :

Inférence : L'IA regarde l'image brute ( $x_t$ ) et identifie les entités cachées ( $v_t$ ).
Assemblage : Elle réunit ces entités en un état structuré ( $r_t$ ) qui montre leurs interactions.
Transition : Elle prédit comment l'état changera si une action ( $a_t$ ) est entreprise.
Prédiction : Elle traduit le nouvel état en une image prédite ( $x_{t+1}$ ) afin que nous puissions voir ce qu'elle pense qu'il va se passer.
Utilité : Elle décide si ce résultat est bon ou mauvais en fonction d'un objectif (comme « amener le bloc vers l'objectif »).

Les auteurs sont très prudents en précisant que nous ne pouvons pas simplement attendre de l'IA qu'elle apprenne tout parfaitement à partir de zéro. Ils introduisent le concept d'« Identifiabilité ». C'est un terme technique pour demander : « Pouvons-nous être sûrs que ce que l'IA a appris est la seule véritable explication ? »

L'article suggère que nous ne pouvons souvent pas être sûrs à 100 % des chiffres exacts ou des noms utilisés par l'IA. Par exemple, une IA peut décider d'appeler le bloc rouge « Entité A » et le bloc bleu « Entité B », tandis qu'une autre IA pourrait les inverser. Tant que les relations restent les mêmes (A touche toujours B), cela n'a pas d'importance. Les auteurs soutiennent que nous devons accepter ces « équivalences ». Nous n'avons pas besoin que l'IA utilise nos étiquettes exactes ; nous avons simplement besoin qu'elle comprenne correctement la structure pour prendre les bonnes décisions.

Ce que cet article exclut

Il est important de noter ce que cet article dit que nous ne devons pas faire. Les auteurs s'opposent explicitement à l'idée qu'un Modèle de Monde soit simplement un « prédicteur ». Ils affirment que si un modèle peut seulement deviner la prochaine image d'une vidéo sans comprendre les causes sous-jacentes (les entités et leurs interactions), ce n'est pas un véritable Modèle de Monde. Ils mettent également en garde contre l'idée que l'IA découvrira automatiquement les bonnes variables à utiliser. Parfois, l'IA a besoin d'aide. Si les données sont trop désordonnées ou s'il existe des facteurs cachés que l'IA ne peut pas voir (comme un aimant caché déplaçant les blocs), l'IA pourrait se tromper sur l'histoire causale. L'article suggère que, dans ces cas, nous devons apporter des connaissances humaines ou concevoir le système pour gérer ces incertitudes, plutôt que d'espérer que l'IA résolve cela par magie.

L'essentiel

En résumé, Kori et Russo proposent une nouvelle façon de penser l'IA. Ils suggèrent que pour construire des agents véritablement intelligents capables de planifier et d'agir en toute sécurité, nous devons construire des « Modèles de Monde Causaux ». Ces modèles doivent être structurés comme le dossier d'un détective : identifier les personnages, cartographier leurs relations et simuler les conséquences des actions.

L'article ne prétend pas avoir résolu le problème de la construction de ces modèles aujourd'hui. Il fournit plutôt un cadre rigoureux — un ensemble de définitions et de règles — qui aide les chercheurs à comprendre quelles parties du modèle peuvent être apprises à partir des données et quelles parties doivent être soigneusement conçues. Il suggère qu'en décomposant le problème en pièces plus petites et plus gérables (inférence, structure, transition et utilité), nous pouvons construire des systèmes d'IA qui ne se contentent pas de deviner le futur, mais qui comprennent réellement le monde dans lequel ils évoluent. Cette approche vise à rendre l'IA plus fiable, interprétable et capable de gérer les changements imprévus de la vie réelle.

Résumé Technique : Une Perspective Unificatrice sur les Modèles de Monde Causaux

Énoncé du Problème

Le papier traite de l'ambiguïté entourant le terme « Modèle de Monde » (World Model - WM) dans l'intelligence artificielle moderne. Bien que les WM soient largement cités comme fondamentaux pour les agents capables de planifier et d'agir au-delà de leur distribution d'entraînement, la littérature confond des engagements de modélisation distincts :

Prédicteurs : Modèles qui spécifient ce qui est susceptible de se produire ensuite (ex: prédicteurs de la prochaine observation).
Représentations : Modèles qui compressent des observations non structurées en variables structurées.
Modèles Causaux : Modèles qui spécifient des mécanismes permettant l'analyse interventionnelle.

Les approches actuelles traitent souvent les WM comme des boîtes noires non structurées (ex: Dreamer) ou supposent que les variables sont pré-spécifiées. Il existe un manque de cadre unifié reliant l'apprentissage de représentations causales (récupération de variables latentes à partir d'observations), la découverte causale (récupération des relations de cause à effet) et la prise de décision basée sur des modèles (utilisation de ces structures pour des comportements contrôlés). Le problème central est de définir comment transformer des observations brutes en un Modèle de Monde Causal (Causal World Model - CWM) capable de soutenir le raisonnement causal, l'intervention et l'analyse contrefactuelle, tout en clarifiant l'identifiabilité de ses composantes.

Méthodologie et Cadre Formel

Les auteurs proposent une définition formelle des CWM ancrée dans une progression par « Échelle Causale » (inspirée de la hiérarchie de Pearl) qui passe de la perception à la représentation, à la structure, et enfin à l'intervention.

1. Définition du Modèle de Monde Causal (CWM)

Le papier formalise un CWM non pas comme un prédicteur monolithique, mais comme un modèle de décision structuré défini par un tuple $\mathcal{W} = (\mathcal{X}, \mathcal{A}, \{\mathcal{R}_O\}_O, P, U)$ :

$\mathcal{X}$ : Espace d'observation (ex: pixels bruts).
$\mathcal{A}$ : Espace d'action.
$\mathcal{R}_O$ : Espace de variables latentes relationnelles pour un ensemble d'entités $O$ .
$P$ : Distributions de transition et de prédiction.
$U$ : Fonction d'utilité sur les actions et les états.

Le modèle opère via une factorisation spécifique de la distribution de décision à un pas :
$P(x_{t+1} | x_t, a_t) = \int P(x_{t+1} | r_{t+1}) P(r_{t+1} | r_t, a_t) P(r_t | x_t) \, dr_t dr_{t+1}$

Cette factorisation décompose le CWM en cinq composantes distinctes :

Modèle d'inférence ( $P(r_t | x_t)$ ) : Mappe les observations brutes $x_t$ $x_{t}$ vers des variables latentes indexées par entité $v_t$ $v_{t}$ , qui sont assemblées en un état relationnel structuré $r_t$ $r_{t}$ . Cela implique deux étapes :
- $\phi$ : Mappe $x_t$ vers les caractéristiques de l'entité $v_t$ .
- $\psi_O$ : Assemble $v_t$ en $r_t$ , où les blocs diagonaux représentent les attributs des entités et les blocs hors-diagonaux encodent les interactions entre entités.
Modèle de transition ( $P(r_{t+1} | r_t, a_t)$ ) : Modélise la dynamique de l'état relationnel étant donné une action.
Modèle d'action : Spécifie comment les actions influencent la transition.
Modèle de prédiction ( $P(x_{t+1} | r_{t+1})$ ) : Décode le prochain état relationnel vers les observations.
Fonction d'utilité ( $U$ ) : Évalue les actions et les états par rapport aux objectifs de l'agent.

2. Variables Relationnelles et Structure

Le papier introduit les Variables Relationnelles pour capturer à la fois les attributs des entités et les interactions. Pour un ensemble d'entités $O$ , l'état $r_t$ est composé de blocs $r_{i,j}^t$ :

Diagonale ( $i=j$ ) : Représente les attributs de l'entité $i$ ( $v_i^t$ ).
Hors-diagonale ( $i \neq j$ ) : Représente les interactions (ex: « le bloc A s'appuie sur le bloc B »), définies comme des fonctions $g_{i,j}(v_i^t, v_j^t)$ .

Cette structure permet au modèle de distinguer les propriétés intrinsèques des entités des mécanismes causaux qui régissent leurs interactions.

3. Analyse de l'Identifiabilité

Le papier soutient que l'« identifiabilité » pour les CWM doit être comprise par composante plutôt que comme une propriété globale unique. Il distingue :

Identifiabilité forte : $W_1 = W_2$ (récupération exacte des paramètres).
Identifiabilité à équivalence près : $W_1 \sim W_2$ (les modèles diffèrent uniquement par des transformations préservant le sens sémantique et l'utilité en aval).

Les auteurs définissent des équivalences admissibles pour chaque composante (Tableau 1 du papier) :

États latents ( $v_t$ ) : Identifiables à une transformation affine inversible près (permutation, mise à l'échelle, translation).
Blocs d'entités : Identifiables à une permutation des indices près.
Blocs relationnels : Identifiables à une permutation des indices et des transformations affines élément par élément près, à condition que la structure des interactions soit préservée.
Graphe causal ( $G_r$ ) : Identifiable à une Classe d'Équivalence de Markov (MEC) près.
Utilité ( $U$ ) : Doit être préservée sous la transformation $T$ appliquée à l'état.

Crucialement, le papier souligne les conditions de compatibilité : pour que les équivalences par composante produisent une garantie de politique valide, les transformations doivent commuter à travers l'ensemble du pipeline (encodeur, transition, décodeur et utilité). Les auteurs soutiennent que si l'encodeur et le décodeur satisfont une cohérence inverse locale et que le modèle de transition commute avec l'alignement d'état, alors les politiques résultantes seraient équivalentes. Cela établit les conditions théoriques sous lesquelles ces garanties tiennent, plutôt que de présenter une preuve empirique de garanties atteintes.

Contributions Clés

Définition Formelle des CWM : Le papier fournit une définition rigoureuse des Modèles de Monde Causaux en tant que processus de décision de Markov qui lient explicitement les observations, les représentations relationnelles latentes, les structures causales et l'utilité. Cela comble le fossé entre l'apprentissage de représentations, la découverte causale et la prise de décision.
Cadre d'Identifiabilité par Composante : Il établit que la « bonne » notion d'identifiabilité pour les CWM n'est pas la récupération exacte, mais la récupération à une équivalence près qui préserve la tâche de raisonnement en aval. Le papier détaille des classes d'équivalence spécifiques pour les états latents, les structures relationnelles et les fonctions d'utilité.
Décomposition Structurelle : Le travail clarifie les rôles distincts du modèle d'inférence (perception vers représentation), de la tâche de découverte causale (représentation vers structure) et du modèle de décision (structure vers intervention). Il souligne que ces éléments sont couplés mais constituent des problèmes distincts nécessitant des hypothèses différentes.
Clarification de la Suffisance Causale : Le papier énonce explicitement l'hypothèse de suffisance causale (absence de facteurs de confusion non observés) pour se concentrer sur l'identifiabilité de la structure latente, se distinguant ainsi des défis de l'apprentissage avec des facteurs de confusion non observés.

Résultats et Revendications

Le papier ne présente pas d'expériences empiriques ou de nouveaux algorithmes, mais offre une unification théorique et une clarification conceptuelle :

Résultat Théorique : Il démontre qu'un CWM peut être décomposé en composantes apprenables où chaque composante admet un type spécifique d'identifiabilité (ex: invariance par permutation pour les entités, équivalence de Markov pour les graphes).
Conditions de Garantie de Politique : Les auteurs montrent théoriquement que si les interfaces entre les composantes (encodeur, transition, décodeur, utilité) sont compatibles sous une transformation $T$ spécifique, alors les politiques optimales dérivées de différents CWM équivalents induisent des distributions de trajectoires alignées et produisent la même utilité cumulative attendue. Cela sert de condition pour le développement algorithmique futur plutôt que de résultat démontré.
Limites des Approches Actuelles : Le papier soutient que traiter les WM uniquement comme des modèles de transition ou de prédiction de la prochaine observation est insuffisant pour le raisonnement causal. Sans structures relationnelles explicites et découverte causale, les agents ne peuvent pas supporter de manière fiable l'analyse interventionnelle ou le raisonnement contrefactuel.

Signification

La principale importance de ce papier réside dans le passage de la perspective des Modèles de Monde de « prédicteurs boîte noire » à celle de « modèles de décision structurés ». En ancrant les WM dans l'apprentissage de représentations causales et la découverte causale, les auteurs fournissent une feuille de route pour construire des agents capables de :

Raisonner sur les interventions (que se passe-t-il si je fais X ?).
Effectuer un raisonnement contrefactuel (que se serait-il passé si j'avais fait Y ?).
Généraliser aux changements de distribution en comprenant les mécanismes causaux sous-jacents plutôt que de simples corrélations statistiques.

Ce travail clarifie que la construction de CWM robustes nécessite non seulement une meilleure prédiction, mais aussi une modélisation explicite des propriétés des entités, des interactions et des mécanismes causaux, avec des limites claires sur ce qui peut être appris à partir des données par rapport à ce qui nécessite des hypothèses structurelles ou des connaissances du domaine.