💬 NLP

How Causal Abstraction Underpins Computational Explanation

Cet article soutient que la théorie de l'abstraction causale offre un cadre robuste pour comprendre comment les systèmes implémentent des calculs sur des représentations, en reliant particulièrement des thèmes philosophiques classiques de la cognition avec l'apprentissage profond contemporain à travers les prismes de la généralisation et de la prédiction.

Auteurs originaux : Atticus Geiger, Jacqueline Harding, Thomas Icard

Publié 2026-07-10

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Atticus Geiger, Jacqueline Harding, Thomas Icard

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous possédez une machine super complexe, comme un cerveau géant et bourdonnant composé de milliards de minuscules interrupteurs. Maintenant, imaginez que vous vouliez expliquer comment cette machine pense. Vous pourriez essayer de décrire chaque basculement d'interrupteur, mais c'est trop désordonné. À la place, vous voudriez dire : « Oh, cette partie de la machine est en train de résoudre un problème de mathématiques ! » ou « Cette partie est en train de vérifier si deux choses sont identiques ! »

Mais voici la partie délicate : comment savoir si la machine est réellement en train de faire ce problème de mathématiques, ou si elle se contente de faire basculer les interrupteurs d'une manière qui ressemble à des mathématiques ?

Ce papier d'Atticus Geiger, Jacqueline Harding et Thomas Icard est comme un guide de détective pour résoudre ce mystère. Ils soutiennent que pour comprendre véritablement comment un système (comme un cerveau ou une IA) implémente un calcul, nous devons regarder la causalité — plus précisément, comment le changement d'une partie de la machine modifie le résultat.

Le test du « Et si ? »

Les auteurs suggèrent d'utiliser un type spécial de test appelé abstraction causale. Voyez cela comme un jeu de « Et si ? ».

Imaginez que vous avez un système de bas niveau (la machine désordonnée) et une idée de haut niveau (le problème de mathématiques propre). Pour voir si la machine fait réellement les mathématiques, vous devez poser la question : « Si je force cette partie spécifique de la machine à agir d'une certaine manière, est-ce que l'ensemble du système se comporte exactement comme le problème de mathématiques le prédit ? »

Si vous pouvez remplacer un morceau de la machine désordonnée par un interrupteur simple, et que le reste de la machine fonctionne toujours parfaitement selon les règles mathématiques, alors vous avez trouvé une abstraction causale. C'est comme prouver qu'un personnage de jeu vidéo complexe est en réalité piloté par un script simple sous tous ses graphismes sophistiqués.

Le tournant de la « Traduction »

C'est ici que cela devient vraiment passionnant. Les auteurs ont découvert que, parfois, la machine désordonnée ne ressemble pas du tout au problème de mathématiques propre. Les parties peuvent être mélangées ou entremêlées de manière étrange.

Ils soutiennent qu'avant de pouvoir faire correspondre la machine aux mathématiques, vous devrez peut-être d'abord la traduire. Imaginez que vous avez un code secret où les lettres sont brouillées. Vous ne pouvez pas simplement lire le message ; vous devez d'abord le déchiffrer. Dans leur vision, vous devrez peut-être faire pivoter ou réorganiser les signaux internes de la machine (comme tourner un cadran) pour révéler la structure cachée. Une fois que vous avez effectué cette « traduction », vous pouvez alors regrouper les parties pour voir le problème mathématique simple qui se cache à l'intérieur.

Ils appellent tout ce processus « L'implémentation comme abstraction sous traduction ». Cela signifie : La machine implémente les mathématiques si, après avoir traduit son langage interne, nous pouvons voir que les mathématiques ne sont qu'une version simplifiée du comportement de la machine.

Le piège du « Trop facile »

Maintenant, voici le grand avertissement. Les auteurs montrent que si vous êtes trop laxiste avec vos règles, vous pouvez vous tromper vous-même. Ils soulignent que si vous autorisez n'importe quelle traduction étrange et compliquée, vous pourriez probablement prouver que n'importe quelle machine fait n'importe quel calcul mathématique.

C'est comme dire : « Si je réarrange les lettres de cette phrase suffisamment de fois, je peux faire en sorte qu'elle dise "J'aime la pizza" ! » Certes, techniquement, vous pourriez le faire, mais cela ne signifie pas que la phrase parlait réellement de pizza. Les auteurs soutiennent que bien que ce jumelage « trivial » soit mathématiquement possible, il n'est pas très utile pour comprendre comment la machine fonctionne réellement. Ils suggèrent que nous avons besoin de règles plus strictes pour garantir que l'explication est réellement significative.

Pourquoi est-ce important ?

Le papier suggère que le vrai test d'une bonne explication n'est pas seulement si elle correspond aux données que nous avons déjà vues. Le vrai test est la généralisation.

Imaginez qu'un enfant apprenne à dire si deux visages sont les mêmes. S'il comprend réellement le concept, il devrait être capable de dire si deux flèches pointent dans la même direction, ou si deux sons ont la même hauteur. Si votre explication du fonctionnement du cerveau de l'enfant ne fonctionne que pour le test des « visages » mais échoue lorsque vous passez aux « flèches », alors votre explication est probablement fausse.

Les auteurs soutiennent qu'une bonne explication computationnelle doit nous aider à prédire comment le système se comportera dans de nouvelles situations inconnues. Si la « traduction » que nous utilisons pour faire correspondre la machine aux mathématiques est trop bizarre ou trop spécifique, elle ne nous aidera pas à prédire l'avenir. Mais si la traduction est naturelle (comme une simple rotation ou un décalage linéaire), cela suggère que le système a véritablement appris la règle sous-jacente.

Ce qu'ils ne disent pas

Le papier prend soin de ne pas dire que nous avons résolu le mystère du cerveau ou que nous avons trouvé la méthode parfaite pour lire les pensées de l'IA. Ils ne prétendent pas que chaque réseau neuronal est un calculateur parfait. En fait, ils montrent que pour certains réseaux, la « traduction » nécessaire pour trouver les mathématiques est si complexe et étrange qu'elle pourrait ne pas être une explication utile du tout.

Ils ne disent pas non plus que nous savons exactement quelles parties du cerveau représentent la « similitude ». Au lieu de cela, ils fournissent un cadre pour savoir comment nous pourrions le découvrir en testant si le changement de ces parties modifie le résultat de manière prévisible.

L'essentiel

En résumé, ce papier nous donne une nouvelle paire de lunettes pour observer comment les machines et les cerveaux calculent. Il dit : « Ne regardez pas seulement la surface. Demandez-vous : "Et si je changeais cela ?" Si la réponse correspond à une règle mathématique simple et propre — même si vous devez d'abord réorganiser les pièces — alors vous avez peut-être trouvé une véritable explication. Mais attention à ne pas forcer les pièces à s'ajuster juste pour faire fonctionner les mathématiques, sinon vous finirez avec une histoire qui semble bonne mais qui ne vous apprend rien sur la façon dont la machine pense réellement. »

C'est un appel à la rigueur, à la recherche des connexions de type « Et si ? », et à s'assurer que nos explications peuvent gérer les surprises du monde réel.

Résumé technique : Comment l'abstraction causale sous-tend l'explication computationnelle

1. Énoncé du problème

Le papier traite du problème fondamental de l'implémentation computationnelle : quelles conditions un système physique (tel qu'un cerveau ou un réseau de neurones) doit-il satisfaire pour que l'on puisse dire qu'il « implémente » un modèle computationnel spécifique sur des représentations internes ?

Bien que les sciences cognitives postulent souvent que le comportement intelligent provient de calculs sur des représentations internes, les critères permettant à un système physique d'instancier un tel calcul restent litigieux. Les tentatives précoces visant à définir l'implémentation via une simple correspondance d'états ont conduit à des « arguments de trivialité » (par exemple, Putnam, Searle), suggérant que presque n'importe quel système physique pourrait implémenter n'importe quel calcul sous des contraintes lâches. Des propositions plus strictes, telles que les Automates à États Combinatoires (CSA) de Chalmers, exigent un isomorphisme entre la structure causale du système physique et le modèle computationnel. Cependant, ces comptes rendent souvent difficile l'intégration de systèmes modernes complexes comme les réseaux de neurones profonds, où l'information est distribuée et les représentations ne sont pas immédiatement transparentes. Les auteurs soutiennent que les cadres existants manquent de précision pour traiter la relation entre la dynamique physique de bas niveau et les descriptions algorithmiques de haut niveau, particulièrement en ce qui concerne le rôle de la représentation et de la généralisation.

2. Méthodologie

Les auteurs emploient un cadre fondé sur la modélisation causale interventionniste et la théorie de l'abstraction causale.

Les modèles causaux comme base : Les auteurs traitent à la fois le système physique ( $L$ ) et le modèle computationnel ( $H$ ) comme des modèles causaux. Un modèle causal $M$ est défini par une paire $\langle V, F \rangle$ , où $V$ est un ensemble de variables et $F$ est un ensemble de mécanismes fonctionnels déterminant les valeurs des variables en fonction des variables parentes.
Cadre interventionniste : Suivant Woodward (2003), la causalité est comprise à travers les interventions. Les auteurs définissent les interventionnels comme des opérations sur les modèles (par exemple, des interventions fortes qui fixent les variables à des valeurs spécifiques ou remplacent des mécanismes). Un ensemble d'interventionnels forme une algèbre d'intervention s'ils satisfont des propriétés de modularité (par exemple, les interventions peuvent être effectuées dans n'importe quel ordre sans affecter les résultats).
Transformation exacte : L'outil technique central est le concept de transformation exacte, une paire de fonctions $(\tau, \omega)$ où $\tau$ projette les valeurs des variables de bas niveau vers les valeurs de haut niveau, et $\omega$ projette les interventionnels de bas niveau vers les interventionnels de haut niveau. Une transformation exacte est vérifiée si le résultat d'une intervention sur le système de bas niveau et la traduction du résultat est identique à la traduction de l'état de bas niveau et l'intervention sur le modèle de haut niveau : $\tau(\text{Run}(L_i)) = \text{Run}(H_{\omega(i)})$ .
Types d'abstraction :
- Abstraction constructive : Un modèle obtenu en partitionnant les variables de bas niveau en ensembles et en les projetant vers des variables de haut niveau, ignorant certaines distinctions de bas niveau tout en préservant la cohérence causale.
- Traduction : Un recadrage bijectif de l'espace des variables (par exemple, la rotation d'un espace vectoriel) qui préserve la structure causale mais modifie les définitions des variables.
- Abstraction sous traduction : Les auteurs proposent qu'un système $L$ implémente un calcul $H$ si $H$ est une abstraction constructive d'une traduction de $L$ . Cela permet au système de bas niveau d'être réinterprété (traduit) avant d'être abstrait vers l'algorithme de haut niveau.

3. Contributions clés

A. Un compte rendu formel de l'implémentation

Le papier propose l'Implémentation comme Abstraction sous Traduction. Ce cadre pose que pour qu'un système implémente un calcul, le modèle computationnel doit être une abstraction constructive d'une traduction du modèle causal du système. Cette formulation :

Généralise les comptes rendus précédents basés sur l'isomorphisme (comme le CSA de Chalmers) en permettant des re-mappages non triviaux (translations) des variables de bas niveau.
Fournit une définition mathématique rigoureuse de « refléter la structure causale » qui accommode les encodages distribués et chevauchants trouvés dans les réseaux de neurones.

B. Intégration de la représentation et de la causalité

Les auteurs soutiennent que le contenu représentationnel dans les explications computationnelles est lié au rôle causal des variables au sein du modèle abstrait.

Ils appliquent les critères standards de représentation (Information, Usage, Méreprésentation) aux variables du modèle causal de haut niveau.
Ils démontrent que sous l'abstraction sous traduction, les « véhicules » de la représentation dans le système de bas niveau peuvent ne pas être des neurones individuels ou de simples clusters, mais plutôt des ensembles complexes de points dans l'espace d'états ou des opérations interventionnelles spécifiques (par exemple, des remplacements de fonctions spécifiques) qui induisent l'état de haut niveau.
Cela recadre la représentation comme une propriété du mappage entre le système et l'algorithme, plutôt que comme une propriété intrinsèque du substrat physique seul.

C. Traitement de la trivialité et de la généralisation

Le papier s'engage avec les récents résultats de « trivialité » (par exemple, Sutter et al., 2025) qui suggèrent que, sans contraintes sur la classe de translations autorisées ( $C$ ), n'importe quel réseau de neurones peut implémenter n'importe quel algorithme.

Les auteurs reconnaissent que si la classe de translations $C$ n'est pas contrainte, la trivialité est effective.
Cependant, ils soutiennent que la valeur explicative d'une affirmation computationnelle dépend de sa capacité à soutenir la généralisation et la prédiction.
Ils soutiennent que bien qu'une translation « gerrymandrée » (manipulée) puisse techniquement satisfaire la définition de l'implémentation, elle échoue en tant que bonne explication si elle ne peut pas prédire le comportement sur des entrées hors distribution ou de nouvelles variations de tâches.
Par conséquent, le choix des translations admissibles ( $C$ ) devrait être contraint par l'objectif d'expliquer la compétence (généralisation) de l'agent plutôt que de simplement ajuster un mappage entrée-sortie spécifique.

4. Résultats et illustrations

Le papier illustre ces concepts à travers plusieurs exemples :

Le circuit XNOR : Un circuit logique simple (haut niveau) est montré comme étant une abstraction constructive d'un petit réseau de neurones feedforward (bas niveau).
Nécessité de la traduction : Les auteurs montrent que pour de nombreux réseaux de neurones, une abstraction constructive directe est impossible en raison des représentations distribuées. Cependant, l'application d'une translation linéaire (par exemple, la rotation de l'espace vectoriel des unités cachées) révèle la structure causale sous-jacente, permettant de récupérer l'algorithme de haut niveau. Cela soutient l'hypothèse en interprétabilité mécaniste selon laquelle les sorties linéaires suffisent souvent à identifier les variables causales.
Tâche d'égalité hiérarchique : Le papier discute de la tâche consistant à déterminer si deux paires d'objets partagent la même relation (par exemple, « même » vs « différent »). Ils montrent que bien que les réseaux de neurones puissent résoudre cela, l'identification de l'implémentation de l'algorithme symbolique nécessite de permettre la traduction avant l'abstraction.
Méreprésentation : Le cadre permet l'analyse de la méreprésentation. Si un système de bas niveau approxime un modèle de haut niveau mais échoue sur des entrées spécifiques, le système peut être dit méreprésenter l'entrée par rapport à l'algorithme idéalisé, à condition que l'abstraction soit jugée « apte » pour expliquer le comportement de généralisation du système.

5. Signification et affirmations

Les auteurs affirment que leur cadre fournit un prisme fructueux pour comprendre l'explication computationnelle tant en sciences cognitives qu'en apprentissage automatique.

Clarification de l'implémentation : Le papier soutient que l'« implémentation » n'est pas un fait binaire et absolif, mais une relation qui dépend de la classe de translations choisie et des objectifs explicatifs. Il comble le fossé entre les exigences d'« isomorphisme » de la philosophie de l'esprit classique et les découvertes de l'apprentissage profond moderne sur les structures linéaires et distribuées.
Rôle de la généralisation : Une affirmation centrale est que la validité d'une explication computationnelle est inextricablement liée à la généralisation. Une affirmation d'implémentation est la plus « profitable » lorsqu'elle permet de prédire comment un agent se comportera sur de nouvelles tâches ou sous de nouvelles conditions. Si un mappage du système vers l'algorithme est trop complexe ou « gerrymandré » pour soutenir de telles prédictions, il peut techniquement satisfaire une définition minimale d'implémentation mais échouer en tant qu'explication profonde.
La représentation comme rôle causal : Le papier suggère que le contenu représentationnel est mieux compris à travers le rôle causal qu'une variable joue dans une abstraction de haut niveau. Cependant, ce rôle n'est significatif que si l'abstraction capture la capacité du système à généraliser, et non seulement sa performance sur un jeu de données fixe.

Les auteurs concluent que bien que l'abstraction causale fournisse un fondement rigoureux pour définir l'implémentation, la sélection de quelles abstractions sont explicatives nécessite des contraintes supplémentaires, probablement liées aux mécanismes d'apprentissage spécifiques et aux capacités de généralisation des systèmes étudiés (biologiques ou artificiels). Ils ne prétendent pas avoir résolu entièrement le problème de la représentation, mais offrent un cadre causal précis au sein duquel ces débats peuvent se poursuivre de manière productive.