💻 computer science

Do-Calculus Interventions in Predictive Coding Networks: Formal Correspondence, Empirical Validation, and Architectural Prescriptions for Clinical Causal AI

Cet article établit une correspondance formelle entre la dynamique des réseaux de codage prédictif et le do-calculus de Pearl, démontrant, par une dérivation théorique et une validation empirique sur des références cliniques, que des interventions architecturales spécifiques permettent à ces réseaux d'effectuer avec précision un raisonnement causal et de surpasser les modèles associatifs standards dans l'estimation des effets interventionnels.

Auteurs originaux : Hassan Farooq

Publié 2026-07-07

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Hassan Farooq

Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

L'idée principale : Prédire vs Agir

Imaginez que vous êtes un médecin essayant d'apprendre à traiter des patients.

L'IA standard (l'« Observateur ») : Cette IA est comme un étudiant qui ne fait qu'observer le monde. Elle voit que les patients qui prennent le Médicament A guérissent généralement. Elle apprend le schéma : Médicament A = Bon résultat. Mais elle ne comprend pas pourquoi. Si vous lui demandez : « Que se passe-t-il si nous forçons un patient à prendre le Médicament A ? », elle pourrait être confuse car elle n'a jamais vu de situation où le médecin a forcé l'administration du médicament ; elle a seulement vu des patients qui l'ont choisi ou qui se le sont vu prescrit en fonction de leurs symptômes spécifiques.
La nouvelle IA (l'« Intervenant ») : Ce papier présente un nouveau type d'IA basé sur le Codage Prédictif (Predictive Coding). Considérez cette IA comme un scientifique qui construit un modèle mental du fonctionnement du monde. Elle ne se contente pas de mémoriser des schémas ; elle simule la relation de cause à effet.

La question posée par le papier est : Cette IA « scientifique » peut-elle réellement répondre mieux aux questions de type « Et si ? » (interventions) que l'IA « observatrice » ?

Le mécanisme central : L'astuce du « Clampage et de la Coupe » (Clamp and Cut)

Le papier propose une astuce spécifique pour faire réfléchir l'IA comme un scientifique.

La configuration : Imaginez que l'IA possède un réseau d'idées connectées comme un arbre généalogique. Les idées supérieures (comme la « Génétique ») influencent les idées du milieu (comme les « Symptômes »), qui influencent les idées inférieures (comme le « Traitement »).
Le problème : Dans la vie normale, si vous voyez un symptôme, votre cerveau met à jour son hypothèse sur la cause. Si vous voyez un traitement, votre cerveau met à jour son hypothèse sur la cause.
L'astuce (le calcul Do-calculus) : Pour simeler une intervention (comme forcer un patient à prendre un médicament), le papier stipule qu'il faut faire deux choses :
- Clamper (Clamp) : Verrouiller le nœud « Traitement » sur une valeur spécifique (ex: « Prendre le Médicament A »).
- Couper (Cut) : Sectionner la connexion entre les « Symptômes » et le « Traitement ».

L'analogie :
Imaginez un spectacle de marionnettes.

IA Normale : Le marionnettiste (Symptômes) tire les fils, et la marionnette (Traitement) bouge. Le mouvement de la marionnette indique au public ce que fait le marionnettiste.
IA Interventionnelle : Vous saisissez le bras de la marionnette et vous le forcez à agiter (Clampage). Ensuite, vous coupez le fil reliant le bras de la marionnette à la main du marionnettiste (Coupe). Maintenant, la marionnette agite le bras, mais ce n'est pas parce que le marionnettiste a bougé. L'IA réalise : « La marionnette agite le bras, mais ce n'est pas à cause du signal du marionnettiste. C'est parce que je l'ai forcée. »

Le papier prouve mathématiquement (Proposition 1) que si l'on applique ce « Clampage et cette Coupe » dans leur architecture d'IA spécifique, cela imite parfaitement la définition mathématique d'une intervention (l'opérateur do de Pearl).

Les expériences : Est-ce que cela fonctionne vraiment ?

Les auteurs ont testé cela sur trois scénarios différents :

1. Le test de jouet (La « Preuve de concept »)
Ils ont construit un monde minuscule et simple avec trois nœuds : Diagnostic → Symptôme → Traitement.

Résultat : Lorsqu'ils ont forcé la présence du « Symptôme » et coupé la connexion avec le « Diagnostic », l'IA a correctement ignoré le lien habituel entre les symptômes et le diagnostic. Cela a prouvé que les mathématiques fonctionnent exactement comme prévu dans un environnement simple et contrôlé.

2. Le test en conditions réelles (Le jeu de données « Santé des nourrissons »)
Ils ont utilisé un ensemble de données sur la santé infantile (IHDP) pour voir si l'IA pouvait prédire ce qui se passerait si un bébé recevait un traitement spécifique, même si les données d'entraînement ne montraient que ce qui s'est réellement passé.

Le concurrent : Une IA standard (MLP) qui se contente de mémoriser des schémas.
Le résultat : L'IA standard commettait de grosses erreurs lorsqu'on lui posait des questions de type « Et si ? ». La nouvelle IA de Codage Prédictif faisait nettement moins d'erreurs.
Le bémol : La nouvelle IA était en fait moins bonne pour prédire ce qui s'est passé dans le passé (données observationnelles) que l'IA standard. Cependant, elle était bien meilleure pour prédire le futur sous de nouvelles conditions.
La leçon : Être bon pour mémoriser le passé ne signifie pas être bon pour prédire le futur si les règles changent.

3. La « Recette secrète » (Études d'ablation)
Les auteurs ont tenté de comprendre pourquoi la nouvelle IA fonctionnait mieux. Ils ont identifié un facteur principal : la Dimension Latente (considérez cela comme la « taille de la mémoire à court terme » de l'IA).

Petite mémoire (Bien) : Si la mémoire de l'IA est petite, elle ne peut pas mémoriser tous les détails désordonnés et confus du passé. Elle est contrainte d'apprendre les règles simples de cause à effet. Cela l'a rendue excellente pour les interventions.
Grande mémoire (Mal) : Si la mémoire est immense, l'IA mémorise chaque coïncidence et chaque détail. Elle est confuse lorsque les règles changent.
Analogie : Un étudiant avec un petit carnet est obligé de ne noter que les lois les plus importantes de la physique. Un étudiant avec un énorme manuel de cours peut essayer de mémoriser chaque exemple spécifique, ce qui le perd face à un nouveau problème.

4. Le test hospitalier (MIMIC-IV)
Ils ont testé cela sur des données réelles de réanimation (MIMIC-IV) concernant les unités de soins intensifs de haute intensité.

Le problème : Dans ce petit jeu de données, l'IA avait du mal car le « traitement » n'était pas explicitement connecté à l'« issue » (résultat) dans sa conception.
La solution : Ils ont créé PCNetworkV3, qui donne à l'IA un « câblage » direct du Traitement vers l'Issue, contournant le goulot d'étranglement de la mémoire.
Résultat : Cette version a réussi à calculer le véritable effet du traitement (Effet de Traitement Moyen) avec seulement 8,3 % d'erreur, alors que la version précédente échouait complètement.

Résumé des conclusions

La théorie : On peut transformer un réseau de Codage Prédictif en une machine de raisonnement causal en « clampant » une variable et en « coupant » ses signaux d'erreur entrants.
La preuve : Cela fonctionne parfaitement dans des modèles mathématiques simples et nettement mieux que l'IA standard sur des données réelles lorsqu'il s'agit de prédire des scénarios de type « Et si ? ».
La règle de conception : Pour qu'une IA soit bonne en raisonnement causal, il ne faut pas la rendre aussi grande que possible. Il faut garder sa « mémoire » (dimension latente) suffisamment petite pour qu'elle soit forcée d'apprendre les règles du monde plutôt que de simplement mémoriser les exemples.
L'architecture : Pour les données cliniques, l'IA a besoin d'un chemin direct du « Traitement » vers l'« Issue » pour fonctionner correctement sur de petits ensembles de données.

Ce que le papier ne prétend PAS :

Il ne prétend pas que cette IA est prête à traiter des patients dès demain.
Il ne prétend pas que cela fonctionne pour tous les types de données médicales (comme les images ou les séries temporelles) pour le moment.
Il ne prétend pas que c'est la seule façon de faire de l'IA causale, mais simplement que cette architecture spécifique inspirée de la biologie possède un avantage unique.

En bref, le papier montre qu'en construisant une IA qui imite la façon dont le cerveau prédit les erreurs, et en la forçant à « ignorer » certains inputs lors des tests, nous pouvons créer une machine capable de répondre de manière étonnante aux questions du type « Que se passerait-il si nous changions ceci ? », à condition de garder sa mémoire interne petite et focalisée.

Résumé Technique : Interventions par le calcul do-calculus dans les réseaux de codage prédictif

Énoncé du Problème
Les systèmes d'aide à la décision clinique nécessitent de plus en plus une IA capable de raisonner sur les conséquences des actions (interventions) plutôt que de simplement prédire des résultats à partir de motifs observationnels historiques. Les modèles prédictifs standards entraînés sur des dossiers de santé électroniques (DSE) échouent souvent lors d'un déploiement prospectif lorsque les politiques de traitement diffèrent des données d'entraînement, créant un décalage de distribution entre la distribution conditionnelle observationnelle $P(Y|X)$ et la distribution interventionnelle $P(Y|do(T=t))$. Bien que le do-calculus de Pearl fournisse un cadre formel pour ce type de raisonnement, la plupart des méthodes d'apprentissage automatique causal traitent le raisonnement interventionnel comme un problème d'estimation post-hoc superposé à des architectures dépourvues de mécanismes internes de représentation des interventions. Il reste à tester si des architectures neuronales spécifiques, telles que les réseaux de Codage Prédictif (PC), peuvent supporter nativement le raisonnement interventionnel via leurs dynamiques internes.

Méthodologie
L'article propose et valide une correspondance formelle entre la dynamique des réseaux de Codage Prédictif et le do-calculus de Pearl.

Cadre Théorique : Les auteurs dérivent la Proposition 1, qui pose que dans un Modèle Structurel Causal (SCM) linéaire-gaussien, le « blocage dur » (hard clamping) d'un nœud PC (fixer son état à une valeur $c$ ) combiné à la suppression de l'erreur de prédiction ascendante (bottom-up) est informationnellement équivalent à l'opérateur $do(T=c)$. Cette suppression coupe la voie d'information du nœud bloqué vers ses ancêtres, imitant la chirurgie de graphe de l'opérateur $do$.
Architectures :
- PCNetworkV2 : Implémente la Proposition 1 en utilisant une représentation latente partagée $z$ qui décode les covariables et les résultats. La prédiction interventionnelle implique de bloquer la caractéristique de traitement et de mettre à zéro la colonne de reconstruction de l'erreur correspondante avant de calculer les gradients latents.
- PCNetworkV3 : Une modification où le décodeur de résultat reçoit un accès direct à la variable de traitement aux côtés de la représentation latente, conçue pour gérer les graphes cliniques où le traitement possède un lien direct vers le résultat.
- Baseline : Un Perceptron Multicouche (MLP) standard entraîné avec une perte MSE sert de référence associationnelle.
Benchmarks :
- SCM Jouet : Un SCM linéaire-gaussien à trois nœuds (Diagnostic $\to$ Symptôme $\to$ Traitement) pour valider la correspondance mathématique exacte.
- IHDP (Infant Health and Development Program) : Un benchmark semi-synthétique ( $n=747$ ) avec une structure de covariables réelle et des résultats contrefactuels reconstruits pour mesurer l'« écart interventionnel » (différence entre l'erreur absolue moyenne observationnelle et interventionnelle).
- SCM Synthétiques : Utilisés pour les études d'ablation à travers diverses topologies (Chaîne, Médiateur, Collisionneur) et des forces de confusion variables.
- MIMIC-IV : Un benchmark semi-synthétique à petit échantillon ( $n=140$ ) utilisant la structure de covariables réelle d'une unité de soins intensifs pour tester la récupération de l'Effet de Traitement Moyen (ATE).

Principales Contributions
L'article présente trois contributions principales :

Théorique : Dérivation et validation de la Proposition 1, établissant que le blocage PC avec suppression d'erreur implémente exactement l'opérateur $do$ dans les SCM linéaires-gaussiens.
Empirique : Démonstration que le PCNetworkV2 atteint une réduction statistiquement significative de l'écart de performance interventionnelle par rapport à la baseline MLP sur l'ensemble de données IHDP (réduction de l'écart = 0,237 unité de MAE, $p < 0,0001$ ). Cet avantage se généralise à travers les topologies de Chaîne, de Médiateur et de Collisionneur.
Prescriptive : Identification de la dimension latente comme le principal déterminant architectural de l'avantage interventionnel. Les études d'ablation montrent que des dimensions latentes plus petites préservent le biais inductif causal en empêchant le modèle de mémoriser des associations observationnelles spécieuses. De plus, il est démontré que le PCNetworkV3 récupère le véritable ATE avec une erreur de 8,3 % sur les données MIMIC-IV en routant explicitement le traitement vers le décodeur de résultat.

Résultats

Validation de la Proposition 1 : Sur le SCM jouet, le blocage de $S=1$ avec suppression d'erreur a correctement reproduit la distribution a priori $P(D|do(S=1)) = N(0,1)$, tandis que le conditionnement standard a produit une distribution a posteriori incorrecte ( $E[D|S=1] \approx 0,640$ ).
Écart Interventionnel : La baseline MLP a présenté un large écart interventionnel (3,215 unités de MAE) sur l'IHDP. Le PCNetworkV2 a réduit cet écart de 0,237 unité. Bien que le PCNetworkV2 présente une MAE observationnelle plus élevée que le MLP (0,461 contre 0,106), sa structure causale architecturale fournit un bénéfice mesurable dans les contextes interventionnels.
Résultats d'Ablation :
- Dimension Latente : L'avantage interventionnel est non monotone avec la taille latente ; des dimensions plus petites ( $d_z=4$ ) ont surpassé les plus grandes ( $d_z=32$ ) car elles forçaient le modèle à encoder une représentation causale compressée plutôt que des corrélations spécieuses.
- Topologie : L'avantage était plus prononcé dans les structures de Collisionneur, où le mécanisme de blocage causal opère avec une interférence minimale des voies de confusion.
- Fraction d'Entraînement : Une petite fraction de données d'entraînement interventionnelles (5-10 %) a amélioré la performance, mais des fractions plus élevées (25 %) ont perturbé l'optimisation latente.
Application Clinique (MIMIC-IV) : Le PCNetworkV3 a récupéré le véritable ATE (1,0) avec une erreur de 8,3 %, alors que le PCNetworkV2 a échoué (100 % d'erreur) en raison de la dégénérescence interventionnelle sans le chemin explicite traitement-résultat. Le MLP a atteint une estimation de l'ATE quasi parfaite (1,5 % d'erreur) via l'extrapolation associationnelle, soulignant que l'estimation de l'ATE et la MAE interventionnelle sont des métriques distinctes.

Signification et Revendications
L'article affirme que le mécanisme biologique du codage prédictif — spécifiquement la séparation des prédictions descendantes (top-down) et des mises à jour d'erreurs ascendantes (bottom-up) — fournit un substrat naturel pour le raisonnement causal. La conclusion clé est que la structure causale architecturale (blocage + suppression d'erreur) confère un véritable avantage interventionnel mesurable par rapport aux modèles associationnels standards, même sans données d'entraînement interventionnelles explicites.

Les auteurs concluent modestement que, bien que les réseaux de codage prédictif ne soient pas définitivement établis comme l'architecture la seule ou la meilleure pour l'IA causale clinique, le mécanisme biologique sur lequel ils sont construits possède un « usage imprévu » en tant que moteur de raisonnement causal. Le travail suggère que pour la généralisation interventionnelle, la capacité latente doit être traitée comme un « hyperparamètre causal » (favorisant souvent de plus petites dimensions) plutôt que comme un bouton de réglage de capacité à maximiser. Les conclusions sont actuellement limitées aux SCM linéaires-gaussiens théoriquement et à des ensembles de données cliniques tabulaires de taille modeste empiriquement, des travaux futurs étant nécessaires pour valider ces affirmations dans des contextes non linéaires, à forte confusion et à plus grande échelle.

L'idée principale : Prédire vs Agir

Le mécanisme central : L'astuce du « Clampage et de la Coupe » (Clamp and Cut)

Les expériences : Est-ce que cela fonctionne vraiment ?

Résumé des conclusions

Articles similaires