🤖 AI

Formalizing and falsifying causal pathways of rare events

Cet article propose une définition formelle et des implications testables pour les voies causales d'événements rares au sein des modèles d'équations structurelles, introduisant une abstraction causale qui fait le pont entre les explications verbales et la modélisation détaillée en se concentrant sur les conditions spécifiques aux voies plutôt que sur le graphe complet du système.

Auteurs originaux : Anahita Haghighat, Dominik Janzing

Publié 2026-06-01

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Anahita Haghighat, Dominik Janzing

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes un détective essayant de résoudre un mystère : Pourquoi quelque chose de rare et d'inattendu est-il arrivé ?

Peut-être s'agit-il d'un krach boursier, d'une panne soudaine de machine, ou d'une personne devenant sans abri. Habituellement, quand nous essayons d'expliquer ces événements, nous désignons une seule « cause racine » (comme « la machine s'est cassée parce qu'un boulon a lâché »). Mais les auteurs de cet article soutiennent que pointer du doigt le boulon cassé ne suffit pas. Nous devons comprendre toute la chaîne d'événements qui a mené au désastre, et nous avons besoin d'un moyen de prouver que notre récit est réellement vrai et non une simple supposition.

Voici une décomposition simple de leurs idées en utilisant des analogies de la vie quotidienne.

1. Le Problème : La « Chaîne Cassée » vs la « Chaîne Entière »

Considérez un événement rare comme une tour de dominos qui vient de s'effondrer.

L'approche ancienne : La plupart des scientifiques se contentent de désigner le premier domino qui a été poussé (la cause racine) et disent : « C'est pour cela qu'elle est tombée. »
La vision de l'article : Les auteurs disent : « Ce n'est pas une explication complète. » Ce n'est pas parce que le premier domino est tombé que toute la tour devait forcément tomber. Peut-être que les dominos du milieu étaient bancals, ou peut-être que la table tremblait. Pour vraiment expliquer l'événement, il faut décrire le chemin spécifique que l'énergie a emprunté, du début jusqu'à la fin.

Ils appellent cela un « Chemin Causal » (Causal Pathway). Ce n'est pas seulement le point de départ ; c'est l'itinéraire spécifique emprunté par la « mauvaise nouvelle » pour arriver au désastre final.

2. La Solution : Un « Carnet de Notes » pour les explications

Comment savoir si l'histoire de quelqu'un sur le pourquoi de quelque chose est bonne ? Les auteurs ont créé un carnet de notes mathématique (appelé « Score d'Explication »).

Imaginez que vous racontez une histoire à un jury : « La maison a brûlé parce que l'enfant a laissé une bougie sur la table. »

Le carnet de notes demande : Si nous remontons le temps et que nous forçons cet enfant à laisser la bougie sur la table, quelle est la probabilité que la maison brûle ?
Les mathématiques : Ils comparent deux chiffres :
1. À quel point l'incendie était-il rare au départ ? (ex. 1 sur un million).
2. Quelle est la probabilité de l'incendie si nous savons que la bougie a été laissée sur la table ? (ex. 1 sur 10).
Le résultat : Si le second chiffre est beaucoup plus élevé que le premier, votre explication obtient un score élevé. Si l'incendie était toujours extrêmement improbable même avec la bougie, votre explication obtient un score faible (voire un score négatif, ce qui signifie que votre histoire rend en fait l'incendie moins probable !).

Ce carnet de notes nous aide à falsifier les mauvaises explications. Si votre histoire obtient un score faible, les mathématiques prouvent que votre histoire est faible, même si elle semble logique.

3. L'Astuce : Transformer la réalité complexe en questions simples de type « Oui/Non »

La vie réelle est désordonnée. Les variables sont continues (la température est de 22,4 °C, pas seulement « chaude » ou « froide »). Mais pour faire les calculs, les auteurs transforment tout en Variables Binaires simples (Oui/Non, 1/0).

L'analogie : Imaginez que vous décrivez une tempête. Au lieu de dire « Le vent soufflait à 105 km/h », vous dites « Le vent était Fort (Oui) ». Au lieu de dire « La pluie était de 5 cm », vous dites « La pluie était Intense (Oui) ».
La « Monotonie des Caractéristiques » (Feature Monotonicity) : Ils s'assurent que si le vent devient plus fort, le drapeau « Fort » reste à « Oui ». Ils ne veulent pas d'une situation où un vent plus fort ferait soudainement basculer le drapeau « Fort » à « Non ». Cela permet de garder l'histoire logique.

En simplifiant le monde en ces compartiments « Oui/Non », ils peuvent construire une carte claire (un chemin) de la manière dont un « Oui » mène à un autre « Oui » jusqu'à ce que le désastre final se produise.

4. Le Problème du « Contexte » : Pourquoi le milieu importe

Parfois, la cause racine ne suffit pas. Il faut le contexte.

L'analogie : Imaginez un accident de voiture.
- Cause racine : Le conducteur a appuyé sur la pédale d'accélérateur.
- Le problème : Appuyer sur la pédale d'accélérateur ne cause généralement pas d'accident. Cela ne cause un accident que si la voiture est au point mort ou si les freins sont coupés.
L'intuition de l'article : Une bonne explication doit inclure le « contexte » (les freins étant coupés). Si vous omettez le contexte, votre explication est incomplète. Les auteurs montrent que si vous ignorez le contexte, votre « Score d'Explication » chute, prouvant que votre histoire est défaillante.

5. Tester l'histoire avec une IA (L'expérience « LLM »)

Pour démontrer que cela fonctionne, les auteurs ont demandé à une IA (un Grand Modèle de Langage) d'inventer une histoire sur la façon dont une personne aux États-Unis est devenue sans abri.

L'IA a créé une chaîne : Maladie mentale → Perte d'emploi → Perte d'économies → Perte de la famille → Sans-abrisme.
Les auteurs ont ensuite demandé à l'IA : « Quelle est la probabilité que la « Perte d'emploi » mène à la « Perte d'économies » ? » L'IA a donné une probabilité (ex. 80 %).
Ils ont passé les chiffres dans leur Carnet de notes.
Le résultat : L'histoire avait un score faible à un maillon spécifique (le passage de la « Perte d'économies » à la « Perte de la famille »). Les mathématiques ont montré que perdre son logement ne signifie pas automatiquement que votre famille vous coupera les ponts.
La leçon : L'histoire de l'IA semblait dramatique, mais les mathématiques ont prouvé qu'il s'agissait d'une explication faible car ce lien spécifique était trop improbable.

Résumé

Cet article nous donne un livre de règles formel pour expliquer les désastres rares. Il stipule que :

Ne vous contentez pas de pointer le début ; cartographiez tout le chemin.
Transformez les faits complexes en étapes simples de type « Oui/Non ».
Utilisez un score pour vérifier si votre histoire rend réellement l'événement plus probable.
Si le score est bas, votre explication est falsifiée (prouvée fausse), même si elle semble convaincante lors d'une conversation.

Cela transforme le « storytelling » en « mathématiques », nous permettant de séparer les bonnes explications scientifiques des simples suppositions.

Résumé Technique : Formalisation et Falsification des Voies Causales d'Événements Rares

1. Énoncé du Problème

Le document traite du défi que représente la fourniture d'explications causales pour les événements rares (outliers), tels que les catastrophes naturelles, les krachs boursiers ou les défaillances de systèmes. Bien que les méthodes existantes d'analyse des causes racines identifient efficacement un petit ensemble d'origines causales, elles échouent souvent à capturer les mécanismes spécifiques et les sous-graphes par lesquels ces causes se propagent pour produire le résultat observé. De plus, les modèles causaux complets sont fréquemment inconnus, et les approches standards reposant sur la théorie des valeurs extrêmes asymptotiques ou sur des hypothèses de variables continues sont mal adaptées aux événements qui sont rares mais non extrêmes, ou aux domaines discrets.

Le problème central est l'absence d'une notion formelle et testable de « voie causale » capable de jeter un pont entre les explications verbales simples et la modélisation causale détaillée. Les méthodes actuelles peinent à quantifier si une chaîne d'événements proposée constitue une explication valide pour une observation rare spécifique, en particulier lorsque le graphe causal complet est indisponible ou lorsque l'explication doit rester robuste sous une connaissance partielle du modèle.

2. Méthodologie

2.1 Formalisation des Voies Causales et des Scores d'Explication

Les auteurs introduisent un cadre basé sur les modèles d'équations structurelles (SEM) et les graphes acycliques dirigés (DAG) pour formaliser les voies causales pour les événements binaires.

Grappe d'Événements : Un ensemble de variables binaires $B$ connectées par un DAG causal $C$ . Un sous-ensemble $R$ représente les causes racines où les mécanismes sont « corrompus » ou font l'objet d'une intervention.
Score d'Explication : S'appuyant sur Oesterle et al. (2025), l'article définit un score d'explication $E(x \to y)$ pour qu'un événement $X=x$ explique $Y=y$ comme étant :
$E(x \to y) := 1 - \frac{\log P(Y=y | do(X=x))}{\log P(Y=y)}$
Ce score mesure à quel point l'intervention $do(X=x)$ augmente la probabilité de $Y=y$ par rapport à sa rareté a priori. Un score proche de 1 indique une explication forte.
Score d'Explication de Voie : Pour remédier à la limite selon laquelle les causes racines seules n'expliquent pas l'intégralité de la propagation, les auteurs définissent un score d'explication de voie $E^K_{R \to t}$ . Ce score évalue si le fait de fixer les causes racines à 1 rend l'ensemble de la grappe d'événements (incluant les médiateurs) probable, par rapport à la rareté de l'événement cible.
$E^K_{R \to t} := 1 - \frac{\log P(B=1 | do(B_R=1))}{\log P(B_t=1)}$
Cette métrique pénalise les explications où les événements intermédiaires restent improbables même après que les causes racines ont été fixées, garantissant ainsi la cohérence de la voie.

2.2 Abstraction Causale et Binarisation

Pour gérer les variables continues ou complexes, l'article propose l'Abstraction de Voie, une méthode permettant de mapper des modèles causaux détaillés vers des voies binaires simplifiées.

Monotonie des Caractéristiques : Les variables sont transformées en événements binaires via des fonctions de caractéristiques $\tau$ (ex: $X \ge x$ ). Le cadre exige que ces caractéristiques satisfassent une « monotonie de caractéristique », garantissant que l'augmentation de la valeur de la caractéristique d'un parent augmente la probabilité de la caractéristique de l'enfant.
Micro-Réalisation Naturelle : Pour traiter la nature mal définie des interventions sur des variables grossières (binaires), les auteurs définissent une « micro-réalisation naturelle » d'une intervention $do(B_S=b_S)$ . Cela implique de tirer les variables continues sous-jacentes de leur distribution conditionnelle compte tenu de la contrainte binaire, simulant ainsi l'intervention dans le modèle fin.
Métrique de Précision : La qualité d'une abstraction est mesurée par la divergence KL entre les distributions interventionnelles du modèle abstrait et la distribution projetée réelle, normalisée par la rareté de l'événement cible.

2.3 Évaluation via des Vérifications de Cohérence

Le cadre permet la falsification des explications causales par des vérifications de cohérence :

Cohérence Quantitative : Si une voie est proposée, les probabilités de transition entre les nœuds (ex: $P(B_j=1 | B_i=1)$ ) doivent être cohérentes avec le score d'explication. Si le produit de ces probabilités n'augmente pas suffisamment la probabilité de l'événement, l'explication est jugée faible.
Cohérence Qualitative : Le cadre peut être utilisé pour interroger des agents (ex: LLM) sur des sous-structures d'une voie proposée afin de vérifier si les liens causaux revendiqués tiennent dans des contextes spécifiques.

3. Contributions Clés

Définition Formelle des Voies Causales : L'article définit une voie causale non pas seulement comme un ensemble de causes racines, mais comme un tuple $(C, P, B, B_t, B_R, P_B)$ où $P$ est un sous-graphe expliquant la cible. Cela distingue le graphe causal complet $C$ (utilisé pour le contexte) de la voie explicative $P$ .
Score d'Explication de Voie : Une métrique novatrice qui quantifie la qualité d'une explication en évaluant si les causes racines rendent probable toute la séquence d'événements de la voie, et non seulement la cible. Ce score est additif sur des ensembles disjoints de mécanismes et évite les problèmes de dépendance au contexte des valeurs de Shapley.
Abstraction par Événement : L'introduction de l'abstraction de voie permet de dériver des explications causales simples et verbalisables à partir de modèles complexes, continus ou partiellement connus. Elle fournit un moyen rigoureux de gérer le « grossissement » des variables tout en maintenant des implications testables.
Falsifiabilité : En exigeant des engagements explicites sur quels mécanismes se sont comportés comme prévu et lesquels ont été altérés, le cadre rend les explications causales falsifiables. Il fournit des conditions (ex: Lemme 3.7 sur les écarts de log-vraisemblance) sous lesquelles une explication peut être rejetée.

4. Résultats et Démonstrations

Limites Théoriques : Les auteurs prouvent que des explications causales locales fortes (scores par paires élevés) ne garantissent pas une explication de voie globale forte. Ils dérivent des conditions nécessaires pour des scores de voie élevés, comme l'évitement de médiateurs qui seraient significativement moins probables que leurs parents.
Relation avec la Nécessité : L'article démontre que pour les événements rares, un score d'explication positif implique une haute probabilité de nécessité (PN), signifiant que la cause racine est probablement nécessaire pour que l'événement se produise, même si le score n'est pas parfait.
Étude de Cas d'Évaluation par LLM : Les auteurs ont appliqué leur cadre pour évaluer des voies causales générées par un Grand Modèle de Langage (LLM) concernant les causes de l'itinérance de longue durée.
- Le LLM a généré une voie $A \to B \to C \to D \to E$ .
- En interrogeant le LLM sur les probabilités de transition, les auteurs ont calculé un score d'explication de voie d'environ $0,29$.
- Ce score faible a été attribué à un lien faible ( $C \to D$ ), où la transition de « perte d'appartement » à « rupture familiale » n'était pas suffisamment probable.
- Cet exercice a démontré que le cadre peut identifier quantitativement les maillons faibles dans les explications verbales et suggérer des révisions (ex: ajouter un lien direct ou reformuler les nœuds) pour améliorer la plausibilité.

5. Signification et Revendications

L'article affirme faire progresser le domaine de l'inférence causale et de l'IA explicable (XAI) en fournissant un langage formel et quantitatif pour discuter des explications causales d'événements rares.

Combler le Fossé : Il comble le fossé entre les explications verbales simples (souvent intuitives mais invérifiables) et la modélisation causale détaillée (souvent trop complexe ou inconnue).
Falsifiabilité : La principale importance réside dans le fait de rendre les explications causales falsifiables. En exigeant qu'une explication implique un ensemble spécifique de probabilités interventionnelles, le cadre permet des vérifications empiriques ou logiques par rapport aux données ou aux croyances d'experts.
Sécurité de l'IA et Transparence : Les auteurs positionnent ce travail comme une étape vers l'évaluation de la véracité des énoncés causaux générés par les systèmes d'IA. En formalisant les explications comme des voies explicites, il devient possible de détecter des comptes causaux erronés d'événements socialement significatifs, contribuant ainsi à la fiabilité de l'IA générative.

Les auteurs restent modestes, notant que le cadre ne prouve pas automatiquement la validité d'un DAG causal ou la vérité des probabilités interventionnelles ; il fournit plutôt les concepts et les métriques nécessaires pour discuter et évaluer la plausibilité de manière pilotée par les données.