📊 statistics

FoundCause: Causal Discovery with Latent Confounders from Observational Data

FoundCause est un nouveau modèle de découverte causale amortie qui exploite une architecture transformer avec des biais inductifs spécialisés pour inférer directement des graphes causaux, incluant les facteurs de confusion latents, à partir de données observationnelles en une seule passe directe, surpassant à la fois les méthodes classiques et les méthodes amorties existantes sur divers ensembles de données du monde réel.

Auteurs originaux : Patrick Blöbaum, Krishnakumar Balasubramanian, Shiva Prasad Kasiviswanathan

Publié 2026-06-17

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Patrick Blöbaum, Krishnakumar Balasubramanian, Shiva Prasad Kasiviswanathan

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes un détective tentant de comprendre qui a causé quoi sur une scène de crime complexe, mais que vous ne disposez que d'une pile de photos de surveillance floues (données observationnelles). Vous ne pouvez pas revenir en arrière pour simuler le crime (interventions), et vous soupçonnez l'existence de cerveaux invisibles (facteurs de confusion latents) qui tirent les ficelles dans l'ombre.

C'est le défi de la Découverte Causale. Le papier présente un nouvel outil de détective appelé FoundCause.

Voici comment fonctionne FoundCause, expliqué à travers des analogies de la vie quotidienne :

1. Le « Montage d'Entraînement » (Inférence Amortie)

La plupart des détectives de la vieille école (algorithmes traditionnels) tentent de résoudre chaque nouvelle affaire en partant de zéro. Ils passent des heures à analyser les photos spécifiques, à effectuer des calculs mathématiques complexes et à chercher des motifs. C'est lent et cela échoue souvent si l'affaire est désordonnée.

FoundCause est différent. C'est comme un détective qui aurait regardé des milliers de films d'entraînement (données synthétiques) avant même de voir sa première véritable affaire.

L'analogie : Au lieu de résoudre un puzzle pièce par pièce pour chaque nouveau puzzle, FoundCause s'est déjà exercé sur des millions de faux puzzles. Il a appris les règles générales de l'apparence des causes et des effets.
Le résultat : Lorsque vous lui donnez un jeu de données réel, il n'a pas besoin de « réfléchir » ou de calculer pendant des heures. Il regarde simplement les données et trace instantanément (en une seule passe directe) la carte de qui a causé quoi. C'est comme reconnaître un visage dans une foule instantanément parce que vous avez vu ce type de visage un million de fois auparavant.

2. La « Vision à Deux Canaux » (Gestion des Données Manquantes)

Les données du monde réel sont souvent désordonnées. Certaines caméras de surveillance sont en panne, ou certains témoins ne se sont pas présentés (données manquantes).

L'analogie : Les méthodes traditionnelles tentent souvent de « deviner » les pièces manquantes en comblant les vides avec des moyennes (comme supposer qu'une pièce de puzzle manquante est bleue parce que le ciel est bleu). Cela conduit souvent à de mauvaises conclusions.
L'astuce de FoundCause : Il possède un canal de « masque » spécial. Il ne se contente pas de regarder les chiffres ; il regarde où les chiffres sont manquants. Il traite l'« absence » elle-même comme un indice. C'est comme un détective qui sait que l'absence d'un témoin dans une pièce spécifique est tout aussi importante que la présence du témoin qui était là.

3. Le « Marionnettiste Invisible » (Facteurs de Confusion Latents)

Parfois, deux choses se produisent ensemble non pas parce que l'une a causé l'autre, mais parce qu'une troisième chose invisible a causé les deux.

L'analogie : Imaginez que vous voyez que les « Ventes de Glaces » et les « Attaques de Requins » augmentent ensemble. Un mauvais détective pourrait dire : « La glace cause les attaques de requins ». Un détective intelligent sait qu'il existe un facteur caché : la Chaleur de l'Été.
L'astuce de FoundCause : Il possède un module spécial dédié à la recherche de ces « Chaleurs de l'Été » invisibles. Il utilise des « jetons » apprenables (comme des post-it invisibles) pour représenter les causes communes cachées. Il demande explicitement : « Y a-t-il un marionnettiste invisible qui tire les ficelles de ces deux variables ? » C'est une première pour ce type de modèle d'IA.

4. La « Boîte à Outils Spécialisée » (Biais Inductifs)

FoundCause n'est pas seulement un cerveau générique ; il est construit avec des outils spécifiques conçus pour la causalité.

Le capteur d'« Asymétrie » : Les causes et les effets sont rarement symétriques. Si vous poussez une balle, elle bouge ; si la balle bouge, elle ne vous pousse pas nécessairement. FoundCause utilise des mesures statistiques d'« asymétrie » classiques (comme vérifier si le bruit dans les données semble différent selon la direction de l'observation) pour déterminer la direction.
Le raffineur de « Triangle » : La causalité se produit souvent en chaînes (A cause B, B cause C) ou en formes de V (A et B causent tous deux C). FoundCause possède une étape de « raffinement triangulaire ». Il examine des groupes de trois variables à la fois pour voir s'ils forment une chaîne ou une fourche, l'aidant ainsi à distinguer des motifs similaires qui confondent les autres méthodes.

5. Le « Décodeur Factorisé » (Séparer le « Si » du « Quel Sens »)

Lorsqu'il décide si deux variables sont connectées, FoundCause sépare la décision en deux étapes :

Existence : « Ces deux variables sont-elles connectées, du moins ? » (vérification symétrique).
Direction : « Si elles sont connectées, qui est le patron ? » (vérification asymétrique).
C'est comme demander d'abord : « Est-ce que ces deux personnes se sont parlé ? » puis demander ensuite : « Qui a commencé la conversation ? », plutôt que d'essayer de répondre aux deux questions à la fois.

Les Résultats : Pourquoi c'est important

Le papier a testé FoundCause contre 15 jeux de données du monde réel (allant des dossiers médicaux aux journaux de logs de microservices) et l'a comparé à 11 méthodes classiques et 4 autres méthodes d'IA.

Vitesse : Il résout le problème en moins de 2 secondes, tandis que les méthodes classiques peuvent prendre des heures, voire des jours.
Précision : Il a trouvé le « sens » des causes plus souvent que n'importe quelle autre méthode (améliorant le score F1 de près de 10 %).
Robustesse : Il n'a pas planté ou échoué sur des jeux de données difficiles et désordonnés où les autres méthodes ont abandonné.
Généralisation : Même lorsqu'il a été testé sur des jeux de données comportant plus de variables que celles pour lesquelles il avait été entraîné (comme passer d'un puzzle de 50 variables à un puzzle de 100 variables), il ne s'est pas effondré ; il est devenu légèrement moins précis, mais a tout de même fonctionné.

En résumé : FoundCause est un « super-détective » qui a appris de millions de fausses affaires, sait repérer les marionnettistes invisibles, peut gérer les caméras en panne et résout de nouveaux mystères instantanément en appliant les modèles qu'il a appris, plutôt qu'en réinventant la roue pour chaque nouvelle affaire.

Résumé Technique : FoundCause

Énoncé du Problème

La découverte causale à partir de données observationnelles demeure un défi fondamental en apprentissage automatique et en statistique. La difficulté centrale réside dans la récupération de structures causales dirigées et l'identification de facteurs de confusion latents sans accès à des interventions contrôlées. Bien que les méthodes classiques (par exemple, PC basé sur les contraintes, GES basé sur le score, et les approches d'optimisation continue comme NOTEARS) soient bien fondées, elles souffrent de limitations significatives : elles nécessitent une optimisation coûteuse par jeu de données, sont sensibles aux hyperparamètres et aux hypothèses de distribution, et échouent souvent à passer à l'échelle face à des régimes de données de haute dimension ou hétérogènes. De plus, la découverte causale n'est généralement pas identifiable sans hypothèses fortes (par exemple, linéarité, bruit additif ou fidélité), qui sont fréquemment violées dans les scénarios du monde réel.

Des approches amorties récentes ont tenté de répondre au problème de la scalabilité en entraînant des modèles sur des données synthétiques pour mapper directement les jeux de données vers des graphes. Cependant, les méthodes neuronales existantes manquent souvent d'incorporation explicite de biais inductifs causaux spécifiques au domaine, tels que l'asymétrie dans les relations cause-effet ou les motifs structurels d'ordre supérieur (chaînes, collisions), et échouent généralement à modéliser explicitement la confusion latente.

Méthodologie : FoundCause

FoundCause est un modèle de découverte causale amortie conçu pour mapper directement des jeux de données observationnels vers des graphes causaux (à la fois des arêtes dirigées et des matrices de confusion latentes) en une seule passe avant (forward pass). Le modèle est entièrement entraîné sur des Modèles Structurels Causaux (SCM) synthétiques et se généralise aux données du monde réel sans réglage par jeu de données.

Architecture

L'architecture est une conception hybride combinant un transformeur invariant par permutation avec des biais statistiques explicites :

Représentation d'Entrée : Le modèle accepte une matrice de données $X \in \mathbb{R}^{N \times D}$ et un masque d'observation binaire optionnel $M$ . Chaque entrée est représentée par un vecteur à 2 canaux contenant la valeur normalisée et le statut d'observation, garantissant que le modèle gère nativement les données manquantes sans imputation.
Encodeur Factorisé par Axe : L'encodeur central utilise un transformeur avec des blocs d'attention alternés sur les échantillons ( $N$ $N$ ) et les variables ( $D$ $D$ ).
- Attention-Variable : Incorpore des jetons globaux apprenables et un biais conditionné par les statistiques. Ce biais injecte des caractéristiques statistiques par paires dérivées de mesures d'asymétrie classiques (par exemple, corrélation, asymétrie de la variance résiduelle, indicateurs de structure en V) directement dans le mécanisme d'attention, guidant le modèle vers les signaux causaux connus.
- Attention-Échantillon : Agrège l'information à travers les échantillons pour capturer les propriétés distributionnelles.
Agrégation (PMA) : Un mécanisme de Pooling by Multihead Attention (PMA) agrège les plongements (embeddings) au niveau de l'échantillon en représentations par variable, combiné à un max-pooling pour capturer les propriétés distributionnelles d'ordre supérieur comme la multimodalité.
Décodeur d'Arêtes Factorisé : La tête de prédiction sépare l'existence de l'arête de sa direction :
- Tête d'Existence : Utilise des caractéristiques symétriques (somme des plongements, produit élément par élément et scores de confusion) pour prédire si une arête existe.
- Tête de Direction : Utilise des caractéristiques antisymétriques (différence de plongements et statistiques asymétriques cadencées) pour prédire l'orientation.
Raffinement Triangulaire : Inspiré par AlphaFold2, un module de raffinement effectue $R$ cycles de mises à jour sur des triplets de variables $(i, k, j)$ . Cela permet de raisonner sur des motifs causaux d'ordre supérieur (chaînes, fourches, collisions) pour résoudre les classes d'équivalence de Markov.
Module de Confusion : Un module dédié utilise des jetons latents apprenables pour modéliser les causes communes cachées. Il calcule les probabilités de confusion par paire via une agrégation de type "noisy-OR" des charges de jetons de variables, produisant une matrice de confusion symétrique $\hat{C}$ .

Entraînement et Perte

Le modèle est entraîné sur des milliers de SCM synthétiques générés via DoWhy et des générateurs personnalisés, couvrant diverses topologies de graphes, mécanismes non linéaires et distributions de bruit. Les stratégies d'entraînement clés incluent :

Régénération Continue : Les données synthétiques sont régénérées à chaque époque pour éviter le surapprentissage sur un corpus fixe.
Augmentation Anti-Raccourci : La permutation aléatoire des indices de variables et le mélange de sous-populations sont utilisés pour empêcher le modèle de s'appuyer sur des corrélations spécieuses (par exemple, l'ordre des variables).
Fonction de Perte : L'objectif combine une entropie croisée binaire équilibrée par classe pour les arêtes dirigées avec plusieurs termes auxiliaires :
- Calibration de Direction ( $L_{cal}$ ) : Limite les écarts de logit extrêmes entre les directions opposées.
- Supervision de Squelette ( $L_{skel}$ ) : Fournit une supervision indépendante de la direction pour l'adjacence.
- Perte de Confusion ( $L_{conf}$ ) : Supervise le module de confusion latente.
- Sparsité et Régularisation : Pénalités pour les graphes trop denses et régularisation pour les mécanismes de pooling/gating.

Contributions Clés

Modélisation Explicite de la Confusion Latente : FoundCause est la première approche de découverte causale amortie qui modélise explicitement la confusion latente à l'aide de jetons apprenables dédiés, produisant à la fois un graphe acyclique dirigé (DAG) et une matrice de confusion symétrique.
Biais Inductifs Statistiques : Contrairement aux architectures neuronales génériques, FoundCause injecte des caractéristiques statistiques par paires classiques (asymétrie, structures en V) directement dans le mécanisme d'attention et le processus de décodage, faisant le pont entre les principes de la découverte causale classique et le deep learning.
Raffinement Triangulaire : L'introduction d'un module de raffinement basé sur les triangles permet au modèle de raisonner sur des motifs causaux d'ordre supérieur, améliorant la résolution des structures d'équivalence de Markov.
Gestion Native des Données Manquantes : L'architecture traite nativement les entrées masquées, évitant le biais introduit par les méthodes d'imputation utilisées dans les bases de référence classiques.
Généralisation Zero-Shot : Le modèle démontre une généralisation robuste au nombre de variables ( $D$ ) et aux tailles d'échantillons ( $N$ ) au-delà de sa plage d'entraînement ( $D \in [2, 50]$ ), maintenant ses performances sur des jeux de données allant jusqu'à $D=100$ .

Résultats Expérimentaux

FoundCause a été évalué sur 15 benchmarks du monde réel et semi-réalistes (incluant ASIA, CHILD, SACHS et PETSHOP) ainsi que sur le benchmark de paires cause-effet de Tübingen.

Performance : FoundCause surpasse 11 méthodes classiques non amorties (ex: PC, GES, NOTEARS) et 4 méthodes amorties (ex: AVICI, CSIvA, SEA).
- Il obtient une amélioration de +9,6 % du F1 et de +1,2 % de l'AUROC par rapport aux méthodes non amorties les plus fortes.
- Il réduit la distance de Hamming structurelle (SHD/d) de 18,9 % par rapport à la meilleure base de référence classique.
- C'est la seule méthode à atteindre le rang de tête sur le F1, l'AUROC et le SHD/d tout en réussissant l'inférence sur la totalité des 15/15 jeux de données (certaines méthodes classiques expirent ou échouent sur des graphes denses).
Direction Bivariée : Sur le benchmark de Tübingen, FoundCause approche les performances de méthodes bivariées spécialisées (SLOPPY, HECI) et surpasse significativement les bases de référence classiques comme ICA-LiNGAM.
Robustesse : Sous une corruption de 30 % de type "Missing At Random" (MAR), FoundCause conserve 92 % de son F1 par rapport aux données propres, alors que les méthodes classiques dépendant de l'imputation par la moyenne se dégradent considérablement.
Efficacité : L'inférence est effectuée en moins de 2 secondes en moyenne, via une seule passe avant, comparé aux heures requises par les méthodes basées sur l'optimisation.

Signification et Revendications

L'article affirme que FoundCause représente une étape significative vers une découverte causale scalable et pratique. En combinant l'inférence amortie avec des biais inductifs structurés, il répond au compromis entre les garanties théoriques des méthodes classiques et la scalabilité des approches neuronales.

Les auteurs soulignent que FoundCause ne repose pas sur de nouvelles garanties d'identifiabilité, mais apprend des procédures d'inférence pratiques qui performent bien à travers un large spectre de processus de génération de données. La modélisation explicite de la confusion latente et la capacité à gérer nativement les données manquantes sont mises en avant comme des avancées critiques pour l'applicabilité au monde réel. Ce travail positionne FoundCause à la fois comme un outil pratique pour l'analyse causale appliquée et comme une fondation pour de futurs modèles intégrant nativement le raisonnement causal. Les auteurs prévoient d'ouvrir le code source du modèle pour soutenir la reproductibilité.