Causal Gaussian Processes for Robust Treatment Effect Evaluation with Unobserved Confounding

Résumé Technique : Processus Gaussiens Causaux pour une Évaluation Robuste des Effets de Traitement avec Confusionment Non Observé

Problématique

Le défi central abordé dans cet article est l'évaluation des effets de traitement causaux à partir de données observationnelles contaminées par un confusionnement non observé (unobserved confounding). Dans de nombreux scénarios pratiques, les effets causaux cibles (par exemple, $E_x[Y]$) sont non identifiables à partir des seules données observationnelles car des facteurs de confusion non mesurés introduisent des corrélations spécieuses entre les traitements ($X$) et les résultats ($Y$).

Bien que la régression par processus gaussien (GP) standard excelle dans la modélisation de mappages fonctionnels complexes dans des domaines continus, elle est vulnérable à l'apprentissage et à l'amplification des biais présents dans les données observationnelles. Par conséquent, les GP standards échouent souvent à généraliser aux distributions interventionnelles (ce qui se passerait si $X$ était fixé à une valeur spécifique $x$), conduisant à des évaluations de politiques erronées. Les stratégies robustes existantes reposent souvent sur des hypothèses paramétriques fortes, des connaissances préalables détaillées de l'environnement, ou sont limitées aux espaces discrets de traitement et de résultat, ce qui limite leur applicabilité aux domaines continus complexes.

Méthodologie

Les auteurs proposent un nouveau cadre qui fait le pont entre l'inférence causale non paramétrique et la modélisation par processus gaussien à travers trois étapes méthodologiques principales :

1. Discrétisation Universelle des Domaines Exogènes
L'article introduit une procédure de discrétisation universelle pour les variables exogènes ($U$) dans tout Modèle Structurel Causal (SCM) avec des domaines de traitement et de résultat continus.

• Les auteurs définissent un Modèle Canonique Causal (CCM) où les fonctions structurelles déterminant les covariables ($Z$), les actions ($X$) et les récompenses ($Y$) sont des fonctions simples (combinaisons linéaires de fonctions indicatrices sur des sous-ensembles disjoints du domaine exogène).
• Le Théorème 3.3 établit que l'ensemble de ces Modèles Canoniques Causaux est dense dans l'espace de tous les SCM par rapport à la norme $L_1$. Cela signifie que pour tout modèle causal arbitraire et pour toute précision $\epsilon$ souhaitée, il existe un CCM qui approxime à la fois la distribution observationnelle $P(X, Y, Z)$ et les effets de traitement interventionnels $E_x[Y|z]$ à l'intérieur de $\epsilon$.

2. Reparamétrage en Modèles Génératifs Causaux (CGM)
Pour faciliter l'apprentissage, les fonctions simples discrètes du CCM sont reparamétrées en Modèles Génératifs Causaux (CGM) utilisant des fonctions continues.

• Dans un CGM, la population est stratifiée en un nombre fini d'états latents (strates) $u \in \{1, \dots, d\}$.
• Au sein de chaque strate, la fonction de récompense $h_u(x, z)$ est une fonction continue faisant correspondre le traitement et les covariables au résultat.
• Le Théorème 4.2 confirme que cette famille de CGMs conserve la propriété d'approximation causale, représentant efficacement n'importe quel SCM ainsi que ses distributions observationnelles et interventionnelles.

3. Processus Gaussiens Causaux (CGP) et Inférence Variationnelle
Les auteurs instancient la famille de CGM en utilisant des Processus Gaussiens pour gérer la nature continue des fonctions de récompense $h_u$.

• Structure du Modèle : La distribution exogène $P(u)$ est modélisée via un processus de Dirichlet tronqué (processus de stick-breaking). Pour chaque strate latente $u$, les covariables $Z$ et le traitement $X$ sont tirés de distributions normales multivariées conditionnelles. Le résultat $Y$ est généré par une fonction $h_u(x, z)$ tirée d'un processus gaussien avec un noyau spécifique (par exemple, la fonction de base radiale ou RBF).
• Apprentissage : Puisque l'inférence a posteriori exacte est intraitable, les auteurs emploient l'Inférence Variationnelle (VI) avec une approximation de champ moyen (mean-field). Le modèle apprend une distribution a posteriori sur les assignations de strates latentes et les paramètres des processus gausiens.
• Inférence : L'effet de traitement cible $E_x[Y|z]$ est calculé en faisant la moyenne des fonctions de récompense apprises $h_u(x, z)$ pondérées par la probabilité a posteriori des strates latentes $P(u|z)$. Cela permet au modèle de « chercher » sur les partitions potentielles du domaine exogène pour trouver une explication robuste des données qui rende compte du confusionnement non observé.

Principales Contributions

1. Discrétisation Universelle : L'article fournit une preuve formelle que les domaines exogènes dans les modèles causaux continus peuvent être discrétisés sans perte de généralité pour approximer n'importe quel modèle causal et ses distributions observationnelles et interventionnelles avec une précision arbitraire.
2. Famille de Processus Gaussiens Causaux (CGP) : Les auteurs développent une nouvelle famille de modèles génératifs qui reparamètrent la discrétisation canonique dans une forme compatible avec l'inférence bayésienne standard et les cadres de deep learning.
3. Identification Partielle Robuste : Le cadre permet de dériver des distributions a posteriori robustes sur les effets causaux à partir de données observationnelles avec confusionnement, réalisant efficacement l'identification partielle dans des domaines continus sans nécessiter d'hypothèses paramétriques fortes sur les fonctions structurelles sous-jacentes.

Résultats Expérimentaux

Les auteurs ont évalué le CGP proposé par rapport à la régression par processus gaussien standard sur des ensembles de données synthétiques avec diverses fonctions de récompense (Polynomiale, Logistique, Phase, Linéaire) et un ensemble de données réelles provenant de l'International Stroke Trial (IST).

• Métrique : La performance a été mesurée en utilisant la Log-Vraisemblance Négative Prédictive (NLPL) sur des données interventionnelles (données issues d'essais randomisés ou d'interventions simulées).
• Constats :
  • Les GP standards surajustent systématiquement les données observationnelles avec confusionnement, entraînant des scores NLPL élevés et un échec de la généralisation aux distributions interventionnelles.
  • Les GPs Causaux (CGP) ont systématiquement obtenu des scores NLPL nettement inférieurs dans toutes les expériences synthétiques et réelles.
  • Les distributions a posteriori apprises par le CGP ont réussi à capturer les véritables effets de traitement, tandis que les GP standards s'en sont écartés de manière significative en raison du confusionnement non observé.

Signification et Revendications

L'article affirme que ce travail généralise le partitionnement canonique des modèles structurels causaux (précédemment établi pour les domaines discrets) aux domaines continus. En introduisant une propriété de discrétisation universelle, les auteurs démontrent qu'il est possible d'approximer des mécanismes causaux complexes et inconnus avec un nombre fini d'états latents.

La signification réside dans la fourniture d'une approche robuste et pilotée par les données pour l'inférence causale dans des contextes où :

• Un confusionnement non observé est présent.
• Les variables sont continues.
• Une connaissance paramétrique détaillée du processus génératif n'est pas disponible.

Les auteurs affirment que leur méthode permet l'« identification partielle robuste » des effets causaux, permettant aux apprenants d'inférer des effets de traitement qui se généralisent aux scénarios interventionnels même lorsque les données observationnelles sont biaisées. Ce travail positionne les CGP comme un outil qui automatise la discrétisation des espaces latents, rendant l'inférence causale robuste réalisable dans des environnements continus complexes et réels.