Résumé technique : Méthode de la Variable Instrumentale Distributionnelle (DIV)

Énoncé du problème

L'article traite du défi de l'inférence des effets causaux en présence de confusion non mesurée (confondeurs cachés $H$) lorsque les expériences randomisées sont indisponibles. Bien que l'approche par Variable Instrumentale (IV) soit un outil standard pour une telle endogénéité, les méthodes existantes se concentrent généralement sur l'estimation de fonctionnelles spécifiques de l'effet causal, telles que l'effet causal moyen (par exemple, via les Moindres Carrés en Deux Étapes, 2SLS) ou les effets de traitement quantiles.

Les auteurs soutiennent que résumer les effets causaux en quantités uniques (comme les moyennes) fait perdre des informations précieuses. Dans de nombreuses applications, comprendre l'entière distribution interventionnelle de la variable de résultat $Y$ sous une intervention $do$ sur le traitement $X$ (notée $P_{do(X:=x)}(Y)$) est plus informatif. De plus, les méthodes IV traditionnelles échouent souvent dans les contextes « sous-identifiés », où le nombre d'instruments est inférieur au nombre de variables de traitement, ou lorsque la relation entre l'instrument et le traitement est faible en termes de moyennes conditionnelles mais forte en termes de moments de distribution d'ordre supérieur.

Méthodologie : Variable Instrumentale Distributionnelle (DIV)

La méthode proposée, la Variable Instrumentale Distributionnelle (DIV), estime la distribution interventionnelle complète en exploitant la modélisation générative au sein d'un cadre de Modèle de Causalité Structurelle (SCM).

1. Modèle de Causalité Structurelle et Formulation Générative

Les auteurs supposent que les données sont générées par un SCM où :
$$X := g(Z, \eta_X)$$
$$Y := f(X, \eta_Y)$$
Ici, $Z$ est l'instrument, $X$ est le traitement, $Y$ est le résultat, et $\eta_X, \eta_Y$ sont des termes de bruit corrélés en raison de la confusion cachée. Contrairement aux méthodes IV linéaires classiques, la DIV autorise des fonctions $g$ et $f$ générales et non linéaires, et ne suppose pas de bruit additif.

Pour capturer la corrélation entre $\eta_X$ et $\eta_Y$, la DIV modélise les termes de bruit comme des fonctions de variables gaussiennes standards indépendantes et d'une composante de bruit latent partagée :
$$\eta_X = h_X(\varepsilon_X, \varepsilon_H)$$
$$\eta_Y = h_Y(\varepsilon_Y, \varepsilon_H)$$
où $\varepsilon_X, \varepsilon_Y, \varepsilon_H$ sont des variables gaussiennes standards indépendantes. Cela produit un modèle génératif conjoint pour $(X, Y)$ étant donné $Z$.

2. Estimation via le Score d'Énergie

Le cœur de la méthode DIV est l'ajustement de la distribution conditionnelle jointe $P(X, Y | Z)$ en utilisant l'Engression (Shen et Meinshausen, 2024). Les paramètres du modèle (réseaux de neurones pour $g, f, h_X, h_Y$) sont optimisés pour minimiser l'espérance du score d'énergie négatif, une règle de score strictement propre pour les distributions multivariées.

L'objectif de la population est :
$$(g^*, f^*, h_X^*, h_Y^*) \in \arg \min_{f,g,h_X,h_Y} \mathbb{E} \left[ \|(X, Y) - (\hat{X}, \hat{Y})\| - \frac{1}{2}\|(\hat{X}, \hat{Y}) - (\hat{X}', \hat{Y}')\| \right]$$
où $(\hat{X}, \hat{Y})$ et $(\hat{X}', \hat{Y}')$ sont des échantillons indépendants générés par le modèle.

3. Estimation de la Distribution Interventionnelle

Une fois le modèle ajusté, la distribution interventionnelle $P_{do(X:=x)}(Y)$ est estimée par échantillonnage. Une intervention $do(X:=x)$ rompt le lien entre $X$ et son bruit $\eta_X$. La procédure implique :

1. Échantillonner $\varepsilon_Y$ et $\varepsilon_H$ à partir de gaussiennes standards.
2. Calculer le bruit $\eta_Y^* = h_Y^*(\varepsilon_Y, \varepsilon_H)$.
3. Générer le résultat $Y^* = f^*(x, \eta_Y^*)$.

À partir de ces échantillons, toute fonctionnelle de la distribution (moyenne, quantiles, variance) peut être estimée via Monte Carlo.

Contributions Théoriques Clés

L'article établit des résultats d'identifiabilité pour la distribution interventionnelle sous trois configurations de modèles distinctes :

1. Classe de Modèles Généraux : Sous des hypothèses de monotonie stricte dans les perturbations latentes et une condition de support commun (nécessitant que l'instrument ait un large support), la distribution interventionnelle est identifiable de manière unique à partir des données observées.
2. Modèles de Bruit Pré-Additifs (Instrument Continu) : En restreignant le modèle de résultat à une forme de bruit pré-additif, les auteurs montrent l'identifiabilité même lorsque l'instrument possède un support continu mais ne satisfait pas nécessairement la condition de « large support » requise pour la classe générale.
3. Modèles de Bruit Pré-Additifs (Instrument Discret/Binaire) : Crucialement, l'article démontre que pour les modèles de bruit pré-additif, la distribution interventionnelle est identifiable même avec un instrument binaire et un traitement multivarié (un cas sous-identifié où $dim(Z) < dim(X)$). Cela contraste avec le 2SLS, qui échoue dans de tels cas en raison de la multicolinéarité dans la première étape. Les auteurs montrent que si l'instrument affecte la distribution du traitement d'une manière qui n'est pas simplement un décalage déterministe (c'est-à-dire que les distributions conditionnelles diffèrent au-delà d'un simple décalage de moyenne), l'information de distribution complète suffit à l'identification.

L'article prouve également la consistance de l'estimateur DIV dans une sous-classe paramétrique linéaire simple.

Résultats Empiriques

Les auteurs évaluent la DIV par rapport à des références incluant 2SLS, les Fonctions de Contrôle (CF), DeepIV, DeepGMM, HSIC-X, IVQR et DIVE.

• Données Simulées :
  • Estimation de la Moyenne et des Quantiles : La DIV est compétitive ou supérieure pour estimer les moyennes et les quantiles interventionnels dans des contextes de bruit linéaire, non linéaire et pré-additif.
  • Cas Sous-Identifiés : Dans des scénarios avec un seul instrument binaire et un traitement à deux dimensions ($dim(Z)=1, dim(X)=2$), le 2SLS et d'autres références échouent à identifier les paramètres causaux. La DIV récupère avec succès les paramètres en utilisant l'intégralité de l'information de distribution.
  • Instruments Faibles : La DIV reste robuste lorsque l'instrument présente une faible pertinence de la moyenne ou une faible pertinence de la moyenne-variance, à condition que les moments de distribution d'ordre supérieur portent une information structurelle.
• Applications Réelles :
  • Données Économiques (Acemoglu et al., 2001) : Appliquée à la relation entre la qualité institutionnelle et le PIB. La DIV récupère un effet causal positif, approximativement linéaire, cohérent avec les conclusions originales du 2SLS, tout en fournissant une estimation de la distribution complète (quantiles).
  • Données de Cellule Unique (Single-Cell) : Appliquée à la prédiction de l'expression génique sous des perturbations CRISPR non observées. La DIV démontre une généralisabilité supérieure aux environnements d'intervention non vus et une stabilité accrue à travers différents sous-ensembles d'entraînement par rapport aux autres méthodes, suggérant qu'elle capture plus efficacement le mécanisme causal sous-jacent.

Signification et Revendications

L'article affirme que la DIV offre une avancée significative dans l'inférence causale en :

1. Élargissant l'Estimand : Dépasser les effets de moyenne ou de quantile pour estimer l'entière distribution interventionnelle, offrant une compréhension plus riche des mécanismes causaux et de l'incertitude aléatoire.
2. Surmontant les Limites d'Identification : Résoudre les problèmes « sous-identifiés » où les méthodes IV traditionnelles (comme le 2SLS) échouent, spécifiquement en exploitant l'information de distribution dans des contextes avec des instruments discrets et des traitements multivariés.
3. Flexibilité : Accueillir des relations non linéaires générales sans les hypothèses restrictives de bruit additif.
4. Utilité Pratique : Fournir une implémentation logicielle efficace (R et Python) qui permet l'échantillonnage de la distribution interventionnelle estimée, facilitant le calcul de toute fonctionnelle de distribution.

Les auteurs concluent que, bien que la méthode repose sur l'estimation de la distribution jointe $P(X, Y | Z)$, cette approche maximise l'utilisation de l'information provenant des instruments, offrant la meilleure chance d'identification dans des contextes complexes et confondus. Les directions de travaux futurs mentionnées incluent la quantification de l'incertitude épistémique et l'application de la méthodologie aux tâches de généralisation de distribution.