Résumé technique : Estimation de l'effet causal hétérogène sur les réseaux via l'apprentissage orthogonal

1. Énoncé du problème

L'article aborde le défi de l'estimation des effets causaux hétérogènes dans les données en réseau, où le traitement d'une unité influence non seulement son propre résultat, mais aussi les résultats de ses voisins (interférence réseau). Deux difficultés principales sont identifiées :

1. Hétérogénéité : Les effets causaux varient considérablement d'une unité et d'une arête à l'autre en raison de la diversité des caractéristiques des nœuds et des forces de connexion. Les méthodes standard estiment souvent uniquement des moyennes au niveau de la population, échouant à capturer ces variations granulaires.
2. Confoundance : L'homophilie du réseau (la tendance des nœuds similaires à se connecter) et les dépendances latentes créent des structures de confusion complexes. Dissocier les véritables effets de débordement causaux des corrélations non causales nécessite d'ajuster pour des covariables de haute dimension et des structures relationnelles latentes.

Les approches existantes font face à un compromis : les méthodes classiques fournissent une inférence rigoureuse pour les moyennes au niveau de la population mais reposent sur des hypothèses structurelles restrictives, tandis que les approches récentes basées sur les réseaux de neurones graphiques (GNN) offrent de la flexibilité mais fonctionnent souvent comme des « boîtes noires », rendant les effets au niveau des arêtes difficiles à interpréter et la quantification de l'incertitude (UQ) difficile.

2. Méthodologie

Les auteurs proposent un cadre d'apprentissage orthogonal en deux étapes conçu pour estimer les effets directs et de débordement hétérogènes tout en restant robuste aux erreurs d'estimation de la première étape.

2.1 Configuration du problème et identification

• Cadre : Le problème est formulé dans le cadre des résultats potentiels sous interférence.
• Hypothèses :
  • Interférence locale : Les résultats dépendent uniquement des traitements au sein d'un voisinage fermé à un saut.
  • Non-confondance du voisinage : Conditionnellement aux covariables d'un voisinage plus large à $K$ sauts, les traitements locaux sont indépendants des résultats potentiels.
  • Interférence locale additive (Hypothèse structurelle clé) : Le résultat attendu est modélisé comme la somme d'un effet direct et d'effets de débordement pairwise provenant des voisins. Plus précisément, $E[Y_i] = \mu_0 + \tau_i T_i + \sum_{j \in N_1(i)} \tau_{ij} T_j$. Cela réduit la complexité exponentielle de l'espace d'interférence à une complexité linéaire, permettant l'identification au niveau des arêtes.
• Estimands cibles : La méthode vise la matrice d'interférence $\Gamma$, où $\Gamma_{ii} = \tau_i$ (effet direct) et $\Gamma_{ij} = \tau_{ij}$ (effet de débordement de $j$ vers $i$). Les effets au niveau des nœuds (IDE, ISE) et les moyennes au niveau de la population (ADE, ASE) sont dérivés comme des fonctionnelles linéaires de $\Gamma$.

2.2 Cadre d'estimation orthogonal

L'estimation suit une stratégie d'orthogonalisation de Neyman (inspirée du R-Learner) pour atténuer le biais provenant de l'estimation des paramètres de nuisance :

1. Étape 1 (Estimation de nuisance) :
   • Utilise des réseaux de neurones graphiques (GNN) pour estimer la moyenne conditionnelle du résultat $m^*(X, A) = E[Y|X, A]$ et le score de propension $e^*(X, A) = P(T=1|X, A)$.
   • Emploie le cross-fitting (division du réseau en plis indépendants basés sur la distance du graphe) pour gérer la dépendance du réseau et prévenir le surapprentissage.
2. Étape 2 (Régression orthogonale) :
   • Résidualise le résultat et le traitement en utilisant les estimations de l'Étape 1 : $\tilde{Y}_i = Y_i - \hat{m}_i$ et $\tilde{T}_i = T_i - \hat{e}_i$.
   • Résout un problème des moindres carrés pour estimer les coefficients d'interférence $\Gamma$ en utilisant les variables résiduelles.
   • Garantie théorique : Sous des conditions de régularité spécifiques, l'erreur d'estimation des effets causaux ne dépend de l'erreur d'estimation de nuisance qu'à un ordre supérieur (par exemple, $O(r^4)$). Si les estimateurs de nuisance convergent à la vitesse $O(n^{-1/8})$, l'estimateur causal atteint la vitesse paramétrique $O(n^{-1/2})$, comparable à un oracle avec des fonctions de nuisance connues.

2.3 Modèle d'interférence basé sur l'attention

Pour capturer des débordements hétérogènes et asymétriques, la matrice d'interférence $\Gamma$ est paramétrée via un modèle basé sur l'attention :

• Effet direct : $\tau_i = \tilde{W}(X_i)$ via un MLP.
• Effet de débordement : $\tau_{ij} = \alpha_{ij} w_{ij}$, où $w_{ij}$ est un score d'influence pairwise appris basé sur les caractéristiques concaténées $(X_i, X_j)$, et $\alpha_{ij}$ sont des poids d'attention dérivés d'une fonction softmax avec un paramètre de température apprenable $\beta$.
• Cette structure permet au modèle d'interpoler entre des débordements diffus et concentrés et de retrouver des effets signés au niveau des arêtes.

2.4 Quantification de l'incertitude

L'article développe une procédure de bootstrap multiplicateur pour la matrice de débordement estimée :

• Elle perturbe la fonction de perte de la deuxième étape en utilisant des multiplicateurs aléatoires.
• Pour éviter le coût computationnel du réajustement du MLP pour chaque échantillon de bootstrap, une linéarisation en une étape (utilisant l'Hessien de la perte) est employée.
• Cela permet la construction d'intervalles de confiance ponctuels et simultanés pour les effets au niveau des arêtes ($\tau_{ij}$) et au niveau des nœuds ($ISE_i$).

3. Contributions clés

1. Cadre d'apprentissage orthogonal : Une approche novatrice en deux étapes qui combine une modélisation de nuisance flexible basée sur les GNN avec un modèle d'interférence interprétable basé sur l'attention, robuste aux erreurs d'estimation de la première étape.
2. Hétérogénéité au niveau des arêtes : La capacité d'estimer et d'interpréter des effets de débordement signés et pairwise ($\tau_{ij}$) plutôt que de simples moyennes agrégées, facilitant la détection de voisins influents et de schémas d'interaction hétérogènes.
3. Quantification valide de l'incertitude : Une procédure basée sur le bootstrap fournissant une inférence simultanée pour les effets hétérogènes au niveau des arêtes et des nœuds, allant au-delà de l'accent mis sur la population des travaux antérieurs.
4. Garanties théoriques : Preuve que l'estimateur atteint des vitesses de convergence de type oracle sous des hypothèses d'interférence additive locale et de dépendance conditionnelle du voisinage.

4. Résultats expérimentaux

La méthode a été évaluée sur des données semi-synthétiques dérivées de réseaux sociaux réels (BlogCatalog, Flickr) et de réseaux synthétiques du modèle de blocs stochastiques (SBM).

• Performance de référence : L'estimateur proposé (« Proposedest ») surpasse nettement les références (CFR, NetEst, TNet, GDML, etc.) dans l'estimation des effets hétérogènes au niveau des nœuds (IDE et ISE), mesurés par la Précision dans l'Estimation des Effets Hétérogènes (PEHE). Il égale ou dépasse les références sur les métriques au niveau de la population (ADE, ASE).
• Robustesse à l'erreur de nuisance : L'écart de performance entre la méthode proposée et l'« oracle » (utilisant de vraies fonctions de nuisance) était minime, validant la capacité de la conception orthogonale à atténuer le biais provenant des erreurs d'estimation des GNN.
• Interprétabilité :
  • Récupération du signe du débordement : La méthode a atteint une précision quasi parfaite dans la récupération des signes des influences pairwise, surpassant EdgeConv.
  • Détection de voisins influents : Elle a identifié avec succès les 20 % supérieurs des voisins influents avec un rappel et un NDCG élevés, correspondant étroitement aux performances de l'oracle.
• Calibration de l'incertitude : Les intervalles de confiance bootstrap ont atteint des taux de couverture proches des niveaux nominaux (90 % et 95 %) pour les effets des arêtes et des nœuds. Les intervalles étaient plus larges lors de l'utilisation de nuisances estimées par rapport aux nuisances oracle, reflétant le coût de l'estimation de la première étape, mais convergent à mesure que la taille de l'échantillon augmente.
• Application réelle : Une étude de cas sur la pollution de l'air (jeu de données DAPSm) a démontré la capacité de la méthode à estimer les effets directs et indirects de l'adoption de technologies de contrôle des émissions, produisant des estimations positives pour les réductions directes et de débordement de l'ozone.

5. Signification et affirmations

L'article prétend combler le fossé entre l'apprentissage de représentation flexible et en boîte noire et l'inférence causale fondée sur des principes et interprétable dans les réseaux. En tirant parti de l'apprentissage orthogonal, il permet l'estimation d'effets causaux fins et hétérogènes (jusqu'au niveau des arêtes) tout en maintenant la validité statistique et l'interprétabilité.

Les auteurs soulignent que leur approche est particulièrement précieuse pour les applications nécessitant une analyse en aval, telles que l'identification de nœuds influents ou la compréhension de la directionnalité des débordements (par exemple, dans la polarisation politique ou les campagnes sur les réseaux sociaux). Ils reconnaissent que l'hypothèse d'interférence locale additive est une approximation du premier ordre ; cependant, les expériences suggèrent que la méthode reste robuste même en présence d'interactions de traitement modérées, et le cadre peut être étendu pour inclure des termes d'interaction si nécessaire.

Ce travail se positionne comme une étape vers une inférence causale en réseau plus granulaire et exploitable, allant au-delà des effets moyens de traitement pour fournir une carte détaillée de la propagation des interventions à travers des structures sociales complexes.