Differentiable Cyclic Causal Discovery Under Unmeasured Confounders

Résumé Technique : Découverte Causale Cyclique Différentiable sous l'Effet de Facteurs de Confusion Non Mesurés

Énoncé du Problème
La découverte causale vise à inférer la structure du graphe orienté représentant les relations de cause à effet entre des variables. Les algorithmes existants reposent généralement sur deux hypothèses restrictives : (i) le graphe causal sous-jacent est un Graphe Acyclique Dirigé (DAG), et (ii) toutes les variables sont observées (absence de facteurs de confusion non mesurés). Ces hypothèses sont fréquemment violées dans les systèmes réels, particulièrement dans les réseaux biologiques, qui présentent des boucles de rétroaction (cycles) et des facteurs de confusion cachés. Bien que certaines méthodes traitent les cycles et d'autres les facteurs de confusion, peu gèrent les deux simultanément, surtout dans des contextes non linéaires. De plus, les approches existantes pour les graphes cycliques avec facteurs de confusion supposent souvent la linéarité ou peinent en termes de scalabilité. Cet article traite le défi de l'apprentissage de graphes causaux cycliques non linéaires en présence de facteurs de confusion non mesurés à l'aide de données interventionnelles.

Méthodologie : DCCD-CONF
Les auteurs proposent DCCD-CONF, un cadre différentiable pour l'apprentissage de structures causales sous ces conditions complexes. La méthodologie repose sur les composants suivants :

1. Modèle d'Équation Structurelle (SEM) avec Facteurs de Confusion Latents :
   Le système est modélisé par un Graphe Mixte Dirigé (DMG) contenant à la fois des arêtes dirigées ($i \to j$) et des arêtes bidirectionnelles ($i \leftrightarrow j$). Les arêtes bidirectionnelles représentent les facteurs de confusion cachés. Les auteurs modélisent la confusion non pas comme une variable latente distincte, mais comme des corrélations dans les termes de bruit exogène. Spécifiquement, le vecteur de bruit $Z$ suit une distribution Gaussienne $Z \sim \mathcal{N}(0, \Sigma_Z)$, où les entrées non nulles hors diagonale de la matrice de covariance $\Sigma_Z$ indiquent une confusion entre les variables.

2. Mécanisme Causal Différentiable via des Flux Implicites :
   Pour gérer les cycles et la non-linéarité, les mécanismes causaux sont modélisés à l'aide de flux implicites. Les équations structurelles sont définies par $X = F(X, Z)$, où $F$ est une fonction paramétrée par des réseaux de neurones. Pour garantir l'existence d'un point fixe unique (équilibre) et l'invertibilité, les auteurs imposent une application contractante utilisant une forme spécifique : $F(x, z) = -g_x(x) + g_z(z) + z$, où $g_x$ et $g_z$ sont des fonctions contractantes (imposées via la normalisation spectrale). Cela permet l'utilisation d'algorithmes de recherche de racines (par exemple, la méthode de Broyden) pour calculer la carte directe $z = f_x(x)$ et la carte inverse.

3. Données Interventionnelles et Graphes Mutilés :
   Le cadre utilise des interventions « chirurgicales » (dures). Lorsqu'un nœud fait l'objet d'une intervention, toutes les arêtes entrantes (dirigées et bidirectionnelles) sont supprimées, et le nœud est fixé à une valeur échantillonnée à partir d'une distribution connue. La vraisemblance des données sous ces interventions est dérivée du Jacobien de la carte directe.

4. Optimisation et Fonction de Score :
   L'objectif d'apprentissage est de maximiser la log-vraisemblance régularisée des données observées à travers plusieurs contextes interventionnels.

   • Structure du Graphe : La matrice d'adjacence est traitée comme une variable de Bernoulli paramétrée par une matrice $B$. La norme $L_1$ est utilisée comme substitut pour la régularisation de la parcimonie.
   • Déterminant du Jacobien : Le calcul du log-déterminant du Jacobien est coûteux en calcul ($O(d^2)$). Les auteurs emploient un estimateur sans biais basé sur l'expansion en série de puissance de $\log(1+x)$, tronquée de manière stochastique pour réduire le biais, combiné à l'estimateur de trace de Hutchinson.
   • Distribution des Facteurs de Confusion : La matrice de covariance $\Sigma_Z$ est mise à jour en résolvant un problème d'optimisation régularisé par la parcimonie (formulé comme une régression Lasso) pour garantir la positivité définie et la stabilité.

Principales Contributions

1. Cadre Novateur : Introduction de DCCD-CONF, le premier cadre différentiable capable d'apprendre des graphes causaux cycliques non linéaires tout en modélisant explicitement les facteurs de confusion non mesurés via un bruit Gaussien corrélé.
2. Garanties Théoriques : Les auteurs prouvent que la maximisation de la fonction de score proposée identifie la classe d'équivalence interventionnelle du graphe de vérité terrain sous des hypothèses spécifiques (incluant le fait que les données appartiennent à la classe du modèle et les propriétés de $\sigma$-séparation).
3. Efficacité Algorithmique : Développement d'une procédure d'optimisation scalable qui gère les défis computationnels des flux implicites et des déterminants Jacobiens grâce à l'estimation stochastique et aux mises à jour structurées de la covariance du bruit.

Résultats Expérimentaux
Le cadre a été évalué sur des ensembles de données synthétiques et réels :

• Données Synthétiques : DCCD-CONF a été comparé à des bases de référence de pointe (NODAGS-Flow, LLC, DAGMA, ADMG) à travers diverses variations du nombre de facteurs de confusion, de cycles, de degrés de non-linéarité et de comptages d'interventions.
  • Performance : DCCD-CONF a systématiquement obtenu une distance de Hamming structurelle (SHD) plus faible pour la récupération de graphes et des scores F1 plus élevés pour l'identification des facteurs de confusion par rapport aux bases de référence, particulièrement dans les contextes non linéaires.
  • Robustesse : La méthode a démontré sa robustesse à mesure que le nombre de cycles et de facteurs de confusion augmentait. Elle a surpassé les bases de référence à mesure que le nombre d'interventions augmentait, alors que certaines bases (comme LLC) échouent dans des contextes purement observationnels.
  • Scalabilité : La performance est restée supérieure à mesure que le nombre de nœuds passait de 10 à 80.
• Données Réelles : Le modèle a été appliqué au jeu de données de perturbation de gènes Perturb-CITE-seq (cellules de mélanome sous conditions de contrôle, de co-culture et d'IFN-$\gamma$).
  • Métrique : La vérité terrain du graphe n'étant pas disponible, la performance a été mesurée par la log-vraisemblance négative (NLL) sur les données de test mises de côté.
  • Résultat : DCCD-CONF a obtenu la NLL la plus faible pour les trois conditions, surpassant NODAGS, LLC et DCDI, suggérant une précision prédictive supérieure et une modélisation efficace de la confusion dans les systèmes biologiques.

Signification et Revendications
L'article affirme que DCCD-CONF fournit une solution unifiée pour un espace de problèmes auparavant fragmenté, traitant simultanément la non-linéarité, les cycles et les facteurs de confusion latents. Les auteurs soutiennent que leur approche offre des garanties de cohérence théorique et une supériorité pratique sur les méthodes existantes, qui sont souvent limitées aux hypothèses linéaires, aux structures acycliques ou à l'observabilité complète. Ce travail souligne la prévalence des facteurs de confusion dans les systèmes réels et démontre que la prise en compte de ces derniers via un apprentissage différentiable améliore considérablement la précision de la découverte causale. Les auteurs notent que, bien que le travail actuel suppose un bruit exogène Gaussien, les directions futures incluent l'exploration d'autres distributions de bruit, la gestion des données manquantes et l'assouplissement des hypothèses concernant les cibles d'intervention.