Résumé Technique : EML-CD – Récupération de Mécanismes Causaux via des Arbres Symboliques EML

1. Énoncé du Problème

Les méthodes actuelles de découverte causale sont confrontées à un compromis fondamental entre l'exactitude structurelle et l'interprétabilité mécaniste. Bien que les méthodes d'optimisation continue (ex. : NOTEARS, GOLEM) et les réseaux de neurones basés sur des modèles de bruit additif (ex. : GraNDAG, NOTEARS-MLP) parviennent à une grande précision dans la récupération des structures de Graphes Acycliques Dirigés (DAG), elles représentent les mécanismes causaux sous forme de réseaux de neurones "boîte noire". Comme l'ont soutenu Waxman et al. [22], l'extraction de formes fonctionnelles spécifiques à partir des poids d'un réseau de neurones est un problème mal posé ; les poids n'identifient pas de manière unique le mécanisme sous-jacent. Par conséquent, les méthodes existantes ne peuvent pas fournir d'équations en forme close pour prédire les effets d'intervention ou analyser quantitativement les fonctions d'effet causal. Les outils d'explication post-hoc (SHAP, LIME) n'offrent que des approximations locales, et les modèles basés sur des splines (CAM) ne peuvent pas être extraits sous forme d'équations symboliques. Aucun cadre existant ne permet de récupérer conjointement la structure causale et des mécanismes non linéaires arbitraires en forme close au sein d'un processus d'apprentissage unique.

2. Méthodologie : EML-CD

EML-CD (EML-based Causal Discovery) comble cette lacune en intégrant l'opérateur EML [14] dans l'apprentissage de la structure causale. L'opérateur EML, défini comme $eml(x, y) = \exp(x) - \ln(y)$, est fonctionnellement complet pour les fonctions élémentaires lorsqu'il est composé via une grammaire $S \to 1 \mid eml(S, S)$.

2.1 Représentation par Arbre EML

Au lieu d'utiliser des réseaux de neurones, EML-CD représente chaque mécanisme d'arête $f_{j,i}(X_i)$ comme un arbre binaire EML à porte (gated EML binary tree) de profondeur bornée $D$.

• Structure : L'arbre est un arbre binaire complet où les nœuds internes appliquent l'opérateur EML ou le contournent via un mécanisme de porte (gating).
• Porte (Gating) : Une porte de profondeur $\sigma(\gamma)$ contrôle la complexité. Si $\gamma \ll 0$, le nœud contourne l'opération EML (dégénérant en un chemin linéaire) ; si $\gamma \gg 0$, l'opération EML est active. Cela permet au modèle d'effectuer une sélection pilotée par les données entre mécanismes linéaires et non linéaires.
• Entraînement : Le modèle emploie un programme de recuit déterministe (deterministic annealing schedule) pour la température de la porte $\tau_g$, passant de 1 à 0,02 pendant l'entraînement. Cela garantit que les gradients circulent librement au début, tandis que les portes convergent vers des états quasi-binaires, produisant une équation en forme close avec un seuillage dur qui représente fidèlement la fonction douce entraînée.
• Stabilité : Pour éviter la divergence numérique (ex. : à cause de $\exp$ ou $\ln$), l'opérateur limite les entrées et sorties à des bornes spécifiques (ex. : l'entrée de $\exp$ à $[-2, 2]$, l'argument de $\ln$ plancher à 0,5).

2.2 Inférence en Deux Phases

Le processus d'apprentissage se compose de deux phases distinctes :

1. Pré-entraînement des mécanismes : Pour toutes les $d(d-1)$ paires potentielles $(i, j)$, un arbre EML $T_{j,i}$ est entraîné via Adam pour minimiser l'erreur quadratique moyenne (MSE). La meilleure des trois initialisations aléatoires est sélectionnée pour chaque paire. Cette phase produit des scores $R^2$ (pouvoir prédictif) et les paramètres de l'arbre entraîné.
2. Construction de DAG gloutonne : Les arêtes sont ajoutées au graphe par ordre décroissant de leurs scores $R^2$, en maintenant strictement l'acyclicité. Les arêtes dont le $R^2$ est inférieur à un seuil $\tau$ sont exclues. Un élagage rétroactif optionnel utilisant le BIC (basé sur l'OLS) peut également supprimer les arêtes spécieuses.

2.3 Identifiabilité et Direction

EML-CD oriente les arêtes en fonction de l'asymétrie de la qualité d'ajustement ($R^2_{i \to j}$ vs $R^2_{j \to i}$) plutôt que par des tests d'indépendance des résidus. La restriction de la classe de fonctions aux arbres EML rend le mécanisme anticausal plus difficile à représenter, abaissant naturellement son $R^2$. Cela sert de proxy heuristique pour l'identifiabilité du Modèle de Bruit Additif (ANM).

3. Contributions Clés

1. Intégration de Framework : EML-CD est le premier cadre intégrant directement les arbres symboliques EML dans l'apprentissage de la structure causale, attachant des équations en forme close et des jacobiennes analytiques à chaque arête détectée.
2. Interprétabilité sans Sacrifice : Il démontre que l'ajout d'une interprétabilité symbolique ne dégrade pas nécessairement la précision de la récupération de la structure par rapport aux baselines de l'état de l'art.
3. Récupération Fidèle des Mécanismes : Dans des environnements contrôlés, la méthode récupère la forme fonctionnelle des fonctions élémentaires avec une haute fidélité, plutôt que de simplement ajuster une courbe.
4. Effets Causaux Analytiques : En dérivant les équations directement de la structure de l'arbre, EML-CD permet le calcul de jacobiennes analytiques ($\partial X_j / \partial X_i$), fournissant une quantification de l'effet causal dépendant de l'état, indisponible via les coefficients linéaires ou les dérivées numériques des réseaux de neurones.

4. Résultats Expérimentaux

4.1 Données Réelles : Signalisation Protéique de Sachs ($d=11$)

• Récupération de Structure : EML-CD a atteint une distance de Hamming structurelle (SHD) de 11,2 ± 0,4 (moyenne sur 5 graines). C'est comparable à PC et GES (SHD=11) et meilleur que CAM (SHD=12).
• Précision/Rappel : Il a obtenu la précision la plus élevée (0,756) parmi toutes les méthodes, bien que le rappel soit plus faible (0,365), indiquant une préférence pour les arêtes à haute confiance.
• Mécanismes : La méthode a récupéré avec succès des voies connues (ex. : Raf $\to$ Mek) avec des équations en forme close. Par exemple, elle a identifié un mécanisme non linéaire pour PKC $\to$ P38 avec une jacobienne dépendante de l'état allant de -5,4 à +2,3, et un mécanisme linéaire pour Erk $\to$ Akt.

4.2 Récupération Bivariée Contrôlée

Dans un test avec des fonctions de vérité terrain connues ($N=2000$), EML-CD a récupéré 10 familles de fonctions élémentaires sur 11 (linéaire, quadratique, cubique, cos, tanh, exp, sqrt, sigmoid, log, abs) avec une corrélation de forme hors échantillon $\ge 0,96$. Seul le sinus à haute fréquence ($\sin(1.5x)$) a montré une récupération partielle (0,84).

4.3 Benchmark Symbolique Synthétique (S-Sym)

• Stabilité vs Dictionnaires Fixes : Sur un benchmark de SEM symbolique, EML-CD a obtenu un $f$-MSE de mécanisme moyen de 3,67, nettement inférieur et plus stable que le dictionnaire SINDy (moyenne 7644). La baseline SINDy a souffert d'une extrapolation catastrophique sur une graine.
• Récupération de Structure : Le SHD structurel (14,0) correspondait à la baseline du dictionnaire SINDy mais restait inférieur aux optimiseurs linéaires spécialisés.
• Limitation : Bien que stable, la méthode n'a pas récupéré de manière fiable les formes hautement non linéaires (ex. : saturation de tanh) à la profondeur 2 avec la taille d'échantillon donnée.

4.4 Chambres Causales (Sous-ensemble Light-Tunnel)

Sur un système physique régi par la loi de Malus ($\cos^2(\theta_1 - \theta_2)$), un modèle EML-CD de profondeur 2 a amélioré le F1 (0,444) par rapport à l'OLS-BIC linéaire (0,273). Cependant, les modèles de profondeur 3 ont échoué dans ce contexte de petit échantillon. L'incorporation de feuilles sensibles aux interactions et de métadonnées d'intervention a amélioré la précision à 1,000, bien que le rappel soit resté limité.

5. Signification et Revendications

L'article positionne EML-CD comme une preuve de concept démontrant que l'interprétabilité symbolique des mécanismes causaux peut être intégrée à l'apprentissage de la structure sans sacrifier l'exactitude structurelle.

• Réussite Centrale : Il contourne l'aspect mal posé de l'extraction de mécanismes par réseaux de neurones en restreignant l'espace de recherche à une classe de fonctions EML de dimension finie et interprétable.
• Valeur Pratique : La capacité de produire des jacobiennes analytiques permet la prédiction quantitative des effets d'intervention et l'analyse causale dépendante de l'état, ce qui est impossible avec les méthodes de DAG standard.
• Modestie : Les auteurs reconnaissent explicitement les limites :
  • La méthode suppose actuellement des mécanismes additifs univariés et ne peut pas représenter nativement les interactions entre variables (ex. : $\cos^2(\theta_1 - \theta_2)$) sans extensions spécifiques.
  • La récupération structurelle sur les benchmarks synthétiques correspond aux baselines de dictionnaires mais ne surpasse pas encore les optimiseurs linéaires spécialisés.
  • La stabilité des équations récupérées à travers les graines nécessite encore des améliorations.
  • L'opérateur EML lui-même est un développement récent qui n'a pas encore été validé de manière indépendante à grande échelle.

Le travail conclut qu'EML-CD fournit les premières preuves que l'attachement d'équations en forme close aux graphes causaux est réalisable, offrant une voie vers des modèles causaux transparents et analytiquement traitables.