Résumé Technique : Élicitation de Préférences Causales (CaPE)

Énoncé du Problème

L'apprentissage de structures causales à partir de données observationnelles est intrinsèquement difficile en raison des classes d'équivalence de Markov, des surfaces de vraisemblance multimodales et de l'incapacité des méthodes purement fondées sur les données à résoudre une grande partie de la structure du graphe. Bien que les experts possèdent des connaissances qualitatives concernant les mécanismes plausibles, les arêtes interdites ou les directions d'influence attendues, les méthodes existantes pour intégrer ces connaissances sont généralement statiques. Elles encodent l'apport de l'expert sous forme de contraintes strictes ou de priors fixes, ignorant l'incertitude de l'expert, ses biais systématiques et la rareté de son temps. À l'inverse, les méthodes de découverte causale active qui optimisent les interventions expérimentales échouent souvent à modéliser les jugements subjectifs des experts ou à les traiter de manière déterministe.

Cet article traite cette lacune en introduisant la Élicitation de Préférences Causales (CaPE), un cadre probabiliste d'apprentissage actif « avec l'expert dans la boucle » (expert-in-the-loop). L'objectif est d'interroger activement un expert sur des relations d'arêtes locales (existence et direction) afin de concentrer une distribution postérieure sur les Graphes Dirigés Acycliques (DAG) plus efficacement que les approches aléatoires ou statiques, particulièrement sous des budgets de requêtes restreints.

Méthodologie

1. Aperçu du Cadre

CaPE fonctionne comme un processus d'apprentissage actif bayésien séquentiel. Il suppose l'accès à un postérieur observationnel initial $q_0(W | X)$ dérivé de n'importe quelle méthode de découverte causale de type « boîte noire » (par exemple, MCMC, agrégation de bootstrap ou inférence variationnelle). L'apprenant sélectionne de manière itérative des paires de variables $(i, j)$ à soumettre à un expert, observe une réponse catégorielle bruitée $Y_{ij} \in \{0, 1, 2\}$ (représentant $j \to i$, $i \to j$, ou aucune arête), et met à jour le postérieur sur les DAG pondérés.

2. Modèle de Vraisemblance de l'Expert

L'innovation centrale est un modèle d'expert logistique hiérarchique et flexible $p_\theta(Y_{ij} | W)$ qui associe un DAG pondéré candidat $W$ à une réponse catégorielle à trois voies.

• Scores de Direction Locaux : Pour une paire $(i, j)$, le modèle calcule un score de direction $s_{i \to j}(W)$ basé sur l'amplitude du poids de l'arête et des caractéristiques structurelles optionnelles (ex: support de v-structure, risque de cycle).
• Probabilités Hiérarchiques :
  • Existence de l'Arête : La probabilité qu'une arête existe est modélisée via une fonction logistique de l'évidence absolue maximale entre les deux directions.
  • Direction : Conditionnellement à l'existence, la probabilité d'une orientation spécifique est modélisée via une fonction logistique de la différence entre les scores de direction.
• Paramètres : Le modèle inclut des hyperparamètres ($\beta_{edge}, \beta_{dir}$) contrôlant la fiabilité et la décisivité de l'expert, permettant de modéliser des comportements d'experts hétérogènes et incertains.

3. Inférence Postérieure via l'Approximation par Particules

Étant donné la croissance superexponentielle de l'espace des DAG, le calcul exact du postérieur est intraitable. CaPE emploie une approche de Monte Carlo Séquentiel (SMC) :

• Représentation : Le postérieur est approximé par un ensemble de particules pondérées (DAG candidats).
• Mise à jour : Lors de la réception d'une réponse de l'expert, les poids des particules sont mis à jour via un repondérage par importance en utilisant la vraisemblance de l'expert.
• Rééchantillonnage : Pour éviter la dégénérescence des poids, les particules sont rééchantillonnées lorsque la Taille d'Échantillon Effective (ESS) tombe en dessous d'un certain seuil.
• Rajeunissement : Pour maintenir la diversité après le rééchantillonnage, un noyau de Metropolis-Hastings léger est appliqué, proposant de petites modifications de graphes (inversions d'arêtes, ajouts, suppressions) tout en respectant strictement l'acyclicité.

4. Stratégie de Sélection de Requêtes

Le cadre sélectionne des requêtes pour maximiser le Gain d'Information Attendu (EIG) concernant la structure latente du DAG.

• Fonction d'Acquisition : L'EIG est formulé comme l'information mutuelle entre le DAG $W$ et la réponse de l'expert $Y_{ij}$. Cela équivaut à l'objectif BALD (Bayesian Active Learning by Disagreement).
• Calcul : Sous l'approximation par particules, l'EIG est calculé efficacement en comparant l'entropie de la distribution prédictive marginale (incertitude épistémique + aléatoire) par rapport à l'entropie conditionnelle moyenne du postérieur (incertitude aléatoire).
• Filtrage : Pour réduire le coût computationnel, une étape de filtrage sélectionne d'abord les $k$ meilleures paires présentant la plus haute incertitude marginale d'existence d'arête avant de calculer l'EIG complet pour la sélection finale.

Principales Contributions

1. Cadre Général : Un cadre modulaire pour la découverte causale avec l'expert dans la boucle qui combine des posteriors observationnels arbitraires avec un feedback d'expert séquentiel, étendant les travaux antérieurs sur la découverte augmentée par l'expert et l'apprentissage de structure actif.
2. Modèle d'Expert Probabiliste : Un modèle logistique hiérarchique qui assigne des étiquettes catégorielles à trois voies basées sur des scores de direction locaux, modélisant explicitement le bruit, l'incertitude et le biais de l'expert plutôt que de traiter l'apport de l'expert comme des contraintes déterministes.
3. Mise à jour par Particules : Un schéma de mise à jour bayésienne des posteriors de DAG qui intègre les réponses de l'expert via un repondérage par importance, un rééchantillonnage déclenché par l'ESS et un rajeunissement par Metropolis-Hastings, garantissant l'acyclicité et la diversité.
4. Acquisition Traitable : Une dérivation d'un objectif EIG de type BALD opérant sur des distributions catégorielles de faible dimension, rendant l'apprentissage actif informationnel sur l'espace des DAG computationnellement réalisable.
5. Validation Empirique : Démonstrations sur des données synthétiques, le réseau de signalisation protéique de Sachs et le benchmark de perturbation de gènes humains CausalBench, montrant une concentration du postérieur accélérée et une meilleure récupération structurelle par rapport aux bases de référence aléatoires ou statiques.

Résultats Expérimentaux

L'article évalue CaPE à travers trois configurations :

• DAG Synthétiques : CaPE surpasse significativement le questionnement aléatoire (RND), l'échantillonnage par incertitude (UNC) et une base de référence EIG statique (STE) dans la réduction de l'entropie prédictive, de la distance de Hamming structurelle (SHD) et l'augmentation de la probabilité de classe vraie attendue (ETCP).
• Robustesse : Les expériences avec des modèles d'experts mal spécifiés (fiabilité hétérogène, biais directionnel, abstention et bruit élevé) montrent que CaPE reste compétitif, indiquant que la méthode est robuste aux écarts non adverses réalistes par rapport au modèle d'expert supposé.
• Signalisation Protéique de Sachs : En utilisant uniquement des données observationnelles (853 échantillons) et un réseau de référence comme oracle, CaPE réduit la SHD d'environ 14 arêtes par rapport au postérieur initial après 40 requêtes et améliore le F1 d'orientation de plus de 0,38.
• CausalBench (K562) : Sur un ensemble de données de perturbation de 50 gènes, CaPE atteint une performance supérieure en AUPRC dirigé et en précision Top-K par rapport aux bases de référence, démontant des gains monotones à mesure que le budget de requêtes augmente, là où les bases de référence statiques saturent rapidement.
• Prior DAG-GFlowNet : L'initialisation de CaPE avec un fort prior observationnel (entraîné via GFlowNet) améliore davantage les performances, soulignant la modularité du cadre.

Signification et Revendications

L'article affirme que CaPE fournit une approche fondée sur des principes pour transformer les intuitions qualitatives des experts en une séquence budgétée de questions ciblées. Il positionne l'élicitation d'expert comme un paradigme complémentaire à la conception d'interventions expérimentales, particulièrement précieux dans les domaines où les interventions sont coûteuses, éthiquement contraintes ou déjà fixées.

Les auteurs soulignent que leur méthode ne prétend pas résoudre la découverte causale en l'absence d'hypothèses, mais plutôt concentre la masse postérieure sur le vrai graphe sous les hypothèses de modèle causal (par exemple, suffisance causale, Markov et fidélité). Le travail démontre qu'une interaction avec l'expert soigneusement budgétée peut accélérer considérablement la concentration du postérieur à travers des synthétiques et des benchmarks réels, même sous des formes réalistes de mauvaise spécification du modèle d'expert. Le cadre est présenté comme une étape vers la fermeture de la boucle entre l'inférence causale probabiliste et le jugement humain expert, améliorant l'efficacité et la transparence de la génération d'hypothèses scientifiques dans les domaines de la biologie et de la médecine.