Résumé technique : Entraînement au moment du test pour l'apprentissage causal supervisé (TTT-SCL)

1. Énoncé du problème

L'apprentissage causal supervisé (SCL) est apparu comme une alternative prometteuse à la découverte causale non supervisée traditionnelle, en formulant la tâche comme un problème d'apprentissage supervisé. Dans le SCL standard, un modèle est pré-entraîné sur un vaste ensemble de données statique d'instances causales synthétiques (comprenant des graphes causaux et leurs ensembles de données échantillonnés correspondants) pour apprendre une correspondance entre les données observationnelles et les structures causales.

Cependant, cet article identifie que les pratiques actuelles de SCL souffrent de défis significatifs de généralisation hors distribution (OOD), limitant leur applicabilité dans le monde réel. Les auteurs révèlent trois limitations spécifiques du paradigme de pré-entraînement statique :

1. Écart synthétique-réel : Une forte performance sur des benchmarks synthétiques ne se traduit pas par des données réelles (par exemple, l'ensemble de données protéiques Sachs).
2. Fragilité face aux décalages de distribution : Les modèles se dégradent considérablement lorsque les instances de test diffèrent des données d'entraînement en termes de structure de graphe, de mécanismes causaux ou de distributions de bruit.
3. Échec de la généralisation compositionnelle : Même lorsqu'ils sont entraînés sur tous les composants individuels (par exemple, tous les types de mécanismes, types de graphes et distributions de bruit séparément), les modèles échouent à généraliser à de nouvelles combinaisons de ces composants observées uniquement au moment du test.

Le problème central est que la pré-entraînement statique visant la diversité ne peut pas s'adapter à la distribution spécifique d'une instance de test donnée, conduisant à une faible robustesse dans des scénarios réalistes.

2. Méthodologie : TTT-SCL

Pour répondre à ces limitations, les auteurs proposent l'Entraînement au moment du test pour l'apprentissage causal supervisé (TTT-SCL). Au lieu de s'appuyer sur un seul modèle pré-entraîné fixe, le TTT-SCL génère dynamiquement un ensemble de données d'entraînement personnalisé au moment du test, explicitement aligné sur l'instance de test spécifique ($D_{test}$).

Flux de travail principal

Le cadre fonctionne en trois étapes principales :

1. Génération d'un ensemble de données d'entraînement aligné causalement :

   • Fonction de score : La méthode utilise une fonction de score $score(G, D_{test}) = AD(G, D_{test}) - \|A_G\|_0$, où $AD$ (Alignement de la Distribution) mesure le logarithme de la vraisemblance moyenne des variables sous les mécanismes induits par le graphe $G$, et $\|A_G\|_0$ pénalise la complexité du graphe (sparsité).
   • Mécanisme induit par la structure (SIM) : Pour un graphe candidat, le SIM ajuste les mécanismes causaux et les distributions de bruit directement sur $D_{test}$ par régression. Cela permet d'évaluer la vraisemblance et de générer des données synthétiques correspondant à la distribution de test.
   • Raffinement stochastique du graphe : Puisque la recherche exhaustive de DAG est intraitable, la méthode commence par un graphe initial (par exemple, issu de PC ou NOTEARS) et effectue un raffinement stochastique itératif. Elle propose des modifications locales (ajouts, suppressions, inversions d'arêtes) et les accepte en fonction d'une probabilité proportionnelle à l'amélioration du score.
   • Synthèse de données : Les $K$ meilleurs graphes à haut score trouvés lors du raffinement sont utilisés pour générer un ensemble de données d'entraînement synthétique. Pour chaque graphe $G_k$, les mécanismes sont régressés sur $D_{test}$, et un ensemble de données synthétique $D_k$ est échantillonné vers l'avant. L'ensemble de données d'entraînement final se compose de paires $\{(D_k, G_k)\}$.

2. Entraînement au moment du test :

   • Un modèle d'apprentissage causal supervisé (par exemple, AVICI) est entraîné à partir de zéro sur cet ensemble de données généré dynamiquement et spécifique au test.
   • Le modèle entraîné est ensuite utilisé pour inférer le graphe causal pour $D_{test}$.

3. Lien théorique :

   • L'article établit que les méthodes classiques de découverte causale basée sur le score sont un cas particulier de TTT-SCL. Si le prédicteur supervisé est un classifieur du 1-plus-proche-voisin basé sur le score, le TTT-SCL se réduit à la sélection du graphe unique à plus haut score. Le TTT-SCL généralise cela en utilisant la collection de graphes à haut score pour entraîner un modèle capable d'exploiter des motifs plus riches et de mieux gérer l'incertitude liée aux échantillons finis qu'une estimation ponctuelle unique.

3. Contributions clés

• Identification des limitations : Les auteurs démontrent systématiquement que le pré-entraînement statique SCL échoue dans trois domaines critiques : le transfert synthétique-réel, la robustesse face aux décalages de distribution et la généralisation compositionnelle.
• Cadre TTT-SCL : Ils introduisent un nouveau cadre qui déplace le paradigme de la « diversité » (pré-entraînement statique) vers la « concentration » (adaptation dynamique au moment du test).
• Unification théorique : Le travail fournit une base théorique reliant le TTT-SCL aux méthodes basées sur le score, montrant que la sélection basée sur le score est une configuration restreinte du cadre proposé.
• Module de génération efficace : Un module pratique est conçu pour générer efficacement des ensembles de données d'entraînement alignés causalement en utilisant un raffinement stochastique guidé par le score et le SIM.

4. Résultats expérimentaux

Des expériences ont été menées sur des benchmarks synthétiques, des données pseudo-réelles (SynTReN) et des données réelles (ensemble de données Sachs).

• Performance sur les données réelles : Alors que la forte ligne de base pré-entraînée AVICI (scm-v0) a atteint un AUROC élevé (97,8) sur des données synthétiques correspondant à sa distribution d'entraînement, elle a chuté considérablement sur l'ensemble de données Sachs réel (62,3). En revanche, le TTT-SCL (utilisant l'initialisation NOTEARS) a atteint 78,9 AUROC sur Sachs, surpassant significativement à la fois la ligne de base SCL pré-entraînée et les méthodes traditionnelles comme PC (67,1).
• Robustesse face aux décalages : Le TTT-SCL a maintenu des performances de pointe à travers divers décalages de distribution (mécanismes, graphes et bruit) et des tests de généralisation compositionnelle où les modèles statiques ont échoué.
• Études d'ablation :
  • La suppression de la pénalité de sparsité de la fonction de score a entraîné une baisse constante des performances, confirmant la nécessité de pénaliser la complexité du graphe.
  • L'utilisation d'une graine « intelligente » (NOTEARS) a surpassé une graine aléatoire, mais l'augmentation du budget de recherche a permis à la variante à graine aléatoire de s'approcher des performances de la graine intelligente, indiquant que la recherche stochastique elle-même est robuste.
• Comparaison avec les méthodes basées sur le score : Une analyse par étapes a montré que la sortie finale du TTT-SCL (modèle entraîné) surpassait systématiquement le graphe à plus haut score trouvé lors de la recherche, validant la valeur ajoutée de la phase d'apprentissage supervisé par rapport à la simple maximisation du score.

5. Signification et revendications

L'article affirme que le TTT-SCL représente un changement de paradigme dans l'apprentissage causal supervisé. En s'éloignant du pré-entraînement statique visant la diversité vers une adaptation dynamique au moment du test, la méthode répond aux défis fondamentaux de généralisation hors distribution qui ont entravé l'utilité pratique du SCL.

Les auteurs affirment que le TTT-SCL :

• Réussit à combler l'écart entre les benchmarks synthétiques et les données réelles.
• Fournit une solution robuste pour la découverte causale dans des conditions de décalage de distribution et d'exigences de généralisation compositionnelle.
• Offre un cadre flexible capable d'accueillir différentes conceptions de scores et architectures de modèles tout en héritant des garanties théoriques des fonctions de score sous-jacentes.

Le travail conclut que la découverte causale robuste dans des contextes réels nécessite une adaptation dynamique à l'instance de test spécifique, une capacité que le TTT-SCL fournit grâce à son mécanisme d'entraînement au moment du test.