Causally-Guided Automated Feature Engineering with Multi-Agent Reinforcement Learning

1. Problématique et Contexte

L'ingénierie de caractéristiques automatisée (AFE) vise à construire automatiquement des représentations de haute utilité à partir de données tabulaires brutes. Cependant, les méthodes existantes reposent principalement sur des heuristiques statistiques (corrélations). Cette approche présente une faiblesse majeure : les caractéristiques générées sont souvent fragiles et échouent lorsque les distributions de données subissent des changements (décalages de distribution ou distribution shifts), ce qui est fréquent dans des domaines à haut risque comme la chimie, la fabrication industrielle ou la santé.

Le problème central est que les corrélations statistiques peuvent être spurious (fausses) et ne pas refléter les mécanismes causaux sous-jacents. Lorsque les conditions opérationnelles évoluent, ces corrélations disparaissent, entraînant une perte de performance des modèles. Il existe un besoin critique de méthodes qui préservent les relations causales avec la variable cible pour assurer la robustesse, l'interprétabilité et la généralisation.

2. Méthodologie : Le Framework CAFE

CAFE reformule l'AFE comme un processus de décision séquentiel guidé par la causalité, combinant la découverte de causalité et l'apprentissage par renforcement (RL) multi-agent. Le framework se déroule en deux phases distinctes :

Phase I : Découverte de Graphes Causaux et Priors Inductifs

L'objectif est de structurer l'espace des caractéristiques avant la génération.

• Découverte de Causalité : Un graphe acyclique dirigé (DAG) est appris sur l'ensemble des caractéristiques et la variable cible ($Y$) en utilisant l'algorithme NOTEARS avec régularisation Lasso. Cela permet d'identifier les relations causales tout en filtrant les connexions faibles ou spurious.
• Regroupement Causal : Les caractéristiques sont catégorisées en trois groupes basés sur leur influence causale par rapport à $Y$ :
  1. Directes : Causes directes de la cible.
  2. Indirectes : Causes médiées par d'autres variables (chemins de longueur $\ge 2$).
  3. Autres : Variables non causales ou corrélées de manière spurious.
• Priorité Inductive Douce : Ces groupes servent de "priors inductifs souples" (soft inductive priors). Ils guident la recherche sans imposer de contraintes rigides, permettant au système de rester flexible en cas d'incertitude dans la découverte causale.

Phase II : Apprentissage par Renforcement Multi-Agent (MARL)

Cette phase explore l'espace exponentiel des transformations de caractéristiques en utilisant une architecture de Deep Q-Learning (DQN) en cascade avec trois agents spécialisés :

1. Agent de Groupe Principal ($\pi_1$) : Sélectionne un groupe causal (Direct, Indirect, Autre) pour l'opération.
2. Agent d'Opérateur ($\pi_o$) : Choisit l'opérateur de transformation (arithmétique, interaction, fonctions unaires/binaires) depuis une bibliothèque prédéfinie.
3. Agent de Groupe Secondaire ($\pi_2$) : Sélectionne un groupe partenaire pour les opérations binaires (ex: $f_1 + f_2$).

Stratégies Clés :

• Exploration Guidée par la Causalité : Les agents privilégient les combinaisons causalement plausibles (ex: combiner des causes directes entre elles ou avec des causes indirectes) tout en utilisant une exploration adaptative (Top-K Mutual Information, échantillonnage de diversité) pour éviter les biais de découverte.
• Fonction de Récompense Shapée Causalement : La récompense $R_t$ ne se base pas uniquement sur la performance prédictive ($R_{perf}$), mais intègre un bonus causal ($\Psi_{causal}$) qui favorise l'utilisation de caractéristiques causales, tout en pénalisant la complexité excessive et en encourageant la diversité.
• Sécurité Numérique : Des garde-fous sont appliqués pour éviter les erreurs numériques (divisions protégées, logarithmes de valeurs absolues, etc.).

3. Contributions Principales

1. Formulation Causale de l'AFE : Passage d'une approche basée sur la corrélation à un processus de décision séquentiel guidé par la causalité, exploitant des mécanismes stables.
2. Trois Principes Fondamentaux :
   • Biais inductif causal souple : Utilisation de la structure causale comme guide flexible plutôt que contrainte rigide.
   • Exploration consciente de la causalité : Réduction de la complexité de recherche par regroupement causal.
   • Récompenses façonnées par la causalité : Équilibre entre utilité prédictive, cohérence causale et diversité.
3. Framework CAFE : Développement d'une architecture à deux phases intégrant la découverte de graphes et le RL multi-agent pour construire des transformations de caractéristiques informées par la causalité.
4. Validation Empirique Rigoureuse : Tests sur 15 benchmarks publics (classification et régression) démontrant des gains de performance, une meilleure robustesse aux décalages de distribution et une stabilité d'explication accrue.

4. Résultats Expérimentaux

Les expériences ont été menées sur 15 jeux de données publics (Kaggle, UCI, OpenML) en comparaison avec 10 méthodes de référence (statistiques, RL, LLM).

• Performance Prédictive : CAFE surpasse les méthodes de base dans 13 des 15 jeux de données, avec des améliorations allant jusqu'à 7 % (mesurées par Macro-F1 pour la classification et 1-RAE pour la régression).
• Robustesse aux Décalages de Distribution (Covariate Shift) :
  • Sous des décalages de distribution contrôlés, CAFE réduit la chute de performance d'environ 4 fois par rapport à une base de RL multi-agent non-causal (GRFG).
  • Dégradation moyenne de 7,1 % pour CAFE contre 28,1 % pour GRFG.
• Efficacité de Convergence : Bien que chaque épisode soit plus coûteux en calcul (due à la découverte causale), CAFE converge vers la performance optimale en 40 à 70 % d'épisodes en moins, rendant le temps total de convergence compétitif.
• Interprétabilité et Stabilité : Les caractéristiques générées par CAFE produisent des explications (valeurs SHAP) beaucoup plus stables face au bruit d'entrée, avec une réduction de la variance des explications d'environ 58,6 %. Cela indique que le modèle repose sur des mécanismes stables plutôt que sur des corrélations fragiles.

5. Signification et Impact

L'article CAFE démontre que l'intégration de la structure causale dans l'ingénierie de caractéristiques automatisée n'est pas seulement théoriquement souhaitable, mais pratiquement supérieure.

• Robustesse Opérationnelle : Pour les applications critiques (industrie, santé, finance), où les conditions changent, CAFE offre des modèles plus fiables qui ne s'effondrent pas lors de changements de distribution.
• Efficacité de la Recherche : L'utilisation de priors causaux transforme une recherche aveugle et massive en une exploration stratégique, réduisant le temps nécessaire pour trouver des transformations utiles.
• Interprétabilité : En favorisant les relations causales, le framework génère des ensembles de caractéristiques plus compacts et dont les attributions sont plus stables, facilitant la confiance et l'audit des modèles d'IA.

En conclusion, CAFE établit un nouveau paradigme pour l'IA robuste, prouvant que l'utilisation de la causalité comme biais inductif souple permet de surmonter les limites des approches purement statistiques dans des environnements dynamiques et incertains.