Résumé Technique : Jeux de Prédiction-Intervention et Ensembles Invariants

Formulation du Problème

L'article introduit les jeux de prédiction-intervention, une classe spécifique de jeux de Stackelberg à deux joueurs impliquant un meneur et un suiveur.

• Le Meneur : S'engage à une fonction de prédiction $f: \mathcal{X} \to \mathcal{A}$ basée sur des données d'entraînement observationnelles générées par un Modèle Causal Structurel (SCM) $\mathcal{C}_0$. L'objectif du meneur est de minimiser le risque (par exemple, l'erreur quadratique moyenne ou la perte de classification) sous la distribution induite par la réaction du suiveur.
• Le Suiveur : Observe la fonction déployée $f$ et intervient stratégiquement sur des covariables spécifiques (enfants d'un nœud d'intervention $E$ dans le graphe causal) pour maximiser sa propre utilité $V^{foll}$. L'intervention du suiveur peut modifier les assignations structurelles du SCM, potentiellement en ajoutant de nouvelles arêtes au graphe causal, déplaçant ainsi la distribution de test.
• Le Défi : Le meneur fait face à un problème d'optimisation bi-niveau : $\min_f \sup_{e \in E^*(f)} R^{lead}_e(f)$, où $E^*(f)$ est l'ensemble des environnements maximisant l'utilité du suiveur. Cela est généralement difficile à résoudre, surtout lorsque l'objectif du suiveur est inconnu ou lorsque le meneur ne possède pas une connaissance complète du graphe causal.

Méthodologie

Les auteurs proposent des stratégies basées sur des sous-ensembles invariants de covariables pour assurer une robustesse face aux interventions du suiveur.

1. Ensembles Invariants et la Couverture Stable

L'insight théorique central est que les prédicteurs basés sur des sous-ensembles invariants (ensembles $S$ où $Y \perp\!\!\perp E \mid X_S$) sont robustes aux décalages de covariables induits par des interventions qui n'affectent pas la distribution conditionnelle $Y \mid X_S$.

• Parents Causaux ($PA(Y)$) : Un choix courant en prédiction stratégique causale. Bien que robuste aux interventions sur les descendants de $Y$, il peut être sous-optimal si des enfants non-intervenus de $Y$ portent des informations stables.
• Couverture Stable ($SB(Y)$) : Les auteurs utilisent la couverture stable, définie comme $SB(Y) := PA(Y) \cup (CH(Y) \setminus DE(Y)_{forb}) \cup PA(CH(Y) \setminus DE(Y)_{forb})$, où $DE(Y)_{forb}$ représente les enfants intervenus de $Y$ et leurs descendants.
  • Propriété Clé : $SB(Y)$ est un sous-ensemble invariant qui capture plus d'informations sur $Y$ que $PA(Y)$ seul, tout en excluant les variables manipulables.
  • Indépendance du Graphe : Sous des hypothèses légères sur les ensembles d'actions du suiveur, la couverture stable calculée sur le DAG d'entraînement ($G_0$) est identique à celle du DAG de déploiement ($G$), permettant au meneur de la calculer sans connaître les arêtes spécifiques ajoutées par le suiveur.

2. Garanties Théoriques

L'article établit deux résultats théoriques principaux :

• Domination sur les Parents : Pour deux classes courantes d'objectifs de suiveur (maximisation du risque adversarial et maximisation de la prédiction pénalisée par le coût), les prédicteurs basés sur la couverture stable ($f_{SB(Y)}$) sont garantis d'être au moins aussi bons, et souvent meilleurs, que ceux basés sur les parents causaux ($f_{PA(Y)}$). Plus précisément, $\sup_{e \in E^*(f_{SB(Y)})} R_e(f_{SB(Y)}) \leq \sup_{e \in E^*(f_{PA(Y)})} R_e(f_{PA(Y)})$.
• Optimalité du Cas Pire : Le risque post-intervention du meneur est borné supérieurement par le risque du cas pire sur toutes les interventions autorisées. Les auteurs prouvent que sous des conditions spécifiques (Hypothèses A1 ou A2 concernant les "interventions fortes"), le prédicteur à couverture stable est optimal au cas pire parmi tous les prédicteurs mesurables. Ils fournissent également des contre-exemples montrant que ces conditions ne peuvent être abandonnées en général.

3. Méthodes d'Apprentissage pour Graphes Inconnus

Lorsque le graphe causal est inconnu, les auteurs proposent des méthodes pilotées par les données pour identifier des sous-ensembles invariants :

• Prédictif le Plus Invariant (IMP) : Sélectionne le sous-ensemble invariant ayant le score prédictif le plus élevé.
• Classification Stabilisée (SC) : Une méthode d'ensemble étendant la "Régression Stabilisée" à la classification. Elle agrège les prédicteurs sur tous les sous-ensembles passant un test d'invariance et un seuil de prédictivité, pondérés uniformément. Cette approche ne nécessite pas de connaissance préalable du graphe causal.

Résultats Clés

La méthodologie a été validée par des expériences synthétiques et réelles :

1. Expériences Synthétiques :

   • Dans les SCM linéaires-gaussiens et non linéaires, les prédicteurs basés sur la couverture stable ($SB(Y)$) ont systématiquement surpassé ceux basés sur les parents causaux ($PA(Y)$) et les prédicteurs utilisant toutes les variables.
   • Les prédicteurs à couverture stable ont maintenu une Erreur Quadratique Moyenne (MSE) constante (ou quasi-constante) à travers des bornes d'intervention variables, tandis que les prédicteurs utilisant toutes les variables sont devenus hautement instables à mesure que la force de l'intervention augmentait.
   • Dans le cadre non linéaire, les erreurs de régression sur des échantillons finis ont causé une légère instabilité dans les prédicteurs invariants, mais celle-ci a diminué à mesure que la taille de l'échantillon d'entraînement augmentait, confirmant les attentes théoriques.

2. Données Réelles (Chambres Causales) :

   • En utilisant un dispositif physique de tunnel lumineux, les auteurs ont simulé un jeu de prédiction-intervention où un suiveur pouvait manipuler les lectures de capteurs.
   • Lorsque le graphe causal était supposé connu (mais potentiellement incorrect en raison de confusions cachées), un prédicteur basé sur la couverture stable "inexacte" a performé plus mal qu'un sous-ensemble plus large.
   • Crucialement, la méthode de Classification Stabilisée (SC), qui repose uniquement sur les données sans hypothèses de graphe, a réussi à identifier le bon sous-ensemble invariant (incluant des variables manquées par l'hypothèse de graphe incorrecte) et a obtenu la MSE la plus faible sous l'intervention choisie par le suiveur. Cela démontre la robustesse de la méthode face à des hypothèses causales incorrectes.

Signification et Revendications

L'article revendique les contributions suivantes :

• Formalisation : Il introduit formellement les jeux de prédiction-intervention, reliant la classification stratégique à la généralisation de distribution causale et à l'analyse du cas pire.
• Optimalité des Couvertures Stables : Il prouve que pour de larges classes d'objectifs de suiveur, utiliser la couverture stable est une stratégie strictement supérieure ou égale à l'utilisation exclusive des parents causaux, fournissant une justification théorique pour inclure les enfants non-intervenus de la variable de réponse.
• Robustesse sans Connaissance du Graphe : Il démontre que les méthodes d'ensemble pilotées par les données (comme la Classification Stabilisée) peuvent atteindre la performance des stratégies optimales basées sur le graphe, même lorsque le graphe causal est inconnu ou mal spécifié.
• Applicabilité Pratique : Ce travail comble le fossé entre l'invariance causale théorique et les contextes stratégiques pratiques, offrant des algorithmes concrets pour les meneurs confrontés à des agents auto-optimisants.

Les auteurs notent que leurs résultats reposent sur des hypothèses d'"interventions fortes" et que la résolution générale du jeu de prédiction-intervention reste un problème difficile. Ils suggèrent que des travaux futurs pourraient explorer des conditions d'intervention plus faibles, des suiveurs hétérogènes et une analyse sur des échantillons finis.