Résumé Technique : Balanced Twins (B-Twin)

Formulation du Problème

L'article traite du défi de l'estimation de l'Effet Moyen du Traitement sur les Traités (ATT - Average Treatment Effect on the Treated) à partir de données de séries temporelles observationnelles en présence de facteurs de confusion cachés et de dynamiques non stationnaires.

Dans de nombreuses applications réelles, telles que les programmes de réponse à la demande (DR - Demand-Response) dans les réseaux énergétiques ou les interventions cliniques dans les unités de soins intensifs (ICU), l'assignation du traitement est souvent biaisée par des facteurs non observés (ex: mode de vie, contraintes financières, gravité de la maladie). De plus, les interventions sont fréquemment adoptées de manière échelonnée entre les individus, et le processus générateur de données (DGP - Data-Generating Process) sous-jacent peut être non stationnaire, ce qui signifie que la relation entre les résultats pré- et post-traitement change au fil du temps indépendamment du traitement.

Les méthodes classiques d'inférence causale font face à des limitations significatives dans ce contexte :

• Les méthodes économétriques (ex: Différence-en-Différences, Contrôle Synthétique) reposent souvent sur des hypothèses fortes comme la tendance parallèle ou l'absence de facteurs de confusion non mesurés, qui sont fréquemment violées. Elles peinent également en termes de scalabilité et de stabilité au niveau individuel pour des données à haute fréquence.
• Les approches de type "boîte noire" neuronales (ex: TARNet, DragonNet) reposent généralement sur la régression de l'effet (outcome regression), extrapolant les trajectoires post-traitement à partir des données pré-traitement. Cela les rend sensibles à la non-stationnarité et sujettes au biais lorsque le DGP change.
• Les modèles existants à variables latentes supposent souvent que tous les facteurs de confusion sont observés ou reposent sur des architectures spécifiques (comme les LSTM) qui peuvent mal passer à l'échelle face à des séries temporelles de haute dimension et bruitées.

L'objectif central est d'estimer les effets de traitement individuels (ITE) en récupérant les contre-factuels au niveau individuel sans dépendre d'hypothèses explicites de modélisation temporelle ou de l'hypothèse que tous les facteurs de confusion sont observés.

Méthodologie : Le Cadre B-Twin

Les auteurs proposent Balanced Twins (B-Twin), un cadre neuronal en deux phases qui fait le pont entre les méthodes classiques de contrôle synthétique et l'apprentissage de représentations. La méthode opère sous l'hypothèse que les facteurs de confusion cachés pertinents pour le traitement laissent des signatures récupérables dans les trajectoires de résultats pré-traitement.

1. Fondement Théorique

Le cadre est fondé sur la Méthode du Contrôle Synthétique (SCM) mais l'étend pour gérer la confusion cachée.

• Récupérabilité Latente : Les auteurs supposent que les résultats pré-traitement ($Y^{pre}$) contiennent suffisamment d'informations pour récupérer approximativement les facteurs de confusion cachés ($W$) via une fonction $h$.
• Condition d'Équilibrage : Pour garantir une estimation contre-factuelle non biaisée, la méthode cherche des poids qui équilibrent la distribution du score de propension latent $g(W) = P(T=1|W)$ entre les unités traitées et les unités de contrôle.
• Proposition 1 : L'article prouve qu'une estimation non biaisée nécessite une condition d'équilibrage sur les scores de propension. Puisque $W$ est inobservé, la méthode relaxe cela en équilibrant sur un score de propension de substitution appris $\hat{g}(Z)$, où $Z$ est une représentation latente de $Y^{pre}$.

2. Architecture

Le modèle se compose de deux modules principaux entraînés séquentiellement :

Phase 1 : Apprentissage de Représentation (Auto-encodeur Variationnel)

• Encodeur : Mappe les séries temporelles pré-traitement à haute fréquence ($Y^{pre}$) dans un espace latent de faible dimension $Z$.
• Décodeur : Reconstruit les résultats pré-traitement ($\hat{Y}^{pre}$) à partir de $Z$ pour s'assurer que l'espace latent capture les dynamiques temporelles pertinentes.
• Tête de Propension : Une tête de classification estime le score de propension $\hat{g}(Z) = \sigma(g_\psi(Z))$ directement à partir de la représentation latente.
• Fonction de Perte : Le bloc est entraîné pour minimiser une perte composite :
  $$\mathcal{L}_{rep} = \mathcal{L}_r + \beta \mathcal{L}_{KL} + \gamma \mathcal{L}_p$$
  où $\mathcal{L}_r$ est l'erreur de reconstruction, $\mathcal{L}_{KL}$ est la divergence de Kullback-Leibler, et $\mathcal{L}_p$ est l'entropie croisée binaire pour la prédiction de la propension.

Phase 2 : Apprentissage des Poids (Estimation Contre-factuelle)

• Régresseur de Poids : Prend les représentations latentes ($Z_i, Z_j$) et les scores de propension estimés ($\hat{g}(Z_i), \hat{g}(Z_j)$) d'une unité cible et d'un groupe de donneurs (unités de contrôle) comme entrées.
• Objectif : Il produit des poids d'équilibrage $B = \{b_{ij}\}$ pour construire un contrôle synthétique pour l'unité traitée.
• Fonction de Perte : Les poids sont optimisés pour minimiser une combinaison de deux pertes :
  1. Appariement Latent ($\mathcal{L}_z$) : Minimise la distance entre la représentation latente de la cible et la moyenne pondérée des représentations de contrôle.
  2. Équilibrage de Propension ($\mathcal{L}_b$) : Minimise l'écart entre la propension de la cible et la moyenne pondérée des propensions de contrôle, normalisée pour gérer les différences d'échelle.
     $$\mathcal{L}_{match} = \lambda \mathcal{L}_z + (1-\lambda) \mathcal{L}_b$$

3. Estimation

L'ATT final est estimé à l'aide d'un estimateur pondéré par l'importance qui exploite des échantillons de l'ensemble de la population (à la fois traités et contrôles), plutôt que de se limiter uniquement au groupe traité. Cet estimateur symétrisé améliore la robustesse lorsque l'estimation de la propension est bruitée.

Contributions Clés

1. Cadre Inspiré du Contrôle Synthétique et Interprétable : Contrairement aux approches de régression de résultat "boîte noire" qui régressent directement les résultats, B-Twin produit des poids d'équilibrage explicites. Cela préserve l'interprétabilité des méthodes de contrôle synthétique (les experts métier peuvent inspecter quelles unités de contrôle contribuent au contre-factuel) tout en relaxant les contraintes de convexité restrictives du SCM classique.
2. Robustesse à la Confusion Cachée et à la Non-Stationnarité : En apprenant des représentations latentes à partir des trajectoires pré-traitement et en équilibrant sur les scores de propension, la méthode évite l'extrapolation directe des dynamiques post-traitement. Cela la rend plus stable que les modèles de régression de résultat lorsque le DGP est non stationnaire.
3. Scalabilité : Le cadre utilise une estimation de poids par lots (batch-based), permettant de traiter efficacement de grands ensembles de données individuelles à haute fréquence, dépassant ainsi l'infaisabilité computationnelle de l'application du SCM classique à des unités individuelles.

Résultats Expérimentaux

Les auteurs ont évalué B-Twin sur des jeux de données synthétiques, semi-synthétiques et réels (consommation d'électricité et données de patients en soins intensifs).

• Données Synthétiques (Jeux de données de test) :

  • Dans des contextes avec un bruit élevé et une forte confusion cachée, les méthodes classiques (SC, DiD) et le modèle basé sur LSTM (SyncTwin) ont rencontré des difficultés majeures.
  • Les bases de comparaison de régression de résultat neuronales (TARNet, DragonNet) ont bien performé dans des contextes stationnaires mais ont montré un biais et une variance marqués lorsque le DGP devenait non stationnaire (différences entre les dynamiques pré- et post-traitement).
  • B-Twin a suivi de manière cohérente son homologue "oracle" (qui utilise les propensions réelles), démontant un faible biais et une faible variance dans tous les réglages, y compris pour les effets de traitement hétérogènes et la non-stationnarité.

• Données Semi-Synthétiques MIMIC-III (Données de Soins Intensifs) :

  • Dans un scénario de placebo où l'effet réel du traitement est nul, B-Twin a produit un intervalle de confiance chevauchant zéro avec une largeur relativement étroite.
    • Les autres méthodes ont montré un biais (ex: SyncTwin montrait un biais négatif substantiel ; TARNet montrait un biais positif) ou une grande variabilité.
  • B-Twin était efficace sur le plan computationnel, nettement plus rapide que le Synthetic Control et SyncTwin, bien que légèrement plus lent que les modèles de pure régression de résultat en raison de l'étape d'appariement.

• Données Réelles d'Électricité (Sowee/EDF) :

  • Sur un jeu de données de placebo semi-synthétique, B-Twin a correctement estimé un effet proche de zéro, alors que SyncTwin a détecté un fort effet positif spécieux.
  • Sur le jeu de données réel complet (vérité terrain inconnue), toutes les méthodes s'accordaient sur un effet de faible magnitude. B-Twin a fourni des estimations cohérentes avec les autres méthodes tout en offrant l'interprétabilité des poids explicites et une meilleure scalabilité que le Synthetic Control au niveau individuel.

Signification et Revendications

L'article affirme que B-Twin offre une alternative fondée sur des principes aux approches de régression de résultat pour l'inférence causale dans les séries temporelles. Sa principale importance réside dans sa capacité à :

• Découpler l'apprentissage de représentation de l'appariement, permettant au modèle de capturer des structures latentes complexes sans dépendre de l'hypothèse que les tendances pré-traitement prédisent parfaitement les résultats post-traitement.
• Fournir de l'interprétabilité grâce à un pondérage explicite, répondant à une critique majeure des méthodes de deep learning causal.
• Gérer la confusion cachée en exploitant l'hypothèse de la "récupérabilité latente", où les historiques pré-traitement servent de proxys pour les facteurs non observés.

Les auteurs notent modestement que la validité de la méthode dépend de la qualité des données pré-traitement pour capturer les facteurs de confusion cachés. Si les facteurs de confusion cachés ne laissent pas de signature informative dans l'historique observé, la représentation apprise peut échouer à équilibrer les groupes efficacement. De plus, la méthode introduit un surcoût computationnel par rapport à une simple régression, ce qui peut être un compromis dans les contextes où le DGP est connu pour être stationnaire et où l'interprétabilité n'est pas requise.