Riassunto Tecnico: Balanced Twins (B-Twin)

Formulazione del Problema

Il documento affronta la sfida di stimare l'Effetto Medio del Trattamento sui Trattati (ATT) da dati di serie temporali osservazionali in presenza di confondimento nascosto e dinamiche non stazionarie.

In molte applicazioni del mondo reale, come i programmi di Demand-Response (DR) nelle reti elettriche o gli interventi clinici nelle terapie intensive (ICU), l'assegnazione del trattamento è spesso influenzata da fattori non osservati (ad esempio, stile di vita, vincoli finanziari, gravità della malattia). Inoltre, gli interventi vengono frequentemente adottati in tempi scaglionati tra gli individui, e il processo generatore dei dati (DGP) sottostante può essere non stazionario, il che significa che la relazione tra gli esiti pre-trattamento e post-trattamento cambia nel tempo indipendentemente dal trattamento stesso.

I metodi standard di inferenza causale affrontano limitazioni significative in questo contesto:

• I metodi econometrici (ad esempio, Difference-in-Differences, Synthetic Control) spesso si basano su assunzioni forti come i trend paralleli o l'assenza di confonditori non misurati, che sono frequentemente violate. Essi faticano anche con la scalabilità e la stabilità a livello individuale per dati ad alta frequenza.
• Gli approcci neurali black-box (ad esempio, TARNet, DragonNet) tipicamente si basano sulla regressione dell'esito, estrapolando le traiettorie post-trattamento dai dati pre-trattamento. Questo li rende sensibili alla non stazionarietà e inclini al bias quando il DGP subisce uno spostamento.
• I modelli esistenti a variabili latenti spesso assumono che tutti i confonditori siano osservati o si affidano a architetture specifiche (come le LSTM) che potrebbero non scalare bene verso serie temporali ad alta dimensionalità e rumorose.

L'obiettivo principale è stimare gli effetti del trattamento individuale (ITE) recuperando i controfattuali a livello individuale senza fare affidamento su assunzioni esplicite di modellazione temporale o sull'assunzione che tutti i confonditori siano osservati.

Metodologia: Il Framework B-Twin

Gli autori propongono Balanced Twins (B-Twin), un framework neurale a due fasi che unisce i metodi classici di controllo sintetico con l'apprendimento delle rappresentazioni. Il metodo opera sotto l'assunto che i confonditori nascosti rilevanti per il trattamento lascino firme recuperabili nelle traiettorie degli esiti pre-trattamento.

1. Fondamento Teorico

Il framework si basa sul Metodo del Controllo Sintetico (SCM), ma lo estende per gestire il confondimento nascosto.

• Recuperabilità Latente: Gli autori assumono che gli esiti pre-trattamento ($Y^{pre}$) contengano informazioni sufficienti per recuperare approssimativamente i confonditori nascosti ($W$) tramite una funzione $h$.
• Condizione di Bilanciamento: Per garantire una stima controfattuale non distorta, il metodo cerca pesi che bilancino la distribuzione del propensity score latente $g(W) = P(T=1|W)$ tra le unità trattate e quelle di controllo.
• Proposizione 1: Il documento dimostra che una stima non distorta richiede una condizione di bilanciamento sui propensity score. Poiché $W$ non è osservato, il metodo ammorbidisce questa condizione puntando al bilanciamento su un propensity score surrogato appreso $\hat{g}(Z)$, dove $Z$ è una rappresentazione latente di $Y^{pre}$.

2. Architettura

Il modello consiste in due moduli principali addestrati sequenzialmente:

Fase 1: Apprendimento della Rappresentazione (Variational Autoencoder)

• Encoder: Mappa le serie temporali pre-trattamento ad alta frequenza ($Y^{pre}$) in uno spazio latente a bassa dimensione $Z$.
• Decoder: Ricostruisce gli esiti pre-trattamento ($\hat{Y}^{pre}$) da $Z$ per garantire che lo spazio latente catturi le dinamiche temporali rilevanti.
• Testa di Propensione (Propensity Head): Un modulo di classificazione stima il propensity score $\hat{g}(Z) = \sigma(g_\psi(Z))$ direttamente dalla rappresentazione latente.
• Funzione di Perdita (Loss Function): Il blocco è addestrato per minimizzare una perdita composita:
  $$\mathcal{L}_{rep} = \mathcal{L}_r + \beta \mathcal{L}_{KL} + \gamma \mathcal{L}_p$$
  dove $\mathcal{L}_r$ è l'errore di ricostruzione, $\mathcal{L}_{KL}$ è la divergenza di Kullback-Leibler e $\mathcal{L}_p$ è la cross-entropy binaria per la predizione della propensione.

Fase 2: Apprendimento dei Pesi (Stima Controfattuale)

• Regressore dei Pesi: Prende le rappresentazioni latenti ($Z_i, Z_j$) e i propensity score stimati ($\hat{g}(Z_i), \hat{g}(Z_j)$) di un'unità target e di un pool di donatori (unità di controllo) come input.
• Obiettivo: Produce pesi di bilanciamento $B = \{b_{ij}\}$ per costruire un controllo sintetico per l'unità trattata.
• Funzione di Perdita: I pesi sono ottimizzati per minimizzare una combinazione di due perdite:
  1. Matching Latente ($\mathcal{L}_z$): Minimizza la distanza tra la rappresentazione latente del target e la media ponderata delle rappresentazioni di controllo.
  2. Bilanciamento della Propensione ($\mathcal{L}_b$): Minimizza la discrepanza tra la propensione del target e la media ponderata delle propensioni di controllo, normalizzata per gestire le differenze di scala.
     $$\mathcal{L}_{match} = \lambda \mathcal{L}_z + (1-\lambda) \mathcal{L}_b$$

3. Stima

L'ATT finale viene stimato utilizzando un estimatore pesato per importanza che sfrutta campioni dall'intera popolazione (sia trattati che di controllo), piuttosto che solo dal gruppo trattato. Questo stimatore simmetrizzato migliora la robustezza quando la stima della propensione è rumorosa.

Contributi Chiave

1. Framework ispirato al Controllo Sintetico Interpretabile: A differenza degli approcci neurali black-box che eseguono direttamente la regressione degli esiti, B-Twin produce pesi di bilanciamento espliciti. Ciò preserva l'interpretabilità dei metodi di controllo sintetico (gli esperti di dominio possono ispezionare quali unità di controllo contribuiscono al controfattuale) pur allentando i vincoli di convessità restrittivi del classico SCM.
2. Robustezza al Confondimento Nascosto e alla Non-Stazionarietà: Imparando le rappresentazioni latenti dalle traiettorie pre-trattamento e bilanciando sui propensity score, il metodo evita l'estrapolazione diretta delle dinamiche post-trattamento. Questo lo rende più stabile rispetto ai modelli di regressione dell'esito quando il DGP è non stazionario.
3. Scalabilità: Il framework utilizza la stima dei pesi basata su batch, consentendo di gestire in modo efficiente grandi dataset individuali ad alta frequenza, superando l'infattibilità computazionale di applicare il classico SCM a singole unità.

Risultati Sperimentali

Gli autori hanno valutato B-Twin su dataset sintetici, semi-sintetici e reali (consumo elettrico e dati di pazienti ICU).

• Dati Sintetici (Dataset Toy):

  • In contesti con alto rumore e forte confondimento nascosto, i metodi classici (SC, DiD) e SyncTwin basato su LSTM hanno incontrato gravi difficoltà.
  • I baseline di regressione dell'esito neurale (TARNet, DragonNet) hanno performato bene in contesti stazionari, ma hanno mostrato un marcato bias e varianza quando il DGP è diventato non stazionario (le dinamiche pre- e post-trattamento differivano).
  • B-Twin ha costantemente seguito il suo corrispettivo oracle (che utilizza le propensioni reali), dimostrando basso bias e varianza in tutti i setting, inclusi gli effetti del trattamento eterogenei e la non-stazionarietà.

• MIMIC-III Semi-Sintetico (Dati ICU):

  • In un setting placebo dove il vero effetto del trattamento era zero, B-Twin ha prodotto un intervallo di confidenza che si sovrapponeva allo zero con una larghezza relativamente ridotta.
  • Altri metodi hanno mostrato bias (ad esempio, SyncTwin ha mostrato un sostanziale bias negativo; TARNet ha mostrato un bias positivo) o alta variabilità.
  • B-Twin è stato computazionalmente efficiente, significativamente più veloce di Synthetic Control e SyncTwin, sebbene leggermente più lento dei puri modelli di regressione dell'esito a causa del passaggio di matching.

• Dati Elettrici Reali (Sowee/EDF):

  • Su un dataset placebo semi-sintetico, B-Twin ha stimato correttamente un effetto vicino allo zero, mentre SyncTwin ha rilevato un forte effetto positivo spurio.
  • Sul dataset reale completo (ground truth sconosciuto), tutti i metodi concordavano su un effetto di piccola entità. B-Twin ha fornito stime coerenti con gli altri metodi offrendo al contempo l'interpretabilità dei pesi espliciti e una migliore scalabilità rispetto al Synthetic Control individuale.

Significato e Rivendicazioni

Il documento sostiene che B-Twin offra un'alternativa fondata agli approcci di regressione dell'esito per l'inferenza causale nelle serie temporali. Il suo significato primario risiede nella capacità di:

• Decoupare l'apprendimento della rappresentazione dal matching, permettendo al modello di catturare strutture latenti complesse senza dipendere dall'assunzione che i trend pre-trattamento predicano perfettamente gli esiti post-trattamento.
• Fornire interpretabilità attraverso il peso esplicito, affrontando una delle critiche principali ai metodi di deep learning causale.
• Gestire il confondimento nascosto sfruttando l'assunzione di "recuperabilità latente", dove le storie pre-trattamento fungono da proxy per i fattori non osservati.

Gli autori notano con modestia che la validità del metodo dipende dalla qualità dei dati pre-trattamento nel catturare i confonditori nascosti. Se i confonditori nascosti non lasciano una firma informativa nella storia osservata, la rappresentazione appresa potrebbe fallire nel bilanciare efficacemente i gruppi. Inoltre, il metodo introduce un carico computazionale rispetto alla semplice regressione, che può essere un compromesso in contesti in cui il DGP è noto per essere stazionario e l'interpretabilità non è richiesta.