DoFlow: Flow-based Generative Models for Interventional and Counterfactual Forecasting on Time Series

Il paper presenta DoFlow, un modello generativo basato su flussi continui definito su un grafo aciclico diretto causale che unifica previsioni osservazionali, interventionali e controfattuali per serie temporali, consentendo inoltre il rilevamento di anomalie tramite la stima della verosimiglianza.

L'essenziale

Immagina di essere un capitano di una nave che naviga in un oceano complesso. Fino a oggi, i modelli di previsione che usavamo erano come mappe meteorologiche molto precise: ci dicevano dove saremmo stati tra un'ora se il vento e le correnti continuassero esattamente come stanno facendo adesso. Se il vento soffiava da nord, la mappa prevedeva che la nave avrebbe virato a nord.

Ma cosa succede se vuoi sapere: "E se io girassi il timone ora? Cosa succederebbe alla nave?" (Intervento)
O ancora, una domanda ancora più difficile: "Se avessimo girato il timone a sinistra invece che a destra, la nave sarebbe arrivata in porto in sicurezza o si sarebbe schiantata?" (Controfattuale).

I vecchi modelli non sapevano rispondere a queste domande. Si limitavano a dire: "Guarda cosa è successo prima, quindi succederà questo". Non potevano simulare il "cosa sarebbe successo se".

Il nuovo modello presentato in questo paper, chiamato DoFlow, è come un simulatore di volo magico per le previsioni temporali. Ecco come funziona, spiegato in modo semplice:

1. La Mappa della Causa ed Effetto (Il DAG)

Immagina che ogni sistema complesso (come una centrale idroelettrica o il corpo umano durante una terapia) sia una rete di ingranaggi collegati tra loro.

• Se l'ingranaggio A gira, muove l'ingranaggio B.
• Se B si blocca, C si ferma.

DoFlow impara questa mappa (chiamata DAG, un grafo aciclico diretto). Non guarda solo i numeri, ma capisce chi comanda chi. Sa che la turbina (A) causa la corrente (B), e non il contrario.

2. Il Motore Magico (Flussi Normalizzanti Continui)

Come fa a simulare il futuro? Usa una tecnologia chiamata "Flussi Normalizzanti".
Immagina di avere un pezzo di argilla (i dati attuali). DoFlow ha un "scultore digitale" che sa trasformare quell'argilla in qualsiasi forma futura, passo dopo passo, mantenendo la coerenza della materia.

• Previsione Osservazionale: "Se lascio l'argilla così com'è, cosa diventerà?" (Prevede il futuro naturale).
• Previsione Interventiva: "Se prendo l'argilla e la schiaccio qui (intervento), come cambierà la forma?" (Simula un cambiamento forzato, come spegnere una macchina o cambiare un farmaco).
• Previsione Controfattuale: "Ecco l'argilla che ho modellato ieri. Se invece di schiacciarla qui l'avessi tirata là, come sarebbe venuta?" (Ricalcola il passato con una scelta diversa).

3. Il "Viaggio nel Tempo" Inverso

La parte più geniale è come gestisce le domande "E se...".
Immagina di guardare un film e chiederti: "E se il protagonista avesse preso l'altro treno?".
DoFlow fa questo:

1. Legge il film già girato (i dati reali osservati) e capisce perché è successo così (ricostruisce le cause nascoste, come lo stato d'animo del protagonista o il traffico).
2. Cambia la scena (applica l'intervento: "Ok, prendiamo l'altro treno").
3. Rigira il film partendo da quelle nuove cause nascoste, per vedere come sarebbe andata davvero la storia.

Perché è utile nella vita reale?

Il paper mostra due esempi concreti:

• Centrali Idroelettriche: Immagina che una turbina inizi a vibrare in modo strano. DoFlow può dire: "Se lasciamo andare le cose, tra 10 minuti l'intero sistema si fermerà (blackout)". Ma può anche dire: "Se interveniamo ora chiudendo una valvola specifica, possiamo salvare il sistema". Inoltre, può avvisarti prima che il guasto accada, calcolando quanto è "strana" la traiettoria futura rispetto alla normalità.
• Cure Mediche: Immagina un paziente con un tumore. Il medico ha somministrato un farmaco e il tumore è cresciuto. DoFlow può chiedersi: "E se avessimo dato un dosaggio diverso o un farmaco diverso a quel paziente specifico?". Poiché ogni paziente è unico (come ogni pezzo di argilla), DoFlow simula la storia alternativa per quel singolo paziente, aiutando i medici a capire quale sarebbe stata la cura migliore.

In sintesi

DoFlow non è solo un oracolo che dice "cosa succederà". È un laboratorio del tempo che ti permette di:

1. Prevedere il futuro naturale.
2. Simulare cosa succede se cambi le regole del gioco (interventi).
3. Capire cosa sarebbe successo se avessi fatto scelte diverse in passato (controfattuali).

È come avere la capacità di fare esperimenti su sistemi reali (come il clima, le economie o il corpo umano) senza rischiare di distruggerli, perché puoi testare le conseguenze nel mondo virtuale prima di agire nel mondo reale.

Sommario tecnico

1. Il Problema

La previsione delle serie temporali multivariate è un problema centrale nell'apprendimento automatico. Tuttavia, i modelli esistenti sono prevalentemente osservazionali: imparano le correlazioni dai dati storici per prevedere il futuro sotto le stesse condizioni passate.
Il paper identifica due lacune critiche nelle applicazioni reali (come la sanità, l'energia e il controllo dei processi):

1. Query Intervenzionali: La necessità di rispondere a domande "cosa succederebbe se" (what-if), modificando attivamente alcune variabili di controllo (es. cambiare la potenza di una turbina o il dosaggio di un farmaco) e osservando come il sistema reagisce.
2. Query Controfattuali: La necessità di ricostruire come un percorso osservato sarebbe cambiato se un intervento fosse stato diverso in retrospettiva (es. "come sarebbe andata la salute di questo paziente se avesse ricevuto un dosaggio diverso?").

Attualmente, non esiste un quadro generale per la previsione controfattuale nelle serie temporali che unisca la struttura causale alla generazione di traiettorie coerenti.

2. Metodologia: DoFlow

Gli autori propongono DoFlow, un modello generativo basato su Flussi Normalizzanti Continui (CNF - Continuous Normalizing Flows) che incorpora esplicitamente una struttura di Grafo Aciclico Diretto (DAG) causale.

Componenti Chiave:

• Struttura Causale (DAG): Il sistema è modellato come un DAG dove i nodi rappresentano le variabili della serie temporale. Le dipendenze sono temporali (lag-1) e strutturali (genitori nel grafo). Non si assumono effetti causali all'interno dello stesso passo temporale.
• Modellazione con CNF: Per ogni nodo $i$ del DAG, viene appreso un CNF condizionato.
  • Codifica (Abduction): Un encoder basato su RNN (LSTM/GRU) riassume la storia passata del nodo e dei suoi genitori in uno stato nascosto $H_{t-1}$.
  • Trasformazione: Un Neural ODE (Equazione Differenziale Ordinaria Neurale) mappa la distribuzione dei dati osservati a una distribuzione base (tipicamente Gaussiana standard) attraverso un campo di velocità $v_\theta$.
  • Decodifica (Prediction): Per generare previsioni, si campiona dal rumore base e si integra l'ODE all'indietro per ottenere la traiettoria futura.
• Meccanismi di Inferenza:
  • Previsione Osservazionale: Si campiona dal rumore base e si decodifica condizionando sugli stati passati osservati.
  • Previsione Intervenzionale: Si impone il valore dell'intervento $do(X_{i,t} = \gamma)$ sui nodi specifici. Per i nodi non intervenuti, si decodifica usando lo stato nascosto aggiornato con i valori (fatti o intervenuti) dei genitori.
  • Previsione Controfattuale: Segue il paradigma Abduction-Action-Prediction:
    1. Abduction: Si codifica la traiettoria fattuale osservata ($x^F$) nel suo spazio latente ($z^F$) usando lo stato fattuale.
    2. Action: Si applica l'intervento controfattuale desiderato.
    3. Prediction: Si decodifica lo stesso latente $z^F$ (che cattura i fattori non osservati specifici dell'individuo) utilizzando lo stato nascosto controfattuale aggiornato per generare la nuova traiettoria.

Teoria: Recupero Controfattuale

Il paper fornisce una teoria di recupero controfattuale. Sotto ipotesi standard di causalità (indipendenza del rumore esogeno, monotonia della funzione strutturale), gli autori dimostrano che il latente codificato $Z_t$ è una funzione biunivoca del rumore esogeno $U_t$. Questo garantisce che, codificando la realtà fattuale e decodificando sotto un intervento diverso, il modello recuperi quasi certamente la vera traiettoria controfattuale.

3. Contributi Principali

1. Quadro Unificato: DoFlow è uno dei primi modelli a unificare previsione osservazionale, intervensionale e controfattuale in un unico framework generativo basato su flussi.
2. Teoria di Recupero: Fornisce una prova teorica (Corollario 4.5) che il modello può recuperare le traiettorie controfattuali vere sotto specifiche assunzioni di causalità.
3. Rilevamento Anomalie: Grazie alla natura generativa, il modello calcola esplicitamente la verosimiglianza (log-density) delle traiettorie future. Questo permette un rilevamento delle anomalie "principale" (basato sulla probabilità), identificando deviazioni dalle dinamiche normali apprese.
4. Validazione Estesa: Testato su dataset sintetici con diverse topologie DAG e su dati reali complessi.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su:

• Dati Sintetici: DAG con strutture Tree, Diamond, FC-Layer e Chain, sia con modelli additivi che non-lineari/non-additivi (NLNA).
  • Metriche: RMSE, MMD (Maximum Mean Discrepancy) e CRPS (Continuous Ranked Probability Score).
  • Risultati: DoFlow supera significativamente le baseline (GRU, TFT, TiDE, DeepVAR, MQF2) nelle previsioni intervensionali e controfattuali. Mentre le baseline falliscono o non sono applicabili ai query controfattuali, DoFlow mantiene bassa l'errore (RMSE) e genera distribuzioni coerenti.
• Applicazione Idroelettrica (Argonne National Lab):
  • Simulazione di guasti alle turbine (interruzioni di potenza).
  • DoFlow ha previsto con successo le "spike" nei segnali del generatore causati dal guasto, catturando le relazioni causali complesse.
  • Rilevamento Anomalie: Il modello ha rilevato le anomalie (outage) fino a 20 minuti prima che si verificassero, basandosi sul crollo della log-probabilità della traiettoria futura prevista.
• Applicazione Oncologica (Dataset Bica et al.):
  • Stima dell'effetto terapeutico su volumi tumorali sotto diversi regimi di chemio/radioterapia.
  • DoFlow ha mostrato miglioramenti sostanziali rispetto a modelli basati su reti ricorrenti causali (CRN, RMSN) nella stima degli effetti causali (NRMSE inferiore).

5. Significato e Impatto

Questo lavoro rappresenta un passo fondamentale verso l'inferenza causale affidabile in sistemi dinamici complessi.

• Decisioni Supportate: Permette agli operatori di simulare scenari "what-if" in tempo reale senza dover eseguire interventi fisici rischiosi o costosi.
• Analisi Post-Hoc: La capacità controfattuale è cruciale per l'analisi retrospettiva in medicina e ingegneria, permettendo di capire cosa avrebbe potuto essere fatto diversamente per migliorare un esito.
• Unificazione: Colma il divario tra la modellazione generativa moderna (che eccelle nella previsione probabilistica) e la teoria causale classica (che eccelle nell'inferenza controfattuale ma spesso manca di modelli generativi scalabili).

In sintesi, DoFlow offre un approccio rigoroso e pratico per trasformare i modelli di previsione delle serie temporali da semplici strumenti di correlazione a sistemi di supporto decisionale causale.