Observable Neural ODEs for Identifiable Causal Forecasting in Continuous Time

1. Enunciato del Problema

Il lavoro affronta la sfida dell'inferenza causale nella presa di decisioni sequenziali in tempo continuo, in particolare nei regimi di trattamento dinamico (DTR) comuni in medicina (ad esempio, l'adeguamento delle terapie in base alla storia clinica evolutiva di un paziente).

• Sfida Principale: L'identificazione degli effetti dinamici del trattamento nei dati osservazionali è complicata dalla confondenza dipendente dal tempo e dal feedback trattamento-confonditore. In questi scenari, le covariate influenzano sia l'assegnazione del trattamento che gli esiti, pur essendo a loro volta influenzate dai trattamenti precedenti.
• Confonditori Nascosti: Una complicazione critica è la presenza di confonditori nascosti (stati di malattia non osservati) che influenzano sia il trattamento che gli esiti. I metodi standard di identificazione causale spesso falliscono in questi casi perché lo stato latente rilevante è osservato solo parzialmente.
• Limitazione dei Modelli Esistenti: Gli approcci Neural ODE esistenti per l'inferenza causale spesso mancano di garanzie strutturali che lo stato latente possa essere ricostruito in modo univoco dalle osservazioni. Senza questo, la distribuzione di filtraggio sugli stati latenti rimane ambigua, impedendo l'identificazione degli effetti causali.

2. Metodologia: Observable Neural ODEs (ObsNODEs)

Gli autori propongono ObsNODEs, una classe di modelli Neural ODE progettata per imporre l'osservabilità per costruzione, collegando l'osservabilità della teoria del controllo all'identificabilità causale.

A. Fondamento Teorico

• Modello a Spazio di Stati: Il sistema è modellato come un modello a spazio di stati latenti in tempo continuo:
  • $\dot{z}_t = f_\theta(z_t, a_t)$ (Dinamiche latenti guidate dal trattamento $a_t$)
  • $y_t = h(z_t)$ (Modello di osservazione)
• Condizione di Osservabilità: Il lavoro stabilisce che affinché gli effetti dinamici del trattamento siano identificabili in presenza di confonditori nascosti, lo stato latente $z_t$ deve essere osservabile. Ciò significa che lo stato iniziale (e quindi l'intera traiettoria) deve essere determinato in modo univoco dalla storia delle uscite osservate su un orizzonte finito.
• Formula di Aggiustamento Causale: Gli autori derivano una formula di aggiustamento in tempo continuo per la distribuzione dell'esito potenziale $P(Y_{t+s}(a_{[t, t+s)}) | Y_t, O_{[0,t)})$.
  $$P(Y_{t+s} | \dots) = \int p(y_{t+s}|z_{t+s}) p(z_{t+s}|a_{[t, t+s)}, z_t) p(z_t | y_t, o_{[0,t)}) dz_t dz_{t+s}$$
  Questa formula si basa sulla distribuzione di filtraggio $p(z_t | y_t, o_{[0,t)})$. Se il sistema non è osservabile, questa distribuzione non può essere identificata in modo univoco e la previsione causale fallisce.
• Criterio Front-Door Condizionale (CFD): La derivazione collega il modello a spazio di stati al CFD, trattando lo stato latente come un mediatore che intercetta tutti i percorsi diretti dal trattamento all'esito, consentendo l'identificazione causale anche con confonditori non osservati.

B. Architettura del Modello: Forma Normale Osservabile

Per garantire l'osservabilità, ObsNODEs parametrizza le dinamiche latenti in forma normale triangolare osservabile continua:

• Lo stato latente $Z_t$ è partizionato in blocchi.
• Le dinamiche sono strutturate in modo che il primo blocco corrisponda direttamente all'osservazione (più rumore) e i blocchi successivi dipendano dai blocchi precedenti e dal trattamento.
• Struttura:
  $$\dot{Z}^{(1)}_t = Z^{(2)}_t + \phi^{(1)}(Z^{(1)}_t, a_t)$$
  $$\dot{Z}^{(i)}_t = Z^{(i+1)}_t + \phi^{(i)}(Z^{(1)}_t, \dots, Z^{(i)}_t, a_t)$$
  $$Y_t = Z^{(1)}_t + \epsilon_t$$
• Questa struttura garantisce che lo stato latente sia ricostruibile dalla storia delle osservazioni, soddisfacendo la condizione necessaria per la formula di aggiustamento causale.

C. Addestramento e Inferenza

• Filtraggio: Un encoder RNN (LSTM) viene utilizzato per approssimare la distribuzione di filtraggio $p(z_t | y_t, o_{[0,t)})$ data la storia osservata fino a un tempo di decisione $t_c$.
• Previsione: Gli esiti futuri sotto percorsi di trattamento ipotetici sono previsti integrando la Neural ODE in avanti nel tempo dallo stato latente inferito.
• Funzione di Perdita: L'addestramento è auto-supervisionato utilizzando una perdita di errore quadratico mascherato su punti temporali campionati in modo irregolare, normalizzata dalla varianza dell'esito per gestire frequenze di osservazione variabili.

3. Contributi Chiave

1. Collegamento Teorico: Dimostrazione che l'osservabilità dello stato latente è una condizione necessaria per identificare gli effetti dinamici del trattamento in sistemi in tempo continuo con confondimento nascosto. Questo collega la teoria del controllo e l'inferenza causale.
2. Derivazione della Formula di Aggiustamento: Derivazione di una formula di aggiustamento causale in tempo continuo che esprime gli esiti potenziali tramite il modello di misura, le dinamiche latenti e la distribuzione di filtraggio.
3. Architettura Innovativa (ObsNODE): Introduzione di Neural ODE in forma normale osservabile che impongono l'osservabilità per costruzione, abilitando previsioni causali robuste sotto regimi di trattamento dinamico.
4. Validazione Empirica: Dimostrazione di prestazioni superiori rispetto ai modelli sequenziali all'avanguardia (IGC-Net, SCIP-Net, OptAB, DoseAI) su dataset sintetici, semi-sintetici e clinici reali.

4. Risultati Sperimentali

Il modello è stato valutato su tre dataset:

• Dati Sintetici sul Cancro: Simulazione del volume tumorale e del peso corporeo sotto chemio/radioterapia con diverse intensità di confondimento ($\gamma$).
  • Risultato: ObsNODE ha ottenuto il più basso Errore Quadratico Medio (RMSE) per orizzonti di previsione brevi e una varianza costantemente bassa tra le esecuzioni. Ha superato le linee di base negli scenari con alto confondimento.
• MIMIC-IV Semi-Sintetico (Sepsi): Generato da traiettorie reali di pazienti con effetti di trattamento sintetici e confonditori nascosti.
  • Risultato: ObsNODE ha mantenuto un RMSE basso su un orizzonte di 24 ore, superando significativamente SCIP-Net e OptAB, specialmente per orizzonti più lunghi. Ha mostrato una stabilità superiore (bassa varianza) rispetto alle linee di base.
• Dati Reali sulla Sepsi (MIMIC-IV): Predizione dell'effetto degli antibiotici (Vancomicina, Ceftriaxone, Piperacillina-tazobactam) sui punteggi SOFA e sui marcatori di tossicità organica (Creatinina, Bilirubina, ALT).
  • Risultato: ObsNODE ha fornito previsioni robuste per i punteggi SOFA e le variabili di laboratorio a lungo termine, superando IGC-Net e SCIP-Net negli orizzonti di previsione più lunghi.

5. Significato e Impatto

• Risoluzione del Confondimento Nascosto: Il lavoro fornisce una soluzione rigorosa alla previsione causale in presenza di confonditori nascosti, un collo di bottiglia maggiore nell'IA medica. Impedendo l'osservabilità, garantisce che il modello apprenda una rappresentazione latente univoca dello stato della malattia.
• Modellazione in Tempo Continuo: A differenza dei modelli in tempo discreto (ad esempio, Transformer, RNN) che faticano con il campionamento irregolare, ObsNODE gestisce naturalmente le dinamiche in tempo continuo e gli intervalli di osservazione irregolari, aspetto critico per i dati clinici.
• Applicabilità Clinica: La capacità di prevedere esiti sotto percorsi di trattamento ipotetici (controfattuali) permette ai clinici di simulare scenari "what-if", supportando regimi di trattamento dinamico personalizzati e l'ottimizzazione del dosaggio.
• Rigor Teorico: Il lavoro va oltre gli approcci euristici di deep learning fondando l'architettura sull'osservabilità della teoria del controllo e sulla teoria dell'identificazione causale, offrendo un quadro principiato per la previsione causale.

In sintesi, ObsNODEs rappresentano un avanzamento significativo nell'apprendimento automatico causale garantendo matematicamente che le dinamiche latenti richieste per l'identificazione causale siano recuperabili dai dati osservati, portando a previsioni più affidabili e interpretabili per i trattamenti medici dinamici.