Spatio-temporal stochastic graph-based learning for infectious disease forecasting

Sintesi Tecnica: Apprendimento su Grafi Stocastici Spazio-Temporali per la Previsione di Malattie Infettive

Problematica
I modelli esistenti basati su grafi spazio-temporali per la previsione di malattie infettive (ad esempio, per COVID-19 e varicella) hanno ampiamente trascurato l'integrazione della modellazione stocastica nei loro processi di apprendimento. Inoltre, la maggior parte dei lavori precedenti si concentra su reti geografiche di piccole o medie dimensioni (ad esempio, 20–400 regioni) o presenta una variabilità limitata nelle traiettorie di test, che spesso non riescono a riflettere le fluttuazioni complesse, eterogenee e ad alta frequenza osservate nella diffusione reale delle malattie in grandi nazioni. Di conseguenza, rimane poco chiaro se le attuali architetture possano prevedere accuratamente le traiettorie delle malattie in reti epidemiologiche su larga scala e altamente variabili.

Metodologia
Gli autori propongono un'Architettura di Apprendimento su Grafi Stocastici Spazio-Temporali progettata per prevedere i nuovi casi di malattie infettive integrando la formulazione stocastica e l'approssimazione dell'incertezza. L'architettura è composta da tre moduli sequenziali:

1. Codifica di Sequenze Multivariate: Questo modulo standardizza i dati temporali di incidenza delle malattie e le connessioni geografiche. Crea campioni di sequenza ritardati ($X(t)$) dove i dati temporali sono scalati nell'intervallo $[0, 1]$ e organizzati in un dominio di grafo spaziale statico. L'input include un tensore spazio-temporale che rappresenta i casi di malattia attraverso $G_l$ località su una finestra $W$, accoppiato con tensori di indice di arco e attributi che rappresentano la topologia geografica.
2. Elaborazione Spazio-Temporale: Questo modulo estrae caratteristiche latenti utilizzando due varianti proposte:
   • PrGCNrmsle: Basata su uno strato di Rete Convoluzionale su Grafo (GCN). Aggrega informazioni dai nodi vicini utilizzando una normalizzazione simmetrica per apprendere le correlazioni spaziali invarianti rispetto alla densità di connettività locale.
   • PrGLSTMrmsle: Estende la GCN con uno strato Long Short-Term Memory (LSTM). Questa versione elabora gli output della GCN per catturare le dipendenze temporali e l'evoluzione dello stato nascosto, filtrando il rumore a breve termine pur mantenendo la memoria delle dinamiche multi-ondata.
3. Metodo Stocastico: Uno strato completamente connesso (MLP) mappa le caratteristiche latenti in un descrittore a 2 dimensioni per località, che rappresenta la media ($\mu$) e la log-varianza ($\ln \sigma$) di una distribuzione normale. Utilizzando un trucco di riparametrizzazione, il modello campiona da questa distribuzione per generare previsioni stocastiche ($\hat{y} = \mu + \sigma \odot \epsilon$). Ciò induce perturbazioni minime per simulare la variabilità interna senza reintrodurre priori strutturali che potrebbero eccessivamente smussare la rappresentazione.

Addestramento e Valutazione

• Funzione di Perdita: I modelli sono addestrati end-to-end utilizzando l'Errore Quadratico Medio Logaritmico (RMSLE). Questa scelta penalizza maggiormente la sottostima dei casi di malattia rispetto alla sovrastima e tratta equamente gli errori relativi tra località di diverse dimensioni, focalizzando il modello sulle caratteristiche dinamiche globali piuttosto che sulle fluttuazioni locali.
• Stima dell'Incertezza: L'incertezza epistemica è approssimata tramite un metodo d'insieme (ensemble). Il modello viene addestrato 100 volte con diverse inizializzazioni (valori di seed) per generare una distribuzione di previsioni, dalla quale viene derivato un intervallo di variabilità del 95%.
• Dataset:
  • COVID-19 (USA): 3.218 contee degli Stati Uniti (2020–2022), coprendo i periodi di addestramento (gennaio 2020 – dicembre 2021) e di test (dicembre 2021 – ottobre 2022) con schemi d'onda altamente variabili.
  • Varicella (Ungheria): 20 contee (2005–2014), coprendo i periodi di addestramento (2005–2012) e di test (2012–2014) con schemi d'onda più costanti e stagionali.
• Baseline: I modelli proposti sono stati confrontati con quattro modelli basati su grafi spazio-temporali (EvolveGCNH, GCLSTM, GConvLSTM, MPNNLSTM) e diverse varianti di ablazione (rimozione della stocasticità, cambio delle funzioni di perdita o rimozione dei moduli spaziali).

Risultati Chiave

• Prestazioni: Il modello proposto PrGCNrmsle ha ottenuto prestazioni settimanali complessive competitive in tutte le 3.218 contee degli Stati Uniti e nelle 20 contee ungheresi. Ha dimostrato una capacità migliorata di prevedere la prima ondata di COVID-19 del 2022 negli USA e le ondate comparative della varicella in Ungheria (2012–2014).
• Stabilità: L'approccio proposto ha mostrato una ridotta sensibilità alla variabilità ad alta frequenza e bassa ampiezza rispetto alle baseline. Ha mostrato intervalli di variabilità inferiori nelle sue previsioni su 100 esecuzioni, indicando una maggiore stabilità.
• Limitazioni Osservate:
  • Ritardo Temporale: È stato osservato un ritardo costante di un passo (una settimana) nelle previsioni rispetto alle osservazioni. Il modello tende a seguire la direzione del trend ma ritarda nel catturare i cambiamenti bruschi o il tempo dei picchi.
  • Stima dei Picchi: Sebbene PrGCNrmsle abbia approssimato bene l'evoluzione temporale complessiva, talvolta ha sovrastimato i picchi per ondate minori o sottostimato gli spike rapidi nei dati ad alta frequenza.
  • Variante LSTM: La variante PrGLSTMrmsle (GCN + LSTM) ha mostrato un aumento dell'errore durante le previsioni dei picchi invernali per il COVID-19 e ha richiesto un tempo di addestramento significativamente maggiore (~4,5 volte) rispetto a PrGCNrmsle, suggerendo che lo strato LSTM possa andare in overfitting sulle ondate di addestramento più piccole o avere difficoltà con i picchi più grandi e mai visti.
• Efficienza Computazionale: PrGCNrmsle ha dimostrato una convergenza più rapida e meno parametri addestrabili rispetto alle baseline basate su RNN, rendendolo più efficiente dal punto di vista computazionale per reti su larga scala.

Significatività e Rivendicazioni
Il documento sostiene che l'architettura proposta riesce ad adattarsi per codificare sia reti geografiche di popolazione grandi (contee USA) che piccole (contee ungheresi) all'interno di una singola struttura di modello. Incorporando una formulazione stocastica, il modello rappresenta la progressione epidemica complessiva rispetto alle baseline mantenendo l'integrità strutturale e minimizzando la propagazione dell'incertezza.

Gli autori posizionano questo lavoro come un passo verso una previsione epidemica più robusta in contesti eterogenei. Argomentano che, sebbene il modello catturi i trend dominanti e fornisca un monitoraggio utile delle traiettorie delle malattie, la sua applicazione alle politiche di sanità pubblica richiede ulteriori miglioramenti metodologici per affrontare il ritardo di un passo e gestire meglio i cambiamenti rapidi e non lineari dell'incidenza. Lo studio evidenzia come gli attuali modelli basati su grafi fatichino spesso a causa del disallineamento tra le traiettorie di addestramento (modelli coerenti) e le traiettorie di test (modelli altamente variabili), e che il loro approccio stocastico offre un meccanismo per rappresentare meglio l'intervallo di possibilità nella diffusione delle malattie senza sacrificare l'efficienza computazionale.