Spatio-temporal stochastic graph-based learning for infectious disease forecasting

Technische Samenvatting: Spatio-temporeel Stochastisch Grafisch Leren voor het Voorspellen van Infectieziekten

Probleemstelling
Bestaande spatio-temporele grafische modellen voor het voorspellen van infectieziekten (bijv. voor COVID-19 en waterpokken) hebben de integratie van stochastische modellering in hun leerprocessen grotendeels onvoldoende onderzocht. Bovendien richten de meeste eerdere werken zich op kleine tot middelgrote geografische netwerken (bijv. 20–400 regio's) of vertonen zij een beperkte variabiliteit in hun testtrajecten, die vaak niet de complexe, heterogene en hoogfrequente fluctuaties reflecteren die worden waargenomen bij de verspreiding van ziekten in grote landen. Als gevolg hiervan blijft het onduidelijk of huidige architecturen accuraat ziekteverloop kunnen voorspellen in grootschalige, zeer variabele epidemiologische netwerken.

Methodologie
De auteurs stellen een Spatio-temporele Stochastische Grafische Leerarchitectuur voor, ontworpen om het aantal nieuwe gevallen van infectieziekten te voorspellen door stochastische formulering en onzekerheidsbenadering te integreren. De architectuur bestaat uit drie sequentiële modules:

1. Multivariaat Sequentie-encodering: Deze module standaardiseert de temporele incidentiegegevens van ziekten en de geografische verbindingen. Het creëert vertraagde sequentie-monsters ($X(t)$) waarbij de temporele gegevens geschaald zijn naar $[0, 1]$ en georganiseerd zijn in een statisch ruimtelijk graafdomein. De input bevat een spatio-temporele tensor die ziektegevallen over $G_l$ locaties gedurende een venster $W$ vertegenwoordigt, gekoppeld aan edge-index tensoren en attributen die de geografische topologie vertegenwoordigen.
2. Spatio-temporele Verwerking: Deze module extraheert latente kenmerken met behulp van twee voorgestelde varianten:
   • PrGCNrmsle: Gebaseerd op een Graph Convolutional Network (GCN) laag. Het aggregeert informatie van naburige knopen met behulp van symmetrische normalisatie om ruimtelijke correlaties te leren die invariant zijn voor de lokale connectiviteitsdichtheid.
   • PrGLSTMrmsle: Breidt de GCN uit met een Long Short-Term Memory (LSTM) laag. Deze versie verwerkt de GCN-outputs om temporele afhankelijkheden en de evolutie van de verborgen toestand te vangen, waarbij kortstondige ruis wordt gefilterd terwijl het geheugen van multi-wave dynamiek behouden blijft.
3. Stochastische Methode: Een volledig verbonden laag (MLP) brengt de latente kenmerken in kaart naar een 2-dimensionale descriptor per locatie, die het gemiddelde ($\mu$) en de log-variantie ($\ln \sigma$) van een normale verdeling vertegenwoordigt. Met behulp van een herparameterisatie-truc (reparameterization trick) samplet het model uit deze verdeling om stochastische voorspellingen te genereren ($\hat{y} = \mu + \sigma \odot \epsilon$). Dit induceert minimale perturbaties om interne variabiliteit te simuleren zonder structurele priors te herintroduceren die de representatie zouden kunnen overmatig gladstrijken (over-smoothing).

Training en Evaluatie

• Verliesfunctie: De modellen worden end-to-end getraind met behulp van Root Mean Squared Logarithmic Error (RMSLE). Deze keuze straft onderschatting van ziektegevallen zwaarder af dan overschatting en behandelt relatieve fouten gelijk over locaties van verschillende groottes, waardoor de focus van het model ligt op globale dynamische kenmerken in plaats van lokale fluctuaties.
• Onzekerheidsschatting: Epistemische onzekerheid wordt benaderd via een ensemble-methode. Het model wordt 100 keer getraind met verschillende initialisaties (seed-waarden) om een distributie van voorspellingen te generen, waaruit een variabiliteitsinterval van 95% wordt afgeleid.
• Datasets:
  • COVID-19 (VS): 3.218 counties in de VS (2020–2022), deels bestaande uit trainingsperioden (januari 2020–december 2021) en testperioden (december 2021–oktober 2022) met zeer variabele golfpatronen.
  • Waterpokken (Hongarije): 20 counties (2005–2014), met trainingsperioden (2005–2012) en testperioden (2012–2014) met meer consistente, seizoensgebonden golfpatronen.
• Baselines: De voorgestelde modellen werden vergeleken met vier spatio-temporele grafische modellen (EvolveGCNH, GCLSTM, GConvLSTM, MPNNLSTM) en verschillende ablatie-varianten (het verwijderen van stochastiek, het wijzigen van verliesfuncties, of het verwijderen van ruimtelijke modules).

Belangrijkste Resultaten

• Prestaties: De voorgestelde PrGCNrmsle behaalde concurrerende algehele wekelijkse prestaties over alle 3.218 Amerikaanse counties en 20 Hongaarse counties. Het toonde een verbeterd vermogen om de eerste golf van COVID-19 in de VS in 2022 en vergelijkbare waterpokken-golven in Hongarije (2012–2014) te voorspellen.
• Stabiliteit: De voorgestelde aanpak vertoonde een verminderde gevoeligheid voor hoogfrequente, laag-amplitude variabiliteit vergeleken met de baselines. Het toonde lagere variabiliteitsintervallen in de voorspellingen over 100 runs, wat duidt op grotere stabiliteit.
• Geobserveerde Beperkingen:
  • Temporele Vertraging: Er werd een consistente één-stap vertraging (één week) waargenomen in de voorspellingen ten opzichte van de observaties. Het model volgt de richting van de trend, maar loopt achter in het vastleggen van abrupte veranderingen of de timing van pieken.
  • Piekschatting: Hoewel PrGCNrmsle de algemene temporele evolutie goed benaderde, overschatte het soms pieken voor kleinere golven of onderschatte het snelle pieken in hoogfrequente data.
  • LSTM-variant: De PrGLSTMrmsle (GCN + LSTM) variant vertoonde een verhoogde fout tijdens de winterpiek-voorspellingen voor COVID-19 en vereiste aanzienlijk meer trainingstijd (~4,5x) vergeleken met PrGCNrmsle, wat suggereert dat de LSTM-laag kan overfitten op kleinere trainingsgolven of moeite heeft met grotere, ongeziene pieken.
• Computationele Efficiëntie: PrGCNrmsle demonstreerde snellere convergentie en minder trainbare parameters vergeleken met RNN-gebaseerde baselines, wat het computationeel efficiënter maakt voor grootschalige netwerken.

Betekenis en Claims
Het artikel claimt dat de voorgestelde architectuur er succesvol in slaagt om zowel grote (Amerikaanse counties) als kleine (Hongaarse counties) populatie-geografische netwerken binnen een enkele modelstructuur te coderen. Door een stochastische formulering te incorporeren, representeert het model het algemene epidemische verloop relatief aan de baselines, terwijl de structurele integriteit behouden blijft en de onzekerheidspropagatie wordt geminimaliseerd.

De auteurs positioneren dit werk als een stap naar robuustere epidemische forecasting in heterogene omgevingen. Zij stellen dat hoewel het model dominante trends vastlegt en nuttige monitoring van ziekteverlopen biedt, de toepassing ervan op het publieke gezondheidsbeleid verdere methodologische verbeteringen vereist om de één-stap vertraging aan te pakken en snelle, niet-lineaire veranderingen in incidentie beter te beheersen. De studie benadrukt dat huidige grafische modellen vaak worstelen met de mismatch tussen trainings-trajecten (consistente patronen) en test-trajecten (zeer variabele patronen), en dat hun stochastische aanpak een mechanisme biedt om het bereik van mogelijkheden in de verspreiding van ziekten te representeren zonder de computationele efficiëntie op te offeren.