Riepilogo Tecnico: Transformer Spazio-Temporale Gerarchico per la Previsione Coerente dei Pronto Soccorso

1. Definizione del Problema

I reparti di emergenza-urgenza (ED - Emergency Departments) affrontano una pressione persistente dovuta alla domanda imprevedibile di pazienti, alle ondate stagionali e alle visite non urgenti. Una pianificazione efficace richiede previsioni accurate a più livelli decisionali: gli ospedali necessitano di stime locali per il personale, le regioni necessitano di previsioni per coordinare le unità e le autorità nazionali richiedono proiezioni a livello di sistema.

Gli approcci attuali prevedono tipicamente la domanda dei pronto soccorso in isolamento a un singolo livello (ad esempio, un singolo ospedale o una regione), ignorando la struttura gerarchica intrinseca in cui gli ospedali si aggregano in regioni, e le regioni si aggregano al sistema nazionale. Questa isolazione porta a previsioni incoerenti, in cui la somma delle previsioni a livello ospedaliero non corrisponde alle previsioni regionali o nazionali. Inoltre, la disponibilità dei dati è eterogenea tra i vari livelli: i dati ospedalieri catturano dettagli operativi, mentre i livelli regionali e nazionali forniscono segnali ambientali e demografici più ampi. I modelli di deep learning esistenti spesso non riescono a modellare congiuntamente queste dipendenze gerarchiche e le covariate eterogenee.

2. Metodologia: HierSTT

Gli autori propongono HierSTT (Hierarchical Spatio-Temporal Transformer), un framework di deep learning progettato per prevedere congiuntamente la domanda dei pronto soccorso a livello ospedaliero, regionale e nazionale, garantendo al contempo la coerenza gerarchica.

Architettura

Il modello impiega un'architettura top-down in cui le rappresentazioni di livello superiore guidano le previsioni di livello inferiore:

• Livello Nazionale: Modellato utilizzando un Temporal Fusion Transformer (TFT). Questo componente cattura i pattern temporali globali e le covariate eterogenee (ad es., tassi di mortalità, domanda nazionale) utilizzando un encoder-decoder basato su LSTM con auto-attenzione multi-testa.
• Livelli Regionali e Ospedalieri: Modellati utilizzando moduli encoder-decoder Spatio-Temporal Transformer. Questi componenti gestiscono entità multiple interagenti (5 regioni, 81 ospedali).
  • Encoder: Alterna tra auto-attenzione temporale (all'interno di ogni entità nell'arco dei 42 giorni di storia) e auto-attenzione spaziale (tra le entità ad ogni passo temporale) per apprendere i pattern intra-entità e le correlazioni inter-entità.
  • Decoder: Genera le previsioni per l'orizzonte di 28 giorni. Fondamentalmente, incorpora le previsioni di livello superiore (le previsioni nazionali condizionano la decodifica regionale; le previsioni regionali condizionano la decodifica ospedaliera) come input aggiuntivi tramite meccanismi di cross-attention. Ciò consente che le stime di livello inferiore siano condizionate dai segnali globali.

Obiettivo di Addestramento

Per imporre la coerenza senza vincolare rigidamente gli output, gli autori introducono una funzione di perdita consapevole della coerenza (coherence-aware loss function):
$$\mathcal{L} = (1 - \alpha)(\mathcal{L}^{(n)} + \mathcal{L}^{(r)} + \mathcal{L}^{(h)}) + \alpha \mathcal{L}_{coh}$$

• $\mathcal{L}^{(\cdot)}$ rappresenta la perdita di previsione diretta (Smooth L1) per ogni livello.
• $\mathcal{L}_{coh}$ è una perdita di coerenza che penalizza le incoerenze tra le previsioni aggregate dei livelli inferiori e le previsioni dei livelli superiori (ad es., la somma delle previsioni ospedaliere rispetto alla previsione regionale).
• $\alpha$ bilancia l'accuratezza e la coerenza.

Dataset

Il lavoro introduce un nuovo dataset nazionale dei pronto soccorso portoghesi che copre:

• 81 ospedali raggruppati in 5 Amministrazioni Regionali della Salute (RHA).
• Intervallo temporale: dal 1° gennaio 2021 al 20 aprile 2024 (escludendo l'inizio del 2021 per mitigare le anomalie legate al COVID-19).
• Covariate Eterogenee:
  • Ospedaliere: Livelli di triage, tempi di attesa, percorsi di accesso, stato di apertura/chiusura.
  • Regionale: Domanda aggregata, qualità dell'aria (AQI), temperatura.
  • Nazionale: Domanda dell'intero sistema, tassi di mortalità.

3. Contributi Chiave

1. Framework Gerarchico: Un framework basato su Transformer che prevede simultaneamente la domanda attraverso tre livelli di aggregazione (ospedale, regione, nazione) in un unico modello end-to-end.
2. Addestramento Consapevole della Coerenza: Una nuova funzione di perdita che impone la coerenza tra i livelli durante l'addestramento, andando oltre i metodi di riconciliazione post-hoc.
3. Nuovo Dataset: Un dataset completo e reale dell'attività dei pronto soccorso portoghesi con covariate eterogenee specifiche per ogni livello amministrativo.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su un orizzonte di previsione di 28 giorni utilizzando 42 giorni di dati storici. HierSTT è stato confrontato con baselines statistiche (ARIMA, ETS), modelli di deep learning non gerarchici (LSTM, Transformer, TFT, N-BEATS) e metodi di riconciliazione gerarchica (Top-Down, Bottom-Up, Middle-Out).

• Accuratezza della Previsione:

  • HierSTT ha ridotto il Weighted Absolute Percentage Error (WAPE) medio del 32% rispetto al miglior baseline di deep learning non gerarchico.
  • Al livello regionale, ha ridotto il MAE di circa il 38% e l'RMSE di circa il 27% rispetto al miglior baseline non gerarchico.
  • Al livello ospedaliero, ha migliorato il MAE di circa l'8% rispetto a N-BEATS.
  • Al livello nazionale, ha ottenuto prestazioni comparabili al TFT standalone, dimostrando che l'addestramento congiunto non degrada l'accuratezza dei livelli superiori.

• Coerenza Gerarchica:

  • HierSTT ha ottenuto il più basso Hierarchical Aggregation Error (HAgE) tra tutti i modelli di non-riconciliazione, migliorando la coerenza lato previsione di circa il 13% rispetto ad ARIMA.
  • A differenza dei metodi di riconciliazione che impongono la coerenza algebricamente (spesso a scapito dell'accuratezza), HierSTT ha imparato a produrre previsioni che fossero sia accurate che quasi coerenti.
  • Ha superato le baseline di riconciliazione nel valore di Ground-Truth HAgE, indicando che le sue previsioni di livello inferiore si aggregano per corrispondere ai valori osservati dei livelli superiori più strettamente rispetto ai metodi basati su aggiustamenti post-hoc.

5. Significato e Rivendicazioni

Il paper sostiene che HierSTT colma la lacuna critica nella previsione dei pronto soccorso, dove i metodi esistenti ignorano le strutture gerarchiche o si affidano a una riconciliazione post-hoc che non riesce a apprendere le dipendenze tra i livelli durante l'addestramento.

• Ottimizzazione Congiunta: Modellando congiuntamente la dinamica temporale, le covariate eterogenee e le dipendenze gerarchiche, HierSTT raggiunge un equilibrio superiore tra accuratezza predittiva e coerenza.
• Rilevanza Operativa: Il framework supporta il processo decisionale multi-livello, garantendo che i piani di gestione del personale locale (livello ospedaliero) siano coerenti con le strategie di allocazione delle risorse regionali e nazionali.
• Robustezza: Il modello dimostra stabilità tra diversi seed casuali e gestisce efficacemente l'eterogeneità dei dati sanitari reali, incluse variabili operative come le chiusure degli ospedali.

Gli autori concludono che una previsione gerarchica efficace richiede l'integrazione dei vincoli strutturali direttamente nel processo di apprendimento piuttosto che trattarli come un passaggio di post-elaborazione, un principio validato dai guadagni di prestazione di HierSTT in tutte le metriche di valutazione.