INLA-RF: A Hybrid Modeling Strategy for Spatio-Temporal Environmental Data

Sintesi Tecnica: INLA-RF: Una Strategia di Modellazione Ibrida per Dati Ambientali Spazio-Temporali

Enunciato del Problema
I processi ambientali spesso presentano pattern complessi, non lineari e discontinuità nello spazio e nel tempo, che pongono sfide significative per la modellazione geostatistica tradizionale. Sebbene i modelli statistici, in particolare quelli basati sull'Approssimazione Laplaciana Annidata Integrata (INLA) combinata con l'approccio dell'Equazione Differenziale Stocastica alle Derivate Parziali (SPDE), offrano una quantificazione dei principi di incertezza e interpretabilità, possono mancare della flessibilità necessaria per catturare relazioni non lineari intricate e dipendenze ad alta dimensionalità. Al contrario, i metodi di Apprendimento Automatico (ML) come la Foresta Casuale (Random Forest, RF) eccellono nella modellazione delle non linearità e dei dati ad alta dimensionalità, ma tipicamente soffrono di una limitata interpretabilità, di una mancanza di meccanismi nativi per la quantificazione dell'incertezza e di una gestione implicita piuttosto che esplicita della dipendenza spazio-temporale. Gli approcci ibridi esistenti spesso non riescono a propagare l'incertezza attraverso le fasi di modellazione o si affidano a semplici metodi di ensemble che non integrano appieno i punti di forza di entrambi i paradigmi.

Metodologia
Il documento propone una strategia di modellazione ibrida, collettivamente denominata INLA-RF, che accoppia iterativamente un modello spazio-temporale bayesiano (adattato tramite INLA-SPDE) con la Foresta Casuale. Il framework opera su un Modello Gaussiano Latente (LGM) in cui la risposta $y$ è decomposta in una componente su larga scala (LS) guidata dalle covariate e in una componente residua (RE) che cattura la dipendenza spazio-temporale e il rumore. L'innovazione centrale risiede in uno schema iterativo a due fasi:

1. PASSO 1 (INLA): Viene adattato un LGM parametrico spazio-temporale per catturare la dipendenza spazio-temporale.
2. PASSO 2 (RF): La Foresta Casuale viene addestrata sui residui del modello INLA per apprendere le strutture non lineari rimanenti.

L'output della RF viene quindi reinserito nella fase INLA per raffinare il modello. Il documento introduce due algoritmi distinti all'interno di questo framework:

• INLA-RF1 (Approccio Offset): Questo algoritmo tratta la previsione della RF come un termine di correzione incorporato nel modello INLA come offset. Effettua efficacemente una correzione della media. Una caratteristica chiave è l'opzione per la propagazione dell'incertezza, dove l'errore quadratico medio fuori campione (OOB-MSE) della RF viene utilizzato come componente di varianza fissa nella verosimiglianza gaussiana del modello INLA. Ciò garantisce che le correzioni RF incerte abbiano un'influenza ridotta sull'adattamento finale.
• INLA-RF2 (Correzione dei Nodi del Campo Latente): Questo algoritmo mira a specifici "nodi di stress" all'interno del campo latente del LGM. Invece di un offset globale, introduce un effetto casuale indipendente e identicamente distribuito (IID) aggiuntivo indicizzato solo su un sottoinsieme selezionato di nodi latenti ($K$). Questi nodi sono selezionati in base a criteri come le varianze posteriori marginali più elevate o gli errori predittivi più grandi. L'output della RF viene aggregato su questi nodi per aggiornare la media e la precisione di questa componente latente aggiuntiva, permettendo correzioni localizzate a cambiamenti bruschi o discontinuità che le componenti lisce di un LGM standard potrebbero non cogliere.

Entrambi gli algoritmi utilizzano la Divergenza di Kullback-Leibler (KLD) tra le distribuzioni posteriori del campo latente in iterazioni consecutive come criterio di arresto. Questo approccio guidato dai dati determina il numero di iterazioni, evitando parametri di taratura arbitrari e riducendo il rischio di overfitting.

Contributi Chiave

1. Nuovi Algoritmi Ibridi: L'introduzione di INLA-RF1 e INLA-RF2, che integrano esplicitamente l'apprendimento dei residui della RF nel framework bayesiano INLA-SPDE.
2. Propagazione dell'Incertezza: A differenza di molti approcci ibridi, il framework proposto propaga esplicitamente l'incertezza dalla fase ML (tramite OOB-MSE) al modello statistico, sia attraverso una varianza offset (INLA-RF1) che attraverso la precisione di una componente di correzione latente (INLA-RF2).
3. Criterio di Arresto Adattivo: L'uso della KLD come criterio di arresto fornisce un metodo fondato per terminare il processo iterativo quando la distribuzione posteriore si stabilizza, migliorando l'efficienza computazionale.
4. Correzione Locale Mirata: INLA-RF2 offre un meccanismo per correggere regioni specifiche del campo latente, affrontando rotture strutturali o specificazioni errate localizzate che i modelli globali potrebbero non riuscire a catturare.

Risultati
Le prestazioni di INLA-RF sono state valutate attraverso due studi di simulazione e un'applicazione reale che coinvolge le concentrazioni giornaliere di PM10 nella regione Lombardia, Italia (2016–2021).

• Simulazione Spazio-Temporale (INLA-RF1): In uno scenario con relazioni non lineari delle covariate, INLA-RF1 ha migliorato l'accuratezza predittiva (minori RMSE e MAE) rispetto sia al modello INLA autonomo che alla RF standard. La versione con propagazione dell'incertezza (INLA-RF1.2) ha fornito un'incertezza meglio calibrata (maggiore Probabilità di Copertura) a scapito di intervalli predittivi più ampi, mentre la versione senza propagazione (INLA-RF1.1) ha prodotto previsioni più nette.
• Simulazione di Discontinuità Temporale (INLA-RF2): In un contesto puramente temporale con salti bruschi, INLA-RF2 ha migliorato significativamente la stima nei "punti di stress" selezionati (nodi vicini ai salti). L'RMSE in questi punti è diminuito da 0,93 (INLA di riferimento) a 0,22, e la Probabilità di Copertura è aumentata da 0,47 a 0,92, dimostrando la capacità dell'algoritmo di correggere i campi latenti in regioni di alta incertezza o cambiamento strutturale.
• Caso di Studio Reale (Dataset Agrimonia): Applicato ai dati sull'inquinamento atmosferico, INLA-RF1 (entrambe le versioni) ha superato il modello INLA di riferimento e la RF standard in termini di RMSE e MAE. INLA-RF1.2 ha raggiunto una copertura sostanzialmente superiore rispetto al riferimento. Al contrario, INLA-RF2 non ha prodotto miglioramenti significativi rispetto al riferimento in questa specifica applicazione, probabilmente perché i dati reali non presentavano le caratteristiche localizzate chiare che richiedono una correzione a livello di nodo, che è ciò che l'algoritmo è progettato per affrontare.

Significato e Affermazioni
Il documento afferma che il framework INLA-RF colma con successo il divario tra l'interpretabilità e la quantificazione dell'incertezza dei modelli statistici bayesiani e la flessibilità predittiva dell'apprendimento automatico. I risultati indicano che INLA-RF può migliorare l'accuratezza predittiva spazio-temporale, in particolare in presenza di discontinuità temporali o relazioni non lineari tra covariate e risposta. Gli autori sottolineano che la scelta tra INLA-RF1 e INLA-RF2 dipende dall'obiettivo di modellazione: INLA-RF1 è preferibile per migliorare le prestazioni predittive complessive con complessità minima, mentre INLA-RF2 è adatto per correggere regioni specifiche del campo latente, sebbene richieda una selezione attenta dei nodi di stress. Il framework è presentato come uno strumento flessibile che mantiene l'efficienza computazionale dell'approccio INLA-SPDE migliorando al contempo la sua capacità di modellare dati ambientali complessi.