INLA-RF: A Hybrid Modeling Strategy for Spatio-Temporal Environmental Data

Résumé technique : INLA-RF : Une stratégie de modélisation hybride pour les données environnementales spatio-temporelles

Énoncé du problème
Les processus environnementaux présentent souvent des motifs complexes, non linéaires et des discontinuités à travers l'espace et le temps, ce qui pose des défis majeurs pour la modélisation géostatistique traditionnelle. Bien que les modèles statistiques, en particulier ceux fondés sur l'Approximation Laplacienne Emboîtée Intégrée (INLA) combinée à l'approche des Équations Différentielles Stochastiques Partielles (EDSP), offrent une quantification rigoureuse de l'incertitude et de l'interprétabilité, ils peuvent manquer de flexibilité pour capturer des relations non linéaires complexes et des dépendances de haute dimension. À l'inverse, les méthodes d'apprentissage automatique (ML) comme les Forêts Aléatoires (RF) excellent dans la modélisation des non-linéarités et des données de haute dimension, mais souffrent généralement d'une interprétabilité limitée, d'un manque de mécanismes natifs de quantification de l'incertitude et d'une gestion implicite plutôt qu'explicite de la dépendance spatio-temporelle. Les approches hybrides existantes échouent souvent à propager l'incertitude à travers les étapes de modélisation ou reposent sur des méthodes d'ensemble simples qui n'intègrent pas pleinement les forces des deux paradigmes.

Méthodologie
L'article propose une stratégie de modélisation hybride, collectivement désignée sous le nom d'INLA-RF, qui couple itérativement un modèle bayésien spatio-temporel (ajusté via INLA-EDSP) avec une Forêt Aléatoire. Le cadre fonctionne sur un Modèle Gaussien Latent (LGM) où la réponse $y$ est décomposée en une composante à grande échelle (LS) pilotée par des covariables et une composante résiduelle (RE) capturant la dépendance spatio-temporelle et le bruit. L'innovation centrale réside dans un schéma itératif à deux étapes :

1. ÉTAPE 1 (INLA) : Un LGM paramétrique spatio-temporel est ajusté pour capturer la dépendance spatio-temporelle.
2. ÉTAPE 2 (RF) : Une Forêt Aléatoire est entraînée sur les résidus du modèle INLA pour apprendre les structures non linéaires restantes.

La sortie de la RF est ensuite réinjectée dans l'étape INLA pour affiner le modèle. L'article introduit deux algorithmes distincts au sein de ce cadre :

• INLA-RF1 (Approche par décalage) : Cet algorithme traite la prédiction de la RF comme un terme de correction intégré au modèle INLA sous forme de décalage (offset). Il effectue efficacement une correction de la moyenne. Une caractéristique clé est l'option de propagation de l'incertitude, où l'erreur quadratique moyenne hors sac (OOB-MSE) de la RF est utilisée comme composante de variance fixe dans la vraisemblance gaussienne du modèle INLA. Cela garantit que les corrections RF incertaines ont une influence réduite sur l'ajustement final.
• INLA-RF2 (Correction des nœuds du champ latent) : Cet algorithme cible des « nœuds de stress » spécifiques au sein du champ latent du LGM. Au lieu d'un décalage global, il introduit un effet aléatoire supplémentaire indépendant et identiquement distribué (IID) indexé uniquement sur un sous-ensemble sélectionné de nœuds latents ($K$). Ces nœuds sont sélectionnés selon des critères tels que les variances marginales postérieures les plus élevées ou les erreurs de prédiction les plus importantes. La sortie de la RF est agrégée à ces nœuds pour mettre à jour la moyenne et la précision de cette composante latente supplémentaire, permettant des corrections localisées pour les changements brusques ou les discontinuités que les composantes lisses d'un LGM standard pourraient manquer.

Les deux algorithmes utilisent la Divergence de Kullback-Leibler (KLD) entre les distributions postérieures du champ latent lors d'itérations consécutives comme critère d'arrêt. Cette approche pilotée par les données détermine le nombre d'itérations, évitant les paramètres de réglage arbitraires et réduisant le risque de surajustement.

Contributions clés

1. Nouveaux algorithmes hybrides : L'introduction d'INLA-RF1 et d'INLA-RF2, qui intègrent explicitement l'apprentissage des résidus par RF dans le cadre bayésien INLA-EDSP.
2. Propagation de l'incertitude : Contrairement à de nombreuses approches hybrides, le cadre proposé propage explicitement l'incertitude de l'étape ML (via l'OOB-MSE) vers le modèle statistique, soit par une variance de décalage (INLA-RF1), soit par la précision d'une composante de correction latente (INLA-RF2).
3. Critère d'arrêt adaptatif : L'utilisation de la KLD comme critère d'arrêt fournit une méthode rigoureuse pour terminer le processus itératif lorsque la distribution postérieure se stabilise, améliorant ainsi l'efficacité computationnelle.
4. Correction locale ciblée : INLA-RF2 offre un mécanisme pour corriger des régions spécifiques du champ latent, traitant les ruptures structurelles ou les erreurs de spécification localisées que les modèles globaux peuvent ne pas capturer.

Résultats
La performance d'INLA-RF a été évaluée à travers deux études de simulation et une application réelle impliquant les concentrations quotidiennes de PM10 dans la région de Lombardie en Italie (2016–2021).

• Simulation spatio-temporelle (INLA-RF1) : Dans un scénario avec des relations non linéaires entre les covariables, INLA-RF1 a amélioré la précision prédictive (RMSE et MAE plus faibles) par rapport à la fois au modèle INLA autonome et à la RF standard. La version avec propagation de l'incertitude (INLA-RF1.2) a fourni une incertitude mieux calibrée (probabilité de couverture plus élevée) au prix d'intervalles prédictifs plus larges, tandis que la version sans propagation (INLA-RF1.1) a produit des prédictions plus précises.
• Simulation de discontinuité temporelle (INLA-RF2) : Dans un cadre purement temporel avec des sauts brusques, INLA-RF2 a considérablement amélioré l'estimation aux « points de stress » sélectionnés (nœuds proches des sauts). Le RMSE à ces points est passé de 0,93 (INLA de référence) à 0,22, et la probabilité de couverture est passée de 0,47 à 0,92, démontrant la capacité de l'algorithme à corriger les champs latents dans des régions de forte incertitude ou de changement structurel.
• Étude de cas réelle (Jeu de données Agrimonia) : Appliqué aux données de pollution de l'air, INLA-RF1 (les deux versions) a surpassé le modèle INLA de référence et la RF standard en termes de RMSE et de MAE. INLA-RF1.2 a atteint une couverture nettement supérieure à celle de la référence. En revanche, INLA-RF2 n'a pas produit d'améliorations significatives par rapport à la référence dans cette application spécifique, probablement parce que les données réelles ne présentaient pas les caractéristiques localisées claires nécessitant une correction au niveau des nœuds que l'algorithme est conçu pour traiter.

Signification et affirmations
L'article affirme que le cadre INLA-RF comble avec succès le fossé entre l'interprétabilité et la quantification de l'incertitude des modèles statistiques bayésiens et la flexibilité prédictive de l'apprentissage automatique. Les résultats indiquent que INLA-RF peut améliorer la précision prédictive spatio-temporelle, en particulier en présence de discontinuités temporelles ou de relations non linéaires entre les covariables et la réponse. Les auteurs soulignent que le choix entre INLA-RF1 et INLA-RF2 dépend de l'objectif de modélisation : INLA-RF1 est préférable pour améliorer la performance prédictive globale avec une complexité minimale, tandis qu'INLA-RF2 convient à la correction de régions spécifiques du champ latent, bien qu'il nécessite une sélection soigneuse des nœuds de stress. Le cadre est présenté comme un outil flexible qui conserve l'efficacité computationnelle de l'approche INLA-EDSP tout en améliorant sa capacité à modéliser des données environnementales complexes.