Résumé Technique : Combler l'écart résiduel : Sous-échantillonnage probabiliste sous biais du monde réel

1. Définition du Problème

Le papier traite du sous-échantillonnage probabiliste (downscaling), la tâche consistant à modéliser la distribution conditionnelle de champs géophysiques à haute résolution (HR) étant donnés des entrées à basse résolution (LR). Il s'agit d'un défi critique en sciences atmosphériques et en modélisation climatique, où les dynamiques à petite échelle sont nécessaires pour l'évaluation des risques et la prise de décision tenant compte de l'incertitude, mais sont coûteuses à simuler directement par calcul.

La difficulté fondamentale réside dans les applications réelles où les sources de données LR et HR présentent des biais systématiques et des décalages (par exemple, des différences de formulation de modèles numériques, d'assimilation de données ou de projection de grille). Ces « biais de sous-échantillonnage » rendent le problème inverse mal posé au-delà d'une simple interpolation.

Les auteurs identissent un mode de défaillance spécifique dans le paradigme largement adopté de la décomposition moyenne-résiduelle :

1. Approche standard : Un régresseur déterministe prédit une approximation grossière ($\mu_\phi(x)$), suivie d'un générateur stochastique (par exemple, un modèle de diffusion) qui prédit le résidu ($r = y - \mu_\phi(x)$) pour ajouter des détails à petite échelle et une dispersion probabiliste.
2. L'échec : Dans des contextes biaisés, cette approche produit fréquemment des ensembles sous-dispersifs (la dispersion de l'ensemble est nettement plus petite que l'erreur de la moyenne de l'ensemble).
3. La cause profonde : Les auteurs soutiennent qu'il ne s'agit pas simplement d'un problème de calibration du échantillonneur stochastique, mais d'une spécification erronée de la cible résiduelle fondamentale. Parce que le résidu est défini par rapport au prédicteur de moyenne en amont ($\mu_\phi$), et que $\mu_\phi$ fait du surapprentissage (overfitting) sur les biais spécifiques à l'entraînement, la distribution des résidus observée pendant l'entraînement ($R_{tr}$) diffère systématiquement de la distribution des corrections requises au moment du test ($R_{te}$). Ce décalage entraînement-test dans la cible résiduelle elle-même conduit à une mauvaise calibration.

2. Méthodologie : ReMatch (Appariement de la Distribution Résiduelle)

Pour remédier à la spécification erronée de la cible résiduelle, les auteurs proposent ReMatch, un cadre en trois étapes qui aligne la distribution des résidus d'entraînement avec le régime de test en utilisant un ensemble de calibration tenu à l'écart.

Étape 1 : Estimation du champ moyen à haute résolution

Un prédicteur déterministe en amont $\mu_\phi(x)$ est entraîné sur le lot d'entraînement pour minimiser la perte de régression ponctuelle (par exemple, la norme $L_p$). Cela produit une approximation déterministe structurée du champ cible.

Étape 2 : Alignement de la cible résiduelle via le transport optimal

C'est l'innovation centrale. ReMatch utilise un lot de calibration (données tenues à l'écart représentant le régime de test) pour aligner les résidus d'entraînement vers les corrections attendues au moment du test.

• Mécanisme : La méthode emploie le Transport Optimal (OT) pour mapper les résidus d'entraînement vers la distribution des résidus de calibration.
• Fonction de coût : Le coût de transport $c_{ij}$ entre un échantillon d'entraînement $i$ et un échantillon de calibration $j$ combine :
  1. La similitude des résidus dans un espace PCA de faible dimension (pour gérer la haute dimensionnalité et le bruit).
  2. La cohérence de la condition basse résolution ($\ell_{tr}$ vs $\ell_{cal}$) pour s'assurer que les résidus ne sont transportés qu'entre des échantillons ayant des entrées à grande échelle compatibles.
• Transformation : Les résidus d'entraînement sont remplacés par des combinaisons pondérées par l'OT des résidus de calibration. Cela déplace la distribution d'entraînement vers le régime de calibration tout en préservant la relation structurelle entre l'entrée LR, la pseudo-moyenne et le résidu transporté.

Étape 3 : Génération de résidus avec la diffusion

Un modèle de diffusion conditionnel $q_\theta(r | x, \mu)$ est entraîné pour générer des corrections de résidus stochastiques. Crucialement, les données d'entraînement pour cette étape consistent en :

1. Les échantillons d'entraînement transportés (où les résidus ont été alignés via l'OT).
2. Les échantillons de calibration originaux.

Cela préserve les avantages statistiques de la décomposition moyenne-résiduelle tout en garantissant que le générateur stochastique est entraîné sur des cibles résiduelles qui correspondent au régime d'inférence.

3. Contributions Clés

1. Insight Théorique : Le papier fournit une explication rigoureuse de la sous-dispersion dans le sous-échantillonnage biaisé, identifiant la spécification erronée de la cible résiduelle comme la cause principale. Il formalise le décalage entraînement-test dans la cible résiduelle et prouve qu'un écart dans l'amplitude (énergie) du résidu implique un écart dans la distribution du résidu (via la distance de Wasserstein).
2. Cadre ReMatch : Une solution pratique qui utilise le transport optimal dans un espace PCA pour aligner les distributions de résidus sans nécessiter de labels de test, seulement un ensemble de calibration.
3. Validation Empirique : Évaluation complète sur :
   • Un benchmark synthétique (BLASTNet) avec des niveaux de biais LR–HR systématiquement variés.
   • Une tâche du monde réel : Sous-échantillonnage des champs de vent ERA5 (grossier) vers HRRR (fin) sur les États-Unis.

4. Résultats Expérimentaux

Benchmark Synthétique (Biais Contrôlé)

• Observation : À mesure que le biais LR–HR augmente, les modèles moyenne-résiduelle standards (CorrDiff) montrent des performances dégradées : l'RMSE augmente et le SSR (Ratio Dispersion-Compétence) diminue, indiquant une sous-dispersion sévère.
• Performance de ReMatch : ReMatch améliore systématiquement l'RMSE et le SSR à travers tous les niveaux de biais. L'amélioration de la calibration (SSR) est plus prononcée lorsque le niveau de biais augmente, confirmant que l'appariement de la distribution résiduelle atténue les effets de la spécification erronée de la cible.

Sous-échantillonnage de champs de vent réels (ERA5 $\to$ HRRR)

• Métriques : ReMatch (avec les architectures de fond UNet et SwinIR) surpasse les bases solides incluant le CorrDiff standard, le guidage sans classe (CFG), les variantes conditionnées par l'incertitude, et les modèles de super-résolution déterministes (UNet, Conv-FNO, SwinIR).
• Résultats Clés :
  • Précision : ReMatch atteint l'RMSE et le CRPS (Continuous Ranked Probability Score) les plus bas.
  • Calibration : ReMatch réduit considérablement la sous-dispersion par rapport à CorrDiff (SSR plus proche de 1).
  • Perception : ReMatch obtient les meilleurs scores LPIPS, indiquant une fidélité visuelle supérieure.
  • Impact Aval : Dans une expérience d'advection de particules, les ensembles générés par ReMatch ont maintenu les trajectoires plus proches du chemin réel (ground-truth) par rapport à CorrDiff, suggérant que des dispersions mieux calibrées améliorent la prise de décision tenant compte de l'incertitude.

5. Signification et Revendications

Le papier affirme que les échecs de calibration dans les pipelines génératifs de résidus ne doivent pas être vus uniquement comme des déficiences de l'échantillonneur stochastique. Ils proviennent souvent de la construction de la cible elle-même. Lorsque le prédicteur de moyenne induit une cible résiduelle qui est mal spécifiée pour le régime de test, le modèle génératif ne peut pas apprendre la distribution correcte des corrections.

La signification de ReMatch réside dans sa capacité à :

• Découpler la prédiction de la moyenne déterministe de la génération du résidu stochastique tout en corrigeant explicitement le décalage distributionnel entre les deux.
• Améliorer le compromis précision-calibration dans des contextes réels où les sources de données sont biaisées.
• Démontrer que l'alignement des cibles d'entraînement (via le transport optimal) est une étape nécessaire pour un sous-échantillonnage probabiliste fiable, plutôt que de simplement ajuster l'architecture du modèle génératif ou la stratégie d'échantillonnage.

Les auteurs concluent que la conception de systèmes de sous-échantillonnage probabilistes fiables nécessite de faire correspondre non seulement les sorties du modèle, mais aussi les cibles induites par le prédicteur sur lesquelles les modèles génératifs sont entraînés.