Résumé Technique : Échantillonnage de l'A posteriori par Recuit de Flux (FAPS)

Énoncé du Problème

L'article traite du défi de la régression fondée sur des principes pour les processus stochastiques, une tâche centrale pour les problèmes inverses scientifiques, l'assimilation de données et la quantification de l'incertitude. Dans ces contextes, l'objectif est d'inférer une distribution a posteriori sur une fonction ou un champ physique inconnue à partir d'observations éparses et bruitées. Bien que la régression par Processus Gaussiens (GP) classique offre une solution bayésienne pour les priors gausiens et les modèles d'observation simples, de nombreux processus scientifiques sont non gausiens, de haute dimension et observés via des mesures physiques indirectes (par exemple, des solutions d'Équations aux Dérivées Partielles, ou EDP).

Les approches existantes font face à des limitations :

• Les Processus Neuraux apprennent des prédicteurs conditionnels amortis mais manquent souvent d'une cohérence a posteriori rigoureuse à travers diverses discrétisations de requêtes et ne séparent pas explicitement l'apprentissage du prior réutilisable de l'inférence au moment du test.
• Les Opérateurs Neuraux fournissent des cartes de solutions d'EDP efficaces mais sont typiquement déterministes et ne produisent pas de distributions a posteriori à partir de données éparses.
• Les Échantillonneurs de l'A posteriori basés sur la Diffusion (ex. : DAPS, FunDPS) combinent des priors appris avec un guidage par l'observation, mais sont souvent basés sur la diffusion, coûteux en calcul, et principalement focalisés sur des contextes d'EDP spécifiques plutôt que sur l'unification de la régression et des problèmes inverses.

Il existe un besoin pour un cadre d'échantillonnage a posteriori général capable d'exploiter des priors d'espace de fonctions pré-entraînés pour effectuer une inférence guidée par la vraisemblance, tant pour la régression directe de processus stochastiques que pour les problèmes inverses d'EDP indirects, sans évaluation explicite de la densité du prior.

Méthodologie : Échantillonnage de l'A posteriori par Recuit de Flux (FAPS)

FAPS est un cadre d'échantillonnage a posteriori dans l'espace des fonctions construit sur des priors de Flow Matching d'Opérateur (OFM) pré-entraînés. Il unifie la régression de processus stochastiques et les problèmes inverses d'EDP via une procédure de recuit découplée.

1. Prior de Flow-Matching dans l'Espace des Fonctions

La méthode utilise un prior OFM pré-entraîné, qui apprend un flux de probabilité transportant une mesure gaussienne de référence $\gamma = \mathcal{N}(0, C_0)$ vers une distribution de données cible $\mu_1$. Ceci est réalisé via un opérateur neural $v_\theta$ entraîné pour approximer le champ de vitesse conditionnel $v_t(u_t | u_0, u_1) = u_1 - u_0$ le long d'un chemin d'interpolation droite bruité. La carte de flux résultante $\Phi_{s \to t}$ permet de transporter des échantillons de la mesure de référence vers le processus cible.

2. Formulation Unifiée de l'A Posteriori

FAPS traite à la fois la régression fonctionnelle et les problèmes inverses d'EDP sous un modèle d'observation unique :
$$y = A(u_1) + \epsilon$$
où $u_1$ est la fonction inconnue, $A$ est l'opérateur d'observation, et $\epsilon$ est le bruit.

• Pour la régression fonctionnelle, $A$ est un opérateur de point d'évaluation directe ou de masquage.
• Pour les problèmes inverses d'EDP, $A$ est une composition d'un opérateur d'observation parcimonieux et d'un substitut (surrogate) d'opérateur neural pré-entraîné $G_\phi$ représentant la carte de solution de l'EDP directe.

3. Procédure de Recuit et de Re-pontage

FAPS échantillonne à partir de l'a posteriori $\pi_1^y$ en alternant entre trois étapes à travers un calendrier de recuit $0 = t_0 < t_1 < \dots < t_K = 1$ :

1. Transport de Flux (Vers l'Extrémité) : Étant donné un état "bruité" $u_{t_k}$ au niveau de recuit $t_k$, la méthode intègre le flux pré-entraîné jusqu'à l'extrémité pour obtenir une ancre "propre" $\hat{u}_k = \Phi_{t_k \to 1}(u_{t_k})$. Cette ancre sert d'estimation de la fonction propre, cohérente avec le prior.
2. Correction de Langevin Guidée par la Vraisemblance : Autour de l'ancre $\hat{u}_k$, FAPS effectue $L$ étapes de dynamique de Langevin pour corriger l'échantillon en fonction de la vraisemblance de l'observation $p(y|u_1)$. La règle de mise à jour est :
   $$u_1^{(\ell+1)} = u_1^{(\ell)} + \eta \left[ -\frac{u_1^{(\ell)} - \hat{u}_k}{\lambda_k^2} + C_X \nabla_{u_1} \log p(y|u_1^{(\ell)}) \right] + \sqrt{2\eta} \zeta^{(\ell)}$$
   Crucialement, le gradient est préconditionné par une matrice de covariance de rang faible $C_X$, estimée hors ligne à partir du processus cible. Ce préconditionneur propage les informations d'observation éparses le long des corrélations dominantes dans l'espace des fonctions, améliorant significativement les mises à jour dans les régions non observées.
3. Re-pontage : L'échantillon propre corrigé est re-ponté vers le niveau de recuit suivant $t_{k+1}$ en utilisant le noyau de pont induit par le chemin de flux, ajoutant efficacement du bruit à l'état pour préparer l'itération suivante.

Ce processus se répète jusqu'à $t_K = 1$, produisant des échantillons a posteriori sans jamais évaluer explicitement la densité du prior.

Contributions Clés

1. Premier Échantillonur d'A Posteriori de Flow-Matching Unifié dans l'Espace des Fonctions : FAPS est présenté comme le premier cadre unifiant la régression de processus stochastiques et les problèmes inverses d'EDP en utilisant des priors de flow-matching d'espace de fonctions pré-entraînés. Il fournit un échantillonneur de vraisemblance commun pour les observations directes et indirectes.
2. Correction de Langevin Préconditionnée par une Covariance de Rang Faible : La méthode introduit un préconditionneur de covariance de rang faible pour l'étape de correction de Langevin. Cela exploite les corrélations dominantes dans l'espace des fonctions, améliorant considérablement les mises à jour a posteriori sous des observations éparses par rapport aux méthodes non préconditionnées.
3. Inférence Flexible et Efficace sur le Plan Calculatoire : FAPS est "plug-and-play", exploitant des priors et des substituts directs pré-entraînés. Il supporte des discrétisations de requêtes variables et des observations bruitées sans ré-entraînement. Il évite l'évaluation explicite de la densité du prior, ce qui le rend nettement plus efficace en mémoire et en temps que les échantillonneurs basés sur le flux ou la diffusion.
4. Performance Empirique Forte : Des expériences étendues démontrent que FAPS atteint des performances de pointe en régression fonctionnelle (surpassant les variantes de Processus Neuraux) et des performances compétitives ou supérieures dans les problèmes inverses d'EDP par rapport aux bases de comparaison basées sur la diffusion, avec des coûts d'échantillonnage au test plus faibles.

Résultats Expérimentaux

L'article évalue FAPS à travers trois configurations :

• Régression par Processus Gaussien : Sur des benchmarks de noyaux Matérn et Gibbs en 1D, FAPS correspond étroitement aux moyennes et incertitudes a posteriori de référence à travers diverses résolutions de requête (128, 512, 1024). Il surpasse les Processus Neuraux (CNP, ANP, NDP, FlowNP) et l'échantillonnage direct par OFM en distance de Wasserstein tranchée (SWD) et en divergence de Maximum Mean Discrepancy (MMD), particulièrement à des résolutions plus élevées où les bases de comparaison se dégradent.
• Régression Fonctionnelle Non Gaussienne : Sur les jeux de données Navier-Stokes, imagerie de trous noirs et climat global, FAPS reconstruit les structures spatiales dominantes et produit des échantillons a posteriori cohérents. Il atteint les meilleures ou presque meilleures calibrations (SSR) et métriques de reconstruction (CRPS, PSBM, SSIM) par rapport aux bases de comparaison, qui ont tendance à trop lisser ou à sous-estimer l'incertitude.
• Problèmes Inverses d'EDP : Sur les benchmarks inverses de Darcy flow, Poisson, Helmholtz et Navier-Stokes (résolution 128x128, 128 observations bruitées), FAPS (variantes FNO et UNet) obtient des résultats compétitifs ou optimaux en CRPS, PSNR et SSIM par rapport à DiffusionPDE, FunDPS et DDIS.
  • Efficacité : FAPS est nettement plus rapide que les bases de comparaison basées sur la diffusion (ex. : 1,73x plus rapide que DiffusionPDE, 2,37x plus rapide que DDIS) et nécessite beaucoup moins de mémoire GPU (évitant la surcharge mémoire élevée de l'évaluation explicite de la vraisemblance dans les priors de flux ou les grands nombres d'étapes de diffusion).
  • Super-Résolution Zero-Shot : FAPS démontre sa capacité à effectuer l'inférence inverse sur des mailles de requête (ex. : 160x160) non vues lors de l'entraînement du prior, une capacité rendue possible par la nature d'espace de fonctions du prior OFM.

Signification et Revendications

Les auteurs affirment que FAPS établit un nouveau paradigme pour l'inférence consciente de l'incertitude dans l'apprentissage automatique scientifique. En convertissant les priors de flow-matching d'espace de fonctions pré-entraînés en échantillonneurs a posteriori guidés par la vraisemblance, FAPS offre une alternative flexible, réutilisable et efficace par rapport aux méthodes existantes.

L'article reconnaît modestement que l'échantillonneur pratique repose sur une correction gaussienne locale approximative et qu'une théorie complète de convergence non asymptotique pour l'échantillonneur pratique reste un travail futur. Cependant, les auteurs fournissent des preuves empiriques et une analyse de propagation d'erreur suggérant que les erreurs de transition locales s'accumulent de manière additive et que la méthode converge vers l'a posteriori cible à mesure que le maillage de recuit et les paramètres d'échantillonnage sont affinés.

En fin de compte, ce travail suggère que les priors de flow-matching d'espace de fonctions peuvent servir de fondation robuste pour l'inférence bayésienne scalable dans des domaines scientifiques complexes, unifiant la régression et la modélisation inverse sous un cadre unique et efficace.