Résumé technique : Ajustement fin de modèles de Flow-Matching contraints par la physique

Énoncé du problème

Les modèles génératifs profonds, tels que les réseaux de diffusion et de flow-matching (FM), ont démontré leur succès dans la représentation de systèmes physiques spatio-temporels complexes. Cependant, les modèles génératifs standards échouent souvent à respecter strictement les lois physiques sous-jacentes (par exemple, les lois de conservation, les conditions aux limites) qui régissent ces systèmes, particulièrement lorsqu'ils sont entraînés sur des données d'observation où les paramètres directeurs (par exemple, les propriétés des matériaux, les termes sources) sont inconnus ou non observés.

Les approches existantes présentent des limitations significatives :

1. Réseaux de neurones informés par la physique (PINNs) : Bien qu'efficaces pour les problèmes directs et inverses, ils régressent généralement des solutions uniques et ne capturent pas la distribution des résultats plausibles requise pour les tâches génératives.
2. Pré-entraînement avec pertes physiques : L'intégration de contraintes physiques lors du pré-entraînement (par exemple, le Physics-Based Flow Matching) nécessite souvent des données appariées de solutions et de leurs paramètres physiques correspondants, ce qui est fréquemment indisponible, coûteux à obtenir ou de haute dimension.
3. Contraintes au moment de l'inférence : Les méthodes qui imposent des contraintes lors de l'inférence (par exemple, l'échantillonnage basé sur la projection) peuvent introduire des discontinuités ou peiner face à des contraintes locales comme les conditions aux limites sans réentraînement.

Le défi central adressé par ce travail est de savoir comment ajuster un modèle de flow-matching pré-entraîné — entraîné sur des données de faible fidélité ou observationnelles sans paramètres de vérité terrain — pour imposer des contraintes d'EDP dépendantes de paramètres et inférer conjointement les paramètres physiques latents, le tout sans nécessiter de données d'entraînement conjointes paramètre-solution.

Méthodologie

Les auteurs proposent un cadre pour l'Ajustement Fin de Physique-Contraint (PCFT) qui combine l'Adjoint Matching avec une stratégie d'Évolution Conjointe État-Paramètre.

1. Définition de la récompense via des résidus de forme faible

Au lieu d'utiliser des résidus d'EDP en forme forte (qui impliquent des dérivées d'ordre élevé et sont instables avec des données bruitées), la méthode emploie des résidus de forme faible. Pour un échantillon généré $x$ et des paramètres $\alpha$ inférés, le résidu est défini par :
$$R_{weak}(x, \alpha) = \frac{1}{N_{test}} \sum_{i=1}^{N_{test}} |\langle L_\alpha x, \psi^{(i)} \rangle_{L^2(\Omega)}|^2$$
où $L_\alpha x = 0$ représente l'EDP directrice, et $\psi^{(i)}$ sont des fonctions de test échantillonnées aléatoirement et à support compact (polynômes de Wendland). Cette formulation fournit un signal d'apprentissage stable et à faible variance qui pénalise les écarts par rapport aux lois physiques et aux conditions aux limites.

2. Évolution conjointe de l'état et des paramètres

Puisque le modèle de base génère uniquement l'état $x$ sans paramètres correspondants $\alpha$, les auteurs introduisent un prédicteur de paramètre latent $\phi$ et font évoluer conjointement l'état $x$ et le paramètre $\alpha$ :

• Prédicteur inverse : Un réseau $\phi(x_1) = \alpha_1$ est pré-entraîné pour minimiser le résidu de l'EDP sur les échantillons totalement débruités du modèle de base.
• Flux de base substitut : Puisque le flux réel de $\alpha$ est inconnu pour le modèle de base, un flux substitut est construit en utilisant le prédicteur inverse. À n'importe quel état $(x_t, \alpha_t)$, le paramètre final prédit $\hat{\alpha}_1 = \phi(\hat{x}_1)$ (où $\hat{x}_1$ est l'état final prédit) définit une direction cible pour l'évolution du paramètre.
• Régularisation : Un vecteur de champ supplémentaire $v_{reg}$ est introduit pour attirer la trajectoire du paramètre ajusté vers les paramètres estimés par le modèle de base, préservant ainsi les détails spécifiques à l'échantillon et évitant une sur-régularisation.

3. Ajustement fin par Adjoint Matching

Le processus d'ajustement fin est formulé comme un problème de contrôle optimal stochastique. L'objectif est de diriger le processus génératif de base $v_{base}$ vers une distribution inclinée par la récompense $p_r(x) \propto e^{\lambda r(x)}p(x)$, où la récompense $r$ est le résidu négatif de l'EDP.

• Problème de contrôle : Le champ de vecteurs ajusté $v_{ft}$ est dérivé en ajoutant un terme de contrôle $u_t$ au flot de base.
• État adjoint mince : Pour optimiser le contrôle efficacement, la méthode utilise un "état adjoint mince" qui évolue vers l'arrière dans le temps. Cela évite de calculer les gradients à travers toute la trajectoire générative lors de la passe arrière, réduisant ainsi le coût computationnel.
• Fonction de perte : L'objectif est une perte de cohérence entre le contrôle appris $u_t$ et l'état adjoint $a_t$ :
  $$\mathcal{L} = \frac{1}{2} \int_0^1 \| u_t(\tilde{X}_t) + \sigma(t) a_t \|^2 dt$$
• Programme de bruit : Les auteurs introduisent un programme de bruit sans mémoire mis à l'échelle $\sigma^2(t) = (1-\kappa)2\eta_t$ pour stabiliser l'entraînement et atténuer les explosions numériques près de $t=0$, une extension novatrice du cadre standard d'Adjoint Matching.

Contributions clés

1. Application de contraintes physiques post-entraînement : Une stratégie pour incliner la distribution générative vers des échantillons conformes aux EDP en utilisant des résidus de forme faible, améliorant la validité physique tout en préservant la diversité du modèle original.
2. Résolution conjointe de problèmes inverses : Une formulation rigoureuse qui fait évoluer conjointement l'état et les paramètres latents via des champs de vecteurs, permettant l'inférence de paramètres physiques cachés (par exemple, perméabilité, élasticité) sans données d'entraînement appariées.
3. Fondement théorique : L'intégration de l'Adjoint Matching avec un programme de bruit mis à l'échelle, fournissant un cadre d'optimisation stable et à faible variance pour l'ajustement fin basé sur la récompense.
4. Utilité trans-domaine : Démonstration que le cadre s'étend au-delà des EDP à la génération d'images naturelles, où les "contraintes physiques" sont remplacées par des transformations de couleurs paramétriques guidées par des scores de préférence.

Résultats expérimentaux

La méthode a été évaluée sur quatre familles d'EDP canoniques et une tâche d'image naturelle :

1. Écoulement de Darcy : Le modèle a réussi à débruiter les champs de pression et à récupérer les cartes de perméabilité. L'ajustement fin a réduit significativement les résidus d'EDP. Les auteurs ont démontré un compromis contrôlable entre la réduction du résidu et la fidélité de la distribution (mesurée par la diversité MMD et SSIM) via le réglage des hyperparamètres ($\lambda_x, \lambda_f$).
2. Élasticité linéaire : Sous une erreur de spécification des conditions aux limites, la méthode a obtenu de faibles erreurs de bord et des résidus faibles/forts tout en maintenant un déplacement de distribution modeste, surpassant les bases de comparaison PBFM et ECI (Extrapolation-Correction-Interpolation).
3. Équation de Helmholtz : Dans un scénage de décalage de modèle (amorti vs sans perte), le modèle Adjoint Matching conjoint a obtenu les résidus les plus bas et la meilleure fidélité de distribution (MMD la plus faible) parmi toutes les méthodes testées, y compris PBFM et les variantes d'ablation d'Adjoint Matching.
4. Stokes Lid-Driven Cavity : La méthode a géré un décalage de modèle sévère (force non nulle vs force nulle). Bien que les niveaux de résidus soient comparables entre les variantes d'Adjoint Matching, le modèle conjoint a de manière unique atteint de faibles écarts de distribution de paramètres (MMD$_\alpha$), soulignant sa capacité à apprendre la distribution correcte des paramètres.
5. Images naturelles : Appliquée à un modèle de Latent Flow Matching pour la génération conditionnelle de classe (aras), la méthode a réussi à effectuer des transformations de couleurs paramétriques pour correspondre à des prompts textuels ("Pop Art"), démontant que le cadre peut faire le pont entre la modélisation générative et l'inférence basée sur les préférences.

Signification et affirmations

L'article affirme combler le fossé entre la modélisation générative et l'inférence scientifique. En permettant l'ajustement fin de modèles pré-entraînés pour imposer des contraintes physiques complexes dépendantes de paramètres sans nécessiter de données appariées solution-paramètre, l'approche offre une voie efficace en données pour :

• Découverte augmentée par simulation : Générer des solutions physiquement plausibles et explorer des scénarios hypothétiques.
• Problèmes inverses : Inférer des paramètres physiques latents à partir d'observations éparses ou bruitées.
• Robustesse : Maintenir la diversité des échantillons tout en respectant les lois physiques, évitant l'effondrement de mode souvent observé dans l'optimisation contrainte.

Les auteurs positionnent ce travail comme une étape vers une "modélisation générative consciente de la physique", où les modèles peuvent être adaptés à des régimes physiques ou des contraintes spécifiques a posteriori, les rendant plus polyvalents pour la découverte scientifique et les applications d'ingénierie. Le code est rendu disponible pour assurer la reproductibilité.