Résumé Technique : Décomposition Déterministe des Dynamiques Génératives Stochastiques

Énoncé du Problème

La modélisation générative moderne est de plus en plus envisagée à travers le prisme du transport de probabilité, où les échantillons évoluent d'une distribution de base simple $\pi_0$ vers une distribution de données cible $\pi_1$. Une distinction fondamentale existe entre les modèles déterministes (par exemple, les Flots Normalisants, l'Appariement de Flots), qui font évoluer les échantillons via des Équations Différentielles Ordinaires (EDO) régies par un champ de vitesse, et les modèles stochastiques (par exemple, les Modèles de Diffusion), qui font évoluer les échantillons via des Équations Différentielles Stochastiques (EDS) impliquant à la fois une dérive et une diffusion.

Bien que les modèles déterministes offrent des champs de vitesse traitables, les modèles stochastiques capturent une évolution de densité plus riche. Cependant, lorsque les dynamiques stochastiques sont reformulées en représentations déterministes (telles que les EDO de flot de probabilité), les mécanismes distincts de dérive (transport directionnel) et de diffusion (remodelage de densité) sont souvent compressés en un seul champ de vitesse effectif. Cet effacement obscurcit les rôles spécifiques de l'évolution déterministe par rapport aux fluctuations stochastiques, rendant difficile l'analyse, le contrôle ou la recomposition indépendante de ces effets lors de l'échantillonnage. Les approches existantes traitent généralement la stochasticité comme une source de bruit externe ou l'absorbent entièrement dans une dérive unifiée, échouant à fournir une représentation déterministe structurée qui sépare le transport des effets induits par la diffusion.

Méthodologie : Décomposition Transport–Osmotique

Les auteurs proposent un cadre théorique qui décompose le champ de vitesse déterministe d'un processus génératif stochastique en deux composantes distinctes et complémentaires : un Champ de Transport ($u_t$) et un Champ Osmotique ($d_t$).

1. Dérivation Théorique

La décomposition découle de la structure bidirectionnelle intrinsèque des processus stochastiques. Pour un chemin de densité marginale donné $\{\pi_t\}_{t \in [0,1]}$, la dérive avant $b^\to_t$ et la dérive arrière $b^\leftarrow_t$ sont couplées via le score marginal $\nabla \log \pi_t$. Sous des conditions de régularité canoniques, la relation est :
$$b^\to_t(x) - b^\leftarrow_t(x) = \beta \nabla \log \pi_t(x)$$
où $\beta$ est le coefficient de diffusion.

Les auteurs définissent la décomposition comme suit :

• Champ de Transport ($u_t$) : La composante symétrique, définie comme la moyenne des dérives avant et arrière :
  $$u_t(x) = \frac{1}{2} (b^\to_t(x) + b^\leftarrow_t(x))$$
  Ce champ régit le transport de probabilité marginale via l'équation de continuité ($\partial_t \pi_t + \nabla \cdot (\pi_t u_t) = 0$). Il représente l'épine dorsale déterministe des dynamiques, déplaçant la masse de probabilité sans altérer la géométrie de la densité locale par diffusion.
• Champ Osmotique ($d_t$) : La composante antisymétrique, définie comme la moitié de la différence entre les dérives avant et arrière :
  $$d_t(x) = \frac{1}{2} (b^\to_t(x) - b^\leftarrow_t(x)) = \frac{\beta}{2} \nabla \log \pi_t(x)$$
  Ce champ est entièrement déterminé par le score marginal. Il capture les effets dépendants de la densité induits par la diffusion (analogues à la vitesse osmotique dans la théorie classique de la diffusion). Il ne représente pas le hasard au niveau de l'échantillon, mais plutôt la manière dont la diffusion remodèle la densité marginale.

La dérive avant originale est reconstruite comme $b^\to_t = u_t + d_t$.

2. Cadre de l'Appariement de Ponts (Bridge Matching - BM)

Pour apprendre ces champs décomposés, les auteurs proposent l'Appariement de Ponts, un cadre d'entraînement basé sur les flots. Au lieu d'apprendre une vitesse effective unique, le BM apprend deux réseaux de neurones séparés : $u_\theta$ (transport) et $d_\phi$ (osmotique).

L'objectif d'entraînement est une perte de régression qui fait correspondre les champs appris aux champs cibles :
$$\mathcal{L}_{BM} = \mathbb{E}_{t, x_t} \left[ \| u_\theta(x_t, t) - u^*(x_t, t) \|^2 + \lambda_d \| d_\phi(x_t, t) - d^*(x_t, t) \|^2 \right]$$

L'article introduit deux formulations pour construire les cibles $u^*$ et $d^*$ :

• Appariement de Ponts Marginal (MBM) : Cible directement la décomposition marginale. La cible de transport $u^*$ satisfait l'équation de continuité pour le chemin prescrit, et la cible osmotique $d^*$ est dérivée du score marginal $\nabla \log \pi_t$. Cela nécessite d'estimer le score marginal, souvent via une Estimation de Densité par noyau (KDE).
• Appariement de Ponts Conditionnel (CBM) : Utilise une distribution conditionnelle traitable $p_t(x|z)$ (par exemple, une interpolation gaussienne entre les points extrêmes) pour éviter l'estimation explicite du score marginal. Les cibles sont définies conditionnellement : $d^*_t(x, z) = \frac{\beta_t}{2} \nabla_x \log p_t(x|z)$ et $u^*_t = v^*_t - d^*_t$. L'espérance sur la variable de conditionnement $z$ retrouve la décomposition marginale.

3. Échantillonnage et Recomposition

Une caractéristique clé du cadre est la capacité à recombiner les champs appris au moment de l'échantillonnage. Les dynamiques d'échantillonnage avant sont définies comme :
$$b^{BM}_t(x) = u_\theta(x, t) + \lambda_d d_\phi(x, t)$$
où $\lambda_d$ est un poids réglable. Cela permet un échantillonnage contrôlable où la contribution de l'effet osmotique induit par la diffusion peut être ajustée indépendamment de l'épine dorsale de transport.

Contributions Clés

1. Décomposition Transport–Osmotique : L'article dérive une décomposition formelle des dynamiques génératives stochastiques, démontrant que les modèles déterministes et stochastiques partagent une épine dorsale de transport marginale commune ($u_t$) mais diffèrent dans la manière dont les effets induits par la diffusion ($d_t$) sont intégrés dans les dynamiques d'échantillon.
2. Cadre d'Appariement de Ponts : Les auteurs proposent un cadre d'entraînement qui apprend ces champs décomposés en utilisant à la fois des formulations marginales et conditionnelles, reliant efficacement les informations basées sur le score aux objectifs de régression de style flot.
3. Échantillonnage Contrôlable et Interprétable : Les résultats empiriques montrent que la recomposition des composantes apprises avec des poids variables ($\lambda_d$) permet un contrôle interprétable du processus de génération. L'ajustement de $\lambda_d$ permet de trouver un compromis entre netteté et douceur dans les images générées et améliore l'appariement des points extrêmes dans des tâches de transport 2D spécifiques.

Résultats Expérimentaux

Les auteurs ont évalué l'Appariement de Ponts sur des tâches de transport 2D (damier, lunes, mélanges gaussiens) et des benchmarks de génération d'images (CIFAR-10, ImageNet-32, ImageNet-64).

• Transport 2D : Sur les tâches 2D, les variantes BM ont atteint un appariement des points extrêmes compétitif par rapport aux bases de référence standard de l'Appariement de Flots (FM). Le poids osmotique optimal $\lambda_d$ s'est avéré dépendant de la tâche ; pour des cibles complexes et multimodales, l'augmentation de la contribution osmotique a amélioré l'appariement, tandis que pour des structures plus simples, elle pouvait dégrader les performances.
• Génération d'Images : Sur les sous-ensembles CIFAR-10 et ImageNet, le modèle CBM a atteint une qualité de génération comparable ou supérieure à la base de référence CFM-Diffusion. Crucialement, le $\lambda_d$ optimal variait selon les métriques d'évaluation (FID, KID, IS), suggérant que la décomposition fournit un mécanisme pour échanger différents aspects de la qualité de génération. Notamment, les meilleures performances n'ont pas toujours été atteintes pour $\lambda_d = 1$ (la reconstruction théorique), indiquant que la recomposition au moment de l'échantillonnage offre un degré de liberté utile pour les modèles à capacité finie.
• Visualisation : Les visualisations des champs vectoriels ont confirmé que $u_t$ pilote un transport cohérent à grande échelle, tandis que $d_t$ présente des motifs structurés à plus petite échelle responsables du remodelage local de la densité. Des simulations au niveau des particules ont illustré comment $d_t$ déplace les trajectoires le long du chemin de probabilité sans dominer la tendance globale de transport.

Signification et Revendications

L'article revendique de fournir une perspective unifiée sur les dynamiques génératives déterministes et stochastiques. En séparant explicitement l'épine dorsale de transport du façonnage de densité induit par la diffusion, le travail offre une vue interprétable de la manière dont la stochasticité façonne le transport de probabilité.

Les auteurs soulignent que cette décomposition n'est pas une simple curiosité théorique mais un outil pratique pour la contrôlabilité. Elle permet aux praticiens d'ajuster la « contribution osmotique » au moment de l'échantillonnage sans réentraînement, permettant un contrôle fin des caractéristiques de l'échantillon (par exemple, netteté vs douceur) et facilitant potentiellement des procédures d'échantillonnage interactives (par exemple, mise en pause, inversion ou régénération à partir d'états intermédiaires).

L'article reste modeste quant à son périmètre, notant que la décomposition s'applique plus directement aux dynamiques génératives basées sur des champs et que l'apprentissage de champs séparés introduit des frais de modélisation et de calcul supplémentaires. Des travaux futurs sont suggérés pour se concentrer sur la réduction de ces frais tout en préservant les avantages d'interprétabilité et de contrôlabilité dans les applications en aval.