🤖 machine learning

A Unified Measure-Theoretic View of Diffusion, Score-Based, and Flow Matching Generative Models

Cet article présente un cadre unifié fondé sur la théorie de la mesure qui révèle que les modèles de diffusion, les modèles génératifs basés sur le score et l'appariement de flux sont des instances d'apprentissage de champs vectoriels dépendants du temps pour transporter une distribution de référence vers une distribution de données, clarifiant ainsi leur structure mathématique partagée, leurs compromis pratiques et leurs liens théoriques.

Auteurs originaux : Aditya Ranganath, Mukesh Singhal

Publié 2026-05-11

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Aditya Ranganath, Mukesh Singhal

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez un tas de données désordonné et complexe (comme une photo haute résolution d'un chat) et que vous voulez enseigner à un ordinateur comment créer de nouvelles photos réalistes de chats à partir de rien. Pour ce faire, l'ordinateur doit apprendre à passer d'un état de chaos pur (bruit aléatoire) à un état de structure organisée (la photo de chat).

Ce papier soutient que trois méthodes populaires pour enseigner aux ordinateurs à faire cela — les modèles de diffusion, les modèles basés sur le score et l'appariement de flux — ne sont en réalité que des façons différentes de décrire le même voyage fondamental : le transport de masse de probabilité du chaos vers l'ordre.

Voici la décomposition utilisant des analogies simples :

1. L'idée centrale : La rivière de probabilité

Imaginez que les données (la photo de chat) sont un lac calme au début d'une rivière ( $t=0$ ), et que le bruit aléatoire est un océan turbulent à la fin ( $t=1$ ).

L'objectif : L'ordinateur doit apprendre à naviguer un bateau de l'océan vers le lac.
Le chemin : Le papier indique que toutes ces méthodes définissent une « rivière » spécifique (un chemin d'états intermédiaires) reliant l'océan au lac.
La carte : Pour naviguer sur cette rivière, l'ordinateur a besoin d'une carte. Le papier montre que la carte peut être dessinée de deux manières différentes, mais qu'elles mènent à la même destination.

2. Les deux types de cartes (Score vs Vitesse)

Le papier explique que l'ordinateur apprend un « champ » pour guider le bateau. Il existe deux façons de dessiner ce champ :

La carte « Parfum » (Basée sur le score) :
Imaginez que le bateau est un randonneur dans une forêt brumeuse. Le randonneur ne peut pas voir la destination, mais il peut sentir un parfum faible qui devient plus fort à mesure qu'il se rapproche de la cible.
- Comment cela fonctionne : L'ordinateur apprend le « gradient » ou la « pente » de la probabilité. Il apprend à orienter le bateau dans la direction où les données sont « plus susceptibles » d'être trouvées.
- La méthode : C'est ce qui est utilisé dans les modèles de diffusion et basés sur le score. Ils entraînent l'ordinateur à prédire ce « parfum » (mathématiquement appelé le score) à chaque point de la rivière.
- Le voyage : Le bateau peut se déplacer de deux manières :
  1. Stochastique (SDE) : Le bateau avance avec le courant mais est secoué par des vagues aléatoires (bruit). C'est comme marcher dans la forêt avec une brise qui vous pousse hors de votre chemin, mais vous continuez à corriger votre trajectoire en fonction du parfum.
  2. Déterministe (ODE) : Le bateau avance sur une voie parfaitement lisse et droite. Le papier prouve que si vous retirez les vagues aléatoires, le bateau suit toujours exactement la même carte de « parfum » et arrive au même lac, simplement sans le tremblement.
La carte « Vitesse » (Basée sur la vitesse) :
Imaginez qu'au lieu de sentir un parfum, le bateau a un capitaine qui sait exactement à quelle vitesse et dans quelle direction diriger à chaque instant pour atteindre la destination en ligne droite.
- Comment cela fonctionne : L'ordinateur apprend un champ de vitesse. Il ne demande pas « où sont les données ? » (parfum) ; il demande « à quelle vitesse et où dois-je aller maintenant ? » (vitesse).
- La méthode : C'est l'appariement de flux. Au lieu de commencer par une rivière bruyante et d'essayer de l'inverser, les concepteurs de l'appariement de flux choisissent d'abord le chemin de la rivière (par exemple, une ligne droite entre le bruit et les données), puis entraînent l'ordinateur à apprendre la vitesse nécessaire pour parcourir ce chemin spécifique.

3. La grande unification

La principale contribution du papier est de montrer que ce ne sont pas des technologies concurrentes, mais différents outils pour le même travail :

Modèles de diffusion/basés sur le score : Ils commencent par une rivière bruyante, apprennent le « parfum » pour l'inverser, et peuvent choisir de naviguer avec des vagues (SDE) ou sur une voie lisse (ODE).
Appariement de flux : Il commence par dessiner un chemin de rivière spécifique (comme une ligne droite), puis apprend la « vitesse » pour le parcourir.
Le lien : Si vous prenez un modèle de diffusion, retirez les vagues et regardez la voie lisse qu'il crée, cette voie est mathématiquement identique à un chemin d'appariement de flux. Ce sont simplement des façons différentes de calculer le même mouvement.

4. Pourquoi cela importe-t-il ? (Le « Pourquoi » du papier)

Les auteurs soutiennent qu'en considérant toutes ces méthodes comme un « transport de probabilité », nous pouvons cesser de les traiter comme des silos séparés.

Meilleure navigation : Si vous voulez un bateau qui avance en ligne droite (génération rapide), l'appariement de flux est excellent. Si vous voulez un bateau qui explore différents chemins (diversité), l'approche de diffusion bruyante est meilleure.
Réparer la carte : Le papier met en évidence que les erreurs se produisent à trois endroits :
1. La carte est fausse : L'ordinateur n'a pas appris le parfum ou la vitesse parfaitement.
2. Le bateau est faux : L'ordinateur n'avait pas assez de données pour apprendre la carte.
3. Le moteur est faux : L'ordinateur a essayé de conduire le bateau trop vite (pas trop grands) et a fait un accident.

5. Le « problème inverse » (Réparer des photos floues)

Le papier mentionne que ces modèles sont excellents pour les « problèmes inverses », comme prendre une photo floue et la rendre nette.

Analogie : Imaginez que vous avez une photo floue (les données) et que vous voulez la réparer. Vous pouvez utiliser la carte de « parfum » pour guider la réparation. Vous commencez par une hypothèse (bruit) et laissez le parfum de « netteté » attirer les pixels à leur place. Le papier note que que vous utilisiez le bateau tremblant (SDE) ou le bateau lisse (ODE) change la stabilité et la précision de la réparation.

Résumé

Pensez aux modèles de diffusion, basés sur le score et à l'appariement de flux comme à trois applications GPS différentes.

App A (Diffusion) dit : « Voici un chemin bruyant. Suivez l'odeur de la destination, et vous pouvez marcher avec ou sans brise. »
App B (Appariement de flux) dit : « Dessinons d'abord une autoroute droite, puis apprenons-vous à la conduire. »
Le papier dit : « Ce sont en réalité la même route. Que vous l'appeliez « parfum » ou « vitesse », vous déplacez simplement la probabilité d'un désordre vers un chef-d'œuvre. Les comprendre comme un système unifié nous aide à construire une IA meilleure, plus rapide et plus fiable. »

Résumé Technique : Une Vue Unifiée par la Théorie de la Mesure des Modèles Génératifs de Diffusion, Basés sur le Score et d'Appariement de Flux

Énoncé du Problème

La modélisation générative vise à apprendre un mécanisme pour produire des échantillons à partir d'une distribution de données complexe $\rho_{\text{data}}$ sur $\mathbb{R}^d$ . Bien que des paradigmes distincts aient émergé au cours de la dernière décennie — notamment les Autoencodeurs Variationnels (VAE), les Réseaux Antagonistes Génératifs (GAN) et les Flots Normalisants — les récents progrès se sont cristallisés autour de méthodes qui font évoluer une distribution de référence simple (par exemple, une distribution gaussienne) vers la distribution de données via des dynamiques dépendantes du temps.

Le domaine s'est fragmenté en plusieurs familles étroitement liées mais notées différemment :

Modèles de Diffusion : Souvent introduits via des chaînes de Markov à temps discret (DDPM) ou des Équations Différentielles Stochastiques (EDS) à temps continu.
Modèles Basés sur le Score : Formulés par l'inversion temporelle d'EDS, reposant sur l'estimation de la fonction de score ( $\nabla \log \rho_t$ ).
Appariement de Flux (Flow Matching) : Une méthode qui apprend directement un champ de vitesse par régression par rapport à un chemin de probabilité prescrit, contournant souvent l'estimation explicite du score.

Le défi principal abordé par cette revue est l'absence d'un cadre unifié clarifiant les relations, les équivalences et les distinctions entre ces méthodes. La littérature souffre d'une notation fragmentée, de dérivations concurrentes (discrète vs continue, stochastique vs déterministe), et d'un manque de clarté concernant la manière dont les choix de conception (chemins, champs, échantillonneurs) impactent les garanties théoriques et les performances pratiques (stabilité, vitesse d'échantillonnage et calcul de vraisemblance).

Méthodologie : Un Cadre Unifié par la Théorie de la Mesure

Les auteurs proposent une vue technique unifiée interprétant les modèles de diffusion, basés sur le score et d'appariement de flux comme des instances de transport de probabilité. Le cadre repose sur trois choix de conception fondamentaux :

1. Le Chemin de Probabilité $(\mu_t)_{t \in [0,1]}$

Toutes les méthodes définissent une famille de distributions intermédiaires reliant une distribution de données cible $\mu_0$ à une référence traitable $\mu_1$ (généralement gaussienne).

Diffusion/Score : Le chemin est implicitement défini comme les marginales d'un processus de bruitage avant (soit une chaîne de Markov discrète, soit une EDS continue).
Appariement de Flux : Le chemin est explicitement défini via un couplage $\pi(x_0, x_1)$ et une règle d'interpolation (par exemple, une interpolation affine), rendant le chemin un choix de modélisation direct plutôt qu'un sous-produit d'une diffusion fixe.

2. Le Champ Appris

Les méthodes diffèrent par le champ vectoriel qu'elles apprennent pour piloter le transport :

Champ de Score ( $s_\theta$ ) : Utilisé dans les modèles basés sur le score et de diffusion. Le score est défini comme $s_t(x) = \nabla_x \log \rho_t(x)$ . Ce champ est appris via l'appariement de score de débruitage (DSM) ou des objectifs de prédiction de bruit.
Champ de Vitesse ( $v_\theta$ ) : Utilisé dans l'Appariement de Flux et les Flots Normalisants Continus (CNF). Ce champ définit un transport déterministe via l'équation de continuité. Dans l'Appariement de Flux, la vitesse est apprise par régression par rapport à la dérivée du chemin conditionnel $\dot{x}_t$ étant donnés les points extrêmes.

3. Dynamiques d'Échantillonnage

La génération procède en inversant le transport de $t=1$ à $t=0$ .

EDS à Temps Inversé : Un échantillonneur stochastique dérivé de la théorie de l'inversion temporelle, nécessitant le champ de score.
Flot de Probabilité ODE : Un échantillonneur déterministe construit pour partager les mêmes marginales à un instant donné que l'EDS avant. Il induit un champ de vitesse $v_{\text{PF}}(x, t) = f(x, t) - \frac{1}{2}g(t)^2 s_t(x)$ .
ODE Directe : Dans l'Appariement de Flux, le champ de vitesse appris définit directement l'échantillonneur ODE.

Unification Mathématique

L'article établit des équivalences formelles en utilisant le langage de la théorie de la mesure :

Équivalence des Marginales : L'ODE de flot de probabilité et l'EDS avant induisent la même famille de marginales à un instant donné $(\mu_t)$ , même si elles induisent des mesures de chemin différentes (distributions sur les trajectoires).
Équivalence des Objectifs : Les pertes de prédiction de bruit DDPM, l'appariement de score de débruitage (DSM) et les objectifs de score-EDS à temps continu sont montrés comme des problèmes de régression de score pondérés. Ils estiment le même objet statistique (le score de la marginale perturbée) mais diffèrent par la paramétrisation (prédire le bruit vs le score) et le pondération dépendante du temps.
Optimalité de l'Appariement de Flux : Le minimiseur de population de la perte d'appariement de flux conditionnel (régression par rapport aux dérivées de chemin conditionnées par les points extrêmes) est le champ de vitesse marginal $v^*(x, t) = \mathbb{E}[\dot{x}_t \mid x_t = x, t]$ , qui satisfait l'équation de continuité pour le chemin prescrit.

Contributions Clés

L'article apporte quatre contributions principales :

Un Point de Vue Unifié sur le Transport : Il présente les méthodes de diffusion, basées sur le score et d'appariement de flux dans un cadre commun de transport de probabilité, utilisant les dynamiques EDS/ODE et leurs équations aux dérivées partielles associées (équations de Fokker–Planck et de continuité).
Une Carte d'Équivalence pour les Échantillonneurs : Il clarifie la relation entre l'échantillonnage par EDS à temps inversé et l'échantillonnage déterministe par ODE de flot de probabilité. Il identifie que, bien qu'ils partagent les mêmes marginales à un instant donné (et donc la même distribution cible), ils diffèrent par leur comportement dans l'espace des chemins et leurs propriétés numériques (par exemple, rigidité, erreur de discrétisation).
Une Vue Unifiée des Objectifs d'Entraînement : Il relie les pertes de style DDPM, l'appariement de score de débruitage et les objectifs de score-EDS à temps continu comme des problèmes de régression de score pondérés. Il connecte en outre ces derniers à l'appariement de flux comme régression de vitesse sous des chemins de probabilité prescrits, démontrant que de nombreuses pertes "différentes" sont des reparamétrisations d'un même problème d'estimation sous-jacent.
Un Pont Théorie-Pratique : Les auteurs organisent les effets d'approximation, d'estimation, de discrétisation et de mismatch de chemin dans une décomposition d'erreur commune. Cette perspective met en lumière des problèmes ouverts dans la conception de chemins, la robustesse, le conditionnement et l'échantillonnage rapide.

Résultats et Insights Théoriques

L'article ne présente pas de nouveaux résultats expérimentaux mais synthétise des résultats théoriques existants pour tirer des conclusions structurelles :

Score vs Vitesse : Les paramétrisations de score sont naturelles pour l'inversion temporelle des diffusions, tandis que les paramétrisations de vitesse sont naturelles pour le transport déterministe et offrent un contrôle numérique plus direct.
Conception de Chemin comme Bouton de Réglage : Le choix du chemin de probabilité (programme de bruit dans la diffusion, couplage/interpolation dans l'appariement de flux) est un déterminant principal de la stabilité numérique et de l'efficacité de l'échantillonnage. Des chemins "redressés" (comme dans le Rectified Flow) peuvent réduire la rigidité et permettre une discrétisation grossière.
Sources d'Erreur : L'erreur de génération est décomposée en :
1. Erreur d'approximation : La capacité du réseau de neurones à représenter le vrai champ.
2. Erreur d'estimation : Données finies et limitations de l'optimisation.
3. Erreur de discrétisation : Biais numérique provenant de la résolution d'EDS/ODE.
4. Mismatch de chemin : Incohérences entre le chemin d'entraînement et les dynamiques d'échantillonnage.
Calcul de Vraisemblance : L'ODE de flot de probabilité permet le calcul de vraisemblance via la formule instantanée du changement de variables, reliant les modèles de diffusion aux flots normalisants basés sur la vraisemblance, bien que cela soit souvent approximatif en pratique en raison de l'approximation du score et des erreurs d'intégration numérique.

Signification et Revendications

Les auteurs affirment qu'une revue unificatrice est opportune en raison de la convergence méthodologique de ces domaines, où les frontières entre les méthodes de diffusion, basées sur le score et à base de flux se sont estompées. La signification de ce travail réside dans :

Résolution de la Fragmentation : Elle adresse la "notation fragmentée et les dérivations concurrentes" dans la littérature, montrant que de nombreuses techniques diffèrent principalement par le choix du chemin, le champ appris (score vs vitesse) et les dynamiques d'échantillonnage (EDS vs ODE).
Enjeux Pratiques : Elle souligne que considérer les méthodes comme des dynamiques apprises rend l'analyse numérique critique. Le biais de discrétisation, la rigidité et le choix du solveur affectent matériellement la qualité et le coût des échantillons, en particulier dans les problèmes inverses où les contraintes de conditionnement peuvent amplifier les erreurs.
Clarté Théorique : En adoptant une perspective de théorie de la mesure, l'article distingue l'égalité des lois aux points extrêmes, l'égalité des marginales à un instant donné et l'égalité des mesures de chemin. Cela évite la surinterprétation des similarités formelles (par exemple, reconnaître que les échantillonneurs EDS et ODE partagent des marginales mais pas des mesures de chemin).
Directions Futures : La vue unifiée suggère que les problèmes ouverts — tels que la conception de chemins principielle, l'analyse couplée apprentissage-échantillonnage et la généralisation aux espaces non euclidiens ou discrets — sont des défis partagés par tous ces paradigmes, plutôt que des problèmes isolés pour des méthodes spécifiques.

L'article conclut que les modèles de diffusion, basés sur le score et l'appariement de flux sont des paramétrisations complémentaires du transport de probabilité. Les progrès dans un domaine (par exemple, le redressement de chemin dans l'appariement de flux) sont susceptibles d'éclairer les autres, à condition qu'ils soient analysés dans ce langage commun de champs, de chemins et de solveurs.