💬 NLP

A Tutorial on Diffusion Theory: From Differential Equations to Diffusion Models

Ce tutoriel offre un cadre unifié pour les modèles de diffusion en dérivant leurs dynamiques forward et reverse à partir d'équations différentielles, en démontrant l'équivalence entre les objectifs d'entraînement standards et le score matching, et en clarifiant les liens théoriques entre diverses méthodes d'échantillonnage telles que DDPM, DDIM et la génération guidée.

Auteurs originaux : Jiayi Fu, Yuxia Wang

Publié 2026-05-22

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Jiayi Fu, Yuxia Wang

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous possédez une photographie magnifique et haute résolution d'un chat. Maintenant, imaginez augmenter progressivement le bruit statique d'une vieille télévision jusqu'à ce que cette image soit complètement perdue dans une mer de bruit blanc. C'est le Processus Forward.

Maintenant, imaginez que vous avez un détective super-intelligent capable d'examiner ce bruit et de dire : « Si j'enlève juste un tout petit peu de bruit de cet endroit précis, l'oreille du chat commencera à apparaître. » Si ce détective peut effectuer cette étape par étape, encore et encore, il peut transformer le bruit statique en une image claire d'un chat. C'est le Processus Reverse, et c'est ainsi que les Modèles de Diffusion génèrent des images.

Ce papier de Jiayi Fu et Yuxia Wang est essentiellement un « manuel d'utilisation » écrit dans le langage des équations différentielles (les mathématiques qui décrivent comment les choses changent au fil du temps). Il unifie plusieurs façons différentes dont les scientifiques ont réfléchi à ces modèles en une seule grande histoire cohérente.

Voici la décomposition de leur histoire, en utilisant des analogies simples :

1. Les Deux Façons de Décrire le Voyage (ODE vs SDE)

Le papier commence par dire que le processus de transformation d'une image claire en bruit (et inversement) peut être décrit dans deux langages mathématiques différents :

La Voie Stochastique (SDE) : Imaginez cela comme un randonneur marchant dans une forêt brumeuse. Il a une carte (la direction dans laquelle il devrait aller), mais le vent (le bruit aléatoire) continue de le pousser légèrement hors de sa trajectoire. Chaque pas est un mélange d'une direction prévue et d'une rafale aléatoire. C'est l'Équation Différentielle Stochastique (SDE).
La Voie Déterministe (ODE) : Maintenant, imaginez le même randonneur, mais cette fois le vent est parfaitement prévisible, ou il marche sur un immense tapis roulant lisse qui le déplace exactement là où il doit aller, sans aucune randomisation. C'est l'Équation Différentielle Ordinaire (ODE).

La Grande Révélation : Le papier prouve que même si ces deux trajectoires semblent différentes (l'une est vacillante, l'autre lisse), elles commencent toutes deux au même endroit (une image claire) et se terminent au même endroit (du bruit pur). Plus important encore, elles suivent toutes deux exactement la même « carte de densité » à tout moment donné. Vous pouvez passer de la trajectoire vacillante à la trajectoire lisse sans changer le résultat final.

2. Le « Score » (L'Instinct du Détective)

Comment le détective sait-il dans quelle direction aller ? Il utilise quelque chose appelé un Score.

En mathématiques, le « score » est simplement le gradient de la probabilité. En langage courant, pensez-y comme une pente.

Si vous êtes debout sur une colline, la pente vous indique quelle direction est « vers le haut » (là où se trouvent les données) et quelle direction est « vers le bas » (là où se trouve le bruit).
Le travail du modèle est d'apprendre cette pente. Il apprend à regarder une image bruitée et à dire : « La direction "vers le haut" (vers une image réelle) est par ici. »

Le papier montre que la façon standard dont nous entraînons ces modèles (en leur demandant de deviner le bruit qui a été ajouté) est mathématiquement identique à leur demander d'apprendre cette « pente » ou Score. C'est comme enseigner à un élève à résoudre un problème de mathématiques en lui demandant de trouver la réponse, plutôt que de lui enseigner directement la formule. Le papier prouve que ces deux méthodes d'enseignement sont en fait la même chose.

3. L'Entraînement : Apprendre à Débruit

Le papier explique que nous n'avons pas besoin d'enseigner directement au modèle les mathématiques complexes de la « pente ». Au lieu de cela, nous pouvons simplement lui montrer une image bruitée et demander : « Quel était le bruit que nous avons ajouté ? »

Si le modèle apprend à prédire le bruit parfaitement, il apprend automatiquement la pente.
Une fois qu'il connaît la pente, il peut inverser le processus : commencer avec du bruit pur et marcher « vers le haut » pour créer une nouvelle image réaliste.

4. Les Différents « Marcheurs » (DDPM, DDIM, DPM-Solver)

Le papier unifie plusieurs algorithmes célèbres que les gens utilisent pour générer des images. Il explique qu'ils ne sont tous que des façons différentes de faire des pas le long de cette « pente » :

DDPM (Le Randonneur Prudent) : Cette méthode fait de petits pas prudents. Elle ajoute un peu de randomisation à chaque étape (comme la SDE). Elle est précise mais lente.
DDIM (Le Glisseur Lisse) : Cette méthode ignore le vent aléatoire et suit simplement le tapis roulant lisse (l'ODE). Elle est beaucoup plus rapide car elle ne perd pas de temps à réagir aux rafales aléatoires, mais elle nécessite une très bonne carte (un modèle bien entraîné).
DPM-Solver (L'Ascenseur Express) : C'est une nouvelle méthode sophistiquée qui utilise des astuces mathématiques pour faire de grands sauts efficaces vers le haut de la colline au lieu de petits pas. Elle atteint le sommet (l'image finale) en un temps record.

Le papier montre que DDPM est essentiellement une version discrète de la trajectoire vacillante (SDE), et que DDIM est une version discrète de la trajectoire lisse (ODE). Ce sont deux faces d'une même pièce.

5. Guider le Processus (Classifier Guidance)

Parfois, vous ne voulez pas juste un chat ; vous voulez un chat noir. Comment dirigez-vous le détective ?

Classifier Guidance : Vous faites appel à un deuxième expert (un classifieur) qui crie : « Plus de noir ! Moins de blanc ! » Le détective écoute à la fois la pente de l'image et le cri de l'expert, ajustant sa trajectoire pour créer un chat noir.
Classifier-Free Guidance : Au lieu d'embaucher un deuxième expert, vous entraînez le détective principal à pouvoir dire « Je ne sais pas ce que vous voulez » (sans condition) et « Je sais que vous voulez un chat noir » (avec condition). Lors de la génération, vous mélangez ces deux réponses pour orienter le résultat. Le papier explique les mathématiques derrière pourquoi ce « mélange » fonctionne si bien.

6. La Grande Unification : Flow Matching

Enfin, le papier relie les Modèles de Diffusion à un domaine plus récent appelé Flow Matching.

Flow Matching consiste à dessiner une ligne droite d'un nuage de bruit vers un nuage de données.
Diffusion est comme un chemin de rivière sinueux.

Le papier prouve que même s'ils semblent différents, si vous les entraînez de la même manière (en prédisant le bruit/score), ils finissent par décrire exactement le même voyage. La fonction de perte « prédiction de bruit » est en réalité une fonction de perte « flow matching » déguisée. C'est comme réaliser que, que vous conduisiez une voiture ou fassiez du vélo, si vous suivez les mêmes coordonnées GPS, vous arrivez à la même destination.

Résumé

Ce papier est un pont. Il prend le monde désordonné et complexe des différents algorithmes de diffusion (DDPM, DDIM, Flow Matching) et montre qu'ils ne sont tous que des façons différentes de résoudre la même équation différentielle.

Forward : Transformer les données en bruit (facile).
Reverse : Transformer le bruit en données (difficile).
Le Secret : Apprendre la « pente » (score) en devinant le bruit.
Le Résultat : Que vous marchiez avec un bâton vacillant (SDE) ou glissiez sur un rail lisse (ODE), si vous suivez la pente, vous générerez de belles images.

Résumé Technique : Un Tutoriel sur la Théorie de la Diffusion : Des Équations Différentielles aux Modèles de Diffusion

Énoncé du Problème

Les modèles de diffusion sont devenus un paradigme dominant dans la modélisation générative, pourtant ce domaine se caractérise par une prolifération de formulations : chaînes de Markov discrètes (DDPM), équations différentielles stochastiques continues (EDS), équations différentielles ordinaires de flot de probabilité (EDO), appariement de scores (score matching) et appariement de flots (flow matching). Bien que ces approches soient connues pour être liées, les correspondances mathématiques précises entre elles — notamment concernant leurs objectifs d'entraînement, leurs dynamiques à temps inversé et leurs procédures d'échantillonnage — sont souvent obscurcies par des notations différentes et des perspectives discrètes versus continues. Ce tutoriel vise à unifier ces perspectives en dérivant les modèles de diffusion strictement du point de vue des équations différentielles, établissant un pont rigoureux entre les processus gaussiens conditionnels, les dynamiques forward marginalisées et leurs formulations correspondantes à temps inversé.

Méthodologie

L'article adopte un cadre mathématique rigoureux ancré dans le calcul stochastique et les équations aux dérivées partielles pour reconstruire la théorie des modèles de diffusion. La méthodologie procède par les étapes logiques suivantes :

Processus Forward Conditionnel : Les auteurs commencent par définir un processus forward gaussien conditionnel $X_t | X_0 = x_0$ régi par les paramètres $\alpha_t$ et $\sigma_t$ . Ils démontrent que ce chemin spécifique admet deux représentations équivalentes :
- Une EDO Conditionnelle pilotée par un champ de vitesse dérivé du score conditionnel.
- Une EDS Conditionnelle pilotée par un terme de dérive et un mouvement brownien.
  L'article prouve que la densité conditionnelle satisfait à la fois l'équation de continuité (pour l'EDO) et l'équation de Fokker–Planck (pour l'EDS).
Marginalisation : En moyennant le processus conditionnel sur la distribution des données $p_0$ , les auteurs dérivent le processus forward marginalisé. Ils montrent que la densité marginale $p_t(x)$ satisfait également une équation de continuité et une équation de Fokker–Planck. Crucialement, ils utilisent l'Identité de Fisher pour relier le score marginal $\nabla \log p_t(x)$ à l'espérance du score conditionnel, établissant que le champ de vitesse marginal est l'espérance du champ de vitesse conditionnel.
Dynamiques à Temps Inversé : L'article introduit la variable à temps inversé $\tau = 1-t$ et dérive les dynamiques à temps inversé.
- EDS Inversée : En utilisant l'inversion temporelle de l'EDS forward, les auteurs dérivent l'EDS inversée, régie par le score marginal $\nabla \log p_t(x)$ .
- EDO Inversée (Flot de Probabilité) : Ils dérivent une EDO déterministe qui partage le même chemin de densité marginale que l'EDS inversée. Cette « EDO de flot de probabilité » est montrée comme ayant un champ de vitesse qui est une transformation affine du score.
Objectifs d'Entraînement : Le tutoriel relie l'objectif standard de prédiction de bruit utilisé en pratique à l'objectif théorique d'appariement de scores. En utilisant une identité d'orthogonalité, les auteurs prouvent que la minimisation de l'erreur quadratique attendue entre la prédiction de bruit d'un réseau de neurones et le vrai bruit est équivalente (à une constante près) à la minimisation de la perte d'appariement de scores. Cela établit que l'objectif d'entraînement standard apprend le score marginal requis pour l'EDS inversée et l'EDO inversée.
Échantillonnage et Unification : L'article détaille les algorithmes d'échantillonnage pour l'EDS inversée apprise (Euler–Maruyama) et l'EDO inversée (Euler, Heun et DPM-Solver). Enfin, il cartographie explicitement les algorithmes discrets DDPM et DDIM sur ce cadre continu :
- DDPM est montré comme correspondant à une approximation discrète de l'EDS inversée, où le terme stochastique utilise la variance exacte du posterior de la chaîne discrète.
- DDIM est montré comme correspondant à une approximation discrète de l'EDO inversée (déterministe), avec un paramètre de stochasticité $\eta$ permettant l'interpolation entre les deux.
Guidage et Appariement de Flots : Le cadre est étendu pour inclure le guidage par classifieur et le guidage sans classifieur, montrant comment ceux-ci modifient la dérive inversée. De plus, l'article unifie l'Appariement de Scores et l'Appariement de Flots, démontrant que la perte de diffusion standard peut être interprétée comme un objectif d'appariement de flots pondéré pour l'EDO de flot de probabilité induite.

Contributions Clés

Dérivation Unifiée : L'article fournit une dérivation unique et cohérente montrant que le chemin forward gaussien conditionnel admet à la fois des représentations EDO et EDS, et que la marginalisation de ce chemin produit des formulations EDO et EDS marginales cohérentes.
Équivalence des Objectifs : Il prouve rigoureusement que la perte standard de prédiction de bruit est équivalente à l'appariement de scores, et démontre en outre que cette même perte induit un objectif d'appariement de flots pour l'EDO inversée déterministe.
Unification DDPM/DDIM : Le travail connecte explicitement les algorithmes discrets DDPM et DDIM aux cadres continus d'EDS inversée et d'EDO inversée, respectivement. Il clarifie que l'échantillonnage DDPM est une discrétisation d'ordre un de l'EDS inversée (avec une gestion spécifique de la variance), tandis que DDIM est une discrétisation de l'EDO inversée.
Clarification des Termes de Bruit : L'annexe fournit une clarification détaillée des trois symboles de bruit distincts ( $W_t$ , $W^{rev}_\tau$ , $\bar{W}_t$ ) utilisés en temps forward et inversé, résolvant la confusion notoire courante concernant le mouvement brownien dans des contextes à temps inversé.
Généralisation du Guidage : Le tutoriel formalise à la fois le guidage par classifieur et le guidage sans classifieur dans le cadre EDS/EDO inversé, montrant comment ils modifient le terme de dérive via le score conditionnel.

Résultats

L'article ne présente pas de nouveaux résultats empiriques ni de benchmarks expérimentaux. Ses « résultats » sont des dérivations théoriques et des preuves :

Théorèmes 1.2 & 1.4 : Preuve que le chemin gaussien conditionnel est généré à la fois par une EDO et une EDS spécifiques.
Théorèmes 2.1 & 2.2 : Preuve que le processus marginalisé est généré par des formulations EDO et EDS marginales.
Théorèmes 3.3 & 3.5 : Dérivation de l'EDS inversée et de l'EDO de flot de probabilité inversée, prouvant qu'elles partagent le même chemin de densité.
Théorème 4.2 : Preuve de l'équivalence entre la perte de prédiction de bruit et la perte d'appariement de scores.
Théorèmes 7.6 & 7.7 : Démonstration que l'entraînement et l'inférence DDPM correspondent au cadre EDS inversée sur une grille discrète.
Théorème 7.8 : Démonstration que le DDIM déterministe correspond au cadre EDO inversée.
Proposition 8.1 : Preuve que la perte de diffusion est un objectif d'appariement de flots pondéré pour la vitesse de l'EDO inversée.

Importance et Revendications

L'article se positionne comme un tutoriel destiné à clarifier les fondements théoriques des modèles de diffusion modernes. Son importance réside dans :

Le Pont entre Discrét et Continu : Il résout la rupture apparente entre les formulations de chaînes de Markov discrètes (DDPM) et les formulations continues EDS/EDO (Song et al., 2020 ; Lipman et al., 2023), montrant qu'elles sont des discrétisations différentes d'une même dynamique continue sous-jacente.
Unification des Perspectives : Il unifie la perspective « basée sur les scores » (apprentissage de $\nabla \log p_t$ ) avec la perspective « basée sur les flots » (apprentissage d'un champ de vitesse $v_t$ ), montrant que dans le contexte de la diffusion, elles sont liées par une simple transformation affine.
Rigueur Pédagogique : En dérivant chaque étape à partir de premiers principes (noyaux gaussiens conditionnels, équations de Fokker–Planck, calcul d'Itô), l'article fournit une référence autonome qui évite les incohérences notables souvent trouvées entre différents sous-domaines de la modélisation générative.

Les auteurs affirment que ce cadre offre un « langage unique » pour comprendre les modèles de diffusion, l'appariement de flots et l'appariement de scores, permettant aux chercheurs de voir que l'EDS inversée est le modèle génératif stochastique, tandis que l'EDO inversée est le modèle de flot déterministe, tous deux pilotés par la même fonction de score apprise.