Technische Zusammenfassung: Ein Tutorial zur Diffusionstheorie: Von Differentialgleichungen zu Diffusionsmodellen

Problemstellung

Diffusionsmodelle haben sich als dominantes Paradigma in der generativen Modellierung etabliert, doch das Feld ist durch eine Vielzahl von Formulierungen gekennzeichnet: diskrete Markov-Ketten (DDPM), kontinuierliche stochastische Differentialgleichungen (SDEs), Wahrscheinlichkeitsfluss-gewöhnliche Differentialgleichungen (ODEs), Score-Matching und Flow-Matching. Obwohl bekannt ist, dass diese Ansätze miteinander verbunden sind, werden die präzisen mathematischen Korrespondenzen zwischen ihnen – insbesondere hinsichtlich ihrer Trainingsziele, der Rückwärtsdynamik und der Sampling-Verfahren – häufig durch unterschiedliche Notationen und die Perspektive diskret versus kontinuierlich verschleiert. Dieses Tutorial zielt darauf ab, diese Perspektiven zu vereinen, indem es Diffusionsmodelle strikt aus der Sichtweise von Differentialgleichungen herleitet und eine rigorose Brücke zwischen bedingten Gauß-Prozessen, marginalisierten Vorwärtsdynamiken und ihren entsprechenden Rückwärtsformulierungen schlägt.

Methodik

Die Arbeit nimmt einen rigorosen mathematischen Rahmen, der auf stochastischer Kalkulation und partiellen Differentialgleichungen basiert, zur Rekonstruktion der Theorie der Diffusionsmodelle an. Die Methodik durchläuft die folgenden logischen Stufen:

1. Bedingter Vorwärtsprozess: Die Autoren beginnen mit der Definition eines bedingten Gaußschen Vorwärtsprozesses $X_t | X_0 = x_0$, der durch die Parameter $\alpha_t$ und $\sigma_t$ gesteuert wird. Sie zeigen, dass dieser spezifische Pfad zwei äquivalente Darstellungen zulässt:

   • Eine bedingte ODE, die von einem Geschwindigkeitsfeld angetrieben wird, das aus dem bedingten Score abgeleitet ist.
   • Eine bedingte SDE, die von einem Drift-Term und einer Brownschen Bewegung angetrieben wird.
     Die Arbeit beweist, dass die bedingte Dichte sowohl die Kontinuitätsgleichung (für die ODE) als auch die Fokker-Planck-Gleichung (für die SDE) erfüllt.

2. Marginalisierung: Durch Mittelung des bedingten Prozesses über die Datenverteilung $p_0$ leiten die Autoren den marginalisierten Vorwärtsprozess her. Sie zeigen, dass die marginale Dichte $p_t(x)$ ebenfalls eine Kontinuitätsgleichung und eine Fokker-Planck-Gleichung erfüllt. Entscheidend nutzen sie die Fisher-Identität, um den marginalen Score $\nabla \log p_t(x)$ mit dem Erwartungswert des bedingten Scores in Beziehung zu setzen, und stellen fest, dass das marginale Geschwindigkeitsfeld der Erwartungswert des bedingten Geschwindigkeitsfeldes ist.

3. Rückwärtsdynamik: Die Arbeit führt die Rückwärtszeitvariable $\tau = 1-t$ ein und leitet die Rückwärtsdynamik her.

   • Rückwärts-SDE: Unter Verwendung der Zeitumkehrung der Vorwärts-SDE leiten die Autoren die Rückwärts-SDE her, die vom marginalen Score $\nabla \log p_t(x)$ gesteuert wird.
   • Rückwärts-ODE (Wahrscheinlichkeitsfluss): Sie leiten eine deterministische ODE her, die denselben Pfad der marginalen Dichte wie die Rückwärts-SDE teilt. Diese „Wahrscheinlichkeitsfluss-ODE" wird gezeigt, ein Geschwindigkeitsfeld zu besitzen, das eine affine Transformation des Scores ist.

4. Trainingsziele: Das Tutorial verbindet das in der Praxis verwendete Standardziel der Rauschvorhersage mit dem theoretischen Ziel des Score-Matchings. Unter Verwendung einer Orthogonalitätsidentität beweisen die Autoren, dass die Minimierung des erwarteten quadratischen Fehlers zwischen der Rauschvorhersage eines neuronalen Netzwerks und dem wahren Rauschen (bis auf eine Konstante) äquivalent zur Minimierung des Score-Matching-Verlusts ist. Dies etabliert, dass das Standard-Trainingsziel den für die Rückwärts-SDE und die Rückwärts-ODE erforderlichen marginalen Score lernt.

5. Sampling und Vereinheitlichung: Die Arbeit beschreibt Sampling-Algorithmen sowohl für die gelernte Rückwärts-SDE (Euler–Maruyama) als auch für die Rückwärts-ODE (Euler, Heun und DPM-Solver). Schließlich bildet sie die diskreten DDPM- und DDIM-Algorithmen explizit auf diesen kontinuierlichen Rahmen ab:

   • DDPM wird als diskrete Approximation der Rückwärts-SDE gezeigt, wobei der stochastische Term die exakte Posterior-Varianz der diskreten Kette verwendet.
   • DDIM wird als diskrete Approximation der Rückwärts-ODE (deterministisch) gezeigt, wobei ein Stochastizitätsparameter $\eta$ eine Interpolation zwischen beiden ermöglicht.

6. Guidance und Flow Matching: Der Rahmen wird erweitert, um Classifier-Guidance und Classifier-Free-Guidance einzubeziehen und zu zeigen, wie diese den Rückwärtsdrift modifizieren. Darüber hinaus vereinheitlicht die Arbeit Score Matching und Flow Matching und zeigt, dass der Standard-Diffusionsverlust als gewichtetes Flow-Matching-Ziel für die induzierte Wahrscheinlichkeitsfluss-ODE interpretiert werden kann.

Hauptbeiträge

• Vereinheitlichte Herleitung: Die Arbeit liefert eine einzige, kohärente Herleitung, die zeigt, dass der bedingte Gaußsche Vorwärtspfad sowohl ODE- als auch SDE-Darstellungen zulässt, und dass die Marginalisierung dieses Pfades konsistente marginale ODE- und SDE-Formulierungen ergibt.
• Äquivalenz der Ziele: Sie beweist rigoros, dass der Standard-Verlust der Rauschvorhersage äquivalent zum Score-Matching ist, und zeigt weiter, dass derselbe Verlust ein Flow-Matching-Ziel für die deterministische Rückwärts-ODE induziert.
• Vereinheitlichung von DDPM/DDIM: Die Arbeit verbindet die diskreten DDPM- und DDIM-Algorithmen explizit mit den kontinuierlichen Rahmenwerken der Rückwärts-SDE bzw. der Rückwärts-ODE. Sie klärt, dass das DDPM-Sampling eine Diskretisierung erster Ordnung der Rückwärts-SDE ist (mit spezifischem Varianzhandling), während DDIM eine Diskretisierung der Rückwärts-ODE ist.
• Klärung der Rauschbegriffe: Der Anhang bietet eine detaillierte Klärung der drei verschiedenen Rauschsymbole ($W_t$, $W^{rev}_\tau$, $\bar{W}_t$), die in Vorwärts- und Rückwärtszeit verwendet werden, und löst häufige notatorische Verwirrung bezüglich der Brownschen Bewegung in zeitumgekehrten Settings.
• Verallgemeinerung der Guidance: Das Tutorial formalisiert sowohl Classifier- als auch Classifier-Free-Guidance innerhalb des Rückwärts-SDE/ODE-Rahmens und zeigt, wie diese den Drift-Term über den bedingten Score modifizieren.

Ergebnisse

Die Arbeit präsentiert keine neuen empirischen Ergebnisse oder experimentellen Benchmarks. Stattdessen bestehen ihre „Ergebnisse" in theoretischen Herleitungen und Beweisen:

• Satz 1.2 & 1.4: Beweis, dass der bedingte Gaußsche Pfad sowohl von einer spezifischen ODE als auch von einer SDE erzeugt wird.
• Satz 2.1 & 2.2: Beweis, dass der marginalisierte Prozess durch marginale ODE- und SDE-Formulierungen erzeugt wird.
• Satz 3.3 & 3.5: Herleitung der Rückwärts-SDE und der Rückwärts-Wahrscheinlichkeitsfluss-ODE unter Beweis, dass sie denselben Dichtepfad teilen.
• Satz 4.2: Beweis der Äquivalenz zwischen dem Rauschvorhersage-Verlust und dem Score-Matching-Verlust.
• Satz 7.6 & 7.7: Demonstration, dass DDPM-Training und -Inferenz dem Rückwärts-SDE-Rahmen auf einem diskreten Gitter entsprechen.
• Satz 7.8: Demonstration, dass deterministisches DDIM dem Rückwärts-ODE-Rahmen entspricht.
• Proposition 8.1: Beweis, dass der Diffusionsverlust ein gewichtetes Flow-Matching-Ziel für die Geschwindigkeit der Rückwärts-ODE ist.

Bedeutung und Behauptungen

Die Arbeit positioniert sich als Tutorial, das darauf abzielt, die theoretischen Grundlagen moderner Diffusionsmodelle zu klären. Ihre Bedeutung liegt in:

1. Überbrückung von Diskret und Kontinuierlich: Sie löst die scheinbare Diskrepanz zwischen den diskreten Markov-Ketten-Formulierungen (DDPM) und den kontinuierlichen SDE/ODE-Formulierungen (Song et al., 2020; Lipman et al., 2023) auf und zeigt, dass sie verschiedene Diskretisierungen derselben zugrunde liegenden kontinuierlichen Dynamik sind.
2. Vereinheitlichung von Perspektiven: Sie vereint die „score-basierte" Perspektive (Lernen von $\nabla \log p_t$) mit der „flussbasierten" Perspektive (Lernen eines Geschwindigkeitsfeldes $v_t$) und zeigt, dass diese im Diffusionssetting durch eine einfache affine Transformation verknüpft sind.
3. Pädagogische Strenge: Indem sie jeden Schritt aus ersten Prinzipien (bedingte Gaußsche Kerne, Fokker-Planck-Gleichungen, Itô-Kalkül) herleitet, bietet die Arbeit eine in sich geschlossene Referenz, die die notatorischen Inkonsistenzen vermeidet, die häufig in verschiedenen Teilbereichen der generativen Modellierung anzutreffen sind.

Die Autoren behaupten, dass dieser Rahmen eine „einheitliche Sprache" für das Verständnis von Diffusionsmodellen, Flow Matching und Score Matching bietet und es Forschern ermöglicht zu erkennen, dass die Rückwärts-SDE das stochastische generative Modell ist, während die Rückwärts-ODE das deterministische Flussmodell ist, wobei beide vom selben gelernten Score-Funktion angetrieben werden.