🤖 machine learning

A Unified Measure-Theoretic View of Diffusion, Score-Based, and Flow Matching Generative Models

Dieser Artikel stellt einen vereinheitlichten maßtheoretischen Rahmen vor, der Diffusionsmodelle, score-basierte generative Modelle und Flow Matching als Instanzen des Lernens zeitabhängiger Vektorfelder zur Transportierung einer Referenzverteilung zu einer Datenverteilung offenbart und damit ihre gemeinsame mathematische Struktur, praktische Abwägungen und theoretischen Zusammenhänge klarlegt.

Ursprüngliche Autoren: Aditya Ranganath, Mukesh Singhal

Veröffentlicht 2026-05-11

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Aditya Ranganath, Mukesh Singhal

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen unordentlichen, komplexen Haufen von Daten (wie ein hochauflösendes Foto einer Katze) und möchten einem Computer beibringen, wie er von Grund auf neue, realistische Katzenfotos erstellt. Um dies zu tun, muss der Computer lernen, wie er von einem Zustand reinen Chaos (zufälliges Rauschen) zu einem Zustand organisierter Struktur (dem Katzenfoto) gelangt.

Diese Arbeit argumentiert, dass drei beliebte Methoden, um Computern dies beizubringen – Diffusionsmodelle, Score-basierte Modelle und Flow Matching – tatsächlich nur verschiedene Wege sind, dieselbe fundamentale Reise zu beschreiben: den Transport von Wahrscheinlichkeitsmasse vom Chaos zur Ordnung.

Hier ist die Aufschlüsselung mit einfachen Analogien:

1. Die Kernidee: Der Fluss der Wahrscheinlichkeit

Stellen Sie sich die Daten (das Katzenfoto) als einen ruhigen See am Anfang eines Flusses ( $t=0$ ) vor und das zufällige Rauschen als einen turbulenten Ozean am Ende ( $t=1$ ).

Das Ziel: Der Computer muss lernen, wie man ein Boot vom Ozean zurück zum See steuert.
Der Pfad: Die Arbeit besagt, dass alle diese Methoden einen spezifischen „Fluss" (einen Pfad von Zwischenzuständen) definieren, der den Ozean mit dem See verbindet.
Die Karte: Um diesen Fluss zu navigieren, benötigt der Computer eine Karte. Die Arbeit zeigt, dass die Karte auf zwei verschiedene Arten gezeichnet werden kann, aber beide zum selben Ziel führen.

2. Die zwei Arten von Karten (Score vs. Geschwindigkeit)

Die Arbeit erklärt, dass der Computer ein „Feld" lernt, um das Boot zu führen. Es gibt zwei Möglichkeiten, dieses Feld zu zeichnen:

Die „Geruchs"-Karte (Score-basiert):
Stellen Sie sich vor, das Boot ist ein Wanderer in einem nebligen Wald. Der Wanderer kann das Ziel nicht sehen, aber er kann einen schwachen Duft wahrnehmen, der stärker wird, je näher er dem Ziel kommt.
- Wie es funktioniert: Der Computer lernt den „Gradienten" oder die „Steigung" der Wahrscheinlichkeit. Er lernt, das Boot in die Richtung zu lenken, in der die Daten „wahrscheinlicher" zu finden sind.
- Die Methode: Dies wird in Diffusions- und Score-basierten Modellen verwendet. Sie trainieren den Computer, diesen „Duft" (mathematisch als Score bezeichnet) an jedem Punkt im Fluss vorherzusagen.
- Die Reise: Das Boot kann sich auf zwei Arten bewegen:
  1. Stochastisch (SDE): Das Boot bewegt sich mit der Strömung, wird aber von zufälligen Wellen (Rauschen) herumgestoßen. Das ist wie das Gehen durch den Wald mit einer leichten Brise, die Sie vom Kurs abdrängt, aber Sie korrigieren Ihren Weg ständig basierend auf dem Duft.
  2. Deterministisch (ODE): Das Boot bewegt sich auf einer perfekt glatten, geraden Strecke. Die Arbeit beweist, dass wenn man die zufälligen Wellen entfernt, das Boot immer noch derselben exakten „Geruchs"-Karte folgt und am selben See ankommt, nur ohne das Wackeln.
Die „Geschwindigkeits"-Karte (Geschwindigkeitsbasiert):
Stellen Sie sich vor, anstatt einen Duft zu riechen, hat das Boot einen Kapitän, der genau weiß, wie schnell und in welche Richtung er zu jedem einzelnen Moment steuern muss, um in einer geraden Linie das Ziel zu erreichen.
- Wie es funktioniert: Der Computer lernt ein Geschwindigkeitsfeld. Es fragt nicht „Wo sind die Daten?" (Duft); es fragt „Wie schnell und wohin sollte ich jetzt genau gehen?" (Geschwindigkeit).
- Die Methode: Dies ist Flow Matching. Anstatt mit einem verrauschten Fluss zu beginnen und zu versuchen, ihn rückwärts zu durchlaufen, wählen die Entwickler von Flow Matching den Flusspfad zuerst (z. B. eine gerade Linie zwischen Rauschen und Daten) und trainieren dann den Computer, die Geschwindigkeit zu lernen, die benötigt wird, um diesen spezifischen Pfad zu bereisen.

3. Die große Vereinheitlichung

Der Hauptbeitrag der Arbeit besteht darin zu zeigen, dass dies keine konkurrierenden Technologien sind, sondern verschiedene Werkzeuge für denselben Job:

Diffusions-/Score-Modelle: Beginnen mit einem verrauschten Fluss, lernen den „Duft", um ihn rückwärts zu durchlaufen, und können wählen, ob sie mit Wellen (SDE) oder auf einer glatten Strecke (ODE) segeln.
Flow Matching: Beginnt damit, einen spezifischen Flusspfad zu zeichnen (wie eine gerade Linie), und lernt dann die „Geschwindigkeit", um ihn zu bereisen.
Die Verbindung: Wenn Sie ein Diffusionsmodell nehmen, die Wellen entfernen und sich die glatte Strecke ansehen, die es erzeugt, ist diese Strecke mathematisch identisch mit einem Flow-Matching-Pfad. Es sind nur verschiedene Wege, dieselbe Bewegung zu berechnen.

4. Warum ist das wichtig? (Das „Warum" der Arbeit)

Die Autoren argumentieren, dass wir durch die Betrachtung all dieser Methoden als „Wahrscheinlichkeitstransport" aufhören können, sie als separate Silos zu behandeln.

Bessere Navigation: Wenn Sie ein Boot wollen, das sich in einer geraden Linie bewegt (schnelle Generierung), ist Flow Matching großartig. Wenn Sie ein Boot wollen, das verschiedene Pfade erkundet (Vielfalt), ist der verrauschte Diffusionsansatz besser.
Die Karte reparieren: Die Arbeit hebt hervor, dass Fehler an drei Stellen auftreten:
1. Die Karte ist falsch: Der Computer hat den Duft oder die Geschwindigkeit nicht perfekt gelernt.
2. Das Boot ist falsch: Der Computer hatte nicht genügend Daten, um die Karte zu lernen.
3. Der Motor ist falsch: Der Computer hat versucht, das Boot zu schnell zu fahren (zu große Schritte) und ist abgestürzt.

5. Das „inverse Problem" (Verwackelte Fotos reparieren)

Die Arbeit erwähnt, dass diese Modelle hervorragend für „inverse Probleme" geeignet sind, wie zum Beispiel ein verwackeltes Foto scharf zu machen.

Analogie: Stellen Sie sich vor, Sie haben ein verwackeltes Foto (die Daten) und möchten es reparieren. Sie können die „Geruchs"-Karte verwenden, um die Reparatur zu leiten. Sie beginnen mit einer Vermutung (Rauschen) und lassen den Duft von „Schärfe" die Pixel an ihren Platz ziehen. Die Arbeit stellt fest, dass es einen Unterschied macht, ob Sie das wackelige Boot (SDE) oder das glatte Boot (ODE) verwenden, wie stabil und genau die Reparatur ist.

Zusammenfassung

Denken Sie an Diffusion, Score-basierte Modelle und Flow Matching als drei verschiedene GPS-Apps.

App A (Diffusion) sagt: „Hier ist ein verrauschter Pfad. Folgen Sie dem Duft des Ziels, und Sie können mit oder ohne Brise gehen."
App B (Flow Matching) sagt: „Lassen Sie uns zuerst eine gerade Autobahn zeichnen und dann lehren, wie man sie fährt."
Die Arbeit sagt: „Das ist eigentlich dieselbe Straße. Ob Sie es ‚Duft' oder ‚Geschwindigkeit' nennen, Sie bewegen lediglich Wahrscheinlichkeit von einem Durcheinander zu einem Meisterwerk. Das Verständnis dieser Systeme als ein einheitliches Ganzes hilft uns, bessere, schnellere und zuverlässigere KI zu entwickeln."

Technische Zusammenfassung: Eine vereinheitlichte maßtheoretische Sichtweise auf Diffusions-, Score-basierte und Flow-Matching-generative Modelle

Problemstellung

Generatives Modellieren zielt darauf ab, einen Mechanismus zu erlernen, um Stichproben aus einer komplexen Datenverteilung $\rho_{\text{data}}$ auf $\mathbb{R}^d$ zu erzeugen. Obwohl in den letzten Jahrzehnten verschiedene Paradigmen entstanden sind – darunter Variational Autoencoder (VAEs), Generative Adversarial Networks (GANs) und Normalizing Flows – haben sich neuere Fortschritte um Methoden konsolidiert, die eine einfache Referenzverteilung (z. B. eine Gaußsche Verteilung) über zeitabhängige Dynamiken in die Datenverteilung überführen.

Das Feld hat sich in mehrere eng verwandte, aber notational unterschiedliche Familien aufgesplittert:

Diffusionsmodelle: Oft eingeführt über diskrete Zeit-Markov-Ketten (DDPM) oder kontinuierliche zeitliche Stochastische Differentialgleichungen (SDEs).
Score-basierte Modelle: Formuliert durch die Zeitumkehr von SDEs, die auf der Schätzung der Score-Funktion ( $\nabla \log \rho_t$ ) beruhen.
Flow Matching: Eine Methode, die ein Geschwindigkeitsfeld direkt lernt, indem sie gegen einen vorgegebenen Wahrscheinlichkeitspfad regressiert, wobei oft eine explizite Score-Schätzung umgangen wird.

Die primäre Herausforderung, die diese Übersicht adressiert, ist das Fehlen eines vereinheitlichten Rahmens, der die Beziehungen, Äquivalenzen und Unterscheidungen zwischen diesen Methoden klärt. Die Literatur leidet unter fragmentierter Notation, konkurrierenden Herleitungen (diskret vs. kontinuierlich, stochastisch vs. deterministisch) und mangelnder Klarheit darüber, wie Designentscheidungen (Pfade, Felder, Sampler) theoretische Garantien und praktische Leistung (Stabilität, Sampling-Geschwindigkeit und Likelihood-Berechnung) beeinflussen.

Methodik: Ein vereinheitlichter maßtheoretischer Rahmen

Die Autoren schlagen eine vereinheitlichte technische Sichtweise vor, die Diffusions-, Score-basierte und Flow-Matching-Modelle als Instanzen von Wahrscheinlichkeitstransport interpretiert. Der Rahmen basiert auf drei zentralen Designentscheidungen:

1. Der Wahrscheinlichkeitspfad $(\mu_t)_{t \in [0,1]}$

Alle Methoden definieren eine Familie von Zwischenverteilungen, die eine Ziel-Datenverteilung $\mu_0$ mit einer handhabbaren Referenz $\mu_1$ (typischerweise Gaußsch) verbinden.

Diffusion/Score: Der Pfad ist implizit als die Marginalverteilungen eines Vorwärts-Rauschprozesses definiert (entweder eine diskrete Markov-Kette oder eine kontinuierliche SDE).
Flow Matching: Der Pfad wird explizit über eine Kopplung $\pi(x_0, x_1)$ und eine Interpolationsregel (z. B. affine Interpolation) definiert, wodurch der Pfad eine direkte Modellierungsentscheidung und kein Nebenprodukt einer festen Diffusion ist.

2. Das gelernte Feld

Die Methoden unterscheiden sich im Vektorfeld, das sie lernen, um den Transport zu steuern:

Score-Feld ( $s_\theta$ ): Wird in Score-basierten und Diffusionsmodellen verwendet. Der Score ist definiert als $s_t(x) = \nabla_x \log \rho_t(x)$ . Dieses Feld wird durch Denoising Score Matching (DSM) oder Rauschvorhersage-Ziele gelernt.
Geschwindigkeitsfeld ( $v_\theta$ ): Wird in Flow Matching und Continuous Normalizing Flows (CNFs) verwendet. Dieses Feld definiert deterministischen Transport über die Kontinuitätsgleichung. Beim Flow Matching wird die Geschwindigkeit durch Regression gegen die bedingte Pfadableitung $\dot{x}_t$ gegeben Endpunkte gelernt.

3. Sampling-Dynamiken

Die Generierung erfolgt durch Umkehrung des Transports von $t=1$ zu $t=0$ .

Reverse-Time SDE: Ein stochastischer Sampler, der aus der Zeitumkehrtheorie abgeleitet ist und das Score-Feld erfordert.
Probability Flow ODE: Ein deterministischer Sampler, der so konstruiert ist, dass er dieselben Ein-Zeit-Marginalverteilungen wie die Vorwärts-SDE teilt. Er induziert ein Geschwindigkeitsfeld $v_{\text{PF}}(x, t) = f(x, t) - \frac{1}{2}g(t)^2 s_t(x)$ .
Direkte ODE: Beim Flow Matching definiert das gelernte Geschwindigkeitsfeld direkt den ODE-Sampler.

Mathematische Vereinheitlichung

Die Arbeit stellt formale Äquivalenzen unter Verwendung maßtheoretischer Sprache her:

Marginal-Äquivalenz: Der Probability Flow ODE und die Vorwärts-SDE induzieren dieselbe Familie von Ein-Zeit-Marginalverteilungen $(\mu_t)$ , obwohl sie unterschiedliche Pfadmaße (Verteilungen über Trajektorien) induzieren.
Ziel-Äquivalenz: DDPM-Rauschvorhersage-Verluste, Denoising Score Matching (DSM) und kontinuierliche zeitliche Score-SDE-Ziele werden als gewichtete Score-Regressionsprobleme gezeigt. Sie schätzen dasselbe statistische Objekt (den Score der gestörten Marginalverteilung), unterscheiden sich jedoch in der Parametrisierung (Vorhersage von Rauschen vs. Score) und der zeitabhängigen Gewichtung.
Optimalität von Flow Matching: Der Populationsminimierer des bedingten Flow-Matching-Verlusts (Regression gegen endpunktkonditionierte Pfadableitungen) ist das marginale Geschwindigkeitsfeld $v^*(x, t) = \mathbb{E}[\dot{x}_t \mid x_t = x, t]$ , das die Kontinuitätsgleichung für den vorgegebenen Pfad erfüllt.

Hauptbeiträge

Die Arbeit leistet vier primäre Beiträge:

Ein vereinheitlichter Transportblickwinkel: Sie präsentiert Diffusions-, Score-basierte und Flow-Matching-Methoden innerhalb eines gemeinsamen Rahmens des Wahrscheinlichkeitstransports unter Verwendung von SDE/ODE-Dynamiken und ihren zugehörigen partiellen Differentialgleichungen (Fokker-Planck- und Kontinuitätsgleichungen).
Eine Äquivalenzkarte für Sampler: Sie klärt die Beziehung zwischen Reverse-Time-SDE-Sampling und deterministischem Probability-Flow-ODE-Sampling. Sie identifiziert, dass sie zwar dieselben Ein-Zeit-Marginalverteilungen (und somit dieselbe Zielverteilung) teilen, sich jedoch im Pfadraumverhalten und in numerischen Eigenschaften (z. B. Steifheit, Diskretisierungsfehler) unterscheiden.
Ein vereinheitlichter Blick auf Trainingsziele: Sie stellt DDPM-artige Verluste, Denoising Score Matching und kontinuierliche zeitliche Score-SDE-Ziele als gewichtete Score-Regressionsprobleme in Beziehung. Sie verbindet diese zudem mit Flow Matching als Geschwindigkeitsregression unter vorgegebenen Wahrscheinlichkeitspfaden und zeigt, dass viele „unterschiedliche" Verluste Reparametrisierungen desselben zugrunde liegenden Schätzproblems sind.
Eine Brücke zwischen Theorie und Praxis: Die Autoren ordnen Approximations-, Schätz-, Diskretisierungs- und Pfad-Mismatch-Effekte in eine gemeinsame Fehlerzerlegung ein. Diese Perspektive hebt offene Probleme im Pfaddesign, in der Robustheit, bei der Konditionierung und beim schnellen Sampling hervor.

Ergebnisse und theoretische Einsichten

Die Arbeit präsentiert keine neuen experimentellen Ergebnisse, sondern synthetisiert bestehende theoretische Ergebnisse, um strukturelle Schlussfolgerungen zu ziehen:

Score vs. Geschwindigkeit: Score-Parametrisierungen sind für die Zeitumkehr von Diffusionen natürlich, während Geschwindigkeitsparametrisierungen für deterministischen Transport natürlich sind und eine direktere numerische Kontrolle bieten.
Pfaddesign als Regler: Die Wahl des Wahrscheinlichkeitspfads (Rauschplan bei Diffusion, Kopplung/Interpolation bei Flow Matching) ist ein primärer Bestimmungsfaktor für numerische Stabilität und Sampling-Effizienz. „Gestreckte" Pfade (wie bei Rectified Flow) können Steifheit reduzieren und eine grobe Diskretisierung ermöglichen.
Fehlerquellen: Der Generierungsfehler wird zerlegt in:
1. Approximationsfehler: Die Kapazität des neuronalen Netzwerks, das wahre Feld darzustellen.
2. Schätzfehler: Begrenzte Daten und Optimierungslimitierungen.
3. Diskretisierungsfehler: Numerische Verzerrung durch das Lösen von SDEs/ODEs.
4. Pfadmismatch: Inkonsistenzen zwischen dem Trainingspfad und den Sampling-Dynamiken.
Likelihood-Berechnung: Der Probability-Flow ODE ermöglicht die Likelihood-Berechnung über die Formel für die instantane Variablentransformation und verbindet Diffusionsmodelle mit likelihood-basierten Normalizing Flows, obwohl dies in der Praxis oft aufgrund von Score-Näherungen und numerischen Integrationsfehlern approximativ ist.

Bedeutung und Behauptungen

Die Autoren behaupten, dass eine vereinheitlichende Übersicht angesichts der methodischen Konvergenz dieser Felder zeitgemäß ist, in denen die Grenzen zwischen Diffusions-, Score-basierten und Flow-basierten Methoden verschwimmen. Die Bedeutung dieser Arbeit liegt in:

Auflösung der Fragmentierung: Sie adressiert die „fragmentierte Notation und konkurrierenden Herleitungen" in der Literatur und zeigt, dass sich viele Techniken hauptsächlich durch die Wahl des Pfads, des gelernten Feldes (Score vs. Geschwindigkeit) und der Sampling-Dynamiken (SDE vs. ODE) unterscheiden.
Praktische Implikationen: Sie betont, dass die Betrachtung von Methoden als gelernte Dynamiken die numerische Analyse kritisch macht. Diskretisierungsverzerrung, Steifheit und die Wahl des Lösers beeinflussen die Probenqualität und die Kosten erheblich, insbesondere bei inversen Problemen, bei denen Konditionsbedingungen Fehler verstärken können.
Theoretische Klarheit: Durch die Annahme einer maßtheoretischen Perspektive unterscheidet die Arbeit zwischen der Gleichheit von Endpunktgesetzen, der Gleichheit von Ein-Zeit-Marginalverteilungen und der Gleichheit von Pfadmaßen. Dies verhindert eine Überinterpretation formaler Ähnlichkeiten (z. B. die Anerkennung, dass SDE- und ODE-Sampler Marginalverteilungen teilen, aber keine Pfadmaße).
Zukünftige Richtungen: Die vereinheitlichte Sichtweise legt nahe, dass offene Probleme – wie ein prinzipielles Pfaddesign, eine gekoppelte Lern-Sampling-Analyse und die Verallgemeinerung auf nicht-euklidische oder diskrete Räume – gemeinsame Herausforderungen für alle diese Paradigmen sind und keine isolierten Probleme spezifischer Methoden.

Die Arbeit schließt, dass Diffusionsmodelle, Score-basierte Modelle und Flow Matching komplementäre Parametrisierungen des Wahrscheinlichkeitstransports sind. Fortschritte in einem Bereich (z. B. Pfadstreckung beim Flow Matching) werden wahrscheinlich die anderen informieren, sofern sie innerhalb dieser gemeinsamen Sprache der Felder, Pfade und Löser analysiert werden.