🤖 machine learning

Velocity Scheduled Flow Matching

Dieses Paper stellt Velocity Scheduled Flow Matching (VSFM) vor, eine Methode, welche die Annahme konstanter Geschwindigkeit des Standard-Flow-Matchings lockert, indem sie variable Geschwindigkeitsprofile ermöglicht, um die Sampling-Kosten zu senken und die Generierungsqualität (FID) durch optimierte Integrationsschemata zu verbessern, entweder durch die Wiederverwendung vortrainierter Modelle während der Inferenz oder durch das Training von Grund auf mit spezifischen Bremsprofilen.

Ursprüngliche Autoren: Vitalii Bondar

Veröffentlicht 2026-07-14

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Vitalii Bondar

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, das perfekte Bild einer Katze zu zeichnen, aber Sie beginnen mit einem verschwommenen, statischen Fernsehbildschirm. In der Welt der KI-Bildgenerierung gibt es eine beliebte Methode namens Flow Matching, die wie ein GPS für diese Transformation fungiert. Sie lehrt ein neuronales Netzwerk, das verschwommene Rauschen Schritt für Schritt zu einer scharfen Katze zu führen.

Lange Zeit gingen alle davon aus, dass das GPS das Bild mit einer konstanten Geschwindigkeit vom verschwommenen Start zum scharfen Ziel bewegen sollte. Es ist wie das Fahren eines Autos auf einer geraden Straße, auf der man weder Gas gibt noch bremst; man fährt einfach mit exakt derselben Geschwindigkeit dahin.

Aber in dieser Arbeit stellt Vitalii Bondar eine einfache, spielerische Frage: Was wäre, wenn wir nicht mit konstanter Geschwindigkeit fahren müssen? Was wäre, wenn wir beschleunigen könnten, wenn die Straße glatt ist, und langsamer werden könnten, wenn die Straße kurvig und gefährlich wird?

Die große Idee: Beschleunigen und Abbremsen

Der Autor stellt eine neue Methode namens Velocity Scheduled Flow Matching (VSFM) vor. Anstatt das Bild zu zwingen, sich mit einem stetigen Tempo zu bewegen, lässt VSFM Sie ein „Geschwindigkeitsprofil“ wählen. Sie können der KI sagen, dass sie durch die frühen, chaotischen Teile der Reise sausen und dann sanft abbremsen soll, während sie sich dem fertigen, detaillierten Bild nähert.

Denken Sie an eine Achterbahn.

Der alte Weg (Linear): Der Zug bewegt sich mit einer stetigen, langweiligen Geschwindigkeit von der Station bis zum Gipfel des Hügels und wieder hinunter.
Der neue Weg (VSFM): Der Zug rast den ersten Hügel hinauf (wo die Strecke einfach ist) und verlangsamt dann bis zum Kriechen, kurz bevor er die scharfen, kurvigen Schleifen am Boden erreicht (wo Präzision am wichtigsten ist).

Der „magische“ Trick: Kein neues Training nötig

Hier ist der coolste Teil der Entdeckung. Der Autor hat herausgefunden, dass man die KI nicht von Grund auf neu trainieren muss, um diese neuen Geschwindigkeitsprofile zu nutzen. Wenn Sie bereits eine trainierte KI haben, die gelernt hat, mit konstanter Geschwindigkeit zu fahren, können Sie einfach das Schema (Schedule) ändern, wie Sie sie zur Bewegung auffordern.

Es ist wie eine GPS-App, die die Route bereits kennt. Sie müssen nicht die Straßen neu bauen oder die App neu lehren, wie man fährt; Sie sagen ihr einfach: „Hey, lass uns die erste Hälfte auf der schnellen Spur fahren und dann beim Ausfahren langsamer werden.“ Die Arbeit zeigt, dass man, indem man die Anweisungen der KI auf einem anderen, nicht-gleichmäßigen Zeitplan integriert, viel bessere Bilder erhält, ohne auch nur einen einzigen zusätzlichen Dollar an Computer-Trainingszeit zu verschwenden.

Die Ergebnisse: Langsamwerden rettet den Tag

Der Autor testete dies an einem Datensatz von 32x32 Pixel großen Bildern namens CIFAR-10. Er probierte sechs verschiedene „Geschwindigkeitsprofile“ aus der Bewegungsplanung aus (so wie Roboter oder Animatoren Dinge flüssig bewegen).

Die Ergebnisse wurden mit einem Score namens FID (Fréchet Inception Distance) gemessen, wobei eine niedrigere Zahl ein besseres, realistischeres Bild bedeutet.

Das „Coasting“-Profil: Dieses Profil beginnt schnell und wird dann sanft langsamer. Wenn es auf ein bestehendes Modell bei der Inferenzzeit angewendet wurde (also während der reinen Bildgenerierung), senkte es den FID um bis zu 19,8 %. Das ist ein riesiger Sprung in der Qualität!
Training von Grund auf: Als der Autor ein neues Modell speziell mit diesem „Coasting“-Tempo trainierte, senkte es den FID um 17,4 % bei nur 4 Schritten (einer sehr schnellen Generierung) und um 10,4 % bei 50 Schritten.

Warum funktioniert das? (Die Analogie der kurvigen Straße)

Die Arbeit erklärt dies mithilfe des Konzepts des lokalen Truncation Error (lokaler Abschneidefehlers). Stellen Sie sich vor, Sie gehen einen Pfad entlang und machen große Schritte.

Auf einem flachen, geraden Pfad (dem frühen, verrauschten Teil des Bildes) sind große Schritte in Ordnung. Sie werden nichts verpassen.
Auf einem Pfad mit scharfen, plötzlichen Kurven (dem letzten Teil, in dem sich die Details des Bildes bilden) führen große Schritte dazu, dass man stolpert und die Kurve verpasst.

Die „Lineare“ Methode (konstante Geschwindigkeit) zwingt Sie dazu, überall die gleichen Schrittgrößen zu nehmen. Aber die Brems-Profile (wie „Coasting“ oder „Uniform Deceleration“) sagen Ihnen, dass Sie winzige, vorsichtige Schritte machen sollen, genau dann, wenn der Pfad kurvig wird (nahe dem Ende der Reise).

Die Arbeit erklärt, dass das „Smooth Landing“-Profil (das sehr abrupt stoppt) in einigen Fällen tatsächlich scheiterte, weil es riesige Schritte ganz zu Beginn machte, Energie verschwendete und dann versuchte, die gesamte Präzision in die letzten paar Schritte zu quetschen. Das „Coasting“-Profil funktionierte am besten, weil es die perfekte Balance fand: einen sanften Start und ein kontrolliertes, vorsichtiges Ende.

Was die Arbeit NICHT ist

Der Autor weist sorgfältig darauf hin, was diese Methode nicht ist.

Es geht nicht darum, die Mathematik zu ändern, wie die KI das Bild selbst lernt (die „Kopplung“ oder der „Interpolant“ bleibt dieselbe gerade Linie).
Es geht nicht darum, mehr Schichten (Layers) zur KI hinzuzufügen oder das Netzwerk größer zu machen.
Es funktioniert nicht durch Magie; es funktioniert aufgrund der spezifischen Mathematik, wie Computer Schritte berechnen (der Euler-Integrator).

Wie sicher sind wir?

Die Arbeit ist sehr zuversichtlich bei diesen Zahlen, da sie in echten Experimenten auf CIFAR-10 gemessen wurden.

Die Verbesserung um 19,8 % wurde beobachtet, als die Methode auf ein öffentliches, vortrainiertes Modell angewendet wurde.
Die Verbesserung um 17,4 % wurde gemessen, als ein neues Modell von Grund auf trainiert wurde.
Der Autor deutet an, dass dies funktioniert, weil der Computer Fehler auf eine bestimmte Weise berechnet, gibt aber zu, dass dies eine lokale Erklärung ist (betrachtet einen einzelnen Schritt nach dem anderen) und dass weitere Arbeit nötig ist, um genau zu beweisen, wie es sich global oder auf viel größeren, komplexeren Bildern (wie hochauflösenden Fotos) verhält.

Kurz gesagt legt die Arbeit nahe, dass wir, indem wir der KI einfach sagen: „Verlangsame dein Tempo, wenn du dem Zielnäher kommst“, deutlich bessere Bilder schneller und ohne zusätzlichen Trainingsaufwand erhalten können. Es ist eine einfache Anpassung des Zeitplans, die die gesamte Reise viel reibungsloser macht.

Technisches Resümee: Velocity Scheduled Flow Matching (VSFM)

Problemstellung

Flow Matching ist ein Framework für die generative Modellierung in kontinuierlicher Zeit, bei dem ein neuronales Netzwerk $v_\theta(x, t)$ darauf trainiert wird, die bedingte Geschwindigkeit entlang einer linearen Interpolation zwischen Rauschen $x_0$ und Daten $x_1$ zu regredieren. Das Standard-Flow-Matching legt die Interpolation fest auf die Gerade $x_t = x_0 + t(x_1 - x_0)$ fest, was implizit dazu führt, dass der Sampler gezwungen ist, die Trajektorie mit einer konstanten Geschwindigkeit zu durchlaufen.

Die Sampling-Kosten werden durch die Anzahl der Funktionsauswertungen (Number of Function Evaluations, NFE) bestimmt, die zur Integration der gewöhnlichen Differentialgleichung (ODE) $dx/dt = v_\theta(x, t)$ erforderlich sind. Im Niedrig-NFE-Regime (z. B. 4–50 Schritte) muss die Trajektorie effizient mithilfe einfacher Integratoren wie dem Euler-Verfahren durchlaufen werden. Die Arbeit postuliert, dass die Annahme einer konstanten Geschwindigkeit eine willkürliche Designentscheidung ist, die möglicherweise nicht mit den Diskretisierungsfehler-Charakteristika des gelernten Geschwindigkeitsfeldes übereinstimmt, insbesondere in der Nähe der Daten-Mannigfaltigkeit, wo das Feld am stärksten variiert.

Methodik

1. Generalisiertes Trainingsziel

Die Autoren führen Velocity Scheduled Flow Matching (VSFM) ein, welches das bedingte Ziel von einer konstanten Verschiebung zu einer zeitvarianten Form verallgemeinert:
$u_t(x | x_0, x_1) = v(t) \cdot (x_1 - x_0)$
wobei $v: [0, 1] \to \mathbb{R}_{\ge 0}$ ein nicht-negatives Geschwindigkeitsprofil ist, das die Bedingung $\int_0^1 v(t) dt = 1$ erfüllt. Diese Einschränkung stellt sicher, dass die Gesamtverschiebung $x_1 - x_0$ gleich bleibt, während $v(t)$ die Traversierungsrate steuert.

Das Trainingsziel regrediert das Netzwerk auf die Verschiebung mit konstanter Magnitude $(x_1 - x_0)$ an Positionen $x_t$ , die durch das Bewegungsprofil $\alpha(t) = \int_0^t v(s) ds$ bestimmt werden:
$L_{VSFM}(\theta) = \mathbb{E}_{t, x_0, x_1} \left[ \| v_\theta(x_t, t) - (x_1 - x_0) \|^2 \right]$
Entscheidend ist, dass das Geschwindigkeitsprofil $v(t)$ den Einfluss auf das Training nur durch die Verteilung der Positionen $x_t$ ausübt und nicht durch die Gewichtung der Verlustmagnitude. Dies vermeidet numerische Instabilitäten, die mit einer $v(t)^2$ -Gewichtung nahe $t=1$ einhergehen würden.

2. Polynomielle Geschwindigkeitsprofile

Die Studie instanziiert VSFM mit sechs polynomiellem Profilen, die aus Randwertproblemen der Bewegungsplanung abgeleitet wurden:

Baseline: Linear ( $v(t)=1$ ).
Braking Sub-family (Brems-Unterfamilie): Monoton fallende Geschwindigkeit (Gleichmäßige Verzögerung, Coasting, Smooth Landing). Diese bewegen sich schnell nahe $t=0$ und verlangsamen sich zum Stillstand bei $t=1$ .
Symmetric Sub-family (Symmetrische Unterfamilie): Nullgeschwindigkeit an beiden Endpunkten (Ease-in-out, Minimum-Jerk).

3. Rescheduling zur Inferenzzeit (Training-frei)

Ein wesentlicher Beitrag ist die Fähigkeit, jedes zulässige Profil auf ein vorab trainiertes lineares Flow-Matching-Modell anzuwenden, ohne es neu zu trainieren.

Mechanismus: Das vorab trainierte Modell $v_\theta$ wurde auf der linearen Trajektorie $x_\tau = x_0 + \tau(x_1 - x_0)$ trainiert. Um unter einem neuen Profil $v(t)$ zu sampeln, definieren die Autoren ein adaptiertes Feld $\tilde{v}(x, t) = v(t) v_\theta(x, \alpha(t))$ .
Implementierung: Durch einen Variablenwechsel zu $\tau = \alpha(t)$ wird die ODE zu $dx/d\tau = v_\theta(x, \tau)$ . Der Sampler integriert diese ODE auf einem nicht-uniformen Gitter $\tau_i = \alpha(i/N)$ .
Algorithmus: Der Update-Schritt lautet $x_{i+1} = x_i + v_\theta(x_i, \tau_i) \cdot \Delta \tau_i$ , wobei $\Delta \tau_i = \alpha((i+1)/N) - \alpha(i/N)$ . Dies entspricht effektiv dem Ausführen des Standard-Euler-Samplers auf einem nicht-uniformen Zeitgitter, das durch das Profil induziert wird.

4. Analyse des Diskretisierungsfehlers

Die Arbeit schreibt die Leistungssteigerungen dem lokalen Truncation Error (lokalen Abschneidefehler) des Euler-Integrators zu. Der Fehler bei Schritt $i$ skaliert mit $(\Delta \tau_i)^2 \cdot \frac{d^2x}{d\tau^2}$ .

Der Term $\frac{d^2x}{d\tau^2}$ (Feldvariation) ist am größten nahe $\tau=1$ (der Daten-Mannigfaltigkeit), wo das Geschwindigkeitsfeld hochgradig nichtlinear ist.
Braking-Profile weisen kleine $\Delta \tau_i$ (kleine Schritte) nahe $t=1$ auf und unterdrücken damit die dominante Fehlerquelle.
Symmetrische Profile konzentrieren große Schritte in der Mitte, was weniger effektiv für die Generierung von Rauschen zu Daten ist, da die kritische Nichtlinearität am Endpunkt liegt.

Kernergebnisse

Experimente wurden auf CIFAR-10 (32x32) unter Verwendung eines klassenbedingten UNet und eines Fixed-Step Euler-Integrators durchgeführt.

1. Training von Grund auf (Scratch)

Das Training unter dem Coasting-Profil lieferte die besten Ergebnisse:

4 NFE: FID reduziert um 17,4 % (35,39 vs. 42,86 Baseline).
50 NFE: FID reduziert um 10,4 % (8,29 vs. 9,25 Baseline).
Uniform deceleration verbesserte das Ergebnis ebenfalls gegenüber der Baseline, während Smooth landing bei niedriger NFE aufgrund übermäßig großer Anfangsschritte schlechter abschnitt.
Symmetrische Profile zeigten geringfügige Gewinne bei hoher NFE, lagen aber bei niedriger NFE hinter der Baseline zurück.

2. Anpassung zur Inferenzzeit (Training-frei)

Anwendung des Coasting-Profils auf den öffentlich verfügbaren TorchCFM-Checkpoint (linear trainiert) ohne Retraining:

50 NFE: FID reduziert um 19,8 % (4,38 vs. 5,47 Baseline).
32 NFE: FID reduziert um 18,6 % (5,23 vs. 6,43 Baseline).
100 NFE: Uniform deceleration erreichte die beste FID (3,89, -16,0 %).
Smooth landing performte bei 32 NFE zunächst schlechter (7,43 vs. 6,43) aufgrund großer Anfangsschritte, die den Truncation Error erhöhten, verbesserte sich jedoch bei höheren NFE-Budgets.

Bedeutung und Ansprüche

Die Arbeit behauptet, dass das Geschwindigkeitsprofil ein einfacher, kostengünstiger Hebel zur Verbesserung des Few-Step-Samplings in Flow Matching ist. Die primäre Bedeutung liegt in zwei Bereichen:

Training-freie Anpassung: Es wird demonstriert, dass ein vorab trainiertes lineares Flow-Matching-Modell einfach durch Änderung des Integrationsschemas (das Geschwindigkeitsprofil) für spezifische NFE-Budgets optimiert werden kann, ohne zusätzliches Training oder architektonische Änderungen zu erfordern.
Theoretische Erkenntnis: Es wird identifiziert, dass die Annahme einer konstanten Geschwindigkeit im Standard-Flow-Matching für die Euler-Integration suboptimal ist. Durch die Abstimmung der Schrittweite auf den lokalen Truncation Error (kleinere Schritte dort, wo das Feld am stärksten variiert) lassen sich signifikante Qualitätsgewinne erzielen, insbesondere im Niedrig-NFE-Regime.

Die Autoren merken an, dass diese Ergebnisse spezifisch für den Euler-Integrator und die Noise-to-Data-Generierung sind. Sie deuten an, dass die Vorteile bei Image-to-Image-Aufgaben (wo die Quelle strukturiert ist) oder bei der Verwendung höherwertiger Solver, welche die führenden Truncation Errors eliminieren, anders ausfallen könnten. Die Studie beschränkt sich auf CIFAR-10 und polynomielle Profile; die Untersuchung von höher aufgelösten Datensätzen sowie die Exploration gelernter oder nicht-polynomieller Profile wird als zukünftige Arbeit aufgeführt.