💻 computer science

Drift Flow Matching

Dit artikel introduceert Drift Flow Matching (DFM), een nieuw generatief raamwerk dat de efficiëntie van één-staps Drift-modellen verbindt met de flexibele, kwaliteits-schaalbare mogelijkheden van iteratief Flow Matching door zowel directe generatie als meervoudige verfijning mogelijk te maken.

Oorspronkelijke auteurs: Chenrui Ma, Xi Xiao, Lin Zhao, Tianyang Wang, Ferdinando Fioretto, Yanning Shen

Gepubliceerd 2026-05-19

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Chenrui Ma, Xi Xiao, Lin Zhao, Tianyang Wang, Ferdinando Fioretto, Yanning Shen

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Plaatje: Twee Werelden Overbruggen

Stel je voor dat je een robot wilt leren een perfect plaatje van een kat te tekenen. Je hebt twee hoofdmanieren om dit te doen:

De "Eén-Stap" Kunstenaar (Drift-modellen): Deze kunstenaar kijkt naar een leeg canvas en schildert direct de hele kat in één zelfverzekerde penseelstreek. Het is ongelooflijk snel, maar als die eerste streek iets afwijkt, is het hele plaatje verpest. Er is geen manier om het later te "repareren" omdat het werk al klaar is.
De "Langzaam-en-Steady" Beeldhouwer (Flow Matching/Diffusie): Deze kunstenaar begint met een blok klei (ruis) en hakkt langzaam weg, waarbij het vormgeven over honderden kleine stappen wordt verfijnd. Als ze een fout maken, kunnen ze het in de volgende stap gladstrijken. Hoe meer tijd ze besteden (meer stappen), hoe beter het beeldhouwwerk wordt. Dit is echter traag en computergewijs duur.

Het Probleem: De "Eén-Stap" kunstenaar is snel maar stijf. De "Langzaam-en-Steady" beeldhouwer is flexibel maar traag. Tot nu toe moest je kiezen voor het een of het ander.

De Oplossing: Het paper introduceert Drift Flow Matching (DFM). Denk aan DFM als een hybride kunstenaar die de snelheid van de één-stap schilder heeft, maar ook de flexibiliteit van de langzame beeldhouwer.

Hoe Het Werkt: De "GPS" Analogie

Om te begrijpen hoe DFM werkt, stel je voor dat je van Stad A (willekeurige ruis) naar Stad B (een perfect beeld) rijdt.

Oude Drift-modellen zijn als een bestuurder die één set instructies krijgt: "Rij rechtstreeks naar Stad B." Ze nemen de snelweg en komen in één keer aan. Als ze een afslag missen, kunnen ze het niet corrigeren.
Oude Flow Matching is als een bestuurder die elke 10 seconden op hun GPS kijkt. Ze maken voortdurend kleine aanpassingen. Als ze van koers raken, corrigeert de GPS ze direct. Dit is nauwkeurig, maar vereist constant controleren (rekenkracht).

Drift Flow Matching (DFM) verandert de regels. In plaats van alleen een bestemming te geven of elke 10 seconden te controleren, geeft het de bestuurder een dynamische kaart die werkt voor elke afstand.

De Magische Truc: Het model leert een "transportregel" die werkt voor elke twee tijdstippen.
- Als je van "Nu" naar "Het Einde" wilt in één enorme sprong, gedraagt het model zich als de snelle kunstenaar en rijdt het er rechtstreeks naartoe.
- Als je van "Nu" naar "Het Einde" wilt, maar halverwege een koffiepauze wilt houden, gedraagt het model zich als de langzame beeldhouwer. Het berekent het beste pad voor dat specifieke deel van de reis, verfijnt het beeld en gaat dan naar het volgende deel.

Het Geheime Ingrediënt: "Gegroepeerde Drift"

Hoe leert het model om beide te doen? Het paper gebruikt een slimme trainingstruc met groepen.

Stel je voor dat je een klas studenten traint om een hoop zand van de ene plek naar de andere te verplaatsen.

Bij traditionele methoden vertel je misschien elke student individueel: "Verplaats dit specifieke zandkorreltje naar die specifieke plek."
Bij DFM zeg je tegen de hele klas: "Kijk naar de hele hoop zand die we nu hebben, en verplaats de hele hoop zodat deze eruitziet als de doel-hoop."

Het model leert om de hele verdeling (de hele hoop zand) naar het doel te duwen, in plaats van alleen individuele punten te repareren. Dit "groepsdenken" maakt het robuust.

Eén Stap: Het duwt de hele hoop direct naar de bestemming.
Veel Stappen: Het duwt de hoop halverwege, stopt, evalueert de vorm van de hoop opnieuw en duwt hem dan de rest van de weg.

Waarom Dit Belangrijk Is (De Resultaten)

Het paper testte dit op alles, van het tekenen van simpele vormen (zoals de letter "F") tot het genereren van hoogwaardige gezichten (FFHQ) en zelfs het besturen van robots.

Snelheid versus Kwaliteit Afweging: Je kunt kiezen hoeveel tijd je wilt besteden.
- Moet het snel? Voer het uit in 1 stap. Het is bijna net zo goed als de beste één-stap modellen.
- Wil je het perfect? Voer het uit in 10 of 50 stappen. De kwaliteit wordt steeds beter, net als bij de langzame beeldhouwer.
Geen Compromis: Je hoeft niet twee verschillende modellen te trainen. Eén DFM-model kan beide taken uitvoeren.
Robotica: Het paper toonde aan dat een robotarm sneller (1 stap) of preciezer (veel stappen) objecten kon oppakken met behulp van hetzelfde brein (model).

Samenvatting

Drift Flow Matching is als een Zwitsers zakmes voor AI-generatie. Het combineert de snelheid van een directe afkorting met de precisie van een gedetailleerde, stap-voor-stap reis. Het stelt gebruikers in staat om te zeggen: "Ik heb nu een goed beeld nodig" (1 stap) of "Ik heb een perfect beeld nodig en ik heb tijd" (veel stappen), allemaal met behulp van hetzelfde onderliggende systeem.

Technische Samenvatting: Drift Flow Matching (DFM)

Probleemstelling

Iteratieve generatieve modellen, zoals Flow Matching en Diffusiemodellen, hebben sterke "test-time scaling"-capaciteiten aangetoond, waarbij het verhogen van het aantal inferentiestappen de generatiekwaliteit, controleerbaarheid en distributiecoverage verbetert. Deze methoden vereisen echter meerdere inferentiestappen, wat rekenkundig duur kan zijn. Daarentegen bieden Drift-modellen efficiënte generatie in één stap door het leren van een directe pushforward-mapping van een bron- naar een doeldistributie. Hun directe generatieparadigma mist echter een natuurlijk mechanisme om resultaten te verbeteren door het aantal inferentiestappen tijdens de testfase te verhogen, wat hun flexibiliteit en aanpasbaarheid aan verschillende kwaliteit-efficiëntie-eisen beperkt.

Methodologie: Drift Flow Matching (DFM)

De auteurs stellen Drift Flow Matching (DFM) voor, een raamwerk dat de efficiëntie van één-staps Drift-modellen verenigt met de schaalbaarheid van meerstaps Flow Matching. DFM bereikt dit door een twee-tijds transportmodel te leren dat steekproeven van elk huidig tijdstip $t$ naar elk toekomstig tijdstip $r > t$ kan verplaatsen langs een Flow Matching-kanspad.

Kernmechanismen

Constructie van Twee-Tijds Randverdelingen:
In tegenstelling tot standaard Flow Matching, dat een puntsgewijze conditionele snelheidsdoelstelling regresseert, werkt DFM met paren randverdelingen $(p_t, p_r)$ . Het definieert een conditioneel pad $X^Z_t = \alpha(t)X^Z_0 + \beta(t)X^Z_1$ en $X^Z_r = \alpha(r)X^Z_0 + \beta(r)X^Z_1$ op basis van een onafhankelijke koppeling van bron- ( $X_0$ ) en doel- ( $X_1$ ) distributies. Deze constructie induceert randverdelingen $p_t$ en $p_r$ op willekeurige tijdstappen.
Parameterisatie van Gemiddelde Snelheid:
DFM parameteriseert een gemiddeld snelheidsveld $u_\theta(x_t, t, r)$ om de huidige distributie $p_t$ naar de toekomstige distributie $p_r$ te transporteren. De transportmapping wordt gedefinieerd als:
$T^\theta_{t,r}(x_t) = x_t + (r - t)u_\theta(x_t, t, r)$
Deze formulering stelt het model in staat om willekeurige stapgroottes $(r-t)$ te verwerken. In de limiet als $r \to t$ , herstelt de gemiddelde snelheid de instantane marginale snelheid van standaard Flow Matching.
Drift-gebaseerde Supervisie:
In plaats van een snelheidsvector te regresseren, hanteert DFM een drift-gebaseerd doel om de voorspelde distributie $q^\theta_{t,r}$ (gegenereerd door $T^\theta_{t,r}$ ) naar de ware doelrandverdeling $p_r$ te transporteren.
- Driftveld: Een driftveld $V_{q^\theta_{t,r}, p_r}$ wordt geconstrueerd met behulp van een kernel-gewogen aantrekking naar de doelpunten ( $V^+_{p_r}$ ) en een repulsieve zelfcorrectieterm weg van de huidige modeldistributie ( $V^-_{q^\theta_{t,r}}$ ).
- Verliesfunctie: Het trainingsdoel minimaliseert de grootte van het driftveld met behulp van een stop-gradient-formulering:
  $L_{DFM}(\theta) = \frac{1}{2} \mathbb{E}_{(t,r), X_t \sim p_t} \left[ \| \hat{X}^\theta_r - \text{sg}(\hat{X}^\theta_r + V_{q^\theta_{t,r}, p_r}(\hat{X}^\theta_r)) \|^2 \right]$
- Gegroepeerde Schatting: Cruciaal is dat het driftveld en het verlies per groep moeten worden berekend voor elk bemonsterd tijdstelpaar $(t, r)$ . Het mengen van steekproeven uit verschillende tijdstelparen zou de driftschatting corrumperen, omdat de doelrandverdelingen $p_r$ voor elk paar verschillend zijn.

Belangrijkste Bijdragen

Geeenheid Raamwerk: DFM overbrugt de kloof tussen efficiënte één-staps Drift-modellen en iteratieve Flow Matching-methoden, waardoor een enkel paradigma ontstaat dat zowel directe generatie als iteratieve verfijning ondersteunt.
Test-Time Scaling: Het raamwerk ontsluit test-time scaling-capaciteiten voor drift-gebaseerde methoden. Gebruikers kunnen afwegingen maken tussen bemonsteringssnelheid en generatiekwaliteit door het aantal inferentiestappen (NFE) aan te passen zonder hertraining.
Nieuw Leerprincipe: Het artikel introduceert een leerprincipe dat verschuift van puntsgewijze snelheidsregressie (standaard bij Flow Matching) naar transport van marginale distributies via drift-supervisie. Dit vermijdt de instabiliteit die vaak geassocieerd wordt met zelfdistillatiemethoden die in andere één-staps generatiebenaderingen worden gebruikt.
Theoretische Garanties: De auteurs bieden theoretische analyse die aantoont dat DFM eindpuntgeneratie decomposeert in kortafstandsmarginale transportproblemen die worden gecontroleerd door de Wasserstein-afstand ( $W_2$ ), en dat de methode standaard Flow Matching herstelt in de limiet van infinitesimale stappen.

Experimentele Resultaten

Uitgebreide experimenten over synthetische data, MNIST, FFHQ, ImageNet-1k en robotbesturingstaken tonen de effectiviteit van DFM aan:

Synthetische Data: Visualisaties tonen aan dat DFM hoogwaardige steekproeven in één stap kan genereren, terwijl de distributiecoverage en steekproefkwaliteit verder verbeteren naarmate NFE toeneemt.
Conditionele Generatie (MNIST & FFHQ): DFM bereikt concurrerende prestaties met één-staps inferentie (die de Drift Model-baselines evenaart) en verbetert consistent de metrieken (EMD, FID) naarmate NFE toeneemt naar 2, 5 of 10.
Grootschalige Beeldsynthese (ImageNet-1k): Op de ImageNet-256x256-dataset bereikt DFM een concurrerende FID van 1,52 met NFE=1. Het verhogen van NFE naar 10 verlaagt de FID verder naar 1,31, wat effectieve test-time scaling aantoont die vergelijkbaar is met iteratieve Flow Matching-methoden.
Robotbesturing: Bij robotmanipulatietaken (zoals Lift, Can, PushT) behoudt DFM de één-staps inferentiecapaciteit van Drift Policy, terwijl het duidelijke prestatiewinst vertoont bij verhoogde inferentiestappen, en zo zowel één-staps Drift Policy als multi-staps Diffusion Policy-baselines in specifieke taken overtreft.

Betekenis en Beweringen

Het artikel beweert dat DFM een flexibeler generatief paradigma vestigt waarbij directe generatie en iteratieve verfijning geen wederzijds uitsluitende ontwerpkeuzes meer zijn, maar binnen een enkel raamwerk kunnen worden bekeken. Door drift-gebaseerde generatieve modellering te verbinden met flow-gebaseerde iteratieve generatie, stelt DFM generatieprocessen in staat om bemonsteringsberekening aan te passen aan verschillende kwaliteit-efficiëntie-eisen. De auteurs benadrukken dat deze aanpak een nieuwe manier biedt om sterke één-staps generatie te bereiken terwijl de schaalbaarheidsvoordelen van iteratieve methoden worden behouden, waarmee een belangrijke beperking van eerdere Drift-modellen wordt aangepakt.