Technische Samenvatting: Velocity Scheduled Flow Matching (VSFM)

Probleemstelling

Flow matching is een continu-tijd generatief modelleringsframework waarbij een neuraal netwerk $v_\theta(x, t)$ wordt getraind om de conditionele snelheid te regresseren langs een lineaire interpolant tussen ruis $x_0$ en data $x_1$. Standaard flow matching legt de interpolant vast als de rechte lijn $x_t = x_0 + t(x_1 - x_0)$, wat impliciet de sampler verplicht om gedurende het hele traject met een constante snelheid te bewegen.

De samplingskosten worden bepaald door het aantal functie-evaluaties (NFE) dat nodig is om de gewone differentiaalvergelijking (ODE) $dx/dt = v_\theta(x, t)$ te integreren. In het regime met een lage NFE (bijv. 4–50 stappen), moet het traject efficiënt worden afgelegd met eenvoudige integratoren zoals Euler. Het paper stelt dat de aanname van een constante snelheid een willekeurige ontwerpkeuze is die mogelijk niet overeenkomt met de discretisatiefout-karakteristieken van het geleerde snelheidveld, met name nabij de datamanifold waar het veld het meest snel varieert.

Methodologie

1. Gegeneraliseerde Trainingsdoelstelling

De auteurs introduceren Velocity Scheduled Flow Matching (VSFM), die de conditionele doelstelling generaliseert van een constante verplaatsing naar een tijdvariërende vorm:
$$u_t(x | x_0, x_1) = v(t) \cdot (x_1 - x_0)$$
waarbij $v: [0, 1] \to \mathbb{R}_{\ge 0}$ een niet-negatief snelheidsprofiel is dat voldoet aan $\int_0^1 v(t) dt = 1$. Deze beperking zorgt ervoor dat de totale verplaatsing $x_1 - x_0$ gelijk blijft, terwijl $v(t)$ de snelheid van de verplaatsing regelt.

De trainingsdoelstelling regresseert het netwerk op de verplaatsing met constante magnitude $(x_1 - x_0)$ op posities $x_t$ die worden bepaald door het bewegingsprofiel $\alpha(t) = \int_0^t v(s) ds$:
$$L_{VSFM}(\theta) = \mathbb{E}_{t, x_0, x_1} \left[ \| v_\theta(x_t, t) - (x_1 - x_0) \|^2 \right]$$
Cruciaal is dat het snelheidsprofiel $v(t)$ de training alleen beïnvloedt via de distributie van de posities $x_t$, en niet door de magnitude van de loss te wegen. Dit voorkomt numerieke instabiliteit geassocieerd met $v(t)^2$-weging nabij $t=1$.

2. Polynomiale Snelheidsprofielen

De studie instantieert VSFM met zes polynomiale profielen afgeleid van motion planning randwaardeproblemen:

• Baseline: Lineair ($v(t)=1$).
• Braking Sub-familie: Monotoon afnemende snelheid (Uniforme deceleratie, Coasting, Smooth landing). Deze bewegen snel nabij $t=0$ en vertragen tot stilstand bij $t=1$.
• Symmetrische Sub-familie: Nul snelheid bij beide eindpunten (Ease-in-out, Minimum-jerk).

3. Inference-Time Rescheduling (Training-Free)

Een belangrijke bijdrage is de mogelijkheid om elk toegestaan profiel toe te passen op een voorgetraind lineair flow-matching model zonder hertraining.

• Mechanisme: Het voorgetrainde model $v_\theta$ is getraind op het lineaire traject waar $x_\tau = x_0 + \tau(x_1 - x_0)$. Om te samplen onder een nieuw profiel $v(t)$, definiëren de auteurs een aangepast veld $\tilde{v}(x, t) = v(t) v_\theta(x, \alpha(t))$.
• Implementatie: Door een verandering van variabelen naar $\tau = \alpha(t)$, wordt de ODE $dx/d\tau = v_\theta(x, \tau)$. De sampler integreert deze ODE op een niet-uniform rooster $\tau_i = \alpha(i/N)$.
• Algoritme: De update stap is $x_{i+1} = x_i + v_\theta(x_i, \tau_i) \cdot \Delta \tau_i$, waarbij $\Delta \tau_i = \alpha((i+1)/N) - \alpha(i/N)$. Dit voert effectief de standaard Euler-sampler uit op een niet-uniform tijdrooster geïnduceerd door het profiel.

4. Analyse van Discretisatiefout

Het paper schrijft de prestatiewinst toe aan de lokale afkappingsfout (local truncation error) van de Euler-integrator. De fout bij stap $i$ schaalt met $(\Delta \tau_i)^2 \cdot \frac{d^2x}{d\tau^2}$.

• De term $\frac{d^2x}{d\tau^2}$ (variatie van het veld) is het grootst nabij $\tau=1$ (de datamanifold) waar het snelheidveld zeer niet-lineair is.
• Braking profielen wijzen kleine $\Delta \tau_i$ (kleine stappen) toe nabij $t=1$, waardoor de dominante foutbron wordt onderdrukt.
• Symmetrische profielen concentreren grote stappen in het midden, wat minder effectief is voor ruis-naar-data generatie waarbij de kritieke niet-lineariteit zich aan het eindpunt bevindt.

Belangrijkste Resultaten

Experimenten werden uitgevoerd op CIFAR-10 (32x32) met een class-conditional UNet en een fixed-step Euler integrator.

1. Training vanaf nul

Trainen onder het Coasting profiel leverde de beste resultaten op:

• 4 NFE: FID verminderd met 17,4% (35,39 vs. 42,86 baseline).
• 50 NFE: FID verminderd met 10,4% (8,29 vs. 9,25 baseline).
• Uniform deceleration verbeterde ook ten opzichte van de baseline, terwijl Smooth landing onderpresteerde bij lage NFE door excessief grote initiële stappen.
• Symmetrische profielen vertoonden marginale winst bij hoge NFE, maar bleven achter bij de baseline bij lage NFE.

2. Inference-Time Adaptatie (Training-Free)

Het toepassen van het Coasting profiel op de publiekelijk beschikbare TorchCFM checkpoint (getraind lineair) zonder hertraining:

• 50 NFE: FID verminderd met 19,8% (4,38 vs. 5,47 baseline).
• 32 NFE: FID verminderd met 18,6% (5,23 vs. 6,43 baseline).
• 100 NFE: Uniform deceleration behaalde de beste FID (3,89, -16,0%).
• Smooth landing presteerde aanvankelijk slechter bij 32 NFE (7,43 vs. 6,43) door grote initiële stappen die afkappingsfouten introduceerden, maar verbeterde bij hogere NFE-budgetten.

Betekenis en Claims

Het paper claimt dat het snelheidsprofiel een eenvoudige, goedkope hefboom is voor het verbeteren van few-step sampling in flow matching. De primaire betekenis ligt in twee gebieden:

1. Training-Free Adaptatie: Het demonstreert dat een voorgetraind lineair flow-matching model kan worden geoptimaliseerd voor specifieke NFE-budgetten door simpelweg het integratieschema (het snelheidsprofiel) te veranderen, zonder extra training of architecturale wijzigingen te vereisen.
2. Theoretisch Inzicht: Het identificeert dat de constante snelheid aanname in standaard flow matching suboptimaal is voor Euler-integratie. Door de stapgrootte af te stemmen op de lokale afkappingsfout (kleinere stappen nemen waar het veld het meest varieert), worden significante kwaliteitswinsten behaald, met name in het lage-NFE regime.

De auteurs merken op dat deze bevindingen specifiek zijn voor de Euler-integrator en de ruis-naar-data generatietaak. Ze suggereren dat de voordelen kunnen verschillen voor image-to-image taken (waar de bron gestructureerd is) of bij gebruik van hogere-orde solvers die de leidende afkappingsfouten elimineren. De studie is beperkt tot CIFAR-10 en polynomiale profielen, waarbij het onderzoek naar hogere resolutie datasets en het verkennen van geleerde of niet-polynomiale profielen als toekomstig werk wordt beschouwd.