Technische Samenvatting: Deterministische Decompositie van Stochastische Generatieve Dynamica

Probleemstelling

Moderne generatieve modellering wordt steeds vaker bekeken door de lens van probabiliteitstransport, waarbij samples evolueren van een eenvoudige basisverdeling $\pi_0$ naar een doeldata-verdeling $\pi_1$. Een fundamenteel onderscheid bestaat tussen deterministische modellen (bijvoorbeeld Normalizing Flows, Flow Matching), die samples evolueren via Gewone Differentiaalvergelijkingen (ODE's) die worden bestuurd door een snelheidsveld, en stochastische modellen (bijvoorbeeld Diffusiemodellen), die samples evolueren via Stochastische Differentiaalvergelijkingen (SDE's) die zowel drift als diffusie omvatten.

Hoewel deterministische modellen hanteerbare snelheidsvelden bieden, vangen stochastische modellen een rijker verloop van dichtheidsveranderingen. Wanneer stochastische dynamiek echter wordt hervormd tot deterministische representaties (zoals ODE's voor probabiliteitsstroom), worden de onderscheiden mechanismen van drift (richtinggebonden transport) en diffusie (dichtheidsvervorming) vaak samengeperst tot één effectief snelheidsveld. Deze instorting verduistert de specifieke rollen van deterministische evolutie versus stochastische fluctuatie, waardoor het moeilijk wordt om deze effecten tijdens het sampling te analyseren, te controleren of onafhankelijk te hercombineren. Bestaande benaderingen behandelen de stochasticiteit doorgaans als een externe ruisbron of absorberen deze volledig in een verenigde drift, zonder een gestructureerde deterministische representatie te bieden die transport scheidt van door diffusie veroorzaakte effecten.

Methodologie: Transport-Osmotische Decompositie

De auteurs stellen een theoretisch kader voor dat het deterministische snelheidsveld van een stochastisch generatief proces decomposeert in twee onderscheiden, complementaire componenten: een Transportveld ($u_t$) en een Osmotisch veld ($d_t$).

1. Theoretische Afleiding

De decompositie vloeit voort uit de intrinsieke bidirectionele structuur van stochastische processen. Voor een gegeven pad van marginale dichtheid $\{\pi_t\}_{t \in [0,1]}$ zijn de voorwaartse drift $b^\to_t$ en de achterwaartse drift $b^\leftarrow_t$ gekoppeld via de marginale score $\nabla \log \pi_t$. Onder canonieke regulariteitsvoorwaarden is de relatie:
$$b^\to_t(x) - b^\leftarrow_t(x) = \beta \nabla \log \pi_t(x)$$
waarbij $\beta$ de diffusiecoëfficiënt is.

De auteurs definiëren de decompositie als:

• Transportveld ($u_t$): De symmetrische component, gedefinieerd als het gemiddelde van de voorwaartse en achterwaartse drifts:
  $$u_t(x) = \frac{1}{2} (b^\to_t(x) + b^\leftarrow_t(x))$$
  Dit veld beheerst het transport van marginale waarschijnlijkheid via de continuïteitsvergelijking ($\partial_t \pi_t + \nabla \cdot (\pi_t u_t) = 0$). Het vertegenwoordigt het deterministische geraamte van de dynamica, waarbij waarschijnlijkheidsmassa wordt verplaatst zonder de lokale dichtheidsgeometrie te veranderen door diffusie.
• Osmotisch veld ($d_t$): De antisymmetrische component, gedefinieerd als de helft van het verschil tussen de voorwaartse en achterwaartse drifts:
  $$d_t(x) = \frac{1}{2} (b^\to_t(x) - b^\leftarrow_t(x)) = \frac{\beta}{2} \nabla \log \pi_t(x)$$
  Dit veld wordt volledig bepaald door de marginale score. Het vangt door diffusie veroorzaakte, dichtheidsafhankelijke effecten (analoog aan osmotische snelheid in klassieke diffusietheorie). Het vertegenwoordigt geen steekproefsgewijze willekeur, maar eerder hoe diffusie de marginale dichtheid hervormt.

De oorspronkelijke voorwaartse drift wordt gereconstrueerd als $b^\to_t = u_t + d_t$.

2. Bridge Matching (BM) Kader

Om deze gedecomposeerde velden te leren, stellen de auteurs Bridge Matching voor, een op stroming gebaseerd trainingskader. In plaats van één effectief snelheidsveld te leren, leert BM twee aparte neurale netwerken: $u_\theta$ (transport) en $d_\phi$ (osmose).

Het trainingsdoel is een regressieverlies dat de geleerde velden afstemt op doelvelden:
$$\mathcal{L}_{BM} = \mathbb{E}_{t, x_t} \left[ \| u_\theta(x_t, t) - u^*(x_t, t) \|^2 + \lambda_d \| d_\phi(x_t, t) - d^*(x_t, t) \|^2 \right]$$

Het artikel introduceert twee formuleringen voor het construeren van de doelen $u^*$ en $d^*$:

• Marginale Bridge Matching (MBM): Richt zich direct op de marginale decompositie. Het transportdoel $u^*$ voldoet aan de continuïteitsvergelijking voor het voorgeschreven pad, en het osmotische doel $d^*$ wordt afgeleid uit de marginale score $\nabla \log \pi_t$. Dit vereist het schatten van de marginale score, vaak via Kernel Density Estimation (KDE).
• Conditionele Bridge Matching (CBM): Gebruikt een hanteerbare conditionele verdeling $p_t(x|z)$ (bijvoorbeeld een Gaussische interpolatie tussen eindpunten) om expliciete schatting van de marginale score te vermijden. De doelen worden conditioneel gedefinieerd: $d^*_t(x, z) = \frac{\beta_t}{2} \nabla_x \log p_t(x|z)$ en $u^*_t = v^*_t - d^*_t$. De verwachting over de conditionele variabele $z$ herstelt de marginale decompositie.

3. Sampling en Hercombinatie

Een kernkenmerk van het kader is het vermogen om de geleerde velden tijdens het sampling te hercombineren. De voorwaartse samplingdynamica worden gedefinieerd als:
$$b^{BM}_t(x) = u_\theta(x, t) + \lambda_d d_\phi(x, t)$$
waarbij $\lambda_d$ een instelbaar gewicht is. Dit maakt controleerbaar sampling mogelijk waarbij de bijdrage van het door diffusie veroorzaakte osmotische effect onafhankelijk van het transportgeraamte kan worden aangepast.

Belangrijkste Bijdragen

1. Transport-Osmotische Decompositie: Het artikel leidt een formele decompositie af van stochastische generatieve dynamica, en laat zien dat deterministische en stochastische modellen een gemeenschappelijk marginale transportgeraamte ($u_t$) delen, maar verschillen in hoe door diffusie veroorzaakte effecten ($d_t$) worden geïntegreerd in steekproefdynamica.
2. Bridge Matching Kader: De auteurs stellen een trainingskader voor dat deze gedecomposeerde velden leert met behulp van zowel marginale als conditionele formuleringen, en zo effectief score-gebaseerde informatie verbindt met regressiedoelen in de stijl van stromingen.
3. Controleerbaar en Interpreteerbaar Sampling: Empirische resultaten tonen aan dat het hercombineren van de geleerde componenten met variërende gewichten ($\lambda_d$) interpreteerbare controle over het generatieproces mogelijk maakt. Het aanpassen van $\lambda_d$ maakt het mogelijk om een afweging te maken tussen scherpte en gladheid in gegenereerde afbeeldingen en verbetert de matching van eindpunten in specifieke 2D-transporttaken.

Experimentele Resultaten

De auteurs hebben Bridge Matching geëvalueerd op 2D-transporttaken (checkerboard, manen, Gaussische mengsels) en benchmarks voor afbeeldingsgeneratie (CIFAR-10, ImageNet-32, ImageNet-64).

• 2D-Transport: Op 2D-taken behaalden BM-varianten een concurrerende matching van eindpunten in vergelijking met standaard Flow Matching (FM) baselines. De optimale osmotische gewicht $\lambda_d$ bleek taakafhankelijk; voor complexe, multimodale doelen verbeterde het verhogen van de osmotische bijdrage de matching, terwijl het voor eenvoudigere structuren de prestaties kon verslechteren.
• Afbeeldingsgeneratie: Op CIFAR-10 en ImageNet-subsets behaalde het CBM-model een generatiekwaliteit die vergelijkbaar was met of beter was dan de CFM-Diffusion-baseline. Cruciaal varieerde de optimale $\lambda_d$ over evaluatiemetrics (FID, KID, IS), wat suggereert dat de decompositie een mechanisme biedt om verschillende aspecten van generatiekwaliteit tegen elkaar af te wegen. Opmerkelijk is dat de beste prestaties niet altijd bij $\lambda_d = 1$ werden behaald (de theoretische reconstructie), wat aangeeft dat hercombinatie tijdens het sampling een nuttige vrijheidsgraad biedt voor modellen met beperkte capaciteit.
• Visualisatie: Visualisaties van de vectorvelden bevestigden dat $u_t$ coherente, grootschalige transport aandrijft, terwijl $d_t$ gestructureerde, kleinere patronen vertoont die verantwoordelijk zijn voor lokale dichtheidsvervorming. Deeltjesniveau-simulaties illustreerden hoe $d_t$ trajecten langs het probabiliteitspad verschuift zonder de globale transporttrend te domineren.

Betekenis en Claims

Het artikel claimt een geünificeerd perspectief te bieden op deterministische en stochastische generatieve dynamica. Door het transportgeraamte expliciet te scheiden van door diffusie veroorzaakte dichtheidsvorming, biedt het werk een interpreteerbaar beeld van hoe stochasticiteit probabiliteitstransport vormgeeft.

De auteurs benadrukken dat deze decompositie niet louter een theoretische curiositeit is, maar een praktisch hulpmiddel voor controleerbaarheid. Het stelt practitioners in staat om de "osmotische bijdrage" tijdens het sampling aan te passen zonder opnieuw te trainen, waardoor fijnmazige controle over steekproegekenschappen (bijvoorbeeld scherpte versus gladheid) mogelijk wordt en interactieve samplingprocedures (bijvoorbeeld pauzeren, omkeren of hergenereren vanuit tussentoestanden) mogelijk worden vergemakkelijkt.

Het artikel blijft bescheiden wat betreft zijn reikwijdte, en merkt op dat de decompositie het meest direct van toepassing is op op velden gebaseerde generatieve dynamica en dat het leren van aparte velden extra modellering en rekenkundige overhead introduceert. Toekomstig werk wordt voorgesteld om zich te richten op het verminderen van deze overhead terwijl de voordelen op het gebied van interpreteerbaarheid en controleerbaarheid in downstream-toepassingen behouden blijven.