🤖 machine learning

A Mathematical Introduction to Diffusion Models

Dit artikel biedt een bewijsgeoriënteerde introductie tot diffusiemodellen voor beginnende promovendi, waarbij een verenigd pad wordt gevolgd van klassieke steekproefdynamiek naar moderne samplers, foutanalyse en controle tijdens de inferentie door middel van een gelaagde presentatie van kerndefinities, representatieve schattingen en theoretische stellingen op onderzoeksniveau.

Oorspronkelijke auteurs: Jianfeng Lu

Gepubliceerd 2026-07-03

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Jianfeng Lu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Plaatje: Hoe je een omelet weer intact krijgt

Stel je voor dat je een perfecte, heerlijke omelet hebt (de data die je wilt genereren, zoals een foto van een kat). Stel je nu voor dat je die omelet fijnmaakt, er een enorme emmer water bij doet en het roert tot het een troebele, smaakloze soep is (dit is het toevoegen van ruis).

Het doel van een Diffusiemodel is om uit te vogelen hoe je van die troebele soep weer een perfecte omelet maakt. De paper betoogt dat je de soep niet in één grote beweging kunt "ontwarren". In plaats daarvan moet je het stap voor stap doen, door langzaam het water te verwijderen en de eieren weer in elkaar te zetten, geleid door een reeks regels.

Deze paper is een "mathematische instructiehandleiding" voor het bouwen van die regels. Het zegt niet alleen "doe dit"; het bewijst waarom het werkt, hoeveel fouten er bij elke stap worden geïntroduceerd, en hoe je die fouten kunt herstellen.

Beweging 1: De Kunst van het Willekeurige Wandelen (Langevin Dynamics)

Voordat we bij de echte AI komen, begint de paper met een eenvoudiger concept: Langevin Dynamics.

De Analogie: Stel je voor dat je met een blinddoek op in een donkere kamer bent met een heuvel. Je wilt het hoogste punt vinden (het "doel"). Je kunt de helling onder je voeten voelen (de gradiënt).
- Als je alleen maar bergopwaarts loopt, kun je vast komen te zitten in een kleine bult (een lokaal maximum).
- Langevin Dynamics is als wandelen tegen een helling op, terwijl je af en toe een trap krijgt van een onzichtbare, willekeurige vriend (Brownse beweging). Deze trap helpt je om uit kleine bulten te springen, zodat je uiteindelijk de hoogste top in de kamer vindt.
De Bewering van de Paper: De auteurs bewijzen dat als je dit willekeurige wandelen maar lang genoeg blijft doen, je uiteindelijk precies terechtkomt waar je hoort te zijn. Ze analyseren ook wat er gebeurt als je "stappen" neemt die te groot zijn (discretisatie), waarbij ze laten zien dat je iets van het doel af kunt raken, en ze berekenen precies hoe ver je van het doel af bent.

Beweging 2: De Omgekeerde Film (Score-Based Diffusion)

Nu gaan we over naar de eigenlijke Diffusiemodellen die in AI worden gebruikt.

De Analogie: Denk aan het voorwaartse proces (het fijnmaken van de omelet) als een film die vooruit wordt afgespeeld. De paper laat zien dat als je precies weet hoe de soep er op elk moment van de film uitziet, je wiskundig kunt uitrekenen hoe je de film achterstevoren afspeelt.
De "Score": Om de film achterstevoren af te spelen, heb je een gids nodig. De paper noemt deze gids de Score.
- Stel je voor dat de soep een landschap is. De "Score" is de wind die waait van de dunne, waterige delen van de soep naar de dikke, eiergele delen.
- De paper bewijst een slimme truc (Tweedie's Identiteit): Je hoeft niet het hele recept van de omelet te kennen om te weten in welke richting de wind waait. Je hoeft alleen maar te weten: "Als ik hier een druppel water zie, waar kwam de eierdooier dan waarschijnlijk vandaan?"
- De AI leert deze "windrichting" (de score) door te oefenen op duizenden fijngehakte eieren.

Beweging 3: De Film Omzetten in een Script (Discretization)

Je kunt een film in het echt niet frame voor frame achterstevoren afspelen; je moet frames overslaan. Dit is Discretisatie.

De Analogie: Stel je voor dat je achterstevoren door een drukke kamer probeert te lopen. Als je grote stappen neemt, loop je tegen mensen aan (fout). Als je kleine stapjes neemt, kom je er perfect aan, maar duurt het eeuwig.
De Bewering van de Paper: De auteurs breken de fout op in drie delen:
1. Beginfout: Begonnen we met het juiste soort soep?
2. Leerfout: Is onze "windrichting"-gids wel nauwkeurig? (Als de AI het fout raadt, gaan we de verkeerde kant op).
3. Stapfout: Hebben we stappen genomen die te groot waren?
  Ze bewijzen dat als je stappen neemt die kleiner worden naarmate je dichter bij de "schone" afbeelding komt, je de totale fout heel laag kunt houden. Ze laten zelfs zien hoe je een "rejection sampling"-truc (als een kwaliteitscontroleur) kunt gebruiken om fouten te herstellen zonder het exacte recept te hoeven kennen, alleen de windrichting.

Beweging 4: De Digitale Versie (Discrete Diffusion)

Tot nu toe hebben we gesproken over vloeiende, continue zaken zoals water en eieren. Maar wat als je tekst (woorden) of DNA genereert? Je kunt niet "half een woord" hebben.

De Analogie: In plaats van een gladde soep, stel je een doos met Lego-blokjes voor. Je kunt een blokje niet "uitsmeren"; je kunt het alleen vervangen door een ander blokje of bedekken met een "masker" (een leeg stukje).
De Bewering van de Paper: De auteurs laten zien dat dezelfde wiskunde werkt voor Lego-blokjes. In plaats van een "wind" die je leidt, heb je een waarschijnlijkheidskaart die je vertelt: "Als je hier een lege ruimte ziet, is er een kans van 30% dat het een 'kat' was en een kans van 70% dat het een 'hond' was."
- Ze bewijzen dat je zelfs met deze discrete wisselingen het proces kunt omkeren om de oorspronkelijke structuur op te bouwen, mits je de juiste waarschijnlijkheidskaarten hebt.

Beweging 5: Het Schip Sturen (Inference-Time Control)

Ten slotte vraagt de paper: Wat als je niet zomaar een omelet wilt? Wat als je een pittige omelet wilt? Of een omelet met spek?

De Analogie: Je hebt een schip (de AI) dat weet hoe het van soep naar omelet moet varen. Maar nu wil je het schip naar een specifieke bestemming sturen.
De Bewering van de Paper: Je hoeft niet het hele schip opnieuw te bouwen. Je hoeft alleen maar een kleine "wind" (een guidance term) toe te voegen die het schip een klein beetje richting de "pittige" of "spek" richting duwt.
- De paper bewijst wiskundig hoe je deze extra duw kunt berekenen. Het laat zien dat je de natuurlijke kennis van de AI kunt combineren met een "beloning" (zoals "laat het op een hond lijken") om het gewenste resultaat te krijgen, zonder de wiskunde die het hele systeem werkend houdt te breken.

Samenvatting van de "Kernboodschap"

Deze paper is een rigoureus bewijs dat de "magie" van AI-beeldgeneratoren helemaal geen magie is. Het is een zorgvuldig geconstrueerd wiskundig proces van:

Smeren van data naar ruis.
Leren van de richting terug naar de data.
Stapsgewijs achteruit bewegen om fouten te vermijden.
Sturen van het proces om specifieke resultaten te krijgen.

De auteurs leveren de "bonnen" (de bewijzen) die precies laten zien hoeveel fout er bij elke stap wordt geïntroduceerd en hoe je die fout onder controle houdt, wat zorgt voor een hoogwaardige reconstructie van de oorspronkelijke data.

Technische Samenvatting: Een Wiskundige Introductie tot Diffusiemodellen

Probleemstelling

Het artikel behandelt de fundamentele uitdaging van het samplen uit complexe, hoogdimensionale waarschijnlijkheidsverdelingen $\pi$ (de doelverdeling van de data) wanneer directe sampling onmogelijk is. In veel moderne toepassingen is $\pi$ alleen bekend tot aan een normaliserende constante of alleen via empirische datastalen, in plaats van via een expliciete tractabele dichtheidsformule. De kernmoeilijkheid ligt in het construeren van een stochastisch proces dat convergeert naar $\pi$ op een efficiënte wijze, met name wanneer het doel multimodaal, singulier of gedefinieerd op discrete ruimtes is.

Het artikel kadert dit probleem binnen het perspectief van indirecte sampling: in plaats van de doelverdeling direct te samplen, wordt een stochastisch proces geconstrueerd dat gemakkelijk te simuleren is en waarvan de verdeling geleidelijk naar het doel drijft. Het werk richt zich op twee primaire mechanismen voor deze drift:

Langevin-dynamica: Continue-tijd Markovprocessen gedreven door de gradiënt van de log-densiteit (score) en Brownse beweging.
Diffusiemodellen: Een raamwerk dat ruis toevoegt aan data om een pad van gladdere wetmatigheden te vormen, en vervolgens leert dit proces te omkeren door middel van score-schatting.

Methodologie

De aantekeningen verlopen in vijf afzonderlijke "bewegingen", waarbij een rigoureuze wiskundige brug wordt geslagen van klassieke samplingtheorie naar moderne generatieve modellering.

1. Samplingtaal en Langevin-dynamica

De basis wordt gelegd door het samplingprobleem te definiëren via discrepanties (Total Variation, Wasserstein-2 en KL-divergentie). De auteurs introduceren Overdamped Langevin Diffusion:
$dX_t = -\nabla U(X_t)dt + \sqrt{2}dB_t$
waarbij $\pi(x) \propto e^{-U(x)}$ .

Convergentiemechanisme: Het artikel bewijst dat de KL-divergentie $D_{KL}(q_t \| \pi)$ fungeert als een Lyapunov-functie. De tijdsafgeleide hiervan is de negatieve relatieve Fisher-informatie ($-FI$). Onder een Log-Sobolev-ongelijkheid (LSI) levert dit exponentiële convergentiesnelheden op.
Discretisatie (ULA): De Unadjusted Langevin Algorithm (ULA) wordt geïntroduceerd als de Euler–Maruyama-discretisatie. Het artikel analyseert de discretisatiefout, waarbij wordt aangetoond dat hoewel de keten mixt, de stationaire verdeling $\pi_h$ verschilt van $\pi$ met een fout van de orde $O(h)$ .
Correctie (MALA): De Metropolis-adjusted Langevin algorithm (MALA) wordt gepresenteerd als een methode om deze fout te verwijderen via een acceptatie-verwerpstap, wat exacte stationariteit herstelt ten koste van het vereisen van densiteitsevaluaties.

2. Continue-tijd Score-gebaseerde Diffusiemodellen

Het raamwerk verschuift naar scenario's waar de doeldensiteit onbekend is, maar data beschikbaar is.

Forward Noising: Data $X_0$ wordt gecorrumpeerd door een continue-tijd Gaussisch proces (bijv. Variance-Exploding of Variance-Preserving SDE's), wat een pad van marginalen $p_t$ creëert.
Tweedie's Identiteit: Een centrale identiteit koppelt de score $\nabla \log p_t(x)$ aan het posterior gemiddelde (denoiser) van de schone data:
$\nabla \log p_t(x) = \frac{1}{\sigma_t^2} \mathbb{E}[a_t X_0 - X_t | X_t = x]$
Dit rechtvaardigt het trainen van neurale netwerken om de ruis (of de schone data) te voorspellen als een proxy voor het leren van de score.
Reverse Dynamics: Twee equivalente reverse-tijd processen worden afgeleid:
1. Reverse SDE: Een stochastisch proces met een driftterm die de score bevat, $dY_s = [-f_{T-s} + g_{T-s}^2 \nabla \log p_{T-s}]ds + g_{T-s} d\bar{B}_s$ .
2. Probability Flow ODE: Een deterministische ODE, $\frac{dX_t}{dt} = f_t(X_t) - \frac{1}{2}g_t^2 \nabla \log p_t(X_t)$ , die dezelfde marginalen behoudt als de SDE, maar exacte likelihood-berekening mogelijk maakt via de continuïteitsvergelijking.

3. Stochastische Lokalisatie en Polchinski-flow

Het artikel biedt alternatieve theoretische perspectieven op dezelfde Gaussische kanaal:

Stochastische Lokalisatie: Ziet het proces als een Bayesiaans inferentieprobleem waarbij het posterior gemiddelde van het verborgen signaal evolueert als een martingaal. Dit perspectief levert krachtige covariantie-identiteiten op (bijv. de posterior covariantie dissipeert in de loop van de tijd), die cruciaal zijn voor latere foutbounds.
Polchinski Flow: Interpreteert het gladstrijken van de densiteit als een renormalisatiegroep-flow. De effectieve potentiaal $U_t = -\log p_t$ voldoet aan een nietlineaire PDE (de Polchinski-vergelijking), wat diffusiemodellen verbindt met statistische fysica en coarse-graining.

4. Discretisatie en Foutanalyse

De continue dynamica worden gediscretiseerd in implementeerbare samplers (DDPM). Het artikel biedt een rigoureuze foutdecompositie voor de KL-divergentie tussen de ware datadistributie (of een gladgestreken versie) en de sampler-output:
$D_{KL}(p_1 \| \hat{p}_1) \leq \underbrace{\epsilon^2_{init}}_{\text{Initialisatie}} + \underbrace{\epsilon^2_{disc}}_{\text{Discretisatie}} + \underbrace{c \sum \eta_k \epsilon^2_{k,score}}_{\text{Score-schatting}}$

Initialisatiefout: Ontstaat door het startpunt van het reverse proces op een hoog ruisniveau in plaats van de exacte terminale distributie.
Discretisatiefout: Geanalyseerd via Euler–Maruyama en verfijnd met behulp van Hessian-controle. In plaats van een globale Lipschitz-constante voor de score aan te nemen, gebruikt het artikel posterior covariantie-budgetten (afgeleid van stochastische lokalisatie) om de fout te begrenzen, wat een bijna lineaire afhankelijkheid van dimensie $d$ oplevert.
Score-schattingsfout: De fout die voortkomt uit het gebruik van een geleerde score $s_t$ in plaats van de ware score $s^\star_t$ .
Hoge-accuraatheid Sampling: Het artikel introduceert First-Order Rejection Sampling (FORS) als een score-gebaseerd correctiemechanisme (analoog aan MALA) dat een hoge accuratesse bereikt met een polylogaritmische afhankelijkheid van de doel-fout $\epsilon$ , waardoor de polynomiale afhankelijkheid van standaard Euler-discretisatie wordt vermeden.

5. Discrete Diffusiemodellen

Het raamwerk wordt uitgebreid naar eindige toestandsruimtes (bijv. tekst, moleculen) waar gradiënten en Brownse beweging ongedefinieerd zijn.

Mechanisme: Forward corruptie wordt gemodelleerd als een Continuous-Time Markov Chain (CTMC) (bijv. masked diffusion).
Reverse Dynamics: Het reverse proces is eveneens een CTMC, waarbij de snelheden worden bepaald door ratio-scores $s^\star_t(x, y) = p_t(y)/p_t(x)$ in plaats van gradiënten.
Training: Het doel is score-entropie, een Bregman-divergentie afgeleid van de pad-ruimte relatieve entropie, die geoptimaliseerd kan worden via supervised learning op clean-token voorspelling.
Sampling: Algoritmen zoals $\tau$ -leaping (benadering) en Uniformization (exact) worden geanalyseerd. Er wordt aangetoond dat Uniformization de discretisatiefout elimineert, waardoor alleen initialisatie- en score-schattingsfouten overblijven.

6. Controle tijdens Inferentie

De laatste sectie behandelt het modificeren van de sampler om aan condities te voldoen of beloningen te maximaliseren zonder hertraining.

Reward Tilting: De doelverdeling wordt hergewogen als $p_\beta(x) \propto p_0(x)e^{\beta r(x)}$ .
Guidance: Het artikel leidt af dat de score van de getilte verdeling de basis-score plus een correctieterm is $\nabla \log h^\beta_t$ , waarbij $h^\beta_t$ een posterior verwachting van de beloning is. Dit verenigt Classifier Guidance en Classifier-Free Guidance onder één enkel wiskundig raamwerk.
Path-Space Control: Het probleem wordt geframed als een Doob-transformatie van de basis-padwet, wat de controle tijdens inferentie linkt aan stochastische controletheorie.

Belangrijkste Resultaten en Bijdragen

Verenigde Foutanalyse: Het artikel biedt een uitgebreide, bewijs-georiënteerde foutdecompositie voor diffusiemodellen die initialisatie-, discretisatie- en score-schattingsfouten scheidt. Het demonstreert dat onder zwakke aannames (eindige tweede momenten), de discretisatiefout bijna lineair schaalt met dimensie $d$ via covariantie-budgetten, in plaats van het vereisen van sterke convexiteit of globale Lipschitz-condities.
Hoge-accuratesse Garanties: Het stelt vast dat First-Order Rejection Sampling (FORS) en Uniformization (voor discrete modellen) een sampling met hoge accuratesse kunnen bereiken met een complexiteit die polylogaritmisch afhankelijk is van de doel-fout $\epsilon$ , wat aanzienlijk beter is dan de standaard Euler-gebaseerde bounds.
Theoretische Unificatie: Het werk verbindt diffusiemodellen met Stochastische Lokalisatie (martingaaltheorie), Polchinski Flow (renormalisatiegroep) en Optimal Transport (Wasserstein gradiëntstromen), wat een dieper geometrisch en analytisch begrip biedt van waarom deze modellen werken.
Discrete Toestandsruimtes: Het breidt de diffusietheorie rigoureus uit naar eindige toestandsruimtes met behulp van CTMC's en ratio-scores, en biedt een volledige foutanalyse voor masked diffusion en discrete samplers.
Inference-Time Control: Het formaliseert guidance en reward tilting als veranderingen van maat (Doob-transformaties), wat de wiskundige relatie tussen het basismodel, de beloningsfunctie en de resulterende geleide dynamica verheldert.

Betekenis en Claims

Het artikel claimt een bewijs-georiënteerde introductie te bieden die geschikt is voor beginnende promovendi met een achtergrond in waarschijnlijkheidsrekening maar zonder voorafgaande blootstelling aan stochastische differentiaalvergelijkingen (SDE's) of diffusiemodellen. De betekenis ligt in:

Rigoureuze Fundamenten: Verder gaan dan heuristische verklaringen door volledige bewijzen te leveren voor kerndefinities (Fokker-Planck, Tweedie's identiteit, reverse SDE) en representatieve schattingen voor convergentie.
Bruggen Slaan: Het verbinden van klassieke MCMC-theorie (Langevin, MALA) met moderne generatieve modellering (DDPM, Score-Based), waarbij wordt getoond dat diffusiemodellen essententieel een specifieke, geleerde implementatie zijn van reverse-time sampling dynamica.
Verheldering van Aannames: Expliciet maken van de aannames die nodig zijn voor convergentie (bijv. Log-Sobolev-ongelijkheden, gladheid) en het onderscheid maken tussen "onderzoeksniveau-stellingen" (gepresenteerd met roadmaps) en "representatieve schattingen" (bewezen onder simplificerende aannames).
Zelfstandige Toolkit: De aantekeningen dienen als een zelfstandige referentie voor de analytische instrumenten (Itô-calculus, Girsanov-stelling, Gaussische identiteiten) die noodzakelijk zijn om diffusiemodellen te begrijpen en te analyseren, zonder de noodzaak om uiteenlopende literatuur te raadplegen voor de basismechanismen.

De auteurs geven expliciet aan dat de aantekeningen niet het volledige landschap van generatieve modellen verkennen (het sluiten bijv. flow matching en consistency models uit in detail), maar zich richten op de specifieke wiskundige mechanismen van diffusie en Langevin-dynamica, waarbij geleerde score-fout wordt behandeld als een input voor sampler-garanties in plaats van een statistisch leerprobleem.