Technische Samenvatting: Is Monotone Stepping Noodzakelijk in Diffusiemodellen?

1. Probleemstelling

Sinds zes jaar vertrouwen diffusiemodellen op één enkele, niet-uitgesproken structurele aanname: het ruisniveau neemt monotoon af langs de steekproeftrajectorie. Hoewel het vakgebied bijna elke andere ontwerpdimensie grondig heeft geablateerd – inclusief corruptie-operatoren, trainingsdoelen, variantie-schema's, architecturen en ODE-oplossers – is de noodzaak van monotonie zelf nooit systematisch getest.

Drie onafhankelijke lijnen van bewijs suggereren dat deze aanname eerder een historische conventie is dan een fundamentele vereiste:

1. Wiskundige geldigheid: De DDIM-updatevergelijking is goed gedefinieerd voor elke keuze van de volgende tijdstap, niet alleen voor strikt afnemende stappen.
2. Stochastisch "opwarmen": Stochastische DDPM-steekproeven voegen impliciet op elke stap verse ruis toe, wat de vooruitgang in het verwijderen van ruis gedeeltelijk tegenwerkt; dit levert betere resultaten op dan deterministische DDIM bij hoge budgetten voor functiewaarderingen (NFE).
3. Opnieuw starten van steekproeven: Het expliciet injecteren van ruis halverwege de trajectorie (gekoppeld aan correctie) heeft state-of-the-art resultaten opgeleverd in specifieke contexten.

Dit leidt tot de centrale vraag: Is monotoon steekproeven slechts een conventie die kosteloos kan worden losgelaten, of is het essentieel? Specifiek: kunnen gestructureerde, doelbewuste niet-monotone toenames in ruis ("opwarmen") steekproefnemers helpen om uit suboptimale trajecten te ontsnappen en betere samples te bereiken?

2. Methodologie

De auteurs ontwierpen een systematische empirische test om de noodzaak van monotonie te evalueren over drie architectonisch verschillende generatieve model-families:

• DDPM (Discrete tijd, gehele tijdstappen)
• EDM (Continue ruisniveaus, Heun-integratie)
• Flow Matching (Continue tijd, optimaal transport)

Experimentele Opstelling

• Dataset: CIFAR-10.
• Budgetten: NFE variërend van 10 tot 200.
• Maatstaf: Fréchet Inception Distance (FID).
• Basislijn: Monotone DDIM (deterministisch) voor alle modellen.

Familie van Niet-Motone Schema's

De auteurs construeerden vier families van gestructureerde niet-monotone schema's, waarbij "opwarm"-stappen (waarbij ruis toeneemt) werden ingevoegd binnen een vast NFE-budget:

1. Enkele Opwarming (SR): Een enkele terugwaartse sprong met grootte $\delta$ op een specifieke positie $t_{reheat}$.
2. Zaagtand (ST): Periodieke terugwaartse sprongen van gelijke grootte.
3. Gedempte Oscillatie (DO): Geometrisch afnemende opwarmingen geconcentreerd rond het kritieke ruisniveau ($\log \text{SNR} \approx 0$), waar de perceptuele kwaliteit wordt bepaald.
4. Adaptieve Opwarming (AR): Een online schema dat opwarmingen triggert wanneer opeenvolgende scorevoorspellingen divergeren boven een gekalibreerde drempelwaarde.

De studie omvatte een hyperparameter-ablatie van 42 cellen over $(t_{reheat}, \delta)$ voor het Enkele Opwarming-schema op DDPM. Cruciaal: voor budget-gedwongen families werden opwarmingen binnen het NFE-budget ingevoegd, niet erbovenop, om een eerlijke vergelijking van efficiëntie te waarborgen.

3. Belangrijkste Bevindingen

A. De Negatieve Bevinding: Opwarmen Helpt Nooit

Over 90 geteste configuraties (dekkend 3 modellen, 4 schema-types en 4 NFE-budgetten) verbeterde geen enkele geteste niet-monotone configuratie de monotone basislijn.

• De straf (toename in FID) nam monotoon toe met de grootte van de opwarming $\delta$ op elke positie.
• Er waren geen lokale minima onder nul; zelfs de kleinste opwarmingen brachten een positieve straf met zich mee.
• Dit resultaat gold voor deterministische schema's, stochastisch-corrigerende varianten en online adaptieve criteria.

B. De Positieve Bevinding: Architectuur-afhankelijke Strafgrootte

Hoewel opwarmen uniform schadelijk is, varieert de grootte van de straf scherp (met bijna drie ordes van grootte) afhankelijk van de modelarchitectuur. Deze variatie is een structurele eigenschap van de getrainde denoiser, geen meetruis:

• DDPM: Lijdt onder een aanhoudende, substantiële straf (bijv. +1,31 FID bij NFE=100). De straf convergeert niet naar nul, zelfs niet bij hoge budgetten.
• Flow Matching: Toont een intermediaire straf (+0,04 FID bij NFE=100).
• EDM: Toont een straf die niet te onderscheiden is van nul (−0,003 FID bij NFE=100), statistisch binnen de ruisvloer.

C. Oplossing van Verwarring in de Gemeenschap

Het paper verduidelijkt twee schijnbare tegenstrijdigheden in eerdere literatuur:

1. DDPM vs. DDIM: Het feit dat stochastische DDPM ($\eta=1$) beter presteert dan deterministische DDIM bij hoge NFE (NFE=200) is niet te wijten aan opwarmen. De auteurs tonen aan dat stochasticiteit een orthogonale component van trajectdiversificatie op het data-manifold biedt, terwijl deterministisch opwarmen puur in de parallelle richting werkt (her-ruisen langs de voorspelde ruisvector).
2. RePaint: Het succes van RePaint (dat opwarmen gebruikt) wordt toegeschreven aan zijn per-stap conditioneringspunten (bekende pixels), die het traject verankeren bij een specifiek datapunt. Puur opwarmen zonder dergelijke ankers is uniform schadelijk.

4. Theoretische Bijdrage: Schema-gevoeligheidscoëfficiënt (SSC)

De auteurs formaliseren de waargenomen variatie in straf als de Schema-gevoeligheidscoëfficiënt (SSC).

• Definitie: $SSC := \lim_{N \to \infty} \frac{[\Delta \text{FID}_{\text{DO}}(N)]_+}{[\Delta \text{FID}_{\text{SR}}(N)]_+}$, waarbij $[x]_+ = \max(x, 0)$.
• Theoretische Basis: Een opwarm-stap dwingt de denoiser om een gecorrumpeerde schatting opnieuw te verwerken. Voor een Bayes-optimale denoiser onttrekt deze tweede doorgang geen nieuwe informatie, waardoor de stap een verloren NFE is met nul straf. Voor een imperfecte denoiser stapelen fouten zich op. De straf wordt begrensd door de lokale Lipschitz-constante van de denoiser ($L$) en zijn fout ($\epsilon$) op het opgewarmde ruisniveau.
• Implicatie: $SSC > 0$ biedt bewijs dat de getrainde denoiser niet is geconvergeerd naar de Bayes-optimale denoiser op het kritieke ruisniveau.
• Nuttigheid: SSC is een goedkope, architectuur-onafhankelijke diagnose (die slechts twee generatieruns van 256 samples vereist) die FID aanvult door de interne consistentie van de denoiser te onderzoeken.

5. Betekenis en Aanspraken

Het paper claimt het eerste systematische empirische antwoord te geven op de vraag of monotonie noodzakelijk is in diffusiesteekproeven.

1. Validatie van Conventie: De bevindingen rechtvaardigen de stilzwijgende afhankelijkheid van het vakgebied van monotone schema's. Gestructureerde niet-monotone uitbreidingen zijn uniform schadelijk bij de geteste budgetten en architecturen.
2. Nieuw Diagnosehulpmiddel: De introductie van SSC biedt een nieuwe sonde voor de kwaliteit van diffusiemodellen. Het onthult dat hoogwaardige modellen (zoals EDM) robuust zijn tegen schema-perturbaties (SSC $\approx$ 0), terwijl minderwaardige of minder-geconvergeerde modellen (zoals het geteste DDPM) fragiel zijn (SSC > 0).
3. Verduidelijking van Mechanismen: Het werk ontvlecht de effecten van stochasticiteit, conditionering en expliciet opwarmen, en lost verwarring op over waarom bepaalde stochastische of geconditioneerde methoden slagen terwijl pure niet-monotone schema's falen.

De auteurs concluderen dat de zoekruimte voor nuttig steekproefontwerp binnen monotone schema's blijft, en dat de variatie in opwarmstraffen dient als structurele indicator voor de kwaliteit van de denoiser.