Diffusion Models Observe Only Gradients: A Geometric Perspective on Score Matching Errors

Technische Samenvatting: Diffusiemodellen Observeren Alleen Gradiënten

Probleemstelling
Score-gebaseerde diffusiemodellen worden doorgaans getraind door het minimaliseren van de tijd-geïntegreerde $L_2$ score-matching fout. Standaard theoretische analyses vertrouwen op deze volledige $L_2$-fout om de discrepantie in sampling (bijv. de Kullback-Leibler divergentie) tussen de geleerde en de doelverdeling te begrenzen. Dit artikel identificeert echter een fundamenteel defect in deze aanpak: de volledige $L_2$ score-fout is niet de intrinsieke maatstaf voor de marginale kwalitatieve verdeling. Een geleerd diffusiemodel kan een willekeurig grote $L_2$ score-fout vertonen terwijl het de doelverdeling perfect benadert. De auteurs stellen dat de standaard $L_2$-metriek er niet in slaagt om foutcomponenten te onderscheiden die de gegenereerde samples wel en die niet beïnvloeden.

Methodologie: Geometrische Decompositie
De kernmethodologie bestaat uit het deconstrueren van het score-estimatiefout vectorfeld, $e_s = \hat{s}_s - \nabla \log p^\star_s$, in twee orthogonale componenten met behulp van een Helmholtz-Hodge decompositie ten opzichte van de doeldensiteit $p^\star_s$:

1. Observeerbare Gradiënt Component ($\Pi_{G_s} e_s$): De projectie van de fout op de ruimte van gradiëntvelden.
2. Onzichtbare Solenoïdale Component ($\Pi_{G_s^\perp} e_s$): De projectie op het orthogonale complement (divergentievrije velden met betrekking tot de gewogen densiteit).

De auteurs demonstreren dat de marginale dynamiek van een diffusieproces wordt beheerst door de Fokker-Planck vergelijking, die afhankelijk is van de score-fout uitsluitend via een gewogen divergentie term, $\nabla \cdot (p^\star_s e_s)$.

• De gradiënt component draagt bij aan deze divergentie en beïnvloedt direct de evolutie van de marginale verdelingen.
• De solenoïdale component voldoet aan $\nabla \cdot (p^\star_s e_{inv}) = 0$. Bijgevolg is deze structureel onzichtbaar voor de marginale Fokker-Planck dynamiek; het toevoegen van een puur solenoïdaal foutveld verandert de marginale verdelingen op geen enkel tijdstip, ook al vergroot dit de $L_2$-norm van de fout.

Belangrijkste Bijdragen

1. Onmogelijkheidsresultaat (Stelling 3.1):
   De auteurs bewijzen dat geen enkele monotone functie van de volledige $L_2$ score-fout uniform een ondergrens kan vormen voor een betekenisvolle distributionele divergentie (bijv. de KL-divergentie) tussen de geleerde en de doelmodellen. Dit komt omdat puur solenoïdale fouten een willekeurig grote $L_2$-norm kunnen hebben terwijl ze de marginale verdelingen identiek laten aan de doelverdeling (d.w.z. $KL=0$). Hiermee wordt vastgesteld dat de volledige $L_2$-fout niet de intrinsieke grootheid is die de kwaliteit van de sampling controleert.

2. Strakkere Bovengrens op de KL-divergentie (Stelling 3.2):
   Door zich uitsluitend te concentreren op de observeerbare gradiënt component, leiden de auteurs een nieuwe bovengrens af voor de KL-divergentie:
   $$KL(p^\star_{t_0} \parallel \hat{p}_{t_0}) \lesssim \frac{1}{2} \int_{t_0}^T \sigma_s^2 \|\Pi_{G_s} e_s\|_{L_2(p^\star_s)}^2 ds$$
   Deze bovengrens is strikt strakker dan de standaard Girsanov-gebaseerde bovengrens wanneer de solenoïdale component groter is dan nul. De auteurs identificeren de onnauwkeurigheid van de standaard bovengrens als de "kosten" van het opereren op padruimte-dynamiek in plaats van marginale ruimte-dynamiek. Ze tonen verder aan dat deze bovengrens kan worden teruggevonden via een Girsanov-argument toegepast op een marginaal equivalente representant van het geleerde proces die alleen de observeerbare drift behoudt.

3. Hanteerbare Schatter voor de Observeerbare Fout (Sectie 4):
   Aangezien het expliciet projecteren van fouten op gradiëntvelden computationeel onhaalbaar is in hoge dimensies, stellen de auteurs een duale Sobolev-identiteit voor om de norm van de gradiënt component te schatten. Ze formuleren het probleem als een onbeperkte optimalisatie over een scalaire "critic" netwerk $\phi_\psi$:
   $$\|\Pi_{G_s} e_s\|_{L_2(p^\star_s)}^2 = \sup_{\phi} \left\{ 2 \mathbb{E}[\nabla \phi \cdot e_s] - \mathbb{E}[\|\nabla \phi\|^2] \right\}$$
   Deze schatter vermijdt expliciete projectie en kan worden berekend met standaard sampling uit de genoiseerde dataverdeling.

Resultaten
De auteurs valideren hun theoretische bevindingen empirisch op Fashion-MNIST en CIFAR-10 over diverse modelcapaciteiten:

• Foutdecompositie: Tijdens de training neemt de gradiënt component van de score-fout significant af (met ordes van grootte), terwijl de solenoïdale component vroeg stijgt en een plateau bereikt, waarbij deze uiteindelijk bijna de gehele residuele fout verklaart.
• Strakheid van de Bovengrens: De standaard Girsanov-bovengrens verzadigt op het niveau van de solenoïdale foutvloer en slaagt er niet in verdere verbeteringen in het leren te reflecteren. In tegenstelling hiertoe blijft de nieuwe bovengrens (gebaseerd op de gradiënt component) dalen, wat de werkelijke verbetering van het model volgt.
• Correlatie met Samplekwaliteit: De norm van de gradiënt component ($\|\Pi_{G} e\|^2$) vertoont een substantieel hogere Spearman-correlatie met de Fréchet Inception Distance (FID) dan de volledige $L_2$-fout. Deze correlatie houdt stand over verschillende modelcapaciteiten, waarbij het verschil het meest uitgesproken is bij kleinere modellen.

Betekenis en Claims
Het artikel claimt een geometrisch perspectief te bieden op score-matching fouten dat verklaart waarom standaard trainingsdoelstellingen inefficiënt of misleidend kunnen zijn met betrekking tot de kwaliteit van de samples.

• Het verheldert dat standaard Denoising Score Matching (DSM) de volledige $L_2$-fout minimaliseert, waarbij het onbedoeld solenoïdale componenten bestraft die geen invloed hebben op de gegenereerde distributie.
• De voorgestelde observeerbare fout-metriek dient als een betere diagnostiek voor de kwaliteit van het leren, waarbij een strakkere theoretische bovengrens biedt op de KL-divergentie en een praktisch instrument dat sterker correleert met perceptuele metrieken zoals FID.
• Het werk suggereert dat de "onpreciesheid" van bestaande theoretische grenzen geen wiskundig artefact is, maar een structureel gevolg van het analyseren van padruimte-verdelingen wanneer alleen marginale dynamiek relevant is voor generatie.

De auteurs positioneren dit werk als een verfijning van het theoretische begrip van diffusiemodellen, door een meer intrinsieke maatstaf te bieden die overeenkomt met de werkelijke mechanisme (Fokker-Planck dynamiek) die de samplegeneratie beheerst. Zij stellen niet voor de standaard trainingsdoelstelling te vervangen, maar suggereren de gradiënt-component schatter te gebruiken als een diagnostisch hulpmiddel om het trainingsverloop en de benutting van de capaciteit beter te begrijpen.