Technische Samenvatting: Exacte Posterior Score Schatting voor het Oplossen van Lineaire Inverse Problemen

Probleemstelling

Lineaire inverse problemen omvatten het herstellen van een onbekend signaal $x_0$ uit ruisige lineaire metingen $y = Ax_0 + \eta$, waarbij $A$ een bekende voorwaartse operator is en $\eta$ observatieruis is. Deze problemen zijn alomtegenwoordig in beeldverwerking (bijv. inpainting, super-resolutie, deblurring) en zijn vaak slecht gesteld (ill-posed), wat betekent dat meerdere signalen consistent kunnen zijn met dezelfde observatie. Het doel is om te samplen uit de posterior verdeling $p(x_0|y)$ in plaats van een enkele puntinschatting te vinden, om onzekerheid te vangen en een balans te vinden tussen datafidelity en de plausibiliteit van de prior.

Hoewel diffusie- en flow-gebaseerde modellen krachtige datapriors bieden door het leren om Gaussische corruptie om te keren, leveren ze inherent de onvoorwaardelijke score $\nabla_{x_t} \log p(x_t)$ . Het oplossen van inverse problemen vereist de posterior score $\nabla_{x_t} \log p(x_t|y)$. Bestaande benaderingen vallen uiteen in twee categorieën met significante beperkingen:

1. Training-vrije methoden (bijv. DPS, DDNM, $\Pi$GDM) houden een vooraf getrainde denoiser vast en passen benaderende correcties voor meting-matching toe (bijv. gradiëntstappen, projecties) bij elke reverse stap. Deze introduceren bias, wat vaak leidt tot overmatige smoothing, gehallucineerde structuren of slecht gekalibreerde onzekerheid.
2. Training-gebaseerde methoden (bijv. Palette, InDI) trainen een nieuwe conditionele model vanaf nul of via distillatie. Hoewel expressief, geven zij de denoising-structuur van de prior vaak op, waarbij het netwerk de operator-afhankelijkheid end-to-end moet leren, wat efficiënte warm-starts vanuit vooraf getrainde checkpoints voorkomt en de trainingskosten verhoogt.

Methodologie: Exact Posterior Score (EPS)

De paper leidt een gesloten vorm-expressie af voor de exacte posterior score onder lineaire Gaussische inverse problemen en algemene Gaussische interpolanten. Het kerninzicht is dat posterior sampling een denoising-probleem blijft, maar dan met een meting-bewuste input en een operator-afhankelijke anisotrope ruiscovariantie.

Theoretische Afleiding

De auteurs tonen aan dat de posterior score op tijdstip $t$ kan worden uitgedrukt als:
$$\nabla_{x_t} \log p(x_t|y) = \frac{1}{\beta_t^2} \left( \alpha_t D_{\Sigma^\star(t)}(\mu^\star(x_t, y, t)) - x_t \right)$$
waarbij:

• $D_{\Sigma^\star(t)}$ een anisotrope denoiser is die $E[x_0 | x_0 + \xi = \mu^\star]$ schat met $\xi \sim \mathcal{N}(0, \Sigma^\star(t))$.
• $\mu^\star(x_t, y, t)$ de posterior pivot is, een precisie-gewogen fusie van de huidige ruisige staat $x_t$ en de meting $y$.
• $\Sigma^\star(t)$ de posterior covariantie is, afgeleid van de parameters van het inverse probleem ($A, \sigma_y$) en het diffusie-schema ($\alpha_t, \beta_t$).

Cruciaal is dat $\mu^\star$ fungeert als een voldoende statistiek voor $(x_t, y)$, en $\Sigma^\star$ de anisotrope onzekerheid vastlegt: richtingen die geobserveerd worden door $A$ worden zekerder, terwijl niet-geobserveerde richtingen (in de nulruimte van $A$) onzekerder blijven.

De EPS Trainingsdoelstelling

De auteurs definiëren Exact Posterior Score (EPS) als een trainingsdoelstelling die deze identiteit benut:

1. Input Transformatie: In plaats van te trainen op de standaard ruisige input $x_t$, wordt het netwerk getraind op de pivot $\mu^\star(x_t, y, t)$.
2. Anisotrope Ruis: De training richt zich op het denoising van $\mu^\star$ onder de specifieke anisotrope covariantie $\Sigma^\star(t)$.
3. Efficiënte Simulatie: Een belangrijk theoretisch bijdrage (Proposition 3) laat zien dat de vereiste anisotrope corruptie natuurlijk wordt geïnduceerd door de gesloten vorm-constructie van $\mu^\star$. Men kan dus trainen met standaard isotrope ruis sampling ($x_t = \alpha_t x_0 + \beta_t \epsilon$) en $\mu^\star$ analytisch berekenen, waardoor het direct samplen van anisotrope ruis wordt vermeden.
4. Architectuur: De netwerkarchitectuur is identiek aan standaard vooraf getrainde denoisers, waarbij het aantal inputkanalen is uitgebreid om de pivot $\mu^\star$ en de ruwe observatie $y$ te concateneren. Dit stelt EPS in staat om ofwel vanaf nul getraind te worden, of efficiënter, gefine-tuned te worden van een vooraf getrainde onvoorwaardelijke denoiser.

Inferentie

Bij inferentie gebruikt EPS dezelfde sampler (bijv. Euler ODE) als de onderliggende backbone. De enige modificatie is het vervangen van de standaard denoiser call $D_\theta(x_t, t)$ door $D_\theta(\mu^\star(x_t, y, t), y, t)$. Dit vereist geen likelihood gradiënten, geen projecties en geen innerlijke optimalisatie-loops tijdens de sampling.

Belangrijkste Bijdragen

1. Exacte Posterior Score Identiteit: De afleiding van een gesloten vorm-posterior score voor lineaire Gaussische inverse problemen, die aantoont dat posterior sampling reduceert tot denoising op een verschoven pivot onder een anisotrope covariantie.
2. EPS Algoritme: Een trainingsdoelstelling en sampling-algoritme dat de input/output structuur van standaard pretraining behoudt. Het maakt efficiënte fine-tuning van vooraf getrainde checkpoints mogelijk en gebruikt de sampler van de backbone ongewijzigd tijdens inferentie.
3. Efficiëntie en Prestaties: EPS bereikt state-of-the-art resultaten met aanzienlijk minder denoiser-evaluaties (NFE) dan gradiënt-gebaseerde samplers. Het convergeert in $\sim20$ stappen, terwijl baselines zoals DPS of $\Pi$GDM vaak 100+ stappen nodig hebben om vergelijkbare prestaties te behalen.
4. Hoge-Ruis Limiet: De methode biedt een een-stap estimator voor de posterior mean $E[x_0|y]$ in de hoge-ruis limiet, wat een snelle, MMSE-optimale puntinschatting biedt zonder iteratieve sampling.

Experimentele Resultaten

De auteurs evalueren EPS op vijf lineaire inverse problemen (random inpainting, box inpainting, 4$\times$ super-resolutie, Gaussian deblurring, motion deblurring) op de FFHQ en ImageNet datasets.

• Metrieken: EPS presteert beter dan zowel training-vrije (DPS, DAPS, DDNM, $\Pi$GDM) als training-gebaseerde (Palette) baselines op het gebied van pointwise fidelity (PSNR, SSIM), perceptuele kwaliteit (LPIPS, FID) en distributionele kalibratie (CRPS, MMD).
• Sampling Efficiëntie: EPS bereikt zijn prestatieplateau binnen $\sim20$ NFE. In tegenstelling hiertoe verbeteren baselines gebaseerd op sampling langzaam tot 100 NFE en halen ze vaak de EPS-asymptoot niet.
• Trainings-efficiëntie: Wanneer gefine-tuned vanaf een vooraf getraind checkpoint, convergeert EPS in een fractie van de iteraties die nodig zijn voor andere training-gebaseerde methoden (bijv. Palette), toegeschreven aan het behoud van de vooraf getrainde denoising-geometrie.
• Runtime: EPS is de snelste solver voor inverse problemen onder de vergeleken methoden, aangezien het in essentie dezelfde wall-clock snelheid heeft als de onvoorwaardelijke vooraf getrainde denoiser (ongeveer 1.006$\times$), omdat het de backward passes die nodig zijn voor gradiënt-gebaseerde methoden vermijdt.
• Ablaties: Experimenten bevestigen dat de verschoven pivot $\mu^\star$ de cruciale factor is voor prestaties, en dat de door EPS geleerde anisotrope geometrie essentieel is, aangezien zero-shot pivoting (het gebruik van een vooraf getrainde denoiser zonder fine-tuning) slecht presteert.

Betekenis en Claims

De paper claimt dat EPS een geprincieerde en gekalibreerde benadering biedt voor posterior sampling voor lineaire inverse problemen. Door de exacte posterior geometrie af te leiden, overbrugt het de kloof tussen de efficiëntie van training-vrije methoden en de expressiviteit van training-gebaseerde methoden.

• Structurele Uitlijning: In tegen tegenstelling tot conditionele training-methoden die het netwerk dwingen een nieuwe conditionele pad vanaf nul te leren, past EPS de vooraf getrainde prior aan de specifieke anisotrope geometrie aan die door de meting wordt geïnduceerd. Dit maakt snelle fine-tuning en het hergebruik van krachtige onvoorwaardelijke priors mogelijk.
• Transparantie: De gesloten vorm van de pivot en de covariantie bieden een transparante handeling voor het analyseren van de sampler, waarbij gemeten en niet-gemeten richtingen expliciet worden gescheiden.
• Praktische Bruikbaarheid: De methode vereist geen complexe sampling-loops of gradiëntberekeningen tijdens inferentie, wat het geschikt maakt voor toepassingen met lage latentie.

De auteurs erkennen beperkingen: de exacte afleiding gaat uit van een lineaire voorwaartse operator en Gaussische observatieruis. Niet-lineaire operatoren of niet-Gaussische ruis zouden lokale linearisatie of training tegen de ware likelihood vereisen, waarvoor de gesloten vorm niet direct van toepassing is. Daarnaast vereisen latent diffusion backbones zorgvuldigheid, aangezien de decoder lineaire operatoren in de pixelruimte naar niet-lineaire operaties in de latent space kan transformeren.