Technische Zusammenfassung: Diskrete, von Langevin inspirierte Posterior-Abtastung (∆LPS)

Problemstellung

Der Artikel adressiert die Herausforderung, inverse Probleme in diskreten Zustandsräumen zu lösen. Inverse Probleme beinhalten die Rekonstruktion eines unbekannten Signals $x$ aus indirekten, spärlichen und verrauschten Messungen $y$ (modelliert als $y = A(x) + n$). Während kontinuierliche Diffusionsmodelle zum Standard für die Lösung solcher Probleme mittels Posterior-Abtastung geworden sind, bleiben ihre diskreten Gegenstücke weitgehend unerforscht.

Bestehende Methoden für die diskrete Posterior-Abtastung leiden unter drei Hauptbeschränkungen:

1. Kontinuierliche Relaxationen: Methoden wie G2D2 relaxieren kategorische Variablen in kontinuierliche Räume, um Gradientenführung zu nutzen, was die Inferenzgeometrie verändert und das Risiko birgt, dass projizierte diskrete Tokens nicht konsistent decodiert werden.
2. Sequentielle Updates: Methoden wie SGDD verlassen sich auf Gibbs-artige Updates, die sequentiell sind und in hochdimensionalen Räumen langsam mischen.
3. Spezialisierung: Methoden wie APS sind eng an spezifische Korruptionsprozesse (z. B. maskierte Diffusion) und Trainingsparadigmen gekoppelt, was ihre Allgemeingültigkeit einschränkt.

Das Ziel ist die Entwicklung eines Posterior-Samplers, der vollständig diskret bleibt, alle Token-Dimensionen parallel aktualisiert und gegenüber dem spezifischen Trainingsparadigma des diskreten Diffusionspriors agnostisch ist.

Methodik: ∆LPS

Die Autoren schlagen ∆LPS (Discrete Langevin-Inspired Posterior Sampler) vor, einen trainingfreien Algorithmus, der Gradienteninformationen nutzt, um diskrete Übergänge zu steuern, ohne den diskreten Zustandsraum zu verlassen.

Kernformulierung

Das Problem wird im diskreten latenten Raum $z_0 \in \{1, \dots, K\}^L$ eines Encoder-Decoder-Modells formuliert. Das Ziel ist das Abtasten aus dem Posterior $p(z_0|y) \propto p(y|z_0)p_\theta(z_0)$, wobei $p_\theta$ ein vortrainierter diskreter Diffusionsprior ist. Der Sampler approximiert den Posterior-Übergang $p(z_s|z_t, y)$, indem er zunächst ein sauberes Latent $z_0$ ableitet, das mit der Messung und dem Prior konsistent ist, und dieses dann zum nächsten Zeitschritt neu verrauscht.

Diskreter Langevin-Vorschlag

Die zentrale Innovation besteht in der Anpassung der Langevin-Dynamik an diskrete Räume. In kontinuierlichen Settings bewegt ein Langevin-Update eine Stichprobe $z_0$ in Richtung des Gradienten des log-Posterior-Potenzials $U(z_0) = \log p(y|z_0) + \log p_\theta(z_0; z_t)$. Da $z_0$ diskret ist, fügen die Autoren keinen Gradientenvektor direkt hinzu. Stattdessen nutzen sie die Gaußsche Vorschlagsverteilung aus der kontinuierlichen Langevin-Dynamik, um Übergangswahrscheinlichkeiten über gültige diskrete Kandidaten $z'_0$ zu definieren:

$$q(z'_0|z_0; z_t, y) \propto \exp\left( -\frac{1}{4\eta} \|z'_0 - z_0 - \eta \nabla_{z_0} U(z_0; z_t, y)\|_2^2 \right)$$

Durch das Ausmultiplizieren des Exponenten und die Normalisierung über die endliche Menge gültiger Tokens faktorisiert der Vorschlag über die Token-Koordinaten. Dies ermöglicht dem Sampler, für jede Token-Position $\ell$ unabhängig eine kategoriale Verteilung zu berechnen:
$$q_\ell(z'_0[\ell]) = \text{Cat}\left( \sigma\left( \frac{1}{2} \nabla_{z_0[\ell]} U \cdot (k - z_0[\ell]) - \frac{(k - z_0[\ell])^2}{4\eta} \right) \right)$$

Dieser Mechanismus ermöglicht vollständig parallele Updates über alle $L$ Token-Dimensionen und vermeidet den sequentiellen Flaschenhals von Gibbs-Samplern.

Generalisierung und Konditionierung

• Prior-Agnostizismus: Die Methode erfordert lediglich Vorhersagewahrscheinlichkeiten über kategoriale Zustände, was sie mit maskierter Diffusion (MDLM) und Uniform-State-Diffusion (Duo) als Priors kompatibel macht.
• Blinde Inverse Probleme: Für nicht-differenzierbare oder unbekannte Vorwärtsoperatoren wird der Likelihood-Gradient durch einen gelernten kontrastiven Surrogatwert (unter Verwendung von Encodern für Daten und Messungen) ersetzt, um ein glattes Führungssignal bereitzustellen.
• Adam-Konditionierung: Um schlecht skalierte Gradienten in hochdimensionalen latenten Räumen zu handhaben, wird der rohe Gradient durch eine Adam-konditionierte Richtung ersetzt. Dies skaliert Updates adaptiv neu, dämpft verrauschte große Gradienten und bewahrt konsistent nützliche, was die Mischung und Konvergenz verbessert.

Hauptbeiträge

1. Vollständig diskrete Posterior-Abtastung: ∆LPS ist ein trainingfreier Sampler, der jede Iteration im diskreten Zustandsraum hält und damit Optimierungen weicher Tokens und Projektionsfehler vermeidet.
2. Effiziente parallele Updates: Durch die Faktorisierung des Vorschlags über Koordinaten aktualisiert die Methode alle Token-Dimensionen parallel und verbessert die Effizienz gegenüber sequentiellen Gibbs-artigen Samplern erheblich.
3. Prior-agnostisches Design: Der Sampler ist nicht an einen spezifischen Korruptionsprozess (maskiert vs. uniform) gebunden und funktioniert mit jedem vortrainierten diskreten Diffusionsprior, der Vorhersagewahrscheinlichkeiten bereitstellt.

Experimentelle Ergebnisse

Die Autoren evaluieren ∆LPS an einer vielfältigen Reihe inverser Probleme über MNIST, CIFAR-10 und FFHQ, die lineare, nichtlineare und blinde Settings abdecken.

• Bildrestauration (FFHQ): Bei Aufgaben wie Inpainting, Gaußscher Entschärfung, Super-Resolution, HDR und Bewegungsunschärfen erreicht ∆LPS eine Leistung, die mit kontinuierlichen Baselines (z. B. DPS, PSLD) vergleichbar ist oder diese übertrifft, und übertrifft bestehende diskrete Baselines (SGDD, G2D2, APS) in der perceptuellen Qualität (LPIPS).
• Diskrete Aufgaben (MNIST/CIFAR): Die Methode zeigt Robustheit über verschiedene Schwierigkeitsgrade (Einfach, Mittel, Schwer). Sie stimmt konsistent mit SGDD und G2D2 in der Token-Genauigkeit und PSNR überein oder übertrifft diese, selbst bei deutlich geringeren Rechenbudgets (weniger Funktionsauswertungen) als die „volle" SGDD-Variante.
• Blinde Inverse Probleme: Bei einer räumlichen Zuordnungsaufgabe (Rückgewinnung von Grundrissen aus Gehbahnen, wobei der Vorwärtsoperator unbekannt ist), übertrifft ∆LPS kontinuierliche Baselines (CoGuide, DPS-Varianten) in der F1-Score und der Intersection over Union (IoU).

Bedeutung und Behauptungen

Der Artikel behauptet, dass vollständig diskrete, gradienteninformierte Posterior-Sampler einen skalierbaren und allgemeinen Weg zur Lösung inverser Probleme über diskrete Repräsentationen bieten.

• Skalierbarkeit: Der parallele Update-Mechanismus adressiert die Einschränkungen der Mischgeschwindigkeit diskreter Sampler in hochdimensionalen Räumen.
• Allgemeingültigkeit: Die Methode entkoppelt den Inferenzalgorithmus vom spezifischen Trainingsparadigma des Priors und ermöglicht es, das wachsende Ökosystem diskreter Diffusionsmodelle (Text, Code, Bilder, Audio) zu nutzen.
• Praktikabilität: Durch die Vermeidung kontinuierlicher Relaxationen stellt ∆LPS sicher, dass die finalen Stichproben gültige diskrete Tokens sind und verhindert die „Projektionslücke", bei der eine kontinuierliche Approximation fehlschlägt, in ein konsistentes diskretes Signal decodiert zu werden.

Die Autoren schließen, dass mit der Skalierung diskreter generativer Modelle prinzipielle Inferenzmethoden wie ∆LPS für Anwendungen im biomolekularen Design, symbolischen Musik, Code-Vervollständigung und anderen Domänen, in denen Daten inhärent diskret sind, zunehmend kritisch werden.