🤖 machine learning

Flow Sampling: Learning to Sample from Unnormalized Densities via Denoising Conditional Processes

Dieser Beitrag stellt Flow Sampling vor, ein datenfreies Framework, das Diffusionsmodelle und Flow Matching nutzt, um effizient Sampler für unnormalisierte Dichten zu erlernen, indem es auf aus Energiefunktionen abgeleitete Denoising-Drifts regressiert, und das sich zudem natürlich auf Riemannsche Mannigfaltigkeiten erweitert, wobei für Räume mit konstanter Krümmung Lösungen in geschlossener Form verfügbar sind.

Ursprüngliche Autoren: Aaron Havens, Brian Karrer, Neta Shaul

Veröffentlicht 2026-05-06

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Aaron Havens, Brian Karrer, Neta Shaul

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, die besten Plätze in einem riesigen, dunklen Theater zu finden. Sie wissen genau, wo die „guten" Plätze sind, weil Sie eine Karte haben, die den „Energie"- oder „Komfortlevel" jedes einzelnen Platzes angibt. Allerdings gibt es einen Haken: Sie wissen nicht, wie viele gute Plätze es insgesamt gibt (die Normierungskonstante), und Sie können nicht einfach durch das Theater laufen, um sie alle zu sehen, weil die Karte für jeden einzelnen Platz zu teuer ist, um sie abzulesen.

Dies ist das Problem, dem sich Wissenschaftler stellen, wenn sie aus nicht normalisierten Dichten sampeln wollen. Sie haben eine Regel (eine Energiefunktion), die aussagt, wie ein „gutes" Sample aussieht, aber sie können diese Samples nicht einfach leicht erzeugen.

Dann kommt Flow Sampling ins Spiel, eine neue Methode, die von Aaron Havens, Brian Karrer und Neta Shaul vorgestellt wurde. So funktioniert sie, erklärt durch einfache Analogien.

Der alte Weg: Der langsame Wanderer

Früher verwendeten Wissenschaftler Methoden wie MCMC (Markov Chain Monte Carlo). Stellen Sie sich einen Wanderer vor, der versucht, die besten Plätze zu finden. Der Wanderer macht einen Schritt, prüft die Karte, macht einen weiteren Schritt, prüft die Karte erneut und so weiter. Irgendwann findet er die guten Plätze, aber er tut dies eins nach dem anderen, sehr langsam. Wenn Sie eine Million Samples benötigen, macht der Wanderer eine Million Schritte. Dies ist für große Probleme wie die Entwicklung neuer Materialien oder Medikamente zu langsam.

Der neue Weg: Der „Denoising"-Bildhauer

Flow Sampling ist wie die Anstellung eines Bildhauers, der lernt, die perfekte Statue (die Zielverteilung) zu schnitzen, ohne die Originalstatue zuerst sehen zu müssen. Stattdessen lernt er, indem er beobachtet, wie ein Tonblock zu einer Statue wird, wenn man das Rauschen langsam entfernt.

Hier ist die schrittweise Magie:

1. Der Rückwärtsfilm (Denoising)

Stellen Sie sich vor, Sie haben ein klares, hochauflösendes Foto einer wunderschönen Landschaft (die Ziel-Daten). Wenn Sie statisches Rauschen hinzufügen, wird es zu einem verschwommenen Durcheinander.

Standard-KI lernt normalerweise, indem sie mit dem verschwommenen Durcheinander beginnt und versucht, das Originalfoto zu erraten.
Flow Sampling dreht das Blatt um. Es beginnt mit einer zufälligen Rauschprobe (eine leere Leinwand) und lernt, wie man sie „reinigt", um die Landschaft zu matchen, geleitet durch die Energiekarte.

2. Der „abgekoppelte" Student (Geld sparen)

Die größten Kosten in diesem Prozess entstehen durch das Lesen der Energiekarte. Das Lesen ist wie das Bezahlen einer Maut. Wenn Sie die Karte Millionen von Malen lesen müssen, um die KI zu trainieren, wird es zu teuer.

Flow Sampling führt einen cleveren Trick ein, der „Detached State" oder ein Replay Buffer genannt wird:

Stellen Sie sich einen Schüler (das KI-Modell) vor, der zu lernen versucht. Anstatt den Lehrer (die Energiekarte) jedes Mal um Hilfe zu bitten, wenn der Schüler einen Fehler macht, macht der Schüler einen „Schnappschuss" seiner aktuellen Arbeit, fragt den Lehrer einmal nach Feedback zu diesem Schnappschuss und schreibt die Antwort in ein Notizbuch (den Replay Buffer).
Der Schüler übt dann mit diesem Notizbuch immer wieder, ohne den Lehrer zu belästigen.
Das bedeutet, dass die teure „Energiekarte" nur wenige Male konsultiert wird, während der Schüler aus den Notizen lernt. Dies senkt die Trainingskosten im Vergleich zu früheren Methoden um den Faktor 4 bis 8.

3. Der „Flow" (Glatte Bewegung)

Anstatt dass der Wanderer winzige, zitternde Schritte macht, nutzt Flow Sampling einen „Flow". Stellen Sie sich einen Fluss vor. Das Wasser (die Daten) fließt glatt von einer Quelle (zufälliges Rauschen) zu einem Ziel (die Zielverteilung). Die KI lernt die Richtung der Strömung, damit sie das Wasser genau dorthin führen kann, wo es hin muss, effizient und schnell.

Über flaches Terrain hinaus (Gekrümmte Räume)

Die meisten KI-Systeme gehen davon aus, dass die Welt flach ist (wie ein Blatt Papier). Manchmal lebt Daten jedoch auf gekrümmten Oberflächen, wie der Oberfläche einer Kugel (denken Sie an die Erde) oder einer Sattelform.

Flow Sampling ist besonders, weil es diese Kurven natürlich versteht.

Die Analogie: Wenn Sie auf einem flachen Boden laufen, gehen Sie geradeaus. Wenn Sie auf einer Kugel laufen (wie der Erde), ist der „geradeste" Weg eine Kurve (ein Großkreis).
Die Arbeit liefert eine mathematische Formel, die der KI genau sagt, wie sie diese gekrümmten Pfade (Geodäten) gehen kann, ohne sich zu verirren. Dies ermöglicht es der Methode, auf Kugeln und hyperbolischen Räumen zu arbeiten, was für Dinge wie Robotik und 3D-molekulare Strukturen entscheidend ist.

Was haben sie bewiesen?

Die Autoren testeten diese Methode an mehreren Herausforderungen:

Synthetische Rätsel: Sie erstellten künstliche Energielandschaften und zeigten, dass Flow Sampling schneller und genauer die besten Stellen fand als andere Top-Methoden.
Proteinfaltung: Sie nutzten es, um die Formen kleiner Proteine (Peptide) zu finden. Es sagte erfolgreich die 3D-Formen dieser Moleküle voraus und entsprach den Ergebnissen viel langsamerer, traditioneller Simulationen.
Molekülgenerierung: Sie nutzten es, um Tausende verschiedener Formen für große Moleküle zu generieren. Es war viel schneller als die Konkurrenz und fand dennoch hochwertige Formen.
Kugelsampling: Sie zeigten, dass es Daten sampeln kann, die auf einer Kugel verteilt sind, und bewiesen damit, dass es auf gekrümmten Geometrien funktioniert.

Das Fazit

Flow Sampling ist eine neue, effiziente Methode, um Computern beizubringen, komplexe Daten zu generieren, wenn Sie nur eine Regel dafür haben, wie „gut" aussieht, aber keine Liste von Beispielen. Durch die Verwendung eines „Notizbuchs", um teure Berechnungen zu speichern, und durch das Verständnis gekrümmter Räume ermöglicht es Wissenschaftlern, hochwertige Samples (wie neue Wirkstoffmoleküle) viel schneller und günstiger zu generieren als zuvor.

Technische Zusammenfassung: Flow Sampling

Problemstellung

Die Arbeit adressiert die Herausforderung, aus hochdimensionalen Wahrscheinlichkeitsverteilungen zu sampeln, die nur bis auf eine Normierungskonstante definiert sind (nicht-normalisierte Dichten). Solche Verteilungen sind in den computergestützten Wissenschaften allgegenwärtig und werden durch eine Energiefunktion $r(x)$ definiert, wobei die Zielverteilung $q(x) \propto \exp(r(x))$ ist. Obwohl die Auswertung von $r(x)$ und ihres Gradienten $\nabla r(x)$ möglich ist, ist dies oft rechenintensiv, und ein direkter Zugriff auf Stichproben aus $q(x)$ steht nicht zur Verfügung.

Traditionelle Markov-Chain-Monte-Carlo-Methoden (MCMC), wie die Langevin-Dynamik, konvergieren zwar asymptotisch, leiden jedoch unter langsamer Mischung und sequenzieller Generierung, was sie für Anwendungen ineffizient macht, die schnelle, wiederverwendbare Sampler erfordern (z. B. Materialdesign). Bestehende lernbasierte Ansätze, einschließlich Diffusionsmodelle und Flow Matching, benötigen typischerweise Datenstichproben aus der Zielverteilung oder verlassen sich auf stochastische Korrekturen (z. B. Importance Weighting, Resampling oder auxiliary MCMC), die aufgrund wiederholter Auswertungen der Energiefunktion erhebliche Rechenkosten verursachen.

Methodik: Flow Sampling

Die Autoren stellen Flow Sampling vor, ein Framework zum Erlernen amortisierter Sampler direkt aus nicht-normalisierten Dichtefunktionen ohne Anforderung von Ziel-Datenstichproben. Die Methode basiert auf Diffusionsmodellen und Flow Matching, passt jedoch das Trainingsziel an die datenfreie Umgebung an.

Kernkonzept

Im Gegensatz zum standardmäßigen Flow Matching, das auf einer Datenstichprobe $X_1 \sim q$ konditioniert, um einen Verunreinigungs-Drift zu erlernen, konditioniert Flow Sampling auf eine Rauschstichprobe $X_0 \sim p_0$ (aus einer leicht zu sampelnden Quellverteilung), um einen Denoising-Drift zu erlernen. Die Randverteilung dieses erlernten Prozesses ist durch Konstruktion so ausgelegt, dass sie die Zielverteilung $q$ entspricht.

Trainingsziel

Das Framework nutzt einen bedingten Wahrscheinlichkeitspfad, definiert als Push-Forward der Zielverteilung, konditioniert auf die Quelle:
$p_{t|0}(x|x_0) = \frac{1}{\alpha_t^d} q\left(\frac{x - \sigma_t x_0}{\alpha_t}\right)$
Das Trainingsziel besteht darin, einen erlernten Drift $u_\theta$ auf einen bedingten Drift $u_{t|0}$ zu regressieren, der aus der Energiefunktion konstruiert wird. Eine zentrale theoretische Erkenntnis (Proposition 3.2) liefert einen geschlossenen Ausdruck für diesen bedingten Drift entlang eines Interpolationsprozesses $X_t = \sigma_t X_0 + \alpha_t X_1$ :
$u_{t|0}(X_t|x_0) = \dot{\alpha}_t X_1 + \dot{\sigma}_t x_0 + \frac{g_t^2}{2\alpha_t} \nabla r(X_1)$
Diese Formulierung ermöglicht es dem Modell, den Energiegradienten $\nabla r(X_1)$ , der an einem einzigen Punkt $X_1$ ausgewertet wurde, für alle Zeitschritte $t \in [0, 1]$ wiederverwenden, was die Anzahl der während des Trainings erforderlichen Energieauswertungen erheblich reduziert.

Algorithmus: Fixpunktiteration

Da Zielstichproben $X_1 \sim q$ nicht verfügbar sind, schlagen die Autoren einen Trainingsalgorithmus auf Basis der Fixpunktiteration (Algorithmus 1) vor, der aus zwei Phasen besteht:

Explorationsphase: Unter Verwendung des aktuellen, entkoppelten Modellzustands $\bar{\theta}$ generiert der Algorithmus Stichproben $X_1^{\bar{\theta}}$ durch Simulation (Euler–Maruyama), wertet den Energiegradienten $\nabla r(X_1^{\bar{\theta}})$ aus und speichert die Paare $(X_1^{\bar{\theta}}, \nabla r(X_1^{\bar{\theta}}))$ in einem Replay-Puffer.
Optimierungsphase: Das Modell $u_\theta$ wird trainiert, indem der mittlere quadratische Fehler zwischen seinem vorhergesagten Drift und dem aus den Stichproben im Replay-Puffer abgeleiteten geschlossenen Ziel minimiert wird. Dieser Prozess wiederholt sich bis zur Konvergenz.

Erweiterung auf Riemannsche Mannigfaltigkeiten

Das Framework lässt sich natürlich auf nicht-euklidische Geometrien erweitern. Durch den Ersatz des affinen Interpolanten durch einen geodätischen Interpolanten und die Herleitung einer geschlossenen Formel für den bedingten Drift auf Mannigfaltigkeiten mit konstanter Krümmung (einschließlich Hypersphären und hyperbolischer Räume) ermöglicht die Methode diffusionsbasiertes Sampling auf Riemannschen Mannigfaltigkeiten ohne Reparameterisierung.

Hauptbeiträge

Flow-Sampling-Framework: Eine prinzipielle Methode zum Erlernen von Diffusions-Samplern aus nicht-normalisierten Dichten durch das Angleichen bedingter Denoising-Diffusions-Drifte, wodurch die Notwendigkeit von Ziel-Datenstichproben entfällt.
Effizientes Trainingsziel: Herleitung eines einfachen geschlossenen Regressionsziels, das Endpunkt-Energiegradienten entlang des Interpolationsprozesses wiederverwendet und einen effizienten Replay-Puffer-Trainingsalgorithmus ermöglicht, der die Anzahl der Energieauswertungen drastisch reduziert.
Riemannsche Erweiterung: Erweiterung von diffusionsbasierten Samplern auf Geometrien jenseits des euklidischen Raums, einschließlich einer geschlossenen Formel für den bedingten Drift auf Mannigfaltigkeiten mit konstanter Krümmung.
Empirische Leistung: Demonstration von State-of-the-Art-Leistung auf synthetischen Energie-Benchmarks und der Generierung molekularer Konformere, mit einer berichteten Reduktion der Simulations-Trainingskosten um das 4- bis 8-Fache im Vergleich zu vorherigen Methoden.

Experimentelle Ergebnisse

Die Autoren bewerten Flow Sampling an vier verschiedenen Benchmarks:

Synthetische Energie-Benchmarks: Auf Double-Well (DW-4) und Lennard-Jones-Potenzialen (LJ-13, LJ-55) erzielt Flow Sampling niedrigere geometrische und energetische Wasserstein-2-Abstände ( $W_2$ ) im Vergleich zu State-of-the-Art-Baselines wie iDEM, PIS, DDS und Adjoint Sampling (AS).
Peptid-Sampling: Bei Alanin-Dipeptid (Ala2) und Tetrapeptid (Ala4) stellt die Methode die Grundwahrheitsdichten präzise wieder her (gemessen durch KL-Divergenz und Jensen-Shannon-Divergenz) und zeigt Robustheit bei der Reduzierung der Anzahl der Funktionsauswertungen (NFE) während des Trainings, wobei sie ASBS übertrifft, das bei niedrigeren NFE-Werten signifikant nachlässt.
Amortisierte Konformer-Generierung: Auf großen molekularen Datensätzen (SPICE und GEOM-DRUGS) erzielt Flow Sampling eine hohe Abdeckung und Präzision bei der Generierung molekularer Konformere, übertrifft RDKit- und ASBS-Baselines und benötigt gleichzeitig weniger Trainingsschritte.
Riemannsches Sampling: Auf der 2D-Einheitssphäre ( $S^2$ ) mit einer Mischung von von-Mises-Fisher-Verteilungen lernt die Methode erfolgreich, aus dem multimodalen Ziel zu sampeln, was die theoretische Erweiterung auf gekrümmte Geometrien validiert.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass Flow Sampling eine flexible und einfach zu implementierende Alternative zu komplexen stochastischen optimalen Steuerungen oder Schrödinger-Brücken-Formulierungen bietet. Durch die Vermeidung optimaler Kopplungen und auxiliary-Korrektur-Netzwerke vereinfacht es das Trainingsschema bei gleichzeitiger Beibehaltung hoher Effizienz.

Die Autoren heben hervor, dass die Fähigkeit der Methode, die Anzahl der Energieauswertungen zu reduzieren (durch den Replay-Puffer und den geschlossenen Drift), sie insbesondere für große Modelle und Datensätze skalierbar macht, bei denen die Energieauswertung den primären Engpass darstellt. Darüber hinaus bietet die Erweiterung auf Riemannsche Mannigfaltigkeiten einen einheitlichen Ansatz für das Sampling in verschiedenen geometrischen Settings, wie Robotik und Molekulardynamik, ohne dass spezialisierte Reparameterisierungen erforderlich sind. Die Arbeit positioniert Flow Sampling als einen bedeutenden Schritt hin zu effizientem, amortisiertem Sampling für nicht-normalisierte Dichten sowohl im euklidischen als auch im nicht-euklidischen Raum.