🤖 machine learning

SymDrift: One-Shot Generative Modeling under Symmetries

SymDrift ist ein neuartiges One-Shot-Generativmodellierungs-Framework, das Symmetrieprobleme in physikalischen Systemen durch die Einführung eines symmetriebewussten Driftfeldes mittels optimaler Ausrichtung und invarianter Einbettungen adressiert und dabei State-of-the-Art-Leistung bei der Molekülgeneierung erzielt, während der Rechenaufwand im Vergleich zu Multi-Step-Baselines um bis zu das 40-fache reduziert wird.

Ursprüngliche Autoren: Samir Darouich, Vinh Tong, Lluís Pastor-Pérez, Tanja Bien, Loay Mualem, Mathias Niepert

Veröffentlicht 2026-05-08

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Samir Darouich, Vinh Tong, Lluís Pastor-Pérez, Tanja Bien, Loay Mualem, Mathias Niepert

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, einem Roboter beizubringen, perfekte 3D-Modelle von Molekülen zu bauen, wie winzige, kunstvolle Skulpturen aus Atomen. Das Problem ist, dass diese Moleküle wie Kreisel oder Puzzleteile sind: Wenn Sie sie drehen oder zwei identische Atome austauschen, sind sie immer noch exakt dasselbe Molekül. In der Welt der Physik nennt man dies Symmetrie.

Lange Zeit mussten KI-Modelle, die diese Formen lernen wollten, einen sehr langsamen, schrittweisen Ansatz verfolgen. Sie würden eine Form erraten, sie prüfen, anpassen, erneut prüfen und dies hunderte Male wiederholen, um es richtig zu machen. Das ist wie der Versuch, den perfekten Winkel für ein Foto zu finden, indem man ein Bild macht, es prüft, die Kamera ein winziges Stück bewegt, ein weiteres macht und dies wiederholt, bis man den richtigen Schuss hat. Es funktioniert, ist aber unglaublich langsam und teuer.

Vor kurzem wurde eine neue Art von KI erfunden, ein „Drifting Model" (Drift-Modell). Denken Sie daran als an eine „Ein-Schuss"-Kamera. Anstatt hunderte Fotos zu machen, versucht sie, das perfekte Bild mit einem einzigen Klick zu schießen. Sie lernt ein „Drift-Feld" – eine Art unsichtbarer Wind, der eine zufällige Wolke aus Atomen auf einmal direkt in die richtige Form drückt. Das ist viel schneller, hatte aber einen großen Fehler im Umgang mit symmetrischen Molekülen.

Das Problem: Der „verwirrte Kompass"

Hier liegt der Haken: Das Standard-„Drifting Model" wird durch Symmetrie verwirrt.

Stellen Sie sich vor, Sie bringen einem Roboter bei, ein menschliches Gesicht zu erkennen. Wenn Sie ihm ein Foto einer Person zeigen und dann dasselbe Foto der Person um 90 Grad gedreht, weiß ein intelligenter Roboter, dass es dasselbe Gesicht ist. Aber das Standard-Drifting-Modell behandelt die gedrehte Version als eine völlig andere Person.

Da die Trainingsdaten (die Fotos von Molekülen) diese normalerweise nur in einer zufälligen Ausrichtung zeigen, lernt das Modell einen „Drift", der auf diese spezifische Ausrichtung zeigt. Es erkennt nicht, dass der „Wind" derselbe sein sollte, egal wie das Molekül gedreht ist. Es ist wie ein Kompass, der nur dann nach Norden zeigt, wenn Sie am Nordpol stehen, aber wild herumwirbelt, wenn Sie sich auch nur einen Zoll bewegen. Dies führt dazu, dass das Modell unordentliche, falsche Strukturen erzeugt, weil es gegen die natürliche Symmetrie des Moleküls ankämpft.

Um dies zu beheben, mussten Forscher dem Roboter früher das gleiche Molekül Tausende Male zeigen, in jede mögliche Richtung gedreht, nur damit es das Muster lernen konnte. Das ist wie der Versuch, ein Foto einer Person aus jedem Winkel des Universums zu machen, nur um dem Roboter beizubringen, wie ein Gesicht aussieht. Es ist zu langsam und zu teuer.

Die Lösung: SymDrift

Die Autoren dieses Papiers, SymDrift, haben sich einen cleveren Weg ausgedacht, den Kompass zu reparieren, ohne Tausende von Fotos machen zu müssen. Sie führten zwei neue Strategien ein, um den „Drift" selbst symmetriebewusst zu machen:

Die „Beste Passform"-Ausrichtung (Explizite Ausrichtung):
Stellen Sie sich vor, Sie haben ein Puzzleteil und ein Loch. Anstatt zu versuchen, das Teil gewaltsam hineinzudrücken, drehen und wenden Sie es zuerst, bis es perfekt passt, dann drücken Sie es hinein. SymDrift macht dies mathematisch. Bevor es den „Wind" (den Drift) berechnet, um die Atome zu drücken, findet es sofort die beste Drehung und Anordnung des Zielmoleküls, die mit dem aktuellen Vorschlag übereinstimmt. Es richtet sie perfekt aus, bevor es den Zug macht. Dies stellt sicher, dass das Modell die richtige Form lernt, nicht nur eine spezifische Ausrichtung.
Die „Symmetrie-sichere" Karte (Invariante Einbettung):
Stellen Sie sich vor, Sie versuchen, einem Freund, der nicht sehen kann, eine Form zu beschreiben. Anstatt ihm Koordinaten wie „3 Zoll nach oben, 2 Zoll nach links" zu geben, beschreiben Sie die Abstände zwischen den Teilen: „Der Abstand zwischen Nase und Ohr beträgt 2 Zoll, und der Abstand zwischen den Ohren beträgt 4 Zoll." Diese Abstände ändern sich nicht, egal wie Sie den Kopf drehen.
SymDrift nutzt diese Idee. Es wandelt das 3D-Molekül in eine Liste von Abständen zwischen den Atomen um. Da diese Abstände gleich bleiben, egal wie Sie das Molekül drehen oder identische Teile austauschen, lernt das Modell auf dieser „symmetrie-sicheren" Karte. Es kann nicht verwirrt werden, weil die Karte selbst nichts um Drehungen oder den Austausch identischer Teile kümmert.

Die Ergebnisse: Schnell und Genau

Das Papier zeigt, dass SymDrift ein Wendepunkt für zwei spezifische Aufgaben ist:

Konformergenerierung: Erstellen verschiedener 3D-Formen, die ein Molekül annehmen kann (wie eine Person, die ihre Arme streckt oder die Knie beugt).
Übergangszustands-Generierung: Vorhersage der flüchtigen, instabilen Form, die ein Molekül genau in der Mitte einer chemischen Reaktion annimmt (wie ein Schnappschuss eines Balls am absoluten Gipfel eines Hügels, bevor er herunterrollt).

Warum es wichtig ist:

Geschwindigkeit: SymDrift ist bis zu 40-mal schneller als die alten, langsamen Methoden. Es erzeugt das Molekül in einem einzigen Schritt statt in hunderten.
Genauigkeit: Es liefert Ergebnisse, die genauso gut sind wie die der langsamen Methoden, manchmal sogar besser.
Effizienz: Es spart eine massive Menge an Rechenleistung.

Die Autoren testeten dies an Standarddatensätzen von Molekülen und chemischen Reaktionen. Sie fanden heraus, dass SymDrift hochwertige molekulare Strukturen fast augenblicklich erzeugen kann, was es zu einem leistungsstarken Werkzeug für Aufgaben macht wie das Screening von Millionen potenzieller Medikamente oder das Erforschen komplexer chemischer Reaktionen, bei denen Geschwindigkeit entscheidend ist.

Kurz gesagt: SymDrift bringt der KI bei, das Wesen der Form eines Moleküls zu verstehen, ignoriert die Ablenkungen durch Drehung und Austausch und ermöglicht es ihr, das perfekte 3D-Bild mit einem einzigen, blitzschnellen Schuss zu schießen.

Technische Zusammenfassung: SymDrift

Problemstellung

Die generative Modellierung physikalischer Systeme, wie etwa Moleküle, erfordert das Erlernen von Verteilungen, die unter globalen Symmetrien invariant sind (z. B. Rotationen in $\mathbb{R}^3$ und Permutationen identischer Atome). Obwohl äquivariante Diffusions- und Flow-Matching-Modelle diese Invarianzen effektiv einbeziehen können, verlassen sie sich typischerweise auf kostspielige Mehrstufig-Prozesse zur Stichprobenziehung, was sie für Hochdurchsatz-Anwendungen wie das virtuelle Wirkstoffscreening rechnerisch prohibitiv macht.

In jüngster Zeit haben sich „drifting"-Modelle als effiziente Ein-Schuss-Alternativen etabliert, die die Generierung als Problem der Verteilungsanpassung formulieren und ein Vektorfeld erlernen, dessen stationärer Punkt mit der Zielverteilung übereinstimmt. Die Autoren identifizieren jedoch eine kritische Einschränkung bei der Anwendung von drifting-Modellen auf symmetrische Domänen: ein äquivarianter Generator erzeugt im Allgemeinen nicht dasselbe drifting-Feld wie dasjenige, das aus der symmetrisierten Zielverteilung gewonnen wird.

Spezifisch führt das Training auf einer endlichen empirischen Verteilung $p$ (die nicht unter der Symmetriegruppe $G$ invariant ist) dazu, dass das erlernte drifting-Feld gegenüber willkürlichen Vertretern jeder Äquivalenzklasse verzerrt ist. Eine theoretische Analyse (Satz 1) zeigt, dass das aggregierte Vektorfeld, das von einem äquivarianten Generator abgeleitet wird, $\hat{V}_p(x)$ , mathematisch von dem Vektorfeld unterscheidet, das durch die vollständig symmetrisierte Verteilung induziert wird, $V_{p_G}(x)$ . Diese Diskrepanz verhindert, dass das Modell die korrekte Drift im Zusammenhang mit der symmetrisierten Zielverteilung wiederherstellt, was zu einem Zusammenbruch des Trainings oder einer suboptimalen Generierung führt, sofern keine kostspielige Datenaugmentation (Symmetrisierung) durchgeführt wird.

Methodik: SymDrift

Um diese spezifische Symmetrie-Herausforderung zu adressieren, ohne die rechnerischen Kosten einer expliziten Datenaugmentation zu tragen, schlagen die Autoren SymDrift vor, ein Framework, das das drifting-Feld selbst symmetriebewusst gestaltet. Der Ansatz führt zwei komplementäre Strategien ein, um eine Drift zu konstruieren, die die symmetrisierte Zielverteilung approximiert:

1. Symmetrisierte Drift durch explizite Ausrichtung

Diese Strategie operiert im Koordinatenraum. Für jede erzeugte Stichprobe $x$ und jede Zielstichprobe $y$ findet die Methode explizit die optimale Gruppentransformation $g^*(x, y)$ , die den Abstand $\|x - gy\|$ minimiert.

Mechanismus: Das drifting-Feld wird konstruiert, indem Standardpaare $(x, y)$ durch optimal ausgerichtete Paare $(x, g^*(x, y)y)$ ersetzt werden.
Implementierung: Die rotatorische Ausrichtung wird effizient unter Verwendung des Kabsch-Algorithmus berechnet. Die Bestimmung der optimalen Permutation identischer Atome bleibt jedoch rechnerisch herausfordernd (faktorielle Komplexität). Die Autoren stellen fest, dass iterative Ansätze (Alternieren zwischen dem Ungarischen Algorithmus und der Kabsch-Ausrichtung) zwar eine praktische Approximation bieten, jedoch unter lokalen Minima und hohem Overhead leiden können.

2. Drifting in einem G-invarianten Einbettungsraum

Um die rechnerischen Engpässe der expliziten Ausrichtung zu umgehen, schlagen die Autoren vor, die Drift in einem festen, $G$ -invarianten Einbettungsraum zu berechnen.

Aufbau der Einbettung: Sie definieren eine nicht-parametrische Einbettung $\phi(x)$ basierend auf typ-konditionierten paarweisen Abständen. Für eine molekulare Konfiguration werden paarweise Abstände nach den Interaktionstypen der Atompaare (z. B. C-C, C-H) gruppiert und innerhalb jeder Gruppe sortiert.
Eigenschaften: Diese Einbettung ist so konstruiert, dass sie unter globalen Rotationen ($SO(3)$) und Permutationen identischer Atome ( $\hat{S}_N$ ) invariant ist. Durch die Abbildung von Eingaben in diesen Raum respektiert das Kernel-Ähnlichkeitsmaß inhärent die Symmetrien des physikalischen Systems und beseitigt Mehrdeutigkeiten, ohne dass während der Driftberechnung eine explizite Ausrichtung erforderlich ist.
Flexibilität: Das Framework ist nicht an diese spezifische Einbettung gebunden; jede differenzierbare invariante Einbettung kann genutzt werden.

Das Trainingsziel minimiert den Abstand zwischen der Vorhersage des Generators und dem durch das symmetriebewusste drifting-Feld definierten Fixpunkt unter Verwendung einer Stop-Gradient-Operation, um das Ziel als eingefrorene Referenz zu behandeln.

Hauptbeiträge

SymDrift-Framework: Ein neuartiges Framework für die Ein-Schuss-generative Modellierung hochsymmetrischer Verteilungen, das Symmetrie explizit in das Design des drifting-Feldes integriert.
Theoretische Einsicht: Der Nachweis, dass äquivariante Generatoren allein für drifting-Modelle nicht ausreichen, um die symmetrisierte Zielverteilung wiederherzustellen, was eine explizite Symmetriebehandlung bei der Driftberechnung erforderlich macht.
Duale Strategien: Die Entwicklung zweier komplementärer Methoden zur Erzielung von Symmetriebewusstsein: (i) explizite Ausrichtung im Koordinatenraum und (ii) invariante Einbettungsräume.
Effizienz: Eine signifikante Reduzierung des rechnerischen Overheads durch die Ermöglichung einer Ein-Schuss-Inferenz bei gleichzeitiger Beibehaltung hoher Genauigkeit.

Experimentelle Ergebnisse

Die Autoren evaluierten SymDrift an zwei Standard-Benchmarks: der Generierung molekularer Konformere und der Generierung von Übergangszuständen (TS).

Generierung molekularer Konformere (GEOM-QM9):
- SymDrift erzielte unter den Ein-Schuss-Inferenz-Baselines State-of-the-Art-Leistung bei Genauigkeitsmetriken (AMR) und Abdeckung (COV).
- Es übertraf bestehende Ein-Schuss-Methoden wie GeoMol und AvgFlow.
- Obwohl es etwas weniger vielfältig war als EnFlow (das ein zusätzliches Energiemodell verwendet), war SymDrift 3,5-mal schneller als EnFlow.
- Im Vergleich zu Mehrstufig-Baselines (z. B. ET-Flow mit 50 NFE) erreichte SymDrift vergleichbare Genauigkeit bei einer 40-fachen Reduzierung der Inferenzkosten.
Generierung von Übergangszuständen (RDB7):
- Unter Verwendung einer größeren Modellvariante (18,7 Mio. Parameter) erreichte SymDrift RMSD- und DMAE-Metriken, die mit der 25-stufigen GoFlow-Baseline vergleichbar waren.
- Die Ein-Schuss-Inferenz war 87-mal schneller als die Mehrstufig-GoFlow-Baseline.
- Dies unterstreicht die Eignung der Methode für die groß angelegte Exploration von Reaktionsnetzwerken, bei denen Geschwindigkeit kritisch ist.
Ablationsstudien:
- Experimente bestätigten, dass die Anwendung einer Basis-Koordinatendrift auf eine äquivariante Architektur ohne Symmetriebehandlung zu einem vollständigen Zusammenbruch des Trainings führt (0 % Abdeckung).
- Die Leistung verbesserte sich progressiv mit der Einbeziehung von Symmetrie, wobei der invariante Einbettungsraum die besten Ergebnisse lieferte und iterative Ausrichtungsstrategien, die anfällig für lokale Optima waren, übertraf.

Bedeutung und Behauptungen

Die Autoren behaupten, dass SymDrift erfolgreich die Lücke zwischen der Effizienz von Ein-Schuss-generativen Modellen und der physikalischen Korrektheit schließt, die für symmetrische Domänen erforderlich ist. Durch die Behebung der bei Standard-drifting-Ansätzen inhärenten Diskrepanz im Driftfeld ermöglicht SymDrift:

Hochdurchsatz-Anwendungen: Die Reduzierung der Inferenzzeit um bis zu 40-fach macht die Methode vielversprechend für Anwendungen wie das virtuelle Wirkstoffscreening und die groß angelegte Exploration von Reaktionsnetzwerken, bei denen die iterative Stichprobenziehung derzeit ein Engpass darstellt.
Trainingskosten vs. Inferenzgeschwindigkeit: Obwohl die Methode aufgrund der Notwendigkeit von paarweisen Ausrichtungen oder Einbettungsberechnungen höhere Trainingskosten verursacht, wird dies als vorteilhafter Kompromiss dargestellt, angesichts der um eine Größenordnung verbesserten Inferenzgeschwindigkeit.
Generalisierbarkeit: Das Framework ist auf jede generative Aufgabe anwendbar, die $G$ -invariante Verteilungen beinhaltet, und bietet eine prinzipielle Alternative zur Datenaugmentation oder komplexen Mehrstufig-Destillation.

Die Autoren bleiben bezüglich der Einschränkungen bescheiden und stellen fest, dass die vorgeschlagene invariante Einbettung nicht maximal ausdrucksstark ist (da sie Inzidenzinformationen verwirft) und dass die Trainingszeit im Vergleich zum Standard-Flow-Matching erhöht ist. Sie argumentieren jedoch, dass der Geschwindigkeitsvorteil bei der Inferenz diese Kosten für Hochdurchsatz-Wissenschaftsanwendungen rechtfertigt.