🤖 machine learning

Active Flow Expansion for Out-of-Distribution Discovery: from Theory to Molecules

Dieses Paper führt Active Flow Expansion (ActFlow) ein, eine neuartige Methode des kontinuierlichen Pre-trainings, die Verifizierer-Feedback und aktive Exploration nutzt, um statistisch die Expansion des gültigen Designraums eines generativen Modells zu garantieren, wobei sie Standardansätze bei der Entdeckung von Out-of-Distribution-Molekülen und -Proteinen signifikant übertrifft.

Ursprüngliche Autoren: Riccardo De Santi, Bruce Lee, Cristian Perez Jensen, Kimon Protopapas, Sophia Tang, Cheng-Hao Liu, Pranam Chatterjee, Yisong Yue, Andreas Krause

Veröffentlicht 2026-06-09

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Riccardo De Santi, Bruce Lee, Cristian Perez Jensen, Kimon Protopapas, Sophia Tang, Cheng-Hao Liu, Pranam Chatterjee, Yisong Yue, Andreas Krause

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie hätten einen Meisterkoch, der sein ganzes Leben damit verbracht hat, nur nach einem ganz bestimmten, abgenutzten Kochbuch zu kochen. Dieser Koch ist unglaublich gut darin, die Gerichte aus diesem Buch zu reproduzieren. Die wissenschaftliche Welt benötigt jedoch etwas Neues, etwas, das noch nie gekocht wurde, etwas „Neues gegenüber der Natur“.

Das Problem ist: Wenn man diesen Koch bittet, ein neues Gericht zu erfinden, wird er wahrscheinlich nur eine leicht abgewandelte Version eines Gerichts kreieren, das er bereits kennt, weil sein Gehirn (das KI-Modell) darauf trainiert ist, die Muster des alten Kochbuchs nachzuahmen. Er steckt in einer „Komfortzone“ bekannter Rezepte fest.

Dieses Paper stellt eine neue Methode namens ACTFLOW (Active Flow Expansion) vor, die dem Koch hilft, aus dieser Komfortzone auszubrechen und völlig neue, valide Rezepte zu entdecken.

So funktioniert es, unterteilt in einfache Konzepte:

1. Das Problem: Die „Komfortzonen“-Falle

Standard-KI-Modelle zur Erstellung von Molekülen oder Proteinen sind wie der Koch: Sie sind darauf trainiert, die Daten, die man ihnen gegeben hat (die „validen“ Moleküle, die wir bereits kennen, perfekt zu imitieren.

Die Einschränkung: Wenn man sie bittet, etwas Neues zu erschaffen, scheitern sie meistens. Entweder erschaffen sie etwas, das den alten Daten ähnelt (langweilig), oder etwas, das chemisch unmöglich ist (Müll).
Das Ziel: Wir wollen die „valide Frontier“ finden – die Grenze dessen, was möglich ist, aber noch nicht entdeckt wurde.

2. Die Lösung: Die „Entdecker“-Strategie

Anstatt nur zu versuchen, das alte Kochbuch zu kopieren, behandelt ACTFLOW das KI-Modell als einen Entdecker. Es möchte nicht nur die Vergangenheit nachahmen; es möchte die Landkarte dessen, was möglich ist, erweitern.

Der Prozess funktioniert wie ein Spiel von „Heiß und Kalt“ mit einem Sicherheitsinspektor:

Der Entdecker (die KI): Die KI generiert eine Charge neuer, ungewöhnlicher Designs.
Der Sicherheitsinspektor (der Verifizierer): Ein separates Werkzeug überprüft diese Designs.
- Wenn ein Design valide ist (ein funktionierendes Molekül), sagt der Inspektor „Ja“.
- Wenn es invalide ist, sagt er „Nein“.
Der Clou (Aktive Exploration): Die meisten Methoden versuchen einfach nur, immer mehr von den „Ja“-Dingen zu erstellen, die sie bereits gefunden haben. ACTFLOW ist klüger. Es sucht gezielt nach Designs, die unsicher sind.
- Stellen Sie sich vor, die KI läuft durch Nebel. Sie weiß, dass der Pfad, auf dem sie sich befindet, sicher ist. Sie möchte aber nicht auf diesem Pfad bleiben; sie möchte in den Nebel treten, wo sie sich nicht sicher ist, ob der Boden fest ist.
- ACTFLOW steuert die KI dazu, Designs in diesen „nebligen“ Bereichen (wo sich das Modell unsicher ist) zu generieren, denn genau dort verbergen sich neue Entdeckungen.
Die Feedback-Schleife:
- Wenn das „neblige“ Design sich als valide herausstellt, lernt die KI: „Ah! Die Landkarte ist größer, als ich dachte. Ich kann dorthin gehen.“
- Wenn es invalide ist, lernt die KI: „Okay, diese Richtung ist eine Sackgasse. Diesen Weg werde ich nächstes Mal vermeiden.“
- Mit der Zeit wächst die „Landkarte“ der validen Designs der KI immer weiter an und deckt Bereiche ab, die sie zuvor nie erreichen konnte.

3. Die „Generierbare Menge“ (Das erreichbare Territorium)

Das Paper führt den Fachbegriff der „Generable Set“ ein. Betrachten Sie dies als das Territorium, das die KI tatsächlich erreichen und mit hoher Zuversicht erschaffen kann.

Vor ACTFLOW: Das Territorium der KI ist eine kleine Insel in einem riesigen Ozean aus validen Designs.
Nach ACTFLOW: Die KI baut Brücken zu neuen Inseln. Sie erweitert ihr Territorium, um einen viel größeren Teil des Ozeans abzudecken und findet dabei valide Designs, die für sie zuvor unsichtbar waren.

4. Die Ergebnisse: Neue Schätze finden

Die Forscher haben dies an vier verschiedenen Arten von „Rezepten“ getestet:

Kleine Moleküle: Wie die grundlegenden Bausteine für Medikamente.
Arzneistoffähnliche Moleküle: Komplexere Strukturen, die in der Medizin verwendet werden.
Therapeutische Peptide: Kurze Ketten von Aminosäuren, die als Medikamente eingesetzt werden.
Proteinstrukturen: Die Anweisungen zum Aufbau komplexer biologischer Maschinen.

In allen Fällen war ACTFLOW in der Lage:

Mehr Boden zu gewinnen: Es fand wesentlich mehr einzigartige, valide Designs als bisherige Methoden.
Sicher zu bleiben: Es fand nicht nur mehr Dinge, sondern fand valide Dinge. Es produzierte nicht einfach nur Müll.
Zu diversifizieren: Die neuen Designs unterschieden sich stark voneinander und boten Wissenschaftlern eine größere Vielfalt an Optionen.

Zusammenfassende Analogie

Stellen Sie sich einen Wanderer mit einer Karte eines Waldes vor.

Alte Methode: Der Wanderer geht nur auf den markierten Pfaden, die er bereits kennt. Er sieht die verborgenen Wasserfälle niemals.
ACTFLOW: Der Wanderer bekommt einen Kompass, der in Richtung „unbekannt, aber potenziell sicher“ zeigt. Er verlässt den Pfad, prüft, ob der Boden fest ist (der Verifizierer), und wenn dies der Fall ist, zeichnet er eine neue Linie auf die Karte. Schließlich hat er den gesamten Wald kartiert und Wasserfälle und Höhlen entdeckt, von denen niemand wusste, dass sie existieren.

Das Paper behauptet, dass diese Methode mathematisch bewiesen in der Lage ist, die Reichweite der KI sicher und effektiv zu erweitern, und dabei Methoden übertrifft, die lediglich versuchen, bestehende Daten zu kopieren oder leicht abzuwandeln. Es ist ein Werkzeug zur Entdeckung, nicht nur zur Nachahmung.

Technisches Resümee: Aktive Flow-Expansion für die Entdeckung von Out-of-Distribution-Strukturen

Problemstellung

Standardmäßige generative Modelle, einschließlich Flow- und Diffusionsmodelle, werden typischerweise mittels Datenverteilungsanpassung vortrainiert. Dieses Ziel zwingt das Modell dazu, die Verteilung der verfügbaren Trainingsdaten ( $p_{data}$ ) zu approximieren, welche jedoch oft nur einen kleinen Bruchteil des gültigen Designraums ( $\Omega^*$ ) abdeckt. Während dies für Aufgaben wie Behavioral Cloning oder die Reproduktion beobachteter Beispiele effektiv ist, ist dieser Ansatz fundamental begrenzt für die Out-of-Distribution (OOD) Entdeckung. In der wissenschaftlichen Entdeckung (z. B. beim Design neuer, naturferner Moleküle oder Proteine) besteht das Ziel darin, valide Designs zu sampeln, die eine vernachlässigbare Wahrscheinlichkeit unter der beobachteten Datenverteilung aufweisen und willkürlich weit von existierenden Beispielen entfernt sind. Standardmäßig vortrainierte Modelle scheitern daran, diese Regionen zu erschließen, da ihr „generierbares Set“ – die Region, aus der das Modell mit nicht vernachlässigbarer Wahrscheinlichkeit sampeln kann – strikt innerhalb der beobachteten Datenverteilung enthalten ist.

Methodik: Aktive Flow-Expansion (ACTFLOW)

Die Autoren schlagen Active Flow Expansion (ACTFLOW) vor, ein Framework zur kontinuierlichen Vortrainierung, das darauf ausgelegt ist, das generierbare Set eines Modells zu erweitern, um einen größeren Teil des validen Designraums abzudecken. Die Methode weicht von der passiven Datenverteilungsanpassung ab und behandelt das generative Modell stattdessen als Approximator des validen Designraums.

Kernkonzepte

Generierbares Set ( $\Omega^\tau_\theta$ ): Definiert als die Region des Designraums, in der die terminale Dichte $p^\theta_1(x)$ des Modells einen Schwellenwert $\tau$ überschreitet. Standardmäßiges Vortraining führt zu $\Omega^\tau_{\theta_{pre}} \subset \Omega^*$ mit $\text{Vol}(\Omega^\tau_{\theta_{pre}} \ll \text{Vol}(\Omega^*)$ .
Expansion des generierbaren Sets: Das neue Lernprinzip zielt darauf ab, Parameter $\theta$ zu lernen, sodass $\Omega^\tau_\theta \approx \Omega^*$ , was effektiv die Abdeckung des Modells auf valide OOD-Regionen erweitert.

Algorithmischer Arbeitsablauf

ACTFLOW operiert durch eine iterative Schleife aus aktiver Exploration und Modelladaptation:

Aktive Exploration in der gelernten Repräsentation: Anstatt aus den dominanten Modi des aktuellen Modells zu sampeln, führt ACTFLOW eine aktive Exploration in der gelernten Flow-Repräsentation $Z_s$ durch (extrahiert aus dem Geschwindigkeitsnetzwerk bei einem intermediären Rauschpegel $s \in (0,1)$ ).
Uncertainty-Tilted Sampling: Die Methode steuert das Sampling in Richtung Regionen mit hoher Verifier-Unsicherheit. Sie löst ein Optimierungsproblem (Gl. 9), das die erwartete Verifier-Unsicherheit $\sigma_t(\phi_s(x))$ maximiert und gleichzeitig die Suche mittels eines KL-Divergenz-Terms reguliert, um nah an der aktuellen Modell-Dichte zu bleiben. Dies balanciert die Exploration neuer valider Fronten mit dem Vorwissen des Modells.
Verifier-Feedback: Ein Black-Box-Verifier $\tilde{v}$ (z. B. Validitätsprüfer für Moleküle oder Vorhersagemodelle für die Proteinfaltung) bewertet die generierten Samples und liefert binäre Labels (valide/invalid).
Signed Replay-basierte Aktualisierung: Das Modell wird unter Verwendung einer signierten Verlustfunktion aktualisiert. Akzeptierte Samples (valide) tragen einen positiven Gradienten bei (attrahiert das Modell), während abgelehnte Samples (invalid) einen negativen Gradienten beisteuern (reprelliert das Modell). Dies wird als Signed-Replay-Ziel formuliert: $L_{signed} = L_{accepted} - \alpha_t L_{rejected}$ , was als eine Form des „Data Unlearning“ für ungültige Regionen betrachtet werden kann.

Theoretischer Rahmen

Das Paper etabliert statistische Lern гарантien für das OOD-Flow-Modeling, indem es den Prozess als Local-to-Global Reachability-Problem rahmt:

Verifier-Modellierung: Der Verifier wird als logistischer Bandit-Feedback-Mechanismus über den gelernten Repräsentationsraum modelliert, wobei die Validität durch einen unbekannten latenten Score $g(z)$ bestimmt wird.
Reachability-Operator: Die Autoren definieren einen One-Step-Reachability-Operator $R_\epsilon(S)$ , der die Menge der Punkte darstellt, deren Validität innerhalb einer bestimmten Fehlermarge von einer bekannten sicheren Menge $S$ aus zertifiziert werden kann.
Haupttheorem: Unter den Annahmen eines gut spezifizierten Verifiers und approximativen Uncertainty-Samplings garantiert ACTFLOW, dass nach $T^*$ verifizierten Samples das generierbare Set des Modells die $H$ -fache rekursive Expansion des initialen validen Seed-Sets abdeckt ( $R^H_\epsilon(S_0) \subseteq \Omega^\tau_{T^*}$ ). Dies bietet die erste theoretische Garantie für die Expansion generierbarer Sets im OOD-Flow-Modeling.

Wichtigste Beiträge

Expansion des generierbaren Sets: Einführung eines rigorosen mathematischen Rahmens für das OOD-Flow-Modeling, der auf der Expansion des generierbaren Sets statt auf der Anpassung von Datenverteilungen basiert.
ACTFLOW-Algorithmus: Eine praktische, aufgabentechnisch agnostische Methode zur kontinuierlichen Vortrainierung, die Verifier-Feedback und aktive Exploration in intermediären Rauschrepräsentationen nutzt, um neue valide Regionen zu entdecken.
Theoretische Garantien: Die ersten statistischen Lern-Garantien für das OOD-Flow-Modeling, die belegen, dass ACTFLOW das generierbare Set über einen Local-to-Global-Prozess auf erreichbare valide Regionen erweitert.
Empirische Validierung: Umfassende Evaluierung über diverse Domänen (kleine Moleküle, arzneistoffähnliche Moleküle, therapeutische Peptide und Proteinsequenzen), die eine überlegene Performance gegenüber rekursiven Self-Generation-Baselines zeigt.

Experimentelle Ergebnisse

Die Autoren evaluierten ACTFLOW gegen zwei weit verbreitete Baselines:

REC-NF: Kontinuierliche Vortrainierung auf ungefilterten Modellsamples.
REC-F: Kontinuierliche Vortrainierung auf Verifier-gefilterten Samples (nur valide Samples).

Leistungsmetriken: Coverage (Anzahl valider Cluster), Diversity (Vendi-Score) und Validity (Prozentsatz valider Samples).

Kleine organische Moleküle (QM9): ACTFLOW erweiterte die valide Coverage auf 88,40 Cluster (gegenüber 45,40 für REC-F und 42,80 für REC-NF) bei gleichzeitiger Aufrechterhaltung einer hohen Validität von 95,90 %. REC-NF litt unter einem massiven Abfall der Validität (12,26 %).
Arzneistoffähnliche Moleküle (GEOM-Drugs): ACTFLOW erreichte 144,3 valide Cluster und übertraf damit signifikant REC-F (89,33) und REC-NF (44,67). Es verbesserte zudem die Validität gegenüber dem vortrainierten Baseline-Modell (56,6 % vs. 39,31 %).
Therapeutische Peptide: ACTFLOW steigerte die Coverage von 61 auf 358 Cluster und erreichte die höchste Diversität (58,87 Vendi-Score). Im Gegensatz dazu kollabierte REC-NF auf 0 % Validität.
Proteinsequenzen: ACTFLOW erhöhte die Coverage von 66,50 auf 102,75 Cluster sowie die Diversität (42,14 Vendi) und verbesserte die Validität auf 83,74 %. REC-F erreichte zwar eine höhere Validität (88,12 %), kollabierte jedoch in Bezug auf Coverage und Diversität.

In allen Aufgaben übertraf ACTFLOW die Baselines im Trade-off zwischen Coverage, Diversität und Validität signifikant und gelang es ihm erfolgreich, in neue valide Regionen vorzustoßen, die rekursive Baselines nicht erreichen konnten.

Bedeutung und Ansprüche

Das Paper beansprucht, einen einzigartigen theoretischen und praktischen Ansatz für das generative Out-of-Distribution-Modeling bereitzustellen. Durch die Verschiebung des Paradigmas von „Distribution Matching“ hin zu „Generable Set Expansion“ ermöglicht ACTFLOW vortrainierten Modellen den Zugriff auf valide Designräume, die durch Standard-Sampling oder einfaches Fine-Tuning unzugänglich sind. Die Autoren betonen, dass ihre Methode die Lücke zwischen der Theorie der sicheren Exploration und dem generativen Modellieren schließt und somit garantierte Wege für die Entdeckung neuer, naturferner Designs bietet.

Die Arbeit ist hinsichtlich ihrer Anwendung auf reale Entdeckungen moderat in ihrem Umfang: Während das Framework eine aufgabenagnostische Expansion hin zu zuvor unzugänglichen validen Regionen erlaubt, merken die Autoren an, dass zukünftige Arbeiten erforderlich sind, um zu bewerten, ob diese Exploration konkrete wissenschaftliche Entdeckungen in spezifischen realen Anwendungen hervorbringt. Der primäre Beitrag liegt in der algorithmischen und theoretischen Grundlage, um eine solche Entdeckung zu ermöglichen.