🤖 machine learning

Controllable Molecular Generative Foundation Models

Das Papier stellt CoMole vor, ein kontrollierbares generatives Grundmodell für Moleküle, das einen motifbewussten Graphen-Diffusionsprozess und Reinforcement Learning nutzt, um Herausforderungen im Aktionsraum auf Atomniveau zu überwinden und dabei in verschiedenen Aufgaben der Materialforschung und Wirkstoffentwicklung überlegene Leistung und Validität ohne nachträgliche Filterung zu erzielen.

Ursprüngliche Autoren: Yihan Zhu, Yuhan Liu, Weijiang Li, Tengfei Luo, Meng Jiang

Veröffentlicht 2026-05-18

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Yihan Zhu, Yuhan Liu, Weijiang Li, Tengfei Luo, Meng Jiang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, einem Roboter-Koch beizubringen, ein bestimmtes Gericht zuzubereiten, wie zum Beispiel eine „scharfe Tomatensuppe", aber Sie geben ihm die Anweisungen nur Korn für Korn Salz oder Tropfen für Tropfen Öl. Wenn der Roboter ein Salz Korn hinzufügt, dann einen Öltropfen, dann wieder ein Salz Korn, könnte er versehentlich eine salzige, ölige Masse erzeugen, die überhaupt keine Suppe ist. Er muss Tausende von winzigen, riskanten Entscheidungen treffen, bevor er überhaupt weiß, ob das Gericht essbar ist. Genau dieses Problem haben Wissenschaftler, wenn sie versuchen, KI einzusetzen, um neue Moleküle zu entwerfen (die Bausteine von Arzneimitteln und Materialien).

Dieser Artikel stellt ein neues KI-System namens CoMole vor, das dieses Problem löst, indem es ändert, wie der Roboter denkt.

Das Problem: Die „Atom-für-Atom"-Falle

Aktuelle KI-Modelle für das Moleküldesign funktionieren wie dieser ungeschickte Roboter-Koch. Sie versuchen, ein Molekül ein einziges Atom nach dem anderen aufzubauen (wie das Hinzufügen eines Kohlenstoffatoms, dann eines Wasserstoffatoms).

Das Risiko: Da es so viele winzige Schritte gibt, macht die KI oft früh einen kleinen Fehler (wie das Verbinden zweier Atome auf eine Weise, die die Gesetze der Chemie bricht). Sobald das passiert, wird das gesamte Molekül ungültig, und die KI muss von vorne beginnen.
Das Ergebnis: Die KI gerät in die Sackgasse. Sie versucht, aus Belohnungen zu lernen (wie „dieses Molekül ist ein gutes Arzneimittel"), aber bis sie merkt, dass sie einen Fehler gemacht hat, ist es zu spät. Der Artikel nennt dies „Trajektorien-Kollaps" – die KI stürzt vom Abgrund der chemischen Möglichkeit, bevor sie wieder hochklettern kann.

Die Lösung: Die „Lego-Stein"-Strategie

Die Autoren erkannten, dass Chemiker nicht über einzelne Atome nachdenken; sie denken über Gruppen von Atomen nach, die zusammenarbeiten, wie ein Benzolring oder eine spezifische funktionelle Gruppe. Sie nennen diese Gruppen „Motive".

Stellen Sie es sich wie das Bauen mit LEGO-Steinen vor:

Alter Weg (Atom-Ebene): Sie versuchen, eine Burg zu bauen, indem Sie einzelne Plastik körnchen zusammenkleben. Ein falsches Körnchen, und die Mauer stürzt ein.
CoMole-Weg (Motiv-Ebene): Sie bauen mit vorgefertigten LEGO-Steinen (Wände, Fenster, Türme). Sie setzen diese großen, stabilen Blöcke zusammen.

CoMole ist ein „Foundation Model" (ein intelligentes, vortrainiertes Fundament), das lernt, die Sprache dieser LEGO-Steine zu sprechen. Anstatt zu entscheiden „hier ein Kohlenstoffatom hinzufügen", entscheidet es „hier einen Benzolring anfügen".

Wie es funktioniert: Der dreistufige Trainingsprozess

Der Artikel beschreibt einen dreistufigen Trainingsprozess, um dies zum Funktionieren zu bringen:

Pre-Training (Die Bibliothek): Zuerst liest die KI Millionen bestehender Moleküle, um zu lernen, wie gültige „LEGO-Steine" (Motive) aussehen. Sie baut eine mentale Bibliothek stabiler chemischer Strukturen auf.
Fine-Tuning (Das Kochbuch): Als Nächstes lernt sie, spezifischen Anweisungen zu folgen. Wenn Sie sagen „Ich brauche ein Molekül, das gut darin ist, Sauerstoff zu filtern", lernt sie, ihre LEGO-Steine so anzuordnen, dass sie dieses Ziel erfüllen.
Bestärkendes Lernen (Der Geschmackstest): Schließlich spielt die KI ein Spiel. Sie baut ein Molekül, prüft, ob es das Ziel erfüllt (z. B. „Ist es ein gutes Arzneimittel?"), und erhält eine Punktzahl.
- Die Magie: Da sie mit großen LEGO-Steinen statt mit winzigen Körnern baut, stürzt sie nicht so oft ab. Sie kann viel schneller und zuverlässiger aus ihren Erfolgen und Misserfolgen lernen.

Die Ergebnisse: Besser, schneller und sicherer

Die Autoren testeten CoMole an drei verschiedenen Herausforderungen: dem Entwurf neuer Materialien für Gasfilter, der Herstellung von Polymeren mit spezifischen elektronischen Eigenschaften und der Suche nach neuen Arzneimittelkandidaten.

Kontrolle: Bei allen neun verschiedenen Aufgaben, die sie testeten, war CoMole am besten darin, das Ziel zu treffen. Zum Beispiel war es, als es gebeten wurde, ein Polymer mit einer spezifischen Gasdurchlässigkeit zu entwerfen, fast 50 % genauer als die zweitbeste Methode.
Gültigkeit: Der beeindruckendste Teil ist, dass CoMole 94 % der Zeit gültige Moleküle produziert, ohne dass ein Mensch danach Fehler beheben muss. Andere Methoden produzieren oft kaputte Moleküle, die verworfen werden müssen.
Generalisierung: Selbst wenn sie gebeten wurde, für eine Eigenschaft zu entwerfen, die sie noch nie gesehen hatte (wie eine bestimmte Art elektrischer Energie), konnte CoMole immer noch eine großartige Arbeit leisten, indem sie einfach die „Rezeptur" der Aufgabe verstand, ohne alles von Grund auf neu lernen zu müssen.

Das Fazit

Der Artikel behauptet, dass wir durch das Stoppen des Versuchs der KI, Moleküle Atom für Atom aufzubauen, und stattdessen das Bauen mit vorab genehmigten, chemisch sinnvollen „Stücken" (Motiven) ein viel zuverlässigeres und kontrollierbares System schaffen können. Es ist der Unterschied zwischen dem Versuch, ein Haus zu bauen, indem man einzelne Sandkörner stapelt, und dem Aneinanderfügen vorgefertigter Wände und Dächer. CoMole ist das erste System, das diesen „LEGO"-Ansatz erfolgreich auf ein allgemeines KI-Foundation-Modell für das Moleküldesign anwendet.

Technische Zusammenfassung: Kontrollierbare generative fundamentale Modelle für Moleküle (CoMole)

Problemstellung

Das inverse Design von Molekülen – die Generierung von Strukturen mit spezifischen funktionalen Eigenschaften – bleibt eine zentrale Herausforderung in der wissenschaftlichen Entdeckung. Während neuere Graph-Diffusionsmethoden die molekulare Generierung vorangebracht haben, arbeiten sie weitgehend als aufgaben spezifische Modelle mit begrenzter Kontrollierbarkeit über Ziel-Eigenschaften. Es fehlt ein einheitliches Framework, das heterogene Designaufgaben (von der Material- bis zur Wirkstoffentdeckung) mit zuverlässiger Kontrollierbarkeit bewältigen kann.

Versuche, diese Lücke durch Reinforcement Learning (RL) nach dem Training zu schließen, stoßen bei der Anwendung auf atom-level Graph-Diffusion auf einen kritischen Engpass. Der riesige Raum niedrig-level atomarer Aktionen steht in schlechter Übereinstimmung mit den chemisch sinnvollen Substrukturen (Motiven), die Chemiker zur Formulierung von Struktur-Eigenschafts-Begründungen nutzen. Wie in der Arbeit gezeigt, leidet atom-level RL häufig unter einem „Trajektorien-Kollaps", bei dem eine einzelne ungültige atomare Wahl die Generierung aus dem machbaren chemischen Mannigfaltigkeitsraum herausdrängt und eine Erholung erschwert. Diese Fragilität führt zu geringer Validität und instabiler Kreditvergabe, was verhindert, dass das Modell strukturelle Änderungen zuverlässig mit Eigenschafts-Belohnungen verknüpft.

Methodik

Die Autoren schlagen CoMole (Controllable Molecular Generative Foundation Models) vor, ein einheitliches Framework, das auf einer motif-bewussten Graph-Diffusions-Pipeline basiert. Die Kerninnovation besteht in der Reparametrisierung des Graph-Diffusions-RL-Prozesses von einem Entscheidungsraum auf Atom-Ebene hin zu einem motif-bewussten Entscheidungsraum.

1. Motif-bewusste Graph-Tokenisierung

CoMole verwendet einen auf Node Pair Encoding (NPE) basierenden Tokenizer, der aus Vorab-Trainingsdaten ein Vokabular lernt. Dieser Tokenizer bildet chemisch gültige molekulare Graphen auf Motif-Graphen ( $z_0$ ) ab, wobei Knoten atom-disjunkte Einheiten repräsentieren:

Einzelne Atome.
Erhaltene Ring-Einheiten.
Datengetriebene fusionierte Substrukturen (höherstufige Motive).

Diese Darstellung erhält Informationen auf der Ebene der Anbindungen und Bindungsbezeichnungen zwischen Motiven, ermöglicht eine verlustfreie Rekonstruktion und komprimiert gleichzeitig den Graphenzustand erheblich.

2. Drei-Stufen-Trainings-Pipeline

CoMole folgt einem Paradigma fundamentaler Modelle mit drei Stufen:

Vorab-Training (PT): Das Modell lernt übertragbare strukturelle Priors über den Raum der Motif-Graphen mittels unbedingter Diffusion.
Überwachtes Fein-Tuning (SFT): Das Modell wird auf mehrere Eigenschaften (numerische und kategorische) konditioniert, um eine aufgabenspezifische Ausrichtung einzuführen.
Reinforcement Learning (RL): Die bedingte Reverse-Diffusions-Policy wird mittels Proximal Policy Optimization (PPO) optimiert, um mit terminalen Ziel-Eigenschafts-Belohnungen übereinzustimmen. Entscheidend ist, dass RL über den motif-bewussten Aktionsraum operiert, wobei Aktionen chemisch sinnvollen Entscheidungen entsprechen (z. B. das Anfügen eines Benzolrings) und nicht einzelnen Atom-Editierungen.

3. Theoretische Begründung

Die Arbeit liefert eine theoretische Analyse, die den Engpass des atom-level RL charakterisiert. Durch die Definition der Entscheidungskomplexität als Anzahl kategorischer Faktoren im Reverse-Kernel zeigen die Autoren, dass motif-bewusste Darstellungen die Größe des Aktionsraums um einen Faktor reduzieren, der proportional zum Quadrat des Kompressionsverhältnisses von Atomen zu Motiven ( $\chi$ ) ist. Diese Reduktion stabilisiert die KL-regulierte Policy-Optimierung, ermöglicht eine direktere Kreditvergabe an eigenschaftsrelevante Aktionen und verhindert den Trajektorien-Kollaps.

Hauptbeiträge

Einheitliches fundamentales Modell: CoMole wird als die erste Familie kontrollierbarer generativer fundamentaler Modelle für Moleküle vorgestellt, die für heterogenes inverses Design konzipiert ist und die Lücke zwischen aktuellen aufgabenspezifischen Methoden und praktischen Bedürfnissen schließt.
Motif-bewusstes RL: Die Arbeit führt einen neuartigen Ansatz zur Stabilisierung von RL für die Graph-Generierung ein, indem der Entscheidungsraum von Atomen zu chemisch sinnvollen Motiven verschoben wird, und begründet theoretisch, warum dies die Entscheidungskomplexität reduziert und die Kreditvergabe verbessert.
Übertragbare Kontrollierbarkeit: Das Framework demonstriert die Fähigkeit, Kontrollierbarkeit auf nicht gesehene Eigenschaftsziele zu übertragen, indem nur Task-Embeddings optimiert werden, während der Generator eingefroren bleibt, und erzielt dabei eine Leistung, die mit aufgabenspezifischen Baselines konkurrierbar ist.

Experimentelle Ergebnisse

CoMole wurde über drei heterogene Benchmarks evaluiert: Polymer-Gasdurchlässigkeit, Polymer-DFT-Eigenschaften und Aufgaben der Wirkstoffentdeckung (FreeSolv, BACE, BBBP).

Kontrollierbarkeit: CoMole belegte bei allen neun Zielen den ersten Platz in der Kontrollierbarkeit.
- Bei Polymer-Benchmarks reduzierte es den mittleren absoluten Fehler (MAE) um über 44 % im Vergleich zu den besten Baselines.
- Bei Wirkstoffaufgaben reduzierte es den FreeSolv-MAE um 13,1 % und erreichte eine Genauigkeit von 1,0 bei der BACE-Klassifizierung.
- Im Vergleich zu den stärksten Baselines (z. B. Graph DiT, FREED) reduzierte CoMole den MAE um bis zu 48,2 %.
Validität: Das Modell hielt über alle Datensätze hinweg eine Validitätsrate von über 0,94 ein, ohne regelbasierte Korrektur oder nachträgliche Filterung. Im Gegensatz dazu litten Varianten mit atom-level RL unter Validitätsabfällen (z. B. von 0,95 auf 0,07) und konnten keine Kontrollierbarkeit aufrechterhalten.
Generalisierung: Bei Tests mit nicht gesehenen DFT-Zielen ( $E_i$ , $\epsilon_s$ ) durch Einfrieren des Generators und Lernen nur neuer Task-Embeddings erreichte CoMole eine Leistung, die mit Baselines konkurrierbar war, die direkt auf diesen Zielen trainiert wurden.
Ablation: Der Ersatz des Motif-Tokenizers durch eine atom-level Darstellung führte zu einem katastrophalen Versagen sowohl bei der Validität als auch bei der Kontrollierbarkeit und bestätigte damit die Notwendigkeit des motif-bewussten Designs.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass CoMole eine praktische Grundlage für einheitliches, skalierbares und kontrollierbares inverses Moleküldesign bietet. Durch die Übertragung vorab trainierter struktureller Priors in eine kontrollierbare Generierung mittels motif-bewusster Policy-Optimierung lernt das Modell übertragbares Struktur-Eigenschaftswissen, das diverse inverse Designaufgaben unterstützt.

Die Autoren betonen, dass ihr Ansatz die fundamentale Fragilität von atom-level RL in der Graph-Generierung adressiert. Durch die Stabilisierung der Optimierungsgeometrie mittels chemisch sinnvoller Entscheidungen erreicht CoMole eine hohe Kontrollierbarkeit bei gleichzeitiger Wahrung der chemischen Validität und bietet einen Weg hin zu auf fundamentalen Modellen basierenden Designsystemen für Moleküle und Polymere, die die Lücke zwischen hypothetischer Generierung und praktischer wissenschaftlicher Entdeckung schließen können. Die Arbeit legt nahe, dass solche Modelle Forschern helfen können, vielversprechende Kandidaten unter heterogenen Einschränkungen zu priorisieren, bevor sie sich teuren Simulationen oder Experimenten zuwenden.