🤖 machine learning

Proteo-R1: Reasoning Foundation Models for De Novo Protein Design

Proteo-R1 ist ein Dual-Expert-System, das das *de-novo*-Proteindesign verbessert, indem es molekulare Reasoning-Prozesse explizit von der geometrischen Generierung entkoppelt, wobei ein multimodales Sprachmodell verwendet wird, um kritische funktionale Resten als harte Randbedingungen für einen diffusionsbasierten Generator zu identifizieren, um stabile, interpretierbare und kontrollierbare Designergebnisse zu gewährleisten.

Ursprüngliche Autoren: Fang Wu, Weihao Xuan, Heli Qi, Hanqun Cao, Heng-Jui Chang, Zeqi Zhou, Haokai Zhao, Ma Jian, Carl Ma, Yu-Chi Cheng, Kuan Pang, Xiangru Tang, Zehong Wang, Guanlue Li, Hanchen Wang, Kejun Ying, Pan Lu, C

Veröffentlicht 2026-05-06

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Fang Wu, Weihao Xuan, Heli Qi, Hanqun Cao, Heng-Jui Chang, Zeqi Zhou, Haokai Zhao, Ma Jian, Carl Ma, Yu-Chi Cheng, Kuan Pang, Xiangru Tang, Zehong Wang, Guanlue Li, Hanchen Wang, Kejun Ying, Pan Lu, Chiho Im, Seungju Han, Peng Xia, Tinson Xu, Yinxi Li, Deyao Zhu, Pheng-Ann Heng, Naoto Yokoya, Masashi Sugiyama, Li Erran Li, Jure Leskovec, Yejin Choi

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Meisterarchitekt, der versucht, einen neuen, maßgeschneiderten Schlüssel zu entwerfen, der perfekt in ein spezifisches, komplexes Schloss (ein Proteinziel) passt.

Der alte Weg: Der „Versuch-und-Irrtum"-Architekt
Früher arbeiteten KI-Modelle, die versuchten, diese Schlüssel zu entwerfen, wie ein hektischer Künstler, der Farbe auf eine Leinwand wirft. Sie generierten die gesamte Form des Schlüssels auf einmal und hofften, dass die Atome an den richtigen Stellen landen. Obwohl sie besser darin wurden, den Schlüssel realistisch aussehen zu lassen, dachten sie nicht wirklich darüber nach, warum bestimmte Teile des Schlüssels eine bestimmte Form benötigen mussten. Sie probierten einfach zufällige Möglichkeiten aus, bis etwas gut aussah. Dies machte es schwierig zu verstehen, warum die KI eine bestimmte Designentscheidung traf, und wenn der Schlüssel nicht funktionierte, war es schwer, nur einen Teil zu korrigieren, ohne das ganze Ding zu ruinieren.

Der neue Weg: Proteo-R1 (der „Stratege" und der „Bauer")
Die Arbeit stellt Proteo-R1 vor, das das Spiel verändert, indem es die Aufgabe in zwei unterschiedliche Rollen aufteilt, ähnlich wie ein Bauprojekt mit einem Strategen und einem Bauer.

Der Stratege (der Denk-Experte):
- Wer sie sind: Eine superkluge KI, die die „Blaupause" (die Proteinsequenz und -struktur) und die „Notizen des Kunden" (was der Schlüssel tun muss) liest.
- Was sie tun: Bevor sie eine einzige Linie zeichnet, hält diese KI inne und denkt nach. Sie identifiziert die kritischsten Stellen am Schloss – die „Hotspots", an denen der Schlüssel muss berühren, um zu funktionieren. Sie entscheidet: „Okay, an dieser spezifischen Stelle brauchen wir hier einen geladenen Anker und dort eine hydrophobe Stelle."
- Die Analogie: Denken Sie daran wie an einen Architekten, der sagt: „Wir brauchen genau hier einen Stahlträger, um das Dach zu halten, und genau dort ein Fenster für das Licht." Sie treffen zuerst die harten, logischen Entscheidungen.
Der Bauer (der Generierungs-Experte):
- Wer sie sind: Ein hochqualifizierter 3D-Drucker (ein Diffusionsmodell), der hervorragend darin ist, glatte, realistische Formen zu erzeugen.
- Was sie tun: Der Stratege übergibt dem Bauern eine Reihe strenger Regeln: „Bauen Sie den Rest des Schlüssels, aber Sie müssen diesen Stahlträger hier und dieses Fenster dort beibehalten." Der Bauer füllt dann den Rest des Designs aus und stellt sicher, dass die Atome perfekt zusammenpassen, während er die unumstößlichen Regeln des Strategen respektiert.
- Die Analogie: Der Bauer ist wie ein Meistermauer, der genau weiß, wie man Ziegel legt, um eine schöne Wand zu bauen, aber ihm wird genau gesagt, wo Tür und Fenster sein müssen. Er rät nicht; er führt den Plan einfach innerhalb dieser Einschränkungen perfekt aus.

Warum dies eine große Sache ist

Kein „Black Box" mehr: Auf dem alten Weg konnte man nicht sagen, warum die KI eine bestimmte Form gewählt hatte. Mit Proteo-R1 kann man die Notizen des Strategen sehen: „Ich habe diese Aminosäure hier platziert, weil sie eine Salzbrücke bildet." Es ist transparent und erklärbar.
Bessere Kontrolle: Wenn Sie das Design ändern wollen, müssen Sie nicht das ganze Ding wegwerfen. Sie sagen dem Strategen einfach, eine Entscheidung zu ändern (z. B. „Verschieben Sie das Fenster"), und der Bauer passt den Rest an.
Realismus: Da der Bauer ein erstklassiges geometrisches Modell ist, sehen die finalen Schlüssel physikalisch realistisch aus und haben keine Atome, die gegeneinander prallen (was passiert, wenn man einfach nur rät).

Wie sie es trainierten
Die Arbeit beschreibt einen dreistufigen Trainingslager für dieses Team:

Ausrichtung: Den Strategen zu lehren, die gleiche Sprache wie der Bauer zu sprechen, damit sie Proteinstrukturen und -sequenzen korrekt verstehen.
Denk-Drills: Dem Strategen Tausende von Rätseln zu geben, die er lösen muss, wie „Finden Sie die Salzbrücken" oder „Lokalisieren Sie die Hotspots", damit er wirklich gut darin wird, kritische Teile eines Proteins zu identifizieren.
Gemeinsames Üben: Schließlich üben sie zusammen. Der Stratege macht einen Plan, der Bauer versucht, ihn zu bauen, und wenn das Bauen scheitert, lernt der Stratege aus diesem Fehler, um beim nächsten Mal einen besseren Plan zu machen.

Die Ergebnisse
Als sie dies beim Entwerfen von Antikörpern (eine Art Proteinschlüssel, die vom Immunsystem verwendet wird) testeten, schuf Proteo-R1 Schlüssel, die besser und realistischer in ihre Schlösser passten als frühere Methoden. Entscheidend ist, dass es nicht einfach alte Schlüssel kopierte; es entwarf neue, die strukturell solide waren, weil es die Logik des Designs verstand, nicht nur die Form.

Kurz gesagt, verhindert Proteo-R1, dass die KI blind rät, und beginnt damit, dass sie zuerst denkt und dann baut, genau wie ein menschlicher Experte.

Technische Zusammenfassung: Proteo-R1

Problemstellung

Deep-Learning-Modelle für das de-novo-Proteindesign, insbesondere solche, die auf Diffusion und Flow Matching basieren, haben eine atomare Genauigkeit bei der Generierung molekularer Geometrien erreicht. Diese Modelle bleiben jedoch fundamental nicht-deliberativ. Sie synthetisieren Strukturen, ohne explizit zu reasoning, welche Aminosäurereste funktional kritisch sind, warum bestimmte Wechselwirkungen bevorzugt werden oder wie Designbeschränkungen priorisiert werden sollten. In bestehenden Frameworks ist die Designabsicht implizit in den Parametern des Diffusionsprozesses kodiert, wodurch reasoning mit kontinuierlichen Sampling-Dynamiken verknüpft wird. Diese Verknüpfung schränkt Interpretierbarkeit, Kontrollierbarkeit und die systematische Wiederverwendung biochemischen Wissens ein. Darüber hinaus trennen menschliche Experten typischerweise den Prozess der Identifizierung Schlüsseler Wechselwirkungsreste (reasoning) von der Optimierung der Geometrie (Generierung), eine Trennung, die in aktuellen generativen Modellen weitgehend fehlt.

Methodik: Proteo-R1

Proteo-R1 führt ein reasoning-gesteuertes Framework für das Proteindesign ein, das das molekulare Verständnis explizit von der geometrischen Generierung entkoppelt. Es verwendet eine Dual-Expert-Architektur:

Verstehens-Experte ( $E_{und}$ ): Ein multimodales Large Language Model (MLLM), das als „molekularer Stratege" fungiert. Es analysiert Antikörper-Antigen-Komplexe (Sequenzen, Strukturen und textueller Kontext), um Schlüsselfunktionelle Reste (z. B. geladene Anker, hydrophobe Hotspots) zu identifizieren und deren biochemische Identitäten vorherzusagen. Entscheidend ist, dass $E_{und}$ keine atomaren Koordinaten generiert; es erzeugt restspezifische Repräsentationen und explizite Entscheidungen.
Generierungs-Experte ( $E_{gen}$ ): Ein auf Diffusion basierendes Modell (inspiriert von AlphaFold3), das für das bedingte Co-Design von Sequenz und Struktur verantwortlich ist. Es empfängt die restspezifischen Entscheidungen von $E_{und}$ als harte Beschränkungen (Anker) und führt die geometrische Generierung unter Einhaltung dieser festen Wechselwirkungspunkte durch.

Wichtige technische Komponenten

Rest-ausgerichtete Ankerschnittstelle: Anstatt Chain-of-Thought (CoT)-Repräsentationen direkt in die kontinuierliche Denoising-Trajektorie einzubetten, operationalisiert Proteo-R1 reasoning durch explizite, sparse Entscheidungen. Der Verstehens-Experte identifiziert eine Teilmenge kritischer Reste ( $I_{key}$ $I_{k ey}$ ) und sagt deren Aminosäure-Identitäten ( $\hat{k}_i$ $\hat{k}_{i}$ ) vorher. Diese werden während der Generierung durch folgende Maßnahmen erzwungen:
- Identitätsspezifikation: Fixierung der Aminosäure-Identität auf Sequenzebene für Ankerreste.
- Embedding-Ankerung: Einbringen projizierter versteckter Zustände aus dem MLLM in den Rest-Embedding-Raum des Generators, wodurch sichergestellt wird, dass der Generator auf den aus reasoning abgeleiteten Kontext achtet, ohne seine interne Diffusionsarchitektur zu modifizieren.
Drei-Stufen-Trainingscurriculum: Um die Integration symbolischen reasonings mit geometrischer Generierung zu stabilisieren, durchläuft das Modell einen progressiven Trainingsprozess:
1. Multimodale Ausrichtung: Ausrichtung von Proteinsequenzen (ESM-2) und strukturellen Merkmalen (AF3-artiger Stamm) mit dem Sprachraum des LLM mittels Schema-Vervollständigungs- und Captioning-Aufgaben auf PDB-Daten.
2. Strukturelles Reasoning Mid-Training: Freigabe des LLM, um räumliche Meta-Aufgaben (Rest-Verankerung, paarweise Geometrie, Schnittstellenlokalisierung, Hotspot-Vorhersage) mittels deterministischer Labels zu meistern, die aus atomaren Strukturen abgeleitet sind.
3. Gemeinsames reasoning-gesteuertes Design: End-to-End-Optimierung an Antikörper-Antigen-Komplexen (SAbDab), wobei die restspezifischen Entscheidungen des reasoning-Experten die diffusionsbasierte CDR-Neugestaltung direkt steuern.

Wichtige Beiträge

Explizite Faktorisierung: Proteo-R1 ist das erste Framework, das das molekulare Verständnis (reasoning) explizit von der geometrischen Generierung im Proteindesign trennt und damit den zweistufigen Workflow menschlicher Experten widerspiegelt.
Interpretierbarkeit und Kontrolle: Durch die Umwandlung von reasoning in sparse, restspezifische Anker-Verpflichtungen bietet das Framework eine klare Schnittstelle zur Inspektion, Modifikation und Wiederverwendung von Designentscheidungen unabhängig vom Diffusionsmodell.
Modularität: Der reasoning-Experte fungiert als modellagnostische Schnittstelle, die diverse generative Backends (z. B. AF3-ähnliche Modelle, Flow-Matching-Architekturen) steuern kann, ohne dass architektonische Änderungen am Generator erforderlich sind.
Stabile Integration: Die Methode vermeidet die Instabilität des direkten Einbringens textueller oder symbolischer Repräsentationen in kontinuierliche Dynamiken, indem sie einen sparse, rest-ausgerichteten Ankerungsmechanismus verwendet, der die induktiven Verzerrungen des geometrischen Generators bewahrt.

Experimentelle Ergebnisse

Proteo-R1 wurde am Co-Design der komplementaritätsbestimmenden Regionen (CDR) von Antikörpern evaluiert, einer anspruchsvollen Aufgabe, die die simultane Generierung mehrerer Schleifen erfordert.

Strukturelle Genauigkeit: Bei der simultanen Multi-CDR-Neugestaltung erreichte Proteo-R1 die niedrigste oder nahezu niedrigste Root-Mean-Square-Deviation (RMSD) über fünf von sechs CDR-Regionen hinweg im Vergleich zu Baselines (z. B. DiffAb, MFDesign, dyMEAN). Es zeigte eine besondere Verbesserung bei der Platzierung des Rückgrats für CDR-H1 und H2.
Schnittstellenqualität: Das Modell behielt konkurrenzfähige Raten der Schnittstellenverbesserung (IMP) bei, was darauf hindeutet, dass explizite restspezifische Beschränkungen die Generierung energetisch günstiger Bindungskonfigurationen nicht behinderten.
Geometrische Realitätsnähe: Proteo-R1 reduzierte sterische Kollisionen (sowohl innerhalb der Kette als auch zwischen den Ketten) und erreichte die niedrigste Divergenz der Rückgrat-Dieder-Verteilung (JSDbb) unter den verglichenen Methoden.
Konsistenz von Struktur und Sequenz: Obwohl Proteo-R1 eine geringere Aminosäure-Wiederherstellung (AAR) im Vergleich zu einigen Baselines aufwies (was darauf hindeutet, dass es native Sequenzen nicht lediglich nachahmt), erreichte es eine höhere Inverse-Folding-AAR (IF-AAR). Dies zeigt, dass die generierten Geometrien intrinsisch besser mit kohärenten, realisierbaren Sequenzen unter einem unabhängigen Inverse-Folding-Modell kompatibel sind, was die Behauptung stützt, dass das Modell strukturell fundierte Alternativen entdeckt und nicht an historische Sequenzen overfitted.
Oracle-Anker-Analyse: Ablationsstudien unter Verwendung von Ground-Truth-Hotspot-Resten als Anker zeigten signifikante weitere Verbesserungen der strukturellen Genauigkeit und geometrischen Realitätsnähe. Dies legt nahe, dass die aktuelle Leistungsbegrenzung in der Qualität der Ankeridentifizierung durch den reasoning-Experten liegt und deutet auf erhebliches Potenzial für zukünftige Verbesserungen im Verstehens-Komponente hin.
Allgemeingültigkeit: Bei Anwendung auf ein alternatives generatives Rückgrat (UniMoMo) verbesserte Proteo-R1 konsistent die strukturelle Genauigkeit und Schnittstellenqualität, was zeigt, dass seine Vorteile aus dem reasoning-Generierungs-Paradigma und nicht aus einem spezifischen geometrischen Modell stammen.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass Proteo-R1 eine skalierbare Blaupause für die Integration von Large Language Models (LLMs) mit physikalischen generativen Prozessen im molekularen Design bietet. Indem LLMs nicht als verrauschte Conditioner, sondern als molekulare Stratege positioniert werden, die das Design durch explizite, biologisch fundierte Entscheidungen steuern, adressiert das Framework die „Black-Box"-Natur aktueller generativer Modelle.

Die Autoren betonen, dass dieser Ansatz die Interpretierbarkeit und Kontrollierbarkeit verbessert und die systematische Wiederverwendung von Designlogik ermöglicht. Sie gehen davon aus, dass die Trennung von „was wichtig ist" (reasoning) von „wie es realisiert wird" (Generierung) zentral für expertengesteuertes molekulares Design ist und dass Proteo-R1 diese Trennung erfolgreich operationalisiert. Die Arbeit legt nahe, dass zukünftige Fortschritte im Proteindesign auf solchen deliberativen, reasoning-gesteuerten Frameworks beruhen werden, um die Entdeckung gezielter Biologika zu beschleunigen und gleichzeitig strenge physikalische Beschränkungen einzuhalten.