Rigidity-Aware Geometric Pretraining for Protein Design and Conformational Ensembles

Die Arbeit stellt RigidSSL vor, ein geometrisches Vorpretraining-Framework, das durch rigideitätsbewusstes selbstüberwachtes Lernen auf großen Strukturdaten und Molekulardynamik-Simulationen die Designfähigkeit, Vielfalt und physikalische Realitätsnähe von generativen Protein-Design-Modellen erheblich verbessert.

Das Wesentliche

Stellen Sie sich vor, Sie wollen einen neuen, perfekten Schlüssel für ein Schloss entwerfen, das noch nie existiert hat. Aber das Schloss ist nicht aus Metall, sondern aus Proteinen – den winzigen, komplexen Maschinen, die unser Leben antreiben.

Das Problem: Bisherige Computerprogramme, die solche Proteine „erschaffen" sollen, hatten drei große Schwierigkeiten:

1. Sie lernten die Geometrie (die Form) und das Erstellen (das Design) gleichzeitig, was sie verwirrte.
2. Sie schauten sich nur kleine, lokale Details an (wie einzelne Atome) und verstanden nicht das große Ganze (wie sich das ganze Protein faltet).
3. Sie dachten, Proteine seien starr wie Stein, obwohl sie in Wirklichkeit wie lebende, wackelnde Seile sind, die sich ständig bewegen.

Die Forscher in diesem Papier haben eine Lösung namens RigidSSL entwickelt. Hier ist eine einfache Erklärung, wie es funktioniert, mit ein paar anschaulichen Vergleichen:

1. Die Grundidee: Ein zweistufiger Tanzkurs

Stellen Sie sich vor, Sie wollen jemandem Tanzen beibringen.

• Der alte Weg: Sie werfen den Schüler mitten auf die Tanzfläche und sagen: „Tanzen Sie jetzt!" Das führt oft zu Stolpern und Verwirrung.
• Der neue Weg (RigidSSL): Sie teilen den Unterricht in zwei Phasen auf, bevor der Schüler auf die echte Tanzfläche darf.

Phase 1: Das „Staubwedel-Spiel" (RigidSSL-Perturb)

Stellen Sie sich vor, Sie nehmen eine perfekte Skulptur aus Ton (ein Protein aus einer Datenbank) und schütteln sie leicht. Sie drehen sie ein bisschen, verschieben sie ein wenig, aber Sie achten darauf, dass sie nicht zerbricht.

• Was passiert hier? Der Computer lernt, wie ein Protein stabil bleibt, auch wenn man es ein bisschen wackeln lässt. Er lernt die „Regeln der Schwerkraft" und der Stabilität.
• Der Vorteil: Der Computer versteht nun die starren Regeln der Form. Er weiß, wie ein Protein aussehen muss, damit es nicht zusammenfällt. Das ist wie das Lernen der Grundschritte eines Tanzes.

Phase 2: Das „Tanz-Video" (RigidSSL-MD)

Jetzt schauen wir uns keine statischen Skulpturen mehr an, sondern Videos von echten Tänzern, die sich bewegen. Die Forscher nutzen Daten aus molekularen Simulationen (MD), die zeigen, wie sich Proteine in der Natur tatsächlich bewegen und verformen.

• Was passiert hier? Der Computer lernt, dass Proteine nicht starr sind. Sie dehnen sich, drehen sich und atmen.
• Der Vorteil: Der Computer versteht nun die Dynamik. Er lernt, wie ein Protein sich bewegt, nicht nur wie es aussieht.

2. Der Trick: Der „Rigid" (Steifer) Ansatz

Ein wichtiges Detail: Wie beschreibt man ein Protein im Computer?
Statt jeden einzelnen Atom wie einen losen Punkt zu betrachten, behandelt RigidSSL jeden Baustein (Aminosäure) wie einen festen Klotz.

• Die Analogie: Stellen Sie sich ein Protein wie eine Kette aus Lego-Steinen vor. Die alten Methoden versuchten, jeden einzelnen Punkt auf jedem Stein zu berechnen. RigidSSL sagt: „Nein, der Stein ist fest. Wir bewegen nur den ganzen Stein."
• Das macht die Berechnung viel schneller und präziser, weil es der Realität näher kommt: Die Bausteine in einem Protein sind tatsächlich starr verbunden; nur die Gelenke zwischen ihnen bewegen sich.

3. Was bringt das? (Die Ergebnisse)

Dank dieser zwei Phasen (Lernen der Stabilität + Lernen der Bewegung) passiert Magie:

• Bessere Designs: Wenn der Computer nun ein neues Protein erfinden soll, ist es viel wahrscheinlicher, dass es funktioniert. Die Erfolgsrate für „designable" Proteine (die sich in echte, funktionierende Proteine verwandeln lassen) stieg um bis zu 43 %.
• Kreativität: Der Computer erfindet nicht nur Kopien von alten Proteinen, sondern völlig neue, kreative Formen.
• Lange Ketten: Früher scheiterten Computer bei sehr langen Proteinen (wie bei 700 Bausteinen). RigidSSL schafft es, diese langen Ketten stabil und korrekt zu entwerfen.
• Realistische Bewegungen: Bei der Modellierung von Rezeptoren (wie GPCRs, die für viele Medikamente wichtig sind) kann das System nun nicht nur eine statische Form zeigen, sondern ein ganzes „Ensemble" – also eine Familie von Formen, die zeigen, wie das Protein sich im Körper bewegt und verändert.

Zusammenfassung

RigidSSL ist wie ein genialer Tanzlehrer für Proteine.
Er lässt die KI erst einmal Stabilität üben (Phase 1: Schütteln ohne Zerbrechen), damit sie die Grundregeln der Form versteht. Dann lässt er sie Bewegung studieren (Phase 2: Videos von echten Tänzern), damit sie die Dynamik des Lebens begreift.

Das Ergebnis? Ein KI-Modell, das nicht nur statische Bilder von Proteinen zeichnet, sondern lebendige, funktionierende und völlig neue molekulare Maschinen entwerfen kann. Das ist ein riesiger Schritt für die Medizin, neue Medikamente und nachhaltige Materialien.

Technische Zusammenfassung

Titel: RIGIDITY-AWARE GEOMETRIC PRETRAINING FOR PROTEIN DESIGN AND CONFORMATIONAL ENSEMBLES

Veröffentlicht bei: ICLR 2026
Autoren: Zhanghan Ni, Yanjing Li, Zeju Qiu, Bernhard Schölkopf, Hongyu Guo, Weiyang Liu, Shengchao Liu

---

1. Problemstellung

Generative Modelle haben das de-novo-Proteindesign durch das Lernen statistischer Regularitäten natürlicher Strukturen vorangetrieben. Dennoch stehen aktuelle Ansätze vor drei wesentlichen Herausforderungen:

1. Gleichzeitiges Lernen von Geometrie und Generierung: Bestehende End-to-End-Frameworks müssen die fundamentale Geometrie von Proteinen und den komplexen Mechanismus der Strukturgenerierung in einem einzigen Ziel optimieren. Diese enge Kopplung führt oft zu ineffizienter Optimierung und schränkt die Generalisierungsfähigkeit auf neue oder verteilungsferne Designaufgaben ein.
2. Fehlende globale, starre Repräsentationen: Die meisten Pretraining-Methoden basieren auf lokalen, nicht-starren atomaren Repräsentationen. Diese erfassen zwar kurzreichweitige Muster gut, vernachlässigen jedoch die globale Faltungsgeometrie, was die Übertragbarkeit auf generative Designaufgaben begrenzt.
3. Mangel an dynamischen Daten: Große Strukturdatenbanken (wie AFDB oder PDB) bestehen überwiegend aus statischen Momentaufnahmen. Modelle, die nur auf diesen trainiert werden, lernen die Geometrie statischer Zustände, erfassen aber keine intrinsischen Konformationsflexibilitäten oder Übergänge zwischen metastabilen Zuständen, die für realistische Ensembles entscheidend sind.

2. Methodik: RigidSSL

Die Autoren stellen RigidSSL (Rigidity-Aware Self-Supervised Learning) vor, ein geometrisches Pretraining-Framework, das das Lernen der Geometrie vor der generativen Feinabstimmung („front-loads") durchführt.

Grundlegende Repräsentation:
Proteine werden nicht als lose Atome, sondern als Sequenz starrer Residuen (Rigid Bodies) modelliert. Jedes Residuum wird durch eine Translation ($\vec{t} \in \mathbb{R}^3$) und eine Rotation ($r \in SO(3)$) beschrieben, was die Freiheitsgrade reduziert und physikalische Constraints wahrt. Die Struktur wird in ein kanonisches Referenzsystem (Trägheitsrahmen) transformiert, um Invarianz gegenüber globalen Transformationen zu gewährleisten.

Zweiphasige Pretraining-Strategie:

• Phase I: RigidSSL-Perturb (Lernen statischer Regularitäten)

  • Daten: 432.000 statische Strukturen aus der AlphaFold Protein Structure Database (AFDB).
  • Methode: Auf jeder Struktur $g_0$ wird eine simulierte Störung angewendet, um eine zweite Ansicht $g_1$ zu erzeugen.
    • Translation: Addition von Gaußschem Rauschen im $\mathbb{R}^3$.
    • Rotation: Sampling aus einer isotropen Gaußschen Verteilung auf der speziellen orthogonalen Gruppe $SO(3)$ (IGSO(3)), um physikalisch plausible Rotationsvariationen zu modellieren.
  • Ziel: Das Modell lernt robuste geometrische Priors, die gegen Rauschen und kleine Unsicherheiten in den Daten resistent sind.

• Phase II: RigidSSL-MD (Lernen dynamischer Übergänge)

  • Daten: 1.300 Molekulardynamik (MD)-Trajektorien aus dem ATLAS-Datensatz.
  • Methode: Paare von Konformationen ($g_0, g_1$) werden aus Zeitabständen innerhalb derselben MD-Trajektorie entnommen. Dies erfasst physikalisch realistische Übergänge und Fluktuationen.
  • Ziel: Verfeinerung der Repräsentation, um die echte dynamische Flexibilität und den Konformationsraum realer Proteine abzubilden.

Optimierungsziel (Flow Matching):
Beide Phasen nutzen ein bidirektionales, rigidity-aware Flow-Matching-Objektiv.

• Das Modell lernt ein Vektorfeld, das den Übergang zwischen zwei Ansichten ($g_0 \leftrightarrow g_1$) über einen interpolierten Pfad steuert.
• Für Translationen wird lineare Interpolation (LERP) verwendet.
• Für Rotationen wird sphärische lineare Interpolation (SLERP) auf Quaternionen angewendet.
• Das Ziel ist die Maximierung der gegenseitigen Information (Mutual Information) zwischen den Ansichten, indem die Differenz zwischen dem gelernten Vektorfeld und dem idealen Geschwindigkeitsfeld minimiert wird.

3. Wichtige Beiträge

1. Neues Pretraining-Paradigma: Einführung eines zweistufigen Frameworks, das statische Geometrie (Phase I) und dynamische Flexibilität (Phase II) getrennt, aber sequenziell integriert.
2. Starre Körper-Modellierung: Ersetzung lokaler atomarer Repräsentationen durch eine globale, starre Residuen-basierte Darstellung in $SE(3)$, die physikalische Konsistenz erzwingt.
3. Bidirektionales Flow Matching: Entwicklung eines spezifischen Loss-Funktion, die Translation und Rotation gemeinsam optimiert, um die gegenseitige Information zwischen Konformationen zu maximieren.
4. Umfassende Evaluation: Validierung auf drei verschiedenen Aufgaben: unbedingte Generierung, Motif-Scaffolding (Zero-Shot) und Ensemble-Generierung für G-Protein-gekoppelte Rezeptoren (GPCRs).

4. Ergebnisse

Die Leistung von RigidSSL wurde gegen Baseline-Modelle (ohne Pretraining und andere geometrische SSL-Methoden wie GeoSSL) auf den Architekturen FrameDiff und FoldFlow-2 getestet.

• Unbedingte Protein-Generierung:

  • Designability: RigidSSL-Perturb verbesserte die Designability (Fähigkeit, eine Sequenz zu finden, die sich in die Struktur faltet) um bis zu 43% im Vergleich zum unpretrainierten FoldFlow-2.
  • Vielfalt & Neuheit: Die Modelle generierten neuere und diversere Strukturen.
  • Lange Ketten: RigidSSL-Perturb ermöglichte die Generierung ultra-langer Proteine (700–800 Aminosäuren) mit hervorragender stereochemischer Qualität (niedrigste Clashscore und MolProbity-Scores), was ohne Pretraining nicht möglich war.

• Zero-Shot Motif Scaffolding:

  • RigidSSL-Perturb erhöhte die Erfolgsrate bei der Umhüllung von funktionellen Motiven um 5,8% im Vergleich zum unpretrainierten Modell. Es zeigte besonders hohe Robustheit bei schwierigen, langen Targets.

• Konformations-Ensemble-Generierung (GPCRs):

  • Bei der Modellierung von GPCRs (schwierig aufgrund komplexer dynamischer Landschaften) erzielten RigidSSL-Varianten die besten Ergebnisse in 7 von 9 Metriken.
  • RigidSSL-MD war besonders erfolgreich darin, biophysikalisch realistische Ensembles zu erzeugen, die korrekte schwache Kontakte, exponierte Reste und höhere thermodynamische Eigenschaften abbildeten.

5. Bedeutung und Diskussion

• Kompromiss zwischen Stabilität und Vielfalt: Die Arbeit zeigt einen interessanten Trade-off. Phase I (Perturb) optimiert für Designability und geometrische Stabilität (ideal für de-novo-Design), während Phase II (MD) die biophysikalische Realität und Vielfalt der Konformationslandschaft verbessert (ideal für Ensembles und dynamische Studien).
• Skalierbarkeit: Durch die Reduktion der Freiheitsgrade auf starre Körper und die effiziente Nutzung von Flow Matching ist das Framework skalierbar und generalisiert gut auf lange Proteinsequenzen.
• Physikalische Plausibilität: Die Integration von MD-Daten im Pretraining zwingt das Modell, physikalisch realistische Übergänge zu lernen, was über reine statische Strukturvorhersage hinausgeht.

Fazit: RigidSSL stellt einen bedeutenden Fortschritt im Bereich des computergestützten Proteindesigns dar, indem es die Lücke zwischen statischer Strukturbestimmung und dynamischer Konformationsmodellierung schließt und dabei die physikalische Plausibilität der generierten Strukturen signifikant erhöht. Der Code ist öffentlich verfügbar.