🧬 biology

UMA-Inverse: Ligand-Conditioned Protein Inverse Folding with a Distogram-Supervised Dense Pair Encoder

Dieses Paper stellt UMA-Inverse vor, ein kompaktes, ligandenkonditioniertes Inverse-Folding-Modell, das einen dichten Paar-Repräsentations-Encoder nutzt, um Ligandeninformationen über die Bindungsschnittstelle hinaus zu propagieren, wodurch eine wettbewerbsfähige Leistung gegenüber LigandMPNN erzielt wird und gleichzeitig neue Einblicke darüber liefert, wie All-Paar-Encoder Ligandensignale verteilen.

Ursprüngliche Autoren: William Sobolewski

Veröffentlicht 2026-07-10✓ Author reviewed ⓘ

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: William Sobolewski

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ⚕️ Dies ist eine KI-generierte Erklärung eines Preprints, das nicht peer-reviewed wurde. Dies ist kein medizinischer Rat. Treffen Sie keine Gesundheitsentscheidungen auf Grundlage dieses Inhalts. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Meisterkoch, der versucht, das geheime Rezept für ein Gericht zu rekonstruieren, das nur existiert, wenn ein bestimmtes, seltenes Gewürz (das Ligand) in den Topf gegeben wird. Ihr Ziel ist es, die exakte Liste der Zutaten (die Proteinstruktursequenz) aufzuschreiben, die das Gericht richtig schmeßen lassen und ihm seine Form geben werden.

Lange Zeit nutzten die besten Köche eine Methode namens LigandMPNN. Stellen Sie sich dies wie eine Nachbarschafts-Tratschkette vor: Um herauszufinden, wie sich das Gewürz auf den gesamten Topf auswirkt, fragt der Koch die Zutat direkt neben dem Gewürz, welche wiederum den Nachbarn neben sich fragt und so weiter. Die Nachricht reist Schritt für Schritt. Es funktioniert gut, aber wenn das Gewürz am Boden eines riesigen Topfes liegt, hören die Zutaten ganz oben vielleicht niemals davon.

Hier kommt UMA-Inverse ins Spiel, ein neuer, kompakter Küchenassistent, der von William Sobolewski entwickelt wurde. Anstatt einer Tratschkette nutzt UMA-Inverse einen dichten Paar-Repräsentations-Encoder. Stellen Sie sich dies wie einen magischen, alles sehenden Radarbildschirm vor, der jede Zutat gleichzeitig mit jeder anderen Zutat und dem Gewürz verbindet. Es reicht nicht nur eine Nachricht die Linie entlang; es aktualisiert die gesamte Karte des Topfes auf einmal.

Der magische Radar und der „Dreiecks“-Trick

UMA-Inverse basiert auf einer cleveren Abkürzung. Es verwendet ein Sechs-Block-System namens PairMixer. Stellen Sie sich dies als ein Team von sechs Köchen vor, die ständig die Abstände zwischen jedem Paar von Zutaten unter Verwendung einer speziellen „Dreiecksmultiplikations“-Regel überprüfen. Sie schauen sich an, wie drei Punkte (zwei Zutaten und das Gewürz oder drei Zutaten) zueinander in Beziehung stehen, um die Form des Gerichts zu verstehen.

Entscheidend ist, dass dieses Team die schwere Arbeit der „Self-Attention“ (bei der jede Zutat versucht, individuell mit jeder anderen Zutat zu kommunizieren, was sehr komplex ist) überspringt, um Zeit zu sparen. Stattdessen konzentrieren sie sich rein auf die Geometrie – die Formen und Abstände. Um sicherzustellen, dass sie nicht nur raten, gibt es einen Distogramm-Supervisor. Dies ist wie ein strenger Chefkoch, der ständig den Radarbildschirm überprüft und fragt: „Siehst du wirklich die richtigen Abstände zwischen diesen Zutaten?“ Dies hält das Modell ehrlich und stellt sicher, dass es die 3D-Struktur versteht und nicht nur eine Liste von Wörtern.

Die Ergebnisse: Gut, aber noch nicht das Beste (yet)

Als die Autoren diesen neuen Assistenten gegen die alte Nachbarschafts-Tratschmethode (LigandMPNN) testeten, waren die Ergebnisse eine Mischung aus beeindruckender Effizienz und ehrlichen Einschränkungen.

Die Punktzahl: In einem Test mit niedermolekularen Gewürzen bekam UMA-Inverse 56,1 % der Zutaten richtig. Die alte Methode, die unter exakt denselben Bedingungen von den Autoren getestet wurde, erreichte 59,8 %. Für Metall-Gewürze erzielte UMA-Inverse 55,1 % gegenüber 64,4 % für die alte Methode. Für Nukleotid-Gewürze (DNA/RNA) erreichte es 35,3 % im Vergleich zu 53,3 %.
Das Urteil: In der Arbeit wird explizit festgestellt, dass UMA-Inverse LigandMPNN in der Genauigkeit nicht übertrifft. Es liegt dahinter zurück. Es ist jedoch viel kleiner und schneller, mit nur etwa 3,3 Millionen Parametern (im Vergleich zu den größeren Modellen da draußen).

Die Superkraft: Das Gewürz aus der Ferne hören

Hier glänzt UMA-Inverse. Während die alte Tratschkette (LigandMPNN) aufhört, das Signal des Gewürzes zu hören, sobald man sich etwa 10 Ångström entfernt (eine winzige Distanz, aber groß in molekularen Begriffen), hält UMA-Inverse das Signal lebendig.

Die Autoren haben dies gemessen, indem sie untersuchten, wie stark sich die Vorhersagen des Modells änderten, wenn das Gewürz vorhanden war im Vergleich dazu, wenn es verborgen war. In Entfernungen jenseits von 10 Å sank das Signal der alten Methode auf nahezu Null. UMA-Inverse hingegen behielt ein starkes Signal bis zu 25 Å und darüber hinaus bei. Tatsächlich war das Signal von UMA-Inverse an den am weitesten entfernten Punkten bis zu 30 Mal stärker als das der alten Methode.

Der Haken: Nur weil das Modell das Gewürz aus der Ferne hört, bedeutet das nicht, dass es diese Information auch nutzt, um ein besseres Gericht zu kochen. Die Arbeit fand heraus, dass dieses verbesserte Hören sich nicht in besseren Werten für das fertige Rezept niederschlug. Das Modell ist großartig darin zu wissen: „Das Gewürz ist dort drüben“, aber es hat immer noch Schwierigkeiten, dieses Wissen zu nutzen, um die perfekten Zutaten so gut auszuwählen wie die ältere Methode der Tratschkette.

Der „DNA“-Fehler

Es gab einen spezifischen Fehler, den die Arbeit hervorhebt. Wenn das „Gewürz“ ein großes DNA- oder RNA-Molekül war, konnte UMA-Inverse ein Basismodell, das das Gewürz gar nicht erst berücksichtigte, nicht verbessern. Die Autoren erklären dies damit, dass der Radarbildschirm eine Grenze hat: Er kann nur die 50 nächsten Atome zum Zentrum des Proteins verfolgen. Für ein winziges Gewürz ist das das gesamte Teil. Aber für einen riesigen DNA-Strang mit Hunderten von Atomen sieht der Radar nur ein winziges, nutzloses Stück davon. Die alte Tratschmethode hingegen schickt einen lokalen Scout zu jedem Teil der DNA, sodass sie nichts übersieht.

Das Fazit

UMA-Inverse ist ein kompakter, effizienter Baseline-Ansatz, der beweist, dass ein dichter, alles sehender Radarbildschirm ein praktikabler Weg zum Design von Proteinen ist. Es faltet sich erfolgreich in stabile Formen und bindet an Liganden, aber es hinkt dem etablierten LigandMPNN derzeit noch hinterher, wenn es darum geht, die exakte Sequenz zu treffen.

Die Autoren legen nahe, dass die Zukunft nicht darin besteht, sich zwischen dem einen oder dem anderen zu entscheiden, sondern vielleicht eine Hybrid-Küche zu bauen: Den dichten Radar für die Gesamtform und die Signale über lange Distanzen zu nutzen, während man die lokalen Scouts (wie die alte Tratschkette) behält, um die massiven, komplexen Details von DNA und RNA zu handhaben. Bis dahin bleibt UMA-Inverse ein faszinierendes, kleineres und überraschend „bewusstes“ Werkzeug, das uns zeigt, wie weit der Einfluss eines Liganden in einem Protein reichen kann, auch wenn es die Kunst, das perfekte Gericht zu kochen, noch nicht ganz gemeistert hat.

Technisches Resümee: UMA-Inverse

Problemstellung

Das Protein-Inverse-Folding zielt darauf ab, Aminosäuresequenzen zu entwerfen, die eine spezifische, feste Rückgratstruktur einnehmen. Während autoregressive Graph Neural Network (GNN)-Modelle wie ProteinMPNN und LigandMPNN zum Standard für diese Aufgabe geworden sind, stützen sie sich auf dünnbesetzte $k$ -nächste-Nachbarn ( $k$ -NN)-Graphen. Diese Architektur beschränkt inhärent den Informationsfluss über lange Distanzen, da ferne Residuen nur durch Ketten lokaler Message-Passing-Schritte kommunizieren können. Diese Einschränkung könnte die Fähigkeit des Modells behindern, allosterische Beziehungen oder Schicht-für-Schicht-geometrische Abhängigkeiten zwischen einem Liganden und den Residuen fernab der Bindungsschnittstelle zu kodieren. Darüber hinaus ist LigandMPNN zwar erfolgreich in der Konditionierung auf Liganden, erreicht seine Genauitätsgrenze jedoch nur für spezifische Splits; größere, komplexere Modelle berichten in jüngster Zeit von höheren Recovery-Raten. Die zentrale Frage, die hier adressiert wird, lautet, ob eine dichte Paar-Repräsentationsarchitektur, inspiriert durch die geometrischen Denkfähigkeiten des Evoformers von AlphaFold, das ligandenkonditionierte Inverse Folding verbessern kann, während gleichzeitig die Recheneffizienz gewahrt bleibt.

Methodik

UMA-Inverse ist ein liganden- und nukleinsäurekonditioniertes Inverse-Folding-Modell, das den dünnbesetzten GNN-Encoder von LigandMPNN durch einen dichten All-Pairs-Paar-Tensor-Encoder ersetzt.

Architektur

Das Modell besteht aus vier Hauptphasen:

Featurization: Residuen werden über Rückgrat-Diederwinkel ( $\phi, \psi, \omega$ ) kodiert. Liganden- und Nukleinsäureatome werden mittels atomarer Merkmale (Typ, Gruppe, Periode) kodiert. Paarweise Merkmale umfassen 25 Rückgrat-Distanzen für Residue-Residue-Paare sowie 5 Backbone-zu-Ligand-Distanzen plus relative Frame-Winkel für Residue-Ligand-Paare.
Pair-Tensor-Initialisierung: Ein dichter $N \times N \times d$ Tensor ( $d=128$ ) wird unter Verwendung von Knotenmerkmalen, Radial Basis Function (RBF)-Embeddings der Inter-Knoten-Distanzen und gelernten relativen Positions-Embeddings initialisiert.
PairMixer-Encoder: Die zentrale Innovation ist ein sechs-Block-Encoder basierend auf dem PairMixer-Design. Im Gegensatz zum vollständigen AlphaFold2 Evoformer verzichtet er auf die Triangle Self-Attention und den Sequence-Track, um die Rechenkosten zu senken. Er behält jedoch die Triangel-Multiplikation (Aktualisierung von $z_{ij}$ unter Verwendung von $z_{ik}$ und $z_{kj}$ ) und Transition MLPs bei. Dies ermöglicht es dem Modell, Drei-Körper-Geometrie-Beziehungen über alle Residue-Tripletts und Residue-Ligand-Paare hinweg zu erfassen.
Autoregressiver Decoder: Sequenzen werden in zufälliger Reihenfolge dekodiert. Ein wesentlicher Unterschied zu Standard-Mean-Pooling-Baselines ist der gelernte Ligand-Attention-Decoder. Anstatt die Information der Residue-Ligand-Paare einheitlich zu mitteln, berechnet jedes Residuum $i$ ein positionsspezifisches Attention-Gewicht über die Ligandenatome ( $\alpha_{i\ell}$ ), um einen Kontextvektor $s_i$ zu lesen. Dies ermöglicht es Interface-Residuen, scharf auf koordinierende Atome zu achten, während distale Residuen das Ligandenfeld diffuser integrieren.

Training und Hilfsziele

Curriculum Learning: Das Training erfolgt in drei Stufen mit zunehmender Strukturgröße (64 $\to$ 128 $\to$ 384 Knoten), um den strukturellen Kontext progressiv aufzubauen.
Distogram-Supervision: Ein Hilfs-Distogram-Head wird während des Trainings hinzugefügt, um binierte Inter-Residue-Distanzen aus dem Paar-Tensor vorherzusagen. Dies zwingt den Encoder dazu, eine explizite, struktur-prädiktive geometrische Repräsentation aufrechtzuerhalten. Der Gesamtverlust ist $L = L_{CE} + 0.2 L_{distogram}$ .
Nukleinsäure-Routing: DNA/RNA-Ketten werden in den Liganden-Atom-Pool geroutet (begrenzt auf die 50 Atome, die dem Proteinzentrum am nächsten liegen), um eine Nukleotid-Konditionierung zu ermöglichen, obwohl das Paper anmerkt, dass diese spezifische Routing-Strategie Einschränkungen hat (siehe Ergebnisse).

Zentrale Beiträge

Dichte Paar-Architektur für das Inverse Folding: Die Einführung eines reduzierten Pairformers (nur Triangel-Multiplikation) als Encoder für das ligandenkonditionierte Inverse Folding, was zeigt, dass explizites All-Pairs-Geometrie-Reasoning für das Sequenzdesign praktikabel ist.
Distogram-supervidierte Geometrie: Die Verwendung eines Hilfs-Distogram-Ziels, um sicherzustellen, dass der Paar-Tensor explizit struktur-prädiktiv bleibt und verhindert, dass der Encoder in einen Sequenz-only-Shortcut kollabiert.
Gelernte Ligand-Attention: Ein Decoder-Mechanismus, der Residue-Vorhersagen auf positionsspezifische Liganden-Kontexte konditioniert statt auf uniforme Mittelwerte, was die Divergenz der Vorhersagen distaler Residuen in Mean-Pooling-Baselines adressiert.
Kompakter Baseline: Ein Modell mit nur ~3,3 Millionen Parametern (vergleichbar mit den ~2,5 Mio. von LigandMPNN), das als kompakter Single-Pass-Alternativ zu größeren generativen Modellen dient.
Charakterisierung der Repräsentation: Eine empirische Analyse, die zeigt, dass der dichte Encoder die Identität des Liganden an Residuen weit über die Bindungsschnittstelle hinaus überträgt (bis zu ~30 $\times$ das Signal von LigandMPNN in distalen Schalen), eine Eigenschaft, die in spärlichen Graph-Modellen nicht beobachtet wird.

Ergebnisse

Sequenz-Recovery

Evaluierung auf den Standard-LigandMPNN-Test-Splits (Small Molecule, Metal, Nucleotide) unter Verwendung eines identischen Protokolls (10 autoregressive Samples, $T=0.1$ , 5Å Interface-Cutoff):

Small Molecule: UMA-Inverse erreicht 56,1 % Recovery gegenüber 59,8 % von LigandMPNN (vom Autor neu berechnet; veröffentlicht: 63,3 %).
Metal: UMA-Inverse erreicht 55,1 % gegenüber 64,4 % von LigandMPNN (neu berechnet; veröffentlicht: 77,5 %).
Nucleotide: UMA-Inverse erreicht 35,3 %, was dem liganden-agnostischen ProteinMPNN (34,0 %) entspricht, aber hinter LigandMPNN (53,3 %) zurückbleibt.
Teacher-Forced Recovery: 66,1 % auf dem Validierungsset.

Strukturelle Validierung (Pocket-Fixed Design)

In einem Szenario, in dem die Bindungstasche fixiert und der Rest des Proteins neu entworfen wird:

Faltbarkeit: Die Designs falten sich zuverlässig und sind ligandenbindungs-kompetent unter Boltz-2 Co-Folding (Ligand ipTM $\approx$ 0,96).
Pose-Genauigkeit: UMA-Inverse-Designs ergeben einen medianen Ligand-Pose-RMSD von 1,53 Å, was nahe am nativen Sequenz-Floor (0,90 Å) liegt, aber etwas schlechter ist als LigandMPNN (1,27 Å).
Distale Recovery: LigandMPNN stellt distale (Nicht-Taschen-)Positionen besser wieder (53,7 % vs. 48,3 %).

Analyse des distalen Signals

Eine KL-Divergenz-Analyse des Liganden-Konditionierungssignals im Verhältnis zur Distanz zeigt einen drastischen Unterschied:

LigandMPNN: Das Signal kollabiert jenseits von 10 Å auf nahezu Null.
UMA-Inverse: Behält ein substanzielles Signal (0,09–0,16 KL) über 25 Å bei und propagiert die Ligandenidentität deutlich stärker in distale Schalen als der spärliche Graph-Baseline.

Bedeutung und Ansprüche

Das Paper positioniert UMA-Inverse nicht als State-of-the-Art Design-Tool, das die Genauigkeit von LigandMPNN übertrifft, sondern als einen kompakten Baseline und ein Vehikel für spezifische architektonische Erkenntnisse.

Machbarkeit dichter Encoder: Es demonstriert, dass ein dichter All-Pairs-Encoder, der durch ein Distogram supervidiert wird, eine praktikable Architektur für das ligandenkonditionierte Inverse Folding darstellt und kompetitive Ergebnisse auf Small-Molecule- und Metal-Splits erzielt, obwohl es ein Single-Pass-Modell ist.
Repräsentativer Unterschied: Der primäre Beitrag ist die Charakterisierung dessen, wie dichte Encoder Informationen verteilen. Im Gegensatz zu spärlichen Graphen, die Ligandensignale auf die lokale Nachbarschaft beschränken, propagiert UMA-Inverse die Ligandenidentität global durch die Faltung.
Limitierungen und zukünftige Richtungen: Die Autoren räumen explizit ein, dass die aktuelle dichte Architektur aufgrund der „globalen Atom-Budget“-Beschränkung (Begrenzung der Ligandenatome auf 50, um die $O(L^3)$ -Komplexität der Triangel-Multiplikation zu bewältigen) bei Nukleotid-Partnern versagt. Sie argumentieren, dass eine hybride Architektur – die den dichten Residue-Residue-Tensor für die Geometrie beibehält, aber ein separates, pro-Residue Atom-Kontext-Modul für Liganden nutzt – der notwendige Weg wäre, um das Nukleotid-Design zu optimieren und die Liganden-Abdeckung von den kubischen Rechenkosten zu entkoppeln.
Reproduzierbarkeit: Das Paper hebt Diskrepanzen zwischen ihrem Re-Run von LigandMPNN und den veröffentlichten Zahlen hervor (insbesondere bei Metallen) und legt nahe, dass kontrollierte Protokollvergleiche für exakte Benchmarks essenziell sind. Es merkt zudem Probleme bei der Stabilität von PDB-Accession-Codes in bestehenden Splits und das Vorhandensein nicht-physiologischer Metallionen in Testsets an.

Zusammenfassend bietet UMA-Inverse einen Proof-of-Concept dafür, dass dichtes geometrisches Reasoning effizient auf das Inverse Folding angewendet werden kann. Es liefert eine neue Perspektive darauf, wie Ligandeninformationen durch Proteinstrukturen propagiert werden, auch wenn es in der rohen Sequenz-Recovery-Genauigkeit derzeit hinter spezialisierten Sparse-Graph-Baselines zurückbleibt.