🧬 biology

UMA-Inverse: Ligand-Conditioned Protein Inverse Folding with a Distogram-Supervised Dense Pair Encoder

Dit artikel introduceert UMA-Inverse, een compact, ligand-geconditioneerd inverse folding-model dat een dichte paar-representatie encoder gebruikt om ligandinformatie verder te verspreiden dan de bindingsinterface, waarmee het een competitieve prestatie levert ten opzien van LigandMPNN terwijl het nieuwe inzichten biedt in hoe all-pair encoders ligand-signalen distribueren.

Oorspronkelijke auteurs: William Sobolewski

Gepubliceerd 2026-07-10✓ Author reviewed ⓘ

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: William Sobolewski

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ⚕️ Dit is een AI-gegenereerde uitleg van een preprint die niet peer-reviewed is. Dit is geen medisch advies. Neem geen gezondheidsbeslissingen op basis van deze inhoud. Lees de volledige disclaimer

Stel je voor dat je een meesterkok bent die probeert een geheim recept te recreëren voor een gerecht dat alleen bestaat wanneer een specifieke, zeldzame specerij (het ligand) aan de pan wordt toegevoegd. Je doel is om de exacte lijst met ingrediënten (de eiwitsequentie) op te schrijven die ervoor zorgen dat het gerecht precies goed smaakt en zijn vorm behoudt.

Lama tijd lang was de beste methode voor chefs een methode genaamd LigandMPNN. Zie dit als een buurtgeruchtenketen: om te achterhalen hoe de specerij de hele pan beïnvloedt, vraagt de chef het ingrediënt direct naast de specerij, dat het vervolgens weer vraagt aan de buurman ernaast, enzovoort. De boodschap reist stap voor stap. Het werkt goed, maar als de specerij onderin een enorme pan zit, zullen de ingrediënten aan de bovenkant de informatie misschien nooit horen.

Maak kennis met UMA-Inverse, een nieuwe, compacte keukienassistent gemaakt door William Sobolewski. In plaats van een buurtgeruchtenketen gebruikt UMA-Inverse een dense pair-representation encoder. Stel je dit voor als een magisch, allesziend radarscherm dat elk ingrediënt met elk ander ingrediënt en de specerij tegelijkertijd verbindt. Het stuurt niet alleen een boodschap langs een lijn; het werkt de volledige kaart van de pan in één keer bij.

Het Magische Radarscherm en de "Driehoeks"-truc

UMA-Inverse is gebouwd op een slimme afkorting. Het gebruikt een systeem van zes blokken genaamd de PairMixer. Denk aan een team van zes chefs die constant de afstanden tussen elk paar ingrediënten controleren met behulp van een speciale "driehoeksvermenigvuldigingsregel". Ze kijken naar hoe drie punten (twee ingrediënten en de specerij, of drie ingrediënten) zich tot elkaar verhouden om de vorm van het gerecht te begrijpen.

Cruciaal is dat dit team het zware werk van "self-attention" (waarbij elk ingrediënt probeert met elk ander ingrediënt te praten op een complexe manier) overslaat om tijd te besparen. In plaats daarvan richten ze zich puur op de geometrie — de vormen en afstanden. Om er zeker van te zijn dat ze niet alleen maar gokken, hebben ze een distogram supervisor. Dit is als een strenge chef-kok die constant het radarscherm controleert en vraagt: "Zie je ook echt de juiste afstanden tussen deze ingrediënten?" Dit houdt het model eerlijk en zorgt ervoor dat het de 3D-structuur begrijpt, en niet alleen een lijst met woorden.

De Resultaten: Goed, maar Nog Niet de Beste (Nog)

Toen de auteurs deze nieuwe assistent testten tegenover de oude buurtgeruchtenmethode (LigandMPNN), waren de resultaten een mix van indrukwekkende efficiëntie en eerlijke beperkingen.

De Score: Bij een test met kleine moleculaire specerijen kreeg UMA-Inverse 56,1% van de ingrediënten goed. De oude methode, getest onder exact dezelfde omstandigheden door de auteurs, behaalde 59,8%. Voor metalen specerijen scoorde UMA-Inverse 55,1% tegenover 64,4% voor de oude methode. Voor nucleotide (DNA/RNA) specerijen scoorde het 35,3% vergeleken met 53,3%.
Het Oordeel: Het paper stelt expliciet dat UMA-Inverse LigandMPNN niet overtreft in nauwkeurigheid. Het blijft achter. Het is echter veel kleiner en sneller, met slechts ongeveer 3,3 miljoen parameters (vergeleken met de grotere modellen die er zijn).

De Superkracht: De Specerij van Ver Af Horen

Hier blinkt UMA-Inverse uit. Terwijl de oude geruchtenketen (LigandMPNN) de signalen van de specerij stopt zodra je ongeveer 10 Ångström verwijderd bent (een kleine afstand, maar ver in moleculaire termen), houdt UMA-Inverse het signaal levend.

De auteurs maten dit door te kijken naar hoeveel de voorspellingen van het model veranderden wanneer de specerij aanwezig was versus wanneer deze verborgen was. Op afstanden groter dan 10 Å zakte het signaal van de oude methode naar bijna nul. UMA-Inverse behield echter een sterk signaal tot wel 25 Å en verder. Sterker nog, op de verste punten was het signaal van UMA-Inverse tot wel 30 keer sterker dan dat van de oude methode.

De Addenda: Alleen omdat het model de specerij van ver kan horen, betekent niet dat het die informatie ook gebruikt om een beter gerecht te koken. Het paper vond dat dit extra "gehoor" niet vertaalde naar betere scores voor het uiteindelijke recept. Het model is erg goed in weten "de specerij is daar", maar het worstelt nog steeds met het gebruiken van die kennis om de perfecte ingrediënten te kiezen, net zo goed als de oudere methode met de geruchtenketen.

De "DNA"-fout

Er was één specifieke fout die het paper belichtte. Wanneer de "specerij" een groot DNA- of RNA-molecuul was, slaagde UMA-Inverse er niet in om te verbeteren ten opzichte van een basismodel dat niet eens naar de specerij keek. De auteurs leggen uit dat het radarscherm een limiet heeft: het kan slechts de 50 dichtstbijzijnde atomen rond het centrum van het eiwit volgen. Voor een kleine specerij is dat het hele ding. Maar voor een gigantische DNA-streng met honderden atomen ziet de radar slechts een klein, nutteloos fragment. De oude geruchtenmethode stuurt daarente daarentegen een lokale verkenner naar elk deel van het DNA, zodat er niets gemist wordt.

De Kern van het Verhaal

UMA-Inverse is een compacte, efficiënte baseline die bewijst dat een dicht, allesziend radarscherm een levensvatbare manier is om eiwitten te ontwerpen. Het slaagt erin om stabiele vormen aan te nemen en te binden aan liganden, maar het loopt momenteel achter op de gevestigde LigandMPNN als het gaat om het krijgen van de exacte sequentie.

De auteurs suggereren dat de toekomst niet gaat over het kiezen tussen de een of de ander, maar misschien over het bouwen van een hybride keuken: het gebruik van de dichte radar voor de algemene vorm en signalen op lange afstand, maar het behouden van de lokale verkenners (zoals de oude geruchtenketen) om de enorme, complexe details van DNA en RNA af te handelen. Tot die tijd blijft UMA-Inverse een fascinerend, kleiner en verrassend "bewust" instrument dat ons laat zien hoe ver de invloed van een ligand kan reiken, zelfs als het de kunst van het koken van het perfecte gerecht nog niet helemaal onder de knie heeft.

Technische Samenvatting: UMA-Inverse

Probleemstelling

Eiwit inverse folding streeft naar het ontwerpen van aminozuursequenties die een specifieke, vaste backbone-structuur aannemen. Hoewel autoregressieve Graph Neural Network (GNN) modellen zoals ProteinMPNN en LigandMPNN de standaard zijn geworden voor deze taak, vertrouwen zij op ijle $k$ -nearest-neighbor ( $k$ -NN) grafen. Deze architectuur beperkt inherent de informatiestroom over lange afstanden, aangezien verre residuen alleen communiceren via ketens van lokale message-passing stappen. Deze beperking kan het vermogen van het model hinderen om allosterische relaties of shell-voor-shell geometrische afhankelijkheden tussen een ligand en residuen ver van de bindingsinterface te coderen. Bovendien, hoewel LigandMPNN conditioneel is op liganden, blijft het slechts de nauwkeurigheidsgrens voor specifieke splits; recentere, complexere modellen rapporteren hogere recovery rates. De centrale vraag die wordt geadresseerd is of een dense pair-representation architectuur, geïnspireerd door de geometrische redeneergaven van AlphaFold's Evoformer, de ligand-geconditioneerde inverse folding kan verbeteren met behoud van computationele efficiëntie.

Methodologie

UMA-Inverse is een ligand- en nucleïnezuur-geconditioneerd inverse-folding model dat de ijle GNN-encoder van LigandMPNN vervangt door een dense, all-pairs pair-tensor encoder.

Architectuur

Het model bestaat uit vier hoofdfasen:

Featurization: Residuen worden gecodeerd via backbone dihedrale hoeken ( $\phi, \psi, \omega$ ). Ligand- en nucleïnezuuratomen worden gecodeerd met behulp van atomaire kenmerken (type, groep, periode). Pairwise kenmerken omvatten 25 backbone afstanden voor residue-residue paren en 5 backbone-naar-ligand afstanden plus relatieve framehoeken voor residue-ligand paren.
Pair-Tensor Initialisatie: Een dense $N \times N \times d$ tensor ( $d=128$ ) wordt geïnitialiseerd met behulp van node features, radial basis function (RBF) embeddings van inter-node afstanden en geleerde relatieve positie-embeddings.
PairMixer Encoder: De kerninnovatie is een zes-blokken encoder gebaseerd op het PairMixer ontwerp. In tegenstelling tot de volledige AlphaFold2 Evoformer, laat het de triangle self-attention en de sequence track weg om de computationele kosten te verlagen. Het behoudt triangle multiplication (het updaten van $z_{ij}$ met behulp van $z_{ik}$ en $z_{kj}$ ) en transition MLPs. Dit stelt het model in staat om drie-lichaam geometrische relaties te vangen over alle residue-triplets en residue-ligand paren.
Autoregressieve Decoder: Sequenties worden in willekeurige volgorde gedecodeerd. Een cruciaal onderscheid met standaard mean-pooling baselines is de geleerde ligand-attention decoder. In plaats van residue-ligand paren uniform te middelen, berekent elk residu $i$ een positie-specifiek attention gewicht over de ligandatomen ( $\alpha_{i\ell}$ ) om een contextvector $s_i$ te lezen. Dit stelt interface-residuen in staat om scherp te letten op coördinerende atomen, terwijl distale residuen het ligandveld diffuser integreren.

Training en Auxiliaire Objectives

Curriculum Learning: Training verloopt in drie stadia met toenemende structuurafmetingen (64 $\to$ 128 $\to$ 384 nodes) om progressief structurele context op te bouwen.
Distogram Supervisie: Een auxilaire distogram head wordt toegevoegd tijdens de training om gebinde inter-residue afstanden vanuit de pair tensor te voorspellen. Dit dwingt de encoder om een expliciete, structuur-predictieve geometrische representatie te behouden. De totale loss is $L = L_{CE} + 0.2 L_{distogram}$ .
Nucleic Acid Routing: DNA/RNA ketens worden gerouteerd naar de ligand-atoompool (beperkt tot de 50 atomen dichtst bij het eiwitcentrum) om nucleotide-conditionering mogelijk te maken, hoewel het artikel opmerkt dat deze specifieke routeringsstrategie beperkingen heeft (zie Resultaten).

Belangrijkste Bijdragen

Dense Pair Architectuur voor Inverse Folding: De introductie van een vereenvoudigde Pairformer (alleen Triangle Multiplication) als encoder voor ligand-geconditioneerde inverse folding, wat aantoont dat expliciete all-pair geometrische redenering levensvatbaar is voor sequentie-ontwerp.
Distogram-Gesuperviseerde Geometrie: Het gebruik van een auxilaire distogram objective om ervoor te zorgen dat de pair tensor expliciet structuur-predictief blijft, wat voorkomt dat de encoder vervalt in een sequentie-alleen shortcut.
Geleerde Ligand Attention: Een decoder mechanisme dat residue-voorspellingen conditioneert op positie-specifieke ligand-contexten in plaats van uniforme gemiddelden, wat de divergentie van distale residue-voorspellingen in mean-pool baselines aanpakt.
Compact Baseline: Een model met slechts ~3,3 miljoen parameters (vergelijkbaar met de ~2,5M van LigandMPNN) dat dient als een compact, single-pass alternatief voor grotere generatieve modellen.
Representatieve Karakterisering: Een empirische analyse die aantoont dat de dense encoder de identiteit van het ligand voortplant naar residuen ver buiten de bindingsinterface (tot wel ~30 $\times$ het signaal van LigandMPNN in distale shells), een eigenschap die niet wordt waargenomen in ijle graafmodellen.

Resultaten

Sequence Recovery

Geëvalueerd op de standaard LigandMPNN test-splits (Small Molecule, Metal, Nucleotide) met een overeenkomend protocol (10 autoregressieve samples, $T=0.1$ , 5Å interface cutoff):

Small Molecule: UMA-Inverse bereikt 56,1% recovery versus de 59,8% van LigandMPNN (opnieuw gedraaid door auteurs; gepubliceerd: 63,3%).
Metal: UMA-Inverse bereikt 55,1% versus de 64,4% van LigandMPNN (opnieuw gedraaid; gepubliceerd: 77,5%).
Nucleotide: UMA-Inverse bereikt 35,3%, wat overeenkomt met de ligand-agnostische ProteinMPNN (34,0%), maar achterblijft bij LigandMPNN (53,3%).
Teacher-Forced Recovery: 66,1% op de validatieset.

Structurele Validatie (Pocket-Fixed Design)

In een setting waar de bindingspocket vaststaat en de rest van het eiwit wordt herontworpen:

Foldability: Ontwerpen vouwen met vertrouwen en zijn ligand-bindingsbekwaam onder Boltz-2 cofolding (ligand ipTM $\approx$ 0.96).
Pose Accuraatheid: UMA-Inverse ontwerpen leveren een mediane ligand-pose RMSD van 1,53 Å, wat dicht bij de natuurlijke sequentie vloer ligt (0,90 Å) maar iets slechter is dan LigandMPNN (1,27 Å).
Distale Recovery: LigandMPNN herstelt distale (niet-pocket) posities beter (53,7% vs. 48,3%).

Distale Signaal Analyse

Een KL-divergentie analyse van de ligand-conditionering signaal versus afstand onthult een scherp verschil:

LigandMPNN: Signaal stort in tot bijna nul voorbij 10 Å.
UMA-Inverse: Behoudt een substantieel signaal (0,09–0,16 KL) voorbij 25 Å, waardoor de identiteit van het ligand vele malen sterker wordt voortgeplant naar distale residuen dan de ijle graaf baseline.

Betekenis en Claims

Het artikel positioneert UMA-Inverse niet als een state-of-the-art design tool die de nauwkeurigheid van LigandMPNN overtreft, maar als een compacte baseline en een voertuig voor specifieke architecturale inzichten.

Levensvatbaarheid van Dense Encoders: Het demonstreert dat een dense, all-pairs encoder gesuperviseerd door een distogram een levensvatbare architectuur is voor ligand-geconditioneerde inverse folding, waarbij competitieve resultaten worden behaald op small-molecule en metal splits ondanks dat het een single-pass model is.
Representatief Verschil: De primaire bijdrage is de karakterisering van hoe dense encoders informatie distribueren. In tegenstelling tot ijle grafen die ligand-signalen beperken tot de lokale omgeving, verspreidt UMA-Inverse de identiteit van het ligand globaal over de fold.
Beperkingen en Toekomstige Richtingen: De auteurs erkennen expliciet dat de huidige dense architectuur faalt op nucleotide partners vanwege de "globale atoom budget" beperking (het beperken van ligandatomen tot 50 om de $O(L^3)$ complexiteit van triangle multiplication te beheersen). Zij stellen dat een hybride architectuur — waarbij de dense residue-residue tensor voor geometrie behouden blijft terwijl een aparte, per-residue atoom-context module voor liganden wordt gebruikt — de noodzakelijke weg vooruit is om nucleotide design te verbeteren en ligand dekking te ontkoppelen van de cubische computationele kosten.
Reproduceerbaarheid: Het artikel wijst op discrepanties tussen hun herloop van LigandMPNN en de gepubliceerde cijfers (met name voor metalen), wat suggereert dat gecontroleerde protocolvergelijkingen essentieel zijn voor nauwkeurige benchmarking. Het merkt ook problemen op met de stabiliteit van PDB accession codes in bestaande splits en de aanwezigheid van niet-fysiologische metaalionen in testsets.

Samenvattend biedt UMA-Inverse een proof-of-concept dat dense geometrische redenering met hoge efficiëntie kan worden toegepast op inverse folding, wat een nieuw perspectief biedt op hoe ligandinformatie door eiwitstructuren wordt voortgeplant, zelfs als het momenteel achterblijft bij de gespecialiseerde sparse-graph baselines in ruwe sequentie-recovery nauwkeurigheid.