🤖 machine learning

Emyx: Fast and efficient all-atom protein generation

Emyx is een uiterst efficiënt 140M-parameter conditional flow matching-model dat state-of-the-art all-atom proteïnegeneratoren zoals RFdiffusion en ProteinComplexa overtreft in benchmarks voor enzymontwerp, terwijl het vier keer minder trainingsrekenkracht vereist door gebruik te maken van lichtgewicht conditionele representaties en een nieuwe herparametrisatie voor optimale sampling.

Oorspronkelijke auteurs: Nicholas J. Williams, Ward Haddadin, Matteo P. Ferla, Constantin Schneider, Nicholas B. Woodall, Ruby Sedgwick, Christian D. Madsen, Andrew L. Hopkins, Edward O. Pyzer-Knapp

Gepubliceerd 2026-06-19

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Nicholas J. Williams, Ward Haddadin, Matteo P. Ferla, Constantin Schneider, Nicholas B. Woodall, Ruby Sedgwick, Christian D. Madsen, Andrew L. Hopkins, Edward O. Pyzer-Knapp

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een architect bent die een op maat gemaakt huis probeert te bouwen. Maar er is een addertje onder het gras: je mag niet het hele ontwerp vanaf nul ontwerpen. Je krijgt een specifieke, niet-onderhandelbare kamer toegewezen (laten we het de "katalytische kamer" noemen) waar een zeer delicate machine moet staan. Jouw taak is om de rest van het huis (het "steigerwerk") rondom deze kamer te bouwen, zodat de hele structuur stabiel is, uniek oogt en niet instort.

Dit is precies wat wetenschappers doen wanneer ze nieuwe enzymen ontwerpen (de kleine machines van de natuur). Ze moeten een eiwitstructuur genereren die een specifieke chemische "kamer" op zijn plaats houdt.

De paper introduceert Emyx, een nieuw computerprogramma dat is ontworpen om dit architecturale puzzel sneller, goedkoper en beter op te lossen dan eerdere tools. Hier is hoe het werkt, uitgelegd aan de hand van eenvoudige concepten:

1. Het Probleem: De "Zware" Architecten

Eerdere computermodellen voor het ontwerpen van eiwitten waren als het proberen te bouwen van een huis met een enorme, zware kraan die oorspronkelijk gebouwd was om te voorspellen hoe een bestaand huis eruitziet.

Het Probleen: Deze oude modellen waren massief, duur in gebruik (zoals het betalen voor een luxe bouwploeg) en produceerden vaak huizen die er van buiten oké uitzagen, maar van binnen vreemde, kapotte muren hadden. Ze waren ook erg vergelijkbaar met elkaar, waardoor het aan creativiteit ontbrak.
Het Inzicht van de Paper: De auteurs realiseerden zich dat je om een nieuw huis te bouwen, niet dezelfde zware machines nodig hebt die gebruikt worden om een oud huis te analyseren. Je hebt alleen een lichtgewicht, wendbaar hulpmiddel nodig dat zich richt op de specifieke beperkingen (de "katalytische kamer") in plaats van te proberen elk mogelijk huis ooit gebouwd te onthouden.

2. De Oplossing: Emyx (De "Lichtgewicht" Architect)

Emyx is een nieuw model dat veel kleiner en slimmer is.

De "Rep14" Truc: In plaats van te proberen elke individuele steen (atoom) op een rommelige manier te volgen, groepeert Emyx ze in "tokens" (zoals residuen). Het behandelt elke groep als een kleine, vaste doos met 14 sleuven. Als een doos geen 14 echte stenen bevat, vult het de lege plekken aan met "geeststenen" die als tijdelijke aanduidingen dienen. Dit houdt de wiskunde schoon en snel.
Sparse Verbindingen: Stel je een stad voor waar elk gebouw via een weg verbonden is met elk ander gebouw. Dat is een verkeersopstopping (te veel data). Emyx bouwt alleen wegen tussen gebouwen die daadwerkelijk met elkaar moeten communiceren (buren of specifieke chemische bindingen). Dit bespaart een enorme hoeveelheid energie en geheugen.
De "Transformer" Motor: In de kern gebruikt Emyx een standaard, efficiënte motor (een Transformer) die erg goed is in het begrijpen van patronen, maar het stript alle extra, zware accessoires weg die andere modellen met zich meedragen.

3. Het Geheim: De "EDM" Upgrade

De paper noemt een technische truc genaamd EDM reparametrisatie.

De Analogie: Stel je voor dat je de weg uit een mistig doolhof probeert te vinden.
- De Oude Manier (SDE): Je zet kleine, willekeurige stappen in de hoop dat je geen muur raakt. Het is veilig maar traag en je komt soms vast te zitten.
- De Manier van Emyx (EDM): De auteurs hebben een manier gevonden om hun kaart te vertalen zodat ze een "slim kompas" kunnen gebruiken (een methode die oorspronkelijk is ontworpen voor een ander type AI). Dit kompas stelt hen in staat om grotere, meer zelfverzekerde stappen te zetten en hun pad direct te corrigeren als ze afwijken.
Het Resultaat: Ze hoefden niet het hele model opnieuw te bouwen om dit kompas te krijgen; ze veranderden alleen de manier waarop ze de kaart lazen. Dit maakte de uiteindelijke ontwerpen veel waarschijnlijker succesvol.

4. De Resultaten: Sneller, Goedkoper en Beter

De auteurs hebben Emyx getest tegen twee andere topmodellen (RFdiffusion3 en Proteína-Complexa) met een strikte test genaamd de AME benchmark.

De Test: Kan het model een stabiel eiwit bouwen rondom een specifieke chemische kamer? En vouwt het hele eiwit zich correct?
De Score:
- RFdiffusion3: Loste ongeveer 6,7% van de puzzels op.
- Proteína-Complexa: Loste ongeveer 8,8% van de puzzels op.
- Emyx: Loste 13,4% op.
De Efficiëntie: Emyx deed dit terwijl het 4 keer minder rekenkracht (trainingskosten) gebruikte dan het op één na beste model. Het is also kind een beter huis te bouwen in de helft van de tijd met een kwart van het budget.
Creativiteit: De huizen die Emyx bouwde, waren ook unieker. Terwijl de andere modellen de neiging hadden om variaties op dezelfde oude ontwerpen te bouwen, creëerde Emyx structuren die meer leken op nieuwe, nog nooit eerder geziene uitvindingen.

5. Waarom het Er Toe Doet (Volgens de Paper)

De paper beweert dat door de architectuur te vereenvoudigen en dit nieuwe "kompas" (EDM) te gebruiken, zij hebben bewezen dat je geen massieve, dure AI nodig hebt om complexe eiwitten te ontwerpen.

Strikte Standaarden: Ze hebben ook een striktere manier geïntroduceerd om deze ontwerpen te beoordelen. Ze realiseerden zich dat eerdere tests te mild waren — ze lieten een ontwerp door simpelweg omdat de "katalytische kamer" er goed uitzag, zelfs als de rest van het huis uit elkaar viel. Emyx slaagde voor de strikte test, wat bewijst dat de hele structuur solide is.
Toegankelijkheid: Omdat het goedkoper en sneller is om uit te voeren, zou deze technologie potentieel toegankelijk kunnen zijn voor meer onderzoekers, niet alleen voor degenen met enorme supercomputers.

Samenvattend: Emyx is een slanke, efficiënte machine voor het ontwerpen van eiwitten. Het liet de zware, dure tools uit het verleden achter, adopteerde een slimmere manier om het ontwerpproces te navigeren, en bewees dat een kleiner, eenvoudiger model daadwerkelijk betere, uniekere en stabielere eiwitstructuren kan boueren dan zijn gigantische concurrenten.

Technische Samenvatting: Emyx – Snelle en Efficiënte All-Atom Proteïnegeneratie

Probleemstelling

Computationeel enzymontwerp vereist het genereren van proteïne-scaffolds die katalytische residuen en liganden met precisie positioneren. Deze taak vereist zowel geometrische nauwkeurigheid als structurele diversiteit. Huidige all-atom generatieve modellen, zoals RFdiffusion3 en Proteína-Complexa, erven complexe architecturen van proteïne-structuurvoorspelling (bijv. dichte paar-representaties, zware embedding-stacks). Deze architecturen resulteren in hoge trainingskosten, beperkte steekproefdiversiteit en vereisen vaak dure inverse vouwingsstappen om hoogwaardige sequenties te genereren. Bovendien kunnen bestaande evaluatiemetrieken (bijv. heavy-atom self-consistency RMSD) succes overschatten door het falen van de verificatie van globaal vouwingsherstel, wat leidt tot ontwerpen die weliswaar voldoen aan lokale motiefbeperkingen, maar niet in staat zijn om stabiele, vouwbare proteïnen te vormen.

Methodologie

Modelarchitectuur

Emyx is een conditional flow matching model met 140 miljoen parameters, ontworpen voor all-atom proteïnegeneratie. In tegenstelling tot voorgangers die vertrouwen op dichte paar-updates en domeinspecifieke embedding-lagen, concentreert Emyx zijn capaciteit binnen standaard transformer-blokken.

Representatie: Het model gebruikt een uniforme twee-niveau representatie. Op atoomniveau worden residuen en liganden gemapt naar een matrix van vaste grootte "Rep14" (14 atoomslots), waarbij ongebruikte posities worden ingevuld met "ghost atoms" die de backbone-coördinaten erven. Op token-niveau vormen residuen en HETATMs een enkel token.
Connectiviteit: In plaats van dichte paar-representaties gebruikt Emyx een ijle (sparse) connectiviteitsgraaf met een vast edge-budget. Edges worden geconstrueerd op basis van sequentie-buren, chemische bindingen, ligand k-NN en motief-connectiviteit.
Transformer Design: De architectuur hanteert een "patchify–process–unpatchify" pijplijn:
1. Atom Encoder: Lichtgewicht transformer-blokken coderen lokale atomaire details binnen de Rep14-representatie.
2. Downcast: Gated cross-attention poolt atoom-representaties naar token-niveau embeddings.
3. Token Trunk: Een diepe transformer trunk (18 lagen) verwerkt langafstands-structurele context met behulp van sparse self-attention met geleerde paar-biases.
4. Upcast: Een tweede cross-attention broadcast de token-context terug naar de atomen.
5. Atom Decoder: Finale transformer-blokken verfijnen de lokale atomaire details voordat de output velocity head wordt aangeroepen.
Modificaties: De standaard DiT (Diffusion Transformer) blokken zijn aangepast met bottleneck-projecties voor conditionering, sigmoid gating om residuele updates te begrenzen, en stochastic depth (drop-path) voor regularisatie.

Training en Doelstelling

Emyx wordt getraind met conditional flow matching over Cartesiaanse coördinaten.

Doelstelling: Het model leert een tijd-afhankelijke velocity field $v_\theta(x_t, t, c, G)$ om samples te transporteren van een ruisverdeling naar de dataverdeling. De trainingsverlies combineert een $\ell_2$ regressie op velocities voor niet-motief atomen met een aanvullende differentiabele lokale distance difference test (lDDT) loss om structurele kwaliteit af te dwingen.
Conditionering: Het model conditioneert op ijle geometrische beperkingen (motief-geometrie, ligand-posities) en globale kenmerken (secundaire structuur compositie, radius van gyratie). Deze kenmerken worden tijdens de training stochastisch gemaskeerd om zowel conditionele als onconditionele generatie mogelijk te maken.
Efficiëntie: De training maakt gebruik van een lineaire interpolant tussen ruis en data, wat resulteert in lagere-variantie gradiënten en snellere convergentie vergeleken met variance-preserving diffusion schedules. Het model werd getraind op experimentele PDB-data in ongeveer 3,55 dagen op 8 NVIDIA H200 GPU's (681,6 GPU-uren).

Sampling en Reparametrisatie

Een belangrijke methodologische bijdrage is de afleiding van een exacte reparametrisatie van de flow matching interpolant naar het EDM (Elucidating the Design Space of Diffusion-based Generative Models) ruisniveau-framework.

Deze mapping stelt het flow matching model in staat om de Karras noise schedule en stochastic churn mechanismen te gebruiken zonder hertraining of architecturale wijzigingen.
De reparametrisatie overbrugt de efficiëntie van de training van flow matching met state-of-the-art sampling methoden ontworpen voor diffusiemodellen, wat de succespercentages significant verbetert ten opzichte van standaard SDE Euler–Maruyama integratie.

Belangrijkste Bijdragen

Efficiënte All-Atom Generator: Emyx bereikt state-of-the-art prestaties met een aanzienlijk lager aantal parameters (140M) en lagere trainingskosten (4× minder dan RFdiffusion3) door af te zien van dure, van voorspelling geïnherdeerde architecturen.
Strikt Evaluatieprotocol: De auteurs stellen een "strict sc-RMSD" protocol voor dat zowel globaal vouwingsherstel (backbone RMSD < 2,0 Å) als lokale katalytische geometrie nauwkeurigheid (motif tip-atom RMSD < 1,5 Å) vereist. Zij demonstreren dat vorige metrieken (heavy-atom sc-RMSD) succespercentages met ongeveer 2× overschatten omdat ze niet straffen voor ontwerpen die wel de actieve site herstellen, maar niet de globale vouwing.
EDM Reparametrisatie: Het paper introduceert een model-agnostische methode om flow matching velocity modellen om te zetten naar het EDM framework, wat superieure sampling strategieën (Karras schedule, stochastic churn) mogelijk maakt zonder hertraining.
Spectrale Analyse: De auteurs bieden een spectrale analyse die een fundamentele "generator–predictor gap" onthult. Predictors die geïnitialiseerd zijn met rijke MSA/template signalen vertonen een hogere effectieve rang en lagere overtraining, terwijl generators geïnitialiseerd vanaf genoiserde coördinaten opereren in een lager-rang regime. Emyx vertoont het laagste overtrainingsfractie onder generators, toegeschreven aan de architecturale bottlenecks en stochastic depth.

Resultaten

Geëvalueerd tegen de AME (Atom-level Motif Enzyme) benchmark (41 katalytische actieve sites):

Succespercentage: Onder het strikte sc-RMSD protocol bereikt Emyx een succespercentage van 13,4% (39/41 targets opgelost), waarmee het Proteína-Complexa (8,8%) en RFdiffusion3 (6,7%) verslaat.
Structurele Nieuwigheid: Emyx produceert de meest structureel nieuwe scaffolds, met een mediane TM-score van 0,475 tot de dichtstbijzijnde PDB hit (lager is nieuwiger), vergeleken met 0,499 voor Proteína-Complexa en 0,512 voor RFdiffusion3.
Diversiteit: Emyx levert het hoogste aantal unieke structurele clusters (441) onder succesvolle ontwerpen.
Geometrische Geldigheid: Emyx slaagt voor geometrische geldelijkheidscontroles (bindingslengtes/hoeken) in 82,2% van de ontwerpen, wat aanzienlijk beter is dan RFdiffusion3 (0,8%) en Proteína-Complexa (49,9%). De auteurs merken op dat de slechte geometrie scores van RFdiffusion3 waarschijnlijk te wijten zijn aan post-processing artefacten waarbij input motief-coördinaten de gegenereerde coördinaten overschrijven, wat onfysische bindingen creëert.
Efficiëntie: Emyx traint in ~682 GPU-uren (4× sneller dan RFdiffusion3) en is >2× sneller bij inferentie op een enkele A10G GPU over alle ketenlengtes.

Betekenis en Claims

Het paper claimt dat architecturale eenvoud gunstig is voor proteïne-generatoren. In tegen tegenstelling tot predictors, die rijke co-evolutionaire signalen (MSA, templates) nodig hebben om complexe paar-representaties te initialiseren, conditioneren generators op ijle geometrische beperkingen. Daarom zijn de zware architecturen die geïnhered zijn van structuurvoorspelling onnodig en nadelig voor efficiëntie en diversiteit.

Emyx demonstreert dat het concentreren van capaciteit in standaard transformer-blokken, gecombineerd met efficiënte flow matching training en EDM-stijl sampling, superieure prestaties kan leveren bij enzymontwerp-taken met aanzienlijk minder computationele middelen. Het werk benadrukt ook het belang van rigoureuze evaluatieprotocollen (strict sc-RMSD) om onderscheid te maken tussen lokaal nauwkeurige maar globaal instabiele ontwerpen en werkelijk levensvatbare enzym-scaffolds. Ten slotte biedt de voorgestelde EDM reparametrisatie een pad voor andere flow matching modellen om geavanceerde sampling technieken te adopteren zonder architecturale herziening.