UBio-MolFM: A Universal Molecular Foundation Model for Bio-Systems

UBio-MolFM is een universeel fundamenteel model dat de kloof tussen kwantummechanische nauwkeurigheid en biologische schaal overbrugt door middel van een gespecialiseerd dataset, een efficiënt transformer-architectuur en een curriculum-leerprotocol, waardoor ab initio-niveau precisie wordt bereikt voor grote biomoleculaire systemen.

De kern

Stel je voor dat je een gigantische, ingewikkelde machine probeert te begrijpen: het leven zelf. Om te zien hoe deze machine werkt, hebben wetenschappers een "computermicroscoop" nodig. Maar hier zit een groot probleem:

• Als je heel dichtbij kijkt (naar de atomen en elektronen), zie je alles perfect, maar je kunt maar naar een heel klein stukje kijken voordat je computer vastloopt. Dit is als het proberen te lezen van een hele bibliotheek, maar je mag maar één letter tegelijk bekijken.
• Als je verder weg kijkt, kun je de hele bibliotheek zien, maar de details zijn wazig en onnauwkeurig. Je ziet de boeken, maar niet wat erin staat.

Deze nieuwe paper introduceert UBio-MolFM, een slimme nieuwe tool die probeert het beste van beide werelden te combineren. Het is alsof ze een bril hebben ontworpen die zowel scherp is als ver weg kan kijken.

Hier is hoe het werkt, vertaald in alledaagse termen:

1. De Leermeester: Een enorme bibliotheek (UBio-Mol26)

Om een slimme computer te maken, moet je hem eerst laten studeren. De makers hebben een gigantische bibliotheek met 17 miljoen voorbeelden samengesteld.

• De "Bodem-op" strategie: Ze hebben alle mogelijke kleine bouwstenen (zoals aminozuren) in alle mogelijke combinaties laten oefenen. Dit is alsof ze alle mogelijke LEGO-blokjes hebben uitprobeer.
• De "Boven-af" strategie: Ze hebben ook echte, grote biologische structuren (zoals eiwitten uit de natuur) uit elkaar gehaald om te zien hoe ze er in het echt uitzien.
• Het resultaat: De computer heeft nu niet alleen geleerd over kleine moleculen, maar ook over enorme, complexe systemen met duizenden atomen.

2. De Motor: Een slimme, snelle bril (E2Former-V2)

De meeste oude computersimulaties zijn traag omdat ze alles "van dichtbij" moeten berekenen, alsof ze elke steen in een muur één voor één moeten tellen.
UBio-MolFM gebruikt een nieuwe architectuur die we E2Former-V2 noemen.

• De Analogie: Stel je voor dat je een menigte mensen moet tellen. De oude manier is om naar elke persoon te lopen en te tellen. Deze nieuwe manier is alsof je een slimme drone hebt die in één oogopslag de hele menigte scant en de patronen herkent.
• Het geheim: De computer is slim genoeg om te weten dat dingen die ver weg zijn, minder belangrijk zijn voor de directe interactie, maar wel invloed hebben op de algemene sfeer. Hierdoor is hij 4 keer sneller dan de beste bestaande systemen, terwijl hij net zo nauwkeurig blijft.

3. De Opleiding: Drie trappen naar perfectie (Curriculum Learning)

Je kunt een kind niet direct laten studeren voor een doctoraat; je begint met de basisschool. Dezelfde logica pasten ze toe op de training van dit model:

1. Stap 1 (De Basis): Eerst leerden ze de computer over kleine, simpele moleculen. Hier leerde hij de "alfabet" van de chemie.
2. Stap 2 (De Regel): Vervolgens leerden ze hem dat energie en kracht met elkaar verbonden zijn (als je iets duwt, moet het terugduwen). Dit zorgt voor een stabielere simulatie.
3. Stap 3 (De Meester): Tot slot leerden ze hem over de enorme, complexe biologische systemen (zoals eiwitten in water). Hier leerde hij hoe hij die grote systemen moet begrijpen zonder vast te lopen.

Wat kan dit nu doen?

De testresultaten zijn indrukwekkend:

• Water: Het model kan precies simuleren hoe watermoleculen om elkaar heen dansen, net zoals in het echte leven.
• Eiwitten: Het kan zien hoe een eiwit (zoals Cyclosporine A) van vorm verandert afhankelijk van of het in water zit of in een droge ruimte.
• RNA: Het kan precies voorspellen hoe zware metalen (zoals magnesium) zich vastklampen aan RNA, wat cruciaal is voor het begrijpen van virussen en genetica.

Waarom is dit belangrijk?

Voorheen moesten wetenschappers kiezen: ofwel hadden ze de juiste details, maar duurde het berekenen van een eiwit jaren. Ofwel hadden ze een snelle berekening, maar was het resultaat onnauwkeurig.

UBio-MolFM breekt deze keuze. Het stelt ons in staat om complexe biologische processen (zoals hoe medicijnen werken of hoe virussen zich vermenigvuldigen) te simuleren met de precisie van een quantumcomputer, maar in een tijd die haalbaar is voor onderzoekers.

Kortom: Ze hebben een universale sleutel gemaakt die de deur opent naar het begrijpen van het leven op atomaire schaal, zonder dat je een supercomputer van de grootte van een stad nodig hebt.

Technische samenvatting

Titel: UBio-MolFM: Een Universeel Fundamenteel Model voor Bio-systemen

Auteurs: UBio Team, IQuest Research
Datum: 14 april 2026

---

1. Het Probleem: De Kloof tussen Nauwkeurigheid en Schaal

Het simuleren van biologische systemen met kwantummechanische (QM) nauwkeurigheid is een grote uitdaging in de computationele levenswetenschappen. Er bestaat een fundamentele afweging:

• Ab initio methoden (QM): Bieden de benodigde elektronische precisie voor polarisatie, ladingsoverdracht en reactieve chemie, maar hun kubische schaling ($O(N^3)$) beperkt hen tot systemen van slechts enkele honderden atomen.
• Klassieke moleculaire mechanica (MM): Schalen tot miljoenen atomen, maar gebaseerd op vaste functionele vormen die de complexe potentie-energieoppervlakken (PES) van biologische machinery niet goed kunnen reproduceren.

Bestaande Machine Learning Force Fields (MLFFs) en fundamentele modellen (zoals SPICE, OMol25) zijn beperkt door:

1. Onvoldoende data-dekking: Publice datasets focussen op kleine moleculen (<350 atomen) en missen grote biomoleculaire omgevingen.
2. Architecturale beperkingen: Veel modellen gebruiken lokale cutoffs die lange-afstandselekrostatica ondervertegenwoordigen, wat leidt tot fouten in grote systemen.
3. Rekenkundige zwaarte: Hoge-orde equivariante modellen zijn te zwaar voor lange trajecten van opgeloste eiwitten.

2. Methodologie

UBio-MolFM is een framework dat drie synergetische innovaties combineert om de schaal-nauwkeurigheidskloof te overbruggen:

A. Data: UBio-Mol26 Dataset

De auteurs hebben een specifiek biologisch dataset ontwikkeld via een "Twee-Pijler Strategie":

• Bottom-up: Systematische enumeratie van biochemische bouwstenen (bijv. alle 6.840 mogelijke tripeptiden, DNA-basenparen).
• Top-down: Sampling van native eiwitomgevingen uit de AlphaFold Database (AFDB), waarbij lokale clusters (tot 1.200 atomen) worden geëxtraheerd met watermoleculen en ionen.
• Schaal: De dataset bevat 17 miljoen configuraties met een gemiddelde grootte van ~440 atomen (tot 1.200 atomen), een orde van grootte groter dan bestaande datasets zoals OMol25.
• Berekening: Gebruik van het $\omega$B97M-D3 functional met een gemengde basis-set strategie (def2-TZVP voor H/metalen, def2-TZVPD voor andere elementen) om SCF-convergentieproblemen bij grote systemen te vermijden.

B. Model: E2Former-V2 Architectuur

Een lineair-schalende equivariante transformer die is geoptimaliseerd voor hardware-efficiëntie:

• Equivariant Axis-Aligned Sparsification (EAAS): Een algebraïsche reductie die dichte SO(3) tensorproducten omzet in sparse operaties door rotaties naar een as-georiënteerde frame te brengen. Dit behoudt exacte equivariantie maar versnelt de berekening met ~6x.
• Long-Short Range (LSR) Modeling:
  • Korte afstand: Lokale interacties binnen ~5 Å via een stack van E2Former-lagen.
  • Lange afstand: Modellering van elektrostatica en polarisatie tot ~15 Å via een bipartiet atoom-fragment graaf, zonder een volledig verbonden graaf te vormen.
• Hardware-Optimalisatie: Een "on-the-fly" equivariante attention-kern (geïmplementeerd in Triton) die geheugenmaterialisatie van randen elimineert, wat leidt tot een ~20x verbetering in TFLOPS en schaalbaarheid tot 100.000 atomen.

C. Training: Drie-Stadia Curriculum Learning

Om heterogene data (kleine moleculen vs. grote biomoleculen) en verschillende nauwkeurigheidsniveaus te verwerken:

1. Fase 1 (Energy Initialization): Training op OMol25 (kleine moleculen) met een aparte kracht-kop voor snelle convergentie van het chemische landschap.
2. Fase 2 (Energy-Force Consistency): Finetuning waarbij krachten strikt als de gradiënt van de energie worden berekend ($F = -\nabla E$) om fysieke consistentie te garanderen.
3. Fase 3 (Mixed-Dataset Fine-Tuning): Integratie van de grote UBio-Mol26 data. Gebruik van een dual-head architectuur om energie-offsets tussen verschillende datasets (OMol25 vs. UBio-Mol26) te mitigeren, met focus op krachtsupervisie voor de hoge-fideliteit data.

3. Belangrijkste Resultaten

Numerieke Nauwkeurigheid (OOD Benchmarks)

Het model werd getest op systemen van 1.300–1.500 atomen (buiten de trainingsverdeling).

• Prestatie: UBio-MolFM (Fase 3) reduceert de relatieve energie-fouten en krachtsfouten aanzienlijk ten opzichte van state-of-the-art modellen zoals MACE-OMol en UMA-S-1p1.
• Specifiek: Voor eiwitten en RNA daalde de energie-MAE met >60% ten opzichte van baselines. Het model behoudt ab initio-niveau fideliteit op grote, onbekende biomoleculaire systemen.
• Uitdaging: DNA-optimalisatie toonde een regressie in tijdsstabiliteit ($\Delta E$), wat wijst op een behoefte aan meer DNA-variatie in de dataset.

Moleculaire Dynamica (MD) en Fysische Fideliteit

• Solvatie: Het model reproduceert nauwkeurig de structuur van vloeibaar water en NaCl-oplossingen (radiale verdelingsfuncties en coördinatiegetallen), vergelijkbaar met hoge-resolutie experimenten.
• Eiwitdynamica: Het model kan de omgevingsafhankelijke conformaties van Cyclosporine A (CsA) handhaven: een "open" toestand in water en een "gesloten" toestand in vacuüm, gedreven door waterstofbruggen.
• RNA en Metaalbinding: In RNA-systemen (1L2X) met Mg2+ ionen, reproduceert UBio-MolFM de coördinatieafstanden en -hoeken nauwkeuriger dan Amber99 of UMA, wat cruciaal is voor de stabiliteit van nucleïnezuren.

Efficiëntie

• Doorvoer: UBio-MolFM is 4x sneller dan de sterkste baselines (UMA-S) op systemen van 1.000 tot 50.000 atomen.
• Schaalbaarheid: Het kan systemen van 100.000 atomen verwerken op één H100 GPU (waarbij andere modellen uit het geheugen springen), dankzij de lineaire schaling en geheugen-efficiënte kernel-ontwerpen.

4. Bijdragen en Toekomstperspectief

Kernbijdragen:

1. UBio-Mol26: Een nieuw, groot dataset specifiek voor biologische systemen met een "Two-Pronged" strategie.
2. E2Former-V2: Een nieuwe, hardware-efficiënte equivariante transformer die lange-afstandseffecten combineert met lineaire schaling.
3. Curriculum Learning: Een trainingsprotocol dat QM-nauwkeurigheid en biologische schaal verenigt.
4. Open Science: Publicatie van modelgewichten, code, en een subset van de data (UBio-Protein26 5M) om de gemeenschap te faciliteren.

Significantie:
UBio-MolFM bewijst dat het mogelijk is om ab initio-nauwkeurigheid te bereiken op de schaal van complexe biologische systemen (tot ~1.500 atomen) met een praktische doorvoer die MD-simulaties mogelijk maakt. Het markeert een stap naar "uitvoerbare biologie", waarbij kwantumaanvullende simulaties een routine-tool worden voor het ontrafelen van moleculaire mechanismen van het leven.

Toekomstige Werk:
De auteurs plannen verdere optimalisatie van DNA-variatie in de data, co-design van algoritmes en hardware om de snelheid verder te dichten met klassieke force fields, en validatie op nog grotere systemen (>100.000 atomen) voor toepassingen zoals bindingsvrije energieberekeningen.