LLMsFold: Integrating Large Language Models and Biophysical Simulations for De Novo Drug Design

In dit artikel wordt LLMsFold gepresenteerd, een computerautomatisch raamwerk dat Large Language Models en biophysica-simulaties combineert om nieuwe, effectieve medicijnmoleculen te ontwerpen en te valideren voor doelwitproteïnen zoals ACVR1 en CD19.

De kern

LLMsFold: De Digitale Ontwerper die Nieuwe Medicijnen Droomt

Stel je voor dat het vinden van een nieuw medicijn vergelijkbaar is met het zoeken naar de perfecte sleutel voor een zeer ingewikkelde slot. De wereld van chemische moleculen (de "sleutels") is zo enorm als een heel universum, en de ziekteverwekkende eiwitten (de "sloten") zijn vaak heel lastig te openen. Traditionele methoden zijn als het zoeken naar die sleutel met een blinddoek op: het kost jaren, miljarden euro's en de kans van slagen is klein.

De auteurs van dit paper hebben een slimme nieuwe manier bedacht, genaamd LLMsFold. Ze hebben twee zeer krachtige digitale tools samengevoegd om deze zoektocht te versnellen. Hier is hoe het werkt, vertaald naar alledaagse taal:

1. De Twee Superhelden

Het systeem gebruikt twee hoofdpersonages:

• De Creatieve Schrijver (De LLM): Dit is een kunstmatige intelligentie die is getraind op enorme hoeveelheden tekst, inclusief chemische formules. Denk hieraan als een zeer slimme dichter die de "grammatica" van moleculen kent. Hij kan niet alleen bestaande verhalen herschrijven, maar ook volledig nieuwe verhalen (nieuwe moleculen) bedenken die klinken als echte medicijnen.
• De Fysieke Architect (Boltz-2): Dit is een simulator die precies weet hoe moleculen eruitzien in 3D en hoe ze met elkaar omgaan. Denk hieraan als een strenge bouwkundige die direct kan zien of de nieuwe sleutel die de schrijver bedacht heeft, ook daadwerkelijk in het slot past en of hij stevig genoeg is.

2. Het Proces: Een Samenwerking

In plaats van dat de computer duizenden bestaande medicijnen uit een lijst plukt, doet LLMsFold iets creatievers:

1. Het Slot vinden: Eerst kijkt het systeem naar het eiwit dat de ziekte veroorzaakt (zoals een sleutelgat). Het zoekt naar een plek waar een medicijn zou kunnen passen.
2. De Schrijver aan het werk: De "Schrijver" (een groot taalmodel) krijgt een opdracht: "Hier is het slot. Hier zijn een paar voorbeelden van goede sleutels. Bedenk nu een nieuwe, unieke sleutel die hier perfect in past." Hij maakt een lijst met nieuwe ideeën (in een code genaamd SMILES).
3. De Architect controleert: De "Architect" pakt elk idee en bouwt het in 3D op. Hij test: "Past deze sleutel in het gat? Draait hij goed? Is hij sterk genoeg?"
4. De Feedback-lus: Dit is het magische deel. Als de Architect zegt: "Deze sleutel past bijna, maar de tandjes zijn net iets te hoog," geeft hij die informatie terug naar de Schrijver. De Schrijver leert van deze fout en probeert het de volgende keer beter. Dit herhaalt zich een paar keer, net als een ontwerper die een prototype steeds verbetert tot het perfect is.

3. De Proef: Twee Lastige Doelen

De auteurs hebben dit systeem getest op twee zeer moeilijke "sloten":

• ACVR1: Een eiwit dat zorgt voor een zeldzame ziekte waarbij zacht weefsel verandert in bot (FOP). Dit is als een slot dat vastzit in een verkeerde stand. Het systeem bedacht nieuwe sleutels die dit slot kunnen blokkeren.
• CD19: Een eiwit op kankercellen (lymfoom). Dit slot is erg plat en moeilijk te openen. Het systeem bedacht moleculen die precies op die platte plek passen, iets wat voorheen erg moeilijk was.

4. Waarom is dit speciaal?

• Het is snel: Waar een mens of een traditionele computer jaren over zou doen, doet dit systeem het in minuten.
• Het is toegankelijk: Je hebt geen supercomputer nodig. Het werkt zelfs op een gewone laptop (zoals een MacBook). Dit betekent dat kleine onderzoeksgroepen of ziekenhuizen met weinig geld ook nieuwe medicijnen kunnen ontwerpen.
• Het is nieuw: De moleculen die het systeem bedacht, zijn niet gewoon kopieën van bestaande medicijnen. Het zijn echt nieuwe creaties die nog nooit eerder zijn gezien.

Conclusie

LLMsFold is als een digitale architect en een dichter die samenwerken. De dichter bedenkt duizenden nieuwe ideeën, en de architect filtert direct de slechte ideeën eruit en helpt de goede ideeën verbeteren.

Het is belangrijk om te weten dat dit nog computersimulaties zijn. De echte test komt pas als deze "digitale sleutels" in het laboratorium worden gemaakt en getest op echte cellen. Maar dit systeem geeft wetenschappers een enorme voorsprong: in plaats van blind te zoeken, hebben ze nu een lijst met de meest veelbelovende kandidaten om mee te beginnen. Het is een enorme stap in de richting van snellere en goedkopere medicijnen voor iedereen, zelfs voor mensen met zeldzame ziektes.

Technische samenvatting

Probleemstelling

De ontdekking van nieuwe kleine moleculen (drug discovery) is een uitdagend en tijdrovend proces. De chemische ruimte is enorm, maar slechts een klein deel van de verbindingen voldoet aan de criteria voor een succesvol medicijn. Traditionele de novo ontwerpmethoden kampen met beperkingen: vroege algoritmen produceerden vaak kandidaten met slechte farmacokinetiek of synthetische haalbaarheid. Hoewel diepe generatieve modellen (zoals transformers) sneller nieuwe structuren kunnen genereren, hebben ze moeite om chemische validiteit te garanderen en echte bindingsaffiniteit te voorspellen zonder fysica-gedreven evaluatie. Er is dus behoefte aan een geïntegreerde aanpak die de creativiteit van taalmodellen combineert met nauwkeurige biofysische simulaties.

Methodologie: Het LLMsFold Framework

LLMsFold is een computergestuurde pijplijn die Large Language Models (LLMs) combineert met biofysische tools om nieuwe medicijnen te ontwerpen. Het proces verloopt in vier hoofdfasen:

1. Identificatie van Bindingszakken (Binding Pocket Identification):

   • De pijplijn begint met de structuur van het doelwit-eiwit (in PDB-formaat).
   • In plaats van een vooraf gedefinieerd actief centrum aan te nemen, wordt een geometrie-gebaseerde algoritme (Convex Hull Pocket Finder uit DeepChem) gebruikt om concave gebieden op het eiwitoppervlak te scannen die geschikt zijn voor ligandbinding.
   • De gevonden zakken worden gefilterd op grootte (minimaal 12 Å) en geoptimaliseerd voor computerefficiëntie, waarna de coördinaten worden vastgelegd voor de volgende stappen.

2. Generatie van Moleculen via LLM (In-Context Learning):

   • In plaats van een model te hertrainen, wordt Llama-3-70B gebruikt via in-context learning.
   • De prompt bevat instructies over medicinale chemie (zoals Lipinski's Rule of Five en het vermijden van PAINS-motieven) en voorbeelden van klinisch relevante moleculen die aan het specifieke doelwit binden.
   • Het model genereert kandidaat-moleculen als SMILES-strings, waarbij het de "grammatica" van de chemie toepast om chemisch valide structuren te creëren die passen bij de beschrijving van de bindingszak.

3. Biophysieke Evaluatie met Boltz-2:

   • Elke gegenereerde SMILES-string wordt geëvalueerd met Boltz-2, een diffusion-based model voor het co-voorspellen van eiwit-ligand complexen.
   • Boltz-2 voorspelt de 3D-structuur van het gebonden complex en levert betrouwbaarheidsmetrieken (zoals interface TM-score of ipTM en pLDDT) en een schatting van de bindingsaffiniteit.
   • Kandidaten met lage scores of onduidelijke binding worden verworpen.

4. Iteratieve Optimalisatie via Versterkend Leren (Reinforcement Learning):

   • Een feedbacklus wordt gebruikt om de generatie te verfijnen. De beste kandidaten uit een iteratie worden toegevoegd aan de prompt van de volgende iteratie als voorbeelden.
   • Een beloningsfunctie (reward function) combineert de voorspelde affiniteit van Boltz-2 met een straf voor structurele redundantie (Tanimoto-similariteit > 0.9), om de exploratie van nieuwe chemische ruimtes te stimuleren.
   • Na 3-5 rondes worden de beste moleculen geselecteerd.

5. Validatie en Filtering:

   • Alle kandidaten worden onderworpen aan chemoinformatica-validatie: berekening van QED (Quantitative Estimate of Drug-likeness) en SAScore (Synthetic Accessibility Score).
   • Moleculen met PAINS-motieven of slechte synthetische haalbaarheid worden verwijderd.
   • Een nieuwheidsscan tegen de PubChem-database garandeert dat de ontworpen moleculen nieuwe chemische entiteiten (NCEs) zijn.

Belangrijkste Bijdragen

• Geïntegreerde Pijplijn: LLMsFold koppelt voor het eerst de generatieve kracht van een 70B-parameter taalmodel direct aan een state-of-the-art biophysiek model (Boltz-2) voor 3D-validatie en affiniteitsvoorspelling.
• In-Context Learning Strategie: Het vermijden van kostbare fine-tuning; het model leert direct uit de prompt met voorbeelden, wat de overdraagbaarheid naar nieuwe doelwitten versnelt.
• Toegankelijkheid: De pijplijn is zo ontworpen dat deze draait op standaard hardware (inclusief consumentenlaptops zoals een MacBook Pro M3), waardoor geavanceerd de novo drug design toegankelijk wordt voor onderzoekers zonder toegang tot HPC-clusters.
• Focus op Moeilijke Doelwitten: De methode wordt succesvol getoetst op zowel een klassiek kinase-doelwit (ACVR1) als een uitdagend oppervlak zonder diepe zakken (CD19), wat de veelzijdigheid van de aanpak onderstreept.

Resultaten

De methode werd getest op twee doelen:

1. ACVR1 (Gerelateerd aan Fibrodysplasia Ossificans Progressiva - FOP):
   • Het systeem genereerde nieuwe moleculen die de ATP-bindingszak van ACVR1 bezetten.
   • De top-kandidaat (Molecule 1) toonde een zeer hoge voorspelde affiniteit (ipTM = 0,986, voorspelde pIC50 ≈ 6,89 of ~129 nM) en een hoge structuurkwaliteit.
   • De moleculen voldeden aan drug-lijken criteria (QED) en waren synthetisch haalbaar.
2. CD19 (Gerelateerd aan B-cel lymfomen):
   • CD19 heeft geen diepe katalytische zak, maar vlakke oppervlakken. LLMsFold slaagde erin moleculen te genereren die binden aan een epitool dat overlapt met het FMC63-antilichaam (gebruikt in CAR-T therapieën).
   • De beste kandidaat voor Pocket 1 had een voorspelde pIC50 van 7,73 (~188 nM), wat opmerkelijk is voor een oppervlakte-interactie.
   • Andere zakken leverden moleculen op met micromolaire affiniteit, wat een goed startpunt biedt voor verdere optimalisatie.

Validatie:

• Alle top-kandidaten waren nieuw (geen matches in PubChem).
• Vergelijking met klassieke docking (AutoDock Vina) voor ACVR1 bevestigde de voorspelde binding (RMSD < 1,5 Å).
• De pijplijn voltooide het genereren en valideren van 50 moleculen in ongeveer 3 minuten op een high-end GPU en in 6 minuten op een MacBook Pro M3.

Betekenis en Impact

LLMsFold vertegenwoordigt een paradigmaverschuiving in vroege drugontdekking:

• Versnelling: Het reduceert de tijd voor het identificeren van leidende verbindingen van maanden/maanden naar minuten.
• Kostenefficiëntie: Door te draaien op consumentenhardware en geen fine-tuning te vereisen, democratiseert het de toegang tot geavanceerde AI-gedreven drug design, wat cruciaal is voor zeldzame ziekten (zoals FOP) waar commerciële investeringen vaak ontbreken.
• Kwaliteit: De combinatie van taalmodellen met fysische simulaties (Boltz-2) lost het probleem op van "chemische hallucinaties" en zorgt voor moleculen die niet alleen chemisch valide zijn, maar ook structureel en energetisch plausibel binden.
• Toekomstperspectief: Hoewel de resultaten computergestuurd zijn en experimentele validatie vereisen, biedt LLMsFold een krachtig raamwerk om de "ideatie-fase" van medicijnontwikkeling te versnellen en nieuwe chemische ruimtes te verkennen die traditionele methoden missen.