Evaluating the Progression of Large Language Model Capabilities for Small-Molecule Drug Design

Deze studie introduceert een suite van chemisch onderbouwde taken als versterkingsleer-omgevingen om de voortgang van grote taalmodellen in het ontwerpen van kleine moleculen te evalueren en aantonen dat gerichte post-training de prestaties aanzienlijk kan verbeteren, zelfs bij kleinere modellen.

De kern

Titel: Hoe AI-chemici leren om nieuwe medicijnen te ontwerpen

Stel je voor dat je een enorme bibliotheek hebt met alle kennis over chemie die de mensheid ooit heeft verzameld. Nu, stel je voor dat je een zeer slimme, maar nog wat onervaren student in die bibliotheek zet. Deze student kan lezen en begrijpen wat er staat, maar als je vraagt: "Ontwerp een nieuw medicijn dat precies past in deze sleutelgat-vorm en niet giftig is," zakt hij vaak in zijn kousen. Hij weet de theorie, maar hij mist de praktijkervaring.

Dit is precies het probleem dat de auteurs van dit onderzoek (van Genentech) aanpakken. Ze kijken naar de nieuwste, superkrachtige AI-modellen (zoals GPT-5, Claude en Qwen) en vragen zich af: Kunnen deze AI's echt helpen bij het ontwerpen van medicijnen, of zijn ze alleen maar goed in het opzoeken van feiten?

Hier is een simpele uitleg van wat ze hebben gedaan en wat ze hebben ontdekt, vertaald naar alledaagse taal:

1. De Proef: Een "Trainingskamp" voor AI

De onderzoekers hebben een reeks uitdagende spelletjes bedacht die lijken op het echte werk van een medicijnontwikkelaar. In plaats van de AI alleen vragen te laten beantwoorden, hebben ze ze in een virtueel trainingskamp gezet.

• De Oefeningen: De AI moest bijvoorbeeld de zwaarte van een molecuul voorspellen, een chemische formule vertalen naar een andere taal (zoals van een tekening naar een naam), of een nieuw molecuul "bouwen" dat aan specifieke regels voldoet (bijvoorbeeld: "moet niet te groot zijn en moet in water oplossen").
• De Beloning: Net als bij een videospel kregen de AI's punten als ze het goed deden. Als ze een fout maakten, kregen ze een negatief signaal.

2. De Leerling en de Meester

Ze hebben drie soorten "studenten" getest:

1. De "Open" Student (Qwen): Een model dat iedereen kan gebruiken, maar dat in de basis niet zo goed is in chemie.
2. De "Gesloten" Meesters (GPT-5 en Claude): De allerbeste, geheimgehouden modellen van grote tech-bedrijven.

Wat deden ze?
Ze namen de "Open" student en gaven hem een speciale training genaamd Versterkend Leren (RL). Dit is alsof je de student niet alleen laat lezen, maar hem duizenden keren laat oefenen in het trainingskamp, waarbij hij direct feedback krijgt op elke fout.

3. De Verbluffende Resultaten

Hier zijn de belangrijkste lessen uit het onderzoek, vertaald in metaforen:

• Oefening baart kunst (Post-training werkt wonderen):
  De "Open" student begon erg zwak. Maar na de speciale training (RL) werd hij plotseling bijna net zo goed als de "Gesloten Meesters".

  • Analogie: Het is alsof je een beginnende kok neemt die net de basisrecepten kent. Als je hem een maand lang elke dag laat koken met een meesterkok die direct zegt "dit is te zout" of "dit is perfect", kan hij op een dag net zo goed koken als een beroemd restaurant, zelfs als hij minder talent had dan de meesterkok.

• De "Jagged Frontier" (De oneffen grens):
  De onderzoekers ontdekten dat AI-modellen soms heel goed zijn in het ene en heel slecht in het andere. Ze zijn soms als een atleet die een wereldrecord loopt, maar niet kan zwemmen.

  • Voorbeeld: De AI's konden heel goed tellen hoeveel atomen er in een molecule zitten (alsof ze blokken in een stapel tellen), maar ze hadden enorme moeite om te begrijpen hoe die atomen chemisch reageren in een echt laboratorium.

• De "Kleine Data" Valstrik:
  Er was één groot probleem. Als de AI moest voorspellen hoe een medicijn werkt in een nieuw experiment waar ze nog nooit data over hadden, faalden ze.

  • Analogie: Stel je voor dat de AI een chef-kok is die 10.000 recepten uit een boek kent. Maar als je vraagt: "Wat gebeurt er als ik een nieuw, onbekend kruid toevoeg?", weet hij het niet. Hij kan niet "gissen" op basis van logica als hij de basisprincipes van dat nieuwe kruid niet in zijn hoofd heeft. Voor deze taken moet de AI eerst meer "boeken" lezen (meer basis-training), niet alleen meer oefenen.

• De Multi-turn Oefening (Het echte spel):
  In het laatste deel moesten de AI's een nieuw medicijn ontwerpen door stap voor stap aanpassingen te doen (een iteratief proces), terwijl ze rekening hielden met regels zoals "niet te giftig" en "goed oplosbaar".

  • Resultaat: De getrainde "Open" student (genaamd Aspen) deed het verrassend goed. Hij kon een molecuul stap voor stap verbeteren, net als een menselijke chemicus die een schets maakt, er wat aan past, weer kijkt, en weer aanpast.

4. De Conclusie: Wat betekent dit voor de toekomst?

Dit onderzoek geeft ons een hoopvolle, maar realistische boodschap:

1. AI is klaar om te helpen, maar niet om alles te doen: De beste AI-modellen van vandaag zijn al behoorlijk slim in chemie, maar ze zijn nog niet perfect. Ze kunnen helpen met het snelle werk en het genereren van ideeën.
2. Training is de sleutel: Je hoeft niet per se de allerduurste, grootste AI te kopen. Als je een iets kleinere AI neemt en hem goed traint op specifieke taken (zoals medicijnontwerp), kun je hem net zo goed maken als de duurdere modellen.
3. De mens blijft nodig: Voor de moeilijkste dingen, zoals het voorspellen van hoe een nieuw medicijn zich gedraagt in een menselijk lichaam zonder eerdere data, hebben we nog steeds menselijke experts en echte laboratoriumtests nodig. De AI is de krachtige assistent, maar nog niet de onfeilbare meester.

Kort samengevat:
De onderzoekers hebben laten zien dat we AI-modellen kunnen "slijpen" tot scherpe chemische instrumenten. Het is alsof we een ruwe diamant hebben die we niet hoeven te vervangen door een nieuwe, maar die we wel moeten polijsten om te laten schitteren. Dit opent de deur naar snellere en goedkopere ontwikkeling van medicijnen, mits we de AI blijven trainen en de menselijke expertise erbij houden.

Technische samenvatting

Titel: Evaluatie van de Vooruitgang van Capabilities van Grootte Taalmodellen (LLM's) voor het Ontwerp van Kleine Moleculen in de Geneesmiddelenontwikkeling

Auteurs: Shriram Chennakesavalu et al. (Prescient Design, Genentech)
Datum: April 2026

---

1. Het Probleem

Hoewel Large Language Models (LLM's) potentie hebben om de geneesmiddelenontwikkeling te versnellen door informatie uit diverse bronnen te synthetiseren, blijft hun praktische bruikbaarheid voor het ontwerp van kleine moleculen onduidelijk. De belangrijkste uitdagingen zijn:

• Gebrek aan realistische benchmarks: Bestaande evaluaties reflecteren vaak niet de complexiteit van echte wetenschappelijke scenario's.
• Beperkte prestaties van basismodellen: Zelfs geavanceerde "frontier"-modellen worstelen met fundamentele biologische en chemische taken, wat de betrouwbaarheid van LLM-agenten in de geneesmiddelenontwikkeling ondermijnt.
• De "gezaagde grens" (Jagged Frontier): Modellen vertonen sterke prestaties in sommige domeinen maar zwakke in andere, wat het moeilijk maakt om hun algemene geschiktheid te voorspellen.
• Ondoorzichtigheid: Veel frontier-modellen zijn gesloten, waardoor hun trainingsrecepten en de snelheid van hun vooruitgang moeilijk te analyseren zijn.

2. Methodologie

De auteurs introduceren een uitgebreide suite van chemisch onderbouwde taken en evalueren drie families van frontier-modellen: GPT-5 (OpenAI), Claude Opus 4 (Anthropic) en Qwen-30B-A3B (Qwen).

A. De Task Suite

De taken zijn geformuleerd als Reinforcement Learning (RL) omgevingen om zowel evaluatie als post-training mogelijk te maken. De taken vallen in zes categorieën:

1. RDKit-eigenschappen voorspellen: Voorspellen van numerieke waarden (bijv. molecuulgewicht, LogP) op basis van SMILES.
2. Experimentele voorspelling: Voorspellen van potentie en DMPK-eigenschappen (ADME) op basis van contextuele voorbeelden (few-shot learning) op interne en externe datasets (zoals FS-Mol).
3. Meerkeuzevragen: Het selecteren van het juiste molecuul uit een set op basis van eigenschappen of het identificeren van identieke moleculen met verschillende representaties.
4. Transformatie: Vertalen tussen verschillende moleculaire representaties (SMILES, IUPAC, Formule, Protomeer, Tautomeer, Murcko-scaffold).
5. Meerdere eigenschappen beperkte generatie: Genereren van een molecuul dat voldoet aan een reeks gelijktijdige constraints (fysisch-chemisch, DMPK, scaffold).
6. Overige taken: Substructuurclassificatie, reactie-uitkomstvoorspelling en Maximum Common Substructure (MCS) identificatie.

B. Post-training Strategie

Voor het open-weight model (Qwen3-30B-A3B) hebben de auteurs een RL-based post-training uitgevoerd zonder Supervised Fine-Tuning (SFT).

• Algoritme: Ze gebruikten een variant van Group Relative Policy Optimization (GRPO), specifiek de DAPO-variant.
• Doel: Het optimaliseren van een beleid ($\pi$) dat de verwachte beloning maximaliseert over alle taken.
• Data: Ongeveer 900.000 prompts, waarbij de taak voor "geconstrueerde generatie" zwaar oversampled was (300k prompts) ten opzichte van andere taken.
• Hardware: Training op 256 NVIDIA B200 GPU's gedurende ongeveer 20 dagen.

C. Vergelijkingsopzet

• Cross-familie: Vergelijking van de post-getrainde Qwen-versie ("Aspen") met de gesloten frontier-modellen (GPT-5, GPT-5.2, Claude Opus 4.0, Opus 4.6).
• Intra-familie: Analyse van de vooruitgang binnen elke modelfamilie over tijd (bijv. Qwen naar Aspen, Opus 4.0 naar 4.6).
• Multi-turn simulatie: Een gesimuleerde "lead-optimization" cyclus (20 beurten) waarbij modellen een startmolecuul moeten optimaliseren voor docking-score onder DMPK-constraints, zonder kennis van het specifieke eiwitdoel (black-box setting).

3. Belangrijkste Resultaten

A. Effectiviteit van RL Post-training

• De post-getrainde Qwen-versie (Aspen) presteerde aanzienlijk beter dan het basismodel op bijna alle getrainde taken.
• Aspen werd concurrerend met gesloten frontier-modellen, zelfs op complexe taken zoals "multiproperty-constrained generation", ondanks dat het basismodel (Qwen) aanzienlijk zwakker was.
• RL bleek zeer effectief om "latente kennis" in het basismodel te scherpen, vooral voor taken waar het model al enige competentie had.

B. Grenzen van Post-training

• Voor taken waarbij het basismodel weinig tot geen voorkennis had (bijv. experimentele potentievoorspelling op schaarse data of complexe IUPAC-naamgeving), leverde RL alleen beperkte verbeteringen op.
• De auteurs concluderen dat voor deze "out-of-distribution" taken eerst mid-training (extra training op chemische corpora) nodig is voordat RL effectief kan zijn.

C. Vergelijking van Model Families

• Anthropic (Claude Opus): Toonde de sterkste natuurlijke vooruitgang tussen versies (Opus 4.0 -> 4.6), vooral op experimentele taken en transformaties. Dit suggereert dat Anthropic specifiek veel moeite heeft gedaan om chemische taken te trainen.
• OpenAI (GPT-5): Toonde een heterogene verbetering; sommige taken verbeterden, maar andere (zoals TPSA en QED) vertoonden regressie in de nieuwste versie.
• Qwen/Aspen: Toonde de grootste "within-family" sprong. Aspen (post-getraind) overtrof de basis Qwen op alle taken en presteerde op het niveau van de beste gesloten modellen op specifieke design-taken.

D. Simulatie van Lead-Optimatie

• In de multi-turn simulatie presteerden nieuwere modelversies over het algemeen beter dan oudere.
• Aspen slaagde erin om snel moleculen te genereren met betere docking-scores dan het basismodel, maar had moeite om de HLM CLint (leverclearance) constraint consistent te halen, wat leidde tot een afname in voldoening aan deze constraint naarmate de optimalisatie vorderde.
• Claude Opus 4.6 vertoonde een opmerkelijk fenomeen: hoewel het beter presteerde in optimalisatie, produceerde het een veel lager percentage unieke moleculen (0.57) vergeleken met andere modellen (0.86-0.95), wat wijst op een vorm van mode collapse in de chemische ruimte.

4. Kernbijdragen

1. Nieuwe Benchmark Suite: Een reeks chemisch onderbouwde RL-omgevingen die realistische geneesmiddelenontwerptaken simuleren, van eigendomsvoorspelling tot multi-constraint generatie.
2. Evaluatie van Trainbaarheid: Het aantonen dat post-training (RL) een praktische route is om kleinere open-weight modellen (30B parameters) competitief te maken met veel grotere gesloten frontier-modellen.
3. Inzicht in "Jagged Frontier": Het identificeren dat RL alleen effectief is als er al een basis van chemische kennis aanwezig is; voor fundamentele kennislacunes is verdere basistraining (mid-training) noodzakelijk.
4. Analyse van Modelversies: Een gedetailleerde vergelijking van de evolutie van GPT-5, Claude Opus en Qwen, waarbij wordt aangetoond dat Anthropic momenteel de leiding neemt in chemische specialisatie, terwijl post-training de kloof voor open modellen kan dichten.

5. Betekenis en Toekomstperspectief

De studie biedt een blauwdruk voor het inzetten van LLM's in de geneesmiddelenontwikkeling. De conclusie is dat een combinatie van zorgvuldig ontworpen evaluatietaken en gerichte post-training (RL) cruciaal is om kritieke competentiegaten te dichten.

Voor de toekomst wordt een roadmap geschetst die bestaat uit:

• Uitbreiding van het aantal specifieke geneesmiddelenontwikkeling-omgevingen.
• Het gebruik van proprietaire interne data voor training.
• Het gezamenlijk schalen van modelgrootte, taakdiversiteit en chemisch bewustzijn (via mid-training/SFT) voordat RL wordt toegepast.

Dit werk suggereert dat we niet alleen moeten wachten op grotere modellen, maar dat we actief moeten investeren in het "scherpen" van bestaande modellen via RL en het vullen van kennislacunes via gerichte training om robuuste AI-agenten voor de geneesmiddelenontwikkeling te bouwen.