mCLM: A Modular Chemical Language Model that Generates Functional and Makeable Molecules

Dit paper introduceert mCLM, een modulair chemisch taalmodel dat moleculen tokeniseert op basis van functionele bouwstenen in plaats van atomen, waardoor het niet alleen beter voorspelbare eigenschappen genereert, maar ook synthetiseerbare moleculen produceert die compatibel zijn met geautomatiseerde laboratoriumsynthese.

De kern

Stel je voor dat chemici en kunstmatige intelligentie (AI) proberen samen te werken om nieuwe medicijnen te ontwerpen. Tot nu toe was dit een beetje zoals een vertaler die probeert een boek te schrijven door alleen maar naar individuele letters te kijken, in plaats van naar woorden of zinnen. De AI kon prachtige zinnen maken, maar de "zinnen" die ze produceerden (nieuwe moleculen) waren vaak onleesbaar voor de echte wereld: ze konden niet worden gemaakt in een laboratorium.

Deze paper introduceert mCLM, een slimme nieuwe AI die dit probleem oplost. Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het probleem: De "Letter-voor-letter" fout

Stel je voor dat je een auto wilt bouwen.

• De oude manier (SMILES/Atomen): De AI probeert de auto te beschrijven door te zeggen: "Hier is een bout, hier is een bout, hier is een bout..." Het resultaat is een hoop losse onderdelen die misschien wel passen, maar die je niet zomaar in elkaar kunt schroeven. De AI "hallucineert" vaak onderdelen die in de natuur niet bestaan of die onmogelijk te assembleren zijn.
• Het gevolg: De AI bedt prachtige medicijnen uit, maar chemici kunnen ze niet bouwen. Het is alsof je een recept hebt voor een taart, maar de ingrediënten zijn onvindbaar of de oven werkt niet.

2. De oplossing: De "Bouwstenen" aanpak (mCLM)

mCLM verandert de spelregels. In plaats van te kijken naar losse letters (atomen), kijkt de AI naar betekenisvolle bouwstenen.

• De Analogie van de LEGO:
  Stel je voor dat je niet met losse plastic korrels werkt, maar met vooraf samengestelde LEGO-blokken. Een blokje is bijvoorbeeld een "raam", een ander is een "deur" en een derde is een "muur".
  • In de chemische wereld zijn dit functionele blokken: stukjes moleculen die al weten wat ze doen (bijvoorbeeld: "ik maak het medicijn oplosbaar" of "ik laat het door de bloed-hersenbarrière komen").
  • Het belangrijkste: deze blokken zijn ontworpen om door robots te worden samengevoegd. Ze zijn "robot-vriendelijk".

3. Hoe mCLM "denkt": De tweetalige vertaler

Deze AI is uniek omdat hij twee talen tegelijk spreekt en ze perfect combineert:

1. De Natuurlijke Taal: Hij begrijpt wat mensen zeggen, zoals "Ik wil een medicijn dat minder levertoxiciteit heeft" of "Dit moet beter oplossen in water".
2. De Chemische Taal: Hij spreekt de taal van de bouwstenen.

Het proces:
Stel je voor dat je een chef-kok bent die een nieuw gerecht wil bedenken.

• Oude AI: Zegt: "Ik voeg een beetje zout, een beetje suiker en een beetje... willekeurige stof toe." (Resultaat: een onsmakelijke soep die je niet kunt koken).
• mCLM: Luistert naar je wens ("Minder zout, meer smaak") en denkt: "Oké, ik vervang het zout door een specifiek kruidenblok dat we al hebben, en ik voeg een 'smaakversterker'-blok toe dat we weten dat het werkt."
• Omdat deze blokken al bestaan en bekend zijn bij de robot-kok, is het gerecht garantie maakbaar.

4. Wat kan deze AI nu doen?

De auteurs hebben mCLM getest op bestaande medicijnen en het heeft wonderen verricht:

• Het "Redden van Angels": Soms hebben medicijnen die bijna klaar zijn voor goedkeuring een klein probleem (bijvoorbeeld: ze zijn giftig voor de lever). De AI kan deze "gevallen engelen" redden door één klein blokje te vervangen. Het is alsof je een auto die stilstaat op de snelweg repaareert door alleen de band te verwisselen, zonder de hele auto te slopen.
• Sneller en Beter: Omdat de AI alleen blokken gebruikt die robots kunnen samenvoegen, is de tijd tussen "idee" en "fysiek medicijn" drastisch verkort.
• Beter dan de concurrenten: Zelfs als je vergelijkt met de slimste AI's ter wereld (zoals GPT-5), wint mCLM. De andere AI's maken vaak "onzin" die niet bestaat, terwijl mCLM alleen "echte" medicijnen bedenkt die daadwerkelijk in een flesje kunnen worden gegoten.

Samenvattend

mCLM is als een slimme architect die niet alleen prachtige tekeningen maakt, maar ook zeker weet dat het huis met de beschikbare bouwmaterialen en machines kan worden gebouwd. Door te stoppen met het tellen van letters en te beginnen met het gebruiken van betekenisvolle bouwstenen, maakt deze AI de droom van "automatische medicijnontdekking" eindelijk werkelijkheid. Het sluit de kloof tussen wat we in de computer kunnen dromen en wat we in het echte laboratorium kunnen bouwen.

Technische samenvatting

Titel: mCLM: Een Modulaire Chemische Taalmodel voor het Genereren van Functionele en Synthetiseerbare Moleculen

Auteurs: Carl Edwards, Chi Han, et al. (Universiteit van Illinois Urbana-Champaign, Allchemy Inc., etc.)
Publicatie: ICLR 2026

---

1. Het Probleem

Grote Taalmodellen (LLM's) hebben een indrukwekkend vermogen om chemische kennis te begrijpen, maar ze kampen met twee fundamentele beperkingen bij het ontwerpen van nieuwe moleculen:

1. Beperkte Functionaliteit: Ze hebben moeite om moleculen met specifieke, gewenste eigenschappen (zoals geneeskrachtige werking) te voorspellen.
2. Synthetiseerbaarheid: De door LLM's voorgestelde moleculen zijn vaak onpraktisch of onmogelijk te synthetiseren in een laboratorium, en zijn zelden compatibel met geautomatiseerde synthesetechnologieën.

Bestaande methoden tokeniseren moleculen vaak op atoomniveau (bijv. via SMILES of SELFIES strings). Dit is analoog aan het tokeniseren van tekst op het niveau van individuele letters. Dit leidt tot:

• Een "open vocabulaire" dat moeilijk te generaliseren is.
• Het genereren van chemisch ongeldige structuren.
• Een kloof tussen wat digitaal mogelijk is en wat fysiek realiseerbaar is (de "in silico" vs. "in the physical world" gap).
• Het verbergen van cruciale structurele informatie, omdat naburige atomen in een grafiek ver uit elkaar kunnen staan in een lineaire string.

2. Methodologie: mCLM

De auteurs stellen mCLM (modular Chemical-Language Model) voor, een bilinguaal model dat natuurlijke taal en moleculaire structuren combineert op basis van functionele bouwstenen in plaats van atomen.

A. Tokenisatie op Basis van Bouwstenen (Building Blocks)

In plaats van atomen, tokeniseert mCLM moleculen in synthese-vriendelijke bouwstenen (substructuren).

• Principe: Net als woorden in een zin, zijn deze bouwstenen semantisch betekenisvol en dragen ze specifieke functies (bijv. oplosbaarheid, binding aan een eiwit).
• Synthese-garantie: De tokenisatie gebeurt strikt volgens een beperkt aantal reacties die geautomatiseerd kunnen worden (Amide-koppeling, Suzuki-Miyaura koppeling, Buchwald-Hartwig koppeling).
• Tokenizer: Er wordt een "synthesis-guaranteed tokenizer" gebruikt die moleculen alleen opbreekt op bindingen die veilig en automatisch kunnen worden gevormd. Als een molecuul niet volledig kan worden opgesplitst volgens deze regels, wordt er een fallback gebruikt (rule-based tokenizer) voor training, maar de inferentie blijft beperkt tot de synthetiseerbare vocabulaire.
• Vocabulaire: Het model gebruikt een vocabulaire van ongeveer 800.000 unieke bouwstenen (waarvan 200.000 synthese-garanties hebben), afgeleid van 8 miljoen moleculen.

B. Model Architectuur

mCLM is een multimodaal generatief model gebaseerd op een Transformer-architectuur (gestart met Qwen2.5-3B).

• Code-Switching: Het model verwerkt sequenties die natuurlijke taal en moleculaire tokens afwisselen.
• Encodering: Elke moleculaire bouwsteen wordt eerst gecodeerd met een Graph Neural Network (GNN). Deze GNN-embeddings worden vervolgens via een adapter-module naar de embedding-ruimte van de taalmodel-projectie gebracht.
• Training: Het model wordt getraind op een grote dataset van instructies die moleculaire eigenschappen, functies en synthesebeperkingen koppelen aan natuurlijke taalbeschrijvingen. De loss-functie is een gecombineerde cross-entropy voor zowel tekst- als moleculaire tokens.

C. Kritisch Chemisch Redeneren

mCLM is ontworpen om iteratief te redeneren (een "System 2" aanpak):

1. Het model genereert een initiële kandidaat.
2. Het evalueert de eigenschappen (bijv. toxiciteit, oplosbaarheid).
3. Het identificeert de zwakste eigenschap en past het molecuul aan door specifieke bouwstenen te vervangen, toe te voegen of te verwijderen.
4. Dit proces herhaalt zich totdat een optimaal evenwicht is bereikt.

3. Belangrijkste Bijdragen

1. Nieuwe Tokenisatiestrategie: De eerste aanpak die moleculen tokeniseert op het niveau van functionele, synthese-vriendelijke bouwstenen in plaats van atomen, wat de kloof tussen AI en fysieke synthese overbrugt.
2. Bilinguaal Model: Een model dat zowel natuurlijke taal als chemische structuren begrijpt en "code-switches" tussen beide, waardoor het redeneren over complexe chemische concepten mogelijk wordt.
3. Garantie voor Synthetiseerbaarheid: Door de vocabulaire te beperken tot bouwstenen die compatibel zijn met geautomatiseerde robots, garandeert mCLM dat gegenereerde moleculen daadwerkelijk in het lab kunnen worden gemaakt.
4. Iteratief Zelfverbetering: Het vermogen om "gevallen engelen" (drugkandidaten die faalden in klinische proeven) te redden door iteratief hun eigenschappen te optimaliseren.

4. Resultaten

Het model werd getest op diverse benchmarks, waaronder 430 FDA-goedgekeurde medicijnen en 122 specifieke gevallen van "fallen angels".

• Verbetering van Geneesmiddelen: Op een set van 122 FDA-medicijnen (bestaande uit synthese-garanties) verbeterde mCLM de gemiddelde farmacokinetische en toxiciteitsprofielen met 15,0%. Dit is significant beter dan state-of-the-art baselines zoals GPT-5, GPT-4o, Gemini-2.5-Flash en MoleculeSTM.
• Synthetiseerbaarheid:
  • Validiteit: 100% van de gegenereerde moleculen was syntactisch correct.
  • Synthetiseerbaarheid: 98,23% van de moleculen kon worden gesynthetiseerd (geëvalueerd met de geavanceerde retrosynthese-software Allchemy). Dit is superieur aan FDA-medicijnen zelf (98,11%) en aanzienlijk beter dan andere modellen (bijv. MoleculeSTM: ~85%).
• Fallen Angels Case Study: mCLM slaagde erin om moleculen zoals Evobrutinib en TNG348 (die faalden door levertoxiciteit) te repareren door iteratief de toxiciteit te verlagen en andere eigenschappen te behouden, vaak met slechts één aanpassing van een bouwsteen.
• Generalisatie: Het model presteerde goed op "out-of-distribution" moleculen, zelfs met bouwstenen die niet in de trainingsvocabulaire zaten, wat aantoont dat het de chemische logica heeft geleerd in plaats van alleen patronen te memoriseren.

5. Betekenis en Toekomstperspectief

Deze paper markeert een verschuiving in AI voor wetenschappelijke ontdekking:

• Van "Hallucineren" naar "Maakbaar": Door synthesebeperkingen in het tokenisatieproces te integreren, elimineert mCLM het probleem van het genereren van onmogelijke moleculen.
• Democratisering van Ontdekking: De aanpak maakt het mogelijk om nieuwe moleculen te ontwerpen die direct kunnen worden gesynthetiseerd door robots, wat de kosten en tijd voor drugontwikkeling drastisch kan verlagen en onderzoek toegankelijker maakt voor landen zonder geavanceerde chemische infrastructuur.
• Autonome Laboratoria: mCLM vormt de kern van een toekomstig autonoom laboratoriumsysteem waar AI hypotheses formuleert, moleculen ontwerpt, deze fysiek synthetiseert, test en de resultaten gebruikt om zichzelf te verbeteren.

Kortom, mCLM bewijst dat het modelleren van chemie als een modulaire taal, gebaseerd op functionele bouwstenen en synthesebeperkingen, leidt tot superieure resultaten in zowel functionele optimalisatie als praktische toepasbaarheid.