Teaching Language Models Mechanistic Explainability Through MechSMILES

Deze paper introduceert MechSMILES, een computeraangedreven framework dat taalmodellen leert chemische reactiemechanismen te voorspellen via pijl-drukformaliteit, waardoor Computer-Assisted Synthesis Planning (CASP) systemen fysiek onderbouwde, interpreteerbare en atoom-accurate reactiepaden kunnen genereren.

De kern

De "Recept" vs. De "Kookstap-voor-stap"

Stel je voor dat chemici koks zijn en chemische reacties zijn recepten. Tot nu toe hebben computersystemen die helpen bij het bedenken van nieuwe recepten (zoals CASP-systemen) alleen gekeken naar het eindresultaat: "Als ik ingrediënt A en B meng, krijg ik taart C." Ze weten niet hoe de taart gemaakt wordt. Ze weten niet welke ingrediënten eerst gemengd moeten worden, of er een ei moet worden geklopt, of dat de oven op een bepaalde temperatuur moet staan. Ze kijken alleen naar de start en de finish.

Dit probleem is dat de computer soms een "recept" bedenkt dat er op papier goed uitziet, maar in de echte keuken onmogelijk is. Misschien suggereert de computer dat je een taart bakt zonder eieren, terwijl dat fysiek niet kan.

De Oplossing: MechSMILES (De "Pijlen-Taal")

De onderzoekers van dit artikel hebben een nieuwe manier bedacht om computers te leren niet alleen het eindresultaat te zien, maar het hele proces te begrijpen. Ze hebben een nieuwe taal bedacht die MechSMILES heet.

Stel je voor dat je een stripverhaal tekent. In plaats van alleen de begin- en eindtekst te schrijven, teken je elke stap met pijltjes:

• "Het elektron van dit atoom springt naar dat atoom."
• "Deze binding breekt."
• "Dit molecuul geeft een deeltje af."

MechSMILES is een compacte tekstcode die precies deze pijltjes en bewegingen beschrijft. Het is als een instructieboekje voor elektronen. Het belangrijkste is: deze taal zorgt ervoor dat er nooit atomen verdwijnen of uit de lucht komen. Het is alsof de computer een strenge keurmeester heeft die zegt: "Je mag geen atomen creëren of vernietigen, dat is tegen de natuurwetten!"

Wat leert dit de computer?

De onderzoekers hebben AI-modellen (zoals slimme chatbots) getraind om deze "pijlen-taal" te lezen en te schrijven. Ze hebben de modellen vier taken gegeven, van makkelijk naar heel moeilijk:

1. De simpele taak: Hier krijg je alle informatie. De computer moet alleen de pijltjes tekenen. Dit doet hij bijna perfect.
2. De moeilijke taak: De computer moet het hele verhaal bedenken, maar hij weet niet precies hoeveel van elk ingrediënt er is.
3. De "Chef-kok" taak (Het moeilijkst): De computer krijgt alleen de ingrediënten en het gewenste eindproduct. Hij moet zelf bedenken: "Welke stappen moet ik nemen? Welke bijproducten ontstaan er? Welke katalysator (een soort 'hulpkok') heb ik nodig?"

De resultaten zijn indrukwekkend. Zelfs bij de moeilijkste taak lukt het de computer om in 93% van de gevallen het juiste "stappenplan" te vinden.

Waarom is dit zo'n groot nieuws? (De 3 Superkrachten)

Door deze manier van denken te leren, krijgt de computer drie nieuwe superkrachten die voorheen onmogelijk waren:

1. De "Fake-Check" (Validatie)
Stel je voor dat een computer een nieuw medicijnontwerp bedenkt. Voordat mensen tijd en geld steken in het bouwen ervan, kan dit nieuwe systeem zeggen: "Wacht even, dit recept klopt niet. Er is geen logisch pad van pijltjes dat van A naar B leidt zonder atomen te laten verdwijnen." Het fungeert als een fysieke waarheidscontrole. Het kan zelfs fouten in oude patenten vinden, zoals een verkeerd getekend molecuul dat door een ander programma is gemaakt.

2. De "Atomen-Detective" (Mapping)
Bij gewone chemische software is het vaak een raadsel waar een waterstofatoom (H) naartoe is gegaan. Dit nieuwe systeem houdt elk atoom in de gaten, zelfs de kleine waterstofjes.

• Vergelijking: Het is alsof je een film ziet van een dansfeest. De oude systemen zagen alleen wie er aan het begin en einde op de dansvloer stond. Dit nieuwe systeem ziet precies wie met wie heeft gedanst, wie er een glas water heeft gekregen en wie er de dansvloer heeft verlaten. Dit is cruciaal voor reacties waar waterstof een belangrijke rol speelt.

3. De "Hulpkok-Detectie" (Katalysatoren)
In de chemie zijn er vaak stoffen die helpen bij de reactie (katalysatoren) maar aan het einde weer intact zijn. Gewone systemen zien deze als "toeschouwers" en negeren ze. Dit nieuwe systeem ziet dat deze stof wel degelijk heeft geholpen (het heeft een dansje gedanst) en is daarna weer teruggekomen. Hierdoor kan het systeem betere instructies geven over welke hulpstoffen echt nodig zijn.

Conclusie: Van "Black Box" naar Begrijpbaar

Voorheen waren chemische AI-systemen vaak "black boxes": je gaf een vraag in en kreeg een antwoord, maar je wist niet waarom. Dit nieuwe systeem maakt de AI uitlegbaar. Het toont het "redenatieproces" stap voor stap, net zoals een menselijke chemicus dat zou doen.

Het is alsof we de computer niet alleen hebben leren rekenen, maar ook hebben leren redeneren over hoe de wereld werkt. Hierdoor kunnen we veiliger, sneller en slimmer nieuwe medicijnen en materialen ontwerpen, wetende dat de "recepten" die we bedenken ook daadwerkelijk in de keuken van de natuur werken.

Technische samenvatting

Probleemstelling

Huidige systemen voor Computer-Assisted Syntheseplanning (CASP) missen fundamenteel chemisch redeneren. Ze opereren voornamelijk op basis van retrosynthetische benaderingen (werken van het doelmolecuul terug naar uitgangsstoffen) en behandelen reacties als graftransformaties zonder inzicht in het onderliggende mechanisme. Dit leidt tot twee belangrijke beperkingen:

1. Chemische onwaarschijnlijkheid: Systemen kunnen reacties voorstellen die formeel geldig zijn als graftransformatie, maar chemisch onmogelijk zijn vanwege hoge energietussenproducten of verboden elektronenbewegingen.
2. Gebrek aan verklaarbaarheid: De redenering achter een voorgestelde transformatie blijft een "black box". Chemici evalueren reacties echter instinctief via het "arrow-pushing"-formalisme (het volgen van elektronenstromen), een methode die massa- en ladingsbehoud garandeert.

Bestaande methoden proberen dit op te lossen via scores of handmatig samengestelde templates, maar deze benaderingen behandelen alleen de netto-transformatie en vangen niet de stap-voor-stap mechanistische logica in.

Methodologie

1. MechSMILES: Een Nieuw Formaat

De kern van de oplossing is MechSMILES, een compacte, ondubbelzinnige tekstuele notatie die moleculaire structuur en elektronenstroom combineert.

• Opbouw: Een MechSMILES-string bestaat uit een minimaal gemapte SMILES-reeks, gevolgd door een suffix die elektronenbewegingen codeert via drie pijltypes:
  1. Aanval (Attack): (a, b) – Een vrij elektronenpaar van atoom a valt atoom b aan (verhoogt bindingsgraad).
  2. Ionisatie (Ionization): ((a, b), b) – Heterolytische splitsing van de binding a-b (a wordt positief, b negatief; bindingsorde daalt).
  3. Bindingsaanval (Bond attack): ((a, b), c) – De binding a-b valt atoom c aan via b (verlaagt binding a-b, verhoogt binding b-c).
• Voordelen:
  • Expliciete waterstof: In tegenstelling tot standaard SMILES, worden individuele waterstofatomen expliciet gemapt, wat cruciaal is voor mechanismen zoals E2-eliminatie.
  • Stapsgewijze flexibiliteit: Het formaat kan alleen de moleculen bevatten die in een specifieke stap interageren.
  • Efficiëntie: Het formaat is 44,6% compacter dan alternatieven omdat het product impliciet wordt berekend door de omgeving, wat training- en inferentiekosten verlaagt.

2. Computergestuurde Omgeving

De auteurs hebben een Python-omgeving ontwikkeld die de wetten van behoud van massa en lading direct codeert.

• Geen "Hallucinaties": Modellen kunnen alleen pijlen "duwen" (arrow-pushing). Het is onmogelijk om atomen of ladingen te creëren of te vernietigen.
• Vereiste: Alle soorten die atomen of ladingen bijdragen (katalysatoren, zuren, basen) moeten aanwezig zijn in de beginstaat; het systeem kan geen ontbrekende reagentia afleiden.

3. Taakdefinitie en Modellen

Er zijn vier taken van toenemende complexiteit gedefinieerd om de prestaties te testen:

1. Elementaire stap: Gegeven alle tussenproducten, voorspel de elektronenbeweging (annotatietaken).
2. Gelijkgewogen reactie: Gegeven alle eindproducten (inclusief bijproducten), voorspel de volgende stap.
3. Reactie zonder bijproducten: Gegeven stoichiometrie en hoofdproduct, voorspel het mechanisme (moet bijproducten afleiden).
4. Reactie zonder stoichiometrie (Meest uitdagend): Gegeven alleen de beschikbare reagentia en het gewenste product, voorspel het volledige mechanisme. Dit nabootst de realiteit voor een chemicus.

Er zijn twee families van modellen getraind om architectonische onafhankelijkheid te tonen: T5 (encoder-decoder) en LLaMa (decoder-only), beide met een aangepaste MechSMILES-tokenizer.

Kernresultaten

• Prestaties op taken:
  • Op de eenvoudigste taak (elementaire stap) bereiken de modellen >96% top-1 nauwkeurigheid.
  • Op de meest uitdagende taak (geen stoichiometrie, geen bijproducten) bereikt het T5-model een pathway retrieval (terugvinden van het volledige mechanisme) van 93,2% op de FlowER-dataset en 73,3% op mech-USPTO-31k (met greedy decoding). Met beam search (width 3) stijgt dit naar respectievelijk 97,6% en 86,5%.
• Transfer Learning: Het framework leert nieuwe reactieklassen zeer snel. Na fijne afstemming (fine-tuning) op slechts 40 voorbeelden per klasse, kon het model ozonolyse en Suzuki-koppeling correct voorspellen, zonder de prestaties op eerder geleerde mechanismen (zoals Mitsunobu) te verslechteren.
• Validatie: Het model slaagde erin om een fout in een bestaande CASP-pijplijn (PaRoutes) op te sporen die veroorzaakt werd door een verkeerde chemische naam, en bevestigde de gecorrigeerde reactie door een geldig mechanisme te vinden.

Belangrijke Bijdragen en Toepassingen

1. Post-hoc Validatie van CASP: Het systeem fungeert als een "chemische haalbaarheidsfilter". Het kan voorgestelde synthetische stappen valideren door te zoeken naar een fysiek plausibel pad van elektronenbewegingen. Als geen mechanisme gevonden wordt, wordt de stap als onwaarschijnlijk gemarkeerd.
2. Holistische Atomaire Mapping: In tegenstelling tot bestaande tools die alleen zware atomen mappen, kan dit systeem alle atomen, inclusief waterstof, volgen. Dit is essentieel voor reacties waarbij waterstofoverdracht het resultaat bepaalt (bijv. reductieve aminering).
3. Katalysator-bewuste Template Extractie: Traditionele templates vergelijken alleen start- en eindtoestand, waardoor katalysatoren die in het midden van het mechanisme worden verbruikt en geregenereerd, vaak onzichtbaar blijven. Het mechanistische model onderscheidt automatisch tussen katalysatoren (die deelnemen) en toeschouwers (solventen), waardoor nauwkeurigere reactietemplates kunnen worden gegenereerd.

Betekenis en Toekomstperspectief

Dit werk biedt een architectonisch onafhankelijke, open-source basis voor verklarende en chemisch valide CASP-systemen. Door taalmodellen te leren redeneren via het arrow-pushing-formalisme, wordt de kloof tussen "black-box" AI en menselijk chemisch inzicht overbrugd.

• Beperkingen: Het huidige systeem is beperkt tot polaire mechanismen met gesloten schillen (geen radicalen) en vereist dat alle reagentia in de beginstaat bekend zijn. Stereochemie wordt nog niet geëvalueerd door gebrek aan datasets.
• Toekomst: Uitbreiding naar radicaalmechanismen en integratie van mechanismevoorspelling direct in de retrosynthetische zoektocht (in plaats van alleen als post-hoc filter) worden gezien als volgende stappen. De lage data-eisen voor fine-tuning maken het mogelijk om systematisch gaten in mechanistische dekking op te vullen.

Kortom, dit onderzoek transformeert mechanistische chemie van een handmatige, menselijke vaardigheid naar een schaalbare, datagedreven capaciteit die de betrouwbaarheid en interpretatie van geautomatiseerde syntheseplanning drastisch verbetert.