Technische Samenvatting: MoleCode Ontgrendelt Structurele Intelligentie in Grootte Taalmodellen

Probleemstelling

Grootte Taalmodellen (LLMs) worden steeds vaker toegepast in de moleculaire wetenschap, maar ze staan voor een fundamenteel interfaceprobleem: moleculen zijn van nature grafen (knopen en kanten), maar de dominante representatie, SMILES, codeert ze als één-dimensionale lineaire strings. In SMILES zijn connectiviteit, vertakkingen en ring-sluitingen impliciet, waardoor het model de moleculaire topologie intern moet reconstrueren voordat het chemische redenering kan uitvoeren. Deze "structurele reconstructie"-bottleneck dwingt LLMs om syntaxis te decoderen in plaats van direct op structuur te opereren, wat leidt tot prestatieverlies bij taken die topologisch bewustzijn vereisen, zoals het voorspellen van reacties, het tellen van atomen in complexe ringen, of het bewerken van onbekende moleculen. Huidige benaderingen, waaronder Graph Neural Networks (GNNs) en hybride systemen, missen óf algemene redeneervermogens óf comprimeren graf-informatie tot vectoren/sequenties, waardoor lokaliteit en bewerkbaarheid verloren gaan.

Methodologie: MoleCode

De auteurs introduceren MoleCode, een LLM-natieve, trainingsvrije, graf-expliciete moleculaire taal die moleculaire topologie direct leesbaar en hanteerbaar maakt binnen de taalk context.

• Grammatica en Primitieven: MoleCode is gebouwd op een eenvoudige Subgraaf–Knoop–Kant-grammatica:
  • Subgraaf: Definieert structurele scopes (bijv. een heel molecuul, een herhalingseenheid, of een Markush-skelet).
  • Knoop: Vertegenwoordigt getypeerde entiteiten (atomen of hogere chemische groepen) met persistent identifiers die stabiel blijven over redeneerstappen heen.
  • Kant: Codeert expliciete relaties (bindingen) tussen knopen, inclusief bindingsorde (enkel, dubbel, drievoudig, aromatisch).
• Expliciete Representatie: In tegenstelling tot SMILES, waar topologie wordt afgeleid uit de sequentiepositie, stelt MoleCode connectiviteit direct vast. Bijvoorbeeld, een atoom wordt gedeclareerd met een ID, en bindingen worden expliciet gekoppeld aan bron- en doel-ID's.
• Deterministische Conversie: MoleCode ondersteunt bidirectionele, deterministische conversie met standaardformaten (SMILES, MOL-bestanden) zonder verlies van structurele informatie, met gebruik van RDKit voor parsing en serialisatie.
• Uitbreidbaarheid: De grammatica reikt verder dan kleine moleculen naar:
  • Polymeren: Vertegenwoordigd als expliciete subgrafen met multipliciteitsoperatoren (bijv. $\times n$) in plaats van uitgebreide ketens.
  • Markush-structuren: Variabele substituenten en logische relaties worden gecodeerd als expliciete knopen en kanten.
  • Reactiemechanismen: Vertegenwoordigd als sequenties van graftransformaties (toestanden en elektronenoverdrachtspaden).
  • Multimodale Documenten: Parseert verweven tekst en afbeeldingen uit octrooien en onderzoeksartikelen naar geünificeerde structurele grafen.

Belangrijkste Bijdragen

1. Een Nieuw Representatieparadigma: MoleCode verschuift de moleculaire representatie van impliciete sequentiële syntaxis naar expliciete, bewerkbare grafobjecten binnen het LLM-contextvenster.
2. Trainingsvrije Integratie: Het vereist geen aanpassing van LLM-weights; het fungeert als een prompt-engineeringstrategie die structurele intelligentie ontgrendelt in bestaande frontlijnmodellen.
3. Activerende Werkstroom: Het expliciete karakter van MoleCode maakt gelokaliseerde, controleerbare grafoperaties mogelijk, waardoor coderingsagenten moleculaire structuren iteratief kunnen redeneren, bewerken en valideren.
4. Geünificeerde Interface: Het biedt een enkele taal voor diverse chemische objecten, van kleine moleculen tot polymeren, reactiemechanismen en complexe wetenschappelijke documenten.

Resultaten

De auteurs evalueerden MoleCode over drie frontlijn-LLMs (DeepSeek-R1, Gemini-2.5-Flash, Gemini-3-Pro) en meerdere benchmarks:

• Moleculaire Redenering: MoleCode presteerde consequent beter dan SMILES en SELFIES, met name bij taken die structurele generalisatie vereisen in plaats van memorisatie.
  • Onbekende Moleculen: De nauwkeurigheid op nieuwe moleculen bleef stabiel (~76–80%) met MoleCode, terwijl de SMILES-nauwkeurigheid aanzienlijk daalde (tot ~20%) naarmate de bekendheid afnam.
  • Schaalbaarheid van Complexiteit: Naarmate molecuulgrootte en complexiteit toenamen (bijv. koolstofaantal >50), degradeerde SMILES-prestatie monotoon, terwijl MoleCode een hoge nauwkeurigheid behield.
  • Takenwinst: De nauwkeurigheid van reactievoorspelling voor Gemini-3-Pro steeg van 58,8% (SMILES) naar 95,0% (MoleCode); de voorspelling van moleculaire formules steeg van 58,0% naar 90,0%.
• Moleculaire Optimalisatie: Bij doelgerichte optimalisatie (LogP en oplosbaarheid) maakte MoleCode meer chemisch interpreteerbare en gelokaliseerde bewerkingen mogelijk.
  • Modellen die MoleCode gebruikten, bereikten hogere gemiddelde eigenschapsverbeteringen (bijv. +1,15 LogP voor Gemini-2.5-Flash versus 0,0 met SMILES).
  • Bewerkingen behielden structurele gelijkenis (Tanimoto-gelijkenis) terwijl ze specifieke eigenschapsveranderingen nastreefden, terwijl SMILES vaak structureel gedegradeerde kandidaten produceerde.
• Inferentie-efficiëntie: Hoewel MoleCode-inputs langer zijn, verschuiven ze het kostenprofiel van inferentie.
  • Token-toewijzing: MoleCode vermindert de behoefte aan lange Chain-of-Thought (CoT)-redeneersporen die zijn gewijd aan het reconstrueren van topologie. De CoT-tokenkosten schaalden sublineair ($C^{0,52}$) met molecuulgrootte, vergeleken met superlineaire groei voor SMILES ($C^{1,65}$).
  • Productiviteit: Langere redenering met MoleCode correleerde positief met optimalisatiesucces, terwijl langere redenering met SMILES dat niet deed.
• Polymeren en Hogere-orde Structuren:
  • Polymeren: MoleCode behield een bijna perfecte nauwkeurigheid in het tellen van koolstofatomen en het bewerken van polymeren met >250 herhalingseenheden, waar volledige-keten SMILES instortte.
  • Markush & Mechanismen: MoleCode presteerde aanzienlijk beter dan E-SMILES bij het parseren van Markush-structuren (van 38,1% naar 84,0% nauwkeurigheid) en verbeterde de nauwkeurigheid bij het representeren van reactiemechanismen en elektronenoverdrachtspaden.
  • Multimodale Parsing: Succesvol geanalyseerd complexe, nieuw gepubliceerde onderzoeksartikelen en octrooiaankondigingen naar geünificeerde structurele grafen, waarbij relaties tussen tekst en afbeeldingen behouden bleven.

Betekenis en Claims

Het artikel betoogt dat de interface tussen wetenschappelijke objecten en LLMs structuur niet moet behandelen als iets dat uit tekst moet worden gedecodeerd. Wanneer het object van redenering relationeel is, moet de structuur zelf onderdeel zijn van de taal.

• Herformulering van Representatie: De auteurs beweren dat representaties redeneervermogens vormen. Door topologie expliciet te maken, stelt MoleCode LLMs in staat om direct op atomen en bindingen te opereren, en verlegt het de computereffort van structurele reconstructie naar chemisch betekenisvolle operaties.
• Algemeen Principe: Deze aanpak suggereert een breder principe voor wetenschappelijke taalinterfaces: het comprimeren van relationele objecten tot impliciete sequenties dwingt modellen om structuur te herstellen voordat ze deze gebruiken. Door structuur direct bloot te leggen, kunnen LLMs redeneervermogen betrouwbaarder toepassen over gestructureerde wetenschappelijke domeinen heen.
• Praktische Impact: De integratie van MoleCode in AtomFlow (een agentisch systeem) laat zien hoe graf-expliciete talen LLM-gebaseerde chemie kunnen verschuiven van prompten op molecuulniveau naar interactie op atoomniveau, wat taken ondersteunt zoals bewerken in natuurlijke taal en retrosyntheseplanning.

De auteurs blijven bescheiden, met de opmerking dat MoleCode geen chemische kennis creëert die een model mist en dat kleinere modellen mogelijk nog steeds ongeldige structuren genereren. Zij suggereren dat de volgende stap het opnemen van graf-expliciete representaties in pretraining is om gestructureerde domeinen vanaf het begin te leren.