Reaction-Center-Guided Reranking of Transformer Product Predictions with a Product-Conditioned Graph Neural Network

Stel je een wereld voor waarin chemici de uitkomst van een chemische reactie met dezelfde gemak kunnen voorspellen als een weerman regen voorspelt. Dit is het doel van computerondersteunde synthese, een vakgebied dat zich volledig inzet voor het helpen van wetenschappers bij het ontwerpen van nieuwe medicijnen en materialen door te simuleren hoe moleculen zich zullen gedragen voordat ze deze zelfs maar in een laboratorium mengen. In het hart van deze uitdaging ligt een eenvoudige maar moeilijke vraag: als ik deze specifieke startingrediënten meng, welk nieuw molecuul zal er dan precies ontstaan? Decennialang hebben onderzoekers vertrouwd op twee belangrijke benaderingen om dit antwoord te vinden. De ene benadering behandelt moleculen als zinnen, waarbij krachtige computerprogramma's worden gebruikt om een reeks chemische symbolen van de startmaterialen te vertalen naar een reeks voor het product. De andere benadering behandelt moleculen als kaarten, waarbij netwerken van stippen en lijnen worden gebruikt om bij te houden hoe atomen verbindingen maken en zich herschikken. Hoewel beide methoden hun sterke punten hebben, kunnen ze vaak niet op zichzelf het volledige plaatje zien. De op zinnen gebaseerde methoden zijn snel, maar kunnen de fysieke realiteit van hoe atomen binden missen, terwijl de op kaarten gebaseerde methoden precies zijn, maar traag en moeilijk toe te passen kunnen zijn op complexe mengsels.

Een team van onderzoekers van universiteiten in Oezbekistan heeft nu een nieuwe manier ontwikkeld om deze twee sterktes te combineren zonder ze te laten concurreren. Ze creëerden een systeem dat een snelle, op taal gebaseerde computerprogramma gebruikt om een korte lijst van mogelijke uitkomsten voor een reactie te genereren, en vervolgens een gespecialiseerd kaartlezend programma inzet om te controleren welke van die uitkomsten het meeste fysieke zin heeft. Hun werk, gepubliceerd in een recente studie, laat zien dat door een tweede laag van controle toe te voegen die gericht is op de specifieke plek waar de chemische verandering plaatsvindt, ze de nauwkeurigheid van voorspellingen aanzienlijk kunnen verbeteren. Dit gaat niet over het vervangen van de bestaande instrumenten, maar over het geven van een slimmere manier aan hen om het juiste antwoord te kiezen uit een lijst met goede gissingen.

De onderzoekers begonnen met een enorme collectie chemische reacties, specifiek een dataset van bijna 48.000 reacties die zorgvuldig zijn schoongemaakt en geverifieerd om ervoor te zorgen dat de verbindingen tussen de atomen correct waren. Ze trainden eerst een compact computermodel, gebaseerd op een type kunstmatige intelligentie die bekend staat als een Transformer, om als generator te fungeren. Dit model leest de chemische formules van de startmaterialen en produceert een lijst van vijf waarschijnlijke producten, vergelijkbaar met een spellingscontrole die correcties voor een typefout voorstelt. In hun initiële test was deze generator ongeveer één derde van de tijd correct wanneer er alleen naar de beste keuze werd gekeken. De onderzoekers merkten echter op dat het juiste antwoord vaak net onder de eerste keuze zat, verborgen tussen de andere suggesties. Het probleem was niet dat de generator het juiste antwoord niet kon vinden, maar dat hij het niet altijd als de meest waarschijnlijke kon rangschikken.

Om dit rangschikkingsprobleem op te lossen, introduceerde het team een tweede model dat is ontworpen om als scheidsrechter te fungeren. Deze scheidsrechter is een graph neural network, een type programma dat moleculen begrijpt als netwerken van verbonden punten. In tegen tegenstelling tot de generator, die naar het hele molecuul kijkt als een sequentie van symbolen, focust deze scheidsrechter intensief op het "reactiecentrum"—de specifieke paar atomen waar bindingen worden verbroken en gevormd tijdens de chemische verandering. De onderzoekers leerden deze scheidsrechter de subtiele tekenen van een geldige chemische transformatie te herkennen. Ze verbeterden de trainingsdata door niet alleen veranderingen in bindingen op te nemen, maar ook veranderingen in de staat van individuele atomen, zoals verschuivingen in hun elektrische lading of het aantal waterstofatomen dat eraan vastzit. Hierdoor kon de scheidsrechter geldige reacties opsporen die oudere methoden wellicht gemist hadden.

Het systeem werkt in twee afzonderlijke stappen. Eerst creëert de generator zijn lijst van vijf kandidaten. Vervolgens onderzoekt het bevroren scheidsrechtermodel, dat apart is getraind en tijdens deze laatste stap niet is gewijzigd, elke kandidaat één voor één. Voor elk voorgesteld product controleert de scheidsrechter de startmaterialen om te zien of de atomen die betrokken zijn bij de verandering overeenkomen met het patroon van een echte chemische reactie. Het wijst een score toe op basis van hoe consistent het voorgestelde product is met de fysieke realiteit van de startmaterialen. Ten slotte combineert een eenvoudige wiskundige sorteerder de oorspronkelijke rangschikking van de generator met de nieuwe consistentiescores van de scheidsrechter om een definitieve, opnieuw geordende lijst te produceren.

De resultaten van deze hybride aanpak waren duidelijk en meetbaar. Wanneer de onderzoekers het systeem testten op een set reacties die ze nog nooit eerder hadden gezien, was de oorspronkelijke generator 32,99 procent van de tijd correct. Na het toevoegen van de consistentiecontrole van de scheidsrechter en het opnieuw rangschikken van de lijst, steeg de nauwkeurigheid naar 35,37 procent. Hoewel deze stijging klein mag lijken, vertegenwoordigt het in de wereld van chemische voorspelling een significante verbetering. Het nieuwe systeem slaagde erin 127 reacties te herstellen die de oorspronkelijke generator had gemist, terwijl het slechts 14 correcte antwoorden onterecht had veranderd in foutieve antwoorden. Statistische tests bevestigden dat deze verbetering niet aan toeval te wijten was, maar een echt, betrouwbaar effect was van het combineren van deze twee verschillende soorten informatie.

De studie onthulde ook waar deze methode het beste werkt en waar de beperkingen liggen. De verbetering was consistent bij reacties met kleine, middelgrote en grote moleculen, evenals bij reacties met verschillende aantallen startstoffen. Echter, het systeem worstelde met de meest complexe reacties, specif kind met reacties waarbij drie of meer afzonderlijke plekken van verandering tegelijkertijd plaatsvinden. In die gevallen was het vermogen van de scheidsrechter om de reactie in een enkele score samen te vatten niet voldoende om de complexiteit van de gelijktijdige veranderingen te vangen. Deze bevinding suggereert dat hoewel de methode zeer effectief is voor veel veelvoorkomende chemische transformaties, toekomstige versies geavanceerder zullen moeten zijn om reacties met meerdere, wijd verspreide veranderingen die simultaan plaatsvinden te kunnen afhandelen.

Uiteindelijk demonstreert dit onderzoek dat de toekomst van chemische voorspelling wellicht niet ligt in het bouwen van één enkele, massieve supercomputer, maar in het slim combineren van verschillende gespecialiseerde instrumenten. Door een snelle, breed spectrum dekkende generator het zware werk te laten doen van het creëren van mogelijkheden, en een gefocuste, detailgeoriënteerde scheidsrechter de fysieke plausibiliteit van die mogelijkheden te laten verifiëren, bereikten de onderzoekers een nauwkeuriger resultaat dan welk instrument alleen al had kunnen produceren. Het werk biedt een praktisch blauwdruk voor het verbeteren van bestaande chemische software zonder de noodzaak om de onderliggende modellen volledig te hertrainen, wat een pad biedt voor het toegankelijker maken van computerondersteunde synthese voor wetenschappers die de volgende generatie medicijnen en materialen ontwerpen.