Physics-Aligned Electronic Ground-State Learning Improves Generalization

In de zoektocht naar het ontwerpen van nieuwe medicijnen en het ontdekken van sterkere materialen, vertrouwen wetenschappers op een krachtig hulpmiddel genaamd computationele chemie. Dit vakgebied maakt het mogelijk voor onderzoekers om te simuleren hoe atomen en moleculen zich gedragen op een computer, wat fungeert als een virtueel laboratorium voordat er ooit een fysiek experiment wordt uitgevoerd. In het hart van deze simulaties ligt de behoefte om de "grondtoestand" van een molecuul te begrijpen, wat in essentie de meest stabiele, rustende rangschikking van elektronen is. Het kennen van deze rangschikking stelt wetenschappers in staat om te voorspellen hoe een molecuul zal reageren, hoe sterk het zal zijn of hoe het zou kunnen interageren met een medicijn. Het berekenen van deze grondtoestand met perfecte nauwkeurigheid is echter ongelooflijk moeilijk en rekenintensief, waarbij zelfs voor één enkel molecuul vaak uren of dagen op supercomputers nodig zijn. Om dit te versnellen, hebben onderzoekers machine learning-modellen ontwikkeld die deze antwoorden bijna onmiddellijk kunnen raden. Hoewel deze modellen uitstekend zijn in het voorspellen van eigenschappen voor moleculen die ze eerder hebben gezien, schieten ze vaak tekort wanneer ze gevraagd worden de gedragingen van grotere, complexere moleculen te voorspellen die verschillen van de trainingsdata.

Een team van onderzoekers van de Technische Universiteit München en NVIDIA heeft een nieuwe manier voorgesteld om deze machine learning-modellen te bouwen die de kloof tussen snelheid en nauwkeurigheid overbrugt. In plaats van te proberen het uiteindelijke antwoord direct te voorspellen, leert hun aanpak de computer de onderliggende regels te leren die bepalen hoe elektronen zich rangschikken. Ze ontwierpen een systeem dat fungeert als een middenweg: het is veel sneller dan de meest nauwkeurige traditionele methoden, maar aanzienlijk betrouwbaarder dan huidige machine learning-shortucts. De sleutel tot hun succes was het dwingen van de computer om te leren op een manier die de fundamentele natuurwetten van het universum respecteert, in plaats van alleen patronen in data te memoriseren. Door het leerproces af te stemmen op de werkelijke vergelijkingen die het gedrag van elektronen beschrijven, creëerden ze modellen die niet alleen raden, maar de geometrie van het probleem begrijpen.

De onderzoekers testten hun methode door het te trainen op een dataset van kleine moleculen en vervolgens te vragen de eigenschappen van moleculen te voorspellen die tot vier keer zo groot zijn. In deze tests lieten hun nieuwe modellen een dramatische verbetering zien ten opzichte van eerdere state-of-the-art methoden. Voor de meest nauwkeurige versie van hun systeem daalde de fout bij het voorspellen van de energie van deze grotere moleculen met bijna 99,8 procent vergeleken met de beste bestaande alternatieven. Dit niveau van precisie is cruciaal omdat in de chemie zelfs minuscule fouten kunnen leiden tot volkomen verkeerde voorspellingen over de vraag of een medicijn zal werken of een materiaal zal vasthouden. Bovendien bevat het systeem een ingebouwde veiligheidscontrole. Als het model een molecuul tegenkomt dat te vreemd of complex is om met vertrouwen te behandelen, kan het de voorspelling als onbetrouwbaar markeren. In hun tests filterde deze veiligheidsmechanisme succesvol minder dan een half procent van de voorspellingen eruit, waardoor de overgrote meerderheid van de geleverde resultaten betrouwbaar was.

Een van de meest significante bevindingen van dit werk is dat deze natuurkundig-gealigneerde modellen kunnen generaliseren naar formaten die ze nog nooit eerder hebben gezien. Terwijl andere machine learning-modellen de neiging hebben om in te storten wanneer ze worden geconfronteerd met grotere systemen, behielden deze nieuwe modellen een hoge nauwkeurigheid, zelfs bij het voorspellen van het gedrag van moleculen met honderden elektronen. De onderzoekers demonstreerden ook dat hun modellen konden worden aangepast om chemische reacties te bestuderen, inclusief de vluchtige momenten waarop bindingen worden verbroken en gevormd. Door een techniek te gebruiken die het model verfijnt zonder nieuwe gelabelde data nodig te hebben, waren ze in staat het systeem over te dragen naar een nieuwe chemische omgeving en een fout bereikt te hebben die onder de drempel ligt die bekend staat als "chemische nauwkeurigheid", wat de gouden standaard is voor nuttige voorspellingen in het vakgebied.

Het team argumenteerde expliciet tegen de standaardbenadering in het veld, die de wiskundige representaties van deze moleculen vaak behandelt als eenvoudige lijsten met getallen die gematcht moeten worden. Ze lieten zien dat deze veelvoorkomende methode er niet in slaagt de ware fysieke relaties tussen verschillende delen van een molecuul te vatten, wat leidt tot slechte prestaties wanneer de systeemgrootte verandert. Daarentegen behandelt hun nieuwe aanpak de elektronrangschikking als een specifieke geometrische vorm die strikte regels moet naleven, vergelijkbaar met een rigide structuur die niet willekeurig kan worden uitgerekt of verdraaid. Deze beperking dwingt het model om het juiste fysieke gedrag te leren in plaats van alleen de data te fitten. Het resultaat is een systeem dat niet alleen nauwkeuriger is, maar ook robuuster, in staat om de complexiteit van echte chemische problemen aan te kunnen die voorheen buiten het bereik lagen van snelle machine learning-methoden.

Dit werk suggereert een pad voorwaarts voor het creëren van "foundation models" voor chemie, vergelijkbaar met de grote taalmodellen die worden gebruikt voor tekst. Net zoals die modellen de regels van taal leren om nieuwe zinnen te genereren, leren deze nieuwe modellen de regels van elektronen om nieuwe moleculaire inzichten te genereren. De onderzoekers hebben aangetoont dat door de fysieke beperkingen van het probleem te respecteren, zij een prestatieniveau konden bereiken dat evenaart aan de meest dure traditionele berekeningen, maar tegen een fractie van de tijd. Dit opent de deur naar het screenen van enorme bibliotheken van potentiële medicijnen en materialen met een snelheid en betrouwbaarheid die voorheen onmogelijk was, wat de ontdekking van levensreddende medicijnen en geavanceerde materialen voor de toekomst potentieel kan versnellen.