From Black Boxes to Formulas: Interpretable Kolmogorov-Arnold Networks for HF-3c-to-DFT Descriptor Prediction

In de wereld van de chemie staan wetenschappers vaak voor een moeilijke keuze tussen snelheid en precisie. Om te begrijpen hoe moleculen zich gedragen, vertrouwen ze op krachtige computersimulaties gebaseerd op een methode genaamd dichtheidsfunctionaaltheorie. Deze benadering is als een microscoop met een hoge resolutie; het onthult de complexe details van moleculaire energie en elektronische structuur met grote nauwkeurigheid. Het draaien van deze simulaties is echter extreem duur qua rekenkracht, vooral bij het bestuderen van grote, complexe assemblages van moleculen. Het is vaak te traag om te gebruiken voor het screenen van duizenden potentiële materialen. Om dit op te lossen, gebruiken onderzoekers regelmatig een veel snellere, goedkopere methode die een ruwe schets geeft van de eigenschappen van het molecuul. De uitdaging is altijd geweest hoe je die ruwe schets betrouwbaar kunt omzetten in een afbeelding met een hoge resolutie, zonder dat je de dure simulatie elke keer opnieuw hoeft uit te voeren.

Een team van onderzoekers aan de ITMO Universiteit heeft een nieuwe manier gevonden om deze kloof te overbruggen, door weg te bewegen van complexe, ondoorzichtige computermodellen naar eenvoudige, transparante wiskundige regels. Ze richtten zich op een specifieke set van meer dan duizend ringvormige moleculaire structuren. Voor elke structuur hadden ze twee sets gegevens: de snelle, goedkope schattingen en de trage, hoog-precieze waarden. Hun doel was om een computer te leren de exacte correctie te leren die nodig is om de goedkope getallen om te zetten in de dure. In plaats van de enorme, ingewikkelde neurale netwerken te gebruiken die de standaard zijn geworden in dit veld — vaak "black boxes" genoemd omdat hun interne logica onmogelijk te lezen is voor mensen — gebruikten de onderzoekers een nieuwer type netwerk genaamd een Kolmogorov-Arnold netwerk. Dit ontwerp is anders omdat het zijn voorspellingen opbouwt met behulp van eenvoudige, enkelvoudige functies die gemakkelijk te volgen en te begrijpen zijn.

De resultaten waren opmerkelijk. Het nieuwe netwerk, dat slechts een paar honderd instelbare parameters bevatte, presteerde beter dan tien andere gevestigde modellen, inclusclusief complexe boomstructuur-systemen en diepe neurale netwerken, op elke eigenschap die ze testten. Deze eigenschappen omvatten de energie van de moleculen, entropie (een maat voor wanorde), de elektrische dipoolmomenten en de kloof tussen hun hoogste en laagste energieniveaus. Belangrijker nog, de onderzoekers kregen niet alleen betere getallen; ze kregen een heldere uitleg voor waarom die getallen werkten. Door het getrainde netwerk te analyseren, ontdekten ze dat de relatie tussen de goedkope schattingen en de precieze waarden veel eenvoudiger was dan iedereen tot nu toe had aangenomen. Voor drie van de energie-gerelateerde eigenschappen stortte de gehele complexe correctie in tot één enkele, rechte lijnregel: de precieze waarde is simpelweg de goedkope waarde vermenigvuldigd met een kleine factor en verschoven door een constante hoeveelheid. Dit betekent dat voor deze energieën het verschil tussen de snelle methode en de trage methode in essentie een uniform schaleringsprobleem is, en geen chaotische, onvoorspelbare verstoring.

De studie onthulde ook dat voor de meeste eigenschappen de correctie bijna volledig afhangt van de overeenkomstige goedkope meting zelf. Bijvoorbeeld, de precieze entropiewaarde wordt bijna uitsluitend gedreven door de goedkope entropiewaarde, en de precieze elektrische kloof wordt gedreven door de goedkope kloof. Het netwerk leerde dat het geen verschillende soorten gegevens hoefde te combineren om een nauwkeurige voorspelling te doen; het hoefde alleen het specifieke getal dat het kreeg te verwerken. Deze bevinding suggereert dat het signaal dat nodig is om de goedkope data te upgraden al in de data zelf aanwezig is, wachtend om te worden ontsloten door de juiste soort eenvoudige formule. Hoewel twee eigenschappen, de elektrische kloof en het dipoolmoment, iets complexere regels vereisten om hun gedrag te vangen, waren de onderzoekers nog steeds in staat de logica van het netwerk te destilleren tot korte, leesbare vergelijkingen die iedereen op een papiertje zou kunnen opschrijven.

Dit werk vertegenwoordigt een belangrijke verschuiving in hoe wetenschappers machine learning in de chemie benaderen. Het demonstreert dat hoge nauwkeurigheid geen "black box" vereist. Door een netwerkarchitectuur te gebruiken die ontworpen is om interpreteerbaar te zijn, lieten de onderzoekers zien dat ze de prestaties van de meest geavanceerde modellen konden evenaren terwijl ze resultaten produceerden die controleerbaar en overdraagbaar zijn. De complexe, verborgen lagen van een traditioneel neuraal netwerk werden vervangen door een handvol heldere, lineaire relaties en een paar kleine aanpassingen. Dit betekent dat chemici in de toekomst misschien niet langer hoeven te vertrouwen op enorme, onverklaarbare computerprogramma's om kwalitatieve gegevens te verkrijgen. In plaats daarvan kunnen ze deze transparante formules gebruiken om het gedrag van nieuwe moleculaire structuren snel en met vertrouwen in te schatten, wetende precies hoe de berekening is afgeleid en waarom het werkt. De studie bevestigt dat voor deze specifieke klasse van moleculaire ringen de weg van een ruwe schatting naar een precieze waarde geen mysterie is, maar een rechttoe-rechtaan, wiskundige lijn.