Uncertainty quantification design principles for machine learning interatomic potentials: lessons learned from hierarchical Bayesian inference
Dit artikel benchmarkt strategieën voor onzekerheidskwantificering voor machine learning-interatomaire potentialen met behulp van argon cluster-correspondentiegegevens en stelt een hiërarchisch Bayesiaans Gaussian process-ontwerp voor dat effectief een balans vindt tussen nauwkeurigheid, kalibratie en foutdiscriminatie, terwijl het onzekerheidsbronnen expliciet ontleedt voor betrouwbare toepassingen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de wereld van de materiaalkunde proberen onderzoekers vaak te voorspellen hoe atomen zich zullen gedragen door ze op computers te simuleren. Decennialang hebben deze simulaties vertrouwd op vuistregels of vereenvoudigde fysica om te beschrijven hoe atomen op elkaar duwen en trekken. Hoewel nuttig, schieten deze vereenvoudigde regels vaak tekort wanneer wetenschappers complexe nieuwe materialen of extreme omstandigheden willen modelleren. Om dit te omzeilen, is er een nieuwere generatie hulpmiddelen ontstaan: machine learning interatomaire potentialen. Dit zijn computerprogramma's die getraind zijn op hoogwaardige kwantumfysische berekeningen om de regels van atomaire interactie direct uit data te leren. Ze zijn ongelooflijk snel en nauwkeurig, en fungeren als een brug tussen de trage, precieze wereld van de kwantummechanica en de snelle, grootschalige wereld van de techniek. Er blijft echter een groot probleem bestaan: deze programma's zijn vaak te zelfverzekerd. Ze zullen een voorspelling doen en een getal geven, maar ze kunnen niet betrouwbaar aangeven wanneer dat getal waarschijnlijk onjuist is. In vakgebieden zoals het ontwerpen van nieuwe batterijen of nucleaire materialen is weten wanneer een voorspelling onzeker is, even belangrijk als de voorspelling zelf. Zonder een manier om deze twijfel te meten, kunnen deze krachtige instrumenten niet veilig worden gebruikt voor kritieke beslissingen.
Dit is de uitdaging waar een team van onderzoekers zich op heeft gericht. Ze concentreerden zich op een specifiek type machine learning-model dat gebruikmaakt van een statistisch raamwerk dat bekend staat als een Gaussisch proces. Beschouw dit raamwerk niet als een rigide reeks vergelijkingen, maar als een flexibele manier van leren die van nature bijhoudt hoeveel het weet en hoeveel het gokt. De onderzoekers wilden zien of ze een systeem konden bouwen dat niet alleen energie en kracht tussen atomen voorspelde, maar ook een eerlijk, betrouwbaar maatstaf voor zijn eigen onzekerheid bood. Om dit te testen, kozen ze voor argon, een edelgas met zeer eenvoudige interacties, als trainingsgrond. Door de meest nauwkeurige kwantumfysische berekeningen die beschikbaar zijn als referentie te gebruiken, konden ze precies zien hoe goed hun nieuwe methode werkte.
Het team ontwikkelde een geavanceerde aanpak die bekende fysica combineert met statistisch leren. In plaats van vanaf nul te beginnen, voedden ze de computer een basisbeschrijving van hoe argonatomen interageren, die al goed begrepen wordt. Het machine learning-model leerde vervolgens alleen de kleine correcties die nodig waren om die basisbeschrijving perfect te maken. Cruciaal was dat ze niet alleen de enkelvoudige "beste" set instellingen voor het model kozen. In plaats daarvan lieten ze de computer een breed scala aan mogelijke instellingen verkennen, in het besef dat er geen enkel perfect antwoord is wanneer de hoeveelheid data beperkt is. Dit proces, genaamd hiërarchische Bayesiaanse inferentie, stelt het model in staat om de onzekerheid over zijn eigen instellingen door te geven naar zijn uiteindelijke voorspellingen. Het resultaat is een systeem dat toegeeft wanneer het onzeker is, in plaats van te doen alsof het meer weet dan het doet.
Toen de onderzoekers hun nieuwe methode vergeleken met andere populaire machine learning-technieken, was het verschil treffend. Andere methoden, inclusief geavanceerde neurale netwerken, waren erg goed in het krijgen van het juiste antwoord gemiddeld genomen. Echter, ze waren gevaarlijk overmoedig. Wanneer deze modellen fout zaten, gaven ze vaak een zeer kleine onzekerheidsschatting, wat suggereerde dat ze zeker waren van een foutief antwoord. In contrast hiermee was het nieuwe hiërarchische model iets conservatiever en voorspelde het vaak een breder bereik van mogelijke uitkomsten. Maar deze voorzichtigheid was een feature, geen bug. De onzekerheidsschattingen van het model waren eerlijk: wanneer de voorspelling waarschijnlijk ver af zou liggen, gaf het model een grote onzekerheid aan. Wanneer de voorspelling waarschijnlijk accuraat zou zijn, was de onzekerheid klein. Dit vermogen om onderscheid te maken tussen makkelijke en moeilijke gevallen is essentieel voor actieve leerprocessen (active learning), een proces waarbij computers beslissen welke nieuwe experimenten ze als volgende moeten uitvoeren. Als een model niet kan aangeven welke van zijn voorspellingen wankel zijn, kun je het niet gebruiken om onderzoek efficiënt te sturen.
De studie onthulde ook dat de manier waarop het model leert, diepgaand van belang is. Het simpelweg hebben van veel data is niet genoeg; het model moet de onderliggende fysica begrijpen. Toen de onderzoekers de basisfysische beschrijving uit het model verwijderden en het vroegen om alles vanaf nul te leren, waren de resultaten slecht, vooral wanneer de hoeveelheid data schaars was. Door het model te verankeren met een bekende natuurwet, hoefde het machine learning-gedeelte alleen de kleine afwijkingen te leren, wat het hele systeem veel robuuster maakte. Bovendien ontdekten ze dat het simpelweg kiezen van de enkelvoudige beste set instellingen voor het model een fout was. Hoewel deze methode iets nauwkeurigere puntvoorspellingen opleverde, vernietigde het het vermogen van het model om aan te geven wanneer het onzeker was. De enige manier om een betrouwbare maatstaf voor twijfel te krijgen, was door het model vele verschillende mogelijkheden te laten verkennen en deze samen te middelen.
Uiteindelijk hebben de onderzoekers aangetoond dat het mogelijk is om machine learning-modellen voor atomen te bouwen die niet alleen accuraat, maar ook betrouwbaar zijn. Door fysieke kennis te combineren met een statistische methode die respect heeft voor onzekerheid, creëerden ze een hulpmiddel dat zijn eigen grenzen kent. Dit is een belangrijke stap voorwaarts voor het vakgebied. Het suggereert dat wetenschappers in de toekomst deze krachtige simulaties kunnen gebruiken met een duidelijk begrip van waar de voorspellingen solide zijn en waar ze wankel zijn. Deze helderheid is essentieel voor de overgang van eenvoudige simulaties naar het ontwerp van real-world materialen waar falen geen optie is. Het werk laat zien dat de weg naar betrouwbare kunstmatige intelligentie in de wetenschap niet alleen gaat over het slimmer maken van modellen, maar over het leren aanleren aan modellen om nederig te zijn over wat ze nog niet weten.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.