NestyNet. I. Physics Functions Are Hard to Fit with Neural Networks: A Framework for Accurate Surrogates and Analytic Derivatives

Stel je voor dat je een robot probeert te leren het weer te voorspellen. Je geeft het een miljoen datapunten over temperatuur, wind en druk. Standaard AI-tools, zoals die gebruikt worden om grappige kattenplaatjes te genereren of gedichten te schrijven, zijn erg goed in het vinden van patronen in rommelige data. Ze zijn als een zeer getalenteerde kunstenaar die een redelijk goede schets van een storm kan maken door slechts naar een paar foto's te kijken. Maar in de natuurkunde is "redelijk goed" niet genoeg. Als je probeert te voorspellen hoe een ster beweegt of hoe een brug standhoudt, moet je niet alleen weten waar het object zich bevindt; je moet precies weten hoe snel het versnelt, hoe de krachten draaien en hoe de energie stroomt.

Hier begint de ellende. Natuurkundige vergelijkingen zijn vaak als een grillig berglandschap met diepe, smalle valleien. Standaard AI-tools proberen deze bergen te beklimmen door kleine, willekeurige stappen te zetten. Ze kunnen dicht bij de bodem van een vallei komen, maar ze raken vaak gestrand op de steile wanden of missen de werkelijke bodem volledig. Wanneer ze er dichtbij komen, zijn hun schattingen over de "helling" (hoe snel dingen veranderen) meestal fout. Het is alsoast proberen een auto af te dalen op een steile, bochtige weg terwijl je een blinddoek draagt die je alleen de weg voor je laat zien, maar niet de bochten. Je blijft misschien op de weg, maar je crasht het moment dat je scherp moet afbuigen. Wetenschappers hebben een manier nodig om deze lastige wiskundige landschappen met perfecte precisie te navigeren, niet alleen een ruwe schets.

Dit is het probleem waar een nieuw framework genaamd NestyNet een antwoord op biedt, geïntroduceerd door Rodrigo Ibata en zijn team. Zij realiseerden zich dat het probleem niet was dat de AI niet slim genoeg was, maar dat de "kaart" die hij gebruikte te wiebelig was. Om dit op te lossen, bouwden ze een nieuw soort AI die niet alleen het antwoord raadt, maar een wiskundige structuur bouwt die gegarandeerd vloeiend en gemakkelijk te meten is.

Denk aan standaard AI als een gigantisch, flexibel net gemaakt van elastiekjes. Je trekt aan het net om het aan de data aan te passen, maar de elastiekjes rekken uit en draaien op onvoorspelbare manieren, waardoor het moeilijk is om precies te weten hoe het net buigt. NestyNet daarentegen is als het bouwen van een muur van gladde, in elkaar grijpende Lego-steentjes. Elk steentje is een eenvoudige, voorspelbare curve. Wanneer je ze op elkaar stapelt, is de hele muur nog steeds vloeiend, maar omdat je precies weet hoe elk afzonderlijk steentje gevormd is, kun je direct de helling, de curve en zelfs de oppervlakte onder de muur berekenen zonder ingewikkelde berekeningen.

Het team testte deze "Lego-muur"-aanpak op 120 beroemde natuurkundige vergelijkingen, variërend van eenvoudige mechanica tot complexe kwantumproblemen. De resultaten waren verbazingwekkend. Vergeleken met de standaard "elastiek"-AI was NestyNet niet zomaar een beetje beter; het was een enorme sprong voorwaarts. Voor de basiswaarden was het ongeveer 2.100 keer nauwkeuriger. Voor de eerste afgeleiden (de hellingen) was het 1.400 keer nauwkeuriger. En voor de tweede afgeleiden (hoe de hellingen veranderen) was het 780 keer nauwkeuriger. Zelfs wanneer ze de antwoorden van de standaard AI probeerden te verfijnen met extra wiskundige trucjes, presteerde NestyNet nog steeds honderden keren beter.

Maar de magie stopte niet bij de nauwkeurigheid. Omdat NestyNet is opgebouwd uit deze vloeiende, analytische steentjes, heeft het niet de trage, zware machines nodig die andere AI's gebruiken om hellingen te berekenen. Het kan ze direct berekenen. Sterker nog, het was tot wel 44 keer sneller dan de standaard methoden bij het berekenen van deze afgeleiden. Deze snelheid en precisie maken het een perfect instrument voor "Physics-Informed Neural Networks" (PINNs), waarbij de AI complexe vergelijkingen zoals de warmtevergelijking of vloeistofdynamica in realtime moet oplossen.

De auteurs ontdekten ook een fascinerende "wet" over hoe deze fouten zich gedragen. Ze ontdekten dat als een AI de datapunten goed aanpast en ook controleert hoeveel het buigt (de kromming), het bijna automatisch de hellingen goed krijgt. Het is alsof de wiskunde een verborgen regel heeft: als je de vorm en de buiging goed krijgt, dan is de snelheid simpelweg het geometrisch gemiddelde van de twee. Dit stelt wetenschappers in staat om de voorspellingen van de AI over hoe snel dingen bewegen te vertrouwen, zelfs zonder directe metingen van de snelheid.

Om te bewijzen dat dit geen spelletje met verzonnen getallen was, gebruikte het team NestyNet om een echt astrofysisch raadsel op te lossen: het meten van de verticale versnelling van sterren in ons Melkwegstelsel. Door de posities en snelheden van miljoenen sterren te fitten, was NestyNet in staat om de onzichtbare zwaartekrachtkrachten die op hen inwerken met hoge precisie te berekenen. Dit is een taak die astronomen al een eeuw lang uitdaagt, en NestyNet handelde het af door een ruisende, rommelige dataset om te vormen tot een schone, betrouwbare fysieke meting.

Kortom, NestyNet is een nieuwe toolkit voor wetenschappers die nodig hebben dat hun AI niet alleen een patroonherkenner is, maar een precieze rekenmachine. Het vervangt de wiebelige elastiekjes van standaard AI door gladde, voorspelbare Lego-steentjes, waardoor onderzoekers de moeilijkste, meest "stijve" problemen in de natuurkunde kunnen oplossen met ongekende nauwkeurigheid en snelheid. Het laat zien dat wanneer de wiskunde moeilijk wordt, de beste manier vooruit soms niet is om de AI groter te maken, maar om de bouwstenen ervan slimmer te maken.