Asymptotics-guided learning and symbolic regression for dispersive resonances

In de wereld van licht en materialen hebben bepaalde objecten een speciale relatie met specifieke kleuren licht. Wanneer een lichtstraal een minuscuul deeltje raakt dat van het juiste materiaal is gemaakt, kan het deeltje dat licht opvangen en intens trillen, waarbij het de energie vasthoudt voordat het deze weer afgeeft. Dit fenomeen wordt resonantie genoemd. Het is de reden waarom een zanger een wijnglas kan laten breken met een enkele noot, of waarom een radio één zender oppikt terwijl hij alle andere negeert. In de microscopische wereld van de nanotechnologie ontwerpen ingenieurs kleine structuren om deze resonanties te benutten voor alles van uiterst gevoelige medische sensoren tot efficiëntere zonnepanelen. Het voorspellen van de exacte frequentie van het licht die deze trilling in een specifiek materiaal zal triggeren, is echter een berucht moeilijk wiskundig raadsel. De materialen veranderen vaak hun eigenschappen afhankelijk van het licht dat erop valt, wat een complex, verschuivend landschap creëert dat moeilijk in kaart te brengen is met standaardformules.

Een team van onderzoekers heeft een nieuwe manier ontwikkeld om dit raadsel op te lossen door het beste van twee werelden te combineren: de strikte logica van de klassieke fysica en het patroonherkennende vermogen van moderne kunstmatige intelligentie. In plaats van een computer te leren om het antwoord vanaf nul te raden, gebruikten ze een vertrouwde wiskundige benadering als startpunt en leerden ze de computer vervolgens alleen de kleine fouten te leren die die benadering maakte. Door zich te concentreren op wat er ontbrak in plaats van op het hele plaatje, waren ze in staat om zeer nauwkeurige voorspellingen te doen die ook gemakkelijk te lezen en te begrijpen zijn voor mensen. Hun werk laat zien dat wanneer je een machine learning-systeem stuurt met de juiste soort fysieke intuïtie, het eenvoudige, elegante regels kan vinden die verborgen liggen in complexe data.

De onderzoekers richtten zich op een specifiek type materiaal dat bekend staat als een dispersief medium, waarbij de manier waarop het materiaal met licht interageert verandert afhankelijk van de kleur van dat licht. In deze materialen is het vinden van de resonantiefrequentie als het proberen op te lossen van een raadsel waarbij de regels van het spel veranderen terwijl je probeert te antwoorden. Decennialang hebben wetenschappers asymptotische analyse gebruikt, een methode om complexe vergelijkingen te vereenvoudigen door aan te nemen dat bepaalde voorwaarden worden vervuld, om een ruwe schatting van deze frequenties te krijgen. Deze methode werkt goed wanneer de objecten zeer klein zijn in vergelijking met de golflengte van het licht, maar naarmate de objecten iets groter worden of de omstandigheden ingewikkelder worden, beginnen de schattingen af te wijken van de realiteit. De traditionele aanpak om dit te herstellen is het berekenen van steeds complexere termen, maar deze berekeningen worden snel onhandelbaar en moeilijk te gebruiken in het echte ontwerp.

Om deze kloof te overbruggen, besloot het team de wiskundige benadering niet als een definitief antwoord te behandelen, maar als een basislijn. Ze namen een zeer nauwkeurige computersimulatie van de resonantiefrequenties als hun "waarheid" en vergeleken deze met de ruwe schattingen die door de standaardformules werden gegeven. Het verschil tussen de twee wordt de residu genoemd. In plaats van een enorme, ondoorzichtige kunstmatige intelligentie te trainen om de gehele relatie tussen de grootte van het materiaal en zijn resonantiefrequentie te leren, trainden ze een veel eenvoudiger systeem om alleen dit kleine verschil te leren. Het is een beetje zoals een student die de basisregels van een spel al kent, maar de specifieke trucjes moet leren die experts gebruiken om te winnen. De taak van de computer was niet om de wetten van de fysica opnieuw te ontdekken, maar om de subtiele correcties te leren die de standaardwetten misten.

De sleutel tot hun succes was hoe ze het probleem aan de computer beschreven. In plaats van het de computer te voeren met ruwe getallen zoals de grootte van het deeltje of de mate van demping, gaven ze het kenmerken die afgeleid waren van precies dezelfde wiskundige theorie die de ruwe schatting leverde. Ze namen specifieke combinaties van getallen op die de theorie suggereerde belangrijk zouden zijn, zoals termen die de grootte van het deeltje en de logaritme van de frequentie bevatten. Deze aanpak, die de auteurs "asymptotics-guided learning" noemen, zorgde ervoor dat de computer op de juiste plaatsen naar patronen zocht. Wanneer ze deze methode testten op een enkele kleine resonator, waren de resultaten opmerkelijk. De standaardbenadering had een foutpercentage van ongeveer één op duizend, maar het gecorrigeerde model verminderde die fout tot minder dan één op tien miljoen. De computer had erin geslaagd de fouten van de oude formule met ongelooflijke precisie te corrigeren.

Het team nam vervolgens een moeilijkere uitdaging aan: een paar resonatoren die dicht bij elkaar geplaatst zijn, een zogenaamde dimer. Wanneer twee van deze objecten dicht bij elkaar staan, interageren ze, wat twee verschillende resonantiefrequenties creëert in plaats van één. Deze interactie maakt de wiskunde nog rommeliger, aangezien het gedrag van het ene object afhangt van zijn buurman. De onderzoekers pasten hier dezelfde strategie toe, waarbij ze de ruwe schatting voor het paar gebruikten en de computer trainden om de resterende fout te leren. Het systeem presteerde goed en verbeterde de nauwkeurigheid van de voorspellingen voor beide resonantiefrequenties aanzienlijk. Het feit dat de methode werkte voor dit gekoppelde systeem, suggereerde dat de onderliggende logica robuust genoeg was om de toegevoegde complexiteit van interactie aan te kunnen, en niet alleen van eenvoudige, geïsoleerde objecten.

Misschien wel het meest verrassende deel van de ontdekking was wat er gebeurde toen de onderzoekers de computer vroegen om zijn eigen correcties uit te leggen. Ze gebruikten een techniek genaamd symbolische regressie, die zoekt naar eenvoudige wiskundige formules die bij de data passen, in plaats van alleen een numeriek antwoord te geven. De computer produceerde geen "black-box"-algoritme dat niemand kon begrijpen. In plaats daarvan produceerde het compacte, leesbare formules die erg leken op de soort vergelijkingen die een natuurkundige zou opschrijven. Deze formules lieten zien dat de correcties afhankelijk waren van dezelfde fysieke schalen die de onderzoekers hadden verwacht, wat bevestigde dat de computer de juiste fysieke structuur van het probleem had geleerd. De resulterende vergelijkingen waren eenvoudig genoeg om op een papiertje te schrijven, maar legden toch het complexe gedrag van het systeem met hoge getrouwheid vast.

Om te garanderen dat hun bevindingen solide waren, voerden het team verschillende tests uit om te zien hoe het systeem standhield onder verschillende omstandigheden. Ze controleerden of de resultaten slechts een toevalstreffer waren van de specifieke data die ze gebruikten door bepaalde soorten informatie uit de trainingsset te verwijderen. Ze ontdekten dat het systeem alleen goed werkte wanneer het de specifieke, op fysica gebaseerde kenmerken kreeg die zij hadden ontworpen; als ze het alleen ruwe getallen gaven zonder de theoretische context, daalde de nauwkeurigheid aanzienlijk. Dit bewees dat de verbetering voortkwam uit het intelligente ontwerp van de kenmerken, en niet alleen uit het voeden van de computer met meer data. Ze testten het systeem ook met ruisige data, waarbij ze de fouten simuleerden die in de praktijk bij metingen zouden kunnen optreden, en vonden dat de methode stabiel bleef zolang de ruis niet te overweldigend was.

De studie onderzocht ook hoe het systeem presteerde wanneer de objecten iets groter waren of de materialen meer verliezen (lossy) vertoonden dan in de ideale scenario's. In deze "out-of-distribution" tests, waarbij de computer gedrag moest voorspellen voor omstandigheden die hij tijdens de training niet had gezien, presteerde het gecorrigeerde model nog steeds aanzienlijk beter dan de standaardbenadering. Dit suggereert dat de geleerde correcties niet slechts specifieke gevallen onthouden, maar een diepere, meer algemene regel hebben gevangen over hoe het systeem zich gedraagt. De onderzoekers ontdekten dat zelfs wanneer ze een bekende theoretische correctie als hint aan de symbolische regressie toevoegden, de computer deze verder kon verfijnen, wat suggereert dat de resterende fouten inder ook inderdaad werden beheerst door dezelfde fysieke schalen die de theorie voorspelde.

Dit werk biedt een nieuw blauwdruk voor hoe wetenschappers kunstmatige intelligentie kunnen gebruiken in gebieden waar de natuurwetten al goed begrepen zijn, maar moeilijk toe te passen zijn. In plaats van menselijke kennis te vervangen door een digitale black box, lieten de onderzoekers zien dat je machine learning kunt gebruiken om de hiaten in menselijke kennis op te vullen. Door het leerproces te sturen met de juiste soort fysieke intuïtie, creëerden ze een instrument dat zowel ongelooflijk nauwkeurig als volledig interpreteerbaar is. Het resultaat is een reeks eenvoudige formules die ingenieurs kunnen gebruiken om betere optische apparaten, sensoren en materialen te ontwerpen zonder voor elk nieuw ontwerp dure en tijdrovende computersimulaties te hoeven draaien. De studie laat zien dat de toekomst van wetenschappelijke ontdekking niet ligt in het kiezen tussen theorie en data, maar in het zo nauw mogelijk samen weven van beide, zodat ze ononderscheidbaar worden.