S$^{2}$-PINN: Stochastic Separable Physics-Informed Neural Networks

In de wereld van engineering en klimaatwetenschap is het voorspellen van de toekomst zelden een kwestie van eenvoudige zekerheid. Wanneer wetenschappers modelleren hoe warmte zich door een metalen balk verspreidt, hoe water door de bodem filtert, of hoe lucht rond een vliegtuigvleugel kolkt, moeten ze rekening houden met het feit dat de inputs nooit perfect bekend zijn. Een materiaal kan op één plek iets ruwer zijn, of de wind kan een fractie harder waaien dan verwacht. Deze kleine, willekeurige variaties rimpelen door de vergelijkingen en creëren een enorme wolk van mogelijke uitkomsten in plaats van één enkel, vaststaand antwoord. Om het risico te begrijpen, moeten ingenieurs niet alleen weten wat het meest waarschijnlijke resultaat is, maar ook het hele bereik aan mogelijkheden en hoe waarschijnlijk elk daarvan is. Dit vakgebied, bekend als onzekerheidskwantificatie, is essentieel voor het ontwerpen van veilige bruggen, betrouwbare medische apparaten en nauwkeurige klimaatmodellen. Het berekenen van deze waarschijnlijkheden is echter historisch gezien een monumentale taak geweest. Traditionele methoden vereisen vaak dat dezelfde complexe simulatie duizenden keren wordt uitgevoerd, telkens met iets andere willekeurige inputs, om een beeld van het geheel te vormen. Naarmate het aantal onzekere factoren groeit, explodeert de benodigde rekenkracht, waardoor veel realistische problemen met de huidige beschikbare instrumenten te duur zijn om op te lossen.

Een team van onderzoekers aan de Lehigh University heeft een nieuwe aanpak geïntroduceerd die deze computationele flessenhals aanpakt door de manier waarop de oplossing wordt opgebouwd fundamenteel te veranderen. Ze ontwikkelden een systeem genaamd S2-PINN, wat staat voor Stochastic Separable Physics-Informed Neural Network. In plaats van het probleem te behandelen als een massief, verward web waar ruimte, tijd en willekeur allemaal door elkaar lopen, breekt deze methode de oplossing op in drie afzonderlijke, beheersbare stukken. Stel je de oplossing voor als een wandtapijt; in plaats van elke draad van kleur, tijd en locatie in één enkele, dichte blok te weven, scheiden de onderzoekers de draden in drie duidelijke bundels: één voor de fysieke ruimte, één voor het verstrijken van de tijd en één voor de willekeurige variaties. Deze bundels worden vervolgens weer samengevoegd met een specifiek, efficiënt patroon dat het totaal aantal draden laag houdt. Deze scheiding stelt de computer in staat om de willekeur te verwerken zonder vast te lopen door de enorme hoeveelheid berekeningen die gewoonlijk vereist is.

De kern van dit nieuwe systeem is een slimme combinatie van drie gespecialiseerde instrumenten die in harmonie samenwerken. Ten eerste gebruikt het een flexibele set bouwstenen om de vorm van de oplossing in de ruimte te beschrijven, waarbij het zich aanpast aan de geometrie van het probleem. Ten tweede maakt het gebruik van een ritmische set kenmerken om bij te houden hoe de oplossing in de loop van de tijd verandert, vergelijkbaar met hoe een muzikant een reeks noten kan gebruiken om een melodie te beschrijven. Ten derde, en het belangrijkste voor het aspect van onzekerheid, gebruikt het een wiskundige bibliotheek van standaardvormen om de willekeurige variaties weer te geven. Deze drie sets instrumenten zijn met elkaar verbonden via een compacte, 'low-rank' connector die ervoor zorgt dat ze synchroon werken zonder dat er voor elke enkele combinatie van ruimte, tijd en willekeur een aparte, massale berekening nodig is. Het systeem wordt getraind via een duaal proces: het controleert of de oplossing op elk punt de fundamentele wetten van de fysica naleeft, en het zorgt er ook voor dat de statistische patronen van de willekeur overeenkomen met het verwachte gedrag. Deze dubbele controle werkt als een strikte kwaliteitscontrole, die het model dwingt om zowel fysiek accuraat als statistisch solide te zijn.

Toen de onderzoekers deze nieuwe methode testten tegen een breed scala aan uitdagende problemen, waren de resultaten opmerkelijk. Ze voerden simulaties uit op vier verschillende soorten fysieke systemen, waaronder modellen voor warmtediffusie, vloeistofstroming en chemische reacties, allemaal met willekeurige inputs. In elk geval produceerde de nieuwe methode nauwkeurigere voorspellingen van de gemiddelde uitkomst en de spreiding van mogelijke uitkomsten dan negen andere vooraanstaande methoden. Het bereikte dit hoge niveau van precisie terwijl het aanzienlijk minder computationele middelen gebruikte; in één vergelijking gebruikte het nieuwe model ongeveer dertig keer minder aanpasbare parameters dan een standaard, traditioneel neuraal netwerk. Deze efficiëntie is van vitaal belang omdat het betekent dat de methode kan opschalen naar problemen met veel meer willekeurige factoren zonder dat de computer vastloopt. De onderzoekers hebben het systeem tot het uiterste gedreven door het te testen met tot wel vijftig verschillende willekeurige variabelen, een niveau van complexiteit dat een standaardbenadering normaal gesproken zou overweldigen. Zelfs in deze extreme tests bleef de methode stabiel en accuraat.

De studie onderzocht ook of deze aanpak kon werken op problemen waarbij het antwoord niet vooraf bekend is, zoals het voorspellen van de waterstroom door een rots met onvoorspelbare doorlaatbaarheid. Hier presteerde de methode opnieuw beter dan traditionele technieken, door betrouwbare schattingen te geven van zowel de gemiddelde stroming als de onzekerheid eromheen. Bovendien hebben de onderzoekers aangetoond dat het systeem in omgekeerde richting kan werken. In plaats van alleen de uitkomst van een bekende set condities te voorspellen, kan het systeem naar geobserveerde gegevens kijken en achteruit werken om de verborgen, willekeurige eigenschappen van het materiaal zelf te achterhalen. Dit vermogen om "inverse problemen" op te lossen, opent de deur naar het gebruik van de methode voor het identificeren van onbekende materiaaleigenschappen in real-world scenario's, zoals het detecteren van defecten in infrastructuur of het karakteriseren van ondergrondse reservoirs.

Een van de meest significante bevindingen was hoe de methode omgaat met de relatie tussen de willekeur en de fysica. De onderzoekers ontdekten dat wanneer de willekeurige variaties een vloeiend, voorspelbaar patroon volgen, het statistische deel van het model als een krachtige gids fungeert die de nauwkeurigheid van de voorspelling verscherpt. Ze ontdekten echter ook dat als de willekeur extreem grillig is of een patroon volgt dat niet past bij de standaardvormen die het model gebruikt, de statistische gids soms een lichte bias kan introduceren. Dit is geen falen van het systeem, maar eerder een duidelijk signaal dat de aard van de willekeur moet worden aangepast of dat de bibliotheek van vormen van het model moet worden uitgebreid. Deze transparantie stelt ingenieurs in staat om potentiële problemen te diagnosticeren voordat ze echt een probleem worden, een functie die vaak ontbreekt bij andere "black box" AI-modellen.

Het werk vertegenwoordigt een verschuiving in de manier waarop we denken over het oplossen van complexe fysieke problemen met onzekerheid. Door ruimte, tijd en willekeur te behandelen als afzonderlijke maar verbonden ingrediënten, hebben de onderzoekers een kader gecreëerd dat zowel wiskundig elegant als computationeel efficiënt is. Het vertrouwt niet op enorme hoeveelheden vooraf verzamelde gegevens, noch vereist het de brute kracht van de herhaling van duizenden simulaties. In plaats daarvan leert het de structuur van het probleem direct uit de wetten van de fysica en de aard van de willekeur. Hoewel de methode geen toverstaf is die elk probleem direct oplost, biedt het een robuust en schaalbaar instrument voor een breed scala aan wetenschappelijke en technische uitdagingen. De onderzoekers hebben hun code publiekelijk beschikbaar gesteld, in een uitnodiging aan anderen om voort te bouwen op dit fundament. Terwijl de wereld geconfronteerd wordt met steeds complexere uitdagingen in energie, klimaat en materiaalkunde, zal het vermogen om onzekerheid efficiënt en accuraat te kwantificeren steeds kritischer worden, en deze nieuwe aanpak biedt een veelbelovend pad voorwaarts.