SCORENF: Score-based Normalizing Flows for Sampling Unnormalized distributions

In het uitgestrekte landschap van de moderne wetenschap, van de studie naar hoe eiwitten vouwen in het menselijk lichaam tot het gedrag van deeltjes in een kwantumveld, worden onderzoekers voortdurend geconfronteerd met een gemeenschappelijke hindernis: het begrijpen van complexe systemen waarvan de regels bekend zijn, maar het volledige beeld verborgen blijft. Deze systemen worden vaak beschreven door waarschijnlijkheidsverdelingen, die fungeren als kaarten die laten zien waar een systeem zich waarschijnlijk zal bevinden. Echter, voor veel van de meest interessante natuurkundige problemen kan de totale oppervlakte van deze kaart niet direct worden berekend. Wetenschappers kennen de relatieve hoogtes van de heuvels en dalen, maar niet het totale volume van het terrein. Om deze systemen te begrijpen, moeten ze monsters nemen, wat in essentie neerkomt op het kiezen van willekeurige punten op de kaart om de vorm van het geheel te schatten. Traditionele methoden om dit te doen, die vertrouwen op het nemen van kleine, voorzichtige stappen van het ene punt naar het volgende, raken vaak vast in één dal of doen er veel te lang over om het hele landschap te verkennen. Dit leidt tot een gebrekkig begrip van het systeem, aangezien de monsters er niet in slagen de volledige diversiteit aan mogelijkheden te vertegenwoordigen.

Een team van onderzoekers aan het IIT Kanpur heeft een nieuwe aanpak ontwikkeld om dit bemonsteringsprobleem op te lossen, een manier om deze complexe, onverkende territoria efficiënter en nauwkeuriger te verkennen. Ze creëerden een methode genaamd ScoreNF, die twee krachtige ideeën uit machine learning combineert om een betere kaart van deze waarschijnlijkheidsverdelingen te bouwen. Het eerste idee betreft "normalizing flows", die lijken op een flexabele, rekbare stof die in elke complexe vorm kan worden vervormd om een patroon aan te passen. Het tweede idee komt uit "score-based" leren, een techniek die zich richt op de richting van de steilste verandering in het waarschijnlijkheidslandschap, in plaats van alleen op de hoogte van het terrein zelf. Door deze twee concepten met elkaar te verweven, bouwden de onderzoekers een systeem dat hoogwaardige monsters kan genereren uit moeilijke verdelingen zonder de enorme hoeveelheden data te vereisen die andere moderne methoden nodig hebben.

De kernuitdaging die het team aanpakte, is een hardnekkige afruil in machine learning. Wanneer men probeert een computer te leren een complexe verdeling na te bootsen, lopen de gebruikelijke methoden vaak op twee manieren vast. Sommige methoden worden te voorzichtig en verspreiden hun aandacht zo dun over het hele landschap dat ze gebieden met een lage waarschijnlijkheid bestrijken die er niet toe doen, een gebrek dat bekend staat als "mode covering". Anderen worden juist te hebberig en focussen intensief op slechts één of twee pieken met een hoge waarschijnlijkheid, terwijl ze de rest van het landschap negeren; een probleem dat bekend staat als "mode collapse". Beide fouten leiden tot een vertekend beeld van de werkelijkheid. De onderzoekers ontdekten dat hun nieuwe ScoreNF-methode deze valkuilen vermijdt. Door de gradiëntinformatie — de richting van de helling — te gebruiken om de flexibele stof van de normalizing flow te sturen, leert het model alle belangrijke pieken van de verdeling te dekken zonder vast te lopen of zichzelf te dun te verspreiden.

Om hun idee te testen, voerden het team simulaties uit op verschillende soorten waarschijnlijkheidslandschappen. Ze begonnen met synthetische tweedimensionale kaarten bestaande uit mengsels van Gaussische curves, wat in essentie klokvormige heuvels zijn die in patronen van vier en acht zijn gerangschikt. Deze kaarten dienden als een gecontroleerde omgeving waarin de onderzoekers precies wisten hoe het juiste antwoord eruitzag. Ze testten de methode ook op een veel moeilijker, hoogdimensionaal probleem dat bekend staat als de scalaire phi-vier theorie, een model dat in de natuurkunde wordt gebruikt om velden op een rooster van zesentwintig punten te bestuderen. In elk geval vergeleken ze hun nieuwe methode met oudere technieken, inclusief die die vertrouwen op voorwaartse en omgekeerde wiskundige divergenties om het verschil tussen het model en het doel te meten.

De resultaten toonden aan dat ScoreNF consequent beter presteerde dan de andere methoden. Op de synthetische kaarten produceerde de nieuwe methode monsters die de doelverdeling met hoge precisie matchen, waarbij alle pieken en dalen accuraat werden gevangen. In contrast hiermee misten de oudere methoden ofwel verschillende pieken volledig, of verspreidden ze hun waarschijnlijkheidsmassa over lege ruimtes. Cruciaal was dat de onderzoekers ontdekten dat ScoreNF robuust bleef, zelfs wanneer de hoeveelheid trainingsdata drastisch werd verminderd. Terwijl de prestaties van andere methoden aanzienlijk daalden wanneer het aantal trainingsmonsters werd teruggebracht van tienduizend naar slechts duizend of zelfs tweehonderd, behield ScoreNF zijn hoge nauwkeurigheid. Dit suggereert dat de methode geen enorme datasets nodig heeft om de onderliggende structuur van de verdeling te leren, wat het veel efficiënter maakt voor computationeel zware taken.

Het team introduceerde ook een manier om exact te meten hoe goed een model presteert, waarbij ze naar twee specifieke indicatoren keken. Eén metriek controleert of het model belangrijke delen van het landschap mist, terwijl de andere controleert of het energie verspilt aan irrelevante gebieden. Door naar beide getallen samen te kijken, konden ze bevestigen dat ScoreNF erin slaagde de volledige ondersteuning (support) van de doelverdeling te vangen. Bij de toepassing op het hoogdimensionale natuurkundige model toonde de nieuwe methode opnieuw superieure prestaties, waarbij een balans werd bereikt tussen het vastleggen van alle modi en het vermijden van de fouten van de oudere benaderingen. De onderzoekers merkten op dat hoewel er andere geavanceerde technieken bestaan, deze vaak niet in staat zijn de volledige complexiteit van de verdeling te vatten of training vereisen zonder doelmonsters, wat hun effectiviteit beperkt. ScoreNF gebruikt daarentegen de doelmonsters direct om het leerproces te sturen, waardoor het model trouw blijft aan de werkelijke vorm van de data.

Dit werk vormt een belangrijke stap voorwaarts in de manier waarop wetenschappers complexe fysieke systemen kunnen simuleren. Door score-gebaseerd leren te integreren in het kader van normalizing flows en een correctiestap toe te voegen om te garanderen dat de monsters onbevooroordeeld zijn, hebben de onderzoekers een instrument geleverd dat zowel krachtig als efficiënt is. De methode genereert niet alleen willekeurige punten; het leert de geometrie van de waarschijnlijkheidsruimte, waardoor het met vertrouwen door het hoogdimensionale terrein kan navigeren. De bevindingen suggereren dat voor wetenschappers die werken met ongenormaliseerde verdelingen, waarbij de totale waarschijnlijkheid niet kan worden berekend, er nu een betrouwbaardere manier is om het volledige spectrum aan mogelijkheden te verkennen. De code voor deze nieuwe aanpak is publiekelijk beschikbaar gesteld, in een uitnodiging aan anderen om het toe te passen op hun eigen complexe modelleringsuitdagingen, van statistische fysica tot biologische inferentie.