Mind the Gap: Navigating Inference with Optimal Transport Maps

In de uitgestrekte, hoogenergetische botsingen die plaatsvinden in deeltjesversnellers, proberen wetenschappers enkele van de meest fundamentele vragen over het universum te beantwoorden. Hiervoor vertrouwen ze op een delicate samenwerking tussen experimenten in de echte wereld en computersimulaties. Wanneer deeltjes op elkaar botsen, creëren ze een stroom aan puin die detectoren registreren, maar deze ruwe signalen zijn vaak te complex om direct te interpreteren. Wetenschappers gebruiken geavanceerde computerprogramma's om te simuleren wat er tijdens deze botsingen zou moeten gebeuren, waardoor een theoretische kaart van de data wordt gecreëerd. Door de echte data te vergelijken met deze simulaties, kunnen ze nieuwe deeltjes opsporen of bekende deeltjes met ongelofelijke precisie meten. Echter, deze samenwerking heeft een gebrek: de simulaties zijn nooit perfect. Ze zijn gebaseerd op ons huidige begrip van de natuurkunde, maar ze missen vaak subtiele details van hoe de detectoren daadwerkelijk werken of hoe deeltjes met elkaar interageren. Wanneer de simulatie niet overeenkomt met de echte data, kunnen de resultaten van de analyse vertekend raken, wat ertoe leidt dat wetenschappers de verkeerde conclusies trekken over de aard van het universum.

Een team van onderzoekers heeft een nieuwe manier ontwikkeld om deze mismatch op te lossen, specifiek voor de complexe, hoogdimensionale data die wordt gegenereerd door moderne deeltjesfysica-experimenten. In plaats van te proberen de simulatie achteraf bij te sturen of de verschillen te negeren, gebruikten ze een wiskundig kader genaamd optimale transporttheorie om de gesimuleerde data te hervormen, zodat deze perfect aansluit bij de echte data. Ze testten deze methode op een specifiek type deeltjesstroom dat een "jet" wordt genoemd, die ontstaat wanneer quarks of gluonen worden geproduceerd tijdens een botsing. De onderzoekers trainden een krachtig kunstmatige intelligentiesysteem om de oorsprong van deze jets te herkennen, wat een rijke, 128-dimensionale interne representatie van de data creëerde. Vervolgens pasten ze hun nieuwe kalibratietechniek toe op deze interne representatie, waardoor de imperfecte simulatie effectief werd vertaald naar een vorm die overeenkomt met de waarnemingen in de echte wereld. Het resultaat was een gekalibreerde dataset waarbij de gesimuleerde jets er precies zo uitzagen en zich precies zo gedroegen als de echte jets, wat veel nauwkeurigere en onbevooroordeelde wetenschappelijke inferentie mogelijk maakte.

De uitdaging om simulaties af te stemmen op de werkelijkheid is al lang een flessenhals in de deeltjesfysica. Decennialang hebben wetenschappers een methode gebruikt die bekend staat als "verticale kalibratie" om deze discrepanties te corrigeren. Deze aanpak houdt in dat er een gewicht wordt berekend voor elk gesimuleerd evenement, wat in feite de computer vertelt om sommige evenementen vaker en andere minder vaak te tellen om de simulatie te laten overeenkomen met de data. Hoewel dit goed werkt voor eenvoudige, laagdimensionale data, loopt het vast wanneer de data complex en hoogdimensionaal wordt. In die gevallen zijn de verschillen tussen de simulatie en de werkelijkheid vaak zo groot dat de vereiste gewichten onmogelijk hoog worden, of de simulatie simpelweg niet het volledige bereik van mogelijkheden dekt dat in de echte data wordt gezien. De onderzoekers ontdekten dat voor de complexe jet-data die zij bestudeerden, deze traditionele methode niet alleen inefficiënt was, maar ook wiskundig onmogelijk toe te passen zonder alle statistische kracht te verliezen. De gesimuleerde data en de echte data waren zo verschillend dat ze nauwelijks overlapten, waardoor het onmogelijk was om de ene simpelweg te herwegen om op de andere te lijken.

Om dit op te lossen, stapte het team over naar een andere strategie genaamd "horizontale kalibratie", die steunt op de wiskunde van het verplaatsen van massa van de ene distributie naar de andere met de minste inspanning. Stel je voor dat je een hoop zand hebt die een simulatie vertegenwoordigt en een andere hoop die de echte data vertegenwoordigt. In plaats van te proberen de hoogte van individuele zandkorrels aan te passen om de tweede hoop te evenaren, verplaats je fysiek de korrels van de eerste hoop naar nieuwe posities totdat de vorm van de hoop overeenkomt met die van de tweede hoop. Dit is de essentie van de optimale transportkaart die de onderzoekers hebben ontwikkeld. Ze bouwden een neuraal netwerk dat leerde wat de meest efficiënte manier was om de gesimuleerde jet-data te transformeren naar de echte jet-data. Deze transformatie werd direct toegepast op de 128-dimensionale interne "latente" representatie van de jets, een ruimte waar de kunstmatige intelligentie de complexe kenmerken van de deeltjesstroom al had samengevat. Door deze interne ruimte te kalibreren, zorgden ze ervoor dat de fundamentele structuur van de data behouden bleef terwijl de foutieve modellering werd gecorrigeerd.

De onderzoekers testten hun methode met een dataset die geïnspireerd is op het Compact Muon Solenoid-experiment bij de Large Hadron Collider. Ze creëerden twee sets data: een bronset die de standaard simulatie vertegenwoordigde, en een doelset die de echte experimentele data nabootste door bekende fouten en variaties te introduceren, zoals veranderingen in hoe de detector de positie van deeltjes meet. Ze trainden vervolgens hun kunstmatige intelligentie-classifier om onderscheid te maken tussen de verschillende typen jets, zoals die afkomstig van Higgsbosonen versus die van gewone quarks. Vóór de kalibratie kon de classifier het verschil tussen de gesimuleerde data en de doelset gemakkelijk onderscheiden, wat duidde op een aanzienlijke mismatch. Na het toepassen van de optimale transportkaart kon de classifier het onderscheid niet langer maken; de gesimuleerde data was succesvol getransformeerd om op de echte data te lijken. De onderzoekers verifieerden dit door diverse fysieke grootheden afgeleid van de data te controleren, waarbij ze vaststelden dat de gekalibreerde simulatie nu overeenkwam met de doelverdeling over een breed scala aan metingen.

Een van de meest significante bevindingen van dit werk is dat de kalibratie die op de interne 128-dimensionale representatie werd uitgevoerd, werkte voor alle downstream-taken die daarop rusten. Ondanks dat de kalibratie diep binnen het neurale netwerk werd toegepast, werkten de verbeteringen door tot de uiteindelijke output, zoals de waarschijnlijkheidsscores die worden gebruikt om specifieke deeltjes te identificeren. De onderzoekers toonden aan dat de gekalibreerde data gebruikt kon worden om statistische toetsen op te stellen die vrij zijn van de bias die door de simulatiefouten werd geïntroduceerd. Dit is een cruciale stap naar het gebruik van "foundation models" in de deeltjesfysica. Dit zijn grote, vooraf getrainde kunstmatige intelligentiemodellen die voor veel verschillende taken kunnen worden aangepast. Als deze modellen niet goed gekalibreerd zijn, zullen hun voorspellingen bevooroordeeld zijn, wat hun bruikbaarheid beperkt. Door aan te tonen dat optimale transporttheorie deze hoogdimensionale interne representaties kan kalibreren, hebben de onderzoekers een pad geopend voor het gebruik van deze krachtige instrumenten op een manier die zowel accuraat als onbevooroordeeld is.

De implicaties van dit werk reiken verder dan alleen het identificeren van jets. De methode biedt een algemeen kader voor het corrigeren van hoogdimensionale simulaties in de wetenschappen, overal waar complexe modellen worden gebruikt om real-world fenomenen te voorspellen. De onderzoekers merkten op dat hoewel hun specifieke toepassing in de deeltjesfysica lag, de onderliggende wiskunde universeel is. Ze benadrukten dat deze aanpak niet vereist dat de simulatie perfect is; het vereist alleen dat er een manier is om de imperfecte simulatie naar de echte data te mappen. Door de focus te verleggen van het corrigeren van de uiteindelijke output van een model naar het corrigeren van de interne representaties ervan, kunnen wetenschappers nu veel complexere data aan dan voorheen mogelijk was. Dit opent de deur naar nauwkeurigere metingen van fundamentele deeltjes en potentieel de ontdekking van nieuwe fysica die voorheen verborgen bleef door de beperkingen van simulatie.

De studie concludeert dat deze kalibratiestrategie een levensvatbaar pad is voor de integratie van geavanceerde machine learning in deeltjesfysica-experimenten. Het suggereert dat het vakgebied kan overstappen van het vertrouwen op talrijke, ad-hoc correcties voor elke individuele analyse naar het adopteren van een verenigde aanpak voor het kalibreren van de interne representaties van hun modellen. De onderzoekers merken er voorzichtig bij dat hoewel hun simulaties uitstekende resultaten lieten zien, verdere arbeid nodig is om te garanderen dat de kalibratie geen nieuwe, subtiele discrepanties introduceert. Ze suggereren ook dat toekomstig onderzoek kan verkennen hoe modellen met behulp van deze gekalibreerde representaties verder kunnen worden verfijnd om de prestaties nog verder te verbeteren. Voor nu staat het werk als een bewijs van concept dat de kloof tussen simulatie en realiteit overbrugd kan worden, niet door de verschillen te negeren, maar door de simulatie wiskundig te transformeren zodat deze past bij de wereld zoals die werkelijk is.