Lorentz-Equivariance without Limitations

In de hoogenergetische wereld van de deeltjesfysica laten wetenschappers protonen tegen elkaar botsen met bijna de snelheid van het licht om de omstandigheden van het vroege universum te recreëren. Het resulterende puin is een chaotische spray van nieuwe deeltjes, die door enorme detectoren wordt vastgelegd als een wolk van punten in de ruimte en tijd. Om zin te geven aan deze chaos, vertrouwen onderzoekers op de wetten van de speciale relativiteitstheorie, die stellen dat de fundamentele natuurkundige regels niet veranderen, ongeacht hoe een waarnemer beweegt of waar deze zich bevindt. Dit principe, bekend als Lorentz-invariantie, betekent dat het gedrag van een deeltje er hetzelfde uitziet of het nu wordt bekeken vanuit een stationair laboratorium of vanuit een ruimteschip dat met hoge snelheid voorbij raast. Echter, wanneer wetenschappers kunstmatige intelligentie gebruiken om deze deeltjesbotsingen te analyseren, worden ze geconfronteerd met een moeilijk probleem: standaard computerprogramma's begrijpen deze bewegingsregels niet van nature. Ze behandelen de data vaak alsof het een statische afbeelding is, waarbij ze de diepe geometrische relaties missen die bepalen hoe deeltjes met elkaar interageren. Deze beperking dwingt onderzoekers om ofwel zeer specifieke, rigide computermodellen te bouren die moeilijk aan te passen zijn, of om enorme hoeveelheden rekenkracht te gebruiken om een standaardmodel door middel van trial-and-error de regels te laten raden.

Een team van natuurkundigen en computerwetenschappers heeft een nieuwe methode ontwikkeld genaamd Lorentz Local Canonicalization, of LLoCa, die dit probleem oplost door elke neurale netwerk een ingebouwd begrip van relativiteit te geven zonder het te vertragen. In plaats van de computer te dwingen de bewegingsregels vanaf nul te leren, leert deze methode het netwerk om voor elk deeltje dat het ziet een persoonlijke, bewegende referentiekader te creëren. Stel je een deeltje voor als een reiziger die zijn eigen kaart bij zich draagt; het netwerk voorspelt deze kaart voor elk deeltje, waardoor de computer al deze complexe, bewegende data kan vertalen naar een eenvoudige, lokale taal waarin de natuurkundige wetten gemakkelijk te lezen zijn. Zodra de data naar deze lokale kaders is vertaald, kan het netwerk deze verwerken met elk standaard, flexibel architectuur. Nadat de berekening is voltooid, vertaalt het netwerk de resultaten terug naar het globale beeld van de detector. Deze aanpak stelt de computer in staat om de fundamentele symmetrieën van het universum te respecteren terwijl hij snel en aanpasbaar blijft aan verschillende soorten natuurkundige problemen.

De onderzoekers testten dit nieuwe framework op drie verschillende uitdagingen die centraal staan in de moderne deeltjesfysica: het voorspellen van de sterkte van deeltjesinteracties, het genereren van realistische simulaties van deeltjesbotsingen, en het identificeren van specifieke typen deeltjes die verborgen liggen in het puin. In de eerste test vroegen ze het netwerk om de waarschijnlijkheid van een specifiek verstrooiingsevenement waarbij een Z-boson en tot vier gluonen betrokken zijn. Ze ontdekten dat door dit lokale referentiekadersysteem toe te voegen aan standaard neurale netwerken, de voorspellingen aanzienlijk nauwkeuriger werden dan die van niet-relativistische modellen, en dat ze de prestaties evenaarden van veel complexere, gespecialiseerde modellen. Cruciaal was dat de nieuwe methode deze hoge nauwkeurigheid bereikte met veel minder rekenkracht, waarbij het vier keer sneller draaide dan de voorheen leidende modellen die specifiek voor deze taak waren ontworpen.

In de tweede toepassing gebruikte het team de methode om nieuwe deeltjesbotsingsevenementen vanaf nul te genereren. Dit is een vitale taak voor het simuleren van wat detectoren zouden moeten zien, maar het is berucht moeilijk omdat de computer een complex, meerdimensionaal landschap van mogelijkheden moet leren. De onderzoekers ontdekten dat het netwerk voor deze specifieke taak niet perfect symmetrisch hoefde te zijn in alle richtingen. In plaats daarvan presteerde het het best wanneer het werd toegestaan om sommige strikte symmetieregels te breken om aan te sluiten bij de specifieke geometrie van de deeltjesdetector, die een voorkeursrichting heeft langs de straallijn. Door het netwerk te laten leren alleen de symmetrieën te respecteren die daadwerkelijk in de detectordata aanwezig zijn, bereikten zij de beste resultaten. Deze bevinding daagt het idee uit dat een computermodel altijd perfect symmetrisch moet zijn om effectief te zijn; soms is weten waar de symmetrie breekt net zo belangrijk.

De laatste en meest uitgebreide test betrof jet-tagging, een proces waarbij computers jets van deeltjes moeten onderscheiden die worden veroorzaakt door zware topquarks van die veroorzaakt door gewone achtergrondruis. Dit is een cruciale vaardigheid voor het vinden van nieuwe fysica, aangezien topquarks vaak worden geproduceerd in zeldzame, interessante gebeurtenissen. Het team paste hun methode toe op verschillende gevestigde, hoogwaardige netwerkarchitecturen en verbeterde deze naar een relativistisch niveau. Ze creëerden een enorme nieuwe dataset met 135 miljoen gesimuleerde gebeurtenissen om deze modellen te trainen, een dataset die veel groter is dan welke eerder voor deze specifieke taak is gebruikt. Op deze grote schaal presteerden de geüpgradede netwerken beter dan hun niet-relativistische tegenhangers en evenaarden ze de prestaties van de meest geavanceerde gespecialiseerde modellen. De resultaten toonden aan dat hoewel de nieuwe methode goed werkt op kleine datasets, de ware kracht ervan wordt onthuld wanneer de hoeveelheid data groot is, waardoor het netwerk de natuurwetten kan gebruiken om efficiënter te leren.

Een belangrijk inzicht uit de studie betreft de manier waarop het netwerk de symmetrie van de data afhandelt. De onderzoekers ontdekten dat voor sommige taken, zoals het genereren van gebeurtenissen, het voldoende is dat het netwerk alleen de residuele symmetrie van de detector respecteert. Echter, voor het identificeren van deeltjes in jets leverde een hybride aanpak de beste prestaties op. Het netwerk kreeg de vrijheid om de volledige kracht van de relativistische symmetrie te gebruiken in zijn interne berekeningen, maar kreeg ook specifieke referentiepunten mee, zoals de richting van de deeltjesstraal, als extra input. Dit stelde het netwerk in staat om zelf te beslissen wanneer het de volledige symmetrie zou gebruiken en wanneer het op de specifieke detectorgeometrie zou vertrouwen. Deze flexibiliteit bleek de meest effectieve strategie, waardoor het model de hoogste nauwkeurigheid kon bereiken zonder beperkt te worden door rigide regels die mogelijk niet van toepassing zijn op elk deel van de data.

De studie toonde ook aan dat dit nieuwe framework niet beperkt is tot één type neuraal netwerk. De onderzoekers hebben het succesvol toegepast op zowel grafische netwerken (graph networks), die deeltjes behandelen als verbonden knooppunten, als op transformers, krachtige modellen die vaak worden gebruikt in taalverwerking. In elk geval fungeerde de methode als een universele upgrade, waarbij een bestaand netwerk relativistisch werd gemaakt met slechts een minimale toename van het aantal aanpasbare parameters. De computationele kosten van deze upgrade waren minimaal, waarbij slechts ongeveer één procent aan parameters werd toegevoegd en een verwaarloosbare extra tijd in beslag werd genomen. Dit suggereert dat de methode gemakkelijk kan worden overgenomen door de bredere natuurkundige gemeenschap om bestaande tools te verbeteren zonder dat hele softwaresystemen van de grond af aan opnieuw geschreven hoeven te worden.

Door een manier te bieden om de fundamentele symmetrieën van het universum met minimale overhead in machine learning-modellen in te bedden, neemt dit werk een belangrijke barrière voor vooruitgang in de deeltjesfysica weg. Het stelt onderzoekers in staat om de krachtigste en meest flexibele neurale netwerkarchitecturen van vandaag te gebruiken, terwijl ze ervoor zorgen dat deze de natuurwetten respecteren. Het vermogen om betere simulaties te genereren, de sterkte van interacties nauwkeuriger te voorspellen en zeldzame deeltjes met hogere zekerheid te identificeren, opent nieuwe deuren voor het analyseren van de enorme hoeveelheden data die worden verwacht van toekomstige deeltjesversnellers. De onderzoekers hebben hun code en datasets publiekelijk beschikbaar gesteld, in een uitnodiging aan anderen om deze tools te testen en te verfijnen, zodat de volgende generatie ontdekkingen in de deeltjesfysica gebouwd kan worden op een fundament van zowel data als diep fysiek begrip.