Distilling Normalizing Flows for Real-Time Anomaly Detection at the LHC

De Large Hadron Collider is een machine van immense schaal en snelheid, die protonen veertig miljoen keer per seconde op elkaar laat botsen. Deze stroom aan gegevens is veel te groot om op te slaan, dus vertroult het experiment op een hardwarefilter genaamd een trigger om in een fractie van een microseconde te beslissen welke botsingen interessant genoeg zijn om te bewaren en welke gewone achtergrondruis zijn om weg te gooien. Decennialang heeft dit filter vertrouwd op vooraf geprogrammeerde regels om het ongewone te spotten. Echter, het universum verbergt nieuwe fysica vaak op manieren die niet aan die regels voldoen. Om het onverwachte te vinden, hebben wetenschappers zich gericht op anomaliedetectie, een methode die zoekt naar gebeurtenissen die simpelweg niet lijken op de standaardpatronen van bekende deeltjes. De uitdaging is dat deze detectiemodellen ongelooflijk snel en klein genoeg moeten zijn om te kunnen draaien op de gespecialiseerde computerchips binnen het triggersysteem, een vereiste die wetenschappers historisch gezien dwong om te kiezen tussen hoge nauwkeurigheid en de mogelijkheid om in realtime te functioneren.

In dit werk pakten onderzoekers het probleem aan om een krachtig statistisch hulpmiddel, een normalizing flow, naar de hardwaretrigger te brengen. Een normalizing flow is een type computermodel dat de vorm leert van de data die het ziet, en effectief de waarschijnlijkheid in kaart brengt van het voorkomen van een gegeven gebeurtenis. Als een gebeurtenis in een zeldzame, onwaarschijnlijke hoek van die kaart valt, markeert het model dit als een anomalie. Hoewel deze modellen uitstekend zijn in het spotten van het ongewone, is het berekenen van hun exacte score te traag en complex voor de hardwarechips die in de trigger worden gebruikt. Eerdere pogingen om deze modellen te vereenvoudigen voor hardware resulteerden vaak in een verlies van nauwkeurigheid, waardoor ze minder effectief werden in het vinden van nieuwe fysica. Het team achter deze studie zocht een andere weg: in plaats van het complexe model zelf te vereenvoudigen, leerden ze een veel kleiner, eenvoudiger model om het gedrag van het grote model na te bootsen. Dit proces, bekend als kennisdistillatie (knowledge distillation), stelt het kleine model in staat om de intelligentie van het grote model over te nemen zonder de zware computationele last te dragen.

De onderzoekers begonnen met het trainen van een groot, geavanceerd model op een enorme dataset van gesimuleerde protonbotsingen. Deze dataset vertegenwoordigde het standaardgedrag van het universum en bevatte miljarden gebeurtenissen met specifieke deeltjes zoals elektronen, muonen en jets, evenals ontbrekende energie die wijst op onzichtbare deeltjes. Een belangrijke moeilijkheid in deze data is dat het aantal deeltjes in elke botsing varieert; sommige gebeurtenissen hebben veel jets, terwijl andere er weinig hebben. Het team gebruikte een conditionele aanpak om dit te verwerken, waarbij het model leerde de waarschijnlijkheid van de gebeurtenis te begrijpen op basis van het specifieke aantal aanwezige deeltjes. Dit stelde het model in staat om een precieze kaart te leren van hoe een normale botsing eruitziet, zelfs wanneer de invoerdata incompleet of schaars was. Het resultaat was een zeer nauwkeurig "docent"-model dat een waarschijnlijkheidsscore aan elke gebeurtenis kon toekennen, maar dat veel te groot en traag was om in de hardware van de trigger te draaien.

Om deze intelligentie bruikbaar te maken, trainden het team twee verschillende soorten lichtgewicht "student"-modellen om de scores van de docent te kopiëren. Eén student was een boosted decision tree, een model dat beslissingen neemt door een reeks eenvoudige ja-of-nee-vragen te volgen, terwijl de andere een dense neural network was, een structuur van onderling verbonden knopen die informatie in lagen verwerkt. Beide studenten werden getraind om de waarschijnlijkheidsscore van de docent direct uit de ruwe detectordata te voorspellen, waarbij ze leerden de complexe patronen te repliceren zonder de zware machinerie van de oorspronkelijke flow nodig te hebben. De onderzoekers pasten vervolgens geavanceerde compressietechnieken toe op deze studenten, waarbij ze de precisie van hun interne getallen net genoeg verminderden om ze op een field-programmable gate array te laten passen—een type herbruikbare chip die in het triggersysteem wordt gebruikt—zonder hun vermogen te verliezen om onderscheid te maken tussen normale en afwijkende gebeurtenissen.

De resultaten toonden aan dat de studenten succesvol in staat waren om het vermogen van de docent om nieuwe fysica te vinden te evenaren. Bij tests tegen vier verschillende scenario's van hypothetische nieuwe deeltjes, presteerden de studentmodellen bijna net zo goed als de grote docent, waarbij ze een onderscheidingsvermogen bereikten dat binnen één procent van het origineel lag. Cruciaal was dat ze ook beter presteerden dan eerdere methoden die probeerden normalizing flows aan te passen voor hardware. De gecomprimeerde modellen waren in staat om een beslissing te nemen in slechts vijf tot vijfentwintig nanoseconden, een snelheid die snel genoeg is om binnen de strikte tijdslimieten van het triggersysteem te functioneren. Bovendien was de hoeveelheid middelen die deze modellen op de chip vereisten minimaal, waarbij ze minder dan één procent van de beschikbare capaciteit gebruikten. Dit betekent dat het systeem deze geavanceerde detectoren kan draaien naast andere essentiële taken zonder de hardware te overbelasten.

Door te bewijzen dat een complex, hoogprecisie model kan worden gedestilleerd tot een kleine, snelle surrogaat, hebben de onderzoekers een praktisch pad gedemonstreerd voor de implementatie van geavanceerde anomaliedetectie in het hart van de Large Hadron Collider. Het werk suggereert dat de hardwaretrigger nu het onverwachte kan observeren met een niveau van gevoeligheid dat voorheen als onmogelijk werd beschouwd onder dergelijke strikte beperkingen. Deze aanpak verbetert niet alleen de snelheid van detectie; het behoudt ook de nauwkeurigheid die nodig is om de zwakke signalen van nieuwe fysica te vangen die verborgen liggen in de ruis van miljarden botsingen. De studie bevestigt dat met de juiste trainingsstrategie de beperkingen van hardware kunnen worden omzeild, waardoor de krachtigste statistische instrumenten in realtime kunnen opereren waar ze het hardst nodig zijn.