End-to-end optimisation of HEP triggers

Dit artikel introduceert een end-to-end optimalisatiekader voor deeltjesfysica-triggers dat alle verwerkingsstappen als één differentieerbaar systeem behandelt, wat resulteert in een 2- tot 4-voudige verbetering van de detectie van zeldzame processen zoals Higgs-bosonparen bij het behoud van fysieke interpreteerbaarheid en hardware-beperkingen.

De kern

Stel je voor dat je een gigantische, drukke treinstation hebt: het Large Hadron Collider (LHC). Hier botsen elke seconde miljarden deeltjes tegen elkaar. Het is alsof er een onafgebroken stroom van duizenden bussen per seconde door het station rijdt.

Het probleem? Er is geen ruimte om iedereen op te slaan. Als je elke bus zou fotograferen en opslaan, zou je in een seconde meer data hebben dan er op de hele aarde is.

Daarom hebben ze triggers (aanwijzers). Dit zijn de beveiligingscamera's en de poortwachters die in een flits moeten beslissen: "Is deze bus interessant? Zet hem op de lijst!" of "Is het gewoon een lege bus? Laat hem doorrijden."

Het oude probleem: De "Gescheiden Teams"

Tot nu toe werkten deze triggers als een keten van losse teams die elkaar niet kennen:

1. Team A kijkt naar de beelden en probeert ruis (stof) weg te halen. Ze zijn zo goed mogelijk in het maken van een schone foto.
2. Team B neemt die foto en zoekt naar vormen (clusters). Ze zijn zo goed mogelijk in het tekenen van lijnen om de vormen.
3. Team C meet de snelheid van die vormen. Ze zijn zo goed mogelijk in het kalibreren van de snelheidsmeter.

Elk team werkt perfect voor zichzelf. Maar het probleem is dat Team A niet weet wat Team C nodig heeft. Misschien maakt Team A een foto die heel schoon is, maar net niet de juiste details bevat om Team C te helpen een zeldzame, snelle bus te vinden. Het resultaat? Het hele systeem is niet optimaal, omdat de onderdelen niet samenwerken.

De nieuwe oplossing: Het "End-to-End" Systeem

De auteurs van dit paper (Noah Clarke Hall en collega's) zeggen: "Waarom laten we ze niet als één groot team werken?"

Ze hebben een nieuw systeem bedacht dat alles samen laat trainen, alsof het één grote, slimme hersenstam is.

• In plaats van dat Team A alleen probeert de foto schoon te maken, leert het systeem: "Hoe moet ik de foto bewerken zodat Team C de snelheid het beste kan meten?"
• Soms betekent dit dat Team A een beetje 'ruis' laat staan als dat helpt om een belangrijk signaal te onderscheiden.
• Soms betekent dit dat de manier waarop de data wordt opgeslagen (de 'quantisatie') verandert, zodat de belangrijkste informatie behouden blijft, zelfs als de rest wat minder nauwkeurig is.

Het systeem leert zelf de beste balans tussen het weghalen van ruis, het vinden van vormen en het meten van snelheid, allemaal gericht op één doel: het vinden van de meest zeldzame en interessante bussen (zoals de Higgs-boson paren).

De Creatieve Analogie: De Chef-kok en de Serveerster

Stel je een restaurant voor:

• De oude manier: De kok (Team A) kookt de perfecte soep. De serveerster (Team B) schenkt de perfecte kop in. De gast (Team C) eet de soep.
  • Probleem: De kok maakt de soep zo heet dat de serveerster hem moet afkoelen, waardoor de smaak verdwijnt. De serveerster gebruikt een lepel die te groot is, waardoor de soep overloopt. Iedereen doet zijn werk perfect, maar de gast krijgt een koude, lekke soep.
• De nieuwe manier (End-to-End): De kok, serveerster en gast zitten aan één tafel. Ze praten met elkaar.
  • De kok zegt: "Ik maak de soep iets minder heet, zodat de serveerster hem niet hoeft af te koelen."
  • De serveerster zegt: "Ik gebruik een kleinere lepel, zodat de soep netjes blijft."
  • Het resultaat? De gast krijgt de beste, warmste soep die mogelijk is, omdat iedereen zich aanpaste aan wat de ander nodig had.

Wat is het resultaat?

In hun proef met deeltjesfysica (specifiek voor de toekomstige HL-LHC bij CERN) zagen ze een verbazingwekkend resultaat:

• Hun nieuwe systeem vond 2 tot 4 keer meer van die zeldzame, interessante deeltjes dan het oude systeem.
• Dit is alsof je met hetzelfde aantal camera's ineens 40 jaar extra onderzoekstijd wint.
• En het beste? Het systeem is nog steeds begrijpelijk. De "tussenstappen" (zoals de schone foto's en de gemeten snelheden) zijn nog steeds logisch en fysiek, alleen nu zijn ze slimmer afgestemd op elkaar.

Conclusie

Dit paper laat zien dat als je losse onderdelen van een complex systeem (zoals deeltjesdetectoren) niet los van elkaar optimaliseert, maar ze als één geheel laat leren, je veel meer uit je apparatuur kunt halen. Het is een verschuiving van "iedereen doet zijn eigen ding perfect" naar "we werken samen om het beste resultaat te bereiken". Voor de toekomst van de natuurkunde is dit een enorme stap voorwaarts.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "End-to-end optimisation of HEP triggers" in het Nederlands.

Probleemstelling

Experimenten in de hoge-energie fysica (HEP), zoals die aan de Large Hadron Collider (LHC), genereren datastromen van honderden terabytes per seconde. Om dit te beheersen, gebruiken experimenten zoals ATLAS en CMS hiërarchische "trigger"-systemen om de gebeurtenisrate te reduceren van 40 MHz naar ongeveer 1 kHz voor permanente opslag.

Traditioneel worden deze triggers ontworpen als een sequentiële keten van modulaire algoritmen (bijv. quantisatie, ruisreductie, clustering, kalibratie). Elk algoritme wordt onafhankelijk geoptimaliseerd op basis van een lokaal doel (bijv. het minimaliseren van de fout op pixel-niveau). Het artikel stelt dat deze aanpak fundamenteel suboptimaal is: een lokaal optimaal algoritme garandeert niet dat het bijdraagt aan een globaal optimaal resultaat voor de fysica-doelstelling (zoals het detecteren van zeldzame processen). Er is een spanning tussen de noodzaak van modulaire, interpreteerbare systemen en de wens naar holistische optimalisatie zoals in moderne machine learning.

Methodologie

De auteurs formuleren het trigger-ontwerp als een beperkt end-to-end optimalisatieprobleem. In plaats van losse onderdelen te trainen, behandelen ze de volledige triggerketen als één differentieerbaar systeem dat wordt getraind tegen een uniek, fysiek gebaseerd doel.

Kerncomponenten van de methode:

1. Differentieerbare Keten: De volledige pipeline (data-encoding, denoising, clustering, kalibratie) wordt geïmplementeerd binnen een differentieerbaar programmeringskader (TensorFlow). Hierdoor kunnen gradients worden berekend en backpropagated door de hele keten.
2. Gecombineerde Loss-functie: De fysieke prestaties worden samengevat in één loss-functie ($L_{e2e}$) die bestaat uit:
   • Classificatie: Binary Cross-Entropy (BCE) termen voor het onderscheiden van signaal (bijv. Higgs-boson paren) en achtergrond.
   • Reconstructie/Kalibratie: Een term die de afstand tussen de gemeten impuls ($p_T$) en de waarheid ($t$) minimaliseert.
   • Regularisatie: Termen om hardware-beperkingen en fysieke constraints (zoals monotonie in kalibratie) te respecteren.
3. Hardware-beperkingen: Het systeem incorporeert beperkingen direct in de training:
   • Bandbreedte: Data-encoding (quantisatie) wordt geoptimaliseerd om binnen een vast bandbreedtebudget te blijven.
   • Latentie: De complexiteit van het model (bijv. CNN voor ruisreductie) wordt beperkt om te voldoen aan de strikte latentie-eisen van FPGA-hardware.
4. Trainable Quantisatie: De quantisatieregels (hoe analoge data wordt omgezet in digitale bits) worden niet handmatig vastgelegd, maar zijn leerbare parameters die samen met het neural network worden geoptimaliseerd.

Case Study:
De methode wordt toegepast op een realistische multi-jet trigger, geïnspireerd op het ATLAS Level-1 trigger-systeem voor de High-Luminosity LHC (HL-LHC). De taak is het selecteren van gebeurtenissen met meerdere jets, met name gericht op de productie van Higgs-boson paren ($HH \to b\bar{b}b\bar{b}$), een cruciaal proces voor de toekomstige fysica.

Belangrijkste Bijdragen

1. Paradigmaverschuiving: Het artikel introduceert een nieuw raamwerk waarbij triggers worden gezien als één geïntegreerd, taakbewust systeem in plaats van een som van losse onderdelen.
2. Gecombineerde Optimalisatie: Het is de eerste keer dat data-encoding (quantisatie), ruisreductie en kalibratie gelijktijdig worden geoptimaliseerd onder een enkel fysiek doel, inclusief hardware-beperkingen.
3. Behoud van Interpretatie: Ondanks de end-to-end aanpak behoudt het systeem interpreteerbare tussenliggende fysieke objecten (zoals jets) en respecteert het strikte fysieke constraints (zoals monotonie in $p_T$-kalibratie), wat essentieel is voor de betrouwbaarheid in HEP.
4. Trainbare Quantisatie: De auteurs tonen aan dat de quantisatieregels zelf kunnen worden geoptimaliseerd om de beste trade-off te vinden tussen data-compressie en fysieke prestaties, iets wat eerder niet in een end-to-end kader was gedaan.

Resultaten

De prestaties van de end-to-end (E2E) methode werden vergeleken met een traditionele sequentiële optimalisatie (waarbij elke stap apart wordt getraind):

• Verbeterde Selectie-efficiëntie: Bij een vaste valse-positieve rate (FPR) van $10^{-3}$ toonde de E2E-trigger een 2 tot 4 keer hogere waar-positieve rate (TPR) voor Higgs-boson paar-productie in vergelijking met de sequentiële aanpak.
• AUC Verbetering: De Area Under the Curve (AUC) voor het onderscheid tussen signaal en achtergrond nam significant toe voor alle geteste signalen (bijv. van 0.66 naar 0.75 voor $p_{T,4}$ bij ggF HH).
• Adaptieve Trade-offs: De E2E-trainer leerde dat het soms beter is om de resolutie van de kalibratie voor bepaalde achtergrond-jets te offeren om de ruisreductie te maximaliseren, een strategie die de sequentiële methode niet kan leren omdat deze lokaal optimaal is.
• Hardware-conformiteit: Het model bleef binnen de gesimuleerde hardware-beperkingen (2 Tbps bandbreedte en 10 µs latentie voor denoising) en leverde toch superieure resultaten op.
• Impact: De auteurs schatten dat deze verbetering in efficiëntie equivalent is aan het verlengen van de data-opnameperiode van de HL-LHC met tot wel 40 jaar.

Betekenis en Conclusie

Dit werk demonstreert dat de traditionele, sequentiële optimalisatie van trigger-systemen een verborgen "fysieke kost" met zich meebrengt. Door end-to-end optimalisatie toe te passen, kunnen systemen leren om complexe trade-offs aan te gaan tussen ruisreductie, kalibratie en data-compressie om de algehele detectie van zeldzame fysische processen te maximaliseren.

De methode is niet beperkt tot jet-triggers of de LHC; het raamwerk is breed toepasbaar op elk real-time datasysteem met differentieerbare verwerking en duidelijke fysieke doelen, inclusief neutrino-experimenten en atmosferische Cherenkov-telescopen. Het biedt een praktische toolkit voor de volgende generatie van real-time gebeurtenisselectiesystemen, waarbij hardware en algoritmes gezamenlijk worden ontworpen ("co-design") in plaats van los van elkaar.