Classifying hadronic objects in ATLAS with ML/AI algorithms

Deze bijdrage vat recente ontwikkelingen samen in het gebruik van geavanceerde kunstmatige intelligentie-algoritmen, zoals grafische neurale netwerken en transformers, voor het classificeren van hadronische objecten in het ATLAS-experiment en bespreekt hun prestaties en toekomstige perspectieven.

De kern

De Grote Jacht op Deeltjes: Hoe ATLAS "Smaak" herkent met AI

Stel je voor dat deeltjesversneller LHC (bij CERN) een gigantische, hyper-snelle deeltjesmixer is. Als protonen tegen elkaar botsen, vliegen er duizenden kleine stukjes (deeltjes) in alle richtingen. De meeste van deze stukjes vormen "jets" – dichte bundels deeltjes die eruitzien als een straal van vuurwerk.

Het probleem? Niet alle stralen zijn hetzelfde. Sommige komen van quarks (de bouwstenen van materie), andere van gluonen (de lijm die ze bij elkaar houdt), en weer andere zijn de resten van zware, zeldzame deeltjes zoals een W-boson of een top-quark.

Voor natuurkundigen is het vinden van die zeldzame "gouden deeltjes" (zoals het top-quark) als een naald in een hooiberg zoeken. Maar de hooiberg is niet zomaar hooi; het is een explosie van miljoenen deeltjes. De ATLAS-detectoren moeten precies kunnen zeggen: "Aha! Die ene bundel is een top-quark, die andere is gewoon een saaie gluon."

Vroeger deden ze dit met simpele regels (zoals "telt het aantal deeltjes?"). Maar nu gebruiken ze Kunstmatige Intelligentie (AI) om dit veel slimmer te doen. Hier is hoe dat werkt, vertaald naar begrijpelijke termen:

---

1. Van "Rekenen" naar "Kijken" (De nieuwe AI-methodes)

Vroeger keken wetenschappers naar samenvattingen van de jet (zoals "hoe breed is hij?"). Dat is alsof je probeert een boek te begrijpen door alleen naar de dikte van de rug te kijken.

Nu kijken de nieuwe AI-modellen direct naar elk individueel deeltje in de bundel. Ze gebruiken vier slimme manieren om deze deeltjes te analyseren:

• De "Lijstjes"-methode (FC DNN): Dit is als een simpele lijst maken van alle deeltjes en ze één voor één afvinken. Het werkt, maar het mist de context.
• De "Wolk"-methode (EFN/PFN): Stel je voor dat je een wolk van vogels ziet. Het maakt niet uit welke vogel links of rechts vliegt; de AI kijkt naar de totale vorm van de wolk. Ze zijn "onverschillig" voor de volgorde, wat heel slim is.
• De "Vrienden-netwerk"-methode (GNNs / Graph Neural Networks): Dit is alsof je een sociale kaart maakt. De AI weet welke deeltjes "vrienden" zijn (dicht bij elkaar zitten) en welke niet. Ze kijken naar de relaties tussen de deeltjes, net zoals je een groep vrienden herkent aan hoe ze met elkaar praten.
• De "Aandacht"-methode (Transformers): Dit is de nieuwste en slimste methode. Het werkt net als een mens die een gesprek luistert. De AI kijkt naar alle deeltjes, maar kiest er bewust op welke hij zijn aandacht richt. "Oh, dit ene deeltje hier is heel belangrijk voor het verhaal, dat andere is minder relevant." Dit heet een Transformer.

---

2. Het Grote Verschil: Quarks vs. Gluonen

Het moeilijkste is vaak het onderscheid maken tussen een quark-jet en een gluon-jet.

• Quark-jets zijn als een strakke, compacte bundel (zoals een strak gebonden bos bloemen).
• Gluon-jets zijn als een wazige, wijdverspreide mist (zoals een losse bos bloemen die overal uit elkaar valt).

De oude methodes (BDT) waren als een simpele schatting: "Ziet het er breed uit? Dan is het een gluon."
De nieuwe DeParT-AI (een Transformer) is als een detective die elke bloem in de bos bestudeert. Hij kijkt niet alleen naar de breedte, maar naar hoe de deeltjes zich tot elkaar verhouden. Het resultaat? Hij kan gluonen veel beter "uitfilteren" dan de oude methodes, zelfs als de jets heel snel zijn.

---

3. Het Vinden van de "Zware Verdachten" (W-bosons en Top-quarks)

Soms botsen de deeltjes zo hard dat zware objecten (zoals een W-boson of top-quark) in één grote, dikke jet verdwijnen. Dit is alsof je een grote vrachtwagen (het zware deeltje) probeert te herkennen, maar je ziet hem alleen als een grote, rommelige hoop vuilnisbakken (de jet).

• ParT (de slimme observer): Deze AI is getraind om de "inhoud" van die grote jet te analyseren. Hij weet precies hoe een W-boson eruit moet zien in de chaos. Hij is veel beter in het vinden van deze zware objecten dan de oude methodes.
• LundNet (de veiligheidscontroleur): Een ander probleem is dat computersimulaties (waar de AI op getraind wordt) niet altijd 100% overeenkomen met de echte wereld. Soms leert de AI "trucs" van de simulator die niet echt zijn.
  • De LundNet-AI is speciaal getraind om niet te letten op de "gewicht" van de jet (een valstrik waar andere AI's in trappen), maar puur op de structuur. Het is alsof een veiligheidscontroleur die niet kijkt naar hoe zwaar je tas is, maar naar hoe de spullen erin liggen. Dit maakt de resultaten betrouwbaarder.

---

4. Wat betekent dit voor de toekomst?

Kort samengevat: ATLAS is overgestapt van simpele regels naar slimme, lerende netwerken die deeltjesbundels analyseren alsof ze een complex verhaal lezen.

• De winst: Ze vinden zeldzame deeltjes veel sneller en nauwkeuriger.
• De uitdaging: De AI is soms te afhankelijk van de computermodellen (de "simulaties") en moet leren om ook in de echte, ruwe data te werken zonder te "hallucineren".

De toekomst? De wetenschappers willen hybride systemen bouwen: een AI die zowel kijkt naar de individuele deeltjes (zoals een Transformer) als naar de groepsstructuur (zoals een GNN). Het is alsof je een team hebt met een detail-observator en een strategist die samenwerken om het perfecte antwoord te vinden.

Conclusie: Met deze nieuwe AI-tools kan ATLAS de "naald in de hooiberg" niet alleen vinden, maar ook precies vertellen wat voor soort naald het is, zelfs als de hooiberg in brand staat.

Technische samenvatting

Probleemstelling

In de proton-proton botsingen bij de Large Hadron Collider (LHC) van CERN zijn hadronische jets een van de meest voorkomende eindtoestanden. Het nauwkeurig classificeren van deze jets op basis van hun oorsprong is cruciaal voor:

• Precisiemetingen in de standaardmodel-fysica.
• Het zoeken naar nieuwe fenomenen (Beyond Standard Model).
• QCD-studies (Quantum Chromodynamics).

De uitdagingen zijn tweeledig:

1. Quark- vs. Gluon-jets: Het onderscheiden van deze twee is complex vanwege de sterke afhankelijkheid van niet-perturbatieve effecten en modellering van de deeltjesstroom (parton-shower). Gluon-jets hebben gemiddeld meer constituenten en een bredere collimatie dan quark-jets.
2. Zware objecten: Het identificeren van hadronisch vervallende zware deeltjes, zoals W-bosonen en top-quarks, die bij hoge transversale impuls ($p_T$) worden gereconstrueerd als enkele grote-radius jets.

Traditionele methoden, die vaak gebruikmaken van Boosted Decision Trees (BDT) gebaseerd op hoog-niveau substructuur-observabelen (zoals het aantal tracks), bereiken nu hun limieten.

Methodologie

De ATLAS-collaboratie heeft de overstap gemaakt van observabelen-gebaseerde taggers naar constituent-gebaseerde architecturen. Deze methoden gebruiken direct de vier-vectorinformatie van de deeltjes waaruit een jet is opgebouwd (de constituenten), waardoor ze de volledige detectorgranulariteit benutten. De paper bespreekt vier hoofdarchitecturen:

1. Fully-Connected Deep Neural Networks (FC DNNs): Een basismethode die gebruikmaakt van geordende constituent-kenmerken.
2. Energy Flow Networks (EFN) en Particle Flow Networks (PFN): "Point-cloud" modellen gebaseerd op de DeepSets-benadering die permutatie-invariantie garanderen. EFN gebruikt strikt infrarood- en collineer-veilige variabelen.
3. Graph Neural Networks (GNNs): Modellen zoals ParticleNet, waarbij jet-constituenten worden weergegeven als knopen in een grafiek met geleerde geometrische relaties.
4. Transformers: Architecturen geïnspireerd op Natural Language Processing (NLP) die gebruikmaken van attentie-mechanismen om dynamisch relaties tussen constituenten te leggen.

Specifieke geavanceerde algoritmen die in de paper worden geanalyseerd zijn:

• DeParT (Dynamically Enhanced Particle Transformer): De state-of-the-art voor kleine-radius jets ($R=0.4$). Het vervangt de traditionele BDT door attentieblokken en gebruikt zowel kinematische als relationele kenmerken van Particle Flow Objects (PFOs).
• GN2: Een transformer-gebaseerd algoritme voor smaak-tagging (flavour tagging) dat gebruikmaakt van track-niveau informatie en hulp-taken (zoals vertex-classificatie) om het trainingsproces te stabiliseren.
• ParT: Een constituent-based transformer voor het taggen van W-jets (grote radius, $R=1.0$).
• LundNet: Een GNN die gebruikmaakt van de clustering-historie in het Lund Jet Plane (LJP). Variaties zoals LundNetANN gebruiken adversarial training om de output te decorreleren van de jet-massa, wat systeematische onzekerheden vermindert.

Belangrijkste Bijdragen en Resultaten

1. Quark/Gluon Splitsing en Smaak-Tagging:

• DeParT toont een significante verbetering in het verwerpen van gluon-jets in vergelijking met FC-netwerken, PFN, EFN en ParticleNet, over een breed $p_T$-bereik.
• GN2 levert een factor 3 verbetering op in het verwerpen van lichte jets (light-jet rejection) ten opzichte van de Run-2-baselines (DL1r en DL1d).

2. W-boson en Top-quark Tagging:

• Voor W-jets presteert ParT beter dan gevestigde methoden zoals EFN, PFN en ParticleNet, zowel in termen van signaalefficiëntie als achtergrondverwerpingsvermogen.
• LundNet bereikt state-of-the-art prestaties voor W-tagging. Cruciaal is dat LundNetANN (met adversarial training) de correlatie met de jet-massa doorbreekt. Hoewel dit de pure verwerpingskracht iets verlaagt, verbetert het de modellering van QCD-achtergronden aanzienlijk en reduceert het systeematische onzekerheden.
• Voor top-quark tagging (herkenning van de drie-prong substructuur) is ParticleNet momenteel de beste keuze qua nauwkeurigheid, hoewel het rekenkundig zwaarder is.

3. Uitdagingen:

• Er blijft een aanzienlijke afhankelijkheid van Monte Carlo (MC) generators bestaan. Het paper meldt prestatieverliezen tot 40% wanneer de deeltjesstroom-modellen (parton-shower models) worden gewijzigd. Dit onderstreept de noodzaak van model-onafhankelijke strategieën.

Significantie en Toekomstperspectief

De paper markeert een paradigmaverschuiving in de ATLAS-experimenten: de volledige overgang naar constituent-gebaseerde deep learning-modellen (GNNs en Transformers) die superieur presteren aan traditionele methoden.

De belangrijkste implicaties zijn:

• Ongekende nauwkeurigheid: Nieuwe architecturen halen een precisie die eerder onbereikbaar was.
• Systematische uitdagingen: Hoewel de prestaties stijgen, blijft de afhankelijkheid van simulatie (generator dependence) een kritieke zwakke punt die de betrouwbaarheid in echte data kan beïnvloeden.
• Toekomstige richting: De focus ligt nu op:
  • Data-gedreven validatie van prestaties.
  • Het mitigeren van onzekerheden.
  • Het ontwikkelen van hybride modellen die de sterktes combineren van constituent-based transformers en clustering-tree-based GNNs (zoals LundNet) om zowel nauwkeurigheid als robuustheid te maximaliseren.

Kortom, deze ontwikkelingen zijn essentieel voor het succes van de toekomstige fysische programma's van ATLAS, waarbij AI niet langer slechts een hulpmiddel is, maar de kern vormt van de analysestrategie voor hadronische objecten.