Vision Transformers for End-to-End Quark-Gluon Jet Classification from Calorimeter Images

Diep in de enorme ring van de Large Hadron Collider botsen deeltjes met bijna de snelheid van het licht tegen elkaar, wat een chaotische wolk van puin creëert waar natuurkundigen doorheen moeten zoeken om de fundamentele wetten van het universum te begrijpen. Wanneer protonen botsen, produceren ze vaak twee verschillende soorten deeltjesstralen, bekend als jets: één afkomstig van een quark en de andere van een gluon. Hoewel beide voor een detector lijken op rommelige kegels van energie, zijn ze fundamenteel verschillend. Quarks zijn de bouwstenen van protonen en neutronen, terwijl gluons de lijm zijn die ze bij elkaar houden. Gluons dragen een sterkere "kleurlading", een eigenschap van de sterke kernkracht, wat ervoor zorgt dat ze uiteenvallen in een bredere, drukkere straal van deeltjes vergeleken met de compactere, schonere straal van een quark. Het onderscheiden tussen deze twee is cruciaal voor wetenschappers. Als ze ze niet uit elkaar kunnen houden, kunnen ze subtiele signalen van nieuwe, onbekende fysica die zich in de achtergrondruis verbergt, missen, of ze kunnen een alledaagse gebeurtenis aanzien voor iets buitengewoons. Decennialang hebben natuurkundigen vertrouwd op complexe wiskundige regels om deze jets te scheiden, maar de patronen zijn zo ingewikkeld en de gegevens zo omvangrijk dat door mensen ontworpen regels vaak tekortschieten.

Een team onderzoekers heeft zich nu tot een ander soort intelligentie gericht om dit probleem op te lossen: kunstmatige intelligentie gemodelleerd naar het menselijk brein. In plaats van te proberen vergelijkingen te schrijven die het verschil tussen een quark en een gluon beschrijven, hebben ze een computer geleerd om naar de ruwe beelden van de deeltjesbotsingen te kijken en het verschil zelfstandig te leren herkennen. Ze gebruikten gegevens van het CMS-experiment bij CERN, dat de energieafzettingen registreert die deeltjes achterlaten wanneer ze door lagen van detectoren passeren. Deze afzettingen worden omgezet in digitale plaatjes, waarbij heldere plekken meer energie vertegenwoordigen. De onderzoekers testten een nieuw type kunstmatige intelligentie genaamd een Vision Transformer. In tegen tegenstelling tot oudere computer vision-tools die een afbeelding scannen door één voor één naar kleine, lokale segmenten te kijken, bekijkt een Vision Transformer de hele afbeelding in één keer. Het kan onmiddellijk zien hoe een heldere plek in een hoek van de afbeelding gerelateerd is aan een zwakke plek aan de tegenovergestelde kant, waardoor de globale vorm en structuur van de jet in één oogopslag wordt gevangen.

De studie omvatte het voeden van de computer met miljoenen van deze gesimuleerde jet-afbeeldingen, waarvan de helft quark-jets en de andere helft gluon-jets liet zien. De afbeeldingen werden geconstrueerd uit drie verschillende soorten detectorgegevens: de sporen die geladen deeltjes achterlaten, de energie gemeten in het elektromagnetische calorimeter, en de energie gemeten in het hadronische calorimeter. Door deze te combineren in één enkel, meerlagig beeld, gaven de onderzoekers de AI een compleet zicht op de gebeurtenis. Ze vergeleken vervolgens de prestaties van deze nieuwe Vision Transformers met de traditionele, langdurig gebruikte tools in het vakgebied, die vertrouwen op het scannen van kleine lokale gebieden. De resultaten waren duidelijk en consistent. De Vision Transformers, vooral wanneer ze gecombineerd werden met andere geavanceerde architecturen, bleken aanzienlijk beter in het onderscheiden van de twee soorten jets. Ze bereikten een hogere nauwkeurigheid en waren beter in het correct identificeren van de jets zonder fouten te maken, een balans die cruciaal is voor wetenschappelijke ontdekkingen.

De onderzoekers ontdekten dat het vermogen om het hele plaatje in één keer te zien, de nieuwe modellen een duidelijk voordeel gaf. Quark- en gluon-jets verschillen in subtiele, langetermijnpatronen; de manier waarop energie zich over de gehele detector verspreidt, is vaak veelzeggender dan de intensiteit van een enkele pixel. De oudere tools, die zich richten op lokale details, hadden moeite om deze verre punten met elkaar te verbinden. De Vision Transformers gedijden echter juist op deze globale context, door de complexe, uitgestrekte structuren van de gluon-jets succesvol in kaart te brengen tegenover de compactere quark-jets. De studie onderzocht ook verschillende manieren om deze nieuwe modellen te mengen met oudere, waardoor hybride systemen ontstonden die het beste van beide werelden combineerden. Deze hybride modellen presteerden nog beter, wat suggereert dat de toekomst van de deeltjesfysica-analyse mogelijk ligt in het samenvoegen van de lokale precisie van traditionele methoden met het brede, contextuele begrip van moderne transformers.

Hoewel deze bevindingen veelbelovend zijn, benadrukken de onderzoekers voorzichtig dat hun werk is uitgevoerd met gesimuleerde gegevens, een uiterst nauwkeurig computermodel van hoe de detectoren zouden moeten reageren. De volgende stap zal zijn om deze modellen te testen op echte gegevens van de collider om te zien of ze standhouden onder de rommelige, onvoorspelbare omstandigheden van een echt experiment. Bovendien vereisen deze krachtige modellen aanzienlijke rekenkracht om te draaien, wat een hindernis zou kunnen zijn voor real-time analyse in de toekomst. Ondanks deze beperkingen stelt de studie een nieuwe standaard voor hoe machine learning kan worden toegepast op de deeltjesfysica. Het laat zien dat door de computer het hele evenement als geheel te laten zien, in plaats van alleen de onderdelen, wetenschappers een dieper begrip van de subatomaire wereld kunnen ontsluiten, wat potentieel nieuwe fysica kan onthullen die tot nu toe verborgen is gebleven in het volle zicht.