Deep Learning-Based $^{14}$C Pile-Up Identification in the JUNO Experiment

Dit artikel onderzoekt de toepassing van diepe leermodellen, waaronder convolutionele netwerken en transformers, voor het identificeren van $^{14}$C-pile-up-events in het JUNO-experiment om de energie-resolutie voor de bepaling van de neutrino-massavolgorde te verbeteren.

De kern

De JUNO-experiment: Het vinden van een naald in een hooiberg met slimme computers

Stel je voor dat je probeert een heel specifiek geluid te horen in een drukke, lawaaiige stad. Dat is precies wat wetenschappers doen bij het JUNO-experiment in China. Hun doel is om een van de grootste mysteries van het universum op te lossen: hoe zwaar zijn neutrino's (deeltjes die door alles heen vliegen) en hoe zijn ze gerangschikt?

Om dit te doen, bouwen ze een gigantische ondergrondse detector vol met vloeibare scintillator (een soort gloeiende vloeistof). Wanneer een neutrino een botsing maakt, ontstaat er een flits van licht, veroorzaakt door een deeltje genaamd een positron. Deze flits moet de wetenschappers heel precies meten om de massa van het neutrino te kunnen berekenen.

Het probleem: De "stille" achtergrondruis

Maar er is een probleem. In die vloeistof zit een klein beetje radioactief koolstof-14 ($^{14}\text{C}$). Dit koolstof maakt ook af en toe een flitsje, maar dan heel zwak.

Stel je voor dat je een heldere flits van een flitslicht ziet (het positron), maar op exact hetzelfde moment en op exact dezelfde plek knippert er ook een heel zwak kaarsje (het koolstof-14). Als deze twee flitsen samenvallen, noemen we dit een "pile-up" (een stapeling).

Voor de computer lijkt het alsof het één grote, vervormde flits is. Hierdoor wordt de meting van het positron onnauwkeurig, en dat is funest voor het experiment. De wetenschappers moeten dus die "dubbele flits" herkennen en eruit filteren, maar dat is heel lastig omdat het koolstof-14 zo klein is en soms op hetzelfde moment gebeurt als het positron.

De oplossing: Slimme AI als detective

In dit artikel vertellen de onderzoekers hoe ze Deep Learning (een vorm van kunstmatige intelligentie) gebruiken om deze "dubbele flitsen" te vinden. Ze hebben drie verschillende soorten "detectives" (AI-modellen) getraind om te kijken welke het beste werkt:

1. De Foto-Detective (2D-CNN):
   Deze AI kijkt naar de data alsof het een foto is. Ze hebben de sensoren in de detector omgezet in een platte kaart (een afbeelding). Op deze kaart zie je waar de lichtflitsen zijn en hoe laat ze aankwamen. De AI leert patronen te herkennen op deze "foto's", net zoals een computer een kat van een hond kan onderscheiden op een foto.

2. De Tijdlijn-Detective (1D-CNN):
   Deze AI kijkt niet naar een foto, maar naar een lijn die de tijd voorstelt. Ze kijken naar een grafiek: "Hoeveel sensoren gingen er af op welk tijdstip?" Vaak zie je hier twee groepjes pieken (één voor het positron, één voor het koolstof). Soms zitten ze zo dicht bij elkaar dat het eruitziet als één grote berg. Deze AI is gespecialiseerd in het analyseren van die tijdlijn.

3. De Super-Detective (Transformer):
   Dit is de nieuwste en slimste technologie, oorspronkelijk ontwikkeld voor het vertalen van talen of het schrijven van teksten. Deze AI is heel goed in het begrijpen van samenhang in een reeks gegevens. Ze kijkt naar dezelfde tijdlijn als de tweede detective, maar gebruikt een heel geavanceerde manier om te begrijpen hoe de verschillende delen van de flits met elkaar samenhangen.

Wat is het resultaat?

De onderzoekers hebben deze drie detectives getest op miljoenen gesimuleerde gebeurtenissen.

• De Foto-Detective was oké, maar had moeite met de moeilijkste gevallen: wanneer het koolstof-14 en het positron bijna op hetzelfde moment en op dezelfde plek zaten.
• De Tijdlijn-Detective en de Super-Detective waren veel beter. Ze konden de dubbele flitsen veel nauwkeuriger onderscheiden, zelfs in die moeilijke situaties waar de twee flitsen samensmelten.
• De Super-Detective (Transformer) deed het net zo goed als de Tijdlijn-Detective, maar was iets langzamer om te trainen.

Waarom is dit belangrijk?

Dit is een enorme stap vooruit. Als ze deze slimme AI kunnen gebruiken om de "dubbele flitsen" te filteren, kunnen ze de energie van het positron veel preciezer meten. Dat betekent dat het JUNO-experiment zijn doel kan bereiken: het oplossen van het mysterie van de neutrino-massa.

Kortom: Ze hebben een heel lastig probleem (een zwakke ruis verstoppen in een sterke flits) opgelost door slimme computermodellen te laten kijken naar de data op verschillende manieren. Het is alsof je een nieuwe bril hebt gekregen om de wereld scherp te zien.

Technische samenvatting

Probleemstelling

De Jiangmen Underground Neutrino Observatory (JUNO) is ontworpen om de neutrino-massavolgorde (NMO) met een betrouwbaarheidsniveau van 3-sigma te bepalen binnen zes jaar. Een cruciale prestatievereiste voor dit doel is een energieoplossing van positronen ($e^+$) van minder dan 3%.

Het grootste obstakel voor het bereiken van deze resolutie is de aanwezigheid van residu-14C-isotopen in het vloeibare scintillator (LS). Wanneer een 14C-verval (een beta-verval) bijna gelijktijdig plaatsvindt met een positron-signaal (via inverse bèta-verval, IBD), ontstaat er een "pile-up" (opstapeling) van signalen. Omdat het signaal van 14C veel kleiner is dan dat van een positron, en de gebeurtenissen vaak zeer dicht bij elkaar in tijd en ruimte (vertex) liggen, is het identificeren en filteren van deze pile-up-gebeurtenissen een aanzienlijke uitdaging. Zonder correctie kan dit leiden tot een degradatie van de energieoplossing met ongeveer 2% bij 1 MeV zichtbare energie.

Methodologie

De auteurs onderzoeken de toepassing van diepe leermodellen (Deep Learning) om pile-up-gebeurtenissen te identificeren. De studie vergelijkt drie verschillende architecturen, getraind op een gesimuleerde dataset gegenereerd met de JUNO-offlinesoftware (versie J22.1.0-rc0), inclusief Geant4-detectiesimulatie.

De dataset bevat twee soorten gebeurtenissen:

1. Zuivere $e^+$-gebeurtenissen.
2. $e^+$-gebeurtenissen met 14C-pile-up (waarbij het aantal PMT-hits van 14C > 50 is, aangezien minder hits verwaarloosbaar zijn voor de resolutie).

De drie onderzochte modellen zijn:

1. 2D-Convolutional Neural Network (2DCNN):

   • Data-voorbereiding: De data van de fotomultiplierbuizen (PMTs) wordt omgezet in een beeldachtig formaat. Er wordt een mapping gemaakt tussen PMT-ID en (x, y)-coördinaten.
   • Kanalen: Twee kanalen worden gebruikt: de lading (charge) en de tijd van de eerste hit (first hit time).
   • Architectuur: Bestaat uit 2D-convolutielagen, batch-normalisatie, max-pooling en volledig verbonden lagen met ReLU-activatie.

2. 1D-Convolutional Neural Network (1DCNN):

   • Data-voorbereiding: Gebruikt een tijdsreeks van het aantal PMT-hits versus tijd.
   • Kanalen: Twee kanalen: (1) Aantal hits versus tijd (-250 ns tot 1250 ns) en (2) Aantal hits versus tijd waarbij de vliegtijd van het licht is afgetrokken (-500 ns tot 1000 ns).
   • Architectuur: Gebruikt 1D-convoluties in plaats van 2D, maar behoudt een vergelijkbare structuur (batch-normalisatie, pooling, etc.) als het 2DCNN.

3. Transformer-gebaseerd model:

   • Data-voorbereiding: Dezelfde 1D-tijdsreeksdata als bij de 1DCNN wordt gebruikt, maar behandeld als een reeks vectoren.
   • Architectuur: De data gaat eerst door een convolutielag voor embedding, gevolgd door een positie-encoder en een standaard Transformer-encoder-laag, en eindigt met volledig verbonden lagen.

Alle modellen worden getraind met een cross-entropy-verliesfunctie, de Adam-optimizer en een "one-cycle" learning rate scheduler.

Belangrijkste Resultaten

De prestaties van de modellen zijn geëvalueerd op teststalen met verschillende kinetische energieën voor de positronen (0 tot 5 MeV).

• Algemene prestatie: Alle drie de modellen kunnen pile-up-gebeurtenissen met een hoge nauwkeurigheid identificeren. De zuivere $e^+$-gebeurtenissen worden met 99% efficiëntie correct geclassificeerd.
• Kritieke regio (0 - 300 ns): De grootste uitdaging ligt in de "key region" waar het tijdsverschil tussen het 14C-signaal en de elektronische uitlezing tussen 0 en 300 ns ligt.
  • Het 2DCNN-model vertoont hier een suboptimale identificatie-efficiëntie.
  • Het 1DCNN-model en het Transformer-model tonen in deze kritieke regio aanzienlijk betere efficiëntie. Dit is cruciaal, omdat pile-up in deze tijdsraam de energieoplossing het meest beïnvloedt.
• Vergelijkbare prestaties: Het Transformer-model levert resultaten op die vergelijkbaar zijn met het 1DCNN-model, wat het potentieel van Transformer-architecturen voor dit type fysica-problemen onderstreept.
• Trainingsduur: Er zijn aanzienlijke verschillen in rekentijd per epoch:
  • 1DCNN: ~4 minuten.
  • Transformer: ~27 minuten.
  • 2DCNN: ~60 minuten.
• Beperkingen: Sommige pile-up-gebeurtenissen worden niet perfect geïdentificeerd, voornamelijk wanneer het 14C-signaal zeer zwak is (<50 hits) of wanneer de tijd en positie van 14C en $e^+$ extreem dicht bij elkaar liggen. Echter, de zwakke signalen hebben een verwaarloosbaar effect op de energieoplossing.

Bijdragen en Relevantie

• Technische Innovatie: Dit is een van de eerste studies die Transformer-architecturen toepast op de identificatie van pile-up in neutrino-experimenten, naast de traditionele CNN-benaderingen.
• Optimalisatie voor JUNO: Het onderzoek toont aan dat 1D-modellen (zowel CNN als Transformer) superieur zijn aan 2D-modellen voor deze specifieke taak, waarschijnlijk omdat de tijdsafhankelijke correlaties in de PMT-hits beter worden gevangen door 1D-convoluties dan door ruimtelijke projecties.
• Impact op Wetenschap: Een succesvolle identificatie en correctie van 14C-pile-up is een noodzakelijke stap om de vereiste energieoplossing (<3%) voor de JUNO-experimenten te behalen. Dit is essentieel voor het bepalen van de neutrino-massavolgorde met de gewenste statistische significantie.

Conclusie

De studie concludeert dat deep learning-methoden, en specifiek 1D-CNN en Transformer-modellen, veelbelovende oplossingen bieden voor het identificeren van 14C-pile-up in het JUNO-experiment. Het 1DCNN-model biedt de beste balans tussen prestatie in de kritieke tijdsregio en rekenefficiëntie, terwijl het Transformer-model vergelijkbare prestaties levert met een iets hogere trainingskost. Deze methoden vormen een fundament voor de toekomstige data-analyse en het bereiken van de wetenschappelijke doelen van JUNO.