NuGraph2 with Context-Aware Inputs: Physics-Inspired Improvements in Semantic Segmentation

Deze studie toont aan dat het verrijken van de NuGraph2-architectuur met contextbewuste, fysica-geïnspireerde invoerkenmerken de semantische segmentatie van MicroBooNE-data aanzienlijk verbetert, met name voor ondervertegenwoordigde deeltjes zoals Michel-elektronen, terwijl aanvullende decoders en energie-regularisatie minder effectief blijken door het gebrek aan expliciete deeltjes- of gebeurtenisniveaus.

De kern

Samenvatting: Hoe we een slimme detector leerden om "verkeerde" deeltjes beter te herkennen

Stel je voor dat je een gigantische, onderwatercamera hebt die foto's maakt van deeltjes die door vloeibare argon (een soort vloeibaar gas) vliegen. Deze camera, genaamd MicroBooNE, ziet niet als een gewone camera, maar als een wirwar van draden die kleine vonkjes (hits) opvangen. De uitdaging is om uit die wirwar van vonkjes te begrijpen: "Wat voor deeltje was dit eigenlijk?"

In de natuurkunde zijn er bepaalde deeltjes, zoals de Michel-elektronen, die heel lastig te vinden zijn. Ze zijn zeldzaam, klein en lijken vaak op andere deeltjes. Het is alsof je in een drukke menigte probeert één specifieke persoon te vinden die een heel klein, grijs hoedje draagt, terwijl iedereen anders ook een hoedje draagt.

De onderzoekers gebruikten een slim computerprogramma genaamd NuGraph2 (een "Grafische Neurale Netwerk") om deze vonkjes te analyseren. Hun doel was om dit programma slimmer te maken, zodat het die zeldzame Michel-elektronen beter kon vinden. Ze probeerden drie verschillende manieren om het programma "wijs" te maken, gebaseerd op natuurkundige regels.

Hier is hoe ze dat deden, vertaald naar alledaagse taal:

1. De "Context-Bril" (De beste oplossing)

Stel je voor dat je een detective bent die een spoor volgt. De originele computer zag alleen de vonkjes zelf: "Hier is een vonkje, daar is een vonkje." Maar de detective miste de context.

De onderzoekers gaven de computer extra informatie, alsof ze een bril opzetten die de omgeving laat zien. Ze voegden features toe zoals:

• Hoeveel vonkjes zitten er direct naast elkaar? (Net als dat je ziet of iemand in een groepje staat of alleen loopt).
• Zien de vonkjes eruit als een rechte lijn? (Deeltjes die recht doorvliegen maken rechte lijnen; ruis maakt een rommelige stip).
• Is er een plotse sprong in de tijd of positie?

Het resultaat: Dit was de grootste winst! Door de computer te laten kijken naar de vorm en de omgeving van de vonkjes, kon het programma veel beter zien dat een Michel-elektron een specifiek patroon heeft dat verschilt van de rest. Het was alsof je de detective eindelijk de foto van het gezochte persoon gaf, in plaats van alleen te zeggen "zoek naar een grijs hoedje".

2. De "Tweede Oog" (De hulp-assistent)

De tweede poging was om de computer een tweede taak te geven. In plaats van alleen te vragen "Wat is dit deeltje?", vroegen ze ook: "Hoeveel van elk type deeltje zit er in dit hele plaatje?"

De logica was: "Als er geen grote deeltjes (MIPs) zijn, kunnen er ook geen kleine Michel-elektronen zijn." Het idee was dat de computer door te tellen hoeveel deeltjes er waren, beter zou begrijpen wat er aan de hand was. Het was alsof je een detective een lijstje geeft met "verwachte verdachten" en vraagt: "Zie je ze allemaal?"

Het resultaat: Dit werkte niet goed. De computer raakte in de war. Het moest te veel dingen tegelijk doen: het moest de vonkjes classificeren én tellen. De "telling" trok de aandacht van de computer weg van het echte werk (het herkennen van de vonkjes). Het was alsof je een chef-kok vraagt om tegelijkertijd te koken en de kas te tellen; de pizza wordt dan niet lekkerder.

3. De "Energie-Boete" (De strenge leraar)

De derde poging was om de computer te straffen als het een fout maakte op basis van de energie. Michel-elektronen hebben een bepaald energielimiet. Als de computer dacht dat er een Michel-elektron was, maar de totale energie te hoog was, kregen ze een "boete" (een extra straf in de berekening).

Het resultaat: Dit werkte ook niet. De computer werd te bang. Hij dacht: "Oh, als ik een fout maak, krijg ik een boete. Dan doe ik het maar niet." Hierdoor stopte hij er zelfs mee om Michel-elektronen te herkennen, zelfs als ze er wel waren. De relatie tussen de gemeten energie en de echte energie was ook niet 100% precies, waardoor de computer op basis van een onnauwkeurige meetlat werd gestraft.

De Grote Les

De belangrijkste conclusie van dit onderzoek is: Geef de computer betere ogen, in plaats van hem te straffen of extra taken te geven.

Door de natuurkundige context (zoals de vorm van de sporen) direct in de invoer te stoppen, leerde het programma de patronen veel beter. De andere methoden (tellen en straffen) waren te complex voor de huidige versie van de software. De onderzoekers hopen dat de volgende versie, NuGraph3, die beter kan "nadenken" over hele deeltjes in plaats van alleen losse vonkjes, deze andere methoden wel goed zal laten werken.

Kortom: Om een slimme detector te maken, helpt het niet om hem te dwingen om regels te volgen of extra taken te doen. Het helpt het meest om hem de juiste context te geven, zodat hij zelf de patronen kan zien die voor ons mensen vanzelfsprekend zijn.

Technische samenvatting

Probleemstelling

Graph Neural Networks (GNN's) hebben veelbelovende resultaten geboekt voor de reconstructie van gebeurtenissen in vloeibare argon tijdprojectiekamers (LArTPC), zoals de MicroBooNE-detector. Echter, de prestaties blijven beperkt voor ondervertegenwoordigde deeltjesklassen, met name Michel-electronen. Deze deeltjes zijn cruciaal voor energie-calibratie en het onderscheiden van muonlading, maar worden door het model slecht geclassificeerd vanwege hun zeldzaamheid in de dataset en de overlap in de latente ruimte met andere klassen (zoals Minimum Ionizing Particles - MIPs). De huidige NuGraph2-architectuur, die op hit-niveau (detector-signalen) werkt, mist expliciete representaties op deeltjes- of gebeurtenisniveau, wat de disambiguatie van deze klassen bemoeilijkt.

Methodologie

De auteurs onderzoeken drie complementaire, op natuurkunde gebaseerde strategieën om de semantische segmentatie in de NuGraph2-architectuur te verbeteren:

1. Contextbewuste Feature-uitbreiding (Feature Extension):

   • In plaats van alleen te vertrouwen op de vier originele input-features (tijd, draad, breedte, integraal), worden nieuwe features toegevoegd die gebaseerd zijn op detector-geometrie en track-continuïteit.
   • De nieuwe features zijn:
     • Node degree: Het aantal verbindingen van een node, wat aangeeft of het een "hub" is of een geïsoleerd punt.
     • Kortste randlengte: De Euclidische afstand tot de dichtstbijzijnde buur in het tijd-draad vlak.
     • Dubbele verschillen ($\Delta_{wire}$ en $\Delta_{time}$): Deze meten de lineaire continuïteit van een track door de tweede afgeleide te nemen tussen een node en zijn twee dichtstbijzijnde buren. Dit helpt bij het onderscheiden van rechte tracks (MIPs/HIPs) van verspreide hits.
   • Deze features injecteren inductieve biasen die het model helpen structurele context te begrijpen die moeilijk uit ruwe data te leren is.

2. Toevoeging van Extra Decoders (Auxiliary Decoders):

   • Er wordt een extra decoder toegevoegd om de verdeling van deeltjesklassen op gebeurtenisniveau te voorspellen.
   • De motivatie is de fysieke correlatie: Michel-electronen zijn vervalproducten van rustende muonen (die tot de MIP-categorie behoren). Zonder MIPs kunnen er geen Michel-electronen zijn.
   • Er werden verschillende versies getest: een binaire Michel-teller, een globale Michel-teller, en een decoder die de volledige verdeling van klassen per gebeurtenis voorspelt.
   • Het doel was om het model te leren van inter-class relaties via multi-task learning.

3. Energie-gebaseerde Regularisatie (Michel Energy Regularization):

   • Een regularisatieterm wordt toegevoegd aan de loss-functie die het model straft als de som van de energie van als "Michel" gelabelde hits afwijkt van de verwachte fysieke verdeling (gebaseerd op het verval van rustende muonen).
   • De energie wordt geschat via de "waveform integral" feature, die lineair gecorreleerd is met de gedeponeerde energie.
   • Drie schema's werden getest: straffen bij overschrijding van een energie-drempel, afwijking van een Langauss-verdeling, en afwijking van simulatie-data.

Belangrijkste Resultaten

De experimenten zijn uitgevoerd op openbare MicroBooNE-datasets. De resultaten tonen duidelijke verschillen tussen de strategieën:

• Feature-uitbreiding (Meest Succesvol):

  • Het toevoegen van de contextbewuste features leverde de grootste prestatieverbetering op.
  • Zowel precisie als recall voor Michel-electronen steeg aanzienlijk (van 0,60 naar 0,64 voor precisie en van 0,75 naar 0,78 voor recall).
  • De extra features hielpen de overvleugeling in de latente ruimte tussen Michel-electronen en MIPs op te heffen, waardoor het model beter onderscheid kon maken.
  • Ook de prestaties voor andere klassen (HIP, Shower, Diffuse) verbeterden lichtjes.

• Extra Decoders (Beperkt Succes):

  • De toevoeging van een Michel-teller of een class-distributie decoder leidde tot een daling in de prestaties ten opzichte van de baseline (bijv. Michel recall daalde naar 0,68).
  • De auteurs concluderen dat de gradiënten van de auxiliary loss en de semantische loss niet goed op elkaar afgestemd waren, wat de optimalisatie van de hoofdtaak verstoorde. De NuGraph2-architectuur (hit-niveau) is waarschijnlijk niet geschikt voor deze type gebeurtenis-level supervision.

• Energie Regularisatie (Mislukt):

  • Deze strategie resulteerde in een daling van de recall voor Michel-electronen (van 0,75 naar 0,74) en een vermindering van de nauwkeurigheid.
  • Het model werd "te voorzichtig" en labelde minder hits als Michel.
  • De oorzaak ligt in de hoge variantie in de relatie tussen de waveform-integraal en de werkelijke energie, en het ontbreken van een 1-op-1 mapping tussen een set nodes en een fysiek deeltje in de huidige architectuur.

Significantie en Conclusie

De kernconclusie van het paper is dat het direct inbedden van fysieke context in de node-level input-representatie (via handgemaakte features) effectiever is dan het opleggen van taak-specifieke auxiliary losses of regularisatie-termen in de huidige NuGraph2-architectuur.

• Architecturale Beperking: De beperkte prestaties van de decoders en regularisatie worden toegeschreven aan het feit dat NuGraph2 werkt op hit-niveau en geen expliciete deeltjes- of gebeurtenisrepresentaties heeft. Strategieën die afhankelijk zijn van deze hogere niveaus (zoals deeltjestelling of totale deeltjesenergie) integreren niet goed.
• Toekomstperspectief: De auteurs suggereren dat toekomstige hiërarchische architecturen, zoals NuGraph3, die expliciet werken op deeltjes- en gebeurtenisniveau, een veel geschiktere omgeving zullen bieden voor geavanceerde decoders en fysiek gebaseerde regularisatie.
• Algemene Inzicht: Voor het verbeteren van ondervertegenwoordigde klassen is het effectiever om de globale latent space te verfijnen door de input-structuur te verbeteren, dan om te proberen de specifieke klasse direct te targeten via loss-functies.

De code voor dit werk is openbaar beschikbaar gesteld, wat de reproduceerbaarheid en verdere ontwikkeling van physics-informed GNN's voor deeltjesfysica ondersteunt.