Explainable AI for Jet Tagging: A Comparative Study of GNNExplainer, GNNShap, and GradCAM for Jet Tagging in the Lund Jet Plane

Dit artikel evalueert en vergelijkt op verstoringen gebaseerde, op Shapley-waarden gebaseerde en op gradiënten gebaseerde methoden voor uitlegbaarheid die zijn aangepast voor de Lund Jet Plane-representatie, en toont aan dat deze technieken succesvol neurale netwerkpredicties correleren met klassieke QCD-observabelen en verschillende verschuivingen in focus blootleggen tussen perturbatieve en niet-perturbatieve regimes in jet-tagging.

De kern

Het Grote Plaatje: Het "Zwarte Doos"-Probleem

Stel je voor dat je een detective bent die een misdaad probeert op te lossen. Je hebt een superintelligente AI-assistent die een rommelig moordplek kan bekijken en met 99% nauwkeurigheid precies kan vertellen wie de dader is. Wanneer je de AI echter vraagt waarom ze dat denkt, zegt ze alleen: "Ik weet het zeker." Ze laat je haar notities niet zien en legt haar redenering niet uit.

In de wereld van de deeltjesfysica (specifiek bij de Large Hadron Collider) gebruiken wetenschappers vergelijkbare "zwarte doos" AI-modellen om jets te identificeren. Jets zijn stralen van kleine deeltjes die ontstaan wanneer protonen tegen elkaar botsen. Soms komen deze jets van veelvoorkomende deeltjes (zoals quarks of gluonen), en soms van zeldzame, zware deeltjes (zoals het Higgs-boson of een top-quark).

De AI is uitstekend in het onderscheid maken, maar natuurkundigen maken zich zorgen: Leert de AI daadwerkelijk de wetten van de fysica, of onthoudt het gewoon eigenaardigheden uit de computersimulatie die werd gebruikt om het te trainen? Als het alleen de simulatie onthoudt, kan het falen wanneer het echte data bekijkt.

De Oplossing: De "Lund Jet Plane"-Kaart

Om dit op te lossen, besloten de onderzoekers om niet langer naar de deeltjes te kijken als een rommelige hoop, maar om ze te bekijken als een kaart.

Ze gebruikten iets dat de Lund Jet Plane wordt genoemd. Denk hierbij aan een topografische kaart van een berglandschap.

• De X-as vertegenwoordigt hoe breed de straal van deeltjes is.
• De Y-as vertegenwoordigt hoeveel energie de deeltjes hebben.

Elke "split" waarbij een deeltje in twee kleinere deeltjes breekt, wordt als een stip op deze kaart uitgezet. Omdat deze kaart gebaseerd is op de daadwerkelijke wetten van de fysica (Kwantumchromodynamica), heeft elke stip een specifieke, bekende betekenis. Het is alsof je een kaart hebt waarbij elke heuvel en vallei overeenkomt met een specifiek geologisch evenement.

Het Experiment: Drie Verschillende "Schijnwerpers"

De onderzoekers namen drie verschillende soorten AI-modellen (de "detectives") en richtten drie verschillende soorten "schijnwerpers" (Uitlegbare AI-tools) op hen om te zien welke delen van de kaart ze bekeken.

1. GNNExplainer (De "Wat als?"-Schijnwerper): Deze tool vraagt: "Als ik dit deel van de kaart verberg, krijgt de AI het antwoord dan nog steeds goed?" Het markeert de meest kritieke gebieden door te kijken wat er gebeurt wanneer ze worden verwijderd.
2. GNNShap (De "Eerlijk Delen"-Schijnwerper): Deze tool gebruikt een wiskundig concept uit de speltheorie om precies te berekenen hoeveel "krediet" elke stip op de kaart verdient voor de uiteindelijke beslissing. Het is alsof je een rekening eerlijk splitst op basis van wie wat heeft gegeten.
3. GradCAM (De "Warmtekaart"-Schijnwerper): Deze tool kijkt naar de interne "neuronalen" van de AI die afvuren en tekent een warmtekaart die aangeeft welke gebieden het meest actief waren toen de AI een beslissing nam.

De Bevindingen: Wat zag de AI eigenlijk?

De onderzoekers vergeleken de "schijnwerper"-weergaven van de AI met de bekende fysica van de kaart. Dit is wat ze vonden:

1. De AI Leerde de Echte Fysica
Voor de zware deeltjes (zoals de top-quark of het Higgs-boson) verlichtten de schijnwerpers van de AI correct de specifieke "harde" splitsingen op de kaart waar het zware deeltje uiteen viel.

• Analogie: Als je op zoek bent naar een specifiek type boom in een bos, gokte de AI niet zomaar; het wees correct naar de unieke vorm van de bladeren en de schors. De studie bewijst dat de AI niet zomaar giswerk doet; het heeft de daadwerkelijke structuur geleerd van hoe deze zware deeltjes vervallen.

2. De "QCD Anomalie" (Het Mistige Bos)
Voor de veelvoorkomende deeltjes (QCD-jets) richtte de schijnwerper van de AI zich niet op één specifiek punt. In plaats daarvan verlichtte het de hele kaart, vooral de "zachte" en "brede" gebieden.

• Analogie: Stel je voor dat je probeert een algemene den te identificeren. Er is niet één unieke tak die het definieert; het is de algehele vorm en de manier waarop de naalden verspreid zijn. De AI realiseerde zich correct dat voor deze veelvoorkomende jets het antwoord ligt in het hele patroon, niet slechts op één speciale plek. De onderzoekers noemen dit een "trouwheidsanomalie", maar het is eigenlijk een teken dat de AI de fysica perfect begrijpt.

3. Verschillende Tools voor Verschillende Taken
De studie vond dat geen enkele "schijnwerper" voor elk AI-model het beste werkt.

• Voor sommige AI-modellen was de "Eerlijk Delen"-tool (GNNShap) het beste in het vinden van de harde splitsingen.
• Voor anderen was de "Warmtekaart"-tool (GradCAM) beter in het zien van de bredere patronen.
• Conclusie: Je kunt niet zomaar één uitlegtool kiezen en die voor altijd gebruiken. Je moet de tool afstemmen op het specifieke AI-model dat je gebruikt.

4. Het "Boost"-Effect
De onderzoekers keken naar jets die zich met verschillende snelheden bewogen (lage energie versus hoge energie). Ze ontdekten dat naarmate de jets sneller bewogen, de focus van de AI scherper werd en meer geconcentreerd op de specifieke harde splitsingen, precies zoals de fysica voorspelt dat het zou moeten zijn.

De Conclusie

Het artikel concludeert dat moderne AI-jettaggers niet zomaar magische zwarte dozen zijn. Als je het juiste licht op hen schijnt, kun je zien dat ze de wetten van de fysica daadwerkelijk hebben geleerd. Ze weten waar de zware deeltjes uiteenvallen en ze begrijpen het verschil tussen een specifiek zwaar evenement en een algemene straal van deeltjes.

Dit is een groot nieuws, omdat het betekent dat wetenschappers meer vertrouwen kunnen hebben in deze AI-tools wanneer ze worden gebruikt om te zoeken naar nieuwe, onbekende deeltjes in toekomstige experimenten. De AI onthoudt niet zomaar een schoolboek; het doet de fysica.

Technische samenvatting

1. Probleemstelling

Ondanks de state-of-the-art prestaties van Graph Neural Networks (GNN's) zoals ParticleNet en Particle Transformer bij het identificeren van jets (gecollimeerde stralen van deeltjes) aan de Large Hadron Collider (LHC), blijven hun besluitvormingsprocessen "black boxes".

• De Kloof: Klassieke jet-substructuurobservabelen (bijv. $N$-subjettiness $\tau_{21}$, energie-correlatiefuncties) zijn afgeleid van eerste-principes Quantum Chromodynamica (QCD) en analytisch berekenbaar. Daarentegen leren neurale netwerken complexe, ondoorzichtige kenmerkrepresentaties.
• Het Risico: Als een model artefacten van Monte Carlo (MC)-simulaties leert (bijv. specifieke hadronisatiemodellen of detectorresponsen) in plaats van fundamentele fysica, zal zijn prestatie verslechteren op echte botsingsdata.
• De Uitdaging: Bestaande Explainable AI (XAI)-methoden zijn niet systematisch toegepast op Lund Jet Plane (LJP)-gebaseerde GNN's. De LJP biedt een unieke kans omdat elke knoop in zijn grafische representatie overeenkomt met een fysisch betekenisvolle partonverdeling, wat een directe vergelijking mogelijk maakt tussen modelattentie en QCD-theorie.

2. Methodologie

De auteurs ontwikkelden een uitgebreid kader om drie verschillende XAI-paradigma's te evalueren en te vergelijken die zijn aangepast voor LJP-gebaseerde GNN's.

A. Data-representatie: De Lund Jet Plane (LJP)

In plaats van jets te behandelen als afbeeldingen of generieke puntswolken, maakt de studie gebruik van de Lund Jet Plane, een 2D-faseruimte gedefinieerd door:

• $\ln(k_T)$: Logaritme van de transversale impuls van de verdeling.
• $\ln(1/\Delta R)$: Logaritme van de inverse verdelingshoek.
• Grafische Constructie: Elke knoop vertegenwoordigt een specifieke partonemissie in de geschiedenis van de jet-showering. Dit stelt verklaarbaarheidsmethoden in staat om belangrijkheidsscores toe te wijzen aan specifieke fysische verdelingsgebeurtenissen.

B. Modellen en Verklaarbaarheidsmethoden

De studie evalueert drie architecturen:

1. LundNet: Een GNN die EdgeConv gebruikt op een statische $k$-NN-grafiek gebouwd vanuit de LJP.
2. ParticleNet: Een GNN die Dynamic EdgeConv gebruikt (herberekening van buren in elke laag).
3. Particle Transformer: Een op Transformer gebaseerde architectuur die self-attention gebruikt op LJP-componenten.

Deze worden gekoppeld aan drie XAI-methoden:

1. GNNExplainer (Op verstoring gebaseerd): Optimaliseert een masker om de wederzijdse informatie tussen de subgrafiek en de voorspelling te maximaliseren.
2. GNNShap (Op Shapley-waarden gebaseerd): Gebruikt cooperatieve speltheorie om eerlijke belangrijkheidswaarden toe te wijzen aan randen op basis van hun marginale bijdrage.
3. GradCAM (Op gradiënten gebaseerd): Berekent gradiënt-gewogen class-activatiekaarten om belangrijke knopen/kenmerken te identificeren.

C. Evaluatiekader

De auteurs introduceerden een fysica-informeerde evaluatie die verder gaat dan standaard fideliteitsmetrieken:

1. MC-Truth Maskers: Ground-truth verklaringmaskers werden geconstrueerd door de hard-gespreide partonen door het showering-proces te traceren (bijv. het identificeren van de 3-prong-structuur voor Top-quarks of de 2-prong-structuur voor Higgs-bosonen).
2. Fideliteitsmetrieken ($Fid^+, Fid^-$): Meten hoeveel de voorspelling van het model daalt wanneer belangrijke randen worden verwijderd of behouden.
3. Substructuurcorrelatie: Berekening van Spearman-rangcorrelaties tussen de door XAI toegewezen knoopbelangrijkheid en klassieke observabelen ($\tau_{21}, \tau_{32}, C_2, C_3$).
4. $p_T$-stratificatie: Analyse werd uitgevoerd over drie transversale impuls-bins ($500\text{--}700$ GeV, $800\text{--}1000$ GeV, en inclusief) om de overgang tussen niet-perturbatieve en perturbatieve regimes te bestuderen.

3. Belangrijkste Bijdragen

1. Eerste Systematische Multi-Methode Vergelijking: Het artikel biedt de eerste rigoureuze vergelijking van op verstoring, speltheorie en gradiënten gebaseerde XAI-methoden specifiek voor GNN's die opereren op de fysisch onderbouwde LJP-representatie.
2. Fysica-Informeerde Ground Truth: De introductie van MC-truth-verklaringmaskers maakt een kwantitatieve check mogelijk of het model zich richt op de juiste fysische verval-topologieën (bijv. harde verdelingen voor signaal versus zachte straling voor achtergrond).
3. Ontdekking van de "Fideliteitsanomalie": De auteurs identificeerden een tegenintuïtief maar fysisch betekenisvol gedrag waarbij het verwijderen van "belangrijke" randen van QCD-jets de zekerheid van het model niet vermindert, in tegenstelling tot signaalsjets.
4. Architectuur-Methode Koppeling: De studie toont aan dat er geen enkele XAI-methode universeel het beste is; de optimale keuze hangt af van de onderliggende neurale architectuur.

4. Belangrijkste Resultaten

A. Modelleerproces en Fysica-uitlijning

• Herontdekking van QCD: Alle drie de architecturen leerden succesvol canonieke QCD-substructuurkenmerken.
  • Top-jets ($t \to bW \to bq\bar{q}'$): Modellen richtten zich op de 3-prong-harde verdelingsstructuur.
  • Higgs-jets ($H \to c\bar{c}$): Modellen richtten zich op de 2-prong-massadrop-regio.
  • QCD-jets: Modellen identificeerden correct de afwezigheid van harde schalen en vertrouwden op de geïntegreerde zachte, brede hoekstraling (Sudakov-tail).
• Correlatiesterkte: De Particle Transformer toonde de sterkste correlatie ($|\rho| \approx 0.5\text{--}0.6$) tussen zijn interne attentiegewichten en klassieke observabelen (bijv. $\tau_{21}$), wat suggereert dat attentiemechanismen paarsgewijze kinematische kenmerken directer coderen dan lokale message-passing GNN's.

B. Methode-specifiek Gedrag

• GNNShap: Het meest geschikt voor Particle Transformer en LundNet. Het fungeert als een "filter" voor harde, collineaire vertakkingen en wijst hoge gewichten toe aan de specifieke randen die verantwoordelijk zijn voor de signaalmassa.
• GradCAM: Het meest geschikt voor ParticleNet. Het neigt om lage-$k_T$ fragmentatie-activiteit (zachte straling) te wegen, waardoor het het volledige message-passing-pad vastlegt in plaats van alleen de causale randen.
• GNNExplainer: Zeer effectief in het onthullen van de rol van impulsdeling ($\ln z$) en hoekelijke uitbreiding, en markeert vaak het volledige stralingspatroon.

C. De Fideliteitsanomalie (QCD-jets)

• Voor signaalsjets (2-prong/3-prong) vernietigt het verwijderen van de top-$k$ belangrijke randen de voorspelling ($Fid^+ \to 1$), zoals verwacht.
• Voor QCD-jets resulteert het verwijderen van de top-$k$ randen in geen significante daling van de voorspelling ($Fid^+ \to 0$).
• Interpretatie: Dit is geen falen van de verklarer maar een validatie van QCD-factorisatie. QCD-jets missen een enkele discriminerende harde schaal; hun classificatie berust op het collectieve patroon van zachte emissies. Daarom is geen enkel klein subgrafiek voldoende om de klasse te definiëren.

D. $p_T$-Afhankelijkheid

• Naarmate de transversale impuls ($p_T$) toeneemt, worden de harde verdelingen meer gecollimeerd.
• In hoge-$p_T$-regimes verbetert de overeenkomst tussen verschillende XAI-methoden over het algemeen voor signaalsjets, omdat het harde signaal duidelijker wordt van de zachte achtergrond onderscheiden. Echter, voor sterk gebooste 2-prong-jets wordt de grens tussen signaal en zachte achtergrond dubbelzinnig, wat leidt tot enige divergentie in methode-interpretaties.

5. Betekenis en Vooruitzicht

• Vertrouwen in ML: De studie biedt kwantitatief bewijs dat moderne deep learning-taggers niet alleen simulatie-artefacten exploiteren, maar de fundamentele substructuur-fysica leren die door QCD wordt voorspeld.
• Methodologische Verschuiving: Het vestigt dat multi-methode evaluatie essentieel is. Steunen op één enkele XAI-techniek kan leiden tot onvolledige of bevooroordeelde interpretaties van wat een model heeft geleerd.
• Toekomstige Toepassingen:
  • Anomalie-detectie: Het gebruik van XAI om onverwachte populaties in de Lund-vlakte te lokaliseren voor Beyond Standard Model (BSM)-zoektochten.
  • Architectuurontwerp: Het gebruik van verklareningskaarten om invoer te snoeien of efficiëntere taggers te ontwerpen (bijv. door invoer te beperken tot hoog-belangrijke Lund-regio's).
  • Data-gedreven Validatie: Het kader is klaar om toegepast te worden op echte LHC-data (ATLAS/CMS) om ML-taggers direct te valideren tegen experimentele metingen in plaats van simulatie.

Concluderend overbrugt dit artikel de kloof tussen high-performance machine learning en theoretische deeltjesfysica, en demonstreert dat met de juiste representatie (Lund Jet Plane) en rigoureuze XAI, neurale netwerken geïnterpreteerd kunnen worden als het leren van de taal van QCD.