Dissecting Jet-Tagger Through Mechanistic Interpretability

Dit artikel past mechanistische interpreteerbaarheidstechnieken toe op een Particle Transformer-jettagger, waarbij wordt aangetoond dat een spaarzaam zes-kop circuit dat vertrouwt op op energiecorrelatoren gebaseerde representaties en een specifieke bron-relais-uitleesarchitectuur, de volledige classificatieprestaties van het model kan herstellen, terwijl tegelijkertijd wordt aangetoond dat gradiëntafstijging op natuurlijke wijze fysisch betekenisvolle jet-substructuureigenschappen ontdekt.

De kern

Het Grote Plaatje: De Black Box Openen

Stel je een zeer gespecialiseerd rechercheur voor (een computerprogramma genaamd een Particle Transformer) die is getraind om naar een chaotisch misdrijfsscène te kijken (een "jet" van deeltjes die wordt gegenereerd in een deeltjesversneller) en te beslissen: "Was dit een Top Quark (de verdachte) of gewoon willekeurige achtergrondruis (QCD)?"

Lange tijd wisten we dat de rechercheur ongelooflijk goed was in het oplossen van de zaak, maar we wisten niet hoe het werkte. Het was een "black box". Dit artikel is alsof je een forensisch team huurt om het brein van de rechercheur open te breken, precies in kaart te brengen welke neuronen vuren, en de stap-voor-stap logica uit te leggen die ze gebruiken om tot een vonnis te komen.

Het Brein van de Rechercheur: Een Team van Specialisten

De onderzoekers ontdekten dat de rechercheur niet zijn hele brein gebruikt om de zaak op te lossen. In plaats daarvan vertrouwt het op een klein, efficiënt team van slechts zes specialisten (van de 16 beschikbare) om 97% van het zware werk te doen. Ze noemen dit team de "Circuit".

Hier is hoe dit zes-persoonsteam werkt, met behulp van een estafette-analogie:

1. De Verkenners (Primair Bron): Een specialist in de aller eerste laag van het brein fungeert als verkenners. Deze persoon zoekt niet direct naar de "boeven". In plaats daarvan scannen ze de menigte op "achtergrondruis" (zachte, botsende deeltjes). Door de ruis te begrijpen, zetten ze het toneel voor iedereen anders. Ze zijn de belangrijkste persoon; als je ze verwijdert, verliest het team bijna al zijn vermogen om de zaak op te lossen.
2. De Tweede Verkenners (Secundair Bron): Een andere specialist in de eerste laag helpt de Verkenners. Ze zijn zeer vergelijkbaar met de Verkenners, maar richten zich op iets andere details.
3. De Estafetteloopsters (Middenlaag): Drie specialisten in de middenlagen fungeren als loopsters. Ze nemen de informatie van de Verkenners en zoeken naar iets specifieks: zware, energieke paren deeltjes. In de wereld van de deeltjesfysica vervalt een Top Quark in een "W-boson", dat vervolgens splitst in twee zware deeltjes. Deze loopsters zijn experts in het opsporen van deze zware paren.
   • Cruciaal Ontdekking: Hoewel de rechercheur verondersteld wordt een "Top Quark" te vinden (wat een 3-delig structuur is), kijken deze loopsters eigenlijk alleen naar het "W-boson" (een 2-delig structuur). Het artikel suggereert dat de rechercheur een shortcut bedacht: "Als ik het zware 2-delige W-boson kan vinden, kan ik er vrij zeker van zijn dat het een Top Quark is." Het is alsof een rechercheur een moord oplost door het moordwapen te vinden, in plaats van te proberen de hele misdrijfsscène te reconstrueren.
4. De Rechter (Uitlezing): Een specialist in de laatste laag fungeert als de rechter. Ze kijken niet direct naar de deeltjes. In plaats daarvan nemen ze de rapporten van de Estafetteloopsters, vatten ze samen en doen ze de uiteindelijke uitspraak: "Schuldig" (Top Quark) of "Niet Schuldig" (Achtergrond).

Het "Aha!"-Moment: Het Is Geen Nieuw Idee, Alleen Een Nieuwe Taal

Een van de meest verrassende bevindingen in het artikel betreft wanneer de rechercheur zijn beslissing neemt.

Meestal denken we dat de rechercheur stap voor stap aanwijzingen verzamelt en plotseling roept: "Ik weet wie het gedaan heeft!" aan het aller einde. De onderzoekers ontdekten echter dat de rechercheur het antwoord bijna direct weet (na de eerste laag van scannen).

Dus, waarom ziet de laatste stap er zo dramatisch uit?

• De Analogie: Stel je voor dat de rechercheur het antwoord heeft opgeschreven in een geheime code (een andere taal) in zijn eerste laag. De laatste stap is niet "nadenken" of "nieuwe aanwijzingen vinden"; het is simpelweg vertalen die geheime code naar gewoon Nederlands zodat de uiteindelijke rechter het kan lezen.
• Het artikel noemt dit een "Basis Rotatie". De informatie was er al; het moest alleen in de juiste oriëntatie worden gedraaid om te worden begrepen door de uiteindelijke output.

Wat Heeft de Rechercheur Eigenlijk Geleerd?

De onderzoekers hebben ook gecontroleerd wat voor soort "fysica" de rechercheur heeft geleerd. Ze hebben de interne notities van de rechercheur vergeleken met standaard fysicaformules die door menselijke experts worden gebruikt.

• Het Resultaat: De rechercheur negeerde de complexe, 3-delige formules die mensen meestal gebruiken. In plaats daarvan ontdekte en prefereerde het van nature eenvoudigere, 2-delige formules (genaamd Energy Correlators).
• De Conclusie: De computer had geen mens nodig om te zeggen: "Kijk naar het W-boson!" Het bedacht zelf dat het vinden van het zware 2-delige verval de makkelijkste en betrouwbaarste manier was om de puzzel op te lossen. Het herontdekte een betekenisvolle fysieke waarheid alleen al door te proberen het spel te winnen.

Samenvatting

Dit artikel bewijst dat we een complexe, moderne AI die wordt gebruikt in de hoog-energetische fysica kunnen reverse-engineeren om een eenvoudige, logische circuit erin te vinden.

1. Het is efficiënt: Een klein team van 6 "neuronen" doet bijna al het werk.
2. Het is logisch: Het team volgt een duidelijk pad: Ruis verkennen $\rightarrow$ Zware paren doorgeven $\rightarrow$ Het resultaat beoordelen.
3. Het is slim: De AI bedacht dat het oplossen van een eenvoudiger sub-probleem (het vinden van het 2-delige W-boson) de beste manier is om het grote probleem op te lossen (het vinden van de Top Quark).
4. Het is een vertaling: De laatste stap van de AI is gewoon het vertalen van zijn vroege, geheime kennis naar een definitief antwoord, geen nieuwe ontdekking.

De auteurs concluderen dat de tools die we gebruiken om AI-taalmodellen (zoals Chatbots) te begrijpen, perfect werken voor het begrijpen van AI in de deeltjesfysica, en onthullen dat deze machines diepe fysieke waarheden zelfstandig kunnen leren.

Technische samenvatting

Technische Samenvatting: Jet-Tagger ontleed via Mechanistische Interpretabiliteit

Probleemstelling
Diepe leerarchitecturen, met name de Particle Transformer (ParT), hebben state-of-the-art prestaties behaald in jet-taggingtaken, zoals het onderscheiden van hadronische topquark-vervallen van QCD-achtergrondjets. De interne computationele mechanismen waarmee deze modellen classificatiebeslissingen nemen, blijven echter ondoorzichtig. Hoewel eerdere werken post-hoc attributiemethoden (zoals Shapley-waarden of salientiekaarten) of attentievisualisatie hebben gebruikt, identificeren deze benaderingen welke invoer belangrijk is, maar falen ze om uit te leggen hoe het netwerk deze combineert of om het minimale causale subnetwerk (circuit) verantwoordelijk voor het gedrag te isoleren. Dit artikel beoogt deze kloof te overbruggen door de volledige toolkit van mechanistische interpretabiliteit – oorspronkelijk ontwikkeld voor natuurlijke taalmodellen – toe te passen op een jet-fysica-classificator.

Methodologie
De auteurs trainden een kleine Particle Transformer (4 deeltjesattentielagen, 4 koppen per laag, ~1,3M parameters) op een subset van de referentiedataset voor topquark-tagging (signaal: $t \to Wb \to q\bar{q}b$; achtergrond: lichte quarks/gluonen). De analyse maakt gebruik van een reeks interventie- en sonderingstechnieken:

1. Zero-ablatie: Systematisch instellen van de output van individuele attentiekoppen op nul om hun structurele belang te meten via de daling in het gemiddelde logitverschil.
2. Path Patching: Een causale interventie waarbij de output van een specifieke kop op een "schone" invoer wordt vervangen in een "gecorrumpeerde" invoer (met behulp van vervanging van deeltjes binnen een batch of permutatie van de hele jet). Dit isoleert directe effecten en pad-effecten (informatiestroom) tussen koppen.
3. Logit Lens & Per-Layer Probes: De standaard logit lens projecteert intermediaire representaties via de laatste getrainde classificatiekop. Om basismisalignering op te lossen, trainden de auteurs ook per-laag logistische regressieprobes op de representatie van elke laag om de ware lineaire toegankelijkheid van klasseninformatie te bepalen.
4. Lineair Probing: Het trainen van Ridge-regressiemodellen om klassieke jet-substructuurobservabelen (bijv. $N$-subjettiness, Energy Correlation Functions) te voorspellen vanuit de residustroom op verschillende dieptes, om de fysische inhoud van interne representaties te karakteriseren.

Belangrijkste Bijdragen en Resultaten

• Identificatie van een Spaarzaam Zes-Koppen Circuit: Door zero-ablatie en path patching identificeerden de auteurs een minimaal circuit van zes attentiekoppen dat 97,3% van de AUC van het volledige model herstelt. Dit circuit presteert aanzienlijk beter dan willekeurig bemonsterde subsets van zes koppen (liggend op het 96e percentiel van een willekeurige baseline-verdeling).
• Causale Structuur (Bron-Relais-Uitlees): Het circuit vertoont een duidelijke causale hiërarchie:
  • Primair Bron ($L0H1$): Een enkele kop in de eerste deeltjesattentielag die fungeert als de primaire causale bron. Deze alleen herstelt 88,6% van de AUC van het volledige model en vertoont "super-herstel" bij path patching. Deze kop attendeert bij voorkeur op zachte en collineaire deeltjesparen, waardoor contextuele normalisatie wordt geboden.
  • Secundaire Bron ($L0H2$): Een kop in dezelfde laag met een vergelijkbare representatieruimte als $L0H1$, maar een onderscheidende causale rol, die een complementair signaal bijdraagt.
  • Relaiskoppen ($L1H0, L1H1, L1H3$): Een cluster van koppen in de tweede laag dat selectief attendeert op harde paarsubstructuren (hoge invariantie massa, hoge $k_T$). Hun functie is conditioneel op het upstream-signaal van de bronkoppen.
  • Uitleeskop ($L3H3$): Een enkele kop in de vierde laag die de gerelayde signalen aggregeert.
• Basisrotatie versus Informatiewinst: Standaard logit-lensanalyse suggereerde dat klasseninformatie pas ontstaat bij het eerste klassenattentieblok ($Cls0$), met een sprong van AUC 0,111 naar 0,973. Echter, per-laag getrainde probes onthulden dat het klassediscriminerende signaal al lineair toegankelijk is met AUC $\approx$ 0,97 bij de eerste deeltjesattentielag ($L1$). De dramatische sprong bij $Cls0$ wordt daarom geïnterpreteerd niet als nieuwe informatiegeneratie, maar als een basisrotatie die het latente signaal aligneert met de basis van de uiteindelijke classificatiekop.
• Fysische Inhoud: 2-Prong boven 3-Prong Encoding: Lineair probing van de residustroom tegen klassieke observabelen onthulde dat het model bij voorkeur 2-prong energie-correlatorobservabelen (bijv. $D^{(\beta=1)}_2$) encodeert boven 3-prong observabelen (bijv. $C^{(\beta=1)}_3, N^{(\beta=1)}_3$), ondanks dat de taak 3-prong top-tagging is. Het model factoriseert het probleem impliciet, met de focus op het identificeren van het hadronische $W$-bosonverval (een 2-prong substructuur) in plaats van de volledige 3-lichaamstopologie. Deze voorkeur blijft bestaan zelfs na residualisatie tegen jetmassa.
• Energie Correlator Basis: De residustroom is bij voorkeur uitgelijnd met de Energie Correlator-basis boven de $N$-subjettiness-basis, wat suggereert dat het model fysiek betekenisvolle structuren heeft herontdekt via gradiëntafstijging zonder expliciete supervisie.

Betekenis en Claims
Het artikel claimt aan te tonen dat methoden voor mechanistische interpretabiliteit, ontwikkeld voor natuurlijke taalmodellen, succesvol kunnen worden overgedragen naar jet-fysica-classificatoren. De bevindingen wijzen erop dat:

1. Gradiëntafstijging fysiek betekenisvolle aspecten van jet-tagging kan herontdekken (specifiek de factorisatie van het topverval in een $W$-boson-deelprobleem) zonder expliciete fysische beperkingen in de architectuur.
2. De hier geïdentificeerde bron-relais-uitlees circuitstructuur een kenmerkend patroon kan zijn voor Transformers in het domein van de fysica, onderscheidend van de specifieke structuur van taalmodellen.
3. De studie de noodzaak benadrukt van on-manifold corruptiestrategieën voor path patching in kinematisch smalle fysicadatasets, aangezien off-manifold (Gaussische) corruptie kan leiden tot structurele incompatibiliteiten met standaard herstel-scoresformuleringen.

De auteurs blijven bescheiden over de universaliteit van hun bevindingen, met de opmerking dat het specifieke zes-koppen circuit werd geïdentificeerd op een klein model en dat grotere modellen rijkere circuitstructuren kunnen bezitten. Zij erkennen ook dat lineaire probes een ondergrens bieden aan de informatie-inhoud, aangezien niet-lineaire encodingen niet worden gedetecteerd.