Transforming jet flavour tagging at ATLAS

La Collaborazione ATLAS introduce GN2, un nuovo algoritmo basato su transformer che migliora significativamente le prestazioni di identificazione dei jet heavy-flavour elaborando i dati di tracking a basso livello end-to-end, migliorando così analisi fisiche chiave come gli studi del bosone di Higgs.

L'essenziale

Immaginate il Large Hadron Collider (LHC) come il più potente distruttore di particelle al mondo. Quando spara protoni l'uno contro l'altro, questi esplodono in migliavere di particelle più piccole, creando una tempesta caotica. In mezzo a questa tempesta, i fisici cercano "sapori" specifici di particelle — in particolare quelle composte da quark pesanti (come i quark bottom e charm) — perché sono le chiavi per comprendere il bosone di Higgs e cercare nuova fisica.

Il problema è che queste particelle pesanti non arrivano in scatole ordinate e con etichette. Invece, si trasformano in "jet" — getti di particelle più piccole che sembrano molto simili ai getti creati dalle comuni particelle leggere. È come cercare di trovare un tipo specifico di frutta rara in un enorme mucchio di macedonia mista dove tutto appare come una macchia sfocata di rosso e verde.

Il vecchio modo: Il detective in due fasi

Per anni, l'esperimento ATLAS ha utilizzato un metodo investigativo a "due fasi" per classificare questi jet.

1. Fase 1: Strumenti specializzati cercavano indizi specifici (come le tracce lasciate dalle particelle) per trovare segni particolari, come un "vertice secondario" (un punto in cui una particella pesante è decaduta una piccolissima distanza dal sito principale dell'impatto).
2. Fase 2: Un cervello informatico prendeva tutti questi indizi e faceva un'ipotesi finale: "È un jet a sapore pesante o uno leggero?"

Questo funzionava bene, ma era come un detective che prima chiede a uno specialista di controllare le impronte digitali, poi chiede a un altro di controllare le impronte delle scarpe e infine chiede a una terza persona di combinare i rapporti. Era efficace, ma si basava su esseri umani che progettavano manualmente le regole per ogni specialista.

Il nuovo modo: GN2, il detective "Transformer"

Questo articolo presenta GN2, un nuovo algoritmo che cambia le regole del gioco. Invece del processo in due fasi, GN2 è un sistema end-to-end. Immaginatelo come un singolo detective super intelligente che osserva l'intera scena del crimine in un colpo solo, senza bisogno di scomporla preventivamente in compiti separati.

GN2 utilizza una tecnologia chiamata Transformer (la stessa architettura di IA che alimenta i moderni modelli linguistici). Ecco come funziona in termini semplici:

• Leggere l'intera storia: Inveve di guardare gli indizi uno alla volta, GN2 osserva il jet e tutte le particelle al suo interno simultaneamente. Comprende come le particelle sono correlate tra loro, proprio come voi comprendete una frase leggendo l'intera frase, non solo parola per parola.

• Addestramento informato sulla fisica: Per assicurarsi che l'IA non si limiti a memorizzare i dati ma comprenda effettivamente la fisica, gli scienziati hanno assegnato dei compiti supplementari. Hanno chiesto all'IA di svolgere due compiti collaterali:

  1. Origine della traccia: "Da dove proviene questa specifica particella?" (È venuta dall'impatto principale o da una particella pesante in decadimento?)
  2. Raggruppamento dei vertici: "Quali particelle appartengono allo stesso gruppo?" (Si può individuare il cluster di particelle che proviene dallo stesso punto di decadimento?)

  Costringendo l'IA a imparare questi concetti fisici, essa diventa più brava nel suo compito principale: identificare il sapore del jet. È come insegnare a uno studente non solo a superare un esame, ma a comprendere la matematica sottostante in modo da poter risolvere qualsiasi problema.

I risultati: Un salto enorme in avanti

L'articolo confronta GN2 con il precedente miglior algoritmo (chiamato DL1d). I risultati sono drammatici:

• Migliore nel filtraggio: Se volete catturare il 70% dei jet "bottom" pesanti, GN2 è 3,5 volte più bravo nell'ignorare i falsi jet "charm" e 1,8 volte più bravo nell'ignorare i comuni jet "leggeri" rispetto al vecchio metodo.
• Prova nel mondo reale: Non l'hanno testato solo su simulazioni al computer; l'hanno testato su dati reali provenienti dall'LHC. Il miglioramento si è mantenuto, dimostrando che l'IA funziona nel mondo reale e disordinato.
• Versatilità: Poiché GN2 apprende la fisica direttamente, può essere facilmente riaddestrato per individuare altre cose, come le particelle "tau" (un tipo di elettrone pesante), senza dover ricostruire l'intero sistema da zero.

Perché è importante

Questo non è solo un piccolo aggiornamento; è un cambiamento fondamentale nel modo in cui gli esperimenti di fisica delle particelle utilizzano l'apprendimento automatico. Passando da un processo a due fasi "progettato a mano" a un sistema end-to-end "appreso", ATLAS ha affilato significativamente i suoi strumenti.

Questo miglioramento è cruciale per le scoperte future. Ad esempio, aiuterà a misurare come il bosone di Higgs interagisce con i quark charm e a cercare la produzione di coppie di bosoni di Higgs. L'articolo suggerisce che questi miglioramenti potrebbero aumentare la sensibilità di queste future misurazioni fino al 30%.

In breve, GN2 è un modo più intelligente, flessibile e potente per trovare gli "aghi" (i quark pesanti) nel "pagliaio" (le collisioni di particelle), permettendo ai fisici di guardare più a fondo nei segreti dell'universo.

Sommario tecnico

Sintesi Tecnica: Trasformare il Jet Flavour Tagging in ATLAS

Problematica
Il jet flavour tagging è una componente critica del programma di fisica di ATLAS presso il Large Hadron Collider (LHC), che consente l'identificazione dei jet provenienti da quark a flavore pesante ($b$ e $c$), decadimenti di leptoni $\tau$ adronici, o quark leggeri o gluoni. Gli algoritmi tradizionali di ATLAS per il flavour-tagging, come lo stato dell'arte DL1d, si affidano a un approccio in due stadi: algoritmi specializzati a basso livello estraggono informazioni dalle tracce di particelle cariche (ad esempio, ricostruendo vertici spostati), e un classificatore multivariato ad alto livello combina tali output. Sebbene efficaci, questo paradigma si basa su passaggi a basso livello ottimizzati manualmente e potrebbe non sfruttare appieno le correlazioni all'interno dei dati di tracciamento a basso livello. Inoltre, la crescente complessità delle analisi di fisica, come le misurazioni della produzione di coppie di bosoni di Higgs e delle accoppiamenti di Yukawa del quark $c$, richiede algoritmi con maggiori capacità di rigetto per i jet di fondo ($c$, leggeri e $\tau$) mantenendo al contempo un'elevata efficienza del segnale.

Metodologia
Questo articolo introduce GN2, un nuovo algoritmo di flavour-tagging che si discosta dal tradizionale paradigma in due stadi impiegando un'architettura basata su Transformer end-to-end. A differenza degli approcci precedenti che elaborano caratteristiche pre-elaborate a basso livello, GN2 ingerisce direttamente le informazioni di tracciamento grezze (tracce) e le proprietà cinematiche del jet.

• Architettura: Il cuore di GN2 è un encoder Transformer. Le caratteristiche del jet vengono concatenate con un array di dimensioni fisse di vettori di caratteristiche delle tracce (fino a 40 tracce per jet). Questi vettori combinati sono elaborati da una rete di inizializzazione per traccia, seguita da un encoder Transformer a quattro strati con otto teste di attenzione. Ciò consente al modello di apprendere le relazioni tra le tracce all'interno di un jet, catturando efficacemente la complessa topologia dei decadimenti a flavore pesante.
• Obiettivi Ausiliari Informati dalla Fisica: Per migliorare l'interpretabilità e le prestazioni, GN2 incorpora due obiettivi di addestramento ausiliari insieme al compito primario di classificazione del jet:
  1. Predizione dell'Origine della Traccia: La rete predice l'origine fisica di ogni traccia (ad esempio, interazione primaria, decadimento di un adrone $b$, decadimento di un adrone $c$, decadimento di un $\tau$, o pile-up).
  2. Raggruppamento dei Vertici: La rete determina quali coppie di tracce originano da un vertice comune, consentendo la ricostruzione di vertici secondari senza algoritmi espliciti di ricerca del vertice.
     Questi obiettivi sono inseriti in una funzione di perdita combinata, permettendo l'ottimizzazione simultanea.
• Addestramento e Implementazione: Il modello è addestrato su un mix di eventi simulati $t\bar{t}$ e $Z'$ a $\sqrt{s}=13$ TeV e $13.6$ TeV. Viene impiegata una strategia di cross-validazione a 4 pieghe per prevenire la fuga di dati (data leakage). L'algoritmo viene implementato utilizzando OnnxRuntime all'interno del framework software ATLAS.

Contributi Chiave

• Apprendimento End-to-End: GN2 rappresenta un passaggio dagli algoritmi a due stadi basati su feature ingegnerizzate a un modello di deep learning unificato ed end-to-end che elabora direttamente i dati di tracciamento a basso livello.
• Applicazione dei Transformer: È la prima implementazione di un modello Transformer per il jet flavour tagging in ATLAS, che sostituisce la Rete Neurale a Grafo (GNN) utilizzata nel dimostratore GN1.
• Interpretabilità tramite Task Ausiliari: Addestrando esplicitamente la rete a ricostruire le strutture dei vertici e le origini delle tracce, gli autori dimostrano che i vincoli informati dalla fisica migliorano il compito di classificazione principale e forniscono un meccano per interpretare le rappresentazioni interne del modello.
• $\tau$-tagging Unificato: A differenza di DL1d, GN2 include un nodo di output dedicato per i decadimenti di leptoni $\tau$ adronici, consentendo la classificazione simultanea di $b$, $c$, $\tau$ e jet leggeri.

Risultati
Le prestazioni di GN2 sono validate sia in simulazione Monte Carlo che in dati di collisione del Run 2 ($\sqrt{s}=13$ TeV) e del Run 3 ($\sqrt{s}=13.6$ TeV).

• Prestazioni in Simulazione: Negli eventi $t\bar{t}$, per un'efficienza di tagging dei jet $b$ standard del 70%, GN2 migliora il rigetto dei jet $c$ di un fattore 3 e dei jet leggeri di un fattore 1.6 rispetto a DL1d. Negli eventi $Z'$ ad alta $p_T$, i miglioramenti sono ancora più pronunciati, con il rigetto dei jet $c$ che migliora di un fattore 3 e il rigetto dei jet leggeri di un fattore 4. L'inclusione del nodo di output $\tau$ produce un miglioramento del rigetto dei jet $\tau$ fino a un fattore 8–9.
• Prestazioni nei Dati: Utilizzando 140 fb$^{-1}$ di dati di collisione del Run 2, le prestazioni calibrate confermano i risultati della simulazione. Per un'efficienza di tagging dei jet $b$ del 70%, il rigetto misurato dei jet $c$ nei dati migliora di un fattore 3.5, e il rigetto dei jet leggeri di un fattore 1.8, rispetto a DL1d.
• Robustezza: L'algoritmo mostra una dipendenza minima dalla scelta del generatore di eventi Monte Carlo (ad esempio, Powheg Box, Herwig, Sherpa), con rapporti di prestazione tra generatori alternativi e l'impostazione nominale che rimangono entro l'1–2% per i jet $b$ e l'interno del 10% per i jet $c$.
• Prestazioni dei Task Ausiliari: La classificazione dell'origine della traccia raggiunge un'efficienza e una purezza dell'84% per le tracce a flavore pesante. La capacità di ricerca del vertice ricostruisce con successo i vertici secondari con una distribuzione dello spostamento trasversale e una massa coerenti con i riferimenti a livello di verità (truth-level), nonostante non sia stata esplicitamente addestrata sulla massa del vertice.

Significatività
L'articolo afferma che GN2 fornisce benefici sostanziali per le analisi di fisica che coinvolgono jet a flavore pesante. Nello specifico, le migliori capacità di rigetto dovrebbero aumentare la sensibilità delle analisi di punta, come la ricerca della produzione di coppie di Higgs e la misurazione dell'accoppiamento di Yukawa del quark $c$, fino al 30% all'High-Luminosity LHC. Il lavoro dimostra il successo dell'integrazione di metodi avanzati di machine learning (Transformer) e obiettivi ausiliari informati dalla fisica in fisica sperimentale delle particelle, offrendo un framework flessibile che può essere rapidamente ricalibrato per condizioni sperimentali o obiettivi di fisica alternativi. Gli autori sottolineano che gli obiettivi ausiliari non solo potenziano le prestazioni, ma aprono anche nuove strade per l'interpretabilità e applicazioni future nella sottostruttura e ricostruzione dei jet.