Using Line Segment Tracking to enable ML-based Track Reconstruction in CMS

Sintesi Tecnica: Utilizzo del Line Segment Tracking per abilitare la ricostruzione di tracce basata su ML in CMS

Problematica
Nell'era dell'High-Luminosity LHC (HL-LHC), l'esperimento CMS dovrà affrontare condizioni di pileup medio di $\langle\mu\rangle \approx 200$ interazioni protone-protone simultanee per incrocio di fasci. In queste condizioni di alta occupazione, la ricostruzione delle tracce di particelle cariche diventa il passaggio computazionalmente più oneroso della ricostruzione degli eventi. Gli algoritmi tradizionali basati sul filtro di Kalman sono intrinsecamente sequenziali, causando una crescita ripida del costo computazionale con la densità di hit. Ciò pone una sfida significativa per il rispetto del budget di latenza del Phase-2 High-Level Trigger (HLT), rendendo necessari metodi di riconoscimento dei pattern che siano sia computazionalmente meno costosi che naturalmente parallelizzabili. Inoltre, sebbene il machine learning (ML) abbia mostrato potenziale nella ricostruzione degli eventi, gli approcci esistenti spesso costruiscono le tracce direttamente dai raw detector hits. Questo costringe i modelli a imparare da zero complessi effetti fisici (come la curvatura nel campo magnetico e la geometria del rivelatore), senza sfruttare informazioni fisiche pregresse.

Metodologia
Questo lavoro introduce un approccio ibrido che utilizza oggetti di Line Segment Tracking (LST) come token di input per un modello di deep learning, anziché singoli hit del rivelatore. La metodologia procede come segue:

1. Tokenizzazione tramite LST Triplets: Il modello utilizza i triplet LST (T3) come token di input. Questi oggetti sono costruiti attraverso una gerarchia bottom-up nel Phase-2 Outer Tracker (OT):

   • Mini-doublets (MD): Collegano gli hit all'interno di un singolo modulo $p_T$.
   • Line Segments (LS): Uniscono due MD in strati adiacenti.
   • Triplets (T3): Fondono due LS che condividono un MD centrale.
     A differenza dei raw hits, i T3 portano con sé una ricca struttura locale, inclusi posizione, direzione e una stima locale del momento trasverso ($p_T$) derivata dalle coppie di hit correlate. Ciò fornisce al modello forti prior fisici sin dall'inizio.

2. Transformer Encoder con Geometric Sparse Attention:

   • Architettura: Un encoder Transformer elabora l'insieme non ordinato di token T3. Le caratteristiche di input (49 per triplet, incluse coordinate, angoli e $p_T$) vengono proiettate in uno spazio nascosto a 256 dimensioni, passate attraverso sei blocchi di self-attention (8 teste ciascuno) e mappate in uno spazio latente a 128 dimensioni.
   • Sparse Attention: Per gestire la scalabilità quadratica della standard attention con $\sim 10^4$ token per evento, il modello impiega una geometrically masked sparse self-attention. Un token $i$ presta attenzione solo ai vicini $j$ dove $\Delta R_{ij} \leq 0.1$ nello spazio $\eta-\phi$. Ciò riduce la complessità computazionale da $O(N^2)$ a $O(Nk)$, dove $k$ è il numero di vicini più prossimi, preservando al contempo il contesto fisicamente rilevante.

3. Condensazione degli Oggetti e Clustering:

   • Obiettivo: La rete è addestrata utilizzando una funzione di perdita di condensazione degli oggetti (object condensation). Questo obiettivo assegna a ciascun token una "carica di condensazione" ($\beta \in [0,1]$) che rappresenta la sua probabilità di essere un punto rappresentativo per un oggetto. La perdita include termini attrattivi (che attirano i costituenti di un oggetto verso un punto di condensazione), termini repulsivi (che separano oggetti diversi) e un termine che sopprime le cariche per il rumore (fake triplets).
   • Inferenza: Le embedding apprese vengono raggruppate tramite DBSCAN (Density-Based Spatial Clustering of Applications with Noise). Questo algoritmo basato sulla densità non richiede la specifica a priori del numero di cluster, permettendogli di adattarsi alla variabile molteplicità di tracce di ogni evento. Viene applicata una soglia sulla probabilità di condensazione ($\beta \geq 0.005$) prima del clustering per filtrare i triplet fake a bassa confidenza.

Contributi Chiave

• Prima Ricostruzione di Tracce ML in CMS: Questo articolo presenta la prima dimostrazione di un modello di ricostruzione tracce in CMS che utilizza oggetti LST come token, colmando il divario tra gli algoritmi combinatori tradizionali e le moderne architetture ML.
• Tokenizzazione Informata dalla Fisica: Utilizzando i triplet LST invece dei raw hits, il modello incorpora direttamente la geometria del rivelatore e le stime di $p_T$ nella rappresentazione di input, riducendo il carico di apprendimento della rete.
• Architettura Scalabile: L'implementazione della geometrically masked sparse attention consente di elaborare eventi ad alta molteplicità ($\sim 10^4$ token) su moderne GPU, affrontando i problemi di scalabilità degli standard Transformer in ambienti ad alto pileup.
• Inferenza a Singolo Step: La pipeline assembla tracce complete in un singolo step di inferenza utilizzando la condensazione degli oggetti e DBSCAN, evitando la natura sequenziale della tradizionale costruzione delle tracce.

Risultati
L'approccio è stato valutato su eventi simulati $t\bar{t}$ a $\langle\mu\rangle = 200$ utilizzando la geometria del detector Phase-2, confrontando il modello "Transformer OC" con il baseline standard LST quintuplet (T5):

• Riduzione del Fake Rate: Il modello ottiene un fake rate circa tre volte inferiore rispetto al baseline T5 nella maggior parte dell'accettanza (ad esempio, scendendo a $\sim 0.05$ ad alto $p_T rispetto allo$\sim 0.18$ del baseline).
• Soppressione dei Duplicati: Il tasso di duplicati è coerente con lo zero in tutte le regioni cinematiche. Al contrario, il baseline T5 mostra tassi di duplicati che salgono da 0.04 a 0.15, poiché la natura combinatoria di LST può produrre quintuplet sovrapposti per una singola particella.
• Efficienza:
  • Sotto un requisito rigoroso di coprire almeno 5 strati ($N_L \geq 5$), il modello mostra un modesto deficit di efficienza (circa 10 punti percentuali inferiore) rispetto al baseline T5 nella regione centrale di accettanza.
  • Tuttavia, quando il requisito viene rilassato a $N_L \geq 4$ per recuperare traiettorie più brevi, il modello pareggia o supera l'efficienza del baseline T5 (raggiungendo 0.80–0.87 rispetto a 0.70–0.80) in tutta l'accettanza, particolarmente nella regione forward ($1 \lesssim |\eta| \lesssim 2$).
• Rigetto dei Fake: La probabilità di condensazione separa efficacemente i triplet reali dai fake, trattenendo circa l'80% dei triplet veri pur accettando solo circa il 2% dei fake (ROC AUC = 0.93).

Significatività e Dichiarazioni
Il documento afferma che questo lavoro dimostra la promessa delle avanzate architetture ML per la prossima generazione di tracciamento delle particelle nelle dure condizioni dell'HL-LHC. Sfruttando gli oggetti LST come una "tokenizzazione ricca di fisica", il modello incorpora con successo la geometria del rivelatore e i vincoli di momento, permettendogli di pareggiare o superare gli algoritmi combinatori allo stato dell'arte in termini di purezza e soppressione dei duplicati.

L'autore dichiara esplicitamente che questa è una dimostrazione algoritmica standalone e deve essere vista indipendentemente dai benchmark ufficiali di tracciamento CMS. La significatività risiede nel dimostrare che un modello ML informato dalla fisica può gestire efficacemente ambienti ad alto pileup. I passi successivi identificati dall'autore sono l'integrazione di questo modello nella ricostruzione CMS e nel software di trigger insieme a LST, la misurazione del suo throughput rispetto al budget di latenza del Phase-2 HLT ed l'estensione dell'approccio dall'Outer Tracker all'intero volume di tracciamento.