Real-time graph neural networks on FPGAs for the Belle II electromagnetic calorimeter

Questo lavoro presenta la prima implementazione operativa su FPGA di una rete neurale grafica in tempo reale per il trigger del calorimetro elettromagnetico dell'esperimento Belle II, che raggiunge una latenza deterministica di 3,168 µs e migliora significativamente la risoluzione spaziale, la purezza e l'efficienza dei cluster rispetto all'algoritmo di base.

L'essenziale

🌟 Il "Cervello Elettronico" che guarda l'Universo in tempo reale

Immagina di essere al centro di un gigantesco temporale di particelle. È così che funziona l'esperimento Belle II in Giappone: due fasci di materia e antimateria si scontrano a velocità incredibili, creando una pioggia di nuove particelle che devono essere catturate e analizzate.

Il problema? Succede 254 milioni di volte al secondo. È come se qualcuno ti lanciasse contro un milione di biglie ogni secondo e tu dovessi decidere, in un batter d'occhio, quali biglie sono "importanti" (forse contengono segreti sull'Universo) e quali sono solo "spazzatura" (rumore di fondo).

Se provassi a guardare tutto, il tuo cervello (o il computer) esploderebbe per la quantità di dati. Serve un filtro intelligente che prenda una decisione istantanea. Questo è il compito del "Trigger" (il grilletto).

🏗️ Il vecchio sistema: Il guardiano con la lente d'ingrandimento

Fino a poco tempo fa, il filtro per il calorimetro elettromagnetico (la macchina che misura l'energia delle particelle) funzionava come un guardiano molto rigido.

• Guardava i dati a "scatole" fisse (come se guardasse attraverso una griglia quadrata).
• Se vedeva energia in una scatola, la contava.
• Se due particelle erano vicine, il guardiano si confondeva: pensava che fosse una sola cosa gigante o ne perdeva una.
• Era veloce, ma un po' "stupido" e rigido. Non riusciva a distinguere bene le particelle vicine tra loro.

🧠 La nuova soluzione: Il "Detective" Graph Neural Network (GNN)

Gli scienziati hanno deciso di sostituire il guardiano rigido con un detective super-intelligente basato sull'Intelligenza Artificiale, chiamato GNN-ETM.

Ecco come funziona la magia, usando un'analogia:

1. Non più scatole, ma una rete di amicizie:
   Invece di guardare i dati in scatole rigide, il nuovo sistema vede ogni pezzo di energia come un punto in una mappa. Immagina di avere una stanza piena di persone (le particelle). Il vecchio sistema chiedeva: "C'è qualcuno nella scatola numero 5?". Il nuovo sistema dice: "Guarda chi sta vicino a chi!". Se due persone (particelle) si toccano o sono vicine, il sistema crea un "legame" tra di loro, proprio come in un social network.

2. Il Detective che ragiona:
   Questo detective (la Rete Neurale) non si limita a contare. Analizza la forma del gruppo.

   • Se vede un gruppo compatto, capisce che è una singola particella.
   • Se vede due gruppi vicini ma distinti, capisce che sono due particelle diverse (cosa che il vecchio sistema spesso sbagliava).
   • Sa anche dire: "Questa energia sembra provenire da una collisione vera (segno buono)" oppure "Questa sembra solo rumore di fondo (segno cattivo)".

3. Il problema della velocità (e la soluzione FPGA):
   Di solito, queste intelligenze artificiali sono lente e pesanti, come un supercomputer che ci mette minuti a pensare. Ma qui abbiamo 250 nanosecondi (un milionesimo di secondo) per decidere!
   Come fanno? Hanno "scolpito" il cervello del detective direttamente su un chip di silicio speciale (FPGA).

   • Analogia: È come se invece di avere un architetto che disegna la casa ogni volta che serve, avessimo costruito la casa in cemento armato direttamente nel terreno. Niente attese, niente disegni, solo azione immediata.

🚀 I risultati: Cosa ha cambiato?

Grazie a questo nuovo "cervello" installato su un chip, il sistema Belle II ha ottenuto risultati sorprendenti:

• Vede meglio: Riesce a distinguere due particelle che passano vicinissime l'una all'altra, come se avesse una vista molto più nitida. La precisione nella posizione è migliorata fino al 18%.
• Non si confonde: Se due particelle si sovrappongono, il sistema le separa correttamente, recuperando fino al 20% di eventi che prima venivano persi.
• È più selettivo: Sa dire "No, questa è spazzatura" molto meglio di prima, riducendo il rumore di fondo fino al 70% senza perdere le particelle interessanti.
• È veloce: Funziona in tempo reale, tenendo il passo con la macchina che sputa particelle a 8 milioni di volte al secondo.

💡 Perché è importante?

Questa è la prima volta nella storia che un'Intelligenza Artificiale di questo tipo (una "Graph Neural Network") viene fatta girare su un chip hardware in tempo reale dentro un esperimento di fisica delle particelle.

È come se avessimo insegnato a un computer a "pensare" come un detective umano, ma con la velocità di un fulmine, tutto dentro un piccolo chip. Questo apre la porta a scoprire cose nuove sull'Universo (come la materia oscura) che prima erano nascoste nel "rumore" o troppo vicine per essere viste.

In sintesi: hanno trasformato un filtro rigido e stupido in un detective veloce e astuto, permettendo a Belle II di vedere l'Universo con occhi nuovi e più precisi.

Sommario tecnico

Titolo

Reti Neurali su Grafo in Tempo Reale su FPGA per il Calorimetro Elettromagnetico di Belle II

1. Il Problema

L'esperimento Belle II al collisore SuperKEKB opera a luminosità estremamente elevate, generando un alto tasso di eventi di fondo indotto dal fascio (beam-induced backgrounds). Il sistema di trigger di primo livello (L1) attuale per il calorimetro elettromagnetico (ECL) si basa su un algoritmo logico fisso chiamato ICN (Isolated Cluster Number), implementato su FPGA.

Le limitazioni principali dell'algoritmo ICN includono:

• Logica rigida: Utilizza finestre di 3x3 cellule di trigger (TC) con criteri deterministici che non possono adattarsi a condizioni variabili.
• Risoluzione spaziale scarsa: La posizione del cluster è definita dal centro della singola TC con la massima energia, portando a una risoluzione angolare limitata, specialmente per cluster ad alta energia.
• Incapacità di separazione: Non riesce a distinguere fotoni vicini (es. da decadimenti di pioni neutri o particelle esotiche), trattandoli come un unico cluster.
• Duplicati: Genera spesso hit duplicati o quasi identici a causa della sovrapposizione delle finestre di valutazione, influenzando negativamente il conteggio dei cluster.
• Limiti di scalabilità: Può processare al massimo 6 cluster per evento a causa delle risorse FPGA, il che è insufficiente in scenari ad alta occupazione.

2. Metodologia

Gli autori hanno sviluppato e implementato GNN-ETM, un modulo di trigger L1 basato su Reti Neurali su Grafo (GNN) in tempo reale, eseguito su hardware FPGA.

• Approccio basato su Grafi: Le cellule di trigger (TC) dell'ECL sono trattate come nodi di un grafo. La rete sfrutta le correlazioni spaziali nelle deposizioni di energia per eseguire clustering, estrazione di caratteristiche e classificazione del segnale.
• Architettura del Modello (CaloClusterNet):
  • Utilizza un approccio di Object Condensation (condensazione di oggetti) per gestire un numero variabile di input e output senza fissare a priori il numero di cluster.
  • L'architettura impiega blocchi GravNet (due blocchi) che mappano le caratteristiche degli input in uno spazio latente, permettendo la costruzione dinamica di archi basati sulle relazioni spaziali apprese.
  • Il modello predice per ogni cluster: un fattore di scala per l'energia, la posizione (x, y, z) e un punteggio di classificazione segnale/fondo.
• Dataset di Addestramento:
  • Utilizza eventi simulati di Belle II con sovrapposizione di fondo del fascio (simulato con GEANT4).
  • Include campioni di fotoni uniformi e campioni di fotoni non isolati (coppie vicine) per addestrare la rete a separare cluster sovrapposti.
  • Le etichette di verità sono derivate dalla ricostruzione offline basf2.
• Ottimizzazione per Hardware (FPGA):
  • Quantizzazione: Il modello è stato compresso usando tecniche di Quantization-Aware Training (QAT) con QKERAS. Tutti i pesi, i bias e gli input/outputs sono convertiti in rappresentazioni a punto fisso (es. Q3.5, Q4.10) per ridurre l'uso di risorse DSP.
  • Pruning: Applicato un pruning del 40% per ridurre le moltiplicazioni.
  • Architettura Hardware: Implementata su una scheda Universal Trigger Board 4 (UT4) con FPGA AMD Ultrascale XCVU190.
  • Acceleratore Dataflow: Le operazioni della GNN sono mappate su un acceleratore dataflow pipelined, con elementi di elaborazione (PE) dedicati per i layer densi, le convoluzioni GravNet e la selezione dei punti di condensazione.

3. Contributi Chiave

• Prima Implementazione Reale: Questo lavoro rappresenta la prima volta che un algoritmo di ricostruzione basato su GNN viene implementato e operato in tempo reale all'interno del percorso di trigger di un esperimento di fisica delle particelle ad alta energia.
• Sistema End-to-End: È stato sviluppato un sistema completo che include pre-elaborazione (compressione del flusso dati), acceleratore GNN, post-elaborazione e interfaccia di lettura dati (Belle2Link).
• Classificazione del Segnale: Introduce per la prima volta un classificatore di segnale/fondo (output tra 0 e 1) direttamente nel trigger L1, permettendo una soppressione del fondo più intelligente rispetto alle semplici soglie energetiche.
• Strategia di Clustering Flessibile: Supera i limiti della logica ICN permettendo la separazione di fotoni vicini e una migliore risoluzione spaziale senza essere vincolato da finestre fisse.

4. Risultati

Il sistema è stato valutato sia su dati simulati che su dati reali raccolti nel dicembre 2024.

• Prestazioni Temporali:
  • Il sistema mantiene il throughput richiesto di 8 MHz.
  • La latenza end-to-end è di 3.168 µs (di cui ~2.05 µs per l'acceleratore GNN). Sebbene superi il limite rigido di ~5 µs per la decisione finale di trigger (attualmente operato in parallelo per validazione), dimostra la fattibilità dell'approccio.
• Risoluzione Energetica e Posizionale:
  • La risoluzione energetica è comparabile a quella dell'algoritmo ICN.
  • La risoluzione posizionale (angolare) migliora fino al 18% nella regione centrale (barile) per cluster ad alta energia, grazie all'uso di informazioni spaziali da più TC.
• Separazione dei Cluster:
  • Per cluster sovrapposti (fotoni vicini), l'efficienza di clustering del GNN-ETM migliora fino al 20% rispetto all'ICN.
  • La purezza dei cluster aumenta fino al 20% a basse energie per cluster isolati.
• Classificazione del Segnale:
  • Mantenendo un'efficienza di segnale del 97.5%, il classificatore GNN riesce a rifiutare fino al 72% dei cluster di fondo (nella regione del barile per energie 0.25-0.35 GeV).
  • Questo porta a una riduzione significativa del tasso di trigger L1 in condizioni di alto fondo.
• Validazione: I risultati della simulazione hardware (RTL) e della simulazione C coincidono perfettamente con i dati reali (Cosmic Data e collisioni), confermando la correttezza dell'implementazione.

5. Significato

Questo studio segna un punto di svolta nell'uso dell'intelligenza artificiale per il trigger di primo livello negli esperimenti di fisica delle particelle. Dimostra che le Reti Neurali su Grafo, tradizionalmente considerate troppo complesse e non deterministiche per l'hardware FPGA a bassa latenza, possono essere ottimizzate, compresse e implementate con successo.

L'adozione di GNN-ETM permette a Belle II di:

1. Migliorare la sensibilità a processi fisici rari (come la materia oscura o i fotoni oscuri) che producono segnali a bassa energia o fotoni vicini.
2. Gestire meglio l'aumento del fondo del fascio previsto con l'aumento della luminosità di SuperKEKB.
3. Aprire la strada all'uso di algoritmi di machine learning più sofisticati e adattivi nei sistemi di acquisizione dati in tempo reale di futuri esperimenti.