Real-time graph neural networks on FPGAs for the Belle II electromagnetic calorimeter

Este artículo presenta la primera implementación en tiempo real de una red neuronal gráfica basada en FPGAs para el sistema de disparo del calorímetro electromagnético del experimento Belle II, logrando una latencia compatible con el sistema de primer nivel y mejoras significativas en la resolución de posición, pureza y eficiencia de los clusters en comparación con el algoritmo base.

Lo esencial

¡Claro que sí! Imagina que el experimento Belle II es como una ciudad gigante y muy ruidosa donde ocurren millones de "accidentes" (colisiones de partículas) cada segundo. El objetivo de los científicos es encontrar esos pocos accidentes especiales que revelan secretos del universo, pero hay un problema: hay demasiada "basura" (ruido de fondo) y no pueden guardar todo lo que pasa.

Para solucionar esto, necesitan un portero (llamado "disparador" o trigger) que decida en una fracción de segundo qué eventos guardar y cuáles desechar.

Aquí te explico cómo funciona este nuevo portero inteligente, usando analogías sencillas:

1. El Problema: El Portero Viejo y Rígido

Imagina que el detector de calorímetros (el "ojo" que ve las partículas) es como una habitación llena de 8,736 baldosas. Cuando una partícula golpea, algunas baldosas se iluminan.

El sistema antiguo (ICN-ETM) funcionaba como un guardia muy estricto pero un poco torpe:

• Miraba las baldosas en grupos de 3x3.
• Si veía un patrón específico, gritaba "¡Aquí hay algo!".
• Sus defectos: A veces se confundía. Si dos partículas pasaban muy cerca, el guardia las veía como una sola (¡y perdía información!). Si había mucho ruido (como gente gritando en la fiesta), a veces gritaba "¡Fuego!" cuando solo era un chiste. Además, solo podía vigilar hasta 6 grupos a la vez. Si había más, se abrumaba.

2. La Solución: El Nuevo Portero con "Ojo de Águila" (GNN)

Los científicos han creado un nuevo sistema llamado GNN-ETM. En lugar de un guardia que sigue reglas fijas, es como un detective experto con una red neuronal (una especie de cerebro artificial).

• La Red de Conexiones (GNN): Imagina que cada baldosa iluminada es un personaje en una historia. El detective no solo mira a cada personaje por separado, sino que entiende cómo se relacionan entre sí. Si la baldosa A brilla y la B brilla justo al lado, el detective sabe que probablemente son parte del mismo evento.
• Agrupación Inteligente: En lugar de contar baldosas sueltas, el detective agrupa las luces en "manchas" (clústeres) y calcula exactamente dónde cayó la partícula y cuánta energía tenía, incluso si las luces están muy juntas o mezcladas con el ruido.

3. El Reto: La Carrera contra el Reloj

Aquí está la parte más impresionante. Este detective debe tomar una decisión en 3.168 microsegundos.

• ¿Qué tan rápido es eso? Es como si tuvieras que leer un libro entero, entender la trama, escribir un resumen y decidir si guardarlo, todo antes de que un rayo de luz cruce una habitación.
• Para lograr esto, no pueden usar una computadora normal (sería muy lenta). Tuvieron que construir este cerebro artificial dentro de un chip especial (FPGA), que es como un cerebro de silicio programable hecho a medida para pensar a la velocidad de la luz.

4. ¿Cómo funciona en la práctica? (La Compresión)

El cerebro artificial original era demasiado grande para caber en el chip. Fue como intentar meter un elefante en una caja de zapatos.

• La solución: Los científicos "comprimieron" al detective. Le quitaron detalles innecesarios (como si le dieran gafas de sol para que solo viera lo importante) y simplificaron sus cálculos, pero manteniendo su inteligencia. Ahora cabe en el chip y sigue siendo muy listo.

5. Los Resultados: ¿Funciona?

Cuando probaron este nuevo sistema en el experimento real:

• Precisión: Es tan bueno como el viejo guardia para ver cosas simples, pero mucho mejor cuando hay dos partículas juntas. Puede separarlas donde el viejo guardia las veía como una sola.
• Filtrado de Ruido: Tiene un "filtro de sospechosos". Puede decir: "Esta luz parece un accidente real, pero aquella otra parece solo ruido de fondo". Gracias a esto, puede rechazar hasta un 70% de la basura sin perder los eventos importantes.
• Velocidad: ¡Cumple el tiempo límite! Aunque está un poco más lento que el límite máximo permitido (necesitan hacerlo un poco más rápido en el futuro), ya funciona en tiempo real junto con el sistema antiguo.

En Resumen

Han logrado poner un cerebro artificial avanzado dentro de un chip de computadora para que actúe como un portero ultra-rápido en un experimento de física.

• Antes: Un guardia con reglas fijas que se confundía con el ruido y las partículas juntas.
• Ahora: Un detective inteligente que entiende las conexiones, separa lo que está mezclado y filtra el ruido, todo en una fracción de segundo.

Esto es histórico porque es la primera vez que una red neuronal de este tipo (GNN) funciona en tiempo real dentro de un acelerador de partículas, abriendo la puerta a descubrir cosas nuevas que antes eran invisibles para los sistemas antiguos.

Resumen técnico

Resumen Técnico: Redes Neuronales de Grafos en Tiempo Real en FPGAs para el Calorímetro Electromagnético de Belle II

1. El Problema

El experimento Belle II en el colisionador SuperKEKB opera con una luminosidad instantánea sin precedentes, lo que genera una alta tasa de eventos y un aumento significativo de fondos inducidos por el haz (ruido de fondo). El sistema de disparo (trigger) de nivel 1 (L1) actual del calorímetro electromagnético (ECL) se basa en una lógica fija llamada ICN (Isolated Cluster Number), implementada en hardware FPGA. Esta lógica presenta limitaciones críticas en el nuevo entorno de alta luminosidad:

• Granularidad y Resolución: Utiliza ventanas fijas de 3x3 celdas de disparo (TC), lo que impide resolver fotones cercanos (no aislados) y resulta en una pobre resolución de posición para clusters de alta energía.
• Falsos Positivos y Duplicados: La lógica simple genera duplicados de hits y no puede filtrar eficazmente el ruido de fondo, especialmente en regiones de alta ocupación.
• Rigidez: El sistema actual solo puede procesar un máximo de 6 clusters por evento y carece de adaptabilidad a condiciones cambiantes.
• Latencia: Aunque cumple con los requisitos de latencia, la calidad de la reconstrucción limita la eficiencia física, especialmente para procesos de baja multiplicidad o partículas exóticas.

2. Metodología

Los autores desarrollaron e implementaron GNN-ETM, un módulo de disparo L1 basado en una Red Neuronal de Grafos (GNN) que opera en tiempo real sobre hardware FPGA.

• Enfoque de Grafos: En lugar de usar ventanas fijas, el algoritmo trata a las celdas de disparo (TC) del calorímetro como nodos en un grafo. Esto permite explotar las correlaciones espaciales en las deposiciones de energía de manera dinámica.
• Arquitectura del Modelo (CaloClusterNet):
  • Utiliza bloques GravNet (una variante de GNN dinámica) para construir conexiones basadas en la distancia euclidiana aprendida, en lugar de una geometría fija.
  • Emplea una función de pérdida de condensación de objetos (Object Condensation), que permite inferir un número variable de clusters directamente desde las entradas, sin necesidad de un número predefinido de salidas.
  • Predice para cada cluster candidato: energía, posición (x, y, z) y una puntuación de clasificación (señal vs. fondo).
• Compresión y Cuantización: Para cumplir con las restricciones de recursos y latencia de las FPGAs (AMD Ultrascale XCVU190):
  • Se aplicó entrenamiento consciente de la cuantización (QKeras) con precisión mixta (formatos fijos como Q3.5, Q4.10, etc.).
  • Se utilizó poda (pruning) de bajo magnitud (40%) y aproximaciones lineales para funciones de activación complejas (como la sigmoide y exponencial).
  • El modelo se limita a dos bloques GravNet y soporta hasta 32 TCs de entrada por evento.
• Implementación en Hardware:
  • Se diseñó una arquitectura de flujo de datos (dataflow) en FPGA utilizando Chisel y Vitis HLS.
  • El sistema incluye etapas de preprocesamiento (compresión de flujo, calibración), un acelerador de GNN y postprocesamiento (selección de puntos de condensación).
  • Se integró en la cadena de disparo existente mediante el subsistema Belle2Link, operando de forma síncrona con el sistema actual.

3. Contribuciones Clave

• Primera Implementación en Tiempo Real: Este trabajo representa la primera vez que un algoritmo de reconstrucción basado en GNN se ejecuta en el camino de lectura del disparo en tiempo real de un experimento de colisionador.
• Arquitectura Híbrida FPGA-ML: Demostración exitosa de la ejecución de inferencia de GNNs complejos con latencia determinista (< 3.2 µs) en hardware de propósito general para física de altas energías.
• Estrategia de Clustering Flexible: Superación de las limitaciones de las ventanas fijas, permitiendo la separación de fotones cercanos y una mejor gestión de la topología de eventos complejos.
• Validación Integral: El sistema fue validado mediante simulaciones de tres niveles de abstracción (QKeras, C-HLS, RTL) y comparado con datos reales de colisiones y rayos cósmicos, mostrando una concordancia excelente.

4. Resultados

El rendimiento del GNN-ETM se evaluó utilizando datos simulados y datos de colisión reales (diciembre 2024):

• Latencia y Throughput: El sistema mantiene una latencia de extremo a extremo de 3.168 µs y soporta una tasa de disparo de 8 MHz, cumpliendo con los requisitos de ancho de banda del sistema L1 (aunque la latencia actual es ligeramente superior al límite estricto de 5 µs para la decisión final, permite una operación síncrona y validación).
• Resolución de Posición: Mejora significativa en la resolución angular. En la región del barril, la resolución de posición para clusters de alta energía mejora hasta un 18% en comparación con el algoritmo ICN base.
• Eficiencia y Pureza:
  • La eficiencia de reconstrucción es comparable a la del sistema base.
  • La pureza de los clusters aumenta hasta un 20% para clusters aislados de baja energía.
  • La eficiencia de detección para clusters superpuestos (fotones cercanos) mejora hasta un 20%.
• Clasificación de Señal: El clasificador integrado permite suprimir el fondo manteniendo una retención de señal del 97.5%. Esto resulta en una reducción de la tasa de disparo de hasta un 70% para fondos de baja energía y un 20% en condiciones de fondo general alto.
• Resolución de Energía: Es comparable a la del sistema ICN, aunque con correcciones de sesgo menores.

5. Significado

Este trabajo marca un hito en la computación para física de altas energías. Demuestra que las Redes Neuronales de Grafos, anteriormente limitadas a análisis fuera de línea (offline) debido a su complejidad computacional, pueden ser desplegadas en FPGAs dentro de los estrictos límites de latencia de los sistemas de disparo de nivel 1.

• Impacto Físico: Permite una selección de eventos más flexible y precisa, crucial para la detección de procesos raros, partículas exóticas (como fotones oscuros) y estados finales de baja multiplicidad que el sistema actual podría perder o malinterpretar debido al ruido de fondo.
• Futuro de los Disparos: Establece un precedente para la adopción de algoritmos de aprendizaje profundo más complejos y adaptativos en la infraestructura de hardware de futuros experimentos de colisionadores, superando las limitaciones de la lógica booleana fija tradicional.

En resumen, el GNN-ETM no solo mejora las métricas de rendimiento del calorímetro de Belle II, sino que valida la viabilidad técnica de integrar inteligencia artificial avanzada en el núcleo de la adquisición de datos en tiempo real.