Real-time graph neural networks on FPGAs for the Belle II electromagnetic calorimeter

Este artigo apresenta a implementação e avaliação de uma rede neural gráfica em tempo real em FPGAs para o sistema de disparo do calorímetro eletromagnético do experimento Belle II, demonstrando pela primeira vez a operação de tal sistema no caminho de leitura de disparo de um experimento de colisor com latência compatível, mantendo a resolução de energia e melhorando significativamente a resolução de posição, pureza e eficiência de aglomerados em comparação com o algoritmo de base.

O essencial

Imagine que o Belle II é como um estúdio de cinema gigante e super-rápido, onde partículas de luz e matéria colidem bilhões de vezes por segundo. O objetivo dos cientistas é filmar cenas raras e especiais (como a criação de novas partículas), mas o problema é que a câmera (o detector) está filmando tanto "ruído" (luzes piscando, poeira, interferências) que a fita de vídeo ficaria cheia de lixo em segundos.

Para resolver isso, eles usam um sistema de seleção (trigger) que age como um editor de vídeo em tempo real. Ele precisa decidir, em microssegundos, quais quadros são importantes e quais devem ser descartados.

Aqui está o resumo do que os autores fizeram, explicado de forma simples:

1. O Problema: O Editor Velho e Cego

O sistema antigo de seleção (chamado ICN-ETM) funciona como um editor de vídeo que usa regras muito rígidas e simples.

• Como funciona: Ele olha para a tela e diz: "Se houver uma mancha de luz aqui, e nada ao redor, é um evento importante. Se houver duas manchas muito próximas, ele as junta em uma só e perde detalhes."
• O defeito: Com o aumento da velocidade das colisões, há muito mais "ruído". O editor antigo fica confuso. Ele não consegue separar duas luzes que estão muito perto uma da outra (como duas estrelas próximas no céu) e muitas vezes ignora eventos sutis porque eles parecem com o ruído de fundo. Além disso, ele tem um limite rígido: só consegue processar 6 "manchas" por vez.

2. A Solução: O Editor Inteligente (GNN-ETM)

Os cientistas criaram um novo sistema chamado GNN-ETM. Em vez de usar regras fixas, eles usaram uma Rede Neural Gráfica (GNN).

• A Analogia: Imagine que o detector é uma cidade com 8.736 casas (cristais). Quando uma partícula passa, ela acende algumas luzes nessas casas.
  • O sistema antigo olhava para cada casa individualmente e seguia um mapa estático.
  • O novo sistema (GNN) vê a cidade inteira como um teia de aranha. Ele entende que as casas não estão isoladas; elas estão conectadas. Se a casa do meio acende e as vizinhas também, ele entende que é um único evento (uma partícula). Se duas luzes acendem perto, mas com padrões diferentes, ele consegue separá-las, como se fosse capaz de distinguir duas pessoas conversando em um bar barulhento.

3. O Desafio: Corrida contra o Relógio

O grande desafio não foi apenas criar a inteligência, mas colocá-la em um chip de computador (FPGA) que opera em tempo real.

• Pense nisso como tentar rodar um filme de Hollywood de alta qualidade em uma calculadora de bolso, mas a calculadora precisa decidir o que cortar em 3 microssegundos (3 milionésimos de segundo). É um tempo tão curto que a luz viaja apenas cerca de 1 metro nesse intervalo!
• Para conseguir isso, eles "comprimiram" o cérebro da inteligência artificial, simplificando os cálculos sem perder a precisão, para que coubesse no chip e fosse rápido o suficiente.

4. Os Resultados: O Editor Melhorou?

Sim! Ao testar o novo sistema com dados reais e simulados, eles descobriram:

• Precisão de Posição: O novo sistema consegue dizer exatamente onde a partícula bateu com 18% mais precisão do que o antigo. É como trocar um mapa de papel desbotado por um GPS de alta definição.
• Separando o Impossível: Quando duas partículas chegam muito perto uma da outra, o sistema antigo as via como uma só. O novo consegue separá-las, aumentando a eficiência em até 20% nesses casos.
• Filtrando o Ruído: O novo sistema tem um "olho clínico" para distinguir o que é um evento real do que é apenas ruído de fundo. Ele consegue descartar até 70% do lixo (eventos falsos) sem perder nenhum evento real importante.

5. Por que isso é histórico?

Este é o primeiro vez na história que uma Rede Neural Gráfica (uma das formas mais complexas de Inteligência Artificial) está rodando dentro do sistema de gatilho de um experimento de física de partículas em tempo real.

Antes disso, a IA era usada apenas para analisar os dados depois que o experimento acabava (como revisar as fitas de vídeo no dia seguinte). Agora, a IA está na linha de frente, tomando decisões instantâneas para salvar os melhores dados. É como colocar um diretor de cinema genial dentro da câmera, decidindo o que gravar enquanto o filme está sendo filmado.

Em resumo: Eles transformaram um sistema de seleção rígido e cego em um sistema flexível e inteligente, capaz de ver o que antes era invisível, tudo isso rodando em um chip de computador em frações de segundo. Isso permitirá que o Belle II descubra fenômenos físicos mais raros e exóticos no futuro.

Resumo técnico

Resumo Técnico: Redes Neurais Gráficas em Tempo Real em FPGAs para o Calorímetro Eletromagnético do Belle II

1. O Problema

O experimento Belle II, no colisor SuperKEKB, enfrenta desafios significativos devido ao aumento da luminosidade instantânea, o que gera um alto nível de ruído de fundo induzido pelo feixe (beam background). O sistema de gatilho de nível 1 (L1) atual do Calorímetro Eletromagnético (ECL) baseia-se em uma lógica fixa e rígida (conhecida como lógica ICN - Isolated Cluster Number) implementada em hardware. Essa abordagem apresenta limitações críticas:

• Incapacidade de separação: Dificuldade em distinguir fótons próximos ou sobrepostos, levando a uma perda de eficiência em eventos com baixa multiplicidade de partículas.
• Resolução de posição: Resolução espacial pobre para clusters de alta energia, pois a posição é determinada apenas pelo centro do cristal de maior energia dentro de uma janela fixa.
• Rigidez: O algoritmo não se adapta bem a condições variáveis de fundo e gera duplicatas de detecção (clusters idênticos) devido a sobreposições de janelas de processamento.
• Limitação de recursos: O sistema atual processa no máximo 6 clusters por evento, o que é insuficiente para cenários de alto ruído.

2. Metodologia

Os autores desenvolveram e implementaram o GNN-ETM, um módulo de gatilho L1 baseado em Redes Neurais Gráficas (GNN) totalmente integrado em hardware FPGA.

• Abordagem Baseada em Grafos: Os "Trigger Cells" (TCs) do calorímetro são tratados como nós de um grafo. A rede explora as correlações espaciais nas deposições de energia para realizar agrupamento (clustering), extração de características e classificação de sinais.
• Arquitetura do Modelo (CaloClusterNet):
  • Utiliza blocos GravNet para construir dinamicamente as conexões entre nós baseadas na proximidade espacial aprendida, em vez de geometria fixa.
  • Emprega uma função de perda de Condensação de Objetos (Object Condensation), que permite que a rede aprenda a identificar o número de objetos (clusters) e suas propriedades (energia, posição, probabilidade de ser sinal) diretamente dos dados brutos, sem um número pré-definido de saídas.
  • O modelo é treinado com dados simulados que incluem ruído de fundo realista e sobreposição de fótons.
• Otimização para FPGA:
  • Para atender às restrições de latência e recursos do FPGA (AMD Ultrascale XCVU190), o modelo sofreu compressão agressiva:
    • Quantização: Uso de aritmética de ponto fixo misto (Q-format) via QKeras.
    • Poda (Pruning): Remoção de pesos de baixa magnitude (40% de poda).
    • Aproximação de Funções: Substituição da função sigmoide por uma aproximação linear e uso de tabelas de busca (LUT) para funções exponenciais.
• Implementação de Hardware:
  • Arquitetura baseada em fluxo de dados (dataflow) dividida em três estágios: Pré-processamento (compressão de fluxo e calibração), Acelerador de Rede Neural (inferência do GNN) e Pós-processamento (seleção de pontos de condensação e codificação).
  • Integração com o subsistema Belle2Link para sincronização com o sistema de aquisição de dados existente.

3. Contribuições Chave

• Primeira Implementação em Tempo Real: Este trabalho representa a primeira operação de um sistema de reconstrução baseado em GNN integrado no caminho de gatilho de tempo real (L1) de um experimento de colisão de partículas.
• Desempenho Determinístico: O sistema opera com uma latência de ponta a ponta de 3,168 µs, compatível com os requisitos de tempo do sistema de gatilho (embora ainda exija otimizações futuras para entrar na decisão final de gatilho, atualmente opera em paralelo para validação).
• Taxa de Processamento: Suporta a taxa de fluxo de dados de 8 MHz do SuperKEKB.
• Arquitetura Modular: Desenvolvimento de um sistema completo que inclui pré-processamento, aceleração de GNN dinâmica e pós-processamento, demonstrando a viabilidade de redes neurais complexas em hardware com recursos limitados.

4. Resultados

A avaliação foi realizada utilizando dados simulados e dados de colisão reais (coletados em dezembro de 2024):

• Resolução de Posição: O GNN-ETM melhora a resolução de posição para clusters de alta energia em até 18% na região central do detector (barrel) em comparação com o algoritmo ICN padrão. Isso ocorre porque o GNN utiliza informações de múltiplos TCs para refinar a posição, em vez de depender de um único cristal.
• Separação de Clusters: Para fótons próximos (não isolados), a eficiência de encontrar clusters separados aumenta em até 20% em comparação com o ICN, permitindo a distinção de pares de fótons que o algoritmo antigo fundiria em um único objeto.
• Purificação e Eficiência:
  • A pureza dos clusters aumenta em até 20% para clusters isolados de baixa energia.
  • A eficiência de clusters sobrepostos melhora em até 20%.
• Classificação de Sinal: O GNN-ETM fornece uma pontuação de classificação de sinal. Ao aplicar um corte nesta pontuação, é possível rejeitar até 70% dos clusters de fundo (ruído) mantendo 97,5% da eficiência dos sinais físicos.
• Resolução de Energia: A resolução de energia é comparável à do gatilho de base (ICN), embora com uma leve perda de precisão devido à quantização, mas com correções de viés menores.
• Validação: O sistema foi validado em três níveis de abstração (simulação QKeras, simulação C de nível de transação e simulação RTL de ciclo exato), mostrando excelente concordância com dados reais de raios cósmicos e colisões.

5. Significado e Impacto

Este trabalho é um marco na interseção entre Aprendizado de Máquina e Engenharia de Hardware para Física de Altas Energias.

• Viabilidade Técnica: Demonstra que algoritmos de GNN dinâmicos e complexos podem ser executados em FPGAs com latência de microssegundos, superando as limitações de arquiteturas de redes neurais tradicionais (feed-forward) usadas anteriormente em gatilhos.
• Futuro dos Gatilhos: Abre caminho para sistemas de gatilho mais flexíveis e inteligentes em futuros experimentos (como o HL-LHC), capazes de lidar com ambientes de alto ruído e eventos complexos que algoritmos heurísticos fixos não conseguem resolver eficientemente.
• Validação Experimental: A operação bem-sucedida no Belle II valida que a inferência de IA em tempo real pode ser integrada em sistemas de aquisição de dados críticos sem comprometer a estabilidade ou a taxa de dados do experimento.

Em resumo, o GNN-ETM não apenas supera as limitações do sistema de gatilho atual do Belle II em termos de resolução e separação de partículas, mas também estabelece um novo padrão para a implementação de inteligência artificial em hardware de gatilho de nível 1.