Enabling Low-Latency Machine learning on Radiation-Hard FPGAs with hls4ml

Este artigo apresenta a primeira demonstração viável de uma aplicação de aprendizado de máquina ultrarrápida e resistente à radiação em FPGAs, utilizando o detector PicoCal como caso de teste, onde os autores desenvolveram um autoencoder leve, uma estratégia de quantização eficiente e uma nova *backend* para a ferramenta hls4ml que permite a síntese automática de modelos em FPGAs PolarFire com latência de 25 ns.

O essencial

Imagine que você está tentando organizar uma festa lotada onde milhares de pessoas chegam ao mesmo tempo. No mundo da física de partículas, o "Grande Colisor de Hádrons" (LHC) é essa festa, e as partículas que colidem são os convidados. O problema é que, no futuro, a festa ficará tão cheia que os dados gerados serão como uma enxurrada de informações impossível de processar.

Para resolver isso, os cientistas precisam de um "porteiro" superinteligente que fique na porta (no próprio detector) e decida rapidamente o que é importante e o que pode ser descartado, sem precisar enviar tudo para o escritório central.

Este artigo apresenta uma solução brilhante para esse problema, usando três ideias principais:

1. O "Resumo de Notícia" (O Autoencoder)

Imagine que cada partícula que passa deixa um rastro de luz, como uma pegada na areia. Esse rastro é complexo e tem muitos detalhes (32 "pontos" de dados). Enviar todos esses 32 pontos para o computador central seria como enviar um livro inteiro apenas para dizer "alguém passou por aqui".

Os autores criaram uma inteligência artificial chamada Autoencoder. Pense nela como um jornalista muito esperto que lê o livro inteiro (os 32 pontos) e escreve um resumo de apenas duas linhas (dois números).

• O milagre: Mesmo com apenas duas linhas, esse resumo mantém todas as informações importantes: a hora exata em que a pessoa passou, o tamanho da pegada e a forma dela. É como se o jornalista conseguisse dizer "foi um gigante correndo às 14h" usando apenas duas palavras, sem perder a essência da história.

2. A "Tradução para o Idioma do Robô" (Quantização)

Os computadores comuns falam "inglês de alta precisão" (números com muitos dígitos decimais). Mas os chips que ficam dentro dos detectores de partículas são como robôs que falam um "idioma simplificado" e precisam ser rápidos. Se o robô tentar ler números complexos, ele fica lento e gasta muita energia.

Os autores ensinaram a inteligência artificial a "falar a língua do robô". Eles reduziram a precisão dos números (de 32 bits para apenas 10 bits), como se trocássemos um livro de capa dura por um bilhete de papel.

• O resultado: O robô consegue ler o bilhete instantaneamente, e a história continua perfeita. A inteligência artificial não perdeu a capacidade de entender a física, mas ficou muito mais leve e rápida.

3. O "Tradutor Universal" (hls4ml e FPGAs Rad-Hard)

Aqui está a parte mais inovadora. Para colocar essa inteligência artificial no detector, eles precisavam de um chip especial chamado FPGA (um chip que pode ser reprogramado). Mas, no espaço ou dentro do LHC, há muita radiação, que pode "quebrar" os chips comuns.

• O problema: Os chips resistentes à radiação (como os da família PolarFire da Microchip) eram como um novo país onde ninguém sabia falar a língua das ferramentas de programação de inteligência artificial. Não havia um "dicionário" para traduzir o código da IA para esses chips.
• A solução: A equipe criou um novo "dicionário" (um backend para a ferramenta hls4ml). Agora, qualquer cientista pode pegar seu modelo de IA e, com um clique, traduzi-lo automaticamente para funcionar nesses chips resistentes à radiação.

O Resultado Final: O Superporteiro

Com tudo isso pronto, eles testaram o sistema em um chip real:

• Velocidade: O chip consegue processar a informação em 25 nanossegundos. Isso é tão rápido que é como piscar um olho e ter o resultado pronto antes mesmo de você perceber que piscou.
• Espaço: O programa é tão pequeno que cabe dentro de uma "zona segura" do chip, protegida contra radiação, sem precisar de proteções extras pesadas.
• Capacidade: Ele consegue lidar com 8 canais de dados ao mesmo tempo, o suficiente para a próxima grande atualização do experimento LHCb.

Em resumo:
Os autores criaram um sistema onde uma inteligência artificial super-rápida e "simplificada" vive dentro de um chip à prova de radiação. Ela pega dados complexos de partículas, faz um resumo inteligente em tempo real e permite que os cientistas vejam o que realmente importa, mesmo em meio a uma tempestade de dados e radiação. Isso abre as portas para que futuros experimentos científicos sejam mais inteligentes e eficientes do que nunca.

Resumo técnico

1. O Problema

O futuro do experimento LHCb (Upgrade II) no Grande Colisor de Hádrons (LHC) enfrentará um aumento sem precedentes na taxa de dados (estimada em 200 Tb/s) devido a uma luminosidade instantânea mais alta e um maior número de colisões simultâneas (pile-up).

• Desafio Específico: O calorímetro eletromagnético de alta granularidade, denominado PicoCal, utilizará um digitalizador de forma de onda (ASIC SPIDER) que gera pulsos de 32 amostras (16 bits cada) por canal.
• Restrição Crítica: Para manter taxas de dados viáveis entre a eletrônica frontal (no detector) e a eletrônica de back-end, é necessário comprimir essas 32 amostras em no máximo dois números de tamanho similar diretamente no detector.
• Ambiente Hostil: A eletrônica deve operar em um ambiente de alta radiação, exigindo hardware "radiation-hard" (resistente a radiação).
• Barreira Tecnológica: Não existiam ferramentas de síntese de alto nível (HLS) padronizadas pela comunidade de Física de Alta Energia (HEP) que suportassem FPGAs baseados em flash (como a família Microchip PolarFire), que são inerentemente mais resistentes à radiação do que os FPGAs baseados em SRAM tradicionais.

2. Metodologia

A equipe desenvolveu uma solução de ponta a ponta composta por três pilares principais:

• Algoritmo de Compressão (Autoencoder):

  • Foi desenvolvido um autoencoder leve para comprimir os 32 pontos de dados de entrada em um espaço latente bidimensional (2 variáveis).
  • A arquitetura consiste em uma camada totalmente conectada (Dense) mapeando 32 entradas para 2 saídas, seguida por uma função de ativação ReLU.
  • O modelo foi treinado usando o framework TensorFlow/Keras com dados simulados do calorímetro PicoCal (incluindo sinais de fótons e ruído de fundo/pile-up).
  • O objetivo não é apenas comprimir, mas preservar a forma do pulso, permitindo a extração precisa de tempo de chegada (timestamp) e amplitude.

• Otimização Hardware-Aware (Quantização):

  • Para viabilizar a implementação em FPGA, foi realizada uma análise sistemática de quantização.
  • Adotou-se um esquema de precisão mista: entradas e ativações em ponto fixo de 16 bits (<16, 6>), e pesos/vieses da camada densa quantizados agressivamente para 10 bits (<10, 4>).
  • Estudos mostraram que a quantização para 10 bits resultou em perda de desempenho mínima (erro quadrático médio - MSE) em comparação com o modelo de precisão total.

• Novo Backend para hls4ml:

  • Foi desenvolvido um novo backend para a biblioteca hls4ml (ferramenta padrão da comunidade HEP para mapear ML para FPGAs).
  • Este backend traduz automaticamente modelos ML em projetos de Síntese de Alto Nível (HLS) compatíveis com o compilador Microchip SmartHLS.
  • Isso preencheu uma lacuna crítica, permitindo o uso de FPGAs Microchip PolarFire (baseados em flash e resistentes à radiação) para inferência de ML.

3. Resultados Principais

• Desempenho de Reconstrução:

  • O autoencoder comprimiu com sucesso os pulsos de 32 amostras para 2 variáveis latentes.
  • A análise de correlação mostrou que uma dimensão latente codifica principalmente a amplitude e a outra captura características de forma/tempo.
  • Melhoria de Tempo: Ao aplicar o algoritmo de discriminação de fração constante (CFD) nos pulsos reconstruídos, observou-se uma melhoria de aproximadamente 2x na precisão do timestamp em comparação com os pulsos originais de 32 amostras. Isso ocorre porque o autoencoder atua como um filtro de ruído, suavizando a forma de onda.
  • A precisão na recuperação do tempo de subida (rise-time) também foi mantida com alta fidelidade.

• Síntese e Desempenho no FPGA (Microchip PolarFire MPF100T):

  • Latência: O design alcançou uma latência de inferência de 25 ns (4 ciclos de relógio).
  • Frequência: O design opera a 234 MHz (superando a meta de 160 MHz).
  • Recursos: O consumo de recursos é extremamente baixo:
    • 3,12% das LUTs (Look-Up Tables) de 4 entradas.
    • 0,30% dos blocos matemáticos dedicados.
  • Escalabilidade: Considerando que cada FPGA deve processar 8 canais em paralelo, o uso total projetado seria de ~25% das LUTs e ~2,4% dos blocos matemáticos, deixando espaço suficiente para outras lógicas de controle e agregação de dados.

4. Contribuições Chave

1. Algoritmo Validado: Demonstração de que um autoencoder pode comprimir formas de onda de calorímetro mantendo informações físicas críticas (tempo e amplitude) necessárias para a reconstrução de física.
2. Infraestrutura de Software: Criação do primeiro backend do hls4ml para o compilador Microchip SmartHLS, democratizando o acesso a FPGAs resistentes à radiação para a comunidade de ML.
3. Prova de Conceito End-to-End: Primeira demonstração completa de uma aplicação de ML ultra-rápida e resistente à radiação, indo da concepção do algoritmo até a síntese no hardware alvo.

5. Significado e Impacto

• Viabilidade para o LHCb Upgrade II: A solução atende aos requisitos rigorosos de latência e taxa de dados do experimento, permitindo a compressão de dados diretamente no detector sem sobrecarregar os recursos do FPGA.
• Resistência à Radiação: Ao utilizar FPGAs baseados em flash (PolarFire), o sistema evita a necessidade de redundância tripla (TMR) para a configuração da memória, que é obrigatória em FPGAs baseados em SRAM. Além disso, o baixo consumo de recursos permite que a lógica do modelo seja posicionada dentro de regiões logicamente protegidas do FPGA.
• Avanço para a Comunidade: A ferramenta backend desenvolvida permite que físicos e engenheiros de outras áreas (como física espacial ou aceleradores futuros) implantem modelos de ML complexos em hardware resistente à radiação de forma automatizada, eliminando a necessidade de desenvolvimento manual de HLS (High-Level Synthesis) para cada novo projeto.

Em resumo, o trabalho transforma um desafio de largura de banda e radiação em uma realidade técnica, estabelecendo um novo padrão para a implementação de inteligência artificial em detectores de física de altas energias.