Enabling Low-Latency Machine learning on Radiation-Hard FPGAs with hls4ml

Cet article présente la première démonstration viable d'une application d'apprentissage automatique ultra-rapide et résistante aux radiations sur des FPGA, en développant un nouveau backend pour l'outil hls4ml qui permet la synthèse automatique d'un autoencodeur sur un FPGA Microchip PolarFire pour le futur détecteur PicoCal du LHCb, avec une latence de 25 ns.

L'essentiel

🚀 Le Résumé : Comment faire entrer un cerveau d'ordinateur dans une boîte de conserve blindée

Imaginez que vous êtes un détective (le LHCb, un grand microscope géant qui regarde les particules) qui doit trier des millions de lettres par seconde. Le problème ? La boîte aux lettres est située dans un environnement très dangereux (des radiations intenses) et le courrier arrive si vite que vous n'avez pas le temps de tout lire.

Ce papier raconte l'histoire de comment les chercheurs ont réussi à installer un petit cerveau artificiel (Machine Learning) directement dans la boîte aux lettres, capable de trier le courrier instantanément, même sous la pluie de radiations.

Voici les trois grandes étapes de leur aventure :

1. Le Problème : Trop d'informations, pas assez de temps

Dans le futur, le grand collisionneur de particules (LHC) va produire une telle quantité de données que les câbles ne pourront plus tout transporter.

• L'analogie : Imaginez que chaque particule qui passe laisse une empreinte digitale complexe (une "forme d'onde") composée de 32 points de données.
• Le défi : Il faut compresser ces 32 points en seulement 2 points (comme résumer un roman entier en deux phrases) sans perdre l'histoire principale, et le faire en 25 nanosecondes (plus vite qu'un clignement d'œil). De plus, tout cela doit se faire dans un endroit où les radiations pourraient "griller" les circuits électroniques classiques.

2. La Solution : Un "Auto-encodeur" (Le Compresseur Magique)

Les chercheurs ont créé un petit algorithme intelligent appelé Auto-encodeur.

• Comment ça marche ? Imaginez que vous avez un dessin très détaillé (les 32 points). Vous le donnez à un artiste (l'algorithme) qui doit le redessiner en utilisant seulement deux traits de crayon (les 2 points de sortie).
• Le tour de force : Cet artiste est si doué qu'il ne garde que l'essentiel : la taille du dessin et sa forme. Il jette le "bruit" (les imperfections). Résultat : même avec seulement deux points, on peut reconstruire le dessin original presque parfaitement, et même mieux que l'original pour déterminer le moment exact où le dessin a été fait !

3. Le Défi Technique : Le "Blindage" et la Traduction

C'est ici que ça devient vraiment technique, mais restons simples :

• Le Blindage (Radiation-Hard) : Les puces électroniques normales (comme celles de votre smartphone) seraient détruites par les radiations du LHC. Les chercheurs ont choisi une puce spéciale, la PolarFire, qui est comme une "coquille de tortue" naturelle : elle résiste aux radiations sans avoir besoin de triple protection (ce qui économise de l'espace).
• Le Traducteur (hls4ml) : Jusqu'à présent, les outils pour transformer un cerveau artificiel en code pour ces puces spéciales n'existaient pas. C'était comme essayer de parler français à quelqu'un qui ne parle que du chinois, sans dictionnaire.
  • L'innovation : L'équipe a construit un nouveau dictionnaire automatique (un "backend" logiciel). Désormais, on peut prendre un modèle d'intelligence artificielle complexe et le traduire automatiquement en code pour cette puce "tortue" résistante aux radiations.

4. Les Résultats : Une performance fulgurante

Une fois le modèle traduit et installé sur la puce :

• Vitesse : Il traite les données en 25 nanosecondes. C'est ultra-rapide !
• Taille : Le cerveau artificiel est si petit qu'il tient dans la zone la plus protégée de la puce, comme un trésor dans un coffre-fort.
• Efficacité : Il utilise très peu de ressources (moins de 4% de la puce), ce qui laisse de la place pour d'autres tâches importantes.

🎯 En résumé, pourquoi c'est important ?

Ce papier prouve pour la première fois qu'on peut mettre de l'intelligence artificielle directement sur le détecteur, dans un environnement hostile, pour trier les données en temps réel.

C'est comme si, au lieu d'envoyer des millions de lettres à Paris pour être triées (ce qui crée des embouteillages), on installait un trieur automatique intelligent directement dans la boîte aux lettres. Cela permet de faire de la science plus précise, plus rapide, et ouvre la porte à de futures expériences scientifiques encore plus ambitieuses.

Le mot de la fin : Les chercheurs ont non seulement résolu un problème de compression de données, mais ils ont aussi donné à toute la communauté scientifique un nouvel outil (le dictionnaire hls4ml) pour que d'autres puissent facilement installer de l'intelligence artificielle sur des puces résistantes aux radiations dans l'espace ou dans les laboratoires de physique.

Résumé technique

1. Le Problème : Défi du Traitement des Données à la LHCb Upgrade II

L'expérience LHCb (Large Hadron Collider beauty) prévoit une mise à niveau majeure (Upgrade II) pour fonctionner avec une luminosité instantanée accrue, générant un taux de collisions sans précédent (pile-up moyen d'environ 40) et un débit de données brut de 200 Tb/s.

• Le Goulot d'Étranglement : Le calorimètre électromagnétique à haute granularité, nommé PicoCal, génère des formes d'onde complexes (pulses) provenant de chaque canal de lecture. Chaque pulse est échantillonné sur 32 points (16 bits). Pour maintenir des taux de données gérables entre l'électronique frontale (sur le détecteur) et l'électronique arrière, ces 32 entrées doivent être compressées en un maximum de deux nombres sur le détecteur lui-même.
• Contraintes Environnementales : Le traitement doit s'effectuer dans un environnement à fort rayonnement, nécessitant une électronique « durcie aux radiations ».
• Contraintes de Performance : La compression doit être ultra-rapide (latence ultra-faible) pour respecter le rythme des croisements de faisceaux (40 MHz), tout en préservant les informations physiques critiques comme le temps d'arrivée (timestamp) et la forme du pulse (nécessaire pour distinguer les signaux superposés).
• Obstacle Technologique : Les outils standards de synthèse de haut niveau pour le Machine Learning (ML) sur FPGA, notamment la bibliothèque hls4ml, ne prenaient pas en charge les FPGA durcis aux radiations de Microchip (famille PolarFire), limitant l'adoption du ML sur ces plateformes critiques.

2. Méthodologie

L'équipe a adopté une approche en trois volets pour résoudre ce problème :

A. Architecture du Modèle (Autoencodeur)

• Modèle : Développement d'un autoencodeur léger conçu pour comprimer les 32 échantillons d'entrée en un espace latent bidimensionnel (2 variables).
• Structure :
  • Encodeur (sur le détecteur) : Une couche entièrement connectée (dense) reliant directement les 32 entrées aux 2 variables latentes, suivie d'une fonction d'activation ReLU. L'architecture est conçue pour être hautement parallèle et pipelinée afin de minimiser la latence.
  • Décodeur (pour l'entraînement) : Une couche dense inversée pour reconstruire le pulse original à partir de l'espace latent.
• Données : Entraînement sur des formes d'onde simulées (Monte Carlo Geant4) du calorimètre PicoCal, incluant des signaux réalistes et du bruit de fond (pile-up).

B. Quantisation Sensible au Matériel (Hardware-Aware)

• Pour optimiser l'implémentation FPGA, le modèle a été converti en arithmétique à point fixe.
• Stratégie :
  • Entrées et activations : Format 16 bits (6 bits entiers).
  • Poids et biais : Quantifiés agressivement à 10 bits (4 bits entiers).
• Justification : Une analyse de balayage (scan) a montré que la précision de reconstruction (MSE) se stabilisait à partir de 10 bits, permettant une réduction drastique de la complexité matérielle sans perte significative de performance physique.

C. Développement d'un Nouveau Backend hls4ml

• Création d'un nouveau backend pour la bibliothèque hls4ml ciblant le compilateur Microchip SmartHLS.
• Développement : Traduction des flux de compilation, adaptation des modèles C++, et création d'un moteur de génération de code spécifique pour les FPGA PolarFire. Cela permet de passer automatiquement d'un modèle TensorFlow/Keras à du firmware FPGA.

3. Contributions Clés

1. Algorithme de Compression de Pulse : Validation d'un autoencodeur capable de compresser efficacement les formes d'onde de 32 points en 2 valeurs latentes tout en préservant les informations physiques essentielles (amplitude, temps, forme).
2. Optimisation Matérielle : Démonstration qu'une quantification à 10 bits est suffisante pour une reconstruction fidèle, réduisant considérablement l'utilisation des ressources FPGA.
3. Infrastructure Logicielle (Backend hls4ml) : Développement et mise à disposition d'un backend open-source permettant pour la première fois le déploiement automatisé de modèles ML sur des FPGA durcis aux radiations (Microchip PolarFire).

4. Résultats

Performance Physique

• Reconstruction : Le modèle quantifié (10 bits) reconstruit les pulses avec une fidélité très élevée, comparable au modèle pleine précision.
• Amélioration du Timing : L'application d'un algorithme CFD (Constant Fraction Discrimination) sur les pulses reconstruits a donné des résultats surprenants : la résolution temporelle s'est améliorée d'un facteur 2 par rapport aux pulses originaux (32 échantillons). L'autoencodeur agit comme un filtre de bruit, lissant les fluctuations et permettant une détection de temps plus précise.
• Corrélation Physique : L'espace latent est interprétable : une dimension encode principalement l'amplitude, l'autre capture des informations de forme et de temps.

Performance Matérielle (Synthèse sur FPGA PolarFire)

La synthèse a été réalisée sur un FPGA Microchip PolarFire MPF100T :

• Latence : 25 ns (4 cycles d'horloge à 160 MHz).
• Débit : Capacité à traiter de nouvelles données tous les 25 ns, satisfaisant la fréquence de 40 MHz requise par LHCb.
• Fréquence Maximale (Fmax) : 234 MHz (bien au-dessus de l'objectif de 160 MHz).
• Utilisation des Ressources (par canal) :
  • LUTs (Logique) : 3,1 % (3 385 / 108 600).
  • Blocs Mathématiques (DSP) : 0,3 % (1 / 336).
  • Mémoire : Négligeable.
• Scalabilité : Pour 8 canaux (configuration cible), l'utilisation totale resterait environ à 25 % des LUTs et 2,4 % des blocs mathématiques, laissant une marge suffisante pour d'autres logiques.

5. Signification et Impact

• Preuve de Concept : C'est la première démonstration complète (de l'algorithme à la synthèse) d'une application ML ultra-rapide et durcie aux radiations sur un FPGA pour la physique des hautes énergies.
• Démocratisation du ML sur FPGA Durcis : Le nouveau backend hls4ml supprime la barrière technique majeure empêchant l'utilisation des FPGA Microchip PolarFire par la communauté scientifique. Il permet un flux de travail automatisé, évitant les développements manuels longs et non réutilisables.
• Avantage Stratégique : La solution est suffisamment légère pour être placée entièrement dans la logique protégée par conception du FPGA (mémoire flash non volatile immune aux SEU de configuration), réduisant le besoin de techniques de mitigation complexes comme la redondance modulaire triple (TMR) pour la logique de calcul.
• Avenir : Cette approche ouvre la voie à l'intégration du ML directement sur les détecteurs pour le filtrage et la compression de données dans des environnements extrêmes (HL-LHC, futurs collisionneurs, applications spatiales), transformant la gestion des données massives en physique des particules.

En conclusion, cet article valide non seulement la faisabilité technique de la compression de données par ML sur le PicoCal, mais fournit également l'infrastructure logicielle nécessaire pour généraliser cette technologie à l'ensemble de la communauté de la physique des hautes énergies.