Deploying a Hybrid PVFinder Algorithm for Primary Vertex Reconstruction in LHCb's GPU-Resident HLT1

Cet article présente le développement et l'intégration d'un moteur d'inférence pour l'algorithme hybride PVFinder dans le cadre de déclenchement HLT1 de LHCb, conçu pour reconstruire les vertex primaires sur GPU tout en respectant des contraintes temps réel strictes, tout en identifiant les goulots d'étranglement actuels et en proposant une feuille de route pour des améliorations futures via le calcul de précision mixte et la compression de modèles.

L'essentiel

🏎️ Le Contexte : Une Course Contre la Montre

Imaginez le LHCb (une expérience au CERN) comme un immense circuit de Formule 1.

• Le problème : Les voitures (les protons) roulent à une vitesse folle. Elles se percutent 30 millions de fois par seconde ! À chaque collision, il y a une explosion de débris (des particules).
• Le défi : Parmi tous ces débris, les physiciens doivent repérer instantanément les "points d'impact" originaux (les vertices primaires). C'est comme essayer de trouver l'endroit exact où deux voitures se sont percutées au milieu d'un chaos de ferraille, le tout en une fraction de seconde.
• L'outil : Pour gérer ce flux, LHCb utilise un système appelé Allen, qui fonctionne sur des puces graphiques (GPU) très puissantes. Mais ce système a des règles strictes : il ne peut pas attendre, il ne peut pas utiliser trop de mémoire, et il doit être prévisible à la milliseconde près.

🧠 La Solution : Le "PVFinder" (Le Détective Numérique)

Les auteurs du papier ont créé un nouvel outil appelé PVFinder. C'est une sorte de "détective" basé sur l'intelligence artificielle (un réseau de neurones) qui regarde les données des collisions pour dire : "Là, c'est le point d'impact !".

Ce détective est hybride, ce qui signifie qu'il utilise deux méthodes :

1. Une méthode rapide et simple (couches "Fully Connected") pour faire un premier tri.
2. Une méthode très intelligente (un réseau de type "UNet" ou CNN) pour analyser les motifs spatiaux et confirmer les points d'impact avec une précision de 97 %.

🚧 Le Problème : Le Frottement des Roues

C'est ici que l'histoire devient intéressante.
Le système Allen (le chef d'orchestre) fonctionne avec des règles très rigides : il utilise des "poches de mémoire fixes" et ne tolère aucun délai imprévu.
Le PVFinder (le détective), lui, est conçu pour fonctionner avec des bibliothèques standard d'intelligence artificielle (cuDNN) qui aiment à utiliser de la mémoire dynamique et à faire plusieurs choses en même temps.

L'analogie :
Imaginez que vous essayez de faire entrer un grand camion de déménagement (le détective IA) dans un garage de Formule 1 (le système Allen) qui est conçu pour des voitures de course compactes.

• Le camion est trop grand.
• Il essaie de se garer n'importe comment.
• Le garage refuse de l'accepter car cela bloquerait la piste.

Pour résoudre cela, les auteurs ont construit un traducteur (une "couche de traduction"). C'est comme un adaptateur de prise électrique universel ou un pont roulant qui transforme le camion en une voiture de course sans perdre de temps.

• Ce traducteur permet au détective de parler le langage du garage.
• Il garantit que rien ne se bloque et que tout reste prévisible.

📉 Le Résat Actuel : Trop Lourd pour la Piste

Malgré le traducteur, il y a un problème de vitesse.

• Le système Allen doit traiter chaque collision en moins de 400 microsecondes.
• Actuellement, le détective PVFinder est si gourmand qu'il ralentit tout le système de 75 %. C'est comme si le camion de déménagement prenait tout le garage, obligeant les autres voitures à attendre.
• Le "goulot d'étranglement" vient de la partie intelligente (le CNN), qui est très lourde à calculer.

🚀 Le Plan d'Avenir : Vers 2030 (La Révolution)

Les auteurs ne sont pas découragés. Ils ont un plan d'attaque pour rendre le détective 24 fois plus rapide d'ici 2030, afin qu'il ne ralentisse plus le système du tout. Voici leurs trois astuces magiques :

1. La Précision Mixte (FP16) :

   • L'analogie : Au lieu de faire des calculs avec une précision de "10 décimales" (trop précis pour la course), on passe à "5 décimales".
   • Le gain : C'est comme passer d'un moteur à essence à un moteur électrique : on va deux fois plus vite avec la même quantité de carburant, et la perte de précision est imperceptible pour la physique.

2. La Compression du Modèle (32 canaux au lieu de 64) :

   • L'analogie : Le détective a actuellement 64 yeux pour regarder les collisions. Les auteurs pensent que 32 yeux suffisent largement pour faire le job.
   • Le gain : Moins d'yeux à entraîner signifie un cerveau beaucoup plus léger et rapide (4 fois plus rapide).

3. L'Optimisation de la Mémoire :

   • L'analogie : Actuellement, le détective perd du temps à chercher ses outils dans des tiroirs mal rangés. Les auteurs vont réorganiser l'atelier pour que tout soit à portée de main.
   • Le gain : Cela évite les embouteillages dans la mémoire de l'ordinateur.

🏁 Conclusion

En résumé, ce papier raconte comment les scientifiques ont réussi à faire entrer un outil d'intelligence artificielle très puissant dans un système de déclenchement ultra-rapide et strict.

• Aujourd'hui : Ça marche, mais c'est un peu lent (le détective est trop lourd).
• Demain (2030) : Grâce à des astuces de calcul et de compression, le détective sera si rapide et léger qu'il deviendra invisible pour le système, permettant à LHCb de continuer à étudier l'univers à pleine vitesse sans ralentir.

C'est une preuve de concept : on a montré que l'IA peut vivre dans le monde réel et strict des accélérateurs de particules, à condition de bien s'adapter à ses règles !

Résumé technique

Titre : Déploiement d'un algorithme hybride PVFinder pour la reconstruction du vertex primaire dans le HLT1 résident GPU de LHCb

1. Problématique

L'expérience LHCb au Grand collisionneur de hadrons (LHC) a connu une mise à niveau majeure pour sa période de fonctionnement Run 3, passant à un système de déclenchement (trigger) entièrement logiciel fonctionnant à un taux de collision de 30 MHz. Cela génère en moyenne 5,6 vertex primaires (PV) par événement (croisement de paquets).
Le défi principal réside dans l'intégration d'algorithmes d'apprentissage profond (Deep Learning) avancés, comme PVFinder (un réseau neuronal hybride pour la reconstruction des vertex), dans le cadre de travail Allen (le niveau HLT1 de LHCb). Ce cadre impose des contraintes strictes de temps réel :

• Budget de traitement par événement : < 400 µs.
• Gestion de la mémoire : Pools fixes (pas d'allocation dynamique à l'exécution).
• Exécution : Flux unique (single-stream) sans synchronisations globales pour garantir la déterminité.
  Ces contraintes entrent en conflit avec les modèles d'inférence ML standards qui utilisent souvent l'allocation dynamique, des flux multiples et des bibliothèques comme cuDNN qui nécessitent des formats de données spécifiques (NCHW) et des espaces de travail (workspaces) gérés différemment.

2. Méthodologie

Les auteurs ont développé un moteur d'inférence pour PVFinder au sein d'Allen, en concevant une couche de traduction pour faire le pont entre l'environnement natif CUDA d'Allen et le modèle d'exécution tensoriel de cuDNN.

• Architecture de PVFinder :
  • Entrée : 9 paramètres de trajectoire par particule (reconstruits par le détecteur VELO).
  • Étape 1 (FC) : Six couches entièrement connectées (FC) implémentées en CUDA natif, transformant les données en un histogramme de 800 bins.
  • Étape 2 (CNN) : Un réseau UNet à 5 couches (64 canaux) utilisant cuDNN pour la reconnaissance de motifs spatiaux et l'affinement des probabilités.
  • Étape 3 (Peak Finding) : Détection heuristique des maxima locaux avec des seuils appris.
• Couche de Traduction (Translation Layer) :
  • Préparation (Prepare) : Création de vues tensorielles "non propriétaires" (zero-copy) réinterprétant les buffers SoA (Structure-of-Arrays) d'Allen en tenseurs compatibles cuDNN. La plupart des données ne nécessitent pas de réorganisation grâce au format de sortie [B, C, L] déjà compatible.
  • Exécution (Execute) : Invocation des convolutions cuDNN sur le flux unique d'Allen. Un espace de travail fixe (16 Mo) est pré-alloué à l'initialisation pour éviter toute allocation dynamique par événement.
  • Extraction (Extract) : Les sorties de cuDNN sont mappées directement vers les buffers SoA d'Allen pour les algorithmes en aval, minimisant les mouvements de données.

3. Contributions Clés

• Preuve de concept d'intégration : Première démonstration réussie de l'exécution d'un réseau neuronal hybride (FC + CNN) dans l'environnement déterministe et à ressources fixes d'Allen.
• Couche d'abstraction : Développement d'une interface permettant d'utiliser cuDNN sans violer les contraintes de mémoire et de flux unique d'Allen, tout en maintenant la sémantique "zero-copy".
• Validation physique : Confirmation que l'implémentation intégrée conserve les performances physiques (> 97 % d'efficacité, 0,03 faux positifs par événement) par rapport aux implémentations autonomes.
• Feuille de route d'optimisation : Identification précise des goulots d'étranglement et proposition d'une stratégie d'optimisation pour atteindre les objectifs de 2030.

4. Résultats

• Performance Physique : L'algorithme atteint une efficacité de > 97 % pour la reconstruction de 3 à 8 vertex par événement avec un taux de faux positifs de 0,03, surpassant largement la base de référence heuristique de LHCb.
• Impact sur le Débit (Throughput) :
  • L'étape FC seule consomme environ 5 % du budget HLT1.
  • L'implémentation hybride complète (FC + CNN) réduit le débit global de 75 % (le débit tombe à 25 % de la ligne de base).
  • Analyse des causes : La réduction est due à trois facteurs : la saturation de la bande passante mémoire, les interférences de cache entre les données du modèle et les autres algorithmes, et une occupation insuffisante des unités de calcul (SM occupancy < 50 %) due à une configuration de noyaux sous-optimale.
• Projections d'Optimisation (Tableau 2) :
  Une stratégie combinée vise à réduire l'overhead de 75 % à < 5 % d'ici 2030 :
  1. Inférence en précision mixte (FP16) : Utilisation des Tensor Cores pour un gain théorique de 2x à 4x.
  2. Compression du modèle : Réduction des canaux de 64 à 32 (UNet), offrant un gain de 4x grâce à la réduction quadratique du coût des convolutions.
  3. Optimisations mémoire et de noyaux : Fusion des formats de données et réglage des paramètres de lancement pour augmenter l'occupation des SM à 75-80 %.
  • Gain total projeté : Un facteur d'accélération combiné d'environ 24x, permettant de revenir à un débit proche de 95-100 % de la ligne de base.

5. Signification

Ce travail est fondamental pour l'avenir du déclenchement de LHCb et des expériences de physique des hautes énergies en général. Il démontre que l'intégration d'algorithmes d'IA de pointe dans des systèmes de déclenchement temps réel stricts est possible, mais nécessite une co-conception rigoureuse des formats de données, de la gestion de la mémoire et des modèles d'exécution.
La couche de traduction développée sert de modèle réutilisable pour d'autres algorithmes ML (ajustement de trajectoires, identification de particules, etc.). En validant les hypothèses architecturales tôt dans le cycle de développement, ce projet évite les problèmes de niveau système qui auraient été invisibles lors d'un développement isolé, ouvrant la voie à une utilisation généralisée du Machine Learning dans les déclencheurs futurs (2030 et au-delà).