A converged architecture for processing 32 Tbps of physics data in real-time at the LHCb experiment

Imaginez une caméra géante à haute vitesse qui ne prend pas de photos de couchers de soleil ou de chiots, mais des collisions entre les plus petits composants de l'univers. C'est le monde de la physique des particules, où les scientifiques utilisent des machines massives appelées collisionneurs pour projeter des particules les unes contre les autres des milliards de fois par seconde. Lorsque ces particules s'entrechoquent, elles créent une explosion chaotique de nouvelles particules, comme si l'on brisait un vase pour voir ce qu'il y a à l'intérieur. Le but est d'entrevoir quelque chose de rare et de nouveau caché dans ces débris. Mais voici le problème : la caméra est si rapide et les collisions si fréquentes qu'elle produit une montagne de données — tellement de données qu'elles rempliraient des millions de disques durs chaque seconde. Si les scientifiques essayaient de sauvegarder chaque fragment de donnée, leurs ordinateurs fondraient et leur stockage s'épuiserait instantanément.

Pour résoudre cela, les physiciens utilisent un « filtre » ou un « déclencheur » (trigger). Voyez cela comme un videur à l'entrée d'un club très sélect. Le videur doit décider en une fraction de seconde quelles collisions sont assez intéressantes pour être conservées et lesquelles sont juste du bruit de fond ennuyeux à jeter. Pendant des décennies, ces videurs étaient un mélange de matériel spécialisé et de logiciels informatiques. Mais à mesure que les machines devenaient plus rapides, les anciens videurs ne pouvaient plus suivre. Ils étaient trop lents et trop rigides, jetant souvent des événements intéressants simplement parce qu'ils ne ressemblaient pas à ce que le matériel attendait. La grande question était : comment construire un filtre assez rapide pour gérer un déluge de données, assez intelligent pour voir l'ensemble de l'image et assez flexible pour changer d'avis à la volée ?

Ce document raconte comment l'expérience LHCb au Grand Collisionneur de Hadrons (LHC) a résolu ce problème grâce à une mise à niveau massive. L'équipe a construit un nouveau système qui agit comme une usine ultra-efficace et tout-en-un. Au lieu d'utiliser un processus lent en plusieurs étapes avec différentes équipes gérant différentes parties du travail, ils ont créé une « architecture convergée ». Cela signifie qu'ils ont combiné la collecte de données, le tri et le filtrage en un processus fluide tournant sur de puissantes cartes graphiques (GPU), généralement trouvées dans les ordinateurs de jeux vidéo. Ils ont réussi à traiter un flux phénoménal de 32 térabits de données par seconde en temps réel. C'est le taux de données le plus élevé jamais géré par logiciel dans n'importe quelle expérience de physique. En supprimant les anciens filtres matériels rigides et en les remplaant par un système logiciel intelligent et flexible, ils n'ont pas seulement suivi la cadence ; ils ont réellement amélioré la qualité de la science qu'ils peuvent réaliser, garantissant qu'aucun événement rare et passionnant ne passe entre les mailles du filet.

Le Problème : Un Déluge de Données

Le Grand Collisionneur de Hadrons (LHC) fracasse des particules les unes contre les autres des milliards de fois par seconde. Chaque fois qu'elles entrent en collision, on appelle cela un « événement ». Par le passé, l'expérience LHCb utilisait un système de filtrage en deux étapes. D'abord, un « déclencheur de bas niveau » composé d'électronique spécialisée et sur mesure scannait rapidement les données et jetait la plupart des collisions ennuyeuses. Seules celles qui semblaient prometteuses étaient transmises à un « déclencheur de haut niveau » (logiciel) pour un examen plus approfondi.

Cependant, cet ancien système présentait une faille. Parce que le filtre matériel ne surveillait que quelques capteurs spécifiques, il manquait parfois des événements intéressants se produisant ailleurs dans le détecteur. De plus, il était difficile de modifier les règles une fois le matériel construit. L'équipe de LHCb a décidé de supprimer entièrement ce premier filtre basé sur le matériel. Cela signifiait que leur système devait gérer 40 fois plus de données qu'auparavant. Ils devaient traiter un flux de données brutes de 32 térabits par seconde (Tbps) et filtrer cela pour ne garder que les événements les plus intéressants en temps réel. S'ils échouaient, les données seraient perdues à jamais.

La Solution : Une Usine Convergée

L'équipe a construit un nouveau système utilisant 164 serveurs (ordinateurs) qui agissent comme une seule et même machine massive. Voici comment ils ont fait fonctionner le tout :

1. L'autoroute « Zero-Copy »
Habituellement, lorsqu'une donnée passe d'une carte réseau à la mémoire d'un ordinateur, puis à un processeur, elle doit être copiée plusieurs fois. C'est comme déplacer une boîte d'un camion vers un entrepôt, puis vers une étagère, puis vers une vitrine d'exposition. Cela prend du temps et de l'énergie. L'équipe de LHCb a utilisé une technique de « zero-copy » (copie zéro). Imaginez un tapis roulant qui court directement du camion, traverse l'entrepôt et arrive directement dans la vitrine sans jamais s'arrêter pour être déplacé à la main. Cela leur a permis de déplacer les données incroyablement vite sans ralentir l'ordinateur.

2. La Puissance des GPU
Au lieu d'utiliser des processeurs informatiques standards (CPU) pour le gros du travail, ils ont utilisé des unités de traitement graphique (GPU). Ce sont les puces que l'on trouve habituellement dans les ordinateurs de jeux vidéo, conçues pour gérer des milliers de tâches simultanément. L'équipe a réalisé que reconstruire les trajectoires des particules ressemble beaucoup au rendu d'une scène de jeu vidéo 3D complexe. En confiant l'intégralité du processus de filtrage aux GPU, ils ont pu traiter des milliers de collisions simultanément.

3. Une Planification Intelligente
L'un des défis était que toutes les collisions n'ont pas la même taille ou complexité. Certaines sont rapides à analyser ; d'autres prennent plus de temps. Si le système essayait de les traiter une par une, il resterait bloqué en attente. L'équipe a développé un « ordonnanceur » (scheduler) ingénieux qui regroupe les événements par lots. C'est comme un chef préparant un repas : au lieu de cuisiner un plat à la fois, il prépare tous les légumes, puis découpe toute la viande, puis cuit tout ensemble. Cela permet de garder les GPU occupés et efficaces. Ils ont également utilisé un « ordonnanceur multi-événements » qui examine l'ensemble du lot et décide du meilleur ordre pour exécuter les étapes, garantissant que les calculs les plus coûteux ne soient effectués que sur les événements qui en ont réellement besoin.

4. Le Réseau
Pour connecter les 164 serveurs, ils ont construit un réseau personnalisé utilisant l'InfiniBand, une technologie souvent utilisée dans les supercalculateurs. Ils ont conçu le réseau de manière à ce que chaque serveur puisse communiquer efficacement avec tous les autres, évitant ainsi les embouteillages (un problème connu sous le nom d'« incast »). Cela leur a permis d'assembler les morceaux de chaque collision provenant de différentes parties du détecteur et de les envoyer aux GPU pour le filtrage sans aucun goulot d'étranglement.

Les Résultats : Battre des Records

L'équipe a testé son système et a constaté qu'il fonctionnait exactement comme prévu.

• Vitesse : Ils ont réussi à traiter la totalité des 32 Tbps de données entrantes en temps réel.
• Filtrage : Le système a appliqué un filtre qui a réduit les données d'un facteur de 30:1. Cela signifie que pour 30 collisions, une seule a été conservée pour une étude plus approfondie.
• Évolutivité : Lorsqu'ils ont testé le système avec plus de serveurs, il a parfaitement suivi la montée en charge. Le système pouvait gérer le taux de conception complet du LHC, qui est de 30 millions de collisions par seconde.
• Efficacité : Le système utilisait 164 serveurs équipés de 328 GPU (deux par serveur). La puissance de calcul totale était massive, mais la conception était assez efficace pour qu'ils n'aient pas besoin de milliers de machines comme par le passé.

Le document confirme que ce système est capable de traiter le taux de données le plus élevé jamais atteint par logiciel dans le domaine de la physique. Il a prouvé qu'il est possible de supprimer les anciens filtres matériels rigides et de les remplacer par un système basé sur le logiciel, plus flexible, plus rapide et plus intelligent.

Pourquoi c'est important

Il ne s'agit pas seulement de gérer plus de données ; il s'agit de voir davantage de l'univers. En supprimant le filtre matériel, l'expérience LHCb peut désormais observer l'intégralité du détecteur pour détecter des événements intéressants, et non plus seulement les parties que l'ancien matériel était programmé pour surveiller. Cela signifie qu'ils pourraient découvrir des particules rares ou une nouvelle physique qui étaient auparavant invisibles. Le succès de cette « architecture convergée » établit une nouvelle norme pour la construction des futurs projets de physique des particules, montrant qu'avec le bon mélange de technologies prêtes à l'emploi et de logiciels ingénieux, nous pouvons repousser les limites de ce qui est possible en science.