Transforming jet flavour tagging at ATLAS

La collaboration ATLAS introduit GN2, un nouvel algorithme basé sur les transformeurs qui améliore significativement les performances d'identification des jets à saveur lourde en traitant les données de suivi de bas niveau de bout en bout, améliorant ainsi des analyses physiques clés telles que les études du boson de Higgs.

L'essentiel

Imaginez le Grand Collisionneur de Hadrons (LHC) comme le briseur de particules le plus puissant au monde. Lorsqu'il projette des protons les uns contre les autres, ils explosent en des milliers de particules plus petites, créant une tempête chaotique. Au milieu de cette tempête, les physiciens recherchent des « saveurs » spécifiques de particules — plus précisément celles composées de quarks lourds (comme les quarks bottom et charm) — car elles sont les clés pour comprendre le boson de Higgs et chercher une nouvelle physique.

Le problème est que ces particules lourdes ne viennent pas dans des boîtes propres et étiquetées. Au lieu de cela, elles se transforment en « jets » — des gerbes de particules plus petites qui ressemblent beaucoup aux gerbes créées par des particules légères communes. C'est comme essayer de trouver un type spécifique de fruit rare dans un énorme tas de salade de fruits mélangés où tout ressemble à un flou rouge et vert.

L'ancienne méthode : Le détective en deux étapes

Pendant des années, l'expérience ATLAS a utilisé une méthode de détective en « deux étapes » pour trier ces jets.

1. Étape 1 : Des outils spécialisés cherchaient des indices individuels (comme les traces laissées par les particules) pour trouver des signes spécifiques, tels qu'un « sommet secondaire » (un endroit où une particule lourde s'est désintégrée un tout petit peu loin du site principal de l'impact).
2. Étape 2 : Un cerveau informatique prenait tous ces indices et faisait une supposition finale : « Est-ce un jet de saveur lourde ou un jet léger ? »

Cela fonctionnait bien, mais c'était comme un détective qui demande d'abord à un spécialiste de vérifier les empreintes digitales, puis demande à un autre de vérifier les empreintes de chaussures, puis à un troisième de combiner les rapports. C'était efficace, mais cela reposait sur des humains concevant manuellement les règles pour chaque spécialiste.

La nouvelle méthode : GN2, le détective « Transformer »

Cet article présente GN2, un nouvel algorithme qui change la donne. Au lieu du processus en deux étapes, GN2 est un système de bout en bout (end-to-end). Considérez cela comme un détective unique et super intelligent qui examine l'ensemble de la scène de crime à la fois, sans avoir besoin de la décomposer en tâches séparées au préalable.

GN2 utilise une technologie appelée Transformer (le même type d'architecture d'IA qui alimente les modèles de langage modernes). Voici comment cela fonctionne en termes simples :

• Lire toute l'histoire : Au lieu de regarder les indices un par un, GN2 regarde le jet et toutes les particules à l'intérieur simultanément. Il comprend comment les particules sont liées entre elles, tout comme vous comprenez une phrase en lisant la phrase entière, et non mot par mot.

• Entraînement informé par la physique : Pour s'assurer que l'IA ne se contente pas de mémoriser les données mais comprenne réellement la physique, les scientifiques lui ont donné des devoirs supplémentaires. Ils lui ont demandé d'accomplir deux tâches secondaires :

  1. Origine de la trace : « D'où vient cette particule spécifique ? » (Vient-elle de l'impact principal ou provient-elle de la désintégration d'une particule lourde ?)
  2. Regroupement de sommets : « Quelles particules appartiennent au même groupe ? » (Peut-on trouver l'amas de particules qui provient du même point de désintégration ?)

  En forçant l'IA à apprendre ces concepts physiques, elle devient meilleure dans sa tâche principale : identifier la saveur du jet. C'est comme enseigner à un étudiant non pas seulement pour qu'il réussisse un test, mais pour qu'il comprenne les mathématiques sous-jacentes afin de pouvoir résoudre n'importe quel problème.

Les résultats : Un bond en avant massif

L'article compare GN2 au meilleur algorithme précédent (appelé DL1d). Les résultats sont spectaculaires :

• Meilleur filtrage : Si vous voulez capturer 70 % des jets « bottom » lourds, GN2 est 3,5 fois meilleur pour ignorer les faux jets « charm » et 1,8 fois meilleur pour ignorer les jets « légers » communs par rapport à l'ancienne méthode.
• Preuve en conditions réelles : Ils ne l'ont pas seulement testé sur des simulations informatiques ; ils l'ont testé sur des données réelles du LHC. L'amélioration s'est confirmée, prouvant que l'IA fonctionne dans le monde réel et désordonné.
• Polyvalence : Parce que GN2 apprend la physique directement, il peut facilement être réentraîné pour repérer d'autres choses, comme les particules « tau » (un type d'électron lourd), sans avoir besoin de reconstruire tout le système à partir de zéro.

Pourquoi cela importe

Il ne s'agit pas seulement d'une petite mise à jour ; c'est un changement fondamental dans la manière dont les expériences de physique des particules utilisent l'apprentissage automatique. En passant d'un processus de deux étapes « conçu à la main » à un système de bout en bout « appris », ATLAS a considérablement affûté ses outils.

Cette amélioration est cruciale pour les découvertes futures. Par exemple, elle aidera à mesurer comment le boson de Higgs interagit avec les quarks charm et à rechercher la production de paires de bosons de Higgs. L'article suggère que ces améliorations pourraient augmenter la sensibilité de ces mesures futures jusqu'à 30 %.

En bref, GN2 est une façon plus intelligente, plus flexible et plus puissante de trouver les « aiguilles » (quarks lourds) dans la « botte de foin » (collisions de particules), permettant aux physiciens de voir plus profondément dans les secrets de l'univers.

Résumé technique

Résumé Technique : Transformation du marquage de saveur des jets à ATLAS

Énoncé du problème
Le marquage de la saveur des jets est une composante critique du programme de physique d'ATLAS au Grand Collisionneur de Hadrons (LHC), permettant l'identification des jets provenant de quarks de saveur lourde ($b$ et $c$), de désintégrations hadroniques de leptons $\tau$, ou de quarks légers ou gluons. Les algorithmes traditionnels de marquage de saveur d'ATLAS, tels que l'état de l'art DL1d, reposent sur une approche en deux étapes : des algorithmes spécialisés de bas niveau extraient des informations à partir des traces de particules chargées (par exemple, la reconstruction de sommets déplacés), et un classificateur multivarié de haut niveau combine ces sorties. Bien qu'efficace, ce paradigme repose sur des étapes de bas niveau optimisées manuellement et peut ne pas exploiter pleinement les corrélations au sein des données de trajectologie de bas niveau. De plus, la complexité croissante des analyses de physique, telles que les mesures de la production de paires de bosons de Higgs et des couplages de Yukawa du quark $c$, exige des algorithmes dotés de capacités de rejet plus élevées pour les jets de fond ($c$, légers et $\tau$) tout en maintenant une efficacité de signal élevée.

Méthodologie
Cet article présente GN2, un nouvel algorithme de marquage de saveur qui s'écarte du paradigme traditionnel en deux étapes en employant une architecture basée sur un transformateur (Transformer) de bout en bout. Contraãirement aux approches précédentes qui traitent des caractéristiques de bas niveau pré-traitées, GN2 ingère directement les informations de trajectologie brutes (traces) et les propriétés cinématiques du jet.

• Architecture : Le cœur de GN2 est un encodeur Transformer. Les caractéristiques du jet sont concaténées avec un tableau de taille fixe de vecteurs de caractéristiques de traces (jusqu'à 40 traces par jet). Ces vecteurs combinés sont traités par un réseau d'initialisation par trace, suivi d'un encodeur Transformer à quatre couches avec huit têtes d'attention. Cela permet au modèle d'apprendre les relations entre les traces au sein d'un jet, capturant efficacement la topologie complexe des désintégrations de saveur lourde.
• Objectifs auxiliaires informés par la physique : Pour améliorer l'interprétabilité et la performance, GN2 incorpore deux objectifs d'entraînement auxiliaires aux côtés de la tâche principale de classification du jet :
  1. Prédiction de l'origine des traces : Le réseau prédit l'origine physique de chaque trace (par exemple, interaction primaire, désintégration de l'hadron $b$, désintégration de l'hadron $c$, désintégration du $\tau$, ou pile-up).
  2. Groupement de sommets (Vertex Grouping) : Le réseau détermine quelles paires de traces proviennent d'un sommet commun, permettant la reconstruction de sommets secondaires sans algorithmes explicites de recherche de sommet.
     Ces objectifs sont intégrés dans une fonction de perte combinée, permettant une optimisation simultanée.
• Entraînement et déploiement : Le modèle est entraîné sur un mélange d'événements simulés $t\bar{t}$ et $Z'$ à $\sqrt{s}=13$ TeV et $13,6$ TeV. Une stratégie de validation croisée en 4 plis est employée pour éviter la fuite de données (data leakage). L'algorithme est déployé via OnnxRuntime au sein du framework logiciel ATLAS.

Contributions clés

• Apprentissage de bout en bout : GN2 représente un passage des algorithmes à deux étapes basés sur l'ingénierie de caractéristiques vers un modèle d'apprentissage profond unifié et de bout en bout qui traite directement les données de trajectologie de bas niveau.
• Application des Transformers : Il s'agit du premier déploiement d'un modèle Transformer pour le marquage de saveur des jets à ATLAS, remplaçant le réseau de neurones sur graphes (GNN) utilisé dans le démonstrateur GN1.
• Interprétabilité via des tâches auxiliaires : En entraînant explicitement le réseau à reconstruire les structures de sommets et les origines de traces, les auteurs démontrent que les contraintes informées par la physique améliorent la tâche de classification principale et fournissent un mécanisme pour interpréter les représentations internes du modèle.
• Marquage $\tau$ unifié : Contrairement à DL1d, GN2 inclut un nœud de sortie dédié aux désintégrations de leptons $\tau$ hadroniques, permettant une classification simultanée des jets $b$, $c$, $\tau$ et légers.

Résultats
La performance de GN2 est validée à la fois en simulation Monte Carlo et dans les données de collision du Run 2 ($\sqrt{s}=13$ TeV) et du Run 3 ($\sqrt{s}=13,6$ TeV).

• Performance en simulation : Dans les événements $t\bar{t}$, pour une efficacité de marquage de jet $b$ standard de 70 %, GN2 améliore le rejet des jets $c$ d'un facteur 3 et des jets légers d'un facteur 1,6 par rapport à DL1d. Dans les événements $Z'$ à haute $p_T$, les améliorations sont encore plus prononcées, avec un rejet des jets $c$ s'améliorant d'un facteur 3 et un rejet des jets légers d'un facteur 4. L'inclusion du nœud de sortie $\tau$ produit une amélioration du rejet des jets $\tau$ allant jusqu'à un facteur 8–9.
• Performance dans les données : En utilisant 140 fb$^{-1}$ de données de collision du Run 2, la performance calibrée confirme les résultats de simulation. Pour une efficacité de marquage de jet $b$ de 70 %, le rejet mesuré des jets $c$ dans les données s'améliore d'un facteur 3,5, et le rejet des jets légers d'un facteur 1,8, par rapport à DL1d.
• Robustesse : L'algorithme montre une dépendance minimale au choix du générateur d'événements Monte Carlo (par exemple, Powheg Box, Herwig, Sherpa), les rapports de performance entre les générateurs alternatifs et la configuration nominale restant dans une plage de 1–2 % pour les jets $b$ et de 10 % pour les jets $c$.
• Performance des tâches auxiliaires : La classification de l'origine des traces atteint une efficacité et une pureté de 84 % pour les traces de saveur lourde. La capacité de recherche de sommet reconstruit avec succès les sommets secondaires avec une distribution de déplacement transverse et une masse cohérentes avec les références de niveau vérité (truth-level), bien qu'elle n'ait pas été explicitement entraînée sur la masse du sommet.

Signification
L'article affirme que GN2 apporte des bénéfices substantiels pour les analyses de physique impliquant des jets de saveur lourde. Plus précisément, les capacités de rejet améliorées devraient accroître la sensibilité des analyses phares, telles que la recherche de la production de paires de Higgs et la mesure du couplage de Yukawa du quark $c$, de près de 30 % au High-Luminosity LHC. Ce travail démontre l'intégration réussie de méthodes d'apprentissage automatique avancées (Transformers) et d'objectifs auxiliaires informés par la physique dans la physique des particules expérimentale, offrant un cadre flexible qui peut être rapidement réajusté pour des conditions expérimentales ou des objectifs physiques alternatifs. Les auteurs soulignent que les objectifs auxiliaires non seulement boostent la performance, mais ouvrent également de nouvelles voies pour l'interprétabilité et les applications futures dans la sous-structure et la reconstruction des jets.