The Latent Information Geometry of Jet Classification

Cet article introduit des concepts d'information géométrique, tels que la courbure et les non-métricités, pour analyser les géométries latentes apprises par les réseaux de neurones et les appliquer à la compréhension de la physique sous-jacente à la classification des jets quark-gluon et des jets gras.

L'essentiel

🚀 Le Grand Voyage : Comprendre comment l'IA "voit" l'univers

Imaginez que vous êtes un détective dans un immense musée d'art moderne. Votre travail est de distinguer deux types de tableaux très similaires : ceux peints par un artiste calme (les quarks) et ceux peints par un artiste énergique et chaotique (les gluons).

Dans le monde de la physique des particules (au CERN), ces "tableaux" sont des gerbes de particules appelées jets, créées lors de collisions à haute énergie. Les physiciens utilisent des réseaux de neurones (de l'intelligence artificielle) pour faire ce tri. Mais souvent, l'IA est une "boîte noire" : elle donne la bonne réponse, mais personne ne sait comment elle a pris sa décision.

Cet article propose une nouvelle méthode pour ouvrir cette boîte noire. Les auteurs utilisent un outil mathématique appelé géométrie de l'information pour cartographier l'esprit de l'IA.

🗺️ L'Analogie de la Carte Déformée

Pour comprendre, imaginez que l'IA prend toutes les données complexes d'un jet (des millions de points) et les comprime dans un petit espace à 2 dimensions, comme une carte géographique. C'est ce qu'on appelle l'espace latent.

• La vision classique : On imagine que cette carte est plate, comme une feuille de papier. Si deux jets sont similaires, ils sont proches sur la feuille.
• La vision de cet article : Les auteurs disent : "Non ! Cette carte n'est pas plate. Elle est déformée, courbée et étirée, comme une surface de caoutchouc élastique."

Ils utilisent des concepts de la relativité générale (la théorie d'Einstein sur la gravité) pour mesurer ces déformations. Ils ne regardent pas seulement la distance entre deux points, mais comment la carte elle-même est tordue par l'IA pour séparer les quarks des gluons.

🔍 Les Trois Outils du Géomètre

Pour analyser cette carte déformée, les auteurs utilisent trois outils principaux, qu'ils comparent à des phénomènes physiques :

1. La Courbure (Curvature) :

   • L'analogie : Imaginez marcher sur une sphère (la Terre). Si vous marchez tout droit, vous finirez par revenir à votre point de départ. C'est de la courbure.
   • Dans l'IA : Cela mesure si l'IA crée des boucles ou des structures complexes pour séparer les classes. Les auteurs découvrent que, pour leur tâche, la carte est en fait "plate" (pas de courbure), ce qui est une surprise !

2. La Non-métricité (Nonmetricity) :

   • L'analogie : Imaginez que vous marchez sur un tapis roulant qui change de taille. Parfois, un pas de 1 mètre devient 2 mètres, parfois 0,5 mètre, selon l'endroit où vous êtes. La règle de mesure change en cours de route.
   • Dans l'IA : C'est la clé de la découverte ! L'IA ne se contente pas de courber l'espace, elle étire et comprime les distances de manière inégale. C'est cette "non-métricité" qui contient l'information cruciale pour distinguer un quark d'un gluon. C'est comme si l'IA disait : "Ici, un petit changement de données signifie une différence énorme entre les deux classes."

3. Les Géodésiques (Les chemins) :

   • L'analogie : Si vous voulez aller du point A au point B sur une montagne, le chemin le plus court n'est pas une ligne droite, mais un sentier qui suit la pente.
   • Dans l'IA : Les auteurs tracent ces chemins "idéaux" dans l'esprit de l'IA. En suivant ce chemin, ils voient comment les caractéristiques physiques du jet changent. Par exemple, en allant d'un jet de quark vers un jet de gluon sur cette carte, ils voient que le nombre de particules augmente progressivement. Cela confirme que l'IA a appris la vraie physique !

🎨 L'Expérience avec les Chiffres (MNIST)

Avant de plonger dans la physique complexe, les auteurs ont testé leur méthode sur des chiffres manuscrits (1 et 7).

• Ils ont créé une carte où le chiffre "1" et le chiffre "7" sont séparés par une frontière.
• Ils ont découvert que là où l'IA hésite (la frontière), la carte est très "étirée" (forte non-métricité). C'est là que l'IA est la plus sensible aux changements.
• Cela prouve que leur méthode fonctionne : elle montre exactement où et comment l'IA prend ses décisions.

⚛️ Le Résultat pour le CERN

En appliquant cela aux jets de particules :

1. Validation de la physique : L'IA ne fait pas de "magie". Elle utilise des caractéristiques physiques réelles (comme la multiplicité des particules ou la façon dont l'énergie est répartie) pour faire la différence.
2. La carte des classes : Pour distinguer trois types de jets (Quarks/Gluons, bosons Z, et quarks Top), ils ont vu que l'IA crée une structure géométrique très précise. Par exemple, pour passer d'un jet "Top" à un jet "Quark", l'IA passe souvent par une zone intermédiaire ressemblant à un jet "Z". C'est comme si l'IA avait compris la "famille" des particules.

💡 En Résumé

Cet article nous dit que l'intelligence artificielle en physique a une "géographie" interne.

Au lieu de voir l'IA comme une boîte noire mystérieuse, nous pouvons maintenant la voir comme un paysage déformé.

• Les zones plates sont sûres.
• Les zones étirées (non-métriques) sont les zones de décision critique.
• En étudiant la forme de ce paysage, nous pouvons vérifier si l'IA a appris les vraies lois de la physique ou si elle triche.

C'est comme si on donnait aux physiciens une boussole et une carte topographique pour naviguer dans l'esprit de l'IA, garantissant ainsi que les découvertes faites au CERN sont solides et compréhensibles.

Résumé technique

Voici un résumé technique détaillé de l'article "The Latent Information Geometry of Jet Classification" (La géométrie informationnelle latente de la classification des jets), soumis à SciPost Physics.

1. Problématique et Contexte

L'apprentissage automatique (Machine Learning - ML) est devenu un outil central en physique des hautes énergies, notamment pour la classification des jets au LHC (Large Hadron Collider). Cependant, les réseaux de neurones profonds fonctionnent souvent comme des "boîtes noires". Bien que performants, il est difficile de comprendre quelles caractéristiques physiques ils utilisent pour prendre leurs décisions et comment l'espace latent (la représentation interne du réseau) encode l'information.

Les défis spécifiques abordés dans cet article sont :

• L'interprétabilité : Comprendre la structure mathématique sous-jacente des représentations apprises par les réseaux.
• La classification des jets : La distinction entre jets de quarks et de gluons est théoriquement complexe (les jets ne sont pas bien définis au-delà de l'ordre leading en QCD perturbative) et dépend fortement des effets de shower, d'hadronisation et du détecteur.
• La géométrie cachée : Comment les réseaux codent-ils les corrélations et les similarités locales dans un espace latent de faible dimension ? La géométrie euclidienne standard est-elle suffisante ?

2. Méthodologie : Géométrie de l'Information

Les auteurs proposent une nouvelle approche basée sur la géométrie de l'information, appliquant la géométrie différentielle aux espaces de représentation des réseaux de neurones.

• Principe de base : Un réseau de classification ou un décodeur définit une famille paramétrique de distributions de probabilité. Cet ensemble forme une variété statistique.
• Outils mathématiques :
  • Métrique de Fisher : Utilisée comme tenseur métrique ($g_{ij}$) pour mesurer les distances infinitésimales entre les points de l'espace latent. Elle quantifie la sensibilité de la sortie du réseau aux changements de paramètres.
  • Connexions duales ($\nabla^{(\pm 1)}$) : Contrairement à la géométrie riemannienne standard (connexion de Levi-Civita), la géométrie de l'information utilise des connexions duales basées sur la divergence de Kullback-Leibler (KL). Ces connexions ne préservent pas la métrique (non-métricité).
  • Tenseur d'Amari-Chentsov (ACT) : Noté $C_{ijk}$, ce tenseur de rang 3 mesure la non-métricité (le taux de changement de la métrique le long d'une connexion). Il est lié à l'asymétrie (skewness) de la fonction de vraisemblance.
  • Géodésiques et autoparallèles : Les auteurs analysent les chemins optimaux (géodésiques) et les chemins parallèles (autoparallèles) dans l'espace latent pour comprendre comment les caractéristiques physiques évoluent lors de la transition entre classes.

3. Contributions Clés

L'article introduit plusieurs avancées théoriques et méthodologiques :

1. Nouveaux scalars d'invariants : Les auteurs proposent quatre nouveaux scalars construits à partir du tenseur d'Amari-Chentsov pour quantifier la complexité géométrique :
   • $C_1 = C_{ijk}C^{ijk}$ : Contraction complète du tenseur (mesure l'asymétrie globale).
   • $C_2 = \tau_i \tau^i$ : Contraction du champ de Chebyshev (trace du tenseur).
   • $C_3 = \tilde{C}_{ijk}\tilde{C}^{ijk}$ : Partie traceless du tenseur (indique une asymétrie irremplaçable et une complexité du modèle).
   • $C_4$ : Un scalaire lié à la courbure de Levi-Civita via la relation $R_{LC} = R^{(\pm 1)} + C_4$.
2. Analyse de la non-métricité : Ils démontrent que pour les classificateurs basés sur des familles exponentielles (comme les réseaux avec softmax), la courbure scalaire de Levi-Civita ($R_{LC}$) et les courbures duales ($R^{(\pm 1)}$) s'annulent. L'information géométrique est donc encodée principalement dans la non-métricité (via le tenseur ACT) et non dans la courbure.
3. Alignement Géométrie Décodeur-Classifieur : Ils comparent la géométrie induite par le classifieur (qui sépare les classes) et celle du décodeur (qui reconstruit les caractéristiques physiques). L'alignement de ces deux géométries (mesuré par une similarité cosinus) indique si les caractéristiques apprises sont physiquement pertinentes.
4. Application à la physique des jets : Application de cette méthodologie à des tâches réelles de tagging de jets (quark/gluon et classification à 3 classes : quark/gluon, Z, Top).

4. Résultats Principaux

A. Cas Toy (MNIST 1 vs 7)

Sur un jeu de données synthétique contrôlé, les auteurs montrent que :

• Les scalars $C_1, C_2, C_3$ tracent précisément les frontières de décision.
• La géométrie devient riemannienne (ACT nul) à la frontière de décision, mais présente une forte non-métricité à l'intérieur des classes.
• Les dérivées directionnelles de Fisher identifient quelles caractéristiques (ex: angle de rotation, longueur) sont les plus influentes pour changer la classification.

B. Tagging Quark-Gluon (Classification binaire)

• Géométrie : L'espace latent est essentiellement unidimensionnel pour la classification (les jets de quarks et de gluons sont séparés le long d'un axe principal), bien que l'espace latent soit 2D pour la reconstruction.
• Non-métricité : Le scalaire $C_4$ est nul, confirmant que l'information est portée par la non-métricité ($C_{1,2,3} \neq 0$).
• Interprétation physique : En suivant les géodésiques de Fisher entre les régions de quarks et de gluons, les auteurs identifient que la multiplicité des particules (multiplicity) est le facteur dominant pour la séparation, suivi par la dispersion de l'énergie transverse et l'entropie de fragmentation. Cela correspond aux attentes théoriques de la QCD (les gluons rayonnent plus que les quarks).
• Alignement : Une forte corrélation est observée entre la direction de séparation du classifieur et la reconstruction des observables physiques par le décodeur.

C. Tagging à 3 Classes (Quark/Gluon vs Z vs Top)

• Structure Latente : L'analyse révèle une structure hiérarchique intéressante. La distance de Fisher-Rao entre les jets Top et les autres classes est très grande, expliquant la performance exceptionnelle des taggers de Top.
• Interpolation : L'étude des autoparallèles montre que la transition d'un jet Top (3 prongs) vers un jet Quark/Gluon (1 prong) ne passe pas directement, mais traverse une région de caractéristiques de type Z (2 prongs). Cela suggère une séquence physique $t \to Z \to q/g$ dans l'espace latent.
• Complexité du modèle : La non-nullité de $C_3$ dans certaines régions indique que la distribution des probabilités ne peut pas être simplifiée en une distribution gaussienne par une transformation conforme, révélant la complexité intrinsèque du problème à 3 classes.

5. Signification et Perspectives

Cet article marque une avancée significative dans l'interprétabilité des modèles de ML pour la physique :

• Validation théorique : Il fournit un cadre mathématique rigoureux pour analyser ce que les réseaux apprennent, au-delà de la simple visualisation des poids.
• Nouveaux indicateurs : Les scalars $C_1, C_2, C_3$ offrent des diagnostics robustes, invariants par changement de coordonnées, pour détecter les redondances et les frontières de décision.
• Lien Physique-ML : En reliant la géométrie de l'espace latent aux observables physiques (masse du jet, N-subjettiness, multiplicité), les auteurs renforcent la confiance dans les décisions des réseaux de neurones. Ils montrent que les réseaux apprennent effectivement les mécanismes physiques sous-jacents (comme la hiérarchie de rayonnement QCD).
• Généralisation : La méthodologie est applicable à d'autres tâches de classification en physique des particules (tagging de W, Z, Higgs, b-quarks) et pourrait guider la conception de nouvelles architectures de réseaux optimisées pour la géométrie de l'information.

En conclusion, l'article démontre que l'information géométrique latente, en particulier la non-métricité, est le vecteur principal par lequel les réseaux de neurones encodent la physique complexe des jets, offrant ainsi une nouvelle fenêtre pour comprendre et améliorer les outils d'analyse du LHC.