🤖 machine learning

Transformer Geometry Observatory TGO-II: Representational Similarity Observatory

Cet article introduit le cadre Transformer Geometry Observatory-II (TGO-II) pour révéler que les Vision Transformers développent une complexité représentationnelle et une spécialisation des couches à travers une expansion progressive des variétés et des transformations plus riches, tout en maintenant des structures d'interaction entre jetons fortes tout au long de l'entraînement.

Auteurs originaux : Kaustubh Kapil, Kishor P. Upla

Publié 2026-07-03

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Kaustubh Kapil, Kishor P. Upla

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un Vision Transformer (un type d'IA qui « voit » les images) non pas comme une boîte noire, mais comme une immense usine à plusieurs étages. Chaque étage de cette usine représente une « couche » où l'IA traite l'image.

Pendant longtemps, les scientifiques savaient que cette usine s'améliorait dans son travail au fur et à mesure de son entraînement, mais ils ne comprenaient pas vraiment comment les travailleurs de chaque étage changeaient leur façon de penser au fil du temps. Ils regardaient principalement le produit final (a-t-elle reconnu le chat correctement ?) ou les outils utilisés par les travailleurs (les mécanismes d'attention).

Cet article, TGO-II, introduit un nouvel « observatoire » (une plateforme de vision technologique de pointe) pour observer exactement comment les cartes mentales du monde des travailleurs évoluent, du premier jour d'entraînement jusqu'au dernier.

Voici ce qu'ils ont découvert, expliqué par des analogies simples :

1. Les travailleurs cessent de se copier (Spécialisation)

L'analogie : Imaginez un groupe de stagiaires au Jour 1. Ils regardent tous la même photo et dessinent des croquis presque identiques. Ils pensent tous de la même manière.
La découverte : À mesure que l'entraînement progresse, les travailleurs de différents étages cessent de faire la même chose. L'article a mesuré à quel point les « croquis » (représentations) étaient similaires entre les étages. Ils ont constaté que cette similitude a diminué au fil du temps.
Ce que cela signifie : Les étages de l'usine deviennent des spécialistes. Les premiers étages peuvent se concentrer sur les bords et les formes, tandis que les derniers se concentrent sur des concepts complexes comme la « fourrure » ou les « roues ». Ils ne se contentent plus de se copier les uns les autres ; ils façonnent leurs propres rôles uniques.

2. L'espace de travail devient plus vaste et plus complexe (Expansion du manifold)

L'analogie : Imaginez que les stagiaires dessinent sur une petite feuille de papier plate. Au début, ils ne peuvent dessiner que des lignes simples. Mais à mesure qu'ils apprennent, ils réalisent qu'ils ont besoin de plus d'espace. Ils commencent à utiliser un modèle 3D, puis une projection holographique. La « pièce » dans laquelle ils travaillent devient plus grande et plus complexe.
La découverte : L'article a mesuré la « Dimensionnalité Intrinsèque », qui est essentiellement un décompte du nombre de directions ou de « degrés de liberté » différents que l'IA utilise pour décrire une image. Ils ont constaté que ce nombre a augmenté rapidement pendant l'entraînement avant de se stabiliser.
Ce que cela signifie : L'IA ne fait pas seulement mieux les mêmes vieilles astuces ; elle est littéralement en train d'étendre son espace de travail mental. Elle apprend à décrire les images en utilisant un ensemble de dimensions beaucoup plus riche et complexe qu'au départ.

3. Les travailleurs restent connectés (Couplage des tokens)

L'analogie : Une hypothèse courante était qu'à mesure que l'IA devient plus intelligente, les différentes parties de l'image (comme « l'oreille du chat » et la « queue du chat ») cesseraient de communiquer entre elles pour devenir indépendantes, comme des étrangers dans une foule.
La découverte : L'article a examiné à quel point les différentes parties de l'image s'influençaient mutuellement (covariance des tokens). Ils ont constaté que des connexions fortes subsistaient tout au long du processus d'entraînement. L'« oreille » et la « queue » n'ont jamais cessé d'interagir ; en fait, leurs modèles d'interaction sont devenus encore plus organisés et structurés.
Ce que cela signifie : L'IA ne devient pas intelligente en isolant les parties de l'image. Elle devient intelligente en apprenant à coordonner les parties de l'image de manière de plus en plus sophistiquée. L'« équipe » reste étroitement liée, même lorsqu'elle devient experte.

La grande surprise : La « Zone de Transition »

Les chercheurs ont remarqué quelque chose d'étrange se produisant autour des 4ème et 5ème étages de l'usine.

Étages 1 à 4 : Les travailleurs changeaient rapidement, et la « pièce » s'élargissait.
Étages 5 à 12 : Les travailleurs se sont installés dans un nouveau rythme. La similitude entre les étages a chuté, mais la complexité a continué de croître.
L'hypothèse : L'article suggère qu'il s'agit d'une « Zone de Transition ». Les premiers étages gèrent l'entrée brute et basique (comme la portion de pixels), et après l'étage 4 ou 5, l'IA passe à la gestion de concepts abstraits et de haut niveau. C'est comme si l'usine passait d'un travail de « chaîne de montage » à un travail de « conception créative ».

Résumé de la nouvelle théorie

Avant cet article, les gens auraient pu penser : « L'IA devient intelligente en décomposant l'image en pièces indépendantes et en les analysant séparément. »

TGO-II suggère le contraire : L'IA devient intelligente en gardant les pièces étroitement connectées, mais en rendant la façon dont elles communiquent entre elles beaucoup plus complexe et spécialisée. C'est comme un groupe de jazz : les musiciens ne cessent pas de jouer ensemble (ils ne se découplent pas) ; au contraire, ils apprennt des harmonies et des improvisations plus complexes (expansion du manifold) tandis que chaque musicien trouve son propre style de solo unique (spécialisation).

Et après ?

Les auteurs admettent qu'ils ne savent pas encore exactement ce que ces motifs complexes signifient en termes de « sens » (sémantique). Ils prévoient de construire « TGO-III » pour vérifier si cette géométrie complexe aide réellement l'IA à comprendre ce qu'est un « chat » ou une « voiture », et « TGO-IV » pour observer comment les parties individuelles de l'image bougent et changent au fil du temps.

En bref : L'IA apprend en étendant sa carte mentale, en spécialisant ses couches et en gardant ses composants internes étroitement connectés, plutôt qu'en décomposant les choses.

Résumé Technique : TGO-II : Observatoire de la Similitude Représentationnelle

Énoncé du Problème
Bien que les Vision Transformers (ViT) aient atteint des performances de pointe, l'évolution géométrique de leurs représentations internes au cours de l'entraînement supervisé reste insuffisamment comprise. Des recherches antérieures, incluant les travaux précédents des auteurs (TGO-I), se sont fortement concentrées sur les mécanismes d'attention, les réseaux de propagation directe (feed-forward) et les propriétés spectrales (valeurs propres, rang effectif) de la covariance des caractéristiques. Cependant, la similitude spectrale seule ne confirme pas si les couches effectuent des calculs similaires, car les couches peuvent partager des caractéristiques spectrales tout en occupant des sous-espaces représentationnels distincts. De plus, les analyses existantes manquent souvent d'une investigation systématique sur la manière dont la similitude des représentations, la complexité du manifold et les structures d'interaction des tokens coévoluent tout au long du processus d'entraînement.

Méthodologie
Les auteurs introduisent TGO-II (Transformer Geometry Observatory-II), un cadre conçu pour analyser la géométrie représentationnelle d'un modèle ViT-Small/16 entraîné sur ImageNet-100 pendant 100 époques. L'étude utilise un sous-ensemble fixe de 1 000 images de validation pour assurer une observabilité constante. La méthodologie emploie quatre outils analytiques principaux :

Similitude de Représentation : Mesurée par l'alignement de noyau centré (Centered Kernel Alignment - CKA) et l'analyse de corrélation canonique des vecteurs singuliers (Singular Vector Canonical Correlation Analysis - SVCCA) pour quantifier l'alignement géométrique et la similitude entre les représentations des couches au cours de l'entraînement.
Dimension Intrinsèque : Estimée à l'aide de la métrique de la dimension intrinsèque des deux plus proches voisins (Two-Nearest Neighbor Intrinsic Dimension - TwoNN-ID) pour évaluer la complexité et les degrés de liberté au sein du manifold de la représentation apprise.
Structure d'Interaction des Tokens : Analysée via les matrices de covariance des tokens et un ratio de couplage des tokens. Cette approche examine les relations par paires entre les tokens pour déterminer s'ils deviennent statistiquement indépendants (découplés) ou s'ils restent couplés à mesure que l'entraînement progresse.
Vues Complémentaires : Le cadre traite la covariance de l'espace des caractéristiques ( $C_{feat} \propto A^T A$ ) et la covariance de l'espace des tokens ( $C_{token} \propto AA^T$ ) comme des vues complémentaires de la même géométrie de représentation sous-jacente, partageant des valeurs singulières non nulles identiques.

Résultats Clés
Les expériences ont produit trois observations principales concernant l'évolution géométrique des représentations de ViT :

Spécialisation Progressive : Les scores CKA et SVCCA présentent une baisse progressive tout au long de l'entraînement. Cela indique qu'à mesure que l'entraînement progresse, les couches des transformers deviennent de plus en plus spécialisées, développant des géométries de représentation distinctes plutôt que de maintenir une redondance. Une transition notable se produit entre les Couches 4 et 5, où la similitude chute avant de se stabiliser dans les couches plus profondes.
Expansion du Manifold : La dimension intrinsèque (TwoNN-ID) augmente systématiquement durant les premières étapes de l'entraînement avant de se stabiliser. Cette tendance suggère une expansion progressive du manifold de la représentation vers un ensemble plus large de degrés de liberté localement accessibles. La dimension culmine aux couches intermédiaires (spécifiquement à la Couche 8) et diminue dans les derniers blocs, indiquant un profil de complexité dépendant de la profondeur.
Couplage Persistant des Tokens : Contrairement à l'hypothèse selon laquelle l'augmentation de la complexité provient de l'indépendance croissante des tokens, l'analyse de la covariance des tokens révèle que des structures d'interaction fortes persistent tout au long de l'entraînement. Au lieu de converger vers une matrice diagonale, la covariance des tokens évolue vers des structures organisées, de type rayures, particulièrement dans les couches profondes. Cela démontre que la complexité représentationnelle croît alors que les tokens restent fortement couplés.

Principales Contributions

Introduction du Cadre : La proposition de TGO-II comme un observatoire systématique pour étudier la dynamique d'apprentissage des transformers à travers la géométrie de la représentation, complétant l'accent spectral de TGO-I.
Preuve Empirique de Co-évolution : Fournir la preuve que l'augmentation de la complexité représentationnelle (expansion du manifold) coexiste avec la diminution de la similitude inter-couches (spécialisation) et le couplage persistant des tokens.
Réfutation du Découplage des Tokens : Remettre en question l'hypothèse de la "Diversification des Tokens" en démontant que les tokens n'atteignent pas une indépendance statistique complète ; au contraire, la complexité émerge par des transformations sophistiquées de systèmes de tokens couplés.
Identification des Zones de Transition : Mettre en évidence un changement de comportement distinct autour des Couches 4–5, suggérant une transition du traitement des interactions de tokens de bas niveau vers une représentation abstraite et dépendante du contexte.

Signification et Revendications
L'article affirme que ces résultats motivent une nouvelle hypothèse de travail : les Vision Transformers augmentent la complexité représentationnelle par des transformations progressivement plus riches de systèmes de tokens hautement couplés, plutôt que par une indépendance progressive des tokens.

Les auteurs positionnent TGO-II comme une étape nécessaire au-delà de l'analyse spectrale, arguant que comprendre la géométrie des représentations elles-mêmes est crucial pour une image complète de l'apprentissage des transformers. Le travail suggère que l'expansion spectrale observée (notée dans TGO-I) est probablement pilotée par l'Hypothèse de l'Expansion du Manifold, où le manifold de la représentation sous-jacente s'étend vers des dimensions intrinsèques plus élevées, permettant des relations de caractéristiques plus riches sans nécessiter le découplage des tokens.

Le papier reste modeste concernant les revendications sémantiques, notant que bien qu'une spécialisation représentationnelle soit observée, TGO-II ne mesure pas directement le contenu sémantique ou la séparation des classes. Par conséquent, l'hypothèse de l'Expansion Sémantique demeure inconclusive en attendant des travaux futurs. Les auteurs présentent ces découvertes comme une fondation pour de futurs observatoires (TGO-III à TGO-VI) visant à lier l'évolution géométrique à la structure sémantique, à la dynamique des tokens, aux mécanismes d'attention et aux paysages d'optimisation.