Linear Representations of Hierarchical Concepts in Language Models

1. Problématique et Contexte

La question de savoir si et comment les modèles de langage (LM) forment des représentations géométriques de concepts est fondamentale pour la compréhension théorique et pratique de l'IA. Des travaux récents ont démontré que les LM encodent linéairement diverses structures (couleurs, relations spatiales, temporelles). Cependant, la compréhension de la manière dont les hiérarchies de concepts (par exemple : Osaka ⊂ Japon ⊂ Asie) sont représentées reste limitée.

Les limites des travaux antérieurs (notamment Park et al., 2025) sont doubles :

1. Restriction aux couches finales : Ils se concentrent uniquement sur la couche de décodage (unembedding), ignorant les relations encodées dans les couches intermédiaires.
2. Limitation aux tokens uniques : Leurs méthodes ne gèrent pas les entités composées de plusieurs tokens (ex: Babe Ruth ou Baseball Player), se limitant aux mots uniques du vocabulaire.

L'objectif de cet article est de combler ces lacunes en investiguant comment les LM représentent des hiérarchies impliquant des entités diversifiées (multi-tokens) à travers leurs couches intermédiaires.

2. Méthodologie : Linear Hierarchical Encoding (LHE)

Les auteurs proposent un cadre d'analyse appelé Linear Hierarchical Encoding (LHE), basé sur les concepts de Linear Relational Concepts (LRC).

A. Construction des Données

• Données hiérarchiques : Création d'un jeu de données couvrant cinq domaines : Localités, Personnes, Organisations, Organismes et Sujets de recherche.
• Entités multi-tokens : Contrairement aux études précédentes, les nœuds peuvent être des phrases entières (ex: The New York Times Company).
• Filtrage : Seules les instances où le modèle répond correctement à une question à choix multiples en few-shot sont conservées, garantissant que le modèle possède la connaissance hiérarchique.

B. Le Cadre LHE

L'approche modélise la relation parent-enfant dans une hiérarchie comme une transformation linéaire spécifique à la profondeur et au domaine.

• Représentation : Pour une relation $(s, r, o)$ où $s$ est l'enfant et $o$ le parent, le modèle apprend une transformation linéaire $R_r$ qui mappe la représentation de l'enfant vers celle du parent.
• Spécificité de la profondeur : Des transformations distinctes sont apprises pour chaque niveau de profondeur (ex: profondeur 4→3 vs 3→2).
• Vecteurs de concepts : En utilisant une pseudo-inverse de rang faible ($W^\dagger_r$) sur les données d'entraînement, les auteurs dérivent des vecteurs de concepts ($v_{r,c}$) qui servent de prototypes directionnels pour les nœuds enfants appartenant à un concept parent donné.

C. Métriques d'Évaluation

1. Précision (Accuracy) : Capacité à décoder linéairement le parent correct à partir de la représentation interne de l'enfant.
2. Causalité (Causality) : Mesure de l'impact interventionnel. En ajoutant ou soustrayant les vecteurs de concepts aux états cachés, les auteurs vérifient si la prédiction du modèle change de manière prévisible (ex: faire passer la prédiction de "France" à "Allemagne" pour "Paris est partie de...").

3. Contributions Clés

1. Extension aux couches intermédiaires et aux entités multi-tokens : L'analyse ne se limite pas à la couche de sortie et couvre des entités complexes, offrant une vue plus complète de la capacité représentationnelle du modèle.
2. Décodabilité et Causalité : Démonstration que les relations hiérarchiques sont non seulement décodables linéairement, mais que les vecteurs extraits ont un effet causal direct sur les prédictions du modèle.
3. Analyse de la géométrie de l'espace de représentation :
   • Identification d'un sous-espace de faible dimension (environ 150-250 dimensions) où l'information hiérarchique est concentrée.
   • Mise en évidence que ce sous-espace est spécifique au domaine (les directions causales diffèrent entre "Localités" et "Personnes").
   • Découverte que, malgré cette spécificité, la structure topologique de ces représentations est hautement similaire à travers les différents domaines.

4. Résultats Expérimentaux

Les expériences ont été menées sur quatre modèles (Llama 3.2 3B, Llama 3.1 8B, Qwen3 8B, Qwen3 14B) et cinq domaines.

• Performance de LHE : La méthode LHE surpasse systématiquement les baselines (SVM et moyennage des entrées) en termes de Précision et de Causalité. Par exemple, sur Llama 3.1 8B, la précision atteint jusqu'à 0,93 pour les organisations.
• Généralisation intra-domaine : Les relations hiérarchiques peuvent être récupérées linéairement au sein d'un même domaine.
• Transfert inter-domaine :
  • La Précision reste relativement élevée lors du transfert entre domaines, suggérant que les indices pour décoder la hiérarchie sont partagés.
  • La Causalité chute drastiquement lors du transfert de domaine. Cela indique que les caractéristiques qui permettent de décoder la hiérarchie ne sont pas les mêmes que celles qui influencent causalement la prédiction du modèle. Les mécanismes causaux sont donc localisés dans des sous-espaces spécifiques au domaine.
• Similarité structurelle (TDA) : En utilisant l'analyse topologique des données (Topological Data Analysis) et la distance de Wasserstein, les auteurs montrent que la forme géométrique des représentations hiérarchiques est similaire d'un domaine à l'autre, contrairement aux ensembles de données non hiérarchiques (comme les avis de films ou le code).

5. Signification et Conclusion

Ce travail établit que les modèles de langage encodent les hiérarchies de concepts sous forme de représentations linéaires hautement interprétables.

• Organisation générale : Les LM partagent une organisation générale pour les hiérarchies, visible dans la similarité structurelle des sous-espaces à travers les domaines.
• Spécificité locale : Cependant, l'encodage effectif qui influence la génération de texte est ancré dans des sous-espaces de faible dimension spécifiques à chaque domaine.
• Implications : Ces résultats renforcent l'hypothèse de représentations linéaires dans les LM et ouvrent la voie à des techniques de "representation engineering" pour contrôler ou inspecter la connaissance hiérarchique des modèles, même pour des entités complexes.

En résumé, l'article démontre que la géométrie interne des LM capture la structure hiérarchique du monde de manière systématique, bien que les mécanismes d'activation spécifiques varient selon le contexte sémantique.