Résumé Technique : Compréhension Émergente des Rôles Sémantiques dans les Modèles de Langage

Énoncé du Problème

Le problème central abordé est l'ambiguïté entourant l'origine des capacités linguistiques dans les grands modèles de langage (LLM). Plus précisément, il reste unclear si la compréhension des rôles sémantiques (SRL) — la capacité à identifier « qui a fait quoi à qui » (structure prédicat-argument) — émerge uniquement de l'entraînement préalable sur des objectifs de prédiction du token suivant, ou si c'est une capacité qui nécessite un ajustement fin spécifique à la tâche. Bien que les LLM démontrent une généralisation à travers les tâches, la mesure dans laquelle des structures sémantiques spécifiques sont encodées dans les poids pré-entraînés par rapport à celles apprises lors de l'adaptation n'est pas entièrement caractérisée. De plus, la relation entre l'échelle du modèle et l'émergence de ces capacités, ainsi que les mécanismes neuronaux internes (par exemple, représentations distribuées versus localisées) qui les soutiennent, nécessitent une investigation systématique.

Méthodologie

Les auteurs emploient une conception expérimentale contrôlée impliquant l'entraînement de modèles transformateurs uniquement décodeurs à partir de zéro pour isoler les effets de l'entraînement préalable de l'ajustement fin.

1. Entraînement du Modèle : Quatre modèles transformateurs uniquement décodeurs (Tiny, Small, Base, Medium) allant de 0,4 M à 57 M de paramètres ont été entraînés à partir de zéro sur le corpus WikiText-103 en utilisant un objectif de modélisation du langage causal (prédiction du token suivant). L'architecture suit les normes GPT-2/GPT-3 avec des embeddings liés et un vocabulaire fixe.
2. Définition de la Tâche : La tâche d'évaluation est l'étiquetage des rôles sémantiques piloté par des questions-réponses (QA-SRL). Cela reformule la SRL comme une réponse à des questions extractives (par exemple, « Qui a fait une promenade ? » pour identifier l'Agent), évitant ainsi l'annotation explicite du schéma PropBank lors de la phase de sondage.
3. Protocoles de Sondage :
   • Ajustement Fin Complet : Tous les paramètres (transformateur et tête QA) sont mis à jour pour établir une limite supérieure de performance.
   • Sonde Linéaire Gelée : Les poids du transformateur pré-entraîné et les embeddings de position sont gelés. Seuls les embeddings de tokens (pour s'adapter au format [question] [SEP] [sentence]) et la tête QA sont entraînés. Cela teste si l'information sur les rôles sémantiques est décodable à partir des représentations pré-entraînées.
   • Base de Référence Aléatoire : Un modèle non entraîné (initialisé aléatoirement) avec des embeddings et une tête QA entraînés sert de plancher de performance pour distinguer les représentations apprises de la capacité aléatoire.
   • Score d'Émergence Normalisé : Défini comme $E = \frac{F1_{gelé} - F1_{aléatoire}}{F1_{complet} - F1_{aléatoire}}$, quantifiant la fraction de la performance de la tâche présente dans l'entraînement préalable.
4. Analyse Mécanistique :
   • CKA Temporel : L'Alignement du Noyau Centré est utilisé pour mesurer la dérive des représentations entre les points de contrôle de l'ajustement fin et le modèle pré-entraîné.
   • Ablation de Neurones : L'Analyse en Composantes Principales (PCA) identifie des « neurones sélectifs de rôle » (par exemple, des neurones très actifs pour les rôles Agent ou Temps). Ces neurones sont ablatés (poids mis à zéro) pour tester la nécessité causale.
   • Visualisation : La PCA et le t-SNE sont utilisés pour visualiser le regroupement des rôles sémantiques dans l'espace des représentations.

Résultats Clés

1. Émergence de la Compréhension des Rôles Sémantiques

• Contribution de l'Entraînement Préalable : Les sondes gelées surpassent systématiquement les bases de référence aléatoires à toutes les échelles de modèles, avec un écart de 12 à 19 points F1. Cela confirme que la structure prédicat-argument est encodée lors de l'entraînement préalable seul.
• Dépendance à l'Échelle : Bien que l'entraînement préalable fournisse une base constante d'informations sémantiques, le score d'émergence normalisé diminue à mesure que l'échelle du modèle augmente. Cela s'explique par le fait que la contribution de l'ajustement fin ($\Delta_{ft}$) croît considérablement avec l'échelle (de ~8 à ~21 points F1), tandis que la contribution de l'entraînement préalable ($\Delta_{pre}$) reste relativement constante. Ainsi, les modèles plus grands reposent davantage sur l'ajustement fin pour atteindre des performances maximales, même si l'information fondamentale est présente dans l'entraînement préalable.
• Encodage par Couche : Des sondes linéaires sur des représentations purement pré-entraînées (sans aucune adaptation d'embedding) atteignent 10 à 26 % F1, confirmant que l'information réside dans les poids du transformateur. Les couches plus profondes montrent généralement une décodabilité plus élevée.

2. Dynamique des Représentations Internes

• Dérive des Représentations : Pendant l'ajustement fin, les couches plus profondes divergent le plus significativement de l'état pré-entraîné (le CKA chute à 0,25–0,49), indiquant une réorganisation substantielle des représentations sémantiques.
• Sélectivité des Neurones : Des neurones spécifiques dans les couches feed-forward présentent une sélectivité pour les rôles sémantiques (par exemple, « neurones Agent », « neurones Temps »).
  • Neurones Temps : Montrent une importance causale cohérente à toutes les échelles ; leur ablation réduit la performance.
  • Neurones Agent : Présentent un renversement dépendant de l'échelle. Dans les petits modèles, l'ablation des neurones Agent nuit à la performance (causal). Dans les modèles plus grands (Base et Medium), l'ablation de ces neurones améliore la performance, suggérant que ces neurones deviennent interférents ou redondants dans des capacités plus grandes.
  • Neurones Lieu/Manière : Montrent des effets causaux minimes, suggérant que ces rôles sont représentés de manière plus distribuée plutôt que par des neurones localisés spécifiques.
• Co-activation : Les neurones du même rôle montrent des corrélations de co-activation plus élevées que les neurones de rôles croisés, mais cette séparation est faible et augmente avec la profondeur de la couche.

3. Replication

Les résultats concernant la transition dépendante de l'échelle des neurones Agent (de causal à interférent) ont été répliqués sur les modèles GPT-2 (124M, 355M) et Pythia (70M, 160M, 410M), confirmant que le phénomène n'est pas un artefact de la configuration d'entraînement ou du corpus spécifique.

Contributions Clés

1. Méthodologie Systématique : Un cadre pour distinguer entre l'information décodable à partir des poids pré-entraînés et l'information créée pendant l'ajustement fin, utilisant le sondage linéaire et les scores d'émergence normalisés.
2. Analyse Temporelle : Introduction d'un cadre basé sur le CKA pour suivre l'évolution des représentations pendant l'ajustement fin par rapport au modèle nul pré-entraîné.
3. Identification de Mécanismes Neuronaux : Découverte de neurones sélectifs de rôle et preuve que les rôles sémantiques forment des clusters distincts dans l'espace des représentations, avec une séparation augmentant dans les couches plus profondes.
4. Réorganisation Dépendante de l'Échelle : Preuve empirique que l'implémentation neuronale des rôles sémantiques change avec l'échelle. Plus précisément, la transition des neurones sélectifs d'Agent d'une nécessité causale dans les petits modèles à une interférence dans les grands modèles remet en question l'hypothèse selon laquelle les circuits identifiés dans les petits modèles conservent leur fonction à des échelles plus grandes.

Importance et Revendications

L'article revendique que la compréhension des rôles sémantiques est une capacité qui émerge de l'entraînement préalable seul, même à de petites échelles de modèles, et ne nécessite pas strictement une supervision spécifique à la tâche pour être encodée. Cependant, l'efficacité et l'implémentation de cette capacité changent avec l'échelle.

Les auteurs soutiennent que :

• L'émergence n'est pas binaire : C'est un processus continu où l'entraînement préalable fournit une fondation substantielle (12–19 points F1), mais l'ajustement fin est requis pour optimiser pleinement la performance, en particulier dans les modèles plus grands.
• L'interprétabilité est possible : L'existence de neurones sélectifs de rôle suggère que les capacités linguistiques émergentes peuvent être partiellement localisées, les rendant accessibles à l'interprétabilité mécaniste.
• La stabilité des circuits n'est pas garantie : La découverte selon laquelle les neurones Agent deviennent interférents dans les modèles plus grands suggère que les circuits neuronaux ne sont pas statiques ; ils subissent une réorganisation à mesure que la capacité augmente. Cela implique que les insights obtenus en analysant des modèles plus petits ne peuvent pas être directement transférés à des systèmes plus grands et plus performants sans tenir compte de ces changements structurels.
• Interférence inter-rôle : Les modèles plus grands présentent des interactions complexes où des neurones spécifiques à un rôle peuvent supprimer d'autres rôles, un phénomène absent dans les modèles plus petits.

Le travail conclut que bien que les objectifs de modélisation du langage soient suffisants pour encoder la structure des rôles sémantiques, l'organisation interne de cette connaissance évolue considérablement avec l'échelle du modèle, passant de représentations plus concentrées et causales à des représentations distribuées, et parfois interférentes.