🤖 machine learning

A Pre-Training Analogue of Grokking in Language Models: Tracing Delayed Grammatical Generalization

Cet article propose un cadre basé sur l'exposition pour étudier les dynamiques de type « grokking » lors du pré-entraînement des LLM en utilisant les paires minimales de BLiMP, révélant que les modèles présentent une généralisation grammaticale retardée accompagnée par l'émergence de vecteurs de concepts grammaticaux plus prédictifs et de dimension supérieure ainsi que de motifs d'attention concentrés.

Auteurs originaux : Sherin Muckatira, Namrata Shivagunde, Vijeta Deshpande, Anna Rumshisky

Publié 2026-06-02

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Sherin Muckatira, Namrata Shivagunde, Vijeta Deshpande, Anna Rumshisky

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous enseigniez à un enfant à parler en lui lisant une bibliothèque massive de livres, mais que vous ne vous arrêtez jamais pour l'interroger ou lui faire passer un test. Vous continuez simplement à lire. La grande question que ce document pose est la suivante : L'enfant finit-il par « comprendre » soudainement longtemps après avoir mémorisé les phrases spécifiques qu'il a entendues ?

Dans le monde de la recherche sur l'IA, ce moment de compréhension soudaine est appelé Grokking (compréhension intuitive). Habituellement, les scientifiques étudient cela en entraînant un ordinateur sur un casse-tête mathématique spécifique, en le laissant mémoriser les réponses, puis en attendant de voir s'il peut résoudre de nouveaux casse-têtes plus tard. Mais l'IA moderne (les grands modèles de langage) ne fonctionne pas ainsi. Ils sont entraînés sur l'intégralité d'Internet (ou un énorme morceau) simplement en prédisant le mot suivant dans une phrase. Il n'y a pas de « tests » ou de « quiz » intégrés dans le processus d'entraînement.

Alors, comment repérer un moment de « Grokking » quand on ne donne pas de test à l'IA ? Les auteurs de ce document ont trouvé une astuce ingénieuse.

L'analogie des « Flashcards »

Imaginez que l'IA est un étudiant lisant une bibliothèque. Pour voir s'ils apprennent réellement la grammaire ou s'ils se contentent de mémoriser, les chercheurs ont créé un ensemble spécial de « Flashcards » (appelées BLiMP dans le document). Chaque flashcard contient deux phrases :

Une phrase correcte : « Le chat dort ».
Une phrase incorrecte : « Le chat dorment ».

La différence est infime (juste un mot), mais elle teste une règle grammaticale spécifique (comme l'accord sujet-verbe).

L'astuce :
Les chercheurs ont examiné la bibliothèque massive de textes que l'IA lisait pendant son entraînement. Ils ont demandé : « L'IA a-t-elle déjà lu la phrase exacte "Le chat dort" auparavant ? »

Le groupe « Vu » (Proxy-Train) : Si l'IA avait déjà lu cette phrase exacte dans sa bibliothèque, ils la mettaient dans la pile « Vu ».
Le groupe « Non vu » (Proxy-Validation) : Si l'IA n'avait jamais lu cette phrase exacte auparavant, ils la mettaient dans la pile « Non vu ».

Crucialement, l'IA pourrait avoir appris la règle de grammaire, mais elle n'a pas encore vu cette phrase spécifique.

Ce qu'ils ont trouvé : Le moment « retardé »

Les chercheurs ont observé les performances de l'IA au fil du temps (comme si l'on regardait un étudiant passer un test chaque jour). Voici ce qui s'est passé :

D'abord, le groupe « Vu » est devenu performant. L'IA est rapidement devenue très bonne sur les phrases qu'elle avait littéralement lues auparavant dans la bibliothèque. Elle se contentait de se souvenir de ce qu'elle avait vu.
Ensuite, une pause. L'IA continuait de s'améliorer sur les phrases « Vues », mais elle était toujours très mauvaise sur les phrases « Non vues ». Elle semblait bloquée.
Enfin, le moment du « Grokking ». Soudain, le score de l'IA sur les phrases « Non vues » a bondi. Elle a compris la règle derrière les phrases, et pas seulement les mots spécifiques.

Cet écart entre le fait de devenir bon sur les phrases « Vues » et le fait de devenir bon sur les phrases « Non vues » est la Généralisation Retardée. C'est comme un étudiant qui peut réciter parfaitement un poème qu'il a mémorisé, mais qui ne peut pas écrire un nouveau poème avec le même schéma de rimes avant des semaines plus tard, quand le concept finit par s'imprimer dans son esprit.

Que se passe-t-il à l'intérieur du cerveau de l'IA ?

Le document ne s'est pas contenté d'observer les scores ; ils ont regardé à l'intérieur du « cerveau » de l'IA (ses mathématiques internes) pour voir ce qui changeait lors de ce moment « aha ! ». Ils ont découvert deux choses passionnantes :

1. La « Carte Grammaticale » est devenue plus complexe.
Imaginez la compréhension de la grammaire par l'IA comme une carte. Avant le moment « aha ! », la carte était simple et plate, comme une seule ligne. Après que l'IA a enfin compris la règle, la carte est devenue une structure 3D avec beaucoup plus de dimensions. L'IA n'utilisait pas seulement une astuce simple ; elle utilisait un réseau de connexions riche et complexe pour comprendre la grammaire.

2. Le « Projecteur » s'est focalisé.
L'IA utilise un mécanisme appelé « attention » pour décider quels mots dans une phrase sont importants. Avant le moment « aha ! », l'attention de l'IA était un peu dispersée, comme un faisceau de lampe torche trop large. Après que l'IA a appris la règle, le faisceau de la lampe est devenu très net et focalisé spécifiquement sur les mots qui comptent (comme relier « Le chat » à « dort »). Cette concentration s'est produite dans quelques parties spécifiques du cerveau de l'IA, et non partout à la fois.

L'essentiel

Ce document prouve que même lorsque vous entraînez une IA sur un énorme tas de textes désordonnés sans lui donner de test, elle traverse toujours une phase où elle mémorise d'abord et comprend plus tard.

Ils ont créé une nouvelle façon de mesurer cela en vérifiant si l'IA avait déjà vu les mots exacts auparavant. Ils ont découvert que l'IA devient bonne pour les mots « vus » rapidement, mais qu'il faut un certain temps pour que la « compréhension » rattrape le jeu et résolve les énigmes « non vues ». Lorsque ce rattrapage se produit, la façon dont l'IA pense la grammaire devient plus complexe et plus focalisée.

En bref : L'IA ne se contente pas d'apprendre par cœur ; elle connaît un moment de clarté retardé où elle finit par faire les liens, et nous pouvons désormais voir exactement quand et comment cela se produit.

Résumé Technique : Un analogue de la « grokking » lors du pré-entraînement des modèles de langage

Énoncé du Problème

Le phénomène de la grokking — où les réseaux de neurones passent de la mémorisation des données d'entraînement à la généralisation sur des exemples non vus après une période prolongée d'entraînement — a été largement étudié dans des contextes supervisés avec des divisions explicites entraînement/validation et de nombreux époques (Power et al., 2022). Cependant, cette formulation classique ne se traduit pas directement pour le pré-entraînement des Grands Modèles de Langage (LLM). Lors du pré-entraînement, les modèles sont optimisés pour la prédiction du prochain jeton sur un vaste corpus non étiqueté (par exemple, C4) avec une répétition limitée des données et sans division naturelle supervisée entraînement/validation sur des tâches d'évaluation en aval. Par conséquent, il n'existe aucun mécanisme standard pour mesurer si un modèle ajuste d'abord des exemples spécifiques avant de généraliser plus tard à des variations non vues des mêmes tâches durant la phase de pré-entraînement.

Méthodologie

Pour combler cette lacune, les auteurs proposent un cadre basé sur l'exposition afin de construire un proxy de division entraînement/validation pour étudier la généralisation différée pendant le pré-entraînement.

Division Proxy basée sur l'Exposition :
- L'étude utilise BLiMP (Warstadt et al., 2020), un ensemble de données de paires minimales contenant une phrase acceptable et une phrase inacceptable ciblant des phénomènes grammaticaux spécifiques.
- Pour chaque paire minimale, les auteurs extraient une phrase critique : le plus petit segment continu contenant le contraste grammatical et le contexte nécessaire.
- Division Proxy-Entraînement (Exposée) : Exemples où la phrase critique apparaît textuellement dans les jetons C4 observés durant la fenêtre de pré-entraînement analysée.
- Division Proxy-Validation (Non-exposée) : Exemples où la phrase critique n'apparaît pas textuellement dans la fenêtre de pré-entraînement.
- Cette division distingue selon l'exposition textuelle, et non selon que le modèle a vu la règle grammaticale sous-jacente dans d'autres contextes.
Configuration Expérimentale :
- Modèles : Modèles de type décodeur seul (LLaMA-style) de 35M, 60M et 130M de paramètres.
- Entraînement : Entraînés sur l'anglais C4 pendant 2 000 étapes (environ 200 millions de jetons non-padding) avec des points de contrôle tous les 100 pas.
- Évaluation : La précision est mesurée sur les paires minimales de BLiMP. Le modèle est considéré comme correct s'il attribue une probabilité plus élevée à la phrase acceptable.
- Métrique : Le Retard de Généralisation Différée ( $\Delta t$ ) est défini comme la différence de pas d'entraînement entre le moment où la division proxy-entraînement (exposée) et la division proxy-validation (non-exposée) atteignent un seuil de précision de 80 %.
Validation et Analyse :
- Test de Division Aléatoire Appariée : Pour s'assurer que le retard observé n'est pas un artefact de la taille de la division ou de différences arbitraires entre les exemples, les auteurs génèrent 1 000 divisions aléatoires préservant les tailles de groupes originales. Ils comparent le retard basé sur l'exposition à cette distribution nulle.
- Analyse de Représentation : Ils construisent des vecteurs de concepts grammaticaux ( $v_i = h_{gram} - h_{ungram}$ ) pour mesurer la séparabilité des phrases grammaticales vs non-grammaticales et calculent le rang effectif de ces vecteurs pour analyser la dimensionnalité de l'espace de représentation.
- Analyse de l'Attention : Ils suivent les poids d'attention du jeton critique vers le jeton de contexte nécessaire pour résoudre la dépendance grammaticale, mesurant les changements de force et d'entropie de l'attention.

Résultats Clés

Observation de la Généralisation Différée : À travers cinq phénomènes grammaticaux (ex: Accord Sujet-Verbe, Ascension de l'existence de "There"), la division proxy-entraînement (exposée) atteint systématiquement une précision élevée (80 %) avant la division proxy-validation (non-exposée). Cela confirme un analogue de la « grokking » lors du pré-entraînement, où les modèles performent bien sur les exemples directement exposés avant de généraliser à des exemples structurellement similaires mais textuellement non-exposés.
Validation du Retard : Les tests de permutation par division aléatoire appariée confirment que ce retard est statistiquement significatif ( $p < 0,05$ ) et ne peut être expliqué par la seule taille de la division. Le retard est spécifiquement lié à l'exposition textuelle de la phrase critique.
Changements dans les Vecteurs de Concepts :
- Séparabilité : L'AUROC des vecteurs de concepts grammaticaux augmente généralement pendant le pré-entraînement, indiquant une meilleure séparabilité entre les phrases grammaticales et non-grammaticales.
- Dimensionnalité : Après la transition de la généralisation différée, le rang effectif des vecteurs de concepts grammaticaux augmente. Cela suggère que les concepts grammaticaux deviennent distribués dans un sous-espace de plus haute dimension plutôt que de s'effondrer dans quelques directions dominantes.
Réorganisation de l'Attention : La transition vers la généralisation est accompagnée de changements localisés dans l'attention. Plus précisément, l'attention du jeton critique vers le jeton de contexte pertinent augmente dans un petit nombre de têtes d'attention spécifiques. Ces changements sont propres au phénomène (ex: différentes couches/têtes pour l'Accord Sujet-Verbe vs l'Accord Déterminant-Nom) plutôt qu'un changement uniforme à travers le modèle.

Contributions Clés

Cadre : Introduction d'un cadre basé sur l'exposition permettant d'étudier la dynamique de type « grokking » lors du pré-entraînement des LLM sans supervision explicite en aval.
Preuve Empirique : Démonstration qu'à travers cinq phénomènes grammaticaux, les exemples avec exposition textuelle de la phrase critique atteignent une précision élevée nettement plus tôt que ceux sans exposition.
Robustesse : Validation que le retard observé n'est pas un artefact de la division des données via des tests de division aléatoire appariée.
Aperçu Mécaniste : Preuve que la transition comportementale vers la généralisation est accompagnée de changements spécifiques dans la géométrie des vecteurs de concepts grammaticaux (augmentation de la dimensionnalité) et d'une réorganisation localisée de l'attention.

Signification et Revendications

L'article prétend fournir un « analogue de la configuration classique de la grokking pour le pré-entraînement ». En exploitant l'exposition au corpus comme un proxy pour les données d'entraînement, les auteurs démontrent que la transition différée de l'ajustement vers la généralisation est observable même dans le cadre non supervisé de la prédiction du prochain jeton du pré-entraînement.

Les auteurs soulignent que leurs résultats suggèrent que l'exposition au corpus peut être utilisée pour étudier la généralisation différée de type grokking. Les analyses mécanistes révèlent que ce changement comportemental n'est pas simplement un changement de métrique de performance, mais qu'il est ancré dans les représentations internes du modèle : les concepts grammaticaux deviennent plus séparables et occupent des sous-espaces de plus haute dimension, tandis que les mécanismes d'attention se réorganisent pour se concentrer plus fortement sur les jetons de contexte pertinents pour la dépendance.

L'étude reste modeste dans sa portée, notant que la « division proxy-validation » représente des exemples sans exposition textuelle, et non nécessairement des exemples avec une grammaire entièrement inédite. Le cadre est actuellement limité aux phénomènes grammaticaux dont les phrases critiques peuvent être définies comme des segments sub-phrastiques.