Linear representations of grammaticality in neural language models

Imaginez que vous essayez d'apprendre à un robot à comprendre le langage humain. Vous lui injectez des millions de livres, de films et de tweets, et il apprend à prédire le mot suivant dans une phrase avec une précision incroyable. Mais voici le grand mystère qui a tenu les scientifiques éveillés la nuit : ce robot connaît-il réellement les règles de grammaire, ou n'est-il qu'un devin expert ?

Dans le monde de la linguistique et de l'informatique, il existe un débat célèbre à ce sujet. D'un côté, certains soutiennent que, puisque ces robots (appelés modèles de langage neuronaux) sont entraînés pour prédire ce qui vient ensuite en fonction de la fréquence d'apparition des choses, ils ne font que calculer une « probabilité ». Ils pourraient juger une phrase « bonne » simplement parce qu'elle semble familière, et non parce qu'elle suit les règles invisibles et abstraites de la grammaire. De l'autre côté, d'autres pensent que si un robot est capable de distinguer systématiquement une phrase correcte d'une phrase brisée, c'est qu'il a forcément appris les règles, même s'il ne peut pas les expliquer. Le problème est que, pendant longtemps, la seule façon de tester cela était de demander au robot : « Quelle est la probabilité de cette phrase ? » Mais si le robot dit : « Très probable ! » pour une phrase qui est en fait grammaticalement incorrecte mais qui utilise simplement des mots courants, nous ne pouvons pas savoir s'il connaît la grammaire ou s'il connaît seulement les statistiques.

Cet article, intitulé « Représentations linéaires de la grammaticalité dans les modèles de langage neuronaux », plonge directement dans ce débat complexe. Les auteures, Jane Li et Najoung Kim, ont décidé de ne plus demander au robot quelle est la probabilité d'une phrase. À la place, elles ont décidé de regarder à l'intérieur du cerveau du robot. Elles voulaient voir si les « pensées » internes du robot (ses représentations mathématiques de phrases) possèdent réellement un espace spécial et organisé où les phrases « grammaticales » et « agrammaticales » habitent dans des quartiers séparés. Si elles parviennent à trouver une ligne claire séparant ces deux groupes à l'intérieur de l'esprit du robot, ce serait une preuve solide que le robot a véritablement appris le concept de grammaire, et non seulement le concept de « ce qui semble courant ».

Le travail de détective : Regarder à l'intérieur du cerveau

Pour résoudre ce mystère, les chercheuses ont utilisé une astuce ingénieuse appelée « sondage linéaire » (linear probing). Imaginez le cerveau du robot comme une carte géante et multidimensionnelle. Chaque phrase que lit le robot est transformée en un point spécifique sur cette carte. Si le robot ne se soucie que de la fréquence des mots, tous les points pourraient être dispersés de manière aléatoire ou regroupés selon le nombre de mots dans la phrase. Mais si le robot comprend réellement la grammaire, il devrait y avoir une direction claire sur cette carte où les « bonnes phrases » se trouvent d'un côté et les « mauvaises phrases » de l'autre.

Les chercheuses ont pris 25 modèles de langage différents (allant de modèles minuscules de 14 millions de paramètres à des modèles massifs de 14 milliards) et les ont testés. Elles ont soumis aux modèles des milliers de phrases — certaines parfaitement grammaticales, d'autres avec de petites erreurs délibérées comme « Ce chien aime sauter » au lieu de « Ce chien aime sauter » (en anglais : This dog like to jump au lieu de This dog likes to jump). Ensuite, elles ont essayé de tracer une ligne droite simple à travers la carte interne du robot pour voir si elle pouvait séparer les bonnes phrases des mauvaises.

La grande découverte : La grammaire est réelle (et linéaire)

Les résultats étaient passionnants. Elles ont découvert que, dans presque tous les modèles testés, il y avait effectivement une ligne claire. Même un classificateur très simple et de faible complexité pouvait regarder la représentation interne d'une phrase par le robot et dire : « Ah, celle-ci est grammaticale » ou « Non, celle-là est brisée ». Cela suggère que la grammaticalité n'est pas seulement un sentiment flou pour ces modèles ; c'est une dimension distincte et organisée dans leur espace interne.

Mais les chercheuses ne s'en sont pas arrêtées là. Elles savaient que le simple fait que le robot puisse séparer les phrases ne signifiait pas qu'il les séparait à cause de la grammaire. Peut-être le séparait-il simplement parce que les mauvaises phrases étaient moins susceptibles de se produire, ou parce qu'elles sonnaient bizarrement, ou parce qu'elles contenaient moins de mots. Pour prouver qu'il s'agissait réellement de grammaire, elles ont joué à quelques jeux de « déconfusion » (deconfounding).

Le piège de la probabilité :
D'abord, elles ont demandé : « Le robot regarde-t-il simplement la probabilité de la phrase ? » Elles ont créé un scénario délicat en prenant des phrases grammaticales qui étaient très improbables (rares mais correctes) et des phrases agrammaticales qui étaient très probables (communes mais incorrectes). Si le robot n'était qu'un calculateur de probabilités, il aurait dû être confus et échouer. Mais il ne l'a pas été. Le robot a tout de même correctement identifié les phrases rares et correctes comme étant grammaticales et les phrases communes et incorrectes comme étant agrammaticales. Cela suggère que le « détecteur de grammaire » du robot est indépendant de la probabilité qu'une phrase apparaisse dans la vie réelle.

Le test de la « phrase idiote » :
Ensuite, elles se sont demandé si le robot jugeait simplement si une phrase était « sensée » ou « plausible ». Elles ont testé des phrases grammaticalement parfaites mais qui n'avaient aucun sens (comme « Le rocher a mangé le sandwich ») et des phrases grammaticalement brisées mais qui avaient du sens (comme « Le sandwich a mangé le rocher »). Elles ont découvert que, bien que le robot ait remarqué l'absurdité, il possédait toujours un signal distinct et robuste pour la grammaire. La « ligne de grammaire » dans le cerveau du robot était distincte de la « ligne de l'absurdité ».

Le traducteur universel :
Enfin, elles ont vérifié si cette connaissance de la grammaire était spécifique à l'anglais ou s'il s'agissait d'une compétence universelle. Elles ont testé les modèles sur des langues comme le russe, le français, l'allemand, l'hébreu et le mandarin. Elles ont découvert que, pour les modèles plus grands et plus puissants, la capacité à détecter la grammaire n'était pas seulement un tour de passe-passe anglais. Le même type de « ligne de grammaire » existait à travers différentes langues, suggérant que ces modèles ont développé une manière générale et indépendante des langues de comprendre la structure.

Ce que cela signifie pour l'avenir

L'article conclut que ces réseaux neuronaux possèdent effectivement une représentation interne robuste de la grammaticalité. Ce n'est pas seulement un effet secondaire de leur capacité à deviner le mot suivant ; c'est une partie fondamentale de la façon dont ils organisent l'information.

Cependant, les auteures prennent soin de ne pas dire que c'est le dernier mot sur la question. Elles notent que, bien que la « ligne de grammaire » existe, elle n'est pas toujours parfaite. Les modèles plus petits rencontrent parfois plus de difficultés que les géants, et certains types spécifiques d'erreurs grammaticales sont plus difficiles à détecter que d'autres. Elles soulignent également que, bien que les modèles possèdent cette connaissance interne, elle ne correspond pas toujours parfaitement à la façon dont les humains jugent les phrases.

En fin de compte, cette recherche change la conversation. Nous n'avons plus besoin de débattre pour savoir si ces modèles connaissent la grammaire. Les preuves suggèrent qu'ils la connaissent. La nouvelle question est : comment l'ont-ils apprise, jusqu'où va cette connaissance, et que nous apprend cela sur la nature même de l'apprentissage ? En montissant qu'un système statistique peut développer une compréhension linéaire claire des règles abstraites, l'article suggère que la capacité de saisir la grammaire pourrait ne pas nécessiter un « livre de règles » spécial dans le cerveau, mais peut émerger naturellement de la puissance pure de l'apprentissage des motifs dans les données. C'est un aperçu fascinant de l'esprit d'une machine, montrant que même sans professeur, un robot peut apprendre à faire la différence entre une phrase qui fonctionne et une qui ne fonctionne pas.