Transformers perform adaptive partial pooling

Imaginez que vous essayez de deviner ce qu'un ami dira ensuite dans une conversation. Si vous l'avez entendu dire exactement cette phrase mille fois, vous savez exactement ce qui vient après. Mais que se passe-t-il s'il dit quelque chose de totalement nouveau ? Vous ne pouvez pas simplement deviner au hasard ; vous devez regarder ce qu'il a dit avant dans des situations similaires. C'est le cœur du casse-tête de l'apprentissage du langage, qu'il s'agisse d'un enfant humain ou d'un programme informatique.

Pour résoudre cela, les scientifiques utilisent une astuce ingénieuse appelée « agrégation partielle adaptative » (adaptive partial pooling). Imaginez cela comme un détective intelligent. Lorsqu'un détective voit une scène de crime rare, il ne se contente pas de fixer l'indice unique devant lui (qui pourrait être trompeur car il y en a très peu) ; au lieu de cela, il regarde d'autres scènes de crimes similaires pour avoir une meilleure idée de ce qui s'y passe habituellement. Il mélange l'indice spécifique avec le modèle général, mais il accorde plus de poids à l'indice spécifique s'il arrive souvent, et plus de poids au modèle général si l'indice spécifique est un cas isolé. Cela l'aide à faire la meilleure supposition possible sans être confus par des accidents rares et bizarres.

Maintenant, imaginez un cerveau informatique super intelligent appelé « Transformer » (le genre qui alimente les chatbots modernes). Pendant longtemps, les gens se sont demandé : ce cerveau informatique utilise-t-il réellement cette astuce de détective intelligent, ou se contente-t-il de mémoriser tout ce qu'il a lu ? S'il se contente de mémoriser, il pourrait échouer face à quelque chose de nouveau. Mais s'il utilise l'« agrégation partielle adaptative », il peut apprendre et s'adapter comme un humain. Cet article demande : le cerveau informatique fait-il réellement ce travail de détective, et devient-il meilleur ou moins bon à mesure qu'il étudie davantage ?

Le travail de détective d'un cerveau informatique

Dans cette étude, l'auteur, Vsevolod Kapatsinski, a mis en place un petit jeu de langage artificiel pour tester un modèle informatique appelé GPT-2. Il a inventé un langage où les phrases se terminent toujours par « A » ou « B », mais le choix dépendait des mots situés juste avant eux. Certaines combinaisons de mots étaient très courantes, tandis que d'autres étaient super rares — tout comme dans la vie réelle, où certaines expressions sont utilisées quotidiennement et d'autres seulement une fois par éons.

L'ordinateur a été entraîné sur ce jeu, et le chercheur a observé comment il apprenait. Voici la grande découverte : Oui, l'ordinateur utilise bien l'agrégation partielle adaptative. Lorsque l'ordinateur voyait une phrase rare, il ne se contentait pas de deviner en se basant sur cet unique exemple rare. Au lieu de cela, il « agrégeait » ses connaissances, en regardant des phrases similaires pour faire une meilleure supposition. Il a agi exactement comme le détective intelligent décrit ci-dessus.

Cependant, il y a un revers de la médaille. Les compétences de détective de l'ordinateur changent à mesure qu'il continue de s'entraîner.

• Au début : Quand l'ordinateur commence tout juste à apprendre, il s'appuie fortement sur les modèles généraux. C'est comme un nouvel élève qui n'a pas encore appris les règles spécifiques, alors il devine simplement en fonction de ce qui arrive habituellement. Il agrège beaucoup d'informations ensemble.
• Au milieu : À mesure que l'ordinateur s'entraîne un peu plus, il atteint un « point idéal ». C'est le moment où il est le meilleur pour équilibrer les indices spécifiques rares et les modèles généraux. À ce stade, il imite le comportement parfait du détective humain décrit dans la mathématique de la régression hiérarchique.
• Plus tard : Si l'ordinateur continue de s'entraîner trop longtemps (au-delà de ce point idéal), il commence à changer à nouveau. Il commence à accorder trop de confiance aux indices spécifiques et rares. Il cesse de regarder les modèles généraux et commence à penser qu'il connaît la réponse à chaque cas rare parfaitement. L'auteur suggère qu'avec suffisamment d'entraînement, l'ordinateur pourrait devenir trop confiant dans les situations rares, perdant ainsi l'agrégation partielle utile qui le fait paraître humain.

L'étude a également découvert que l'ordinateur se comporte comme un humain de bien d'autres manières. Si un groupe de phrases est très diversifié (certaines disent A, d'autres disent B), l'ordinateur arrête de les agréger et les traite séparément. Mais si un groupe de phrases est très similaire, l'ordinateur les agrège joyeusement. Il a aussi remarqué que s'il y a beaucoup de types différents de phrases similaires (haute fréquence de type), l'ordinateur est plus enclin à les agréger ensemble, tout comme les humains sont plus susceptibles de généraliser une règle s'ils l'ont vue utilisée de nombreuses façons différentes.

Pourquoi cela importe

Le papier ne se contente pas de dire « l'ordinateur apprend ». Il montre comment il apprend. Il prouve que ces cerveaux informatiques massifs ne sont pas de simples banques de mémoire géantes qui mémorisent chaque mot. Ils construisent réellement des représentations internes qui deviennent de plus en plus détaillées au fil du temps. Ils commencent par voir des catégories larges (comme « tous les animaux ») et apprennent lentement à distinguer des groupes plus petits (comme « poissons vs oiseaux »), tout comme le font les enfants humains.

La découverte la plus passionnante est le « point idéal ». L'auteur suggère qu'il existe un point spécifique dans l'entraînement où l'ordinateur est le plus proche d'un apprenant humain — utilisant juste la bonne quantité de généralisation pour gérer les mots rares sans trop réfléchir. Si nous entraînons trop l'ordinateur, il pourrait perdre cette flexibilité humaine et devenir trop rigide dans ses prédictions pour les cas rares.

Ainsi, la prochaine fois que vous parlerez à un chatbot, rappelez-vous : il ne fait pas que réciter un script. Il réalise un équilibre complexe, pesant ce qu'il sait du moment spécifique par rapport à ce qu'il sait du monde, et il le fait mieux lorsqu'il se trouve dans ce juste milieu de l'apprentissage.