A Circuit for In-Context Learning
Cet article identifie et valide de manière causale un circuit neuronal spécifique et conservé dans les modèles transformer qui permet l'apprentissage en contexte pour la classification de phrases à quelques exemples, en implémentant un mécanisme de mémoire associative à porte où les têtes des couches intermédiaires stockent les correspondances étiquette-classe et les têtes des couches supérieures les récupèrent sur la base de correspondances de requêtes.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez un modèle de langage comme une vaste bibliothèque de connaissances humaines, entraînée sur des milliards de phrases. Lorsque vous lui posez une question, il répond généralement en se basant sur ce qu'il a mémorisé. Mais il existe un tour de force particulier qu'il peut accomplir, appelé « apprentissage en contexte » (in-context learning). Si vous montrez au modèle quelques exemples d'une nouvelle tâche juste avant de poser votre question — par exemple en lui montrant une douzaine de phrases associées à des étiquettes inventées — il peut instantanément apprendre le schéma et l'appliquer à votre nouvelle phrase, sans jamais modifier ses poids internes ni être réentraîné. Il déduit la règle en un seul instant de lecture. Pendant des années, les scientifiques ont su que cela se produisait, mais ils ne savaient pas comment la machine opérait réellement. Ils pouvaient voir le résultat, mais les rouages tournant à l'intérieur de cette boîte noire demeuraient un mystère.
Une équipe de chercheurs a désormais ouvert cette boîte et cartographié la machinerie exacte derrière cette capacité. En étudiant trois modèles de langage de grande taille différents, ils ont découvert que le modèle n'« apprend » pas une règle au sens traditionnel du terme. Au lieu de cela, il construit une mémoire temporaire à l'intérieur même de l'invite (le prompt), en utilisant un ensemble spécifique de têtes d'attention — des unités de traitement spécialisées au sein du réseau — qui agissent comme des écrivains, des lecteurs et des gardiens. Ils ont découvert que le modèle traite les exemples que vous lui donnez comme un système de mémoire clé-valeur. Lorsque vous présentez une phrase suivie d'une étiquette, le modèle écrit l'identité de cette étiquette dans un emplacement spécifique de sa mémoire, tout en écrivant simultanément une « clé » qui décrit le type de phrase qu'il vient de voir. Plus tard, lorsque le modèle rencontre la question finale, il calcule un code pour cette question et l'utilise pour fouiller dans sa mémoire temporaire, faisant correspondre le type de la question avec les clés stockées précédemment pour récupérer l'étiquette correcte.
Les chercheurs ont retracé ce processus étape par étape, en utilisant une méthode qui leur a permis d'échanger les parties de l'activité interne du modèle entre différents prompts afin de voir quels éléments étaient essentiels. Ils ont découvert qu'environ vingt têtes de couches intermédiaires agissent comme des écrivains, prenant la classe de chaque phrase de démonstration et la déposant dans l'emplacement mémoire de l'étiquette suivante. Ensuite, environ quatre-vingt-dix têtes de couches supérieures agissent comme des lecteurs. Ces lecteurs scannent la mémoire, cherchant des emplacements où la clé stockée correspond à la classe de la question actuelle. Lorsqu'ils trouvent une correspondance, ils copient l'étiquette de cet emplacement vers la réponse finale. Cependant, ce système de récupération n'est pas toujours actif. Les chercheurs ont découvert un « garde-fou » (gate) qui décide si le modèle doit lire la mémoire ou non. Ce garde-fou vérifie si une étiquette présente dans les exemples est apparue plus d'une fois. Si une étiquette se répète, le garde-fou s'ouvre, permettant aux lecteurs de chercher dans la mémoire. Si aucune étiquette ne se répète, le garde-fou reste fermé, et le modèle choisit par défaut d'ignorer les exemples, un comportement qui l'empêche de deviner au hasard lorsqu'aucun schéma clair n'existe.
Pour s'assurer que le modèle réponde correctement, un autre ensemble d'environ deux douzaines de têtes agit comme des « freins ». Ces têtes travaillent contre l'étiquette vue la plus récemment, empêchant le modèle de simplement copier le dernier exemple lu, un biais courant appelé récence. Sans ces freins, le modèle ignorerait souvent le schéma pour simplement répéter la dernière étiquette rencontrée. Les chercheurs ont également découvert que le modèle s'appuie sur un « puits » (sink), une position par défaut vers laquelle l'attention se dirige lorsqu'il n'y a rien de spécifique sur quoi se concentrer. Le garde-fou fonctionne en abaissant l'attraction vers ce puits, forçant les lecteurs à regarder les véritables emplacements de la mémoire.
Ce qui rend cette découverte particulièrement robuste, c'est que les chercheurs ne se sont pas contentés d'observer le comportement ; ils l'ont prouvé en coupant les connexions. Lorsqu'ils ont bloqué les écrivains, le modèle ne pouvait plus stocker les clés. Lorsqu'ils ont bloqué les lecteurs, il ne pouvait plus les trouver. Lorsqu'ils ont supprimé le garde-fou, le modèle tentait de lire la mémoire même lorsqu'aucun schéma n'existait, ce qui entraînait des erreurs. Ils ont même construit une version minuscule et codée à la main de ce circuit à partir de zéro, et elle fonctionnait exactement comme prévu, confirmant que ces parties spécifiques sont suffisantes pour accomplir la tâche. L'étude a également révélé que, bien que les têtes spécifiques effectuant ces tâches varient légèrement d'un modèle à l'autre, l'architecture globale du circuit reste la même.
La découverte la plus surprenante concerne la gestion de la taille de la tâche par le modèle. Les chercheurs ont découvert que le modèle ne repose pas sur une seule tête puissante pour faire tout le travail. Au lieu de cela, la tâche est partagée entre de nombreuses têtes travaillant de concert. Aucune tête de lecture individuelle n'est assez forte pour produire la réponse finale à elle seule ; le modèle a besoin de la sortie combinée de dizaines d'entre elles pour générer une prédiction confiante. Cela explique pourquoi le modèle utilise de telles populations de têtes pour cette tâche. De plus, l'étude a montré qu'à mesure que les modèles s'agrandissent, ils n'inventent pas de nouvelles parties pour résoudre le problème. Au lieu de cela, ils renforcent simplement les populations existantes. Les « freins » qui empêchent le modèle d'être biaisé par l'exemple le plus récent deviennent plus forts dans les modèles plus grands, ce qui explique pourquoi les modèles plus imposants sont meilleurs pour suivre le schéma des exemples plutôt que de se fier à leur propre connaissance pré-entraînée de la signification des mots.
Ce travail change notre compréhension de la manière dont l'intelligence artificielle apprend du contexte. Il suggère que le modèle ne déduit pas magiquement des règles ou n'effectue pas de mises à jour mathématiques complexes. Au lieu de cela, il réalise une recherche mécanique hautement organisée. Il écrit des informations dans une mémoire temporaire, vérifie si un schéma existe, puis récupère la réponse en se basant sur ce schéma. Les chercheurs ont démontré que ce mécanisme est cohérent à travers différentes tailles de modèles et survit même lorsque le modèle est affiné (fine-tuned) pour d'autres tâches. La capacité d'apprendre à partir de quelques exemples n'est pas une propriété émergente mystérieuse, mais un circuit concret et traçable composé de composants identifiables qui peuvent être mesurés, manipulés et compris.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.