💬 NLP

As X, Do Y: How Persona and Task Combine in Instruction-Tuned LLMs

Bien que cet article démontre que les instructions de persona et de tâche dans les LLMs entraînés sur des instructions présentent une décomposition linéaire additive propre à la transition entre l'invite et la réponse dans le flux résiduel, il prouve finalement que cette additivité locale ne permet pas de compresser les invites de rôle en un seul vecteur mis en cache, car la génération conditionnée par le persona repose sur un mécanisme d'attention distribué qui ne peut être reproduit par une substitution résiduelle locale.

Auteurs originaux : Eric Xu

Publié 2026-05-25

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Eric Xu

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous demandiez à un robot très intelligent et bien informé de répondre à une question. Vous lui donnez une instruction spéciale : « En tant que vieux pirate grincheux, expliquez-moi comment réparer un bateau qui fuit. »

Cette instruction comporte deux parties :

Le Persona (X) : « En tant que vieux pirate grincheux. »
La Tâche (Y) : « Expliquez-moi comment réparer un bateau qui fuit. »

L'article pose une question très précise sur la façon dont le cerveau du robot (son « flux résiduel » interne) gère cela. Lorsque le robot combine l'ambiance « pirate » avec la tâche de « réparation de bateau », les mélange-t-il de manière désordonnée et complexe ? Ou existe-t-il un moment simple et prévisible où les deux s'additionnent, comme mélanger de la peinture bleue et jaune pour obtenir du vert ?

Voici la décomposition de ce que les chercheurs ont découvert, en utilisant des analogies simples.

1. Le « point idéal » du mélange

Les chercheurs ont découvert que le cerveau du robot n'est pas simple partout. Cependant, il existe un « point idéal » très spécifique où le mélange est étonnamment propre et additif.

L'analogie : Imaginez que le robot écrit une histoire. Le « point idéal » est le moment exact où il termine la lecture de votre invite et commence à écrire le tout premier mot de sa réponse.
La découverte : À ce moment précis (le dernier mot de votre invite et les deux premiers mots que le robot écrit), la partie « Pirate » et la partie « Bateau » agissent comme deux ingrédients séparés qui se contentent de se tenir côte à côte.
- Si vous prenez l'effet « Pirate » et l'effet « Bateau » séparément et que vous les additionnez, vous obtenez presque exactement le même résultat que si le robot les avait traités ensemble dès le début.
- Mathématiquement, ils ont constaté que Pirate + Bateau ≈ Pirate-Bateau dans cette petite fenêtre.

Ce « point idéal » se produit dans les couches intermédiaires du cerveau du robot, ni tout au début ni tout à la fin. C'est comme un engrenage spécifique dans une transmission où les pièces s'emboîtent parfaitement.

2. L'expérience de la « baguette magique »

Pour le prouver, les chercheurs ont tenté un tour de « baguette magique ».

Ils ont pris un robot qui était simplement une « personne réfléchie » (la référence).
Ils ont calculé la différence « Pirate » et la différence « Bateau » séparément.
Ils ont ajouté ces différences ensemble et les ont collées dans le cerveau du robot à ce moment précis du « point idéal ».

Le résultat : Le robot a commencé à agir comme un pirate réparant un bateau ! Il ne s'est pas contenté de sonner un peu comme un pirate ; il a réellement utilisé des mots et des concepts de pirate. Cela a prouvé qu'à ce moment précis, les instructions « Pirate » et « Bateau » sont de simples ajouts au processus de pensée du robot.

3. La limite : on ne peut pas simplement « coller » toute la personnalité

Voici où l'histoire bute sur un mur. Les chercheurs ont essayé d'être encore plus ambitieux. Ils se sont demandé : « Si nous connaissons les mathématiques du "Pirate", pouvons-nous simplement supprimer le mot "Pirate" de votre invite et coller les mathématiques à la place ? »

L'expérience : Ils ont donné au robot l'invite : « Expliquez-moi comment réparer un bateau » (en supprimant « En tant que pirate »). Ensuite, ils ont tenté d'injecter les mathématiques « Pirate » dans le cerveau du robot au point idéal.
Le résultat : Ça a échoué. Le robot n'est pas devenu un pirate. Il a simplement donné une réponse normale.

Pourquoi ? L'article explique que si la première étape de la réponse est une simple addition, toute la conversation ne l'est pas.

L'analogie : Considérez l'instruction « Pirate » comme un phare. Le « point idéal » est le moment où le faisceau du phare touche l'eau. Vous pouvez voir le faisceau clairement là. Mais le phare éclaire en réalité l'eau tout le long de la côte, pas seulement à un endroit.
Le robot doit continuer à se référer au mot « Pirate » dans votre invite originale à chaque nouveau mot qu'il écrit. Vous ne pouvez pas simplement injecter le sentiment « Pirate » une fois au début et espérer qu'il dure. La personnalité est distribuée sur l'ensemble de l'invite et la mémoire du robot, pas seulement dans un petit endroit mathématique.

4. Est-ce que cela fonctionne pour différents robots et personnalités ?

Les chercheurs ont testé cela sur différents modèles de robots (Gemma et Qwen) et avec de nombreuses personnalités différentes (de Yoda à un ingénieur logiciel) et tâches (écrire des poèmes à examiner des plans d'affaires).

La découverte : La règle du « point idéal » s'est avérée vraie pour tous. Que le robot soit petit ou légèrement plus grand, et que la personnalité soit courte (« Warren Buffett ») ou longue (un paragraphe entier décrivant un médecin), les mathématiques fonctionnaient de la même manière à ce point de transition spécifique.

Résumé

La bonne nouvelle : Lorsqu'un robot entraîné à suivre des instructions combine un rôle (comme « pirate ») avec une tâche (comme « réparer un bateau »), il existe un moment minuscule et spécifique près du début de la réponse où ces deux éléments se combinent de manière simple, prévisible et additive.
La mauvaise nouvelle : Vous ne pouvez pas remplacer le texte réel du rôle par un raccourci mathématique. Le robot doit continuer à « lire » le rôle tout au long du processus. Les mathématiques simples n'expliquent que la toute première étape de la réponse, pas l'ensemble de l'histoire.

En bref : le cerveau du robot possède un « bol de mélange » spécifique où les ingrédients se mélangent simplement, mais la recette repose sur la présence des ingrédients tout au long du processus de cuisson, pas seulement dans ce seul bol.

Résumé technique : « En tant que X, faites Y : Comment la persona et la tâche se combinent dans les LLMs entraînés sur instructions »

Énoncé du problème

Les grands modèles de langage (LLM) entraînés sur instructions gèrent de manière robuste les invites de la forme « En tant que X, faites Y », où une spécification de persona ( $X$ ) est combinée à une spécification de tâche ( $Y$ ). Cependant, le mécanisme interne par lequel ces deux spécifications distinctes sont intégrées de manière causale dans le flux résiduel du modèle reste mal compris. Plus précisément, il est incertain le long des axes des couches et des positions où cette combinaison est suffisamment simple pour être approximée de manière additive, et si l'état composite résultant peut être reconstruit ou manipulé via des interventions sur le flux résiduel.

Méthodologie

L'article utilise un cadre d'intervention causale pour décomposer les activations du flux résiduel des modèles entraînés sur instructions. La méthodologie centrale comprend :

Décomposition de l'invite : Pour chaque paire persona-tâche, les auteurs construisent une grille $2 \times 2$ $2 \times 2$ d'invites :
- Référence-Reference ($BB$) : Aucune persona spécifique, tâche de référence.
- Persona-Seule ($XB$) : Persona spécifique, tâche de référence.
- Tâche-Seule ($BY$) : Persona de référence, tâche spécifique.
- Persona-plus-Tâche ($XY$) : Persona spécifique, tâche spécifique.
Décomposition résiduelle : À des couches et des positions de séquence spécifiques, les auteurs définissent :
- Effet pur de la persona : $\Delta X = h_{XB} - h_{BB}$
- Effet pur de la tâche : $\Delta Y = h_{BY} - h_{BB}$
- Effet combiné : $\Delta XY = h_{XY} - h_{BB}$
- Terme d'interaction : $Inter = \Delta XY - \Delta X - \Delta Y$
Substitution causale : Les auteurs testent l'hypothèse selon laquelle $\Delta XY \approx \Delta X + \Delta Y$ en remplaçant l'état caché $XY$ propre par la prédiction additive ( $h_{BB} + \Delta X + \Delta Y$ ).
Métriques d'évaluation :
- KL causal : La divergence de Kullback-Leibler entre la sortie du modèle après substitution et la continuation $XY$ propre (sur une fenêtre de 10 tokens). Un KL faible indique que l'approximation additive est causalement suffisante.
- Alignement géométrique : Similarité cosinus entre $\Delta XY$ et $\Delta X + \Delta Y$ , et entre $\Delta X$ et $\Delta Y$ .
- Vérification comportementale : Un test basé sur des marqueurs évaluant la présence de contenu spécifique à la persona (par exemple, « évolutivité » pour une persona d'ingénieur) dans des générations gloutonnes de 80 tokens.
Modèles et grilles : Les expériences ont été menées sur Gemma-2-2B-IT, Qwen-2.5-1.5B-Instruct et Qwen-2.5-3B-Instruct. Deux grilles d'invites ont été utilisées : une « grille courte » de 12 cellules (4 personas, 3 tâches) et une « grille longue-persona » de 48 cellules (8 personas multi-phrases, 6 tâches diverses).

Résultats clés

1. Composition additive localisée

L'article identifie une région spécifique où la combinaison persona-tâche est causalement simple et approximativement additive :

Emplacement : La région s'étend du dernier token de l'invite ( $p_{last}$ ) aux deux premiers tokens générés ( $g_1, g_2$ ), spécifiquement au sein d'une bande de couches début à milieu.
Preuve : Dans cette région, le remplacement de la prédiction additive ( $h_{BB} + \Delta X + \Delta Y$ ) par le résidu propre produit des sorties en aval avec une très faible divergence KL (par exemple, un KL médian de 0,0004 à la couche 6 pour Gemma-2-2B-IT à $p_{last}$ ).
Géométrie : Les vecteurs $\Delta X$ et $\Delta Y$ sont partiellement séparables (faible similarité cosinus entre eux), et le terme d'interaction, bien que non négligeable en norme, ne fait pas tourner le vecteur combiné de manière significative par rapport à la somme additive.
Robustesse : Ce « régime additif localisé » s'applique à différentes échelles de modèles (1,5B à 3B), à différentes architectures (Gemma vs Qwen) et sur les deux grilles courte et longue-persona.

2. Fidélité comportementale

La substitution additive préserve le contenu sémantique de la persona.

Lors de la substitution de la prédiction additive à $p_{last}$ (couche 14), le modèle génère des sorties contenant des marqueurs spécifiques à la persona à des taux comparables à la condition propre (58,3 % contre 66,7 % pour « Tout marqueur présent »).
Crucialement, soustraire simplement la contribution de la persona ( $\Delta X$ ) à un seul endroit ( $p_{last}$ ) ne supprime pas les marqueurs de persona (62,5 % de présence), indiquant que le contenu de la persona n'est pas localisé à un seul vecteur résiduel mais est distribué.

3. La limite de l'additivité

L'article établit une limite nette de l'approximation additive :

Échec de l'injection hôte : Le remplacement de la prédiction additive mise en cache dans une invite hôte de référence (où le texte de la persona est supprimé) ne permet pas de retrouver le comportement complet conditionné par la persona. L'écart KL reste important (KL médian ~2,84 contre 3,05 pour la référence), ne récupérant qu'une petite fraction du comportement cible.
Limite multi-couches : Le verrouillage de la prédiction additive sur plusieurs couches (jusqu'à 22 couches) n'améliore pas le résultat et dégrade finalement les performances, car cela empêche la propagation avant naturelle.
Conclusion : Le régime additif local capture la composition de l'étape suivante (comment le modèle passe de l'invite à la réponse) mais ne rend pas compte du mécanisme complet de génération multi-tokens, qui repose sur une attention revenant vers les positions du texte de la persona tout au long de l'invite.

Contributions clés

Localisation de la composition : L'article caractérise la région spécifique (couches début à milieu lors de la transition invite-réponse) où les spécifications de persona et de tâche se combinent de manière causalement simple et additive.
Décomposition des effets : Il fournit une explication au niveau du flux résiduel séparant les effets purs de la persona, les effets purs de la tâche et leur interaction, démontrant que bien que l'interaction existe, la somme additive est un prédicteur fort de l'état composite dans la région identifiée.
Distinction entre mécanismes locaux et distribués : Le travail clarifie que si la composition de la persona et de la tâche est localement additive au moment de la formation de la réponse, la génération de contenu conditionné par la persona est un mécanisme distribué reposant sur l'attention vers le contexte complet de l'invite, qui ne peut être remplacé par un seul vecteur résiduel.

Importance et affirmations

L'article prétend fournir une explication au niveau du flux résiduel de l'endroit où le prompting de rôle est causalement suffisamment simple pour être approximé de manière additive et de l'endroit où cette histoire s'arrête.

Modestie : Les auteurs déclarent explicitement ne pas revendiquer une « clôture au niveau du circuit » (identification de neurones ou de poids spécifiques) ni ne proposent un outil de pilotage pour le contrôle. Le but est la caractérisation, pas le contrôle.
Généralité : Les résultats valident différents familles de modèles et complexités d'invites, suggérant une propriété généralisable des modèles entraînés sur instructions concernant la manière dont ils intègrent rôle et tâche.
Limite : L'article reconnaît que l'analyse est restreinte à la région proche de la formation de la réponse et ne caractérise pas le mécanisme distribué complet requis pour le maintien de la persona sur de longues horizons.

En résumé, l'article démontre que les invites « En tant que X, faites Y » créent un régime additif localisé près de la transition de l'entrée vers la sortie, mais que la génération complète conditionnée par la persona repose sur un mécanisme d'attention plus large et distribué qui résiste à une simple substitution résiduelle.