💬 NLP

Patches of Nonlinearity: Instruction Vectors in Large Language Models

Cette étude explore mécanistiquement comment les modèles de langage traitent les instructions en identifiant des « vecteurs d'instruction » localisés qui agissent comme des sélecteurs de circuits non linéaires, remettant ainsi en question l'hypothèse de la représentabilité purement linéaire.

Auteurs originaux : Irina Bigoulaeva, Jonas Rohweder, Subhabrata Dutta, Iryna Gurevych

Publié 2026-02-10

📖 3 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Irina Bigoulaeva, Jonas Rohweder, Subhabrata Dutta, Iryna Gurevych

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Mystère du Chef d'Orchestre Invisible : Comment les IA comprennent vos ordres

Imaginez que vous entriez dans un immense restaurant de luxe. Dans la cuisine, il y a des centaines de chefs (ce sont les neurones de l'IA). Vous arrivez et vous donnez une instruction précise : "Faites-moi une omelette, mais sans sel et avec beaucoup de poivre."

Pendant longtemps, les scientifiques ont cru que l'IA fonctionnait comme une simple recette de cuisine : on lit l'ordre, et on suit les étapes une par une, de manière très linéaire. Mais cette étude vient de prouver que c'est beaucoup plus complexe et fascinant que cela.

1. Les "Vecteurs d'Instruction" : Le Post-it Magique

L'étude a découvert que dès que l'IA lit votre consigne, elle ne se contente pas de la lire. Elle crée immédiatement une sorte de "Post-it mental" (qu'ils appellent les Instruction Vectors).

Ce n'est pas juste une phrase qu'elle garde en mémoire ; c'est une petite capsule d'énergie qui contient l'essence même de votre demande. Ce Post-it est "localisé" : il ne s'éparpille pas partout, il se forme à un endroit précis de la "pensée" de l'IA, juste après avoir lu l'ordre, avant même de commencer à cuisiner la réponse.

2. La Super-Additivité : L'effet "Équipe de Jazz"

C'est ici que l'étude devient révolutionnaire. Les chercheurs ont remarqué que ces "Post-its" ne travaillent pas de manière isolée.

Imaginez un groupe de jazz. Si vous demandez au batteur de jouer seul, puis au pianiste de jouer seul, vous avez deux sons simples. Mais si les deux jouent ensemble, ils créent une harmonie, un rythme et une émotion qu'aucun des deux ne pouvait produire seul.

L'étude appelle cela la super-additivité. Dans l'IA, certaines couches de neurones ne sont pas très utiles seules, mais quand elles s'activent en même temps, elles créent une explosion de compréhension. C'est une interaction "non-linéaire" : $1 + 1$ ne fait pas $2$, cela fait $10$ ! Cela remet en question l'idée que l'on peut comprendre l'IA en regardant chaque pièce une par une.

3. Les "Sélecteurs de Circuits" : Le GPS de l'Intelligence

Enfin, comment l'IA utilise-t-elle ce Post-it ? L'étude révèle que l'instruction agit comme un GPS ou un sélecteur de circuits.

Une fois que l'IA a créé son "Post-it" (l'instruction), ce dernier va dire aux couches suivantes : "Hé, on ne fait pas une soupe aujourd'hui, on fait une omelette ! Activez le circuit 'Poivre' et désactivez le circuit 'Sel' !"

L'instruction ne crée pas la capacité de cuisiner (l'IA sait déjà cuisiner grâce à son entraînement de base), mais elle choisit le bon chemin dans le labyrinthe de ses connaissances pour répondre exactement à votre besoin.

En résumé (pour briller en société) :

Ce papier nous dit que l'IA ne se contente pas de "lire" des ordres. Elle :

Synthétise l'ordre en une petite capsule d'information ultra-concentrée.
Fait travailler ses composants de manière synergique (comme un orchestre) plutôt que de manière mécanique.
Utilise cette capsule pour diriger son attention vers les bons "circuits" de son cerveau pour exécuter la tâche.

La morale de l'histoire : Comprendre l'IA, ce n'est pas juste compter ses pièces, c'est comprendre la musique qu'elles jouent ensemble.

Résumé Technique : Patches de Non-linéarité : Vecteurs d'Instruction dans les LLM

1. Problématique (Le Problème)

Malgré l'omniprésence de l'ajustement par instruction (instruction tuning) dans les modèles de langage de pointe (LLM), les mécanismes internes par lesquels ces modèles représentent et traitent les instructions restent largement méconnus. La recherche en interprétabilité mécaniste repose souvent sur l'hypothèse de la représentation linéaire, qui suppose que les concepts sont encodés dans des sous-espaces linéaires et que leurs interactions sont additives.

Les auteurs cherchent à répondre à deux questions fondamentales :

Comment les modèles construisent-ils les représentations des instructions ?
Ces représentations sont-elles traitées de manière "juste à temps" (avec la requête) ou de manière "eager" (pré-calculée dès la fin de l'instruction) ?
L'interaction entre ces représentations est-elle linéaire ou non-linéaire ?

2. Méthodologie

Les chercheurs utilisent les modèles OLMo-2 (1B et 7B), ce qui permet de comparer distinctement les versions de base, celles ajustées par SFT (Supervised Fine-Tuning) et celles par DPO (Direct Preference Optimization).

Leur approche repose sur trois piliers :

Analyse de médiation causale (Activation Patching) : Ils injectent des représentations provenant d'une instruction source dans un flux de données cible pour mesurer l'impact sur le rang réciproque et les logits du jeton de réponse. Ils testent le "patching" sur une seule couche et sur des combinaisons de deux couches.
Découverte de vecteurs d'instruction (IV) : Ils identifient les vecteurs dans le flux résiduel au niveau du dernier jeton de l'instruction ( $T_{inst}$ ).
Cartographie de flux d'information par "Locally-Linear Surrogate Maps" : Pour contourner l'impossibilité de modéliser des interactions non-linéaires avec des graphes acycliques dirigés (DAG) classiques, ils proposent une méthode qui traite le Transformer comme une collection de cartes locales linéarisées (token-to-token), permettant de tracer des chemins d'information sans supposer d'additivité entre les composants.

3. Contributions Clés

Identification des Vecteurs d'Instruction (IV) : Les auteurs démontrent que les modèles créent des "digests" (résumés) neuronaux localisés de l'instruction immédiatement après son traitement, avant même de lire la requête.
Découverte de la Superadditivité : Ils prouvent que l'interaction entre les couches n'est pas additive. L'effet combiné de deux couches est supérieur à la somme de leurs effets individuels ( $f(x_i \cup x_j) \geq f(x_i) + f(x_j)$ ).
Nouveau cadre d'interprétabilité : Ils proposent une méthode de traçage de chemins qui ne repose pas sur l'hypothèse de l'additivité, permettant de découvrir des mécanismes que les méthodes de "circuit discovery" traditionnelles échouent à capturer.
Rôle de "Sélecteur de Circuit" : Ils démontrent que les IV agissent comme des sélecteurs de circuits, activant des chemins de calcul spécifiques à la tâche dans les couches profondes du modèle.

4. Résultats Principaux

Localisation et Eagerness : Les IV sont localisés dans le flux résiduel. Le calcul est "eager" : le modèle pré-construit la représentation de la tâche dès la fin de l'instruction.
Géométrie des représentations : Bien que les clusters de tâches soient linéairement séparables dans des espaces de haute dimension (confirmé par des sondes linéaires avec une précision > 98 %), ils ne le sont pas de manière évidente dans des projections de faible dimension (comme LDA ou t-SNE).
Mécanisme de sélection : Les couches initiales construisent des représentations d'instructions agnostiques à la tâche (circuits similaires), tandis que les couches ultérieures utilisent l'IV pour sélectionner des circuits spécifiques à la tâche (activités des têtes d'attention divergentes).
Impact du Post-entraînement : Si un modèle pré-entraîné peut construire des IV, l'ajustement (SFT/DPO) est indispensable pour doter ces vecteurs de la capacité de "sélection de circuit" nécessaire pour résoudre la tâche.

5. Signification et Implications

Cette étude remet en question un pilier de l'interprétabilité mécaniste : l'idée que l'on peut comprendre un modèle en décomposant ses fonctions en composants isolés et additifs.

Implications majeures :

Limites des modèles de causalité actuels : Les modèles basés sur les DAG (Graphes Acycliques Dirigés) sont insuffisants pour capturer les interactions synergiques (non-linéaires) des LLM.
Robustesse et Sécurité : La compréhension de ce "goulot d'étranglement" informationnel (information bottleneck) dans le traitement des instructions ouvre la voie à des méthodes pour renforcer la robustesse des modèles contre les attaques par injection de prompts (adversarial prompts).
Diagnostic de l'alignement : Cela permet de mieux diagnostiquer si un modèle a réellement acquis la capacité de suivre des instructions ou s'il se contente de reproduire des motifs statistiques.