🤖 AI

Controlling Tool Use with Heading-Specific Activation Steering

Cet article démontre que si les vecteurs de pilotage extraits des ancres d'en-tête peuvent contrôler efficacement l'invocation d'outils dans les grands modèles de langage, l'analyse géométrique révèle que ces vecteurs manquent de la structure linéaire nette typique des concepts paramétriques, présentant au contraire des alignements bimodaux diffus et des signatures distinctes pour différents types d'outils qui reflètent la nature non paramétrique des outils externes.

Auteurs originaux : Yuqi Chen, Vincent Siu, Yang Liu, Dawn Song, Chenguang Wang

Publié 2026-07-08

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Yuqi Chen, Vincent Siu, Yang Liu, Dawn Song, Chenguang Wang

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un grand modèle de langage (LLM) comme un chef cuisinier brillant et érudit qui a mémorisé des millions de recettes (connaissance paramétrique). Cependant, ce chef dispose également d'un tiroir rempli d'outils externes : un moteur de recherche, une calculatrice et un téléphone pour appeler le client afin d'obtenir des précisions.

Le problème est que ce chef devient parfois un peu anxieux. Même lorsqu'il connaît la réponse par cœur, il peut paniquer et saisir la calculatrice ou appeler le client inutilement. Cela fait perdre du temps, coûte de l'argent et ralentit les choses.

Cet article étudie une façon de « diriger » le cerveau du chef pour qu'il cesse ces actions inutiles sans avoir à réentraîner le chef de zéro. Voici le détail de leur découverte :

1. Le « feu de signalisation » dans le cerveau

Les chercheurs ont découvert que lorsque le modèle est sur le point de décider : « Dois-je utiliser un outil ? » ou « Dois-je simplement réfléchir à cela ? », il existe un moment spécifique dans son traitement interne (juste avant d'écrire un titre comme ### Code ou ### Search) où une décision est prise.

Ils ont découvert un « vecteur de direction » — imaginez cela comme un coup de pouce magique ou un signal de feu de signalisation — qui réside à l'intérieur du cerveau du modèle à ce moment précis.

Le coup de pouce : Si vous ajoutez ce signal spécifique au cerveau du modèle, il agit comme un panneau « Stop », lui disant efficacement : « N'utilise pas l'outil ; réfléchis simplement ».
Le coup de pouce inverse : Si vous retirez ce signal (en projetant l'activité du cerveau dans la direction opposée), il agit comme un signal « Go », poussant le modèle à utiliser les outils plus fréquemment qu'à l'accoutumée.

C'est surprenant car les outils ne sont pas « codés en dur » dans la mémoire du modèle comme le sont les faits ; ils n'existent que dans le contexte de la conversation. Pourtant, le modèle possède un signal interne stable pour savoir quand il pense en avoir besoin.

2. L'effet « Goldilocks » (Cela fonctionne mieux pour les mathématiques)

Les chercheurs ont testé cela sur trois types de tâches :

Mathématiques : Ce sont des problèmes que le chef peut généralement résoudre avec son propre cerveau (mémoire).
Temps : Ces tâches nécessitent de consulter des données actuelles (comme « Quelle heure est-il à Tokyo en ce moment ? »).
Intention : Celles-ci nécessitent de demander des détails manquants à l'utilisateur (comme « De quelle couleur voulez-vous ? »).

Le résultat :

En Mathématiques, le signal « Stop » a parfaitement fonctionné. Le chef a cessé de saisir la calculatrice pour des additions simples et les a résolues dans sa tête. Les réponses étaient toujours correctes, mais l'utilisation des outils a chuté de manière spectaculaire.
Pour le Temps et l'Intention, le signal « Stop » était trop fort. Lorsque nous avons dit au chef « N'utilise pas d'outils », le chef a cessé de chercher l'heure ou de demander des détails, et les réponses sont devenues fausses.

La leçon : Le pilotage fonctionne très bien lorsque le modèle ne devrait pas utiliser d'outils, mais il est dangereux de l'utiliser aveuglément lorsque le modèle a besoin d'outils pour obtenir la bonne réponse.

3. La « carte désordonnée » (La géométrie est étrange)

Habituellement, lorsque les scientifiques trouvent un « concept » à l'intérieur d'un cerveau informatique (comme l'« honnêteté » ou le « refus »), cela ressemble à une ligne droite et propre sur une carte. Si vous vous déplacez le long de cette ligne, le comportement change de manière prévisible.

Cependant, les chercheurs ont découvert que le signal d'« Utilisation d'outils » est désordonné.

L'analogie : Imaginez essayer de trouver la direction du « Nord » sur une carte. Pour l'« Honnêteté », le Nord est une flèche droite. Pour l'« Utilisation d'outils », le Nord ressemble à un nuage de brouillard avec deux clusters différents. Le cerveau du modèle n'a pas un bouton unique et net « J'ai besoin d'un outil ». Au lieu de cela, il possède une collection éparpillée et floue de signaux qui ne ressemblent à une décision que lorsqu'on prend du recul.
Outils différents, cartes différentes : Le signal interne pour « Recherche » est assez différent de celui pour « Demander à l'utilisateur ». Ils ne se chevauchent pas beaucoup. C'est comme si le chef avait un ensemble de nerfs complètement différent pour appeler un client que pour utiliser une calculatrice.

4. Pourquoi cela fonctionne-t-il si la carte est désordonnée ?

C'est le plus grand mystère que l'article laisse ouvert. Même si la carte interne de l'« Utilisation d'outils » est floue et éparpillée, le « coup de pouce magique » fonctionne parfaitement pour empêcher le modèle d'utiliser les outils.

Les auteurs suggèrent que c'est parce que le modèle prend sa décision à un « goulot d'étranglement » très spécifique — le moment où il doit écrire le titre (comme ### Code). Même si le chemin vers cette décision est désordonné, frapper ce goulot d'étranglement spécifique avec le bon coup de pouce suffit à changer le résultat.

Résumé

L'article prouve que vous pouvez contrôler si une IA utilise des outils externes en ajustant un signal spécifique dans son cerveau au moment où elle décide d'agir.

Bonne nouvelle : Vous pouvez l'empêcher de perdre du temps sur des outils dont il n'a pas besoin (comme en mathématiques).
Mauvaise nouvelle : Si vous coupez trop le signal, il cesse d'utiliser des outils dont il a réellement besoin (comme vérifier l'heure).
Le rebondissement : Le mécanisme interne de cette décision est désordonné et éparpillé, et non une ligne droite et propre, ce qui en fait une partie unique et complexe de la façon dont l'IA réfléchit.

Résumé technique : Contrôle de l'utilisation des outils par pilotage d'activation spécifique aux en-têtes

Énoncé du problème

Les modèles de langage à grande échelle (LLM) augmentés par des outils étendent leurs capacités au-delà de la connaissance paramétrique en intégrant des outils externes (ex. : recherche web, exécution de code). Cependant, un mode d'échec persistant est le surusage d'outils, où les modèles invoquent des outils inutilement même lorsque le raisonnement interne suffit. Cela entraîne une augmentation de la latence, des coûts et une propagation potentielle d'erreurs.

Les stratégies d'atténuation existantes nécessitent généralement un réentraînement coûteux ou opèrent au niveau de l'interface de sortie, échouant ainsi à traiter le processus de décision latent au sein des activations internes du modèle. Un défi fondamental surgit car, contrairement à des concepts tels que le sentiment ou la véracité qui sont encodés dans les poids du modèle lors de l'entraînement, les outils existent entièrement en contexte lors de l'inférence. Par conséquent, les hypothèses standards de l'hypothèse de la représentation linéaire et de l'ingénierie de la représentation — où les concepts possèdent un ancrage paramétrique stable — ne s'appliquent pas directement. Cet article examine si les décisions d'utilisation d'outils possèdent une représentation interne stable qui peut être extraite et manipulée malgré cette nature non paramétrique.

Méthodologie

Les auteurs proposent une méthode d'intervention légère au moment de l'inférence appelée Pilotage d'activation spécifique aux en-têtes (Heading-Specific Activation Steering). L'approche repose sur des trajectoires de génération structurées où le modèle émet un raisonnement intermédiaire utilisant des en-têtes de section explicites (Ancres d'en-tête) tels que ### Reasoning, ### Code, ### Search et ### AskUser.

1. Construction du vecteur de pilotage

La méthode construit des vecteurs de pilotage spécifiques aux outils en analysant les états cachés aux positions de jetons correspondant à ces Ancres d'en-tête.

Collecte de données : Les auteurs collectent des trajectoires multi-tours étiquetées contenant des en-têtes d'outils spécifiques.
Extraction d'états : Les états cachés sont extraits d'une couche $l^*$ spécifique au jeton correspondant au marqueur d'ancre ### pour l'état de l'ancre ### Reasoning et l'état de l'ancre de l'outil cible (ex. : ### Code).
Calcul du Delta : Pour chaque trajectoire, un delta de pilotage est calculé comme la différence entre l'état caché moyen des ancres de raisonnement et l'état caché moyen des ancres d'outils :
$\Delta^{(l)}_{k,i} = \bar{h}^{(l)}_{R,i} - \bar{h}^{(l)}_{k,i}$
Agrégation de vecteurs : Ces deltas sont moyennés sur plusieurs trajectoires pour former le vecteur de pilotage final $v^{(l)}_k$ . Cette moyenne au niveau de l'échantillon empêche le biais vers les trajectoires ayant une fréquence plus élevée d'occurrences d'ancres.

2. Mécanismes d'intervention

Les vecteurs extraits sont appliqués lors des étapes de formation de l'Ancre d'en-tête pendant l'inférence en utilisant deux mécanismes distincts :

Addition d'activation (Suppression) : Le vecteur de pilotage est ajouté à l'état caché pour s'éloigner de la représentation d'invocation de l'outil :
$\tilde{h}^{(l^*)_t} = h^{(l^*)_t} + \alpha v^{(l^*)_k}$
(où $\alpha=1$ ).
Orthogonalisation (Amplification) : L'état caché est projeté pour être orthogonal au vecteur de pilotage, supprimant la composante de suppression pour encourager l'utilisation de l'outil :
$\tilde{h}^{(l^*)_t} = h^{(l^*)_t} - \text{proj}_{v^{(l^*)_k}}(h^{(l^*)_t})$

Résultats clés

L'étude évalue cinq modèles open-source ajustés pour l'instruction (Mistral-7B, Llama-3.1-8B, Mistral-Nemo, Mistral-Small, Llama-3.1-70B) à travers trois domaines : Math (raisonnement paramétrique suffisant), Time (nécessite des informations actualisées) et Intention (nécessite une clarification de l'utilisateur).

1. Contrôle causal bidirectionnel

Suppression : L'addition d'activation réduit significativement les taux d'invocation d'outils. Dans le domaine Math, l'utilisation d'outils a été supprimée à des niveaux proches de zéro (ex. : de 3,90 à 0,56 appels par prompt pour Mistral-7B) avec seulement des baisses modérées de la précision des tâches, indiquant que de nombreux appels d'outils dans ce domaine étaient redondants.
Amplification : L'orthogonalisation a systématiquement augmenté l'utilisation des outils au-dessus de la ligne de base dans tous les modèles et domaines. Cependant, cette augmentation artificielle n'a pas amélioré la performance des tâches et a souvent dégradé la précision, suggérant que le modèle de base maintient déjà un équilibre interne partiel et que la suppression du vecteur de suppression conduit à un surusage.
Spécificité du domaine : La suppression a été la plus efficace en Math mais a dégradé les performances dans les domaines Time et Intention, où la récupération externe ou la clarification sont réellement requises. Dans ces domaines, la suppression de l'utilisation des outils a entraîné des chutes significatives de performance, confirmant que l'intervention respecte la nécessité des outils lorsque la connaissance paramétrique est insuffisante.

2. Irrégularité géométrique

Contrairement à la "structure linéaire propre" observée pour les concepts ancrés de manière paramétrique (comme le refus ou la véracité), l'analyse géométrique des vecteurs d'utilisation d'outils a révélé :

Alignement bimodal diffus : Les étapes d'invocation d'outils présentaient une distribution de similitude cosinus bimodale et diffuse par rapport au vecteur de suppression, plutôt que l'alignement négatif constant prédit par les comptes de codage linéaire.
Faible chevauchement entre outils : Les différents types d'outils (Code, Search, AskUser) recrutent des dimensions de caractéristiques internes largement distinctes avec un faible chevauchement de Jaccard (ex. : ~0,04–0,06 pour le chevauchement tripartite).
Découplage de la décodabilité et du contrôle : Dans le modèle Llama-3.1-70B, une sonde linéaire supervisée pouvait parfaitement séparer les états ### Code des états ### Reasoning (AUROC 1,000), pourtant la direction identifiée par la sonde était bien moins efficace pour supprimer causalement l'utilisation de l'outil que le vecteur de différence moyenne. Cela suggère que la direction la plus efficace causalement pour le contrôle est géométriquement distincte de la direction la plus linéairement décodable.

3. Robustesse

L'intervention s'est avérée sensible au schéma mais pas uniquement à la chaîne de caractères littérale. Testée avec un transfert de format croisé (Markdown vers JSON) et un renommage d'en-tête, l'effet de suppression a persisté même en l'absence du mot littéral "Code", bien que l'effet soit asymétrique et dépendant du schéma.

Signification et affirmations

L'article affirme être l'un des premiers à appliquer le pilotage d'activation à un comportement qui est explicitement non paramétrique par construction. La principale signification réside dans la démonstration que :

Le contrôle causal existe : Malgré l'absence d'encodage paramétrique des outils dans les poids du modèle, les vecteurs de pilotage ancrés par en-tête peuvent exercer un contrôle causal bidirectionnel sur le comportement d'invocation d'outils.
Géométrie non paramétrique : Les propriétés géométriques des vecteurs de pilotage d'utilisation d'outils diffèrent fondamentalement de celles des concepts ancrés de manière paramétrique. L'irrégularité géométrique observée (alignement diffus, faible chevauchement) est supposée être une conséquence prédite de la nature non paramétrique des outils, les distinguant de concepts comme le sentiment ou le refus.
Utilité pratique : La méthode offre un mécanisme sans paramètre, au moment de l'inférence, pour atténuer le surusage des outils, particulièrement dans les domaines où le raisonnement paramétrique est suffisant, sans le coût d'un réentraînement.

Les auteurs concluent que si l'efficacité causale du pilotage est claire, la relation entre cette efficacité et l'irrégularité géométrique observée reste une question ouverte, potentiellement liée à la structure de dépendance multi-tours des trajectoires augmentées par des outils.