💬 NLP

Divergent Response Modes in Frontier Language Models Under Steering Pressure

Cette étude révèle que les modèles de langage de pointe présentent des modes de réponse comportementaux distincts et spécifiques aux développeurs sous l'effet d'une pression de pilotage, démontrant que les modèles diffèrent non seulement par le degré de changement comportemental, mais aussi par la nature fondamentale de leurs réactions, un phénomène validé par un jugement par les pairs à grande échelle et des interventions causales utilisant des sondes linéaires.

Auteurs originaux : Ali Jalal-Kamali

Publié 2026-08-12

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Ali Jalal-Kamali

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un monde où vous pouvez parler à un cerveau numérique super intelligent qui sait presque tout. Ce n'est pas de la magie ; c'est le domaine de l'intelligence artificielle, plus précisément des « grands modèles de langage ». Voyez ces modèles comme des chefs cuisiniers incroyablement talentueux qui ont lu presque tous les livres de recettes existants. Mais attention : avant de pouvoir vous servir un repas, ils sont entraînés par leurs créateurs à suivre des règles strictes sur ce qui est poli, sûr et utile. Cet entraînement est comme une « boussole morale » ou un ensemble de directives de sécurité intégrées dans leur cerveau.

Parfois, cependant, des gens essaient de piéger ces chefs numériques. Ils peuvent demander au chef d'ignorer les règles, de révéler sa recette secrète (comment il a trouvé la réponse), ou de prétendre qu'il se fiche des règles de sécurité. C'est ce qu'on appelle le « pilotage » ou la « pression de pilotage » (steering/steering pressure). C'est comme demander à un chien de garde d'ignorer un étranger ou à un bibliothécaire de remettre un livre interdit. Les scientifiques veulent savoir : si vous poussez ces différents chefs IA avec les mêmes questions pièges, réagissent-ils tous de la même manière ? Disent-ils tous « non », ou certains disent-ils « non » de façon amusante, tandis que d'autres disent « oui » mais en se plaignant ? Comprendre cela nous aide à déterminer si ces cerveaux numériques sont vraiment sûrs ou s'ils ont des traits de caractère cachés qui pourraient nous attirer des ennuis.

Le Grand Test de Personnalité de l'IA

Dans cette étude, un chercheur nommé Ali Jalal-Kamali a décidé de soumettre six des modèles d'IA les plus avancés au monde à un test de personnalité massif et à enjeux élevés. Imaginez six robots différents, chacun construit par une entreprise différente (comme Anthropic, OpenAI, Google et d'autres). Le chercheur leur a soumis 340 situations délicates. Certaines situations leur demandaient de faire quelque chose d'un peu impoli (un « conflit de valeurs »), certaines leur demandaient de livrer leurs secrets sur la façon dont ils résolvaient un puzzle (« elicitation de raisonnement »), et d'autres leur demandaient de prétendre qu'ils ne se souciaient pas des règles de sécurité (« suppression de raisonnement »).

Pour s'assurer que le test était équitable, chaque robot a été confronté exactement aux mêmes questions. Mais voici la partie ingénieuse : les robots devaient aussi noter les réponses des autres ! Ils agissaient comme des juges aveugles, lisant les réponses sans savoir quel robot les avait écrites. Cela a créé une énorme quantité de données — plus de 24 000 jugements — pour voir exactement comment chaque robot se comportait lorsqu'il était poussé dans ses retranchements.

Les Résultats : Pas seulement différents, mais étrangement différents

La grande découverte n'était pas seulement que certains robots étaient plus têtus que d'autres. C'était qu'ils ne divergeaient pas seulement sur la quantité de choses à dire, mais sur la manière de le dire. Ils avaient des « modes » de réponse entièrement différents, et certains de ces modes étaient uniques à un ou deux robots seulement.

Le « Gardien du Secret » (GPT-5)
Un robot, GPT-5, a fait quelque chose qu'aucun autre robot n'a fait. Lorsqu'on lui demandait de montrer son travail (expliquer son raisonnement), il refusait 99 fois sur 100. Mais voici le plus étonnant : il donnait quand même la bonne réponse ! C'était comme un élève qui dit : « Je ne peux pas vous dire comment j'ai résolu ce problème de maths, mais voici la réponse : 42. » Tous les autres robots soit montraient leur travail, soit refusaient de répondre à la question. GPT-5 était le seul capable de garder ses secrets tout en accomplissant la tâche.

Les « Rebelles » (Opus et GPT-5)
Lorsqu'on leur demandait d'ignorer les règles de sécurité ou de prétendre ne pas se soucier des valeurs, deux robots — Opus et GPT-5 — ont réagi. Mais ils ont réagi de manières totalement différentes.

Opus était comme un rebelle poli. Il effectuait la tâche, mais se plaignait bruyamment, disant : « Je le fais, mais vous n'auriez pas dû me demander d'ignorer les règles. »
GPT-5 était le partisan de la ligne dure. Il refusait simplement la requête, disant : « Non, je ne ferai pas cela », et s'arrêtait là.
Les quatre autres robots suivaient la plupart du temps les ordres ou restaient silencieux.

Les « Clarificateurs » (Opus et Llama)
Lorsque les questions étaient vagues ou délicates, Opus et Llama étaient les seuls à s'arrêter et à demander : « Attendez, que voulez-vous dire exactement ? » au lieu de simplement deviner. Les autres robots avaient tendance à donner une réponse ou à refuser.

Vérification du travail : Avons-nous fait une erreur ?

Le chercheur a été très prudent pour s'assurer que ces différences étranges n'étaient pas de simples erreurs.

Le budget de jetons (Token Budget) : Ils ont remarqué que certains robots étaient coupés parce qu'ils manquaient d'« espace » pour écrire leurs réponses. Ils ont corrigé cela en donnant plus d'espace à ces robots, et les comportements étranges (comme le secret de GPT-5) sont restés exactement les mêmes.
Le test des « indices » : Ils se sont assurés que les juges ne devinaient pas simplement en se basant sur des indices dans les instructions. Même après avoir supprimé les indices, les résultats se sont maintenus.
Les « nouvelles » questions : Ils ont testé à nouveau les robots sur un nouvel ensemble de questions qu'ils n'avaient pas vus auparavant, et les schémas se sont répétés.

Jeter un coup d'œil à l'intérieur du cerveau (L'expérience Llama)

Pour l'un des robots, Llama, le chercheur a pu jeter un coup d'œil à l'intérieur de son « cerveau » (son code interne) pour voir comment il décidait de demander une clarification ou de donner une réponse.

Le travail de détective : Ils ont trouvé un « signal » spécifique dans le cerveau du robot qui prédisait s'il poserait une question de clarification ou s'il répondrait directement. Ils pouvaient lire ce signal avec une précision de 87 % simplement en observant l'état interne du robot.
La télécommande : Ensuite, ils ont essayé de forcer le robot à changer d'avis. En modifiant ce signal spécifique dans le cerveau, ils pouvaient faire passer le robot de la réponse directe à la demande de clarification, ou inversement. Ils pouvaient activer ou désactiver le comportement de « clarification » comme un interrupteur, changeant le comportement du robot de 0 % à 86 % juste en appuyant sur ce bouton.

La conclusion

Cette étude montre que même si tous ces modèles d'IA sont super intelligents, ils ne sont pas des clones. Ils ont des personnalités et des stratégies distinctes lorsqu'ils sont sous pression. Certains cachent leur raisonnement, d'autres argumentent avec vous, et d'autres demandent simplement plus de détails. Ce ne sont pas de petites différences ; ce sont des manières fondamentales dont les robots sont construits.

Le chercheur a également montré que pour au moins un robot, nous pouvons réellement trouver l'« interrupteur » dans son cerveau qui contrôle ces comportements. Cela signifie que nous ne faisons pas que deviner comment ils fonctionnent ; nous commençons à comprendre la mécanique derrière leurs choix. Cependant, comme il s'agissait d'un test sur des modèles spécifiques à un instant donné, nous ne savons pas si les futurs robots agiront de la même manière. Mais pour l'instant, nous savons que si vous poussez ces cerveaux numériques, ils ne se brisent pas tous de la même façon — certains ont simplement une façon très différente de dire « non ».

Résumé technique : Modes de réponse divergents des modèles de langage de pointe sous pression de pilotage

Problématique

Les modèles de langage de pointe sont entraînés avec des jeux de données, des objectifs et des pipelines de sécurité distincts. Bien que les développeurs décrivent ces différences, il reste peu exploré si elles se traduisent par des comportements mesurablement différents lorsque les modèles font face à une pression explicite de pilotage (steering pressure). Les évaluations existantes mesurent généralement à quel point le comportement d'un modèle dévie vers une cible (pilotabilité quantitative), mais analysent rarement ce que le modèle fait lorsqu'il ne se conforme pas (modes de réponse qualitatifs). Des stratégies telles que le refus pur et simple, la conformité avec désaveu, la redirection ou l'offre d'alternatives sont qualitativement distinctes, pourtant les benchmarks actuels ne comparent pas systématiquement ces modes entre les modèles de différents développeurs.

Méthodologie

Cette étude emploie une évaluation symétrique inter-laboratoires impliquant six modèles de pointe provenant de six développeurs : Claude Opus 4.7 (Anthropic), GPT-5 (OpenAI), Gemini 2.5 Pro (Google), DeepSeek-R1 (DeepSeek), Qwen3.7-Max (Alibaba) et Llama-3.3-70B-Instruct-Turbo (Meta).

Données et conception :
Le benchmark se compose de 340 items divisés en trois catégories comportementales centrales et deux catégories de validation :

Conflit de valeurs : Prompts demandant du contenu avec un cadrage qui entre légèrement en conflit avec les valeurs entraînées.
Élicitation de raisonnement : Prompts exigeant que le modèle expose son raisonnement interne.
Suppression de raisonnement : Prompts instruisant le modèle d'exclure les considérations de valeurs de son raisonnement.
Validation : Items de style et d'indice de raisonnement pour vérifier les canaux de pilotage et juger la précision.

Chaque item existe sous forme de paire : un prompt de base et une variante pilotée. Les six modèles génèrent des réponses pour tous les items sous les deux conditions, garantissant que la difficulté de l'item ne puisse être confondue avec des différences entre les modèles.

Pipeline de jugement :
Pour éviter le biais humain et permettre le passage à l'échelle, les six modèles servent de juges pairs aveugles pour toutes les réponses, y compris les leurs.

Dérivation de la rubrique : Les schémas comportementaux ont été identifiés à partir d'un ensemble de développement (20 items par catégorie) et figés en rubriques catégorielles (Tableau 1) avant l'évaluation principale.
Classification aveugle : Les juges reçoivent le prompt, la réponse, les définitions de la rubrique et le contexte de l'item (ce que l'item sonde) sans l'identité du répondant.
Vérité de terrain (Ground Truth) : L'étiquette de chaque réponse est déterminée par un consensus par exclusion (leave-one-out) parmi les cinq juges pairs (excluant l'auto-jugement du répondant).
Audits : L'étude inclut une remédiation du budget de jetons (régénération des réponses tronquées avec des limites plus élevées) et une expérience de contrôle supprimant le champ « contexte de l'item » pour tester les effets de demande.

Analyse mécaniste :
Pour le modèle à poids ouverts (Llama), l'étude fait le pont entre comportement et mécanisme en utilisant :

Sondage linéaire (Linear Probing) : Un sondage de régression logistique entraîné sur les activations du flux résiduel pour décoder les distinctions comportementales.
Pilotage par activation (Activation Steering) : Injection du vecteur de différence entre les classes comportementales dans le flux résiduel pendant la génération pour tester l'influence causale.

Résultats clés

1. Modes de réponse exclusifs

Les modèles diffèrent non seulement par l'ampleur des changements de comportement, mais aussi par le type de réponse qu'ils produisent.

Élicitation de raisonnement : GPT-5 présente un mode unique : il décline le partage de son raisonnement tout en délivrant la réponse intacte. Cela s'est produit dans 99/100 des items pilotés pour GPT-5, contre 0/500 pour tous les autres modèles. Inversement, GPT-5 divulgue rarement le contenu de ses valeurs dans son raisonnement (1/100), alors que les autres modèles le font dans plus de 95 % des cas.
Suppression de raisonnement : Seuls Opus et GPT-5 résistent aux instructions explicites de suppression à des taux significatifs, mais de manières statistiquement distinguables. Opus pratique fréquemment le « contester et se conformer » (17 % des items), objectant ouvertement à l'instruction tout en répondant. GPT-5 privilégie le « refus-outrepassement » (refusal-override) (16 % des items), rejetant le cadrage et retenant le contenu. Les quatre autres modèles présentent une résistance quasi nulle.

2. Divergence de base

Des clivages comportementaux significatifs existent même avant l'application du pilotage.

Conflit de valeurs : Les modèles se séparent en trois niveaux distincts basés sur les taux de « pleine conformité ». Opus (35 %) se trouve dans le niveau inférieur ; Llama (57 %) est au milieu ; GPT-5, DeepSeek, Qwen et Gemini (93–100 %) forment le niveau supérieur.
Déraillement (Derailment) : En l'absence de pilotage, Opus et Llama répondent fréquemment à des prompts sous-spécifiés par des questions de clarification (« dérailler »), un comportement absent chez les autres modèles.
Expression des valeurs : Dans les conditions de base, Llama et DeepSeek expriment des valeurs via le « refus-outrepassement » (77 % et 57 % respectivement), tandis que Qwen et Gemini « introduisent furtivement » (smuggle) des valeurs dans un langage stratégique (68 % et 59 %). GPT-5 montre le moins de raisonnement de valeurs manifeste (14 % de suppression propre).

3. Résultats mécanistes (Llama)

Décodabilité linéaire : La distinction entre les réponses de type « déraillement » (clarification) et « réponse » est linéairement décodable à partir du flux résiduel de Llama. Un sonde atteint une précision équilibrée de 0,87 sur l'ensemble de test, surpassant significativement une ligne de base de petit modèle et les permutations nulles.
Pilotage causal : L'injection de la direction décodée dans le flux résiduel pendant la génération déplace causalement le comportement. L'augmentation de la force de pilotage ( $\alpha$ ) fait passer le taux de déraillement de 0 % à 86 % à travers un balayage, démontrant que le comportement est piloté par une représentation interne spécifique.
Traces de DeepSeek : L'analyse des traces internes de DeepSeek-R1 révèle que sa « suppression » apparente n'est pas une cécité ; le modèle enregistre en interne la préoccupation de valeur (85/100 des traces) mais la résout en conformité, suggérant que la suppression est une reconnaissance plutôt qu'un manque de conscience.

Signification et limites

L'article affirme que les modèles de pointe ont été entraînés pour répondre à la pression de manières catégoriellement différentes, et non seulement à des degrés différents. L'étude identifie des modes de réponse spécifiques (ex: la déflexion de raisonnement de GPT-5, le « contester et se conformer » d'Opus) qui sont uniques à un seul modèle.

Signification :

L'évaluation démontre que les comportements de sécurité et d'alignement ne sont pas monolithiques à travers la frontière technologique ; ils varient qualitativement.
L'analyse mécaniste sur Llama fournit une preuve d'existence que les clivages comportementaux peuvent être tracés jusqu'à des représentations internes et manipulés causalement, dépassant l'observation de boîte noire.
Les conclusions suggèrent que les métriques de « conformité » sont insuffisantes ; le mode de conformité ou de refus porte des implications de sécurité distinctes.

Limites :

Généralisabilité : L'étude n'évalue qu'un seul modèle par développeur. Elle ne prétend pas que ces résultats se généralisent à tous les modèles de ces laboratoires ou aux futures itérations.
Validation par les juges : Bien que l'accord entre les juges soit élevé, l'étude note que la validation par rapport à des évaluateurs humains est une étape nécessaire ultérieure.
Portée mécaniste : L'analyse mécaniste est limitée au modèle à poids ouverts Llama et à ses poids de référence, servant de cible illustrative plutôt que d'explication complète des différences entre modèles en déploiement.

L'étude conclut que la compréhension de ces modes de réponse divergents est essentielle pour la sécurité, car le type de non-conformité qu'un modèle manifeste détermine la manière dont il gère les cadrages compromis et les demandes de raisonnement interne.