Résumé technique : Négatif avant positif : Traitement asymétrique de la valence dans les grands modèles de langage

Énoncé du problème

Si l'interprétabilité mécaniste a réussi à cartographier la façon dont les grands modèles de langage (LLM) encodent les associations factuelles et les concepts abstraits sous forme de directions linéaires, le traitement interne de la valence émotionnelle reste mal compris. Les études antérieures se sont largement appuyées sur des sondages corrélatifs ou des analyses comportementales, laissant ouvertes des questions critiques :

1. Les LLM possèdent-ils des structures internes dédiées à la valence, ou s'appuient-ils sur une correspondance de tokens de surface ?
2. Les représentations émotionnelles sont-elles localisées à des étapes spécifiques de traitement ou distribuées de manière diffuse ?
3. Les signaux observés reflètent-ils un suivi réel de la valence ou simplement la détection de sujets (par exemple, reconnaître le mot « rejeté » sans comprendre le sentiment négatif) ?

Les travaux existants (par exemple, Sofroniew et al., 2026) ont identifié des émotions fonctionnelles dans des modèles fermés, mais manquaient de localisation causale et de contrôles rigoureux pour les confusions liées au sujet. Cet article comble ces lacunes en examinant si la valence est traitée par un mécanisme causal spécifique à une couche dans des LLM open-source.

Méthodologie

Les auteurs utilisent le patching d'activation et les vecteurs de guidage sur trois modèles open-source entraînés par instruction : Llama-3.2-1B, Qwen2.5-1.5B et Qwen2.5-3B. Ces modèles couvrent deux familles d'architectures (Attention multi-têtes vs Attention à requêtes groupées) et deux échelles.

Conception expérimentale

1. Conception de paires d'invites : L'étude construit 100 paires d'invites propres/corrompues par condition.

   • Condition de bonnes nouvelles : L'invite propre décrit un résultat positif ; l'invite corrompue décrit la même situation de manière neutre.
   • Condition témoin négative : L'invite propre décrit un résultat négatif ; l'invite corrompue est identique à la base corrompue des « bonnes nouvelles ».
   • Base corrompue partagée : Cette conception garantit que toute différence dans les effets de patch est attribuable uniquement à la valence, et non au sujet ou à la formulation.
   • Domaines : Les invites couvrent le milieu académique, la carrière et la vie personnelle pour s'assurer que les résultats ne sont pas spécifiques à un domaine.

2. Patching d'activation :

   • Le modèle s'exécute sur des entrées corrompues tandis que les activations du flux résiduel à des couches spécifiques sont remplacées par des activations mises en cache provenant d'exécutions propres.
   • Métrique : Un score d'écart de logit est calculé en fonction de la masse de probabilité de tokens ancrage positifs et négatifs prédéfinis dans la distribution du token suivant.
   • Objectif : Identifier la « couche causale supérieure » où le patching restaure le comportement de sortie propre, indiquant où le signal de valence est calculé.

3. Test de retournement de valence :

   • Pour écarter la détection de sujets, l'étude vérifie si l'écart de score change de signe lorsque la valence s'inverse (Bonnes nouvelles vs Négatif) tandis que le sujet reste constant. Une véritable représentation de valence devrait produire des effets de signe opposé (écarts anti-corrélés), tandis que la détection de sujets produirait des écarts corrélés.

4. Guidage causal :

   • Un vecteur de direction de valence est extrait du flux résiduel à la couche causale supérieure identifiée (différence moyenne entre les activations propres et corrompues).
   • Ce vecteur est ajouté ou soustrait à des invites émotionnellement neutres pour tester s'il déplace causalement la sortie du modèle vers une valence positive ou négative.

Résultats clés

1. Suivi directionnel de la valence

Les trois modèles ont démontré la capacité de distinguer le contenu émotionnel dans leurs distributions de sortie, avec une précision de signe allant de 79 % à 95 % selon les conditions. La famille Qwen a présenté des écarts de score plus nets que Llama-1B.

2. Écarter la détection de sujets

Le Test de retournement de valence a produit des taux de retournement de 69 % (Llama-1B), 80 % (Qwen-1.5B) et 85 % (Qwen-3B). Ces taux sont significativement supérieurs à la base de hasard de 50 %, confirmant que les modèles suivent la valence comme une variable interne séparable plutôt que de simplement reconnaître des mots-clés de sujet.

3. Localisation asymétrique en profondeur (Résultat principal)

L'étude révèle une dissociation en profondeur claire dans le traitement de la valence :

• Valence négative : Se localise causalement aux couches précoces (atteignant un pic à 14–27 % de la profondeur du modèle). Le patching à ces couches restaure fortement les sorties négatives.
• Valence positive : Culmine aux couches moyennes à tardives (atteignant un pic à 53–66 % de la profondeur du modèle).
• Signification statistique : Les tests U de Mann-Whitney confirment que cette dissociation est hautement significative pour tous les modèles ($p < 10^{-10}$).
• Interprétation : Les résultats négatifs semblent être traités par un « détecteur rapide et superficiel » s'appuyant sur des mots lexicalement distinctifs (par exemple, « rejeté »), tandis que les résultats positifs nécessitent une intégration contextuelle plus profonde pour assembler une représentation plus riche.

4. Structure causale asymétrique

• Contrôle négatif : Montre une localisation causale stricte. Il existe une forte corrélation négative ($\rho \approx -0,5$ à $-0,68$) entre l'amplitude du patch et la force de la réponse, indiquant qu'une seule couche dominante pilote la réponse négative.
• Bonnes nouvelles : Montre un traitement diffus. La corrélation entre l'amplitude du patch et la force de la réponse est faible ou non significative ($\rho \approx 0,1$ à $0,37$), suggérant que la valence positive est distribuée à travers le réseau plutôt que routée à travers une seule couche.

5. Guidabilité

Les expériences de guidage ont confirmé que les couches identifiées encodent la valence comme une direction linéaire manipulable.

• L'ajout de la direction « bonnes nouvelles » aux invites neutres a déplacé 92–100 % des sorties vers une valence positive.
• La soustraction de la direction a déplacé les sorties vers une valence négative.
• La relation entre la force de guidage ($\alpha$) et le changement de score de valence ($\Delta$) était croissante de manière monotone, confirmant que le vecteur extrait est une véritable caractéristique linéaire.

Importance et revendications

L'article revendique que la valence émotionnelle dans les LLM n'est pas un état interne monolithique mais un calcul asymétrique avec des voies causales distinctes pour les entrées positives et négatives.

• Insight mécaniste : Les résultats suggèrent que les valences négative et positive ne sont pas simplement les extrémités opposées d'un seul axe, mais sont traitées via des mécanismes de calcul distincts (détection précoce et localisée vs intégration tardive et distribuée).
• Potentiel de surveillance : Parce que la valence négative est localisée aux couches précoces et est prévisiblement guidable, elle représente une cible concrète pour une surveillance basée sur l'interprétabilité. La surveillance de ces couches précoces pourrait permettre une intervention avant que le modèle n'assemble une réponse complète.
• Généralisabilité : L'asymétrie vaut pour différentes échelles de modèles et architectures d'attention (MHA vs GQA), suggérant qu'il s'agit d'une propriété fondamentale du traitement de la valence basé sur les transformateurs plutôt que d'un artefact d'une conception de modèle spécifique.

Les auteurs concluent que comprendre pourquoi ces polarités nécessitent des profondeurs de calcul différentes peut révéler des aspects fondamentaux de la façon dont les transformateurs encodent le contenu sémantique et émotionnel. Ils déclarent explicitement ne pas prévoir d'impacts sociétaux négatifs directs découlant de cette recherche, la considérant plutôt comme une étape vers des déploiements de modèles plus sûrs et plus interprétables.