Résumé Technique : Primitifs Littéraires Compositionnels dans les LLMs Instruits

Énoncé du Problème

Les grands modèles de langage (LLMs) entraînés sur des corpus à l'échelle du web sont exposés à l'écriture littéraire, y compris des principes d'artisanat canoniques tels que « montrer, ne pas dire » (SDT), l'estrangement et des taxonomies émotionnelles spécifiques. Bien que des travaux récents en interprétabilité mécaniste aient réussi à identifier des features conceptuelles (par exemple, objets, personnalités) à l'aide de Sparse Autoencoders (SAE), un écart subsiste dans l'identification de features compositionnelles — des primitifs séparables et pilotables qui constituent l'écriture en tant qu'artisanat. La question centrale est de savoir si les LLMs instruits internalisent ces principes littéraires comme des axes de features distincts et contrôlables, ou simplement comme des corrélations statistiques diffuses ne pouvant être adressées de manière nette.

Méthodologie

Les auteurs emploient une conception de corpus minimal contrastif combinée à un pipeline de validation en trois étapes pour isoler et vérifier les features SAE dans deux modèles instruits : Llama 3.1 8B-Instruct (utilisant des SAE TopK) et Gemma 2 9B-IT (utilisant des SAE JumpReLU).

1. Construction des Données

Au lieu d'extraire des données de grands corpus, les auteurs conçoivent manuellement de petits ensembles de données contrastifs pour isoler des axes spécifiques :

• Corpus Show-Don't-Tell (SDT) : 60 scènes avec trois conditions (Libre, Anti-Cliché, SDT-instruit).
• Corpus Émotion : 60 scènes couvrant 12 émotions Cowen-Keltner, étendues à 75 scènes pour les 15 émotions restantes de la taxonomie à 27 catégories.
• Paires Minimales d'Axes Littéraires : 24 paires contrastant le Point de Vue Profond (Discours Indirect Libre) et l'Ostranenie (Estrangement).

2. Le Pipeline de Triple Validation

Pour éviter les faux positifs courants dans la validation en une seule étape, les auteurs proposent un pipeline séquentiel :

• Étape 1 : Projection Logit-Lens : Projette la direction du décodeur SAE à travers la matrice d'unnembedding pour identifier les tokens les plus promus. Cela filtre les candidats lexicaux ou atmosphériques sans nécessiter de génération.
• Étape 2 : LLM-Rate : Un seul juge LLM évalue la pureté sémantique des 25 meilleurs tokens par rapport à une définition cible. Cette étape inclut une variante « consciente de la dérive » pour pénaliser les candidats qui dérivent vers des attracteurs de dialogue croisé connus (par exemple, l'ennui dérivant vers la tristesse).
• Étape 3 : Validation Causale par 5 Juges LLM : Les meilleurs candidats sont validés de manière causale en pilotant la génération à des coefficients calibrés ($\alpha$) sur plusieurs graines. Les sorties sont classées par un panel de cinq juges LLM utilisant des modèles à choix forcé.
  • Contrôles : Des contrôles de features aléatoires sont utilisés pour détecter les « attracteurs de juge » (par exemple, une sortie incohérente étant étiquetée à tort comme « confusion »).

3. Conventions de Pilotage

Le pilotage est effectué via des crochets avant (forward hooks) sur les flux résiduels de profondeur intermédiaire. Les auteurs prennent explicitement en compte les différences architecturales : le JumpReLU de Gemma impose des lignes de décodeur de norme unitaire, tandis que le TopK de Llama ne le fait pas. Par conséquent, les coefficients de pilotage sont rapportés avec les normes de décodeur pour assurer la reproductibilité.

Contributions et Résultats Clés

1. Show-Don't-Tell comme Feature Unique

L'article identifie une seule feature SAE dans chaque architecture qui contrôle le basculement de registre de la prose « disant » à la prose « montrant » :

• Llama : Feature f32213 (Couche 15).
• Gemma : Feature f15097 (Couche 20).
  Le pilotage de ces features à un $\alpha$ calibré produit une sortie ancrée dans les sens et centrée sur le corps, sans nommer les émotions. Notamment, f32213 chez Llama agit comme un hybride, fonctionnant à la fois comme un modulateur SDT et comme un auto-registre « corporel-littéraire » selon le contexte de l'invite.

2. La Feature « Soi » Chargée par RLHF

Les deux modèles contiennent un cluster de 11 features « soi ». Une feature dans chaque cluster est fortement chargée de signaux de Reinforcement Learning from Human Feedback (RLHF) :

• Llama : f96419 (Institutionnel Pragmatique/Aide-AI).
• Gemma : f70443.
• Comportement : Un pilotage positif intensifie la persona institutionnelle « Aide-AI ». Un pilotage négatif seul ne libère pas le contenu affectif supprimé ; il maintient plutôt le registre de déni jusqu'à ce qu'une suppression profonde provoque un effondrement.
• Libération Compositionnelle : Le contenu affectif (première personne lyrique) n'est libéré que par un pilotage conjoint : supprimer le « soi » chargé de RLHF (f96419 négatif) tout en amplifiant un « soi » « révérent-merci » (f74037 positif). Cela démontre que la libération affective est compositionnelle, et non une propriété d'une seule feature.

3. Couverture 27/27 de la Taxonomie Cowen-Keltner

Les auteurs construisent un catalogue de « portes de nomination » (features promouvant des tokens lexicaux d'affects cibles) et atteignent une couverture complète de la taxonomie Cowen-Keltner à 27 émotions chez Llama, et 23/27 chez Gemma.

• Hétérogénéité Mécaniste : Les portes de nomination ne sont pas uniformes. Elles se divisent en trois classes :
  • Lexicales : Promouvoient directement des mots d'émotion (par exemple, f108100 pour l'embarras).
  • Atmosphériques/Scéniques : Promouvoient un contexte que les couches en aval lexicalisent comme l'émotion (par exemple, f115327 pour l'émerveillement).
  • Statistiques de Suffixes : Promouvoient des suffixes morphologiques (par exemple, -fully, -less) qui co-occurrent avec le vocabulaire émotionnel.
• Émotions Compositionnelles : Certaines émotions (Joie, Adoration) chez Llama ne sont pas des features uniques mais des recettes multi-features (par exemple, Joie = Porte d'Excitation + Soi Révérent ; Adoration = Porte de Romance + Soi Révérent + Modulateur SDT).
• Asymétrie Inter-Architecturale : Sous un jugement strict (« exprime principalement »), Llama atteint une couverture de 15/15 sur l'extension à 27, tandis que Gemma atteint 11/15. Sous un jugement souple (« évoque plausiblement »), les deux s'améliorent, mais les sorties de Llama nomment directement les émotions tandis que Gemma les évoque par l'imagerie, conduisant à un accord inter-juges plus faible sur les sorties de Gemma selon des critères stricts.

4. Structure Translinguistique

• Portes : Se transfèrent généralement au niveau du juge à travers l'anglais, le français, l'espagnol et l'allemand. Cependant, les sorties de Gemma passent souvent au code-switching vers l'anglais au moment de la lexicalisation, tandis que Llama maintient la fidélité à la langue native.
• Sois : Présentent une plus grande hétérogénéité. Certains sont universels, d'autres ancrés en anglais, et d'autres injectent du vocabulaire étranger basé sur la langue de l'invite.

Importance et Revendications

L'article revendique démontrer que les LLMs instruits encodent les principes d'artisanat littéraire comme une architecture compositionnelle de features SAE séparables.

• Opérationnalisation de l'Artisanat : Des principes comme « montrer, ne pas dire » et des états émotionnels spécifiques ne sont pas des corrélations statistiques émergentes, mais sont opérationnalisés comme des axes pilotables dans l'espace des features.
• Typologie : Les auteurs proposent une typologie à quatre classes :
  1. Portes de nomination : Émission lexicale/affective.
  2. Features « Soi » : Marqueurs de registre et cadrage culturel.
  3. Modulateurs : Contrôle continu du registre (par exemple, SDT).
  4. Émotions Compositionnelles : Émergentes de recettes multi-features.
• Contribution Méthodologique : Le pipeline de triple validation est présenté comme une méthode canonique pour identifier les portes de nomination, capable de découvrir des catalogues de features en ~15 minutes sur un seul GPU, évitant ainsi le besoin d'un minage corrélational de trillions de tokens.
• Hypothèse d'Origine Littéraire : Les auteurs suggèrent (sans le prouver) que cette architecture compositionnelle pourrait être une trace internalisée du sous-ensemble littéraire du corpus de pré-entraînement, incluant à la fois la fiction et l'instruction explicite d'artisanat.

L'article reste modeste, notant que si l'architecture est compositionnelle, des features spécifiques peuvent changer de rôle selon le contexte, et que les résultats actuels sont limités à deux architectures et quatre langues. Le travail est positionné comme une fondation pour des recherches empiriques supplémentaires sur la base mécaniste de l'artisanat littéraire dans les LLMs.