Résumé Technique : Concepteurs pour la Navigation Sémantique

Énoncé du Problème

Les méthodes de navigation basées sur l'activation visent à contrôler le comportement des grands modèles de langage (LLM) lors de l'inférence sans réentraînement. Le paradigme dominant représente les concepts sémantiques comme des vecteurs uniques (par exemple, via l'Addition d'Activation ou l'Addition d'Activation Contrastive), en injectant une direction de différence de moyenne dans les états cachés. Cette approche souffre de deux limitations fondamentales :

1. Réductionnisme Géométrique : Les concepts sémantiques (par exemple, le sentiment, l'orientation politique) occupent souvent des sous-espaces multidimensionnels au sein de l'espace d'activation du modèle. Réduire ces concepts à un seul vecteur élimine la structure résiduelle et le contexte, ce qui peut entraîner une perte de fluidité ou des sorties dégénérées.
2. Surcharge de Supervision : La sélection de la couche optimale pour l'intervention nécessite généralement l'entraînement de classificateurs de sondage à chaque couche, un processus supervisé coûteux qui évolue avec la profondeur du modèle et le nombre de concepts.

Méthodologie

Les auteurs proposent d'utiliser des Concepteurs, des matrices de projection souple développées à l'origine pour les réseaux de neurones récurrents (Jaeger, 2024), adaptées ici aux LLM basés sur les transformateurs.

Mécanisme Central

Étant donné un ensemble de vecteurs d'activation $\{x_1, \dots, x_N\}$ associés à un concept, une matrice de concepteur $C$ est définie comme la solution d'un problème de reconstruction régularisé :
$$C = R(R + \alpha^{-2}I)^{-1}$$
où $R$ est la matrice de corrélation de l'échantillon des activations et $\alpha$ est un paramètre d'ouverture. Dans la base propre de $R$, $C$ agit comme un mécanisme de commutation souple, atténuant les directions en fonction de leur énergie de signal. Les directions à haute énergie sont préservées, tandis que le bruit à faible énergie est supprimé.

Choix de Conception Clés

• Entraînement Bipolaire : Contrairement aux méthodes unipolaires antérieures qui naviguent vers un seul pôle (par exemple, le sentiment "positif"), cette approche regroupe les activations des deux pôles d'un concept bipolaire (par exemple, les sentiments positif et négatif) dans une seule matrice de corrélation. Cela capture le sous-espace complet entre les pôles plutôt que simplement le vecteur de différence.
• Sélection de Couche via le Quota de Concepteur : Pour éviter le sondage supervisé, les auteurs utilisent le quota de concepteur $q(C) = \frac{1}{d}\text{tr}(C)$, une métrique sans paramètre représentant la dimensionalité effective souple du sous-espace du concept. Des valeurs de quota élevées sont corrélées avec les couches où le concept est bien séparé.
• Compositionnalité Booléenne : Les concepteurs supportent l'algèbre booléenne sous forme close (ET, OU, NON) directement sur les matrices, permettant la composition de la navigation sans accès aux données d'activation originales.
  • NON : $\neg C = I - C$ (supprime un concept).
  • ET : $C_A \land C_B = (C_A^{-1} + C_B^{-1} - I)^{-1}$ (ne conserve que les directions de sous-espace partagées).

Contributions Clés

1. Caractérisation Géométrique : Les auteurs démontrent que les sous-espaces bipolaires englobent strictement les bases à vecteur unique, capturant $\ge 95\%$ de la direction de différence de moyenne utilisée par les méthodes antérieures tout en conservant une structure multidimensionnelle supplémentaire.
2. Diagnostics Sans Paramètre : Le quota de concepteur est montré comme prédisant la séparabilité des concepts (mesurée par l'AUC de sondage) avec des corrélations de Pearson allant jusqu'à $r=0,96$ sur trois modèles ajustés aux instructions (Gemma-2-2B-IT, Gemma-2-9B-IT, Qwen-2.5-3B-Instruct) et trois dimensions sémantiques, surpassant les métriques traditionnelles basées sur la variance.
3. Analyse de Compositionnalité : L'article établit que la composition booléenne est régie par le chevauchement des sous-espaces.
   • NON est efficace même avec un faible chevauchement (par exemple, séparer l'orientation politique du sentiment).
   • ET nécessite une pertinence thématique et un chevauchement de sous-espace significatif (par exemple, la position sur l'avortement et les droits LGBTQ) pour produire une navigation conjointe significative.
4. Robustesse et Sécurité : Une évaluation systématique de l'espace de conception sur cinq axes (placement, portée des tokens, règle de combinaison, source d'entraînement, mode autorégressif) révèle que la navigation par concepteur produit substantiellement moins de sorties dégénérées (13 % contre 58 % pour les bases additives) tout en égalant ou surpassant les méthodes additives en termes de ratios de victoire.

Résultats Expérimentaux

L'évaluation couvre trois modèles et trois concepts (sentiment, orientation politique, dépression).

• Performance : Les concepteurs atteignent des ratios de victoire de 0,70 à 0,82 sur les tâches de sentiment, surpassant significativement les bases additives (0,50 à 0,62). L'avantage est le plus prononcé dans les couches où les sous-espaces des concepts sont multidimensionnels.
• Dégénérescence : Les méthodes additives produisent fréquemment des textes répétitifs ou incohérents (sorties dégénérées). L'interpolation par concepteur réduit ce taux à 13 %, suggérant que les concepteurs naviguent à l'intérieur de la variété d'activation naturelle du modèle plutôt que de pousser les états hors distribution.
• Compositionnalité :
  • Dans les scénarios à faible chevauchement (Politique $\times$ Sentiment, chevauchement $\approx 0,19$), l'opération ET-NON isole avec succès un concept (par exemple, le sentiment) tout en supprimant l'autre, affinant la sélectivité.
  • Dans les scénarios à fort chevauchement (Avortement $\times$ LGBTQ, chevauchement $\approx 0,50$), l'opération ET active avec succès les deux concepts simultanément, une capacité non réalisable avec les méthodes à vecteur unique.
• Généralisation : La méthode se généralise à des ensembles de test plus grands non vus (500 invites) et maintient une robustesse face aux invites adverses (par exemple, des instructions système explicites à orientation droite).

Signification et Revendications

L'article revendique que la navigation par concepteur offre une alternative géométriquement fondée, compositionnelle et pratiquement plus sûre à la navigation unidirectionnelle. En préservant le sous-espace multidimensionnel complet d'un concept, les concepteurs évitent la perte d'information inhérente à la soustraction de vecteurs. La capacité à effectuer des opérations booléennes sans réentraînement ni accès aux données originales permet un contrôle complexe multi-concept (par exemple, "sois politique mais pas partisan") qui était auparavant difficile à réaliser.

Les auteurs positionnent ce travail comme une étape vers l'alignement au moment de l'inférence, où les concepts nocifs peuvent être supprimés (via NON) tout en préservant les capacités cibles, déplaçant la sécurité compositionnelle de l'ingénierie des invites vers des opérations algébriques routinières. Ils notent explicitement que la méthode est évaluée sur des modèles plus petits (jusqu'à 9 milliards de paramètres) et que le passage à l'échelle vers des modèles de taille de déploiement reste une direction future, bien que la géométrie sous-jacente soit revendiquée comme indépendante de l'architecture.

Limites Reconnues :

• L'évaluation est limitée à trois modèles et trois concepts sémantiques.
• Des forces de navigation élevées peuvent toujours entraîner une incohérence résiduelle.
• Les expériences de compositionnalité sont actuellement limitées à deux paires de concepts.
• La méthode repose sur des classificateurs automatisés pour le scoring, ce qui peut introduire des biais.
• Des considérations éthiques concernant le potentiel d'amplification des biais ou de manipulation du cadrage sont explicitement soulevées, présentant le travail comme une analyse de contrôlabilité plutôt que comme un outil de persuasion.