💬 NLP

Creative Collision: Directorial Persona Steering and Competition in Large Language Models

Ce document introduit « Creative Collision », un nouveau cadre de pilotage par activation qui superpose des vecteurs de personas directeurs opposés (Spielberg contre Scorsese) pour révéler qu'un persona domine souvent l'autre, que le mélange intermédiaire améliore paradoxalement la cohérence, et que les deux tons moraux se localisent dans la même couche profonde du transformer, offrant ainsi de nouvelles perspectives sur la géométrie des directions sémantiques concurrentes pour la génération créative contrôlable.

Auteurs originaux : Subramanyam Sahoo, Justin Shenk

Publié 2026-06-16

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Subramanyam Sahoo, Justin Shenk

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez un robot très intelligent et créatif qui écrit des histoires. Habituellement, si vous voulez que le robot écrive comme une personne spécifique, vous pourriez simplement lui dire : « Écris comme Steven Spielberg » ou « Écris comme Martin Scorsese ».

Mais cet article pose une question différente, plus complexe : Que se passe-t-il si nous essayons de faire écrire au robot comme les deux réalisateurs en même temps ?

Les chercheurs appellent cela la « Collision Créative ». Ils voulaient voir ce qui se passe lorsque deux « personnalités » très différentes s'entrechoquent à l'intérieur du cerveau du robot.

Les deux réalisateurs (les forces opposées)

Pour tester cela, ils ont choisi deux réalisateurs célèbres qui représentent deux extrémités opposées du spectre moral :

Steven Spielberg : Pensez à E.T. ou La Liste de Schindler. Ses histoires sont empreintes d'espoir, d'émerveillement enfantin, de rédemption et de fins heureuses.
Martin Scorsese : Pensez à Les Affranchis ou Taxi Driver. Ses histoires traitent de zones grises morales, de trahison, de violence et de personnages faisant de mauvais choix.

L'expérience : Mélanger les « saveurs »

Les chercheurs n'ont pas simplement demandé au robot de passer de l'un à l'autre. À la place, ils ont créé un « bouton de mélange » (appelé $\alpha$ ).

Tournez le bouton à 0 : Le robot écrit purement comme Spielberg.
Tournez le bouton à 1 : Le robot écrit purement comme Scorsese.
Tournez le bouton à 0,5 : Il essaie d'être 50 % Spielberg et 50 % Scorsese simultanément.

Ils ont tourné ce bouton par petites étapes et ont observé ce qui arrivait aux histoires générées par le robot.

Les grandes surprises

1. Spielberg est le « Champion Poids Lourds »
La découverte la plus surprenante est que le style de Spielberg est incroyablement dominant. Même lorsque les chercheurs ont essayé d'injecter beaucoup de Scorsese (jusqu'à 75 % de Scorsese !), les histoires semblaient encore principalement être du Spielberg.

L'analogie : Imaginez que vous essayez de mélanger une goutte d'encre noire dans un énorme seau de peinture orange vif. Peu importe la quantité d'encre noire que vous ajoutez, le seau reste orange. L'« optimisme » interne du robot est si fort qu'il absorbe la « noirceur », à moins que vous ne tourniez le bouton à 100 % Scorsese.

2. La « Vallée de Cohérence » (Le point idéal)
Habituellement, quand on force un robot à faire quelque chose qu'il ne veut pas naturellement faire, il commence à commettre des erreurs et à écrire des absurdités. On pourrait s'attendre à ce que le mélange de deux styles opposés rende le robot confus et l'histoire désordonnée.

La surprise : Lorsqu'ils ont mélangé les deux réalisateurs au milieu (autour de 25 % à 50 % de Scorsese), les histoires sont devenues en fait plus claires et plus cohérentes que lorsqu'ils essayaient de forcer le robot à être purement Scorsese.
L'analogie : Pensez à l'idée de pousser une boîte lourde. Si vous la poussez droit devant vous de toutes vos forces, elle risque de basculer. Mais si vous la poussez de deux angles légèrement différents en même temps, les forces s'annulent juste assez pour maintenir la boîte stable. La « collision » des deux styles a en fait aidé le robot à garder le cap.

3. L'« Amplificateur Moral »
Lorsqu'ils ont légèrement mélangé les styles (environ 25 % de Scorsese), les histoires ne sont pas devenues un mélange ennuyeux. Elles sont devenues moralement complexes.

L'analogie : Le pur Spielberg est comme une journée ensoleillée ; le pur Scorsese est comme une tempête. Mais la zone de « collision » était comme un coucher de soleil dramatique où l'on voit à la fois la beauté de la lumière et l'obscurité des nuages. Le robot a généré des histoires qui possédaient à la fois l'espoir et la tragédie, créant un ton moral plus riche et plus intéressant que celui de chaque réalisateur seul.

4. Où cela se passe-t-il dans le cerveau ?
Les chercheurs ont regardé à l'intérieur du « cerveau » du robot (qui possède 40 couches de traitement) pour voir où ces changements de personnalité se produisent.

La découverte : Ils ont trouvé une « salle de contrôle » spécifique à la Couche 28 (environ à 70 % du chemin à travers le cerveau). C'est là que le robot décide du « ton moral » de l'histoire. Les vibrations joyeuses de Spielberg et les vibrations sombres de Scorsese vivent toutes deux dans cet endroit exact, pointant simplement dans des directions opposées.

Pourquoi est-ce important ?

L'article suggère que l'entraînement du robot (ce qu'il a appris d'Internet) l'a naturellement fait pencher vers des histoires « bonnes » et « pleines d'espoir ». Il faut une force énorme pour le faire écrire des histoires sombres et cyniques.

Cependant, la méthode de la « Collision Créative » montre que si vous voulez créer quelque chose de complexe et d'intéressant, vous n'avez pas toujours besoin de forcer le robot à être 100 % une chose. Parfois, mélanger doucement deux idées opposées crée un « point idéal » où l'histoire est stable, cohérente et émotionnellement profonde.

En bref : Le robot possède un biais pour le « gentil » qui est difficile à briser. Mais si vous le poussez doucement vers le territoire du « méchant » sans pour autant lâcher le côté « gentil », vous obtenez les histoires les plus intéressantes, les plus cohérentes et les plus complexes sur le plan moral.

Résumé Technique : Collision Créative : Pilotage de la Persona Directoriale et Compétition dans les Grands Modèles de Langage

Énoncé du Problème

Le pilotage par activation (activation steering) s'est imposé comme un mécanisme puissant pour modifier le comportement des Grands Modèles de Langage (LLM) au moment de l'inférence en injectant des directions sémantiques apprises dans le flux résiduel. Bien que les recherches antérieures aient appliqué avec succès cette technique à des tâches à direction unique — telles que l'amélioration de la véracité, de la sécurité ou de personas spécifiques — la dynamique de la collision multi-vectorielle reste inexplorée. Plus précisément, on ignore ce qui se produit lorsque deux vecteurs de pilotage sémantiquement opposés sont superposés et entrent en compétition pour le contrôle représentationnel. Cet article comble cette lacune en étudiant le régime de « Collision Créative », où des directions morales et stylistiques opposées sont interpolées pour observer les interactions non linéaires, la dégradation de la cohérence et la dominance directionnelle.

Méthodologie

1. Corpus de Contraste Directorial

Les auteurs ont construit un corpus apparié $D = \{(x^{SPL}_i, x^{SCO}_i)\}$ comprenant 100 extraits chacun des filmographies de Steven Spielberg et de Martin Scorsese.

Spielberg : Tirés de films comme E.T., La Liste de Schindler et Il faut sauver le soldat Ryan, caractérisés par des arcs rédempteurs, une catharsis émotionnelle et des résolutions optimistes.
Scorsese : Tirés de films comme Les Affranchis, Taxi Driver et Casino, caractérisés par l'ambiguïté morale, la violence et des trajectoires autodestructrices.
Appariement : Les paires ont été appariées sur des situations narratives (ex: confrontation, choix moral) afin d'isoler le ton moral directorial de la complexité de l'intrigue.

2. Extraction des Vecteurs de Pilotage

En utilisant un transformateur de type décodeur seul à 14 milliards de paramètres (40 couches), les auteurs ont extrait les vecteurs de pilotage via une différence de moyenne par contraste contre un corpus de base neutre $B$ .

Vecteurs : $v^{(l)}_{SPL}$ et $v^{(l)}_{SCO}$ ont été calculés comme la différence entre la moyenne des activations du corpus respectif du réalisateur et la base à la couche $l$ .
Normalisation : Les vecteurs ont été normalisés $\ell_2$ . Notamment, ils n'étaient pas antiparallèles ; à la couche 28, leur similitude cosinus était d'environ $0,29$, indiquant un sous-espace représentationnel partagé pour le contenu émotionnel cinématographique malgré des résolutions morales divergentes.

3. Protocole d'Interpolation et de Pilotage

L'étude a introduit une famille paramétrique de vecteurs interpolés :
$v^{(l)}_\alpha = (1 - \alpha)\hat{v}^{(l)}_{SPL} + \alpha\hat{v}^{(l)}_{SCO}, \quad \alpha \in [0, 1]$

Pilotage : Le vecteur interpolé a été ajouté au flux résiduel aux couches $L = \{20, \dots, 38\}$ avec un coefficient de pilotage $\lambda \in \{0,5, 1,0, 1,5, 2,0\}$ .
Évaluation : 50 passages de fiction créative ont été générés par condition. Les métriques incluaient :
- Valence Morale : Évaluée par un classificateur affiné ( $[-1, +1]$ ).
- Cohérence : Mesurée via la perplexité par jeton sous le modèle de base non piloté.
- Dominance Directionnelle : Probabilité assignée par un classificateur stylométrique à la classe Spielberg.
- Style de Surface : Métriques incluant la longueur des phrases, la densité de dialogue et la diversité lexicale.

Résultats Clés

1. Valence Morale Non Monotone

Contrairement à l'attente naïve selon laquelle le ton moral évoluerait linéairement de Spielberg (positif) vers Scorsese (négatif) à mesure que $\alpha$ augmente, les résultats ont été non monotones.

À $\lambda = 1,0$ , la valence morale était la plus négative à $\alpha = 0,25$ ( $MV \approx -0,38$ ) plutôt qu'à $\alpha = 1,0$ .
Cette « incohérence morale » aux points intermédiaires suggère une interférence constructive où la composante Scorsese introduit de l'obscurité mais ne parvient pas à dominer, créant un état pénalisé.
À des magnitudes de pilotage élevées ( $\lambda = 1,5$ ), le signal moral s'est totalement effondré vers un niveau proche de zéro, indiquant que le flux résiduel a été poussé hors du manifold textuel naturel.

2. La Vallée de Cohérence

Un résultat contre-intuitif a émergé concernant la cohérence de la génération (perplexité).

Pilotage Pur : Le pilotage d'un seul réalisateur ( $\alpha=0$ ou $1$) a provoqué les augmentations de perplexité les plus importantes à $\lambda$ élevé.
Collision Intermédiaire : Les conditions avec des vecteurs mixtes ( $\alpha \in \{0,25, 0,5\}$ ) sont restées significativement plus cohérentes.
Explication Géométrique : Les auteurs ont prouvé que l'interpolation de deux vecteurs unitaires non antiparallèles ( $\rho < 1$ ) réduit la norme $\ell_2$ du vecteur résultant. La norme est minimisée à $\alpha = 0,5$ . Puisque le coût de cohérence augmente avec la magnitude de la perturbation, les points de collision intermédiaire appliquent une perturbation effective plus faible, préservant la proximité du modèle avec le manifold textuel naturel.

3. Dominance Directionnelle

La signature représentationnelle de Spielberg a montré une dominance robuste sur presque toute la plage d'interpolation.

Pour $\alpha \in \{0,0, 0,25, 0,50, 0,75\}$ , le classificateur stylométrique a assigné une probabilité d'environ $1,0$ à la classe Spielberg.
Ce n'est qu'à $\alpha = 1,0$ (Scorsese pur) que le classificateur s'est approché de la frontière de décision ( $P \approx 0,49$ ).
Mécanismes : Cela est attribué à (1) un biais a priori dans les données de pré-entraînement vers les récits prosociaux et (2) l'amplification de l'alignement via le RLHF, qui renforce la génération positive, agissant ainsi comme un a priori persistant de la direction Spielberg.

4. Localisation par Couche

Les effets moraux des deux réalisateurs ont culminé à la Couche 28 (environ 70 % de la profondeur dans le modèle de 40 couches).

Les effets étaient approximativement antisymétriques ( $\Delta MV \approx -0,50$ pour Scorsese, $+0,47$ pour Spielberg).
Cette co-localisation suggère que la Couche 28 fonctionne comme un « hub de ton moral » partagé où les propriétés sémantiques de haut niveau sont encodées causalement, soutenant l'hypothèse de la représentation linéaire pour la valence morale.

5. Amplification Morale

La décomposition de la valence morale en sous-scores positifs ( $p+$ ) et négatifs ( $p-$ ) a révélé que le régime de collision ( $\alpha \approx 0,25$ ) a produit des textes possédant à la fois des scores moraux positifs et négatifs élevés simultanément. Cette « amplification morale » indique que la collision peut générer des textes avec une plus grande complexité et une plus grande explicité morales que l'un ou l'autre des extrêmes des réalisateurs purs.

Signification et Revendications

L'article prétend faire progresser la compréhension des directions sémantiques compétitives dans les espaces d'activation des transformateurs. Ses principales contributions sont :

Implications pour la Sécurité : La dominance directionnelle robuste du contenu prosocial suggère que les modèles affinés pour l'utilité maintiennent un a priori interne fort contre le contenu moralement sombre. Piloter vers un contenu indésirable nécessite des magnitudes d'activation nettement plus grandes que le pilotage vers un contenu bénin, élevant ainsi la barre empirique pour les attaques adverses au niveau des activations.
Principe de Conception pour la Cohérence : La « vallée de cohérence » fournit un principe géométrique : lorsqu'une magnitude de pilotage élevée est requise, l'interpolation entre deux directions sémantiquement opposées peut mieux préserver la cohérence qu'un pilotage vers une direction unique à magnitude totale équivalente, à condition que les vecteurs ne soient pas antipodaux.
Génération Créative : L'effet d'« amplification morale » suggère qu'injecter délibérément une petite composante de direction opposée peut augmenter la tension narrative et la profondeur morale sans abandonner la persona dominante, offrant un nouvel outil pour la génération créative contrôlable.
Interprétabilité Mécaniste : L'identification de la Couche 28 comme un substrat partagé du ton moral et la confirmation des directions de valence morale linéaires fournissent des cibles concrètes pour les futures études de traçage causal et de décomposition de caractéristiques (feature decomposition).

Les auteurs soulignent que bien que la capacité de piloter vers un contenu sombre existait déjà, leur travail quantifie la résistance imposée par l'alignement par affinage. Ils considèrent la découverte selon laquelle un tel pilotage est difficile à réaliser comme un résultat positif pour la littérature sur la sécurité, tout en reconnaissant le potentiel de l'« amplification morale » pour la génération de contenus à haute intensité.