💬 NLP

Creative Collision: Directorial Persona Steering and Competition in Large Language Models

Dit artikel introduceert "Creative Collision", een nieuw framework voor activation steering dat tegenovergestelde directoriale persona-vectoren (Spielberg versus Scorsese) superponeert om te onthullen dat de ene persona vaak de andere domineert, dat intermediaire menging paradoxaal genoeg de coherentie verbetert, en dat beide morele tonen lokaliseren in dezelfde diepe transformer-laag, wat nieuwe inzichten biedt in de geometrie van concurrerende semantische richtingen voor controleerbare creatieve generatie.

Oorspronkelijke auteurs: Subramanyam Sahoo, Justin Shenk

Gepubliceerd 2026-06-16

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Subramanyam Sahoo, Justin Shenk

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer slimme, creatieve robot hebt die verhalen schrijft. Normaal gesproken, als je wilt dat de robot schrijft als een specifiek persoon, zeg je gewoon tegen de robot: "Schrijf als Steven Spielberg" of "Schrijf als Martin Scorsese."

Maar dit artikel stelt een andere, complexere vraag: Wat gebeurt er als we proberen de robot te laten schrijven als beide regisseurs op exact hetzelfde moment?

De onderzoekers noemen dit "Creative Collision" (Creatieve Botsing). Ze wilden zien wat er gebeurt wanneer twee zeer verschillende "persoonlijkheden" tegen elkaar botsen in de hersenen van de robot.

De Twee Regisseurs (De Tegenovergestelde Krachten)

Om dit te testen, kozen ze twee beroemde filmregisseurs die de tegenovergestelde uiteinden van het morele spectrum vertegenwoordigen:

Steven Spielberg: Denk aan E.T. of Schindler's List. Zijn verhalen gaan over hoop, kinderlijke verwondering, verlossing en gelukkige eindes.
Martin Scorsese: Denk aan Goodfellas of Taxi Driver. Zijn verhalen gaan over morele grijstinten, verraad, geweld en personages die slechte keuzes maken.

Het Experiment: Het Mengen van de "Smaakjes"

De onderzoekers vroegen de robot niet simpelweg om tussen de twee te schakelen. In plaats daarvan creëerden ze een "mengknop" (genoemd $\alpha$ ).

Draai de knop naar 0: De robot schrijft puur zoals Spielberg.
Draai de knop naar 1: De robot schrijft puur zoals Scorsese.
Draai de knop naar 0,5: De robot probeert tegelijkertijd 50% Spielberg en 50% Scorsese te zijn.

Ze draaiden deze knop in kleine stapjes en observeerden wat er met de verhalen gebeurde die de robot genereerde.

De Grote Verrassingen

1. Spielberg is de "Heavyweight Champion"
De meest verrassende bevinding was dat de stijl van Spielberg ongelooflijk dominant is. Zelfs toen de onderzoekers probeerden om veel Scorsese toe te voegen (tot 75% Scorsese!), klonken de verhalen nog steeds grotendeels als Spielberg.

De Analogie: Stel je voor dat je een druppel zwarte inkt probeert te mengen in een grote emmer heldere oranje verf. Hoeveel zwarte inkt je ook toevoegt, de emmer blijft oranje. De interne "optimisme" van de robot is zo sterk dat het de "duisternis" opslokt, tenzij je de knop helemaal naar 100% Scorsese draait.

2. De "Coherence Valley" (De Sweet Spot)
Normaal gesproken, wanneer je een robot dwingt om iets te doen wat hij niet natuurlijk wil, begint hij fouten te maken en onzin te schrijven. Je zou verwachten dat het mengen van twee tegenovergestelde stijlen de robot in de war zou brengen en het verhaal rommelig zou maken.

De Verrassing: Wanneer ze de twee regisseurs in het midden mengden (rond de 25% tot 50% Scorsese), waren de verhalen zelfs duidelijker en coherenter dan wanneer ze de robot probeerden puur Scorsese te laten zijn.
De Analogie: Denk aan het duwen van een zware doos. Als je recht naar voren duwt met al je kracht, kan de doos kantelen. Maar als je vanuit twee licht verschillende hoeken tegelijkertijd duwt, heffen de krachten elkaar net genoeg op om de doos stabiel te houden. De "botsing" van de twee stijlen hielp de robot juist om op koers te blijven.

3. De "Morele Versterker"
Wanneer ze de stijlen licht mengden (ongeveer 25% Scorsese), werden de verhalen niet zomaar een saai mengsel. Ze werden moreel complex.

De Analogie: Puur Spielberg is als een zonnige dag; puur Scorsese is als een storm. Maar de "botsingszone" was als een dramatische zonsondergang waarbij je zowel de schoonheid van het licht als de duisternis van de wolken ziet. De robot genereerde verhalen die zowel hoop als tragedie tegelijkertijd bevatten, wat een rijkere, interessantere morele toon creëerde dan bij een van de regisseurs alleen.

4. Waar in de Hersenen Gebeurt Dit?
De onderzoekers keken in de "hersenen" van de robot (die 40 lagen verwerking hebben) om te zien waar deze persoonlijkheidsveranderingen plaatsvonden.

De Bevinding: Ze vonden een specifieke "controlekamer" op Laag 28 (ongeveer 70% van de weg door de hersenen). Dit is waar de robot de "morele toon" van het verhaal bepaalt. Zowel de vrolijke Spielberg-vibes als de duistere Scorsese-vibes leven op exact dezelfde plek, maar wijzen in tegengestelde richtingen.

Waarom Is Dit Belangrijk?

Het artikel suggereert dat de training van de robot (wat hij leerde van het internet) hem er natuurlijk naar liet neigen naar "goede" en "hoopvolle" verhalen. Het kost een enorme hoeveelheid kracht om hem donkere, cynische verhalen te laten schrijven.

De methode van "Creative Collision" laat echter zien dat als je iets complex en interessants wilt creëren, je de robot niet altijd 100% één ding moet dwingen. Soms creëert het voorzichtig mengen van twee tegenovergestelde ideeën een "sweet spot" waar het verhaal stabiel, coherent en emotioneel diep is.

Kortom: De robot heeft een sterke "goed mens"-bias die moeilijk te breken is. Maar als je hem voorzichtig richting het "slechte mens"-gebied duwt zonder de "goede mens" volledig los te laten, krijg je de meest interessante, coherente en moreel complexe verhalen van allemaal.

Technische Samenvatting: Creatieve Collisie: Directoriale Persona Sturing en Competitie in Large Language Models

Probleemstelling

Activation steering heeft zichzelf gevestigd als een krachtig mechanisme voor het modificeren van de gedragingen van Large Language Models (LLM's) tijdens de inferentie door het injecteren van geleerde semantische richtingen in de residual stream. Terwijl eerder onderzoek succesvol is toegepast op taken met één enkele richting — zoals het verbeteren van waarachtigheid, veiligheid of specifieke persona's — blijven de dynamieken van multi-vector collisie onverkend. Specifiek is het onbekend wat er gebeurt wanneer twee semantisch tegengestelde sturingsvectoren worden superponeerd en strijden om representatieve controle. Dit artikel adresseert deze kloof door het "Creative Collision"-regime te onderzoeken, waarbij tegengestelde morele en stilistische richtingen worden geïnterpoleerd om niet-lineaire interacties, coherentie-degradatie en directionele dominantie te observeren.

Methodologie

1. Directoriale Contrast Corpus

De auteurs construeerden een gepaard corpus $D = \{(x^{SPL}_i, x^{SCO}_i)\}$ bestaande uit elk 100 fragmenten uit de filmografie van Steven Spielberg en Martin Scorsese.

Spielberg: Afkomstig uit films zoals E.T., Schindler's List en Saving Private Ryan, gekenmerkt door verlossingsbogen, emotionele catharsis en optimistische resolutie.
Scorsese: Afkomstig uit films zoals Goodfellas, Taxi Driver en Casino, gekenmerkt door morele ambiguïteit, geweld en zelfdestructieve trajecten.
Matching: Paren werden gematcht op narratieve situaties (bijv. confrontatie, morele keuze) om de directoriale morele toon te isoleren van plotcomplexiteit.

2. Extractie van Sturingsvectoren

Gebruikmakend van een 14-miljard-parameter decoder-only transformer (40 lagen), extraheerden de auteurs sturingsvectoren via mean-difference contrast tegen een gedeeld neutraal baseline-corpus $B$ .

Vectoren: $v^{(l)}_{SPL}$ en $v^{(l)}_{SCO}$ werden berekend als het verschil tussen het gemiddelde van de respectievelijke director-corpus en de baseline op laag $l$ .
Normalisatie: Vectoren werden $\ell_2$ -genormaliseerd. Opvallend genoeg waren ze niet anti-parallel; op laag 28 was hun cosinus-gelijkenis $\approx 0,29$ , wat duidt op een gedeelde representatieve subspace voor cinematografische emotionele inhoud ondanks uiteenlopende morele resoluties.

3. Interpolatie en Sturing Protocol

De studie introduceerde een parametrische familie van geïnterpoleerde vectoren:
$v^{(l)}_\alpha = (1 - \alpha)\hat{v}^{(l)}_{SPL} + \alpha\hat{v}^{(l)}_{SCO}, \quad \alpha \in [0, 1]$

Sturing: De geïnterpoleerde vector werd toegevoegd aan de residual stream op lagen $L = \{20, \dots, 38\}$ met een sturingscoëfficiënt $\lambda \in \{0,5, 1,0, 1,5, 2,0\}$ .
Evaluatie: Er werden 50 creatieve fictie-passages gegenereerd per conditie. Metrics omvatten:
- Morele Valentie: Gescoord door een fine-tuned classifier ( $[-1, +1]$ ).
- Coherentie: Gemeten via token-level perplexiteit onder het ongestuurde basismodel.
- Directionele Dominantie: Kans toegewezen door een stylometrische classifier aan de Spielberg-klasse.
- Oppervlaktestijl: Metrics inclusief zinlengte, dialoogdichtheid en lexicale diversiteit.

Belangrijkste Resultaten

1. Niet-monotone Morele Valentie

In tegenstelling tot de naïeve verwachting dat de morele toon lineair zou verschuiven van Spielberg (positief) naar Scorsese (negatief) naarmate $\alpha$ toeneemt, waren de resultaten niet-monotoon.

Bij $\lambda = 1,0$ was de morele valentie het meest negatief bij $\alpha = 0,25$ ( $MV \approx -0,38$ ) in plaats van bij $\alpha = 1,0$ .
Deze "morele incoherentie" bij intermediaire punten suggereert constructieve interferentie waarbij de Scorsese-component duisternis introduceert maar faalt om te domineren, wat een gepenaliseerde staat creëert.
Bij hoge sturingsmagnitudes ( $\lambda = 1,5$ ) stort de morele signaal volledig in naar bijna nul, wat aangeeft dat de residual stream uit de natuurlijke tekst-manifold is geduwd.

2. De Coherentie-vallei

Een contra-intuïtieve bevinding kwam naar voren met betrekking tot generatie-coherentie (perplexity).

Pure Sturing: Enkele director-sturing ( $\alpha=0$ of $1$) veroorzaakte de grootste perplexiteitstoenames bij een hoge $\lambda$ .
Intermediaire Collisie: Condities met gemengde vectoren ( $\alpha \in \{0,25, 0,5\}$ ) bleven significant coherenter.
Geometrische Verklaring: De auteurs bewezen dat het interpoleren van twee niet-anti-parallelle eenheidsvectoren ( $\rho < 1$ ) de $\ell_2$ -norm van de resulterende vector vermindert. De norm wordt geminimaliseerd bij $\alpha = 0,5$ . Aangezien de coherentie-kosten schalen met de perturbatie-magnitude, passen intermediaire collisiepunten een zwakkere effectieve perturbatie toe, waardoor de nabijheid van het model tot de natuurlijke tekst-manifold behouden blijft.

3. Directionele Dominantie

De representatieve signatuur van Spielberg vertoonde een robuuste dominantie over bijna het gehele interpolatiebereik.

Voor $\alpha \in \{0,0, 0,25, 0,50, 0,75\}$ wees de stylometrische classifier een waarschijnlijkheid van $\approx 1,0$ toe aan de Spielberg-klasse.
Alleen bij $\alpha = 1,0$ (pure Scorsese) naderde de classifier de beslissingsgrens ( $P \approx 0,49$ ).
Mechanismen: Dit wordt toegeschreven aan (1) een prior bias in de pretraining data naar prosociale narratieven en (2) alignment amplificatie via RLHF, wat positieve generatie versterkt en effectief fungeert als een persistente Spielberg-richting prior.

4. Laag-specifieke Lokalisatie

De morele effecten van beide directors piekten op Laag 28 (ongeveer 70% diepte in het 40-laags model).

De effecten waren ongeveer anti-symmetrisch ( $\Delta MV \approx -0,50$ voor Scorsese, $+0,47$ voor Spielberg).
Deze co-lokalisatie suggereert dat Laag 28 fungeert als een gedeelde "morele-toon hub" waar hoog-niveau semantische eigenschappen causaal gecodeerd zijn, wat het lineaire representatiehypothese voor morele valentie ondersteunt.

5. Morele Amplificatie

Het decomponeren van morele valentie in positieve ( $p+$ ) en negatieve ( $p-$ ) subscores onthulde dat het collisie-regime ( $\alpha \approx 0,25$ ) teksten produceerde met zowel een hoge positieve als een hoge negatieve morele score simultaan. Deze "morele amplificatie" geeft aan dat collisie teksten kan genereren met grotere morele complexiteit en explicietheid dan de pure director-extremen.

Betekenis en Claims

Het artikel claimt begrip te bieden van competerende semantische richtingen in transformer activatieruimtes. De primaire bijdragen zijn:

Veiligheidsimplicaties: De robuuste directionele dominantie van prosociaal content suggereert dat modellen die gefinetuned zijn voor behulpzaamheid een sterke interne prior behouden tegen moreel duistere content. Het sturen naar ongewenste content vereist substantieel grotere activatie-magnitudes dan het sturen naar welwillende content, wat de empirische lat voor adversariële activatie-niveau aanvallen verhoogt.
Ontwerpprincipe voor Coherentie: De "coherentie-vallei" biedt een geometrisch principe: wanneer een hoge sturingsmagnitude vereist is, kan het interpoleren tussen twee semantisch tegengestelde richtingen de coherentie beter behouden dan het toepassen van een enkele richting bij een equivalente totale magnitude, mits de vectoren niet-antipodaal zijn.
Creatieve Generatie: Het "morele amplificatie"-effect suggereert dat het doelbewust injecteren van een kleine tegengestelde-richting component de narratieve spanning en morele diepte kan vergroten zonder de dominante persona te verlaten, wat een nieuwe tool biedt voor controleerbare creatieve generatie.
Mechanistische Interpreteerbaarheid: De identificatie van Laag 28 als een gedeelde morele-toon substrate en de bevestiging van lineaire morele-valentie richtingen bieden concrete doelwitten voor toekomstige causale tracing en feature decompositie studies.

De auteurs benadrukken dat hoewel de capaciteit om naar donkere content te sturen reeds bestond, hun werk de weerstand kwantificeert die door alignment fine-tuning wordt opgelegd. Zij beschouwen de bevinding dat dergelijke sturing moeilijk te bereiken is als een netto positief voor de veiligheidsliteratuur, terwijl zij erkennen dat de potentie voor "morele amplificatie" kan worden geëxploiteerd voor high-intensity content generatie.