💬 NLP

Creative Collision: Directorial Persona Steering and Competition in Large Language Models

Dieses Paper führt „Creative Collision“ ein, ein neuartiges Framework zur Steuerung von Aktivierungen, das gegensätzliche direkte vektorielle Personas (Spielberg vs. Scorsese) überlagert, um aufzuzeigen, dass eine Persona oft die andere dominiert, dass eine intermediäre Mischung paradoxerweise die Kohärenz verbessert und dass beide moralischen Töne in derselben tiefen Transformer-Schicht lokalisiert sind, was neue Einblicke in die Geometrie konkurrierender semantischer Richtungen für die kontrollierbare kreative Generierung bietet.

Ursprüngliche Autoren: Subramanyam Sahoo, Justin Shenk

Veröffentlicht 2026-06-16

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Subramanyam Sahoo, Justin Shenk

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie hätten einen sehr intelligenten, kreativen Roboter, der Geschichten schreibt. Normalerweise würden Sie dem Roboter, wenn Sie möchten, dass er wie eine bestimmte Person schreibt, einfach sagen: „Schreibe wie Steven Spielberg“ oder „Schreibe wie Martin Scorsese“.

Aber diese Arbeit stellt eine andere, komplexere Frage: Was passiert, wenn wir versuchen, den Roboter dazu zu bringen, gleichzeitig wie beide Regisseure zu schreiben?

Die Forscher nennen dies „Creative Collision“ (Kreative Kollision). Sie wollten sehen, was passiert, wenn zwei sehr unterschiedliche „Persönlichkeiten“ in den Gehirn des Roboters zusammenstoßen.

Die zwei Regisseure (Die gegensätzlichen Kräfte)

Um dies zu testen, wählten sie zwei berühmte Filmregisseure aus, die entgegengesetzte Enden des moralischen Spektrums repräsentieren:

Steven Spielberg: Denken Sie an E.T. oder Schindlers Liste. Seine Geschichten handeln von Hoffnung, kindlicher Wunderwelt, Erlösung und Happy Ends.
Martin Scorsese: Denken Sie an Goodfellas oder Taxi Driver. Seine Geschichten handeln von moralischen Grauzonen, Verrat, Gewalt und Charakteren, die schlechte Entscheidungen treffen.

Das Experiment: Das „Mischen der Aromen“

Die Forscher ließen den Roboter nicht einfach zwischen den beiden hin- und herschalten. Stattdessen erstellten sie einen „Mischregler“ (genannt $\alpha$ ).

Drehen Sie den Regler auf 0: Der Roboter schreibt rein wie Spielberg.
Drehen Sie den Regler auf 1: Der Roboter schreibt rein wie Scorsese.
Drehen Sie den Regler auf 0,5: Er versucht, gleichzeitig zu 50 % wie Spielberg und 50 % wie Scorsese zu schreiben.

Sie drehten diesen Regler in kleinen Schritten und beobachteten, was mit den Geschichten geschah, die der Roboter generierte.

Die großen Überraschungen

1. Spielberg ist der „Schwergewichtschampion“
Die überraschendste Erkenntnis war, dass Spielbergs Stil unglaublich dominant ist. Selbst als die Forscher versuchten, viel Scorsese beizumischen (bis zu 75 % Scorsese!), klangen die Geschichten immer noch hauptsächlich wie Spielberg.

Die Analogie: Stellen Sie sich vor, Sie versuchen, einen Tropfen dunkle Tinte in einen riesigen Eimer heller oranger Farbe zu mischen. Egal wie viel dunkle Tinte Sie hinzufügen, der Eimer bleibt orange. Die interne „Optimismus“ des Roboters ist so stark, dass sie die „Dunkelheit“ verschluckt, es sei denn, man dreht den Regler ganz auf 100 % Scorsese.

2. Das „Kohärenztal“ (Der Sweet Spot)
Normalerweise, wenn man einen Roboter dazu zwingt, etwas zu tun, das er nicht natürlich tun will, beginnt er Fehler zu machen und Unsinn zu schreiben. Man würde erwarten, dass das Mischen zweier gegensätzlicher Stile den Roboter verwirrt und die Geschichte chaotisch macht.

Die Überraschung: Als sie die beiden Regisseure in der Mitte mischten (etwa 25 % bis 50 % Scorsese), wurden die Geschichten tatsächlich klarer und kohärenter als wenn sie versuchten, den Roboter rein Scorsese sein zu lassen.
Die Analogie: Denken Sie daran wie beim Schieben einer schweren Kiste. Wenn Sie sie mit aller Kraft gerade nach vorne drücken, könnte sie umkippen. Aber wenn Sie sie gleichzeitig aus zwei leicht unterschiedlichen Winkeln drücken, heben sich die Kräfte gerade so weit auf, dass sie die Kiste stabil halten. Die „Kollision“ der beiden Stile half dem Roboter tatsächlich dabei, auf Kurs zu bleiben.

3. Der „Moralische Verstärker“
Als sie die Stile leicht mischten (etwa 25 % Scorsese), wurden die Geschichten nicht einfach eine langweilige Mischung. Sie wurden moralisch komplex.

Die Analogie: Reiner Spielberg ist wie ein sonniger Tag; reiner Scorsese ist wie ein Sturm. Aber die „Kollisionszone“ war wie ein dramatischer Sonnenuntergang, bei dem man sowohl die Schönheit des Lichts als auch die Dunkelheit der Wolken sieht. Der Roboter generierte Geschichten, die sowohl Hoffnung als auch Tragik gleichzeitig enthielten, was einen reicheren, interessanteren moralischen Ton erzeugte als jeder Regisseur allein.

4. Wo im Gehirn geschieht das?
Die Forscher schauten in das „Gehirn“ des Roboters (das über 40 Verarbeitungsschichten verfügt), um zu sehen, wo diese Persönlichkeitsveränderungen stattfanden.

Die Erkenntnis: Sie fanden einen spezifischen „Kontrollraum“ bei Layer 28 (etwa 70 % des Weges durch das Gehirn durch). Dies ist der Ort, an dem der Roboter den „moralischen Ton“ der Geschichte entscheidet. Sowohl die glücklichen Spielberg-Vibes als auch die dunklen Scorsese-Vibes leben an genau diesem Ort, nur in entgegengesetzte Richtungen zeigend.

Warum ist das wichtig?

Die Arbeit legt nahe, dass das Training des Roboters (was er aus dem Internet gelernt hat) ihn natürlich dazu brachte, zu „gut“ und „hoffnungsvoll“ zu tendieren. Es braucht eine enorme Kraft, ihn dazu zu bringen, dunkle, zynische Geschichten zu schreiben.

Die Methode der „Creative Collision“ zeigt jedoch, dass man nicht immer den Roboter dazu zwingen muss, zu 100 % eine Sache zu sein, wenn man etwas Komplexes und Interessantes erschaffen möchte. Manchmal erzeugt das sanfte Mischen zweier gegensätzlicher Ideen einen „Sweet Spot“, in dem die Geschichte stabil, kohärent und emotional tiefgründig ist.

Kurz gesagt: Der Roboter hat einen starken „Gutmensch“-Bias, der schwer zu brechen ist. Aber wenn man ihn sanft in Richtung „Bösewicht“-Territorium drängt, ohne die „Gutmensch“-Seite ganz loszulassen, entstehen die interessantesten, kohärentesten und moralisch komplexesten Geschichten überhaupt.

Technisches Resümee: Kreative Kollision: Direktionale Persona-Steuerung und Wettbewerb in Large Language Models

Problemstellung

Das Activation Steering hat sich als wirkungsmächtiger Mechanismus zur Modifikation des Verhaltens von Large Language Models (LLMs) während der Inferenz etabliert, indem gelernte semantische Richtungen in den Residual Stream injiziert werden. Während die bisherige Forschung erfolgreich diese Technik auf Aufgaben mit einer einzelnen Richtung angewandt hat – wie etwa die Steigerung von Wahrhaftigkeit, Sicherheit oder spezifischen Personas –, bleibt die Dynamik der Multi-Vektor-Kollision unerforscht. Insbesondere ist unbekannt, was geschieht, wenn zwei semantisch entgegengesetzte Steering-Vektoren superponiert werden und um die repräsentative Kontrolle konkurrieren. Diese Arbeit adressiert diese Lücke durch die Untersuchung des „Kreativen Kollisions“-Regimes, in dem gegensätzliche moralische und stilistische Richtungen interpoliert werden, um nicht-lineare Interaktionen, Kohärenzdegradation und Richtungsdominanz zu beobachten.

Methodik

1. Direktionaler Kontrast-Korpus

Die Autoren konstruierten einen paarweisen Korpus $D = \{(x^{SPL}_i, x^{SCO}_i)\}$ , bestehend aus jeweils 100 Auszügen aus den Filmografien von Steven Spielberg und Martin Scorsese.

Spielberg: Entnommen aus Filmen wie E.T., Schindlers Liste und Der Soldat James Ryan, charakterisiert durch roteptionale Handlungsbögen, emotionale Katharsis und optimistische Auflösungen.
Scorsese: Entnommen aus Filmen wie Goodfellas, Taxi Driver und Casino, charakterisiert durch moralische Ambivalenz, Gewalt und selbstzerstörerische Trajektorien.
Matching: Die Paare wurden basierend auf narrativen Situationen (z. B. Konfrontation, moralische Entscheidung) abgeglichen, um den moralischen Ton des Regisseurs von der Komplexität des Plots zu isolieren.

2. Extraktion der Steering-Vektoren

Unter Verwendung eines 14-Milliarden-Parameter-Decoder-only Transformers (40 Layer) extrahierten die Autoren Steering-Vektoren mittels Mittelwertdifferenz-Kontrast gegen einen gemeinsamen neutralen Baseline-Korpus $B$ .

Vektoren: $v^{(l)}_{SPL}$ und $v^{(l)}_{SCO}$ wurden als Differenz zwischen dem Mittelwert der Aktivierung des jeweiligen Regisseur-Korpus und der Baseline bei Layer $l$ berechnet.
Normalisierung: Die Vektoren wurden $\ell_2$ -normalisiert. Bemerkenswerterweise waren sie nicht antiparallel; bei Layer 28 betrug ihre Kosinus-Ähnlichkeit $\approx 0,29$ , was auf einen gemeinsamen repräsentativen Subraum für kinematographischen emotionalen Inhalt hindeutet, trotz divergierender moralischer Auflösungen.

3. Interpolation und Steering-Protokoll

Die Studie führte eine parametrische Familie interpolierter Vektoren ein:
$v^{(l)}_\alpha = (1 - \alpha)\hat{v}^{(l)}_{SPL} + \alpha\hat{v}^{(l)}_{SCO}, \quad \alpha \in [0, 1]$

Steering: Der interpolierte Vektor wurde dem Residual Stream bei den Layern $L = \{20, \dots, 38\}$ mit einem Steering-Koeffizienten $\lambda \in \{0,5, 1,0, 1,5, 2,0\}$ hinzugefügt.
Evaluierung: Es wurden 50 kreative fiktionale Passagen pro Bedingung generiert. Die Metriken umfassten:
- Moralische Valenz: Bewertet durch einen fein abgestimmten Klassifikator ( $[-1, +1]$ ).
- Kohärenz: Gemessen via Token-Level-Perplexity unter dem ungesteuerten Basismodell.
- Direktionale Dominanz: Von einem stilometrischen Klassifikator zugewiesene Wahrscheinlichkeit für die Spielberg-Klasse.
- Oberflächenstil: Metriken einschließlich Satzlänge, Dialogdichte und lexikalischer Diversität.

Kernergebnisse

1. Nicht-monotone moralische Valenz

Entgegen der naiven Erwartung, dass der moralische Ton linear von Spielberg (positiv) zu Scorsese (negativ) schwenkt, während $\alpha$ steigt, waren die Ergebnisse nicht-monoton.

Bei $\lambda = 1,0$ war die moralische Valenz am negativsten bei $\alpha = 0,25$ ( $MV \approx -0,38$ ) statt bei $\alpha = 1,0$ .
Diese „moralische Inkohärenz“ an intermediären Punkten deutet auf konstruktive Interferenz hin, bei der die Scorsese-Komponente Dunkelheit einführt, aber nicht dominieren kann, was zu einem sanktionierten Zustand führt.
Bei hoher Steering-Magnitude ( $\lambda = 1,5$ ) kollabierte das moralische Signal vollständig auf nahezu Null, was darauf hindeutet, dass der Residual Stream vom natürlichen Text-Manifold weggedrängt wurde.

2. Das Kohärenz-Tal

Ein kontraintuitiver Befund bezüglich der Generierungskohärenz (Perplexity) ergab sich.

Reines Steering: Single-Director-Steering ( $\alpha=0$ oder $1$) verursachte die größten Perplexity-Anstiege bei hohem $\lambda$ .
Intermediäre Kollision: Bedingungen mit gemischten Vektoren ( $\alpha \in \{0,25, 0,5\}$ ) blieben signifikant kohärenter.
Geometrische Erklärung: Die Autoren bewiesen, dass die Interpolation zweier nicht-antiparaller Einheitsvektoren ( $\rho < 1$ ) die $\ell_2$ -Norm des resultierenden Vektors reduziert. Die Norm wird bei $\alpha = 0,5$ minimiert. Da die Kohärenzkosten mit der Perturbationsmagnitude skalieren, wenden Intermediär-Kollisionspunkte eine schwächere effektive Perturbation an und bewahren so die Nähe des Modells zum natürlichen Text-Manifold.

3. Direktionale Dominanz

Die repräsentative Signatur von Spielberg zeigte über fast den gesamten Interpolationsbereich eine robuste Dominanz.

Für $\alpha \in \{0,0, 0,25, 0,50, 0,75\}$ wies der stilometrische Klassifikator eine Wahrscheinlichkeit von $\approx 1,0$ der Spielberg-Klasse zu.
Nur bei $\alpha = 1,0$ (reiner Scorsese) näherte sich der Klassifikator der Entscheidungsgrenze ( $P \approx 0,49$ ).
Mechanismen: Dies wird auf (1) einen Prior-Bias in den Vortrainingsdaten hin zu prosozialen Narrativen und (2) die Verstärkung durch Alignment-RLHF zurückgeführt, was eine positive Generierung verstärkt und effektiv als persistenter Spielberg-Richtungs-Prior wirkt.

4. Layer-weise Lokalisierung

Beide Regisseur-Effekte peaken bei Layer 28 (ca. 70 % der Tiefe im 40-Layer-Modell).

Die Effekte sind annähernd antisymmetrisch ( $\Delta MV \approx -0,50$ für Scorsese, $+0,47$ für Spielberg).
Diese Ko-Lokalisierung legt nahe, dass Layer 28 als gemeinsamer „Moral-Tone-Hub“ fungiert, in dem hochgradige semantische Eigenschaften kausal kodiert sind, was die Hypothese der linearen Repräsentation der moralischen Valenz stützt.

5. Moralische Amplifikation

Die Dekomposition der moralischen Valenz in positive ( $p+$ ) und negative ( $p-$ ) Subscores enthüllte, dass das Kollisionsregime ( $\alpha \approx 0,25$ ) Texte produzierte, die sowohl hohe positive als auch hohe negative moralische Scores gleichzeitig aufwiesen. Diese „moralische Amplifikation“ deutet darauf hin, dass Kollision Texte mit größerer moralischer Komplexität und Explizitheit erzeugen kann als entweder der reine Regisseur-Extrem.

Bedeutung und Ansprüche

Das Paper behauptet, das Verständnis konkurrierender semantischer Richtungen in Transformer-Aktivierungsräumen voranzutreiben. Seine primären Beiträge sind:

Sicherheitsimplikationen: Die robuste direkte Dominanz von prosozialem Inhalt deutet darauf hin, dass für die Hilfsbereitschaft feinabgestimmte Modelle einen starken internen Prior gegen moralisch dunkle Inhalte aufrechterhalten. Das Steuern in Richtung unerwünschter Inhalte erfordert wesentlich größere Aktivierungs-Magnituden als das Steuern in Richtung gutartiger Inhalte, was die empirische Hürde für adversarielle Aktivierungs-Angriffe erhöht.
Designprinzip für Kohärenz: Das „Kohärenz-Tal“ liefert ein geometrisches Prinzip: Wenn eine hohe Steering-Magnitude erforderlich ist, kann die Interpolation zwischen zwei semantisch entgegengesetzten Richtungen die Kohärenz besser bewahren als die Anwendung einer einzelnen Richtung bei äquivalenter Gesamtmagnitude, vorausgesetzt, die Vektoren sind nicht antipodal.
Kreative Generierung: Der Effekt der „moralischen Amplifikation“ legt nahe, dass das gezielte Injizieren einer kleinen entgegengesetzten Komponente die narrative Spannung und moralische Tiefe erhöhen kann, ohne die dominante Persona aufzugeben, was ein neues Werkzeug für kontrollierbare kreative Generierung bietet.
Mechanistische Interpretierbarkeit: Die Identifizierung von Layer 28 als gemeinsames Substrat für den moralischen Ton und die Bestätigung linearer moralischer Valenz-Richtungen liefern konkrete Ziele für zukünftige Causal-Tracing- und Feature-Decomposition-Studien.

Die Autoren betonen, dass die Fähigkeit, in Richtung dunkler Inhalte zu steuern, bereits existierte, ihre Arbeit jedoch die durch Alignment-Fine-Tuning auferlegte Resistenz quantifiziert. Sie betrachten die Feststellung, dass ein solches Steuern schwierig zu erreichen ist, als ein Netto-Plus für die Sicherheitsliteratur, während sie gleichzeitig die potenzielle Nutzung der „moralischen Amplifikation“ für die Erzeugung von Inhalten mit hoher Intensität anerkennen.