🤖 AI

Decomposing how prompting steers behavior

Dieses Paper führt ein geschachteltes geometrisches Zerlegungsframework ein, das aufzeigt, wie Prompting große Sprach- und Vision-Language-Modelle steuert, indem es deren interne Repräsentationen transformiert, wobei nachgewiesen wird, dass affine Transformationen – spezifisch die dimensionsübergreifende lineare Mischung – der entscheidende Mechanismus sind, um Repräsentationen neu zu organisieren, damit sie den instruierten Aufgabenstrukturen entsprechen und Zielverhaltensweisen wiederherstellen.

Ursprüngliche Autoren: Fan L. Cheng, Nikolaus Kriegeskorte

Veröffentlicht 2026-06-03

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Fan L. Cheng, Nikolaus Kriegeskorte

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich ein Large Language Model (LLM) oder ein Vision-Language Model (VLM) wie eine riesige, komplexe Fabrik vor. Im Inneren dieser Fabrik fließen Rohmaterialien (wie ein Bild einer Katze oder ein Satz über eine traurige Geschichte) durch eine Serie von Förderbändern (die Schichten des Modells). Während sie sich bewegen, werden die Materialien verarbeitet, umgeformt und organisiert.

Normalerweise muss man die Maschinen neu bauen (das Modell neu trainieren), um zu ändern, was die Fabrik produziert. Aber Prompting ist wie ein Manager, der die Fabrikhalle betritt und eine neue Anweisung ruft: "Hört auf, nach Farbe zu sortieren, sortiert jetzt nach Größe!" Die Maschinen ändern sich nicht, aber der Output verschiebt sich plötzlich.

Dieses Paper stellt eine einfache, aber tiefgründige Frage: Wie bewirkt ein Ruf des Managers tatsächlich, dass die Gegenstände auf dem Förderband neu angeordnet werden, damit sie anders sortieren?

Hier ist die Aufschlüsselung ihrer Entdeckung, unter Verwendung von Alltagsanalogien:

1. Das Experiment: Die „Magische Karte“

Die Forscher nahmen einen Satz von Objekten (wie 1.000 verschiedene Bilder) und zeigten sie dem Modell mit zwei verschiedenen Anweisungen:

Prompt A: „Sind Menschen in diesem Bild?“ (Ja/Nein-Antwort).
Prompt B: „Wie viele Menschen sind in diesem Bild?“ (Zahlenantwort).

Sie untersuchten den „internen Zustand“ des Modells (die Anordnung der Gegenstände auf dem Förderband) in verschiedenen Tiefen. Sie fanden heraus, dass die Gegenstände für Prompt A in einer anderen Form vorlagen als für Prompt B.

Dann fragten sie sich: „Können wir eine einfache Karte zeichnen, die die ‚Ja/Nein‘-Anordnung in die ‚Zählen‘-Anordnung verwandelt?“

2. Die fünf Ebenen der „Karten“ (Die geschachtelte Dekomposition)

Um die Antwort zu finden, probierten sie fünf verschiedene Arten mathematischer „Karten“ (Transformationen aus), beginnend mit der einfachsten und werdend komplexer. Betrachten Sie dies als verschiedene Wege, einen Stapel Bücher umzuordnen:

Translation (Das Verschieben): Nur den ganzen Stapel Bücher an einen neuen Ort auf dem Tisch schieben, ohne die Bücher selbst anzufassen.
Rigid + Uniform Scaling (Die starre Bewegung): Den Stapel bewegen und ihn vielleicht etwas größer oder kleiner machen, aber die Bücher im Verhältnis zueinander in der exakten gleichen Form belassen.
Rigid + Axis Scaling (Das Strecken): Den Stapel bewegen und ihn in spezifische Richtungen dehnen (wie ein Gummiband horizontal zu ziehen, aber nicht vertikal).
Affine (Das Mischen): Bewegen, Strecken und Mischen der Bücher. Dies ist wie das Nehmen des „oberen“ Buches und das Vermischen mit dem „seitlichen“ Buch, um eine neue Position zu schaffen.
Nonlinear (Das Verformen): Den Tisch selbst verbiegen, die Bücher auf komplexe, unvorhersehbare Weise verdrehen.

3. Die große Entdeckung: Es ist hauptsächlich ein „Mischen“

Die Forscher fanden heraus:

Die „Translation“ (Das Verschieben) leistet einen Großteil der schweren Arbeit. Nur das Verschieben des internen Zustands an einen neuen Ort erklärt einen großen Teil der Änderung.
Aber das „Mischen“ (Affine) ist die Geheimzutat. Während das Verschieben hilft, muss das Modell seine internen Merkmale wirklich mischen (cross-dimensional linear mixing), um die neue Aufgabe vollständig zu verstehen.
Die „Verformung“ (Nonlinear) ist nicht notwendig. Überraschenderweise brauchten sie keine komplexe, verdrehende Mathematik, um die Änderung zu erklären. Sobald sie das „Mischen“ (Affine) hinzufügten, wurde das Verhalten des Modells fast perfekt wiederhergestellt. Die komplexen, nicht-linearen Dinge fügten keinen nennenswerten Wert hinzu.

Die Analogie: Stellen Sie sich vor, Sie haben eine Kiste mit LEGOs, aus denen eine Burg gebaut wurde (Prompt A). Sie wollen daraus ein Raumschiff machen (Prompt B).

Sie müssen nicht den Kunststoff schmelzen (Nonlinear).
Sie müssen die Kiste nicht nur an einen anderen Ort im Raum schieben (Translation).
Sie müssen die Burg auseinandernehmen, einige Teile dehnen und die Steine neu anordnen/mischen, um eine neue Struktur zu schaffen. Das Paper fand heraus, dass dieses „Neuordnen und Mischen“ der Kernmechanismus ist, wie Prompts funktionieren.

4. Der „kausale“ Test: Funktioniert die Karte tatsächlich?

Um zu beweisen, dass dies kein Zufall war, führten sie eine „Operation“ am Modell durch:

Sie fütterten das Modell mit einem Bild und dem „Ja/Nein“-Prompt.
An einer bestimmten Schicht stoppten sie den Prozess.
Sie nahmen den internen Zustand und wandten ihre „Misch-Karte“ darauf an.
Sie ließen das Modell den Prozess zu Ende führen.

Das Ergebnis: Das Modell begann plötzlich, „Zähl“-Antworten zu geben, obwohl es technisch gesehen immer noch mit der „Ja/Nein“-Frage gefüttert wurde! Dies bewies, dass die geometrische Transformation (die Karte) die Verhaltensänderung verursacht.

5. Unterschiedliche Modelle, unterschiedliche Strategien

Genau wie verschiedene Fabriken unterschiedliche Manager haben, nutzen verschiedene KI-Modelle unterschiedliche Strategien:

OPT-2.7B scheint stark auf „Strecken“ und „Mischen“ (komplexe Transformationen) in der frühen Phase zu setzen.
Llama3 und Qwen3 scheinen sich eher auf ein einfaches „Verschieben“ (Translation) in der frühen Phase zu verlassen, indem sie vielleicht einen spezifischen „Instruktions-Code“ nutzen, der die Daten einfach an den richtigen Ort bewegt.

Zusammenfassung

Das Paper kommt zu dem Schluss, dass eine KI nicht ihr Gehirn grundlegend umschreiben oder komplexe, verdrehende Mathematik betreiben muss, wenn man ihr eine neue Anweisung gibt. Stattdessen verschiebt sie ihr internes Verständnis hauptsächlich an einen neuen Ort und mischt ihre Merkmale auf eine geradlinige Weise (Affine Transformation), um der neuen Aufgabe gerecht zu werden.

Dies liefert ein klares, geometrisches Bild davon, wie KI-Modelle Anweisungen „hören“: Sie führen im Wesentlichen eine ausgeklügelte, mehrstufige Neuordnung ihrer internen Daten durch, und wir können nun genau messen, wie viel dieser Neuordnung aus einem einfachen Verschieben versus einem komplexen Mischen besteht.

Technisches Resümee: Dekomposition der Art und Weise, wie Prompting das Verhalten steuert

Problemstellung

Instruktions-Prompts ermöglichen es Large Language Models (LLMs) und Vision-Language Models (VLMs), ihr Verhalten während der Inferenz zu ändern, ohne dass Gewichtsaktualisierungen erforderlich sind. Während etabliert ist, dass Prompts die internen Repräsentationen restrukturieren, bleibt die spezifische mechanistische Natur dieser Transformation unklar. Die bestehende Literatur hat diese Veränderungen durch skalare Metriken (z. B. Repräsentationsähnlichkeit, Manifold-Kapazität) charakterisiert oder demonstriert, dass technisch entwickelte Operatoren geringer Komplexität (z. B. additive Vektoren, Rotationen) das Verhalten steuern können. Es besteht jedoch eine Lücke im Verständnis der mathematischen Transformationsklasse, die natürlich auftritt, wenn sich eine Instruktion ändert. Insbesondere ist unbekannt, ob durch Prompting induzierte Änderungen am besten durch einfache Translationen, starre Transformationen, affine Mischungen oder komplexe Nichtlinearitäten erklärt werden können und ob diese Transformationen die beobachteten Verhaltensänderungen kausal vorantreiben.

Methodik

Die Autoren führen ein verschachteltes geometrisches Dekompositions-Framework ein, um zu analysieren, wie Prompts die Repräsentationsgeometrie umgestalten. Der Kernansatz besteht darin, das Prompting als eine Transformation der Repräsentations-Manifold für den Inhalt folgend auf den Prompt zu behandeln.

1. Verschachtelte geometrische Hierarchie

Für ein gegebenes Modell, eine Schicht (Layer), einen Datensatz und ein Paar von Prompts (Quell-Prompt $A$ und Ziel-Prompt $B$ ) passen die Autoren eine Sequenz zunehmend expressiver, stimulus-invarianter Abbildungen $f: \mathbb{R}^D \to \mathbb{R}^D$ an, die die Hidden States von $A$ mit denen von $B$ in Einklang bringen. Die Hierarchie besteht aus fünf streng verschachtelten Transformationsklassen:

Translation ( $F_T$ ): Eine einfache Mittelwertverschiebung ( $x + b$ ).
Starre Transformation mit uniformer Skalierung ( $F_{O_u}$ ): Rotation/Reflexion und uniforme Skalierung ( $b + c(x-a)Q$ ).
Starre Transformation mit achsenweiser Skalierung ( $F_{O_a}$ ): Erlaubt unabhängige Skalierung der ausgerichteten Achsen ($b + (x-a)QD$).
Affine Transformation ( $F_L$ ): Allgemeine lineare Mischung plus Translation ( $b + (x-a)M$ ).
Nichtlineare Transformation ( $F_N$ ): Ein gemeinsames Multi-Layer Perceptron (MLP) ( $b + g_\theta(x-a)$ ).

2. Evaluierungsmetriken

Das Framework evaluiert diese Transformationen unter Verwendung von drei Familien von Maßen auf gehaltenen Stimuli (held-out stimuli):

Inkrementelle erklärte Varianz ( $\Delta R^2$ ): Die zusätzliche Varianz in den Repräsentationen des Ziel-Prompts, die durch jede Ebene gegenüber der vorherigen Ebene in der verschachtelten Kette erklärt wird.
Metriken der Repräsentationsgeometrie: Spearman-Korrelation zwischen der transformierten Repräsentations-Disähnlichkeitsmatrix (RDM) und der RDM der Zielaufgabe sowie Silhouette-Scores zur Messung der Cluster-Separation.
Kausale Intervention: Die angepasste Abbildung wird auf den Hidden State eines Quell-Prompts in einer einzelnen Schicht angewendet, wobei der ursprüngliche Zustand ersetzt wird. Der anschließende Forward Pass des Modells wird evaluiert hinsichtlich der Relevanz (Adressierung des Zielattributs) und der Genauigkeit (Korrektheit der Antwort) gegenüber der Ground Truth des Ziel-Prompts.

3. Experimentelles Setup

Modelle: Drei LLMs (OPT-2.7B, Llama3-8B-Instruct, Qwen3-8B) und drei VLMs (BLIP-2, LLaVA-OneVision, Qwen3-VL).
Datensätze: Sechs Datensätze (drei Text: EmotionalStory, WritingStyle, Number; drei Bild: EmoSet, StyleTransfer, COCO) mit faktoriellen Attributstrukturen zur Unterstützung von Cross- und Within-Attribute-Prompt-Vergleichen.
Prompt-Paare: Sechs Gruppen, die von Cross-Attribute (z. B. Thema $\to$ Emotion) bis hin zu irrelevanten Quell-Prompts reichen.

Kernergebnisse

1. Prompting formt die Geometrie in Richtung der Aufgabenstruktur

Durch Prompting induzierte Repräsentationsänderungen wachsen nahezu monoton mit der Schichttiefe (Layer Depth). Entscheidend ist, dass die Repräsentationsgeometrie des Ziel-Prompts mit zunehmender Tiefe immer besser mit der Aufgabenstruktur korreliert (gemessen an RDM-Korrelation und Silhouette-Scores) und sich in tieferen Schichten klar vom Quell-Prompt abgrenzt.

2. Abbildungen geringer Komplexität erklären den Großteil der Varianz

Über alle Modelle und Datensätze hinweg erklärt die Translation den größten Anteil der durch den Prompt induzierten Repräsentationsänderung und dominiert in frühen Schichten. Starre Transformationen mit uniformer Skalierung leisten den nächsten signifikanten Beitrag.

Affine Transformationen sind die erste Stufe, die die Aufgabengeometrie des Ziel-Prompts nahezu vollständig wiederherstellt und entsprechende Gewinne in der Verhaltensübereinstimmung erzielt.
Nichtlineare Transformationen bieten die stärkste Wiederherstellung, liefern aber abnehmende Grenzerträge gegenüber affinen Abbildungen; der Sprung von der achsen-skalierten starren Transformation zur affinen Transformation ist signifikanter als der Sprung von der affinen zur nichtlinearen Transformation.

3. Modell- und aufgabenspezifische Routing-Strategien

Modellunterschiede: OPT-2.7B verlässt sich stärker auf Rotations-, Reflexions- und nichtlineare Komponenten im Vergleich zu Llama3 und Qwen3, die offenbar niedrigdimensionale „Instruktions-Codes“ (dominiert durch Translation) verwenden.
Prompt-Paar-Unterschiede: Spezifische Prompt-Paare (z. B. Ja/Nein-Abfragen) verlassen sich mehr auf Rotationen und affine Transformationen als offene Paare.
Tiefenabhängigkeit: Translation dominiert in frühen Schichten, während komplexere Ebenen (affin, nichtlinear) in mittleren bis tiefen Schichten stärker beitragen.

4. Kausale Validierung

Kausale Interventionen bestätigen, dass eine einfache Translation des Hidden State das Verhalten substanziell steuern kann. Dennoch sind affine Transformationen die kritische Schwelle für die Wiederherstellung sowohl der Ziel-Repräsentationsgeometrie als auch einer hohen Verhaltensgenauigkeit. Dies deutet darauf hin, dass die kreuzdimensionale lineare Mischung ein Schlüsselmechanismus für die Reorganisation von Repräsentationen hin zur instruierten Aufgabe ist.

Bedeutung und Behauptungen

Das Paper behauptet, ein allgemeines Framework bereitzustellen, um prompt-induzierte Repräsentationsänderungen in interpretierbare geometrische Komponenten zu zerlegen. Die primäre Erkenntnis ist, dass die Wirkung von Instruktions-Prompting weitgehend als affine Transformation der Repräsentation des Inhalts verstanden werden kann.

Mechanistischer Einblick: Die Autoren argumentieren, dass während die Translation „den Großteil der Arbeit“ leistet, indem sie die Repräsentation verschiebt, Rotationen und Scherungen (affine Komponenten) die verbleibende strukturierte Komponente korrigieren, die für die Aufgabenanpassung notwendig ist.
Interpretierbarkeit: Durch die Quantifizierung des Beitrags jeder Transformationsstufe zeigt das Framework, wie Modelle die aufgabenspezifische Struktur routen. Es legt nahe, dass natürliches Prompting durch Transformationen geringer Komplexität im Aktivierungsraum implementiert wird und keine komplexen nichtlinearen Umstrukturierungen erfordert.
Limitierungen: Die Autoren weisen explizit darauf hin, dass ihre Analyse auf Zero-Shot-Instruktions-Prompts beschränkt ist und keine Few-Shot-Demonstrationen, Soft-Prompts oder Long-Context-Conditioning evaluiert. Die Intervention ist auf eine einzige Schicht und einen einzelnen Token beschränkt.

Die Arbeit positioniert sich nicht als Methode zur Entwicklung neuer Steering-Operatoren, sondern als diagnostisches Werkzeug zum Verständnis der geometrischen Natur des natürlichen Promptings. Sie legt nahe, dass die operationalen Konsequenzen von Prompting in der residualen Feinstruktur (Rotation und kleine nichtlineare Teile) nach der primären Translation konzentriert sind.