💬 NLP

CoSToM:Causal-oriented Steering for Intrinsic Theory-of-Mind Alignment in Large Language Models

Die Arbeit stellt CoSToM vor, einen Framework zur kausalen Steuerung, der durch gezielte Aktivierungsmanipulation in kritischen Schichten große Sprachmodelle mit intrinsischen Theory-of-Mind-Fähigkeiten ausrichtet und so deren soziale Schlussfolgerungsfähigkeiten sowie Dialogqualität verbessert.

Ursprüngliche Autoren: Mengfan Li, Xuanhua Shi, Yang Deng

Veröffentlicht 2026-04-14

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Mengfan Li, Xuanhua Shi, Yang Deng

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

🧠 COSTOM: Wie man einer KI beibringt, wirklich zu „fühlen"

Stell dir vor, du hast einen sehr intelligenten Roboter, der alles über die Welt weiß. Er kann Gedichte schreiben, Programme coden und Fakten abrufen. Aber wenn du mit ihm sprichst, wirkt er manchmal wie ein Schauspieler, der eine Rolle spielt, ohne die Gefühle der anderen Person wirklich zu verstehen.

Das ist das Problem mit Theory of Mind (ToM) – also der Fähigkeit, sich in andere hineinzuversetzen (Gedanken, Wünsche, Absichten zu erkennen). Aktuelle KI-Modelle können ToM-Fragen im Test oft richtig beantworten, scheitern aber im echten Gespräch. Sie wissen was sie sagen sollen, wenn man sie explizit darum bittet, aber sie tun es nicht von selbst.

Die Forscher von COSTOM haben jetzt einen Weg gefunden, das zu ändern. Hier ist die Idee, einfach erklärt:

1. Das Problem: Der „Schauspieler" ohne Herz 🎭

Stell dir das KI-Modell wie einen Schauspieler vor.

Im Test: Wenn der Regisseur (der Prompt) sagt: „Spiele jetzt einen empathischen Charakter, der weiß, dass der andere Hunger hat!", macht der Schauspieler das perfekt.
Im echten Leben: Wenn der Regisseur aber nur sagt: „Verhandle jetzt!", vergisst der Schauspieler die Empathie. Er bietet dem hungrigen Menschen plötzlich Wasser an, obwohl er weiß, dass er Brot braucht.

Das liegt daran, dass das Wissen im Gehirn der KI zwar da ist, aber nicht fest mit dem Handeln verknüpft ist. Es ist wie ein Bibliothekar, der alle Bücher kennt, aber wenn er gefragt wird, zuckt er mit den Schultern, weil er nicht weiß, welches Buch er gerade herausgeben soll.

2. Die Lösung: COSTOM – Der „Gehirn-Chirurg" 🏥

Die Forscher haben eine neue Methode namens COSTOM entwickelt. Sie funktioniert in zwei Schritten, ähnlich wie ein Arzt, der zuerst eine Diagnose stellt und dann operiert.

Schritt 1: Die Diagnose (Wo sitzt das Wissen?) 🔍
Normalerweise denkt man, dass „hohes Denken" (wie Empathie) in den tiefen, komplexen Schichten eines KI-Modells passiert. Aber COSTOM hat etwas Überraschendes entdeckt:

Die Entdeckung: Die Fähigkeit, Gedanken anderer zu verstehen, sitzt eigentlich ganz unten im Gehirn der KI, in den ersten Schichten (den „frühen" Schichten).
Die Analogie: Stell dir das KI-Modell wie ein mehrstöckiges Gebäude vor. Die oberen Etagen sind für die Sprache und das Schreiben zuständig. Aber die „Empathie" ist wie ein kleiner, vergessener Schalter im Keller. Solange dieser Schalter nicht aktiviert ist, läuft das Gebäude, aber ohne Herz.

Schritt 2: Die Operation (Den Schalter umlegen) ⚡
Anstatt das ganze Gebäude neu zu bauen (was teuer und langsam wäre), greifen die Forscher gezielt in diesen Keller ein.

Sie nutzen eine Technik namens „Aktivierungs-Steuerung". Das ist, als würde man einen Regler an der Wand im Keller drehen.
Sie sagen der KI: „Hey, wenn du diesen Schalter im Keller drehst, musst du immer daran denken, was der andere denkt, bevor du ein Wort sagst."
Sie tun dies, indem sie die KI trainieren, ihre eigenen inneren Gedanken (die im Keller sitzen) so zu nutzen, dass sie automatisch zu besseren Antworten führen.

3. Das Ergebnis: Ein echter Gesprächspartner 🤝

Nach dieser „Operation" passiert Magie:

Die KI muss nicht mehr explizit aufgefordert werden, sich in andere hineinzuversetzen. Es passiert automatisch.
Wenn sie verhandelt, bietet sie dem hungrigen Menschen sofort Brot an, weil sie „spürt", dass er Hunger hat.
Sie wirkt nicht mehr wie ein Schauspieler, der eine Rolle spielt, sondern wie ein echter Gesprächspartner, der wirklich zuhört.

Warum ist das wichtig? 🌟

Bisher musste man KI-Modelle mit langen, komplizierten Anweisungen (Prompts) „füttern", damit sie sich nett verhalten. COSTOM zeigt uns, dass wir die KI nicht nur von außen steuern können, sondern ihr von innen heraus beibringen können, wie man sozial intelligent ist.

Zusammengefasst in einem Bild:
Stell dir die KI als ein Auto vor. Bisher mussten wir dem Fahrer (der KI) ständig per Funk sagen: „Achte auf den Fußgänger!" COSTOM hat nun den Bremsmechanismus so umgebaut, dass das Auto automatisch bremst, sobald ein Fußgänger in der Nähe ist – ohne dass der Fahrer etwas sagen muss. Das macht die KI sicherer, intelligenter und menschlicher.

Kurz gesagt: COSTOM findet den versteckten „Empathie-Schalter" im Gehirn der KI und stellt ihn so ein, dass er für immer aktiv bleibt. So wird aus einem cleveren Roboter ein verständnisvoller Gesprächspartner.

1. Problemstellung

Large Language Models (LLMs) zeigen auf standardisierten Benchmarks vielversprechende Ergebnisse bei Aufgaben des „Theory of Mind" (ToM), also der Fähigkeit, mentale Zustände (Glauben, Wünsche, Absichten) anderer zu attribuieren. Es besteht jedoch eine kritische Lücke zwischen diesen Fähigkeiten und dem Verhalten in komplexen, dynamischen Szenarien (z. B. Verhandlungen oder Überzeugungsdialoge).

Mangelnde Generalisierung: LLMs scheitern oft daran, ToM-Reasoning auf spezifische Aufgaben zu übertragen, ohne stark auf Prompt-Scaffolding (manuell gestaltete Anweisungen) angewiesen zu sein.
Fehlende intrinsische Kognition: Wenn explizite Anweisungen zur Mentalzustands-Inferenz entfernt werden, kollabiert das Verhalten oft. Das Modell generiert inkohärente Antworten, obwohl es die mentalen Zustände intern möglicherweise korrekt kodiert hat.
Black-Box-Problem: Bestehende Methoden basieren meist auf oberflächlicher Prompt-Engineering oder externen Modellen, die nicht in die interne Repräsentation des LLM eingreifen. Es fehlt an Verständnis dafür, wo und wie ToM-Wissen im Modell gespeichert ist und wie es stabilisiert werden kann.

2. Methodik: Das COSTOM-Framework

COSTOM (Causal-oriented Steering for ToM alignment) ist ein Framework, das von der mechanistischen Interpretierbarkeit (Mechanistic Interpretability) ausgeht und von der Interpretation zur aktiven Intervention übergeht. Es besteht aus drei Hauptphasen:

A. Interpretation: Lokalisierung von ToM-Repräsentationen (Causal Tracing)

Um zu verstehen, wo ToM-Informationen im Modell liegen, wird eine Causal Tracing-Methode eingesetzt:

Setup: Ein Dialog-History wird durch einen „Context Encoder" (eine Kopie des LLM) verarbeitet. Die versteckten Aktivierungen ( $h_\ell$ ) einer bestimmten Schicht $\ell$ werden extrahiert.
Probe: Diese Aktivierungen werden in einen „Probe Decoder" (eine zweite, eingefrorene Kopie) injiziert, der mit einer spezifischen ToM-Frage (z. B. „Was glaubt Agent A?") promptet wird.
Erkenntnis: Durch Messen der Genauigkeit des Decoders bei verschiedenen Schichten wird ermittelt, welche Schichten die notwendigen Informationen zur Rekonstruktion von mentalen Zuständen enthalten.
Ergebnis der Analyse: ToM-Informationen sind nicht in den tiefen Schichten (wie oft angenommen), sondern überwiegend in den frühen Schichten (Shallow Layers, z. B. Layer 0–3) kodiert.

B. Intervention: Ausrichtung durch Aktivierungs-Steering

Basierend auf der Identifizierung der kritischen Schichten wird ein Aktivierungs-Steering-Verfahren angewendet:

Ziel: Die internen Repräsentationen des Encoders so zu steuern, dass sie präzise mentale Zustände (BDI: Belief, Desire, Intention) kodieren.
Gradient Bridge Mechanism:
- Ein überwachter Verlust ( $L_{ToM}$ ) wird berechnet, indem die Ausgabe des Decoders mit den Ground-Truth-Markierungen verglichen wird.
- Dieser Verlust wird rückwärts durch den Decoder propagiert, durchquert die Schnittstelle der eingefrorenen Aktivierung und fließt in den Encoder zurück.
- Da die Aktivierung an Schicht $\ell$ abgefangen wird, fließen die Gradienten nur durch die Schichten vor dieser Schnittstelle (Layer 0 bis $\ell$ ).
Effizienz: Es werden nur LoRA-Adapter (Low-Rank Adaptation) in diesen identifizierten, kritischen frühen Schichten aktualisiert. Der Rest des Modells bleibt eingefroren. Dies ermöglicht eine feine Abstimmung mit minimalen Parameter-Updates.

C. Anwendung: Verbesserung der Dialog-Generierung

Im Inferenz-Szenario wird der feinabgestimmte Encoder verwendet:

Der Encoder verarbeitet den Dialog und erzeugt die „ToM-angereicherten" Aktivierungen in den kritischen Schichten.
Diese Aktivierungen werden an den Decoder weitergegeben, der nun mit einer spezifischen Dialog-Aufgabe (z. B. „Verhandle diesen Deal") promptet wird.
Der Decoder generiert Antworten, die auf den stabilisierten, internen ToM-Reasonings des Encoders basieren, ohne dass externe ToM-Anweisungen im Prompt nötig sind.

3. Schlüsselbeiträge

ToM-Interpretation: Systematische Kartierung zeigt, dass ToM-Features in LLMs primär in den frühen Schichten kodiert sind und dort ihre höchste Decodierbarkeit erreichen.
Effiziente Intervention: COSTOM ist ein leichtgewichtiges, plug-and-play Framework, das durch gezieltes Steering der Aktivierungen in wenigen Schichten stabile, menschenähnliche soziale Reasoning-Fähigkeiten induziert.
Verbesserung von Dialog-Aufgaben: Das Framework überträgt die interne Reasoning-Fähigkeit erfolgreich auf externe Dialog-Aufgaben (Verhandlung, Überzeugung) und verbessert die Qualität signifikant.

4. Ergebnisse

Die Evaluation erfolgte auf den Datensätzen NEGOTIATIONTOM und PERSUASIVETOM mit den Modellen Llama-3-8B und Qwen2.5-7B.

RQ1 (Interpretation): Die Analyse bestätigt die „Early Layer Primacy". ToM-Informationen (Glauben, Wünsche, Absichten) sind in den Schichten 0–3 am stärksten konzentriert. In tieferen Schichten kollabiert diese Information oft („vanishing ToM").
RQ2 (Steering-Effizienz):
- Stabilität: COSTOM verhindert das Kollabieren der Repräsentation in tieferen Schichten. Die Decodierbarkeit bleibt über alle Schichten hinweg hoch („sustained plateau").
- Magnitude: Es gelingt, fast kollabierte Signale wiederherzustellen (z. B. Steigerung der Genauigkeit von ~2% auf ~50% in tiefen Schichten) und vorhandene Signale zu verstärken.
RQ3 (Dialog-Qualität):
- COSTOM übertrifft sowohl Prompting-Baselines (Zero-shot, MindDial) als auch globale Fine-Tuning-Ansätze (Full-Layer LoRA).
- Wichtig: Eine gezielte Intervention in wenigen Schichten (COSTOM) ist effektiver als globales Fine-Tuning. Globales Tuning führt oft zu Rauschen oder dem Überschreiben vortrainierter Features, während COSTOM die Integrität des Modells bewahrt und spezifische Pfade aktiviert.
- In menschlichen Bewertungen und LLM-as-a-Judge Tests zeigte COSTOM signifikant bessere Ergebnisse in ToM-Reasoning, Kontextkohärenz und Strategieeffektivität (z. B. Steigerung des ToM-Scores von 0,08 auf 0,49 bei Llama-3).

5. Bedeutung und Fazit

COSTOM adressiert das fundamentale Problem, dass LLMs oft nur oberflächliches ToM-Verhalten zeigen, das durch Prompts erzwungen wird. Durch den Übergang von der Beobachtung zur mechanistischen Intervention beweist das Paper, dass:

LLMs über intrinsische ToM-Reasoning-Fähigkeiten verfügen.
Diese Fähigkeiten in frühen Schichten lokalisiert sind.
Durch gezieltes Steering dieser Schichten stabile, hochwertige soziale Interaktionen erreicht werden können, ohne das gesamte Modell neu zu trainieren.

Dieser Ansatz bietet einen neuen Weg, um KI-Agenten nicht nur durch Prompting, sondern durch tiefgreifende interne Ausrichtung sozial intelligenter zu machen. Die Methode ist skalierbar und funktioniert als modulares Plug-in für verschiedene soziale Interaktionsaufgaben.