💬 NLP

Beyond Sally-Anne: Evaluating Theory of Mind in LLMs using Epistemic Schelling Points

Dieses Paper führt die Epistemic Asymmetry Schelling Task (EAST) ein, einen neuartigen dialogbasierten Benchmark, der signifikante Lücken in den funktionalen Theory-of-Mind- und epistemischen Tracking-Fähigkeiten von Large Language Models aufzeigt und demonstriert, dass selbst Frontier-Modelle trotz hoher Leistungen in traditionellen statischen Tests Schwierigkeiten mit dynamischer sozialer Koordination haben.

Ursprüngliche Autoren: Roberta Rocca, Sami Boukortt, Geoff Keeling, Winnie Street

Veröffentlicht 2026-07-14

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Roberta Rocca, Sami Boukortt, Geoff Keeling, Winnie Street

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie und ein Freund spielen über Textnachrichten ein hochkarätiges Spiel namens „Geheimwort“. Sie können nicht miteinander sprechen, aber Sie müssen beide exakt dasselbe Wort aus einer Liste von vier Wörtern wählen, um zu gewinnen. Der Clou dabei ist, dass Sie beide geheime „Personas“ haben (wie ein Schneider oder ein Chirurg), und Sie müssen erraten, welches Wort der andere basierend auf dem, was er über Sie weiß, wählen wird.

Dies ist das Szenario für eine neue Studie von Forschern bei Google, die untersuchen wollten, ob Large Language Models (LLMs) – die superintelligenten KI-Gehirne hinter Chatbots – tatsächlich darüber „nachdenken“ können, was andere Menschen denken. Diese Fähigkeit wird als Theory of Mind bezeichnet.

Die alte Methode: Die „Sally-Anne“-Falle

Lange Zeit testeten Wissenschaftler die Theory of Mind bei KI mithilfe eines klassischen Rätsels namens „Sally-Anne-Aufgabe“. Es ist wie ein Märchen-Quiz: „Sally legt einen Ball in eine Kiste und geht. Anne bewegt ihn in einen Korb. Wo wird Sally suchen?“

Die Forscher argumentieren, dass diese alte Methode ein wenig wie ein Endgegner in einem Videospiel ist, den Spieler bereits auswendig gelernt haben. Da KI-Modelle mit massiven Mengen an Text aus dem Internet trainiert werden, haben sie dieses exakte Rätsel wahrscheinlich schon millionenfach gesehen. Sie könnten die Antwort lediglich basierend auf dem Muster der Geschichte erraten, anstatt wirklich zu verstehen, dass Sally eine andere Perspektive hat als Anne. Es ist wie ein Papagei, der einen Satz wiederholt, den er in einem Film gehört hat; er klingt klug, aber er weiß nicht, was die Wörter bedeuten.

Das neue Spiel: EAST (Das „Gedankenleser“-Koordinationsspiel)

Um dies zu korrigieren, erfand das Team ein neues Spiel namens EAST (Epistemic Asymmetry Schelling Task). Anstatt eines Märchens handelt es sich um eine lebendige Koordinationsherausforderung.

So funktioniert es:

Das Setup: Zwei KI-Agenten werden zusammengestellt. Jeder erhält einen geheimen Beruf (wie „Maßschneider“ oder „Allgemeinchirurg“).
Die Liste: Denen werden vier Wörter gezeigt. Zwei Wörter sind spezifisch für ihre jeweiligen Berufe (z. B. „Stoff“ für den Schneider, „Skalpell“ für den Chirurgen). Ein Wort ist eine Mischung aus beiden (z. B. „Nähte“). Ein Wort ist zufällig (z. B. „Fahrrad“).
Das Ziel: Sie müssen dasselbe Wort wählen, ohne miteinander zu sprechen.
Der Clou: Das Spiel verändert die Regeln dessen, „wer was weiß“.
- Symmetrisch: Beide kennen die Berufe des jeweils anderen.
- Asymmetrisch: Einer kennt den Beruf des anderen, aber der andere weiß nichts über den ersten.
- Null-Wissen (Zero Knowledge): Keiner weiß etwas über den Beruf des anderen.

Um zu gewinnen, muss die KI etwas Schwieriges tun: Sie muss ihr eigenes „Lieblingswort“ unterdrücken und erraten, was die andere Person denkt, unter Berücksichtigung dessen, was diese Person (nicht) weiß.

Was das Spiel enthüllte

Als die Forscher dieses Spiel mit 14 verschiedenen KI-Modellen durchführten (die von winzigen 1-Milliarde-Parameter-Modellen bis hin zu den massiven, hochmodernen „Frontier“-Modellen reichten), waren die Ergebnisse ein wenig ernüchternd.

1. Die „großen“ Modelle sind die einzigen, die es geschafft haben
Nur die sehr großen, fortschrittlichsten Modelle (wie das Frontier-Klasse-Modell Gemini 3.1 Pro) schafften es, konsistent zu gewinnen. Sie konnten die kniffligen „asymmetrischen“ und „Null-Wissen“-Runden erfolgreich bewältigen. Die kleineren, weniger leistungsfähigen Modelle? Die scheiterten meistens. Sie behandelten das Spiel wie einen einfachen Wortassoziationstest, wählten ihr eigenes berufsbezogenes Wort und hofften das Beste.

2. Der „Gedankenleser“-Fehler
Die Forscher schauten in das „Gehirn“ der KI (ihre logischen Gedankenschritte), um zu sehen, warum sie scheiterte. Sie fanden eine spezifische Art von Fehler: Epistemic Tracking Errors (Fehler in der epistemischen Verfolgung).

Stellen Sie sich vor, Sie versuchen zu erraten, was Ihr Freund zu Mittag essen wird. Sie wissen, dass er Pizza liebt. Aber Sie wissen auch, dass er nicht weiß, dass Sie Pizza lieben. Wenn Sie „Pizza“ wählen, weil Sie sie lieben, haben Sie einen Fehler gemacht. Sie haben vergessen, dass Ihr Freund nicht weiß, was Ihr Geschmack ist.

Die KI-Modelle machten genau das. Sie verwechselten oft ihr eigenes privates Wissen mit dem, was der andere Spieler wusste.

In der asymmetrischen Runde versagte die KI, die den Beruf des anderen kannte, weil sie nicht erkannte, dass der andere Spieler gegenüber ihrer eigenen Identität „blind“ war. Sie wählte ein Wort basierend auf ihrer eigenen geheimen Identität, in der Annahme, der andere Spieler würde sie ebenfalls erraten.
In der Null-Wissen-Runde konnten die Modelle mit der „Leere“ nicht umgehen. Sie konnten sich keine Welt vorstellen, in der keiner von beiden Anhaltspunkte hatte, also griffen sie einfach nach ihrem eigenen Lieblingswort.

3. Der „Laut-Denken“-Trick
Die Forscher versuchten, der KI zu helfen, indem sie sie baten, „Schritt für Schritt zu denken“ (eine Methode namens Chain-of-Thought). Für die klügsten Modelle half dies ihnen, aufzuhören, wahllos zu raten, und stattdiment echte Logik anzuwenden. Aber für die schwächeren Modelle half es nichts, sie einfach nur denken zu lassen; sie wurden immer noch verwirrt darüber, wer was wusste.

Das Fazit

Das Paper legt nahe, dass KI-Modelle zwar sehr gut darin werden, Fragen in Tests zu beantworten, aber immer noch Schwierigkeiten mit robuster sozialer Argumentation haben. Sie können die Worte einer sozialen Interaktion imitieren, aber sie scheitern oft daran, die mentalen Zustände anderer wirklich zu verfolgen, insbesondere wenn die Regeln darüber, „wer was weiß“, kompliziert werden.

Die Autoren sagen nicht, dass die KI „kaputt“ ist oder dass sie niemals Menschen verstehen wird. Sie sagen, dass die Fähigkeit, eine klare mentale Grenze zwischen „was ich weiß“ und „was du weißt“, derzeit ein massiver Engpass ist. Bis eine KI zuverlässig aufhören kann, ihre eigenen Geheimnisse auf andere zu projizieren, ist sie vielleicht noch nicht bereit für die chaotische, unvorhersehbare Welt echter menschlicher Konversation.

Kurz gesagt: Die KI ist klug genug, um das Spiel zu spielen, aber sie lernt noch, wie sie aufhören kann, zu denken, dass die ganze Welt in ihrem eigenen Kopf existiert.

Technisches Resümee: Jenseits von Sally-Anne: Evaluierung von Theory of Mind in LLMs mittels epistemischer Schelling-Punkte

Problemstellung
Aktuelle Evaluierungen der Theory of Mind (ToM) in Large Language Models (LLMs) stützen sich überwiegend auf statische, textbasierte kognitive Tests, die aus der Humanpsychologie adaptiert wurden, wie etwa den Sally-Anne-False-Belief-Test. Die Autoren argumentieren, dass diese Benchmarks zwei kritische methodische Mängel aufweisen:

Pre-training Contamination (Kontamination durch das Vortraining): LLMs können diese Tests „überlisten“, indem sie Aufgabenstrukturen oder linguistische Hinweise aus ihren Trainingsdaten erkennen, anstatt tatsächlich mentale Zustände zu inferieren.
Mangel an funktionaler Robustheit: Eine hohe Leistung in statischen Benchmarks deutet nicht zwangsläufig auf die Fähigkeit hin, ToM in dynamischen, natürlichen Settings anzuwenden. Insbesondere bleibt unklar, ob Modelle in der Lage sind, mentale Zustände kohärent zu verfolgen, um in interaktiven Szenarien kontextuell angemessene Entscheidungen zu treffen.

Die bestehende Literatur legt nahe, dass LLMs zwar bei diesen Aufgaben gut abschneiden, die Robustheit ihrer Inferenzen und ihre Kapazität für generalisierte, interaktive soziale Reasoning jedoch unverifiziert bleiben.

Methodik: Die Epistemische (A)symmetrie Schelling-Aufgabe (EAST)
Um diese Einschränkungen zu adressen, führen die Autoren EAST ein, ein textbasiertes, Zwei-Spieler-Koordinationsspiel, das darauf ausgelegt ist, funktionale ToM zu benchmarken.

Spielmechanik: Zwei LLM-Agenten, denen jeweils eine distinkte Persona zugewiesen wurde (z. B. ein Schneider und ein Chirurg), werden mit einer Liste von vier Wörtern präsentiert: zwei personenspezifische Wörter ( $w_{p1}, w_{p2}$ ), ein gemeinsames Wort ( $w_s$ ) und ein unzusammenhängendes Hochfrequenzwort ( $w_u$ ). Die Agenten müssen unabhängig voneinander dasselbe Wort auswählen, ohne zu kommunizieren.
Epistemische Bedingungen: Die Aufgabe variiert die „epistemische Transparenz“ zwischen den Spielern, um unterschiedliche Ebenen des sozialen Reasonings zu testen:
- Symmetrisch: Beide Spieler kennen die Identitäten des jeweils anderen. Die normative Lösung ist das gemeinsame Wort ( $w_s$ ).
- Asymmetrisch: Nur Spieler 1 kennt die Identität von Spieler 2; Spieler 2 ist „blind“. Die normative Lösung erfordert, dass Spieler 1 die Ignoranz von Spieler 2 modelliert und das Persona-Wort von Spieler 2 ( $w_{p2}$ ) wählt, während Spieler 2 antizipiert, dass Spieler 1 dies tut.
- Zero Knowledge (Nullwissen): Weder Spieler 1 noch Spieler 2 kennen die Identität des anderen. Die normative Lösung ist das unzusammenhängende Wort ( $w_u$ ), da jede personenspezifische Assoziation epistemisch arbiträr ist.
Experimentelles Setup: Die Studie evaluierte 14 Modelle, die von 1B bis 31B Parametern reichen (einschließlich Open-Weights-Modelle wie Gemma, Llama, Mistral, Qwen und DeepSeek) sowie Frontier-Modelle (Gemini 3.1 Pro). Jedes Modell spielte 90 Spiele über 10 Szenarien, drei epistemische Bedingungen und drei Prompting-Strategien (Direct, Standard Chain-of-Thought und Strategic ToM).
Analyse: Die Autoren verwendeten einen LLM-as-a-judge-Ansatz, um die Reasoning-Traces hinsichtlich der ToM-Tiefe (reichend von flacher Inferenz bis zu rekursiver ToM) und der Kohärenz mit den epistemischen Randbedingungen zu annotieren. Zudem kategorisierten sie Koordinationsfehler in spezifische kognitive Fehlschlüsse, einschließlich Identitäts-/Semantikfehlern, Fehlern beim epistemischen Tracking und Fehlern in der strategischen Ausführung.

Kernergebnisse

Leistungslücke (Capability Gap): Es besteht eine signifikante Leistungslücke zwischen Frontier-Modellen und kleineren oder Open-Weights-Modellen. Nur Frontier-Modelle (speziell Gemini 3.1 Pro) navigierten erfolgreich durch die Anforderungen des sozialen Reasonings über alle Bedingungen hinweg. Schwächere Modelle scheiterten systematisch in den kognitiv anspruchsvolleren Asymmetrischen und Zero-Knowledge-Bedingungen.
Epistemic Tracking als Flaschenhals: Als primärer Treiber des Scheiterns wurde ein Fehler beim epistemischen Tracking identifiziert. Modelle konfundierten häufig privates Wissen mit mutualem Wissen oder versäumten es, den epistemischen Zustand des Partners korrekt darzustellen. Beispielsweise versäumten es in der asymmetrischen Bedingung „wissende“ Spieler oft, die Ignoranz des „blinden“ Spielers zu berücksichtigen, und wählten stattdin ihr eigenes Persona-Wort anstatt des Partners.
Reasoning vs. Performance: Während Chain-of-Thought (CoT) und Strategic ToM Prompting „akzidentielle“ oder heuristikgetriebene Übereinstimmungen reduzierten, führte tieferes Reasoning nur bei den fähigsten Modellen zu einer erfolgreichen Koordination. Schwächere Modelle betrieben oft inkohärentes ToM-Reasoning, das den epistemischen Randbedingungen des Prompts widersprach.
Limitationen statischer Benchmarks: Die Studie zeigt, dass eine hohe Leistung in traditionellen Benchmarks nicht mit der Fähigkeit korreliert, robustes soziales Inferenzverhalten in interaktiven Settings zu zeigen, in denen Agenten Selbstbezug-Biase unterdrücken müssen, um Koordination zu erreichen.

Bedeutung und Beiträge
Das Paper leistet vier primäre Beiträge:

EAST Benchmark: Es führt einen neuartigen Multi-Agenten-Benchmark ein, der Pre-training Contamination minimiert und robustes soziales Reasoning unter variierenden epistemischen Bedingungen evaluiert.
Empirischer Nachweis von Lücken: Es offenbart eine signifikante Lücke in der Fähigkeit zum robusten sozialen Reasoning über die aktuelle Modelllandschaft hinweg und hebt hervor, dass selbst große Modelle in Umgebungen mit asymmetrischer Information Schwierigkeiten mit funktionaler ToM haben.
Diagnostische Analyse: Durch die Analyse der Reasoning-Traces identifiziert die Arbeit Fehler beim epistemischen Tracking (speziell das Versagen, Selbstwissen von Fremdwissen zu entkoppeln) als kritischen Flaschenhals für die soziale Koordination durch LLMs.
Zukünftige Richtungen: Die Autoren schlagen epistemische Robustheit vor – die Kapazität, robuste Repräsentationen der epistemischen Zustände anderer aufrechtzuerhalten und diese vom eigenen Wissen zu entkoppeln – als konkretes Ziel für zukünftige Modell-Evaluierung und Alignment. Sie legen nahe, dass das Training in interaktiven Multi-Agenten-Umgebungen, in denen Perspektivübernahme intrinsisch für den Erfolg ist, effektiver sein könnte als das Fine-Tuning auf statischen Narrativen.

Die Autoren nehmen eine bescheidene Haltung ein und merken an, dass EAST eine erste konsolidierte Iteration des Paradigmas ist. Sie räumen Limitationen ein, wie die Verwendung homogener Dyaden (Self-Play) und das Fehlen von dezentraler Täuschung, und schlagen vor, dass zukünftige Arbeiten heterogene Interaktionen und adversariellen Noise untersuchen sollten, um diese Fähigkeiten weiter zu testen.

Die alte Methode: Die „Sally-Anne“-Falle

Das neue Spiel: EAST (Das „Gedankenleser“-Koordinationsspiel)

Was das Spiel enthüllte

Das Fazit

Mehr davon