🤖 AI

What Do You Think I Think? Accounting for Human Beliefs Using Second-Order Theory of Mind

Dieser Beitrag stellt einen Second-Order-Theory-of-Mind-Rahmen auf Basis von I-POMDPs vor, der einem Agenten ermöglicht, menschliche kognitive Verzerrungen und fehlerhafte Überzeugungen über den Agenten zu erkennen und adaptiv zu adressieren, wodurch die Interaktionsqualität und der Nutzen von Feedback verbessert werden, wie in einer Nutzerstudie demonstriert wird.

Ursprüngliche Autoren: Patrick Callaghan, Reid Simmons, Henny Admoni

Veröffentlicht 2026-05-14

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Patrick Callaghan, Reid Simmons, Henny Admoni

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie lehren einen Roboter, wie er ein Deck spezieller Karten sortiert. Sie haben eine geheime Regel im Kopf (z. B. „Rote Karten kommen in Kiste 1, blaue Karten in Kiste 2"). Der Roboter kennt die Regel noch nicht; er muss sie lernen, indem er Ihnen beim Sortieren der Karten zuschaut und zuhört, was Sie sagen.

Das Problem ist, dass Sie möglicherweise Fehler darin machen, wie Sie glauben, dass der Roboter denkt.

Das Kernproblem: Die „Gedankenlesen"-Lücke

In dieser Arbeit versuchen die Forscher, eine spezifische Kommunikationsstörung zu lösen. Menschen haben oft „kognitive Verzerrungen" – mentale Abkürzungen, die uns dazu bringen, Dinge über andere anzunehmen, die nicht wahr sind.

Das Szenario: Sie könnten denken: „Der Roboter ist schlau; er muss wissen, dass Rot Kiste 1 bedeutet, denn das ist das offensichtlichste Muster."
Die Realität: Der Roboter ist tatsächlich verwirrt und denkt: „Ich habe keine Ahnung, was Rot bedeutet."
Das Ergebnis: Sie hören auf zu lehren, weil Sie denken, der Roboter wüsste es, oder Sie lehren auf eine Weise, die den Roboter verwirrt, weil Sie davon ausgehen, dass er Ihre Abkürzungen versteht.

Die Lösung: Der „Zweiter-Ordnung"-Geist

Die Forscher bauten einen Roboter mit einer besonderen mentalen Superkraft namens Zweiter-Ordnung-Theorie des Geistes (ToM-2).

Um dies zu verstehen, stellen Sie es sich wie ein Spiel vor: „Ich weiß, dass du weißt, dass ich weiß":

Zero-Order-Roboter (Der Basis-Bot): Er betrachtet nur die Karten, die Sie in die Kisten legen. Er denkt: „Okay, Sie haben eine rote Karte hier hingelegt. Ich werde meine Regel aktualisieren." Er hat keine Ahnung, was Sie denken.
Second-Order-Roboter (Der Gedankenleser): Dieser Roboter betrachtet nicht nur die Karten; er simuliert ein Modell Ihres Gehirns. Er fragt sich selbst: „Was glaubt der Mensch, dass ich gerade weiß?"

Wenn der Roboter erkennt: „Ah, der Mensch denkt, ich wüsste, dass die Regel mit der Farbe zu tun hat, aber ich denke tatsächlich, sie hat mit der Form zu tun", kann er die Diskrepanz erkennen.

Wie der Roboter das Gespräch korrigiert

Die Arbeit beschreibt ein Spiel, bei dem der Roboter eine Sortierregel erraten muss. Der Roboter nutzt seine „Gedankenlese"-Fähigkeit, um zwei spezifische menschliche Gewohnheiten (Verzerrungen) zu erkennen:

Repräsentativitätsheuristik: Sie könnten sich nur auf die Karten konzentrieren, die der Regel ähneln, die Sie im Kopf haben, und diejenigen ignorieren, die andere Regeln widerlegen.
Bestätigungsfehler: Sie könnten dem Feedback des Roboters nur dann Beachtung schenken, wenn es das bestätigt, was Sie bereits glauben.

Wenn der Roboter diese Gewohnheiten erkennt, ändert er seine Strategie. Anstatt nur zu sagen: „Ich bin mir nicht sicher", gibt er Ihnen einen zweiteiligen Impuls:

Teil A (Der Impuls): „Es scheint, als wollten Sie, dass ich denke, die Regel beziehe sich auf die Form, aber..."
Teil B (Die Korrektur): "...es ist immer noch möglich, dass die Regel die Farbe betrifft."

Indem er explizit ausspricht: „Ich weiß, was Sie denken, dass ich denke, aber ich denke tatsächlich etwas anderes", durchbricht der Roboter den mentalen Loop des Menschen und zwingt ihn, seine Lehrstrategie zu überdenken.

Das Experiment: Karten lehren

Die Forscher testeten dies mit 30 echten Menschen.

Der Aufbau: Menschen benutzten einen Computer, um einen virtuellen Agenten zu lehren, Karten mit verschiedenen Farben, Formen und Zahlen zu sortieren.
Der Vergleich:
- Gruppe A lehrte einen „Basis-Bot" (Zero-Order), der keine Gedanken lesen konnte.
- Gruppe B lehrte den „Gedankenleser-Bot" (Second-Order), der Verzerrungen erkennen konnte.

Was passierte?

Besseres Lehren: Menschen lehrten den Gedankenleser-Bot viel effizienter. Da der Bot ihre Missverständnisse korrigierte, hörten die Menschen auf, redundante Schritte zu machen, und gaben bessere Beispiele.
Mehr Informationen: Die Karten, die die Menschen dem Gedankenleser-Bot zeigten, enthielten nützlichere Informationen. Die Menschen passten unbewusst ihren Lehrstil an, weil der Bot auf eine Weise „zurückredete", die ihre Verwirrung sinnvoll erklärte.
Der „unbewusste" Vorteil: Interessanterweise sagten die Menschen im Nachhinein nicht: „Wow, dieser Bot war erstaunlich darin, meine Gedanken zu lesen!" Sie fühlten einfach nur, dass das Feedback nützlicher war. Sie realisierten nicht unbedingt, warum die Interaktion reibungsloser war; sie wussten einfach nur, dass es besser funktionierte.

Das Fazit

Diese Arbeit zeigt, dass eine KI, wenn sie modellieren kann, was Sie glauben, dass sie weiß (und erkennt, wenn Sie sich darin irren), Ihnen besseres Feedback geben kann. Dies hilft Ihnen, sie schneller und genauer zu lehren, selbst wenn Sie nicht vollständig realisieren, dass die KI die schwere Arbeit leistet, um Ihre mentalen Blindstellen zu beheben.

Hinweis: Die Forscher testeten dies in einem einfachen Kartensortierspiel. Sie geben zu, dass das echte Leben viel komplexer ist und ihr Roboter nur zwei spezifische Arten menschlicher Verzerrungen betrachtete, aber die Kernidee – dass die Modellierung menschlicher Missverständnisse die Zusammenarbeit verbessert – funktionierte in ihrem Experiment.

Technische Zusammenfassung: Berücksichtigung menschlicher Überzeugungen mittels einer Theorie des Geistes zweiter Ordnung

Problemstellung
Eine erfolgreiche Mensch-Agent-Interaktion hängt davon ab, dass der Mensch ein genaues Modell der Fähigkeiten und Überzeugungen des Agents besitzt. Menschen setzen jedoch häufig kognitive Verzerrungen und Heuristiken (CBH) ein, wie etwa die Repräsentativitätsheuristik und den Bestätigungsfehler, was zu fehlerhaften Überzeugungen darüber führen kann, was ein Agent weiß oder wie er schlussfolgert. Diese Diskrepanzen zwischen dem tatsächlichen Wissen eines Agents und der menschlichen Wahrnehmung dieses Wissens können die Interaktionseffizienz beeinträchtigen. Während frühere Arbeiten untersucht haben, wie man Agents mit einer Theorie des Geistes (ToM) oder einer Theorie des Geistes zweiter Ordnung (ToM-2) ausstattet, adressiert diese Arbeit spezifisch die Herausforderung, zu modellieren, wie CBH die Inferenz eines Menschen über die Überzeugungen eines Agents beeinflusst. Dies ermöglicht es dem Agenten, diese Fehler zu erkennen und sein Feedback entsprechend anzupassen.

Methodik
Die Autoren schlagen ein Framework vor, das einen interaktiven teilweise beobachtbaren Markov-Entscheidungsprozess (I-POMDP) nutzt, um eine Theorie des Geistes zweiter Ordnung (ToM-2) zu implementieren. In dieser Architektur unterhält der Agent ein verschachteltes Modell des Menschen, wobei der Mensch als ein ToM-1-Agent (ein Schlussfolgerer erster Ordnung) modelliert wird.

Domäne: Das System wird in einer turnbasierten Kartensortieraufgabe evaluiert. Eine „Regel" bestimmt, wie mehrdimensionale Karten (die sich in Farbe, Füllung, Anzahl und Form unterscheiden) in zwei Behälter sortiert werden. Der menschliche Lehrer demonstriert die Regel durch das Sortieren von Karten, und der Agent gibt Feedback zu seiner aktuellen Annahme bezüglich der Regelmerkmale.
Modellierung von CBH: Das I-POMDP-Framework ermöglicht es dem Agenten, Überzeugungen über mehrere menschliche Modelle ( $m_{H,1}$ $m_{H, 1}$ ) zu unterhalten, die spezifische CBH-Mechanismen kodieren.
- Repräsentativitätsheuristik (RH): Wird über „lokales Denken" (LT) operationalisiert, wobei der Agent annimmt, dass sich der Mensch auf semantisch ähnliche Merkmale konzentriert und dabei kontrafaktische Beispiele vernachlässigt, die notwendig wären, um andere Regeln auszuschließen. Dies wird modelliert, indem die Beobachtungsfunktion ( $\Omega$ ) mit einer gewichteten Kosinus-Ähnlichkeit erweitert wird.
- Bestätigungsfehler (CB): Wird als eine Tendenz des Menschen modelliert, Feedback vom Agenten zu erwarten, das mit seinen vorherigen Überzeugungen über die Regel übereinstimmt, anstatt Feedback, das logisch Alternativen ausschließt.
Adaptive Feedback-Generierung: Der Agent nutzt seine ToM-2-Überzeugungen, um Diskrepanzen zwischen seinem tatsächlichen Wissen und der menschlichen Annäherung dieses Wissens zu erkennen. Basierend auf dieser Erkennung generiert der Agent zwei Arten von Feedback:
1. Vertrauensaussagen (CS): Standardfeedback, das Unsicherheit oder Gewissheit bezüglich eines Regelmerkmals vermittelt (z. B. „Ich denke, die Klasse ist Form").
2. Verständnisaussagen (US): Feedback, das darauf ausgelegt ist, den Menschen durch CB verursachte Schlussfolgerungen durch das explizite Offenlegen dessen, was der Agent über ein vom Menschen zu lehrendes Merkmal weiß, zu „nudge" und dabei potenzielle Diskrepanzen hervorzuheben (z. B. „Es scheint, als wolltest du, dass ich weiß, die Klasse ist Form, aber es ist immer noch möglich, dass die Klasse Füllung ist").
  Der Agent verwendet standardmäßig CS zur Informationsgewinnung, wechselt jedoch zu einem Tandem aus (US+CS), wenn er durch CBH verursachte fehlerhafte Überzeugungen erkennt.

Hauptbeiträge

Neues Framework: Eine ToM-2-Architektur auf Basis von I-POMDPs, die den Einfluss von CBH auf die Überzeugungen eines Menschen über die Überzeugungen eines Agents explizit modelliert, anstatt nur die Handlungen des Menschen zu modellieren.
Erkennung und Anpassung: Ein Mechanismus, mit dem der Agent erkennt, wenn ein Mensch auf spezifische Heuristiken (RH und CB) zurückgreift, und adaptiv Feedback (US) generiert, um den Schlussfolgerungsprozess des Menschen zu korrigieren.
Empirische Validierung: Eine Präsenz-Studie mit Nutzern, die zeigt, dass dieser Ansatz die Informativität menschlicher Lehrhandlungen verbessert und von den Teilnehmern als nützlicher wahrgenommen wird.

Ergebnisse
Die Studie umfasste 30 Teilnehmer, die einen virtuellen Agenten unter drei Bedingungen unterrichteten: ToM-0 (keine ToM), ToM-0 Zufall (zusätzliches Feedback zufällig bereitgestellt) und ToM-2 (adaptives Feedback basierend auf CBH-Erkennung).

Objektive Metriken:
- Informationsgewinn: Der ToM-2-Lerner löste signifikant informativere Lehrhandlungen aus (höherer relativer Informationsgewinn) als beide Baselines, sowohl nach ein- als auch nach zweisätzigem Feedback.
- Effizienz: Der ToM-2-Lerner zeigte eine marginale, aber signifikante Reduktion der Anzahl der Lehreraktionen, die erforderlich waren, um eine Sitzung erfolgreich zu beenden, im Vergleich zur Standard-ToM-0-Baseline.
- Erkennung: Qualitative Simulationen zeigten, dass der ToM-2-Lerner die korrekte Regel und das zugrundeliegende Modell des Lehrers (einschließlich CBH) identifizieren konnte, während der ToM-0-Lerner dies nicht vermochte.
Subjektive Metriken:
- Die Teilnehmer bewerteten das Feedback des ToM-2-Lerners als signifikant nützlicher als das der Baselines.
- Es gab jedoch keinen statistisch signifikanten Unterschied in der selbstberichteten Zuversicht der Teilnehmer bezüglich des Verständnisses des Agents, ihrem Lehrvertrauen oder der Angenehmheit der Erfahrung.
- Teilnehmer berichteten häufig, dass die Lerner nicht unterscheidbar oder gleichermaßen einfach zu unterrichten seien, was darauf hindeutet, dass die Vorteile des ToM-2-Modells möglicherweise unbewusst wirken.

Bedeutung und Einschränkungen
Die Autoren behaupten, dass die Fähigkeit eines Agents, die Ursachen menschlicher Überzeugungsfehler (insbesondere CBH) zu modellieren, eine effektivere Interaktion ermöglicht, indem gezieltes Feedback generiert wird, das die menschliche Schlussfolgerung unterstützt. Die Ergebnisse deuten darauf hin, dass Menschen zwar möglicherweise nicht bewusst über das fortgeschrittene Modellieren des Agents im Bilde sind, die Fähigkeit des Agents, CBH zu berücksichtigen, jedoch zu objektiv effizienteren und informativeren Interaktionen führt.

Die Autoren erkennen mehrere Einschränkungen an:

Das Proof-of-Concept-Domain (Kartensortierung) ist einfacher als reale Mensch-Agent-Interaktionen.
Die Studie untersuchte nur zwei spezifische Verzerrungen (RH und CB) von den vielen, die menschliches Verhalten beeinflussen.
Die rechnerische Komplexität von I-POMDPs bleibt eine Hürde für die Skalierung dieses Ansatzes auf komplexere Aufgaben und menschliche Modelle, da die Autoren das Framework strikt zur Verfolgung von Überzeugungen nutzten und nicht zur Lösung optimaler Strategien im vollständigen verschachtelten Raum.