Theory of Mind in Action: The Instruction Inference Task in Dynamic Human-Agent Collaboration

Titel: Theory of Mind in Action: De Taak voor Instructie-inferentie in Dynamische Mens-Agent Samenwerking

1. Probleemstelling

Succesvolle samenwerking tussen mens en agent vereist dat de agent instructies van een menselijke "principal" (hoofdpersoon) kan begrijpen, zelfs wanneer deze instructies onvolledig of ambigu zijn. Traditionele autonome agents falen vaak in deze situaties omdat ze instructies letterlijk interpreteren en geen rekening houden met pragmatische context of de mentale staat (doelen, overtuigingen) van de mens.

Hoewel Large Language Models (LLMs) belovend zijn voor het modelleren van "Theory of Mind" (ToM) – het vermogen om de mentale toestanden van anderen te infereren – zijn bestaande evaluaties beperkt tot statische benchmarks (zoals verhalen over valse overtuigingen). Er ontbreekt een evaluatieframework dat toetst of agents deze ToM-vaardigheden kunnen toepassen in een dynamische, doelgerichte samenwerking waarbij agenten moeten handelen op basis van impliciete instructies.

2. Methodologie

A. De Taak: Instruction Inference
De auteurs introduceren een nieuwe taak, "Instruction Inference", bestaande uit 20 unieke scenario's in een virtuele omgeving genaamd "Doors, Keys, and Gems".

• Situatie: Een agent (Tomcat) moet een menselijke principal helpen een edelsteen te verzamelen door deuren te openen met sleutels.
• Instructies: De principal geeft instructies die kunnen zijn:
  • Duidelijk: Volledige informatie.
  • Onvolledig (Incomplete): Ontbrekende cruciale informatie (schending van Grice's maxim van Kwantiteit).
  • Ambigu (Ambiguous): Meerdere mogelijke interpretaties (schending van Grice's maxim van Manier).
• Doel: De agent moet de onderliggende intentie van de principal infereren uit de context (bewegingen, omgeving) en een optimale actieplanning uitvoeren.

B. Het Agent-ontwerp: Tomcat
Tomcat is een LLM-gebaseerde agent die twee varianten heeft, geïmplementeerd op drie LLM's (GPT-4o, DeepSeek-R1, Gemma-3-27B):

1. CP (Commonsense Prompt): Gebaseerd op algemene kennis en twee gedetailleerde probleemdoorloopvoorbeelden.
2. Fs-CoT (Few-shot Chain-of-Thought): Gebruikt zeven voorbeelden die gestructureerd redeneren tonen (in-context learning) om de agent te leiden bij het infereren van intenties en het genereren van actieplannen.

C. Experimenteel Opzet

• Deelnemers: 52 menselijke proefpersonen (studenten met STEM-achtergrond) voerden dezelfde taken uit als de CP-variant van Tomcat.
• Metingen: De prestaties werden geëvalueerd op basis van:
  • Intent Accuracy: Correctheid van de geïnfereerde doelstelling.
  • Action Feasibility & Optimality: Of de acties uitvoerbaar en optimaal waren.
  • Plan Feasibility & Optimality: Of het volledige plan (inclusief toekomstige stappen van de principal) logisch en optimaal was.
  • Instruction Accuracy: Het correct classificeren van de instructie (duidelijk vs. onduidelijk).

3. Belangrijkste Bijdragen

1. Instruction Inference Taak: Een nieuw benchmark-framework dat ToM-evaluatie verschuift van statische verhalen naar dynamische, doelgerichte samenwerking met onduidelijke instructies.
2. Tomcat Agent: Een LLM-gebaseerd systeem dat pragmatische context en de bewegingen van de principal combineert om instructies te interpreteren.
3. Empirische Validatie: Een uitgebreide studie die LLM-varianten vergelijkt met menselijke prestaties, waarbij wordt aangetoond dat specifieke prompting-technieken (Fs-CoT) LLM's in staat stellen menselijk niveau te bereiken in ToM-redenering.

4. Resultaten

• Vergelijking Mens vs. AI:

  • De GPT-4o Fs-CoT variant presteerde vergelijkbaar met menselijke deelnemers op alle belangrijke metrics (intentie-inferentie, actie-optimaliteit, planning).
  • De DeepSeek-R1 Fs-CoT variant presteerde ook vergelijkbaar met mensen, hoewel de CP-variant van DeepSeek-R1 al sterk was.
  • De Gemma-3-27B varianten (zowel CP als Fs-CoT) presteerden significant slechter dan mensen, wat wijst op beperkingen in modelgrootte voor complexe ToM-taken.

• Effect van Fs-CoT:

  • Over het algemeen overtrof de Fs-CoT variant de CP variant aanzienlijk.
  • Voor GPT-4o leidde Fs-CoT tot een verbetering van 70% in intentie-herkenning ten opzichte van CP.
  • Fs-CoT verbeterde de kwaliteit van de plannen (voorbereiding op toekomstige stappen van de principal) en de optimaliteit van de acties.

• Statistische Significantie:

  • Statistische tests (McNemar, Kruskal-Wallis) bevestigden dat GPT-4o en DeepSeek-R1 met Fs-CoT geen significant verschil vertoonden met menselijke prestaties, terwijl CP-varianten vaak significant onderpresteerden.
  • DeepSeek-R1 toonde een interessant patroon: de CP-variant was al zeer sterk, maar Fs-CoT bracht de prestaties verder naar menselijk niveau, vooral in intentie-inferentie.

5. Betekenis en Conclusie

Dit paper toont aan dat LLM's, wanneer ze worden uitgerust met gestructureerde redeneer-exemplaren (Few-shot Chain-of-Thought), in staat zijn om Theory of Mind te demonstreren in dynamische samenwerkingssituaties. Ze kunnen onvolledige instructies interpreteren, de intenties van de mens infereren en optimale actieplannen genereren die rekening houden met de toekomstige stappen van de menselijke partner.

Kerninzichten:

• Context is cruciaal: Het vermogen om pragmatische context en bewegingen te analyseren is essentieel voor het oplossen van ambiguïteit.
• Prompt Engineering: De Fs-CoT-techniek is een krachtige methode om ToM-vaardigheden in LLM's te activeren, vooral voor modellen zoals GPT-4o.
• Modelcapaciteit: De prestaties zijn afhankelijk van de modelgrootte en architectuur; kleinere modellen (zoals Gemma-3-27B) hebben moeite om complexe, meervoudige redeneerstappen te generaliseren, zelfs met voorbeelden.
• Toekomstperspectief: De resultaten suggereren dat AI-agenten steeds meer kunnen evolueren van transactionele chatbots naar relationele cognitieve partners die functionele Theory of Mind bezitten, wat essentieel is voor robuuste mens-machine samenwerking in complexe omgevingen.