Theory of Mind in Action: The Instruction Inference Task in Dynamic Human-Agent Collaboration

Resumen Técnico: Teoría de la Mente en Acción para la Colaboración Humano-Agente

1. Planteamiento del Problema

La colaboración exitosa entre humanos y agentes inteligentes depende de la capacidad del agente para comprender instrucciones dadas por un humano (el "principal"). En entornos dinámicos, las instrucciones a menudo son incompletas o ambiguas (por ejemplo, "¿Puedes conseguir eso?" mientras se señala un objeto).

• El desafío: Los agentes tradicionales suelen interpretar las instrucciones de forma literal y fallan cuando falta contexto pragmático. Para tener éxito, un agente debe ejercer la Teoría de la Mente (ToM): inferir los estados mentales, creencias e intenciones no expresadas del principal basándose en el contexto compartido.
• La brecha actual: Aunque los Modelos de Lenguaje Grandes (LLMs) muestran capacidades emergentes de razonamiento, las evaluaciones existentes de ToM se basan en benchmarks estáticos (como pruebas de falsas creencias o narrativas conversacionales) que no prueban la capacidad del agente para interpretar instrucciones ambiguas y actuar en entornos colaborativos orientados a objetivos.

2. Metodología

A. Nueva Tarea: Inferencia de Instrucciones (Instruction Inference)
Los autores introducen una tarea novedosa diseñada para evaluar la ToM en un entorno colaborativo dinámico.

• Entorno: Se utiliza el entorno simulado "Doors, Keys, and Gems" (Puertas, Llaves y Gemas). El agente debe ayudar al principal a recolectar una gema, lo que a menudo implica recuperar llaves y abrir puertas.
• Tipos de Instrucciones: Basado en las máximas conversacionales de Grice, la tarea incluye:
  • Instrucciones Claras: Sin violaciones.
  • Instrucciones Incompletas: Violación de la máxima de Cantidad (falta información crítica).
  • Instrucciones Ambiguas: Violación de la máxima de Modo (múltiples interpretaciones posibles).
• Pipeline: El agente recibe la cuadrícula del entorno, las acciones previas del principal y la instrucción. Debe inferir la intención, generar una respuesta en lenguaje natural y ejecutar una secuencia óptima de acciones.

B. El Agente "Tomcat"
Se desarrolló un agente basado en LLM llamado Tomcat con dos variantes de diseño de prompt:

1. CP (Commonsense Prompt): Se basa en el conocimiento de sentido común y dos ejemplos detallados de resolución de problemas (walkthroughs) que incluyen el estado inicial, observado y completado de la cuadrícula.
2. Fs-CoT (Few-shot Chain-of-Thought): Utiliza 7 ejemplos de razonamiento estructurado (input-output) sin incluir los estados completos de la cuadrícula para ahorrar espacio de contexto. Este enfoque guía al modelo paso a paso para inferir intenciones ocultas y planificar acciones.

C. Configuración Experimental

• Modelos LLM probados: GPT-4o, DeepSeek-R1 y Gemma-3-27B.
• Participantes Humanos: 52 participantes (estudiantes universitarios y de posgrado) realizaron la misma tarea bajo las mismas condiciones que la variante CP de Tomcat.
• Métricas de Evaluación:
  • Precisión de Intención (Intent Accuracy): ¿Se identificó correctamente el objetivo del principal?
  • Viabilidad y Optimalidad de Acciones: ¿Son las acciones ejecutables y eficientes?
  • Viabilidad y Optimalidad del Plan: ¿El plan anticipa correctamente los siguientes pasos del principal?
  • Precisión de Instrucción: Capacidad de clasificar si la instrucción es clara o ambigua.

3. Contribuciones Clave

1. Tarea de Inferencia de Instrucciones: Un nuevo benchmark que evalúa la ToM en colaboración humano-agente dinámica, superando las limitaciones de los benchmarks narrativos estáticos al exigir acción y planificación en tiempo real.
2. Agente Tomcat: Un marco de agente LLM diseñado específicamente para razonar sobre el contexto pragmático y las acciones del principal, implementado con estrategias de prompting avanzadas (Fs-CoT).
3. Evaluación Empírica Rigurosa: Una comparación directa entre múltiples LLMs y 52 participantes humanos, proporcionando una línea base sólida sobre el rendimiento de la ToM en agentes.

4. Resultados Principales

• Rendimiento General: La variante Fs-CoT superó consistentemente a la variante CP en todos los modelos y métricas, demostrando que los ejemplos de razonamiento estructurado son cruciales para la inferencia de intenciones.
• Comparación con Humanos:
  • GPT-4o (Fs-CoT): Logró un rendimiento comparable a los participantes humanos en precisión de intención, viabilidad y optimalidad de planes. Superó significativamente a su variante CP.
  • DeepSeek-R1 (Fs-CoT): También alcanzó un rendimiento comparable a los humanos, mostrando mejoras sustanciales sobre su variante CP, especialmente en la inferencia de intenciones. Curiosamente, la variante CP de DeepSeek-R1 ya tenía un rendimiento alto, lo que sugiere una fuerte capacidad de razonamiento intrínseca.
  • Gemma-3-27B: Aunque la variante Fs-CoT mejoró significativamente sobre la CP, ambas variantes quedaron por debajo del rendimiento humano. Esto sugiere que el tamaño del modelo (capacidad) es un factor limitante para el razonamiento complejo de ToM, incluso con ejemplos estructurados.
• Análisis Estadístico: Las pruebas de significancia (McNemar, Kruskal-Wallis) confirmaron que las mejoras de Fs-CoT en GPT-4o y DeepSeek-R1 no son aleatorias y que sus capacidades de ToM son estadísticamente equivalentes a las humanas en tareas de planificación e inferencia de objetivos.

5. Significado e Implicaciones

• Validación de la ToM en LLMs: El estudio demuestra que los LLMs, cuando se les proporciona el contexto adecuado (ejemplos de razonamiento), pueden inferir intenciones humanas no expresadas y actuar de manera colaborativa efectiva, superando la interpretación literal.
• Importancia del Prompting Estructurado: La técnica Few-shot Chain-of-Thought (Fs-CoT) es fundamental para desbloquear el potencial de ToM en modelos como GPT-4o y DeepSeek-R1, actuando como un puente entre la instrucción ambigua y la acción óptima.
• Limitaciones de Capacidad: Los resultados en Gemma-3-27B indican que, aunque el prompting ayuda, existe un umbral de capacidad del modelo necesario para manejar el razonamiento recursivo y la planificación de múltiples pasos requeridos en la colaboración compleja.
• Futuro de la Colaboración: Este trabajo marca un paso hacia agentes de IA que no solo ejecutan comandos, sino que actúan como "socios cognitivos" capaces de entender el contexto, anticipar necesidades y colaborar en entornos inciertos, acercándose a la interacción natural humano-humano.

En conclusión, el artículo establece que la combinación de modelos LLM avanzados con estrategias de inferencia estructurada (Fs-CoT) permite crear agentes colaborativos con capacidades de Teoría de la Mente que rivalizan con las humanas en tareas de inferencia de instrucciones dinámicas.