Resumen Técnico: AutoToM: Escalamiento de la Inferencia Mental Basada en Modelos mediante el Modelado Automatizado de Agentes

Planteamiento del Problema

La Teoría de la Mente (ToM — Theory of Mind) —la capacidad de inferir estados mentales (metas, creencias, deseos) a partir del comportamiento observado— es crítica para los agentes socialmente inteligentes. Los enfoques actuales enfrentan una dicotomía:

1. LLMs basados en Prompts: Aunque son flexibles, los Modelos de Lenguaje de Gran Escala (LLMs) son propensos a errores sistemáticos en escenarios de razonamiento complejos, de contexto largo o recursivos.
2. Inferencia Basada en Modelos (Planificación Inversa Bayesiana - BIP): Estos métodos son robustos e interpretables, pero dependen de modelos de agentes rígidos y diseñados manualmente. Carecen de generalizabilidad porque requieren la especificación manual de variables mentales y estructuras causales para cada nuevo dominio o escenario.

El desafío central es desarrollar un método unificado y automatizado que pueda realizar una inferencia de ToM basada en modelos de forma robusta en diversos dominios abiertos sin ingeniería de modelos manual.

Metodología: AutoToM

AutoToM es un marco de trabajo que automatiza todo el proceso de la Planificación Inversa Bayesiana (BIP) utilizando un LLM como motor computacional (backend). Consta de dos componentes iterativos:

1. Planificación Inversa Bayesiana Automatizada

Dado un modelo de agente específico (definido como una red bayesiana de variables mentales latentes $V$ y variables observables $X$), AutoToM realiza la inferencia para estimar $P(q|X)$, donde $q$ es la variable mental objetivo.

• Muestreo de Hipótesis: En lugar de asumir un espacio de hipótesis fijo, un LLM genera un conjunto pequeño y de alta calidad de hipótesis para cada variable latente (por ejemplo, posibles creencias o metas) guiado por el contexto y la consulta.
• Reducción de Hipótesis: Las hipótesis espurias se filtran evaluando las probabilidades condicionales locales (por ejemplo, descartando hipótesis de observación con baja verosimilitud dado el estado).
• Inferencia Bayesiana: El LLM estima las probabilidades condicionales locales (por ejemplo, $P(acción | creencia, meta)$). El sistema luego margina sobre las variables latentes no objetivo para calcular la distribución posterior de la variable objetivo. Esto permite niveles arbitrarios de razonamiento recursivo (por ejemplo, I-POMDPs) sin límites estructurales predefinidos.

2. Descubrimiento Automatizado del Modelo de Agente

Dado que la estructura óptima del modelo de agente es desconocida a priori, AutoToM construye y refina iterativamente el modelo para maximizar una función de utilidad $U(M, q) = R(M, q) - C(M)$, donde $R$ es la entropía negativa de la inferencia (confianza) y $C$ es el costo computacional (complejidad del modelo).

• Propuesta de Modelo Inicial: Un LLM propone un modelo inicial mínimo que contiene solo las variables esenciales basadas en la consulta y las variables observables extraídas ($X$).
• Ajuste del Modelo: Si la utilidad inicial está por debajo de un umbral, el sistema ajusta el modelo de forma iterativa:
  • Ajuste de Variables: Introduce nuevas variables latentes (por ejemplo, creencia, meta, observación, estado interactivo) en pasos de tiempo específicos para resolver la incertidumbre de la inferencia.
  • Ajuste de Pasos de Tiempo: Expande la ventana de contexto para incluir pasos de tiempo anteriores ($t_{s-1}$) si el contexto actual es insuficiente.
• Terminación: El bucle continúa hasta que la utilidad del modelo supera un umbral o no es posible lograr una mejora significativa adicional.

Contribuciones Clave

1. Formulación Unificada: Una definición formal de la inferencia de ToM basada en modelos que unifica varias instancias de BIP (MDP, POMDP, I-POMDP) en un único marco probabilístico.
2. Descubrimiento Automatizado del Modelo de Agente: El primer enfoque para descubrir y refinar automáticamente las estructuras de modelos de agentes para BIP, eliminando la necesidad de especificaciones de modelos manuales y específicas de cada dominio.
3. Marco Escalable y Robusto: Un sistema capaz de inferir cualquier variable mental en cualquier dominio, soportando niveles de recursión arbitrarios y adaptándose a escenarios multi-agente complejos.

Resultados Experimentales

AutoToM fue evaluado a través de cinco bancos de pruebas (benchmarks) diversos de ToM (ToMi, BigToM, MMToM-QA, MuMA-ToM, Hi-ToM), estudios cognitivos clásicos y tareas de asistencia encarnada (embodied assistance).

• Desempeño en Benchmarks: AutoToM (usando GPT-4o como backend) alcanzó resultados de vanguardia en todos los benchmarks, superando significativamente a:
  • LLMs: Incluyendo GPT-4o, Llama 3.1 70B y Gemini 2.0 Pro.
  • Modelos de Razonamiento: Incluyendo DeepSeek-R1 y o3-mini-high.
  • Métodos Previos Basados en Modelos: Superando a BIP-ALM y LIMP, particularmente en la generalización entre dominios y el manejo de contextos largos.
• Robustez: AutoTom demostró una menor volatilidad que los grandes modelos de razonamiento ante diversas condiciones (tipos de preguntas, longitud de contexto, número de agentes, profundidad de recursión).
• Alineación Cognitiva: En estudios cognitivos clásicos (inferencia de metas en línea, escenarios de food truck), las distribuciones posteriores de AutoToM mostraron una alta correlación con los juicios de confianza humanos, superando significativamente a los LLMs base en tareas de observabilidad parcial.
• Asistencia Encarnada: En el benchmark Online Watch-And-Help (O-WAH), AutoToM permitió que un agente ayudante lograra una aceleración del 27.7% en la finalización de la tarea, superando significativamente a las bases aleatorias y a GPT-4o, debido a una estimación más precisa de la incertidumbre de las metas del agente principal.
• Eficiencia: AutoToM logró una mayor precisión con costos de tokens y tiempos de inferencia comparables o menores en comparación con los grandes modelos de razonamiento.

Significado y Reivindicaciones

Los autores afirman que AutoToM establece un marco escalable, robusto e interpretable para la Teoría de la Mente computacional. Al automatizar el descubrimiento de modelos de agentes, el método cierra la brecha entre la flexibilidad de los LLMs y el rigor de la inferencia basada en modelos.

Las reivindicaciones clave incluyen:

• Generalizabilidad: A diferencia de los métodos previos basados en modelos restringidos a dominios específicos, AutoToM puede aplicarse a escenarios abiertos sin reingeniería manual.
• Interpretabilidad: La construcción explícita de modelos de agentes permite el diagnóstico de errores de razonamiento (por ejemplo, identificar variables faltantes o pasos de tiempo incorrectos) y soporta la retroalimentación humana (human-in-the-loop) para corregir las decisiones del modelo.
• Fundamentación Cognitiva: La capacidad de producir estimaciones de confianza similares a las humanas sugiere que el método captura patrones de inferencia matizados presentes en la cognición humana.

El artículo concluye que AutoToM representa una dirección prometedora hacia el modelado de ToM con fundamentación cognitiva, aunque reconoce las limitaciones actuales en el procesamiento multimodal nativo y el potencial de la propuesta de modelos implícitos para reducir aún más los costos de inferencia.