💻 computer science

AutoToM: Scaling Model-based Mental Inference via Automated Agent Modeling

AutoToM 是一个自动化框架，它通过由推理不确定性引导的贝叶斯逆向规划，迭代地优化智能体模型，从而增强心智理论推理，进而实现可扩展、鲁棒且具可解释性的心理推理，并在多种基准测试中表现优于现有方法。

原作者： Zhining Zhang, Chuanyang Jin, Mung Yao Jia, Shunchi Zhang, Tianmin Shu

发布于 2026-01-15

📖 1 分钟阅读☕ 轻松阅读

原作者： Zhining Zhang, Chuanyang Jin, Mung Yao Jia, Shunchi Zhang, Tianmin Shu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你正在看一部悬疑电影。一个角色，我们叫她莎莉（Sally），把一个苹果藏在了一个盒子里。接着，另一个角色，安妮（Anne），走了进来，并把苹果移到了一个篮子里。莎莉没有看到这一幕。

如果你问：“安妮认为苹果在哪里？”一个聪明的人会立刻知道：安妮认为苹果在篮子里，因为她看到了苹果被移动。但如果你问：“莎莉认为苹果在哪里？”你就必须进行一次思维转换。你必须记住莎莉没有看到移动的过程，所以她仍然认为苹果在盒子里。

这种理解他人正在想什么、相信什么或想要什么的能力——尤其是当他们的想法与现实不符时——被称为心理理论（Theory of Mind, ToM）。这是让我们能够进行合作、撒谎、开玩笑以及互相帮助的超能力。

这篇论文介绍了一个名为 AutoToM 的新 AI 系统，它试图掌握这种超能力。以下是它的工作原理，通过简单的解释呈现。

问题所在：两种有缺陷的方法

在 AutoToM 出现之前，AI 尝试通过两种方式来解决这些谜题，但这两种方式都存在巨大的漏洞：

“直觉”法（大语言模型/LLMs）： 大语言模型（比如你现在正在对话的 AI）只是阅读故事并根据模式猜测答案。这就像一个学生在考试时根据问题的听起来的感觉来瞎猜。有时他们能猜对，但经常会被长篇故事或复杂的逻辑搞糊涂，从而产生“系统性错误”。
“僵化蓝图”法（基于模型/Model-Based）： 其他研究人员构建了严格的数学规则手册（类似于流程图），强迫 AI 循序渐进地思考。这种方法非常准确，但就像试图用一张纽约市的地图来引导你在日本的一个小村庄里穿行。你必须为每一个故事手动构建一张新地图，这既缓慢又无法应对新情况。

解决方案：AutoToM（“自适应建筑师”）

AutoToM 是一个混合体。它结合了聪明猜测者的灵活性与规则手册的可靠性，但它做了一件独特的事情：它能即时构建自己的规则手册。

可以将 AutoToM 想象成一个为每一个新谜团构建定制卷宗的侦探。

AutoToM 如何运作（三步循环）

1. 初步草图（提议阶段）
当 AutoToM 接收到一个故事时，它不仅仅是阅读；它还会询问：“我需要哪些心理变量来解决这个问题？”

类比： 想象你得到了一块拼图。你不是试图强行把碎片拼在一起，而是先观察包装盒上的图片，并勾勒出一个碎片可能的样子的大致轮廓。
AutoToM 使用大语言模型来提议一个简单的“心理模型”（一个关于谁知道什么、他们想要什么以及他们看到了什么的图表）。

2. 压力测试（贝叶斯推理）
一旦有了草图，它就会运行一次模拟。它会询问：“如果这个心理模型是正确的，它能否解释我们在故事中看到的行为？”

类比： 这就像气象预报员运行模拟。“如果天气多风且潮湿（模型），是否会下雨（行为）？”
如果模拟结果与故事相符，那就太棒了！如果数学计算显示不匹配（例如，模型显示角色应该看到了苹果移动，但故事却说他们没看到），系统就会知道模型是错误的。

3. 修补小组（模型调整）
这是神奇的部分。如果第一个草图失败了，AutoToM 并不会放弃。它会自动修复自己的蓝图。

变量调整： 也许它忘了包含一个“目标”。它会在图表中添加一个“目标”变量，然后再次尝试。
时间调整： 也许它只看了故事的最后一句。它意识到自己需要看整个故事，于是它在模型中增加了更多的“时间步”。
它会不断微调蓝图（添加信念、目标或时间步），直到数学逻辑能完美解释该故事。

为什么这很重要（实验结果）

论文在五个不同的“悬疑”基准测试上测试了 AutoToM，范围涵盖了从简单故事到包含多个角色和视频输入的复杂场景。

击败巨头： AutoToM 的表现优于目前最强大、最智能的 AI 模型（如 GPT-4o 和 DeepSeek-R1）。它不仅仅是在猜测，而是在进行推理。
类人化的信心： 当人类解决这些谜题时，有时会感到“挺确定”，有时会感到“不太确定”。AutoToM 也能产生这些相同的信心水平。它知道什么时候是在猜测，什么时候拥有确凿的答案。
现实世界的帮助： 作者在机器人辅助场景中测试了 AutoToM。想象一个机器人试图帮助人类烹饪。通过理解人类的目标（即使人类还没有说出来），该机器人比其他方法能快 27% 地提供帮助。它不仅仅是在执行命令，它理解了意图。

核心总结

AutoToM 是一个不仅仅靠死记硬背答案或遵循僵化规则的系统。相反，它会针对遇到的任何社交情境自动设计出完美的心理模型。它为每一个故事构建定制的“心理理论”，确保它即使在复杂、混乱或多层级的场景中，也能理解他人的想法。

这就像是一个只会背诵标准答案的学生，与一个学会了每次都从零开始构建案件证据的侦探之间的区别。

技术摘要：AutoToM：通过自动化智能体建模实现基于模型的心理推断规模化

问题陈述

心智理论（Theory of Mind, ToM）——即从观察到的行为中推断心理状态（目标、信念、欲望）的能力——对于具有社会智能的智能体至关重要。目前的方法面临着一种两极分化：

基于提示词的 LLM： 虽然大语言模型（LLMs）具有灵活性，但在复杂、长上下文或递归推理场景中容易出现系统性错误。
基于模型的推断（贝叶斯逆向规划 - BIP）： 这些方法稳健且具有可解释性，但依赖于僵化的、手工构建的智能体模型。由于它们需要为每个新领域或场景手动指定心理变量和因果结构，因此缺乏泛化能力。

核心挑战在于开发一种统一的、自动化的方法，能够在无需人工模型工程的情况下，在多样化、开放式的领域中执行稳健的、基于模型的 ToM 推断。

方法论：AutoToM

AutoToM 是一个利用 LLM 作为计算后端的框架，实现了贝叶斯逆向规划（BIP）全流程的自动化。它由两个迭代组件组成：

1. 自动化贝叶斯逆向规划

给定一个特定的智能体模型（定义为潜在心理变量 $V$ 和可观测变量 $X$ 的贝叶斯网络），AutoToM 执行推断以估计 $P(q|X)$ ，其中 $q$ 是目标心理变量。

假设采样： LLM 不再假设固定的假设空间，而是根据上下文和查询，为每个潜在变量（例如可能的信念或目标）生成一组小规模、高质量的假设。
假设削减： 通过评估局部条件概率来过滤掉伪假设（例如，剔除给定状态下似然度较低的观测假设）。
贝叶斯推断： LLM 估计局部条件概率（例如，$P(action | belief, goal)$）。随后，系统对非目标潜在变量进行边缘化处理，以计算目标变量的后验分布。这支持任意层级的递归推理（例如 I-POMDPs），且没有预定义的结构限制。

2. 自动化智能体模型发现

由于最优智能体模型结构在先验上是未知的，AutoToM 通过迭代构建并优化模型，以最大化效用函数 $U(M, q) = R(M, q) - C(M)$ ，其中 $R$ 是推断的负熵（置信度）， $C$ 是计算成本（模型复杂度）。

初始模型提议： LLM 根据查询和提取的可观测变量 ( $X$ )，提出一个仅包含必要变量的最小初始模型。
模型调整： 如果初始效用低于阈值，系统将迭代地调整模型：
- 变量调整： 在特定时间步引入新的潜在变量（如信念、目标、观测、交互状态），以解决推断中的不确定性。
- 时间步调整： 如果当前上下文不足，则扩展上下文窗口以包含更早的时间步 ( $t_{s-1}$ )。
终止： 循环持续进行，直到模型效用超过阈值或无法再获得显著改进。

核心贡献

统一的形式化定义： 一个关于基于模型的 ToM 推断的正式定义，将各种 BIP 实例化（MDP, POMDP, I-POMDP）统一到一个单一的概率框架中。
自动化智能体模型发现： 第一种能够自动发现并优化 BIP 智能体模型结构的方法，消除了对手动进行特定领域模型指定的依赖。
可扩展且稳健的框架： 一个能够推断任何领域中任何心理变量的系统，支持任意递归层级，并能适应复杂的多智能体场景。

实验结果

AutoToM 在五个多样化的 ToM 基准测试（ToMi, BigToM, MMToM-QA, MuMA-ToM, Hi-ToM）、经典认知研究以及具身辅助任务中进行了评估。

基准测试表现： AutoToM（使用 GPT-4o 作为后端）在所有基准测试中均达到了最先进的结果，显著优于：
- LLMs： 包括 GPT-4o, Llama 3.1 70B 和 Gemini 2.0 Pro。
- 推理模型： 包括 DeepSeek-R1 和 o3-mini-high。
- 先前的基于模型的方法： 优于 BIP-ALM 和 LIMP，特别是在跨领域泛化和处理长上下文方面。
稳健性： 在不同条件（问题类型、上下文长度、智能体数量、递归深度）下，AutoToM 表现出比大型推理模型更低的波动性。
认知对齐： 在经典认知研究（在线目标推断、餐车场景）中，AutoToM 的后验分布与人类的置信度判断表现出高度相关，在部分可观测任务中显著优于基准 LLM。
具身辅助： 在在线观察并协助（O-WAH）基准测试中，由于对主要智能体目标的确定性估计更准确，AutoToM 使辅助智能体的任务完成速度提升了 27.7%，显著优于随机策略和 GPT-4o 基准。
效率： 与大型推理模型相比，AutoToM 在实现更高准确度的同时，拥有相当或更低的 Token 成本和推理时间。

重要性与主张

作者声称 AutoToM 建立了一个可扩展、稳健且可解释的机器心智理论框架。通过自动化智能体模型的发现，该方法弥合了 LLM 的灵活性与基于模型推断的严谨性之间的鸿沟。

关键主张包括：

泛化能力： 不同于受限于特定领域的先前基于模型的方法，AutoToM 可以应用于开放式场景，无需手动重新工程化。
可解释性： 显式构建智能体模型允许对推理错误进行诊断（例如，识别缺失的变量或错误的时间步），并支持通过人类在环（human-in-the-loop）反馈来修正模型决策。
认知落地： 能够产生类人的置信度估计，表明该方法捕捉到了人类认知中细微的推断模式。

论文总结指出，AutoToM 代表了通往认知落地 ToM 建模的一个极具前景的方向，尽管作者也承认了其在原生多模态处理方面的现状局限，以及通过隐式模型提议进一步降低推断成本的潜力。