🤖 AI

MINT: Minimal Information Neuro-Symbolic Tree for Objective-Driven Knowledge-Gap Reasoning and Active Elicitation

本文介绍了 MINT，一种神经符号树框架，它将符号交互推理、神经规划不确定性估计与大语言模型驱动的查询生成相结合，使人工智能智能体能够主动获取人类输入，从而有效弥合知识鸿沟，并在开放世界的联合规划任务中实现接近专家级的性能。

原作者： Zeyu Fang, Mahdi Imani, Tian Lan

发布于 2026-05-06

📖 1 分钟阅读☕ 轻松阅读

原作者： Zeyu Fang, Mahdi Imani, Tian Lan

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你和一台机器人组成团队，试图共同解决一个谜题。但关键在于：机器人无法看到全貌。存在它未知的隐藏碎片、隐形墙壁或秘密规则。在论文的术语中，这些被称为“知识缺口”。

如果机器人猜错了，它可能会撞毁或失败；如果它过于保守，完成任务可能需要耗费漫长时间。这篇论文介绍了一种名为 MINT（最小信息神经符号树）的新系统，旨在帮助机器人精确判断该向你询问什么，从而高效地解决谜题。

以下是 MINT 的工作原理，分解为简单步骤：

1. 问题：机器人的“盲点”

想象你在玩一款电子游戏，其中某些墙壁是隐形的。机器人知道游戏规则，但它不知道哪里有隐形墙壁，或者某块地板是陷阱还是奖励。

旧方法：机器人要么盲目猜测（常导致失败），要么不断求助（令人厌烦且缓慢）。
目标：机器人需要在正确的时间提出正确的问题，以填补其盲点，同时不浪费时间。

2. 解决方案：MINT（“侦探的素描本”）

MINT 就像一个结合了两种超能力的侦探素描本：

大脑（神经策略）：一个快速、直觉的 AI，它知道如果知晓所有规则该如何出色地玩游戏。它能评估某种情况有多“可怕”或不确定。
逻辑（符号树）：一张结构化的地图，将未知因素分解为可能性的树状结构。

它是如何构建这棵树的：

树根：机器人从一个巨大的问号开始（例如：“那个蓝色盒子是墙壁还是奖励？”）。
分支展开：机器人在脑海中模拟游戏（称为“自我对弈”）。它问：“如果它是墙壁会怎样？”以及“如果它是奖励会怎样？”
检查影响：它利用其“大脑”来判断：如果在这里猜错，后果严重吗？
- 如果答案是“不，无论哪种情况我都没事”，它就停止提问。
- 如果答案是“是的，这可能会毁掉我的计划”，它就继续分支展开。

3. 神奇的一步：询问人类（“夏洛克·福尔摩斯”时刻）

一旦机器人构建了这棵“如果……会怎样”的树，它不会仅仅进行猜测。它会调用一个大型语言模型（LLM）——将其想象为一位聪明的助手，能够阅读机器人的素描本并进行总结。

LLM 审视这棵树并说道：“嘿，如果我们只问一个简单的‘是/否’问题，就能消除一半这些可怕的可能性。”

示例：机器人不会问“告诉我关于这个房间的一切”，而是问“走廊的地板滑吗？”
结果：你回答“是”。机器人立即划掉其树中所有“地板干燥”的分支。现在它确切知道该做什么。

4. 为何它更优（“效率”类比）

想象在黑暗中穿越迷宫。

纯猜测（旧强化学习）：你撞向墙壁，撞到头，然后希望找到出口。
不断询问（旧人机回环）：你每走两步就停下来问：“这是正确的路吗？”这既令人疲惫又缓慢。
MINT：你停下，查看地图，然后问：“出口在左边还是右边？”一旦你回答，你便自信地冲向出口。

论文发现

研究人员在三个不同的“世界”中测试了 MINT：

MiniGrid：一个带有隐藏方块的简单网格迷宫。
Atari Pacman：一款带有隐藏奖励或陷阱的经典游戏。
Isaac Gym：一个逼真的 3D 模拟，模拟无人机在烟雾弥漫的仓库中试图营救人员。

结果：

MINT 取得了与知晓世界一切的专家几乎相同的成功率。
它通过每个未知物体仅询问1 到 3 个问题就做到了这一点。
它的表现优于那些只是猜测的机器人，也优于那些过于频繁求助的机器人。

nutshell（一句话总结）

MINT 是一个教导 AI 成为智能协作者的系统。它不再盲目猜测或用无尽的问题打扰人类，而是结合快速直觉与逻辑推理，找出要问的唯一最重要的问题。这使得人类和 AI 能够协作，即使 AI 并不知晓游戏的所有规则，也能快速、准确地解决复杂问题。

技术摘要：面向目标驱动知识缺口推理的 MINT

问题陈述
在开放世界的人机协作中，联合规划经常因信息不完整和未知因素（如未见过的物体、模糊的人类意图或不确定的环境约束）而受阻。这些“知识缺口”导致状态转换和奖励函数存在不确定性，进而引发保守的执行和次优的规划。虽然现有方法（如基于人类反馈的强化学习 RLHF 或少样本适应）能够处理人类输入，但它们往往缺乏对这些缺口进行表达性推理的能力，或缺乏主动获取弥合缺口所需具体信息的能力。相反，传统的人机回环（HITL）方法通常侧重于通过演示进行微调，而非通过目标驱动的主动询问来解决知识缺口的根本原因。

方法论：最小信息神经符号树（MINT）
作者提出了 MINT，这是一个结合符号推理、神经规划策略和大语言模型（LLM）以优化人类输入获取的框架。该方法论主要在两个阶段运行：训练和部署。

神经策略训练（不确定性估计）：
系统采用自举深度 Q 网络（具体为 UA-DQN）来估计不仅是最优 Q 值，还包括由知识缺口引起的规划结果的偶然不确定性（方差）。在训练过程中，智能体暴露于一族扩展的马尔可夫决策过程（MDP）中，其中知识缺口 $u$ 掩盖了真实描述符 $\phi$ 的部分内容。该网络学习估计可能描述符分布 $\Phi_u$ 上 Q 值的均值和方差。
符号树构建与扩展：
当检测到知识缺口（例如 Q 值的高方差）时，MINT 构建一棵符号树。
- 节点： 代表具有特定知识缺口的规划问题状态，其特征由描述符（类型、子类型、值范围）刻画。
- 边：代表旨在缩小缺口的命题（查询）。
- 扩展： 树以广度优先的方式扩展。对于每个节点，神经策略估计平均回报和方差。如果方差相对于动作间的回报差距较高，则通过分割知识缺口空间（例如，划分值范围或假设不同类型的 uncertainty）来扩展该节点。此过程持续进行，直到方差足够低或达到深度限制。
基于 LLM 的整理与主动询问：
一旦树构建完成，LLM 处理该结构以优化交互策略：
- 剪枝： LLM 合并导致相同最优动作的等效子树或叶子节点，以消除冗余。
- 查询生成： LLM 合成二元（是/否）问题，旨在最大化关于最优动作候选者的信息增益。
- 交互： 智能体向人类提出这些问题。人类的回答更新知识缺口，并修剪树中不一致的分支。这种迭代过程持续进行，直到以高置信度识别出最优动作。

理论分析
该论文为 MINT 的性能提供了理论保证。通过定义具有不同转移核和奖励函数的 MDP 之间的伪度量，作者证明了最优 Q 函数的局部伪 Lipschitz 连续性。他们推导出了基于 MINT 的规划（带有主动询问）与无知识缺口的理想情况之间回报差距的上界。该分析表明，通过 MINT 的查询策略迭代缩小知识缺口可以减少回报差距，从而提供性能保证。

主要贡献

MINT 框架： 提出了一种神经符号树，该树咨询神经规划策略以推理知识缺口的影响，并利用自我博弈来优化人类询问策略。
理论保证： 证明了规划回报的局部伪 Lipschitz 连续性，并推导了回报差距的上界，为主动人类询问提供了坚实的理论基础。
实证验证： 证明了 MINT 在多种环境中实现了接近专家的回报，且与基线相比所需的查询次数显著减少（每个对象 1–3 次）。

实验结果
作者在三个真实度递增的基准测试中评估了 MINT：

MiniGrid： MINT 实现了近乎完美的成功率和高平均奖励，显著优于纯 LLM（通常过于保守）和纯 RL 方法（难以处理不确定性）。即使在有限的查询预算下，MINT 仍保持了高性能。
Atari Pacman： 在具有原始像素观测值且奖励/转移区域未知的环境中，MINT 实现了与人机回环 RL 基线（Query-A）相当的回报，但所需的查询次数显著更少。
Isaac Gym（搜救）： 在涉及烟雾遮挡物体和隐藏目标的高保真无人机救援场景中，MINT 优于基于 LLM 的规划策略，通过推理特定的知识缺口成功应对了不确定性。

意义与主张
该论文声称是首个将知识缺口的符号推理、神经规划策略和 LLM 相结合，以实现基于语言的规划中主动且优化的人类询问的工作。作者断言，MINT 有效地弥合了符号方法的可解释性与神经网络的适应性之间的差距。通过有针对性的查询系统地缩小知识缺口，MINT 使 AI 智能体能够作为主动的团队成员而非被动工具发挥作用，在最小化对人类伙伴沟通负担的同时实现接近专家的性能。该工作表明，这种方法对于完美信息不可用且保守规划导致非最优结果的开放世界场景尤为重要。