When Contextual Inference Fails: Cancelability in Interactive Instruction Following
该论文提出了名为“Build What I Mean"的交互式基准，用于评估大语言模型在协作任务中区分字面解释与语境推断的能力，研究发现尽管模型能识别说话者的不可靠性，却未能有效利用该信息来优化澄清策略，反而表现出过度澄清或回避提问等次优行为。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
这篇论文探讨了一个非常有趣的问题：当人工智能（AI）和人一起“搭积木”时，它们能不能听懂“言外之意”，并且在发现对方“不靠谱”时，懂得及时刹车，不再瞎猜？
为了让你更容易理解，我们可以把这项研究想象成一场**“双人搭积木游戏”**。
1. 游戏背景：两个性格迥异的“指挥官”
想象你（或者 AI 模型）是一个**“建筑工”**，你的任务是按照“指挥官”的口头指令，在 3D 空间里搭建积木塔。
在这个游戏里，有两位性格完全不同的指挥官：
- 指挥官 A（务实派·普拉格玛）： 她是个**“懂行”的人**。如果她说“在绿色积木后面搭一摞”，她默认你会知道“哦，既然没说是红色，那肯定还是用绿色的，高度也照搬刚才那个”。她省略了细节，因为她相信你能**“举一反三”**（这就是所谓的“语用推理”）。
- 指挥官 B（死板派·利特）： 她是个**“字面主义者”。她说话非常死板，但经常“掉链子”**。如果她说“在绿色积木后面搭一摞”，她可能真的忘了告诉你颜色或数量。如果你像对待 A 那样去“猜”她的意思，往往会搭错。
游戏的挑战在于： 建筑工必须通过不断的尝试和反馈，学会**“看人下菜碟”**。
- 面对 A，你要学会**“懂言外之意”**，大胆猜测，效率最高。
- 面对 B，你要学会**“只信字面意思”，一旦她没说清楚，你就得“别瞎猜”**，要么直接问清楚，要么承认自己不知道。
2. 核心发现：AI 的“嘴”和“手”不统一
研究人员测试了目前最顶尖的三个大语言模型（GPT、Claude、Gemini），看看它们能不能像人类一样学会这种“看人下菜碟”的技能。结果发现了一个非常有趣的**“分裂现象”**：
现象一：心里有数，但手不听使唤（判断 vs. 行动）
- 心里有数（判断）： 当被问到“你有多确定自己搭对了？”时，AI 们表现得非常聪明。面对死板派 B 时，它们会诚实地说：“我不太确定，因为刚才猜错了好几次。”这说明它们心里其实知道B 不靠谱。
- 手不听使唤（行动）： 但是，当游戏进入“互动模式”，AI 有机会花钱提问来确认信息时，它们却没把心里的怀疑变成行动。
- 有的 AI 太“社恐”（GPT）： 即使心里怀疑，它也不愿意开口问（为了省那一点点提问的“成本”），结果就是硬着头皮瞎猜，导致错误率很高。
- 有的 AI 太“啰嗦”（Gemini 和 Claude）： 它们虽然知道 B 不靠谱，但它们**“不分青红皂白”。不管面对的是懂行的 A 还是死板的 B，只要指令没说完，它们就一律提问**。它们不懂得利用 A 的“懂行”来节省提问成本，反而把 A 也当成了需要反复确认的“麻烦精”。
打个比方：
这就好比你和一个**“老搭档”（A）和一个“新来的实习生”**（B）一起做饭。
- 你心里清楚：老搭档懂你，不用多问；实习生容易忘事，得问清楚。
- AI 的表现是： 你心里明明知道实习生不靠谱，但当你真的需要问问题时，你要么死不开口（怕麻烦），要么把老搭档也当成实习生一样，每道菜都问一遍（浪费时间和精力）。
3. 为什么这很重要？
这篇论文揭示了一个关键问题：现在的 AI 虽然能“理解”语境（知道言外之意），但还不会“灵活地运用”这种理解。
- 人类的表现： 人类玩家在游戏中，面对不靠谱的搭档时，会迅速调整策略：要么降低自信，要么主动提问确认。这种**“根据对方可靠性调整行为”**的能力，是智能交流的核心。
- AI 的短板： AI 目前还停留在“我知道我不确定”的阶段，但还没进化到“因为我不确定，所以我应该采取某种特定行动（比如提问）”的阶段。它们缺乏一种**“动态的社交直觉”**。
4. 总结与启示
这篇论文就像给 AI 做了一次**“情商体检”**。
- 体检结果： AI 的“智商”（理解字面意思）很高，但“情商”（根据对方性格调整沟通策略）还比较生硬。
- 比喻： 现在的 AI 就像一个**“只会背教科书的学生”。老师（指挥官）说“去拿那个红色的”，如果老师没说是哪个，AI 要么瞎猜**（以为老师懂我），要么不管三七二十一都举手问（不管老师是不是那个会解释的人）。它还没学会**“察言观色”**，根据老师的性格来决定是“心领神会”还是“打破砂锅问到底”。
未来的方向：
研究人员希望通过这种“搭积木”的互动游戏，教会 AI 更灵活地处理不确定性。只有当 AI 不仅能听懂话，还能**根据对方的可靠性来决定是“猜”还是“问”**时，它们才能真正成为人类得力的、聪明的合作伙伴。
一句话总结：
这篇论文告诉我们，让 AI 学会**“看人说话”（根据对方是否靠谱来决定是猜还是问），比单纯让它“听懂话”**更难，也是未来让 AI 变得更像“人”的关键一步。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。