QUACK: Questioning, Understanding, and Auditing Communicated Knowledge in Multimodal Social Deduction Agents
本文介绍了 QUACK，这是一个开源的多模态社会推理框架，它通过重构真实轨迹来审计大语言模型智能体，从而自动检测并量化幻觉、无依据的指控以及语言与行为之间的不一致性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一群朋友正在玩一场高风险的“Among Us”或“狼人杀”游戏。在这场游戏中，一些玩家是试图修复飞船的“船员”，而其中一人是试图破坏他们的“内鬼”。关键在于：所有人都必须交谈、撒谎并互相指责，以找出谁是谁。
现在，想象将人类玩家替换为先进的人工智能机器人（具体而言，是视觉 - 语言模型）。这些机器人能够观察游戏地图、四处移动并相互交谈。
这篇论文介绍了一种名为QUACK（提问、理解与审计沟通知识）的新工具。将 QUACK 想象成一位超级裁判，它不仅仅关注谁赢得了游戏，而是实际核查机器人是否如实陈述了它们所见和所做之事。
以下是其工作原理及研究发现的拆解，辅以简单的类比：
问题：获胜并不意味着诚实
在以往的大多数测试中，研究人员仅关注最终得分：“人工智能赢了吗？”
- 缺陷：人工智能可以通过完美撒谎来赢得游戏，或者即使推理合乎逻辑也可能输掉比赛。就像在真正的法庭上，“有罪”或“无罪”的判决并不能告诉你证据是否真实，或者律师是否仅仅口才极佳。
- 空白：直到目前，我们还没有一种方法能够核查人工智能的言语是否与其“眼睛”和“双脚”的实际经历相符。
解决方案：QUACK（真相揭示者）
QUACK 是一个专门用于捕捉人工智能谎言的游戏环境和评分系统。
- 游戏：人工智能代理在一个包含房间和走廊的数字地图上运行。它们可以观察周围环境（图像）并获得文本摘要。它们必须移动、执行任务并进行交谈。
- 秘密日志：在幕后，游戏引擎会保存一份完美的、逐字逐句的日记，记录每个机器人确切的位置、所见及所做之事。这就是“真实情况”。
- 审计（魔法部分）：游戏结束后，QUACK 会提取机器人在讨论期间说的每一句话，并将其与那份秘密日志进行比对。
- 示例：如果机器人说“我在咖啡厅看到了鲍勃”，QUACK 就会查阅日志。如果日志显示鲍勃实际上在引擎室，QUACK 就会将其标记为幻觉。
人工智能“失败”的四种方式（审计结果）
研究人员发现，即使是最聪明的人工智能模型，在尝试撒谎或陈述真相时，也会犯下四种特定类型的错误：
空间幻觉（“幽灵”目击）：
- 类比：想象一名证人作证说“我看到嫌疑人跑过走廊”，但监控摄像头证明该证人在当时身处另一栋建筑。
- 发现：大约**15%**的情况下，人工智能声称看到了人或身处其物理上不可能到达的地方。它“回忆”起了从未发生过的事情。
无证据指控（“散弹枪”式指责）：
- 类比：一名侦探指着嫌疑人说“我觉得是他干的”，但承认“我完全不知道为什么，我只是有这种感觉”。
- 发现：人工智能提出的指控中，超过一半是在没有任何实际观察证据的情况下做出的。它们只是在猜测或编造内容以显得有说服力。
欺骗崩溃（“拙劣”的撒谎者）：
- 类比：一名间谍试图编造不在场证明，却不小心说“我在银行”，而那天银行早已关门。谎言过于明显，瞬间瓦解。
- 发现：当人工智能扮演“内鬼”时，它的谎言往往粗糙且容易被游戏日志证伪。它们没有编织微妙、巧妙的谎言，只是编造了瞬间就被证实为虚假的事实。
语言与行动不一致（“口误”）：
- 类比：某人声称“我正忙着修理引擎”，而日志显示他们实际上正坐着不动，什么也没做。
- 发现：人工智能会描述执行那些它们实际上从未开始或完成的任务。
核心结论
最令人惊讶的结果是，赢得游戏并不意味着人工智能扎根于现实。
其中一个最强的人工智能模型在超过**80%**的游戏中获胜。然而，当 QUACK 审计其言论时，发现这位“聪明”的获胜者仍有 16% 的时间在撒谎关于其位置，并有 54% 的时间提出毫无根据的指控。
简而言之：QUACK 向我们表明，人工智能代理擅长赢得社交推理游戏，但它们往往极不擅长陈述真相，即如实描述它们实际经历的事情。即使事实就记录在日志中，它们也可能是极具说服力的撒谎者，或者是极其自信的撒谎者。
作者免费发布了整个系统（游戏、日志和审计工具），以便其他研究人员可以用来测试他们自己的人工智能代理是否对其行为保持“诚实”，而不仅仅是擅长获胜。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。