Decomposed Entailment for Factuality Checking and Hallucination Detection
本文介绍了 HallDetect，这是一个轻量级、无参考、黑盒框架，通过将内容分解为原子断言，通过与源文本块进行对比蕴含验证，并利用非对称评分机制聚合结果，来检测基于源文本生成的 LLM 中的幻觉，其性能优于同类基准模型，同时提供局部化的错误审计追踪。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在读一个由一位非常自信、超级聪明的机器人所写的的故事。这个机器人可以写任何东西，从新闻文章到医疗建议，而且速度极快。但问题在于，这个机器人有时会变得过于“有创意”。它可能会捏造一些听起来完全真实、但实际上是编造的事实，或者仅仅是稍微扭曲事实，从而产生误导。这被称为“幻觉”。在人工智能的世界里，这些不仅仅是白日梦；它们是危险的错误，可能会传播错误信息或给出错误的建议。
为了捕捉这些错误，我们需要一种方法，通过将机器人的作品与原始素材（比如老师根据教科书为学生的作文评分）进行对比来检查其工作。传统上，我们尝试通过让另一个强大、高级的机器人充当“法官”来进行这种检查。但这些法官既昂贵又缓慢，有时甚至自身也会感到困惑或产生偏见。它们可能因为过于华丽，以至于需要一个庞大的数据中心才能运行，这在日常使用中并不实用。研究人员提出的核心问题是：我们能否构建一种更小、更便宜、更聪明的方法，在不需要超级计算机的情况下就能识别出这些谎言？
这就是名为 HallDetect 的新工具登场的地方。把 HallDetect 想象成一位细致入微的事实核查员，它不会试图一次性读完整个故事。相反，它会将机器人的回答拆解成一个个微小的、独立的句子——就像把一个大拼图拆开，逐一观察每一个碎片。对于每一个微小的部分，它都会问一个简单的问题：“这个特定的句子是否与原始故事相符，还是与之矛盾？”
它的巧妙之处在于如何进行检查。HallDetect 并没有要求一个巨大且缓慢的机器人去深入思考每一个句子，而是使用了一个轻量级、快速的“侦探”模型。这个侦探会以不同的规模扫描原始源文本——寻找单个句子、小段落以及整个章节——以找到最佳证据。如果它发现机器人回答中的哪怕一个微小的部分明显与原文矛盾，HallDetect 就会拉响警报。这就像是一个安全系统，只要有一扇窗户没关好就会触发报警，而不是等到整座房子都垮掉才行动。
研究人员在四种不同类型的写作任务上测试了这个想法，从新闻摘要到回答医疗问题。他们在严格的预算下进行了实验，在所有对比方法中都使用了相同的、小型且节能的计算机芯片。结果令人惊讶：HallDetect 比其他方法更加稳定和准确，尤其是在计算能力受限的情况下。虽然那些大型“法官”机器人在被迫在廉价硬件上运行时会踉跄并出错，但 HallDetect 却能保持冷静并发现错误。它不仅告诉我们机器人是否撒了谎，还向我们展示了谎言究竟在哪里，为人类审查创造了一条清晰的证据链。
简而言之，HallDetect 表明，我们并不需要建造更大、更昂贵的机器人来捕捉谎言。相反，通过将问题分解成小块，并使用一种聪明且专注的方法，我们可以构建一个即使在普通家用电脑上也能运行的可靠安全网。它提醒我们，有时，寻找真相的最佳方式就是逐一观察细节。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。