Trust but Verify: Introducing DAVinCI -- A Framework for Dual Attribution and Verification in Claim Inference for Language Models
本文提出了 DAVinCI 框架，通过结合生成主张的双重归因（指向内部组件与外部来源）与基于蕴含推理的验证机制，显著提升了大语言模型在事实准确性、可解释性及可审计性方面的表现。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
这篇论文介绍了一个名为 DAVinCI 的新框架，它的名字听起来像那位伟大的艺术家达·芬奇，但它的使命是解决人工智能（特别是大型语言模型，LLM）的一个大毛病：“一本正经地胡说八道”（也就是我们常说的“幻觉”）。
想象一下，你请了一位才华横溢但有点“记性不好”且“爱面子”的作家（这就是大语言模型）帮你写文章。他文笔流畅，故事讲得绘声绘色，但有时候为了把故事圆回来，会编造一些不存在的历史事实或科学数据。
DAVinCI 就是这位作家的“超级编辑”兼“事实核查员”。
下面我用几个生活中的比喻来解释它是如何工作的：
1. 核心问题：作家太自信，但不可靠
现在的 AI 模型就像那个作家，它生成的内容看起来非常可信，但它其实并不确定自己说的是真话还是瞎编的。在医疗、法律或科学领域，这种“瞎编”可能会带来灾难性的后果。
2. DAVinCI 的两大绝招：双重核查
DAVinCI 不像以前的系统那样只做一个动作，它分两步走，就像是一个严谨的侦探办案过程：
第一步：溯源（Attribution）—— “你的证据在哪？”
当作家（AI）抛出一个观点（比如“某位名人是某国人”）时，DAVinCI 不会直接相信，而是立刻问：“你这话是从哪听来的？证据呢？”
- 全篇证据模式：就像让作家把整本参考书都摊开给你看，确保没有遗漏上下文。
- 片段提取模式：就像让作家只把书里最相关的那几行字圈出来给你看。
- 作用：这一步强制 AI 必须“有凭有据”，不能凭空捏造。
第二步：验证（Verification）—— “这证据真的支持你的观点吗？”
拿到证据后，DAVinCI 会请一位更专业的“逻辑法官”（基于自然语言推理的模型）来审查。
- 法官会仔细比对：证据真的能推导出这个结论吗？
- 结果：法官会给出三个结论之一：
- 支持（证据确凿，是真的）。
- 反驳（证据显示这是假的）。
- 信息不足（证据不够，无法判断）。
3. 聪明的“刹车”机制：信心校准
这是 DAVinCI 最巧妙的地方。
以前的 AI 即使很不确定，也敢拍着胸脯说“我 99% 确定”。DAVinCI 给 AI 加了一个**“信心刹车”**。
- 比喻：想象 AI 是一个司机。如果司机对路况非常熟悉（信心高），他就可以加速通过。但如果他有点拿不准（信心低），DAVinCI 就会强制他踩刹车，并告诉乘客：“这里路况不明，我不能确定，请小心。”
- 如果 AI 的自信心分数低于某个标准（比如 60%），DAVinCI 就会直接把它的答案标记为“信息不足”，而不是让它强行给出一个可能错误的“是”或“否”。这大大减少了“一本正经地胡说八道”的情况。
4. 实验结果：真的有用吗？
作者们在两个著名的“考试”（FEVER 和 CLIMATE-FEVER 数据集）上测试了 DAVinCI。
- 结果：加上 DAVinCI 后，AI 的准确率、精准度和可靠性都提升了 5% 到 20%。
- 发现：
- 给 AI 看完整的证据（全篇）比只看片段效果好得多。就像破案时，看完整的监控录像比只看截图更能还原真相。
- 设置合适的“信心刹车”（阈值）非常关键，能在“不错过真相”和“不胡乱猜测”之间找到最佳平衡点。
5. 总结：让 AI 变得“可审计”
这篇论文的核心思想是：信任，但必须核实（Trust but Verify）。
DAVinCI 不仅仅是一个工具，它代表了一种新的 AI 设计理念：未来的 AI 不应该只是会“说话”，还应该学会“引用来源”和“自我怀疑”。它让 AI 的每一个回答都变得透明、可追溯、可审计。
一句话总结：
DAVinCI 给爱吹牛的大语言模型配了一位严谨的“事实核查员”和一把“信心刹车”，强迫它在说话前先找证据，拿不准时就承认不知道，从而让 AI 在医疗、法律等严肃领域变得更加可靠和值得信赖。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。