QuCo-RAG: Quantifying Uncertainty from the Pre-training Corpus for Dynamic Retrieval-Augmented Generation
QuCo-RAG 提出了一种与模型无关的动态检索增强生成框架，该框架通过 Infini-gram 利用客观的预训练语料统计信息（实体频率与共现）量化不确定性以减轻幻觉现象，在不依赖不可靠的内部模型信号的情况下，在多种模型和基准测试中实现了显著的性能提升。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象你有一位非常聪明、博览群书的朋友（一个 AI），他喜欢讲故事和回答问题。但有时，这位朋友会变得过于自信，开始编造事实——比如声称一部电影是由一位从未拍过电影的人执导的。这种现象被称为“幻觉”。
长期以来，研究人员试图通过询问 AI“你确定吗？”来解决这个问题。AI 会检查自己的“大脑”（内部信号）并回答：“是的，我有 99% 的把握！”但问题在于，AI 并不擅长评估自己的置信度。它可能对一个彻头彻尾的谎言也抱有 99% 的把握。
引入 QuCo-RAG：来自图书馆的“事实核查员”
这篇论文的作者 QuCo-RAG 决定不再询问 AI 是否确定。相反，他们构建了一个系统，在 AI 说完句子之前，就将其陈述的事实与一个庞大、客观的数据库（预训练语料库）进行核对。
可以这样理解：
- 旧方法（内部信号）：你问 AI：“你知道这个吗？”AI 回答：“我感觉非常有把握！”（即使它是错的）。
- QuCo-RAG 方法（语料库统计）：你问 AI：“这个事实在图书馆里有记录吗？”如果图书馆中没有相关记录，系统就会说：“停！我们没有这方面的证据。在我们说出来之前，先去现实世界中查证一下（检索数据）吧。”
工作原理：双重安全网
该系统采用两步流程来识破谎言，使用了一个名为 Infini-gram 的超快速图书馆索引（它能在毫秒级时间内搜索 4 万亿个词）。
第一步：“生僻词”检查（在开口之前）
在 AI 开始回答之前，系统会扫描问题。
- 类比：假设你问：“那个名为 Zogblorp 的微小岛国的总统是谁？”
- 检查：系统查阅图书馆。如果"Zogblorp"这个词在人类写作史上仅出现过 5 次（频率极低），系统就会意识到：“这很生僻。AI 很可能不太了解，可能会编造。”
- 行动：系统立即取出一本书（检索数据），帮助 AI 在开口之前就能给出正确答案。
第二步：“他们曾见过面吗？”检查（在说话过程中）
随着 AI 逐句生成答案，系统会监视它所说的内容。
- 类比：AI 说：“著名厨师 戈登·拉姆齐 和著名画家 梵高 是挚友。”
- 检查：系统查阅图书馆，查看“戈登·拉姆齐”和“梵高”是否曾在同一句话或同一段落中同时出现过。
- 逻辑：如果他们在整个图书馆中从未同时出现过（零共现），这就是一个巨大的红旗。这就像说“月亮和烤面包机是挚友”——虽然理论上可能，但如果从未有人写过相关内容，AI 很可能是在幻觉。
- 行动：系统叫停 AI，说道：“等等，这两人在我们的书中从未有过交集”，并获取正确信息来修正这句话。
为何这意义重大
论文表明，这种方法比让 AI 检查自身感受要有效得多。
- 适用于“黑盒”模型：即使你不知道 AI 读过哪些书（例如 GPT-4 或 Llama-3），该系统依然有效。它基于这样一个事实：大多数 AI 模型阅读的是相似的书籍（互联网、维基百科等）。因此，检查公共图书馆几乎适用于任何聪明的 AI。
- 能识破“自信的骗子”：其他方法往往无法察觉 AI 在自信地撒谎。QuCo-RAG 能识破它们，因为它不在乎 AI“感觉”如何，只在乎事实是否存在于图书馆中。
- 快速且高效：它不会检查每一个词。它只在发现“生僻词”或“可疑”的事实组合时才进行检查。与那些持续检查所有内容的方法相比，这节省了时间和成本。
结果
当他们在困难的 trivia 问题（例如“谁执导了这部电影，以及这位导演的母亲叫什么名字？”）上测试该方法时，QuCo-RAG 的正确率显著高于之前的最佳方法。其准确率提升了高达 14 个百分点，这在 AI 领域是一个巨大的飞跃。
简而言之：QuCo-RAG 不再信任 AI 的自负（“我确定！”），而是信任图书馆（“出示证据”）。如果找不到证据，它就会阻止 AI 编造事实。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。