💻 computer science

Dual-Confidence Contrastive Decoding for Retrieval-Augmented Generation

本文介绍了双重置信度对比解码（DCCD），这是一种无需训练的方法，它通过利用文档级和标记级置信度信号，解决了多文档检索增强生成中的上下文内冲突，并在新的 DRQA 基准测试和标准问答数据集上验证了其有效性。

原作者： Raymond Li, Md Tawkat Islam Khondaker, Amirhossein Abaskohi, Gabriel Murray, Giuseppe Carenini, Issam H. Laradji

发布于 2026-07-02

📖 1 分钟阅读☕ 轻松阅读

原作者： Raymond Li, Md Tawkat Islam Khondaker, Amirhossein Abaskohi, Gabriel Murray, Giuseppe Carenini, Issam H. Laradji

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你是一名正在试图破解谜题的侦探。你手里有一叠关于发生了什么的五份不同的证人陈述（即“检索到的文档”）。

证人 A 说的是真话。
证人 B 在撒谎，但听起来非常有说服力。
证人 C 说的是真话，但那是关于去年发生的事情，而不是今天。
证人 D 在谈论一件完全不同的罪案。
证人 E 只是在胡言乱语。

你的任务是仅根据这些陈述来编写一份最终报告。问题在于，你的大脑（AI 模型）也有它对过去类似案例的“记忆”。有时，你的大脑会想要忽略证人，而是根据它已有的知识进行猜测。有时，即使你听取了证人的话，你也可能会因为他们互相矛盾而感到困惑。

这篇论文介绍了一种让侦探（AI）处理这堆混乱证据的新方法，而无需重新学习（重新训练模型）。他们称之为 双重置信度对比解码（Dual-Confidence Contrastive Decoding, DCCD）。

以下是它的工作原理，通过简单的部分进行拆解：

1. 新的“谜题”测试：DRQA

首先，作者意识到现有的 AI 测试不够难。大多数测试使用公开事实（如“谁是总统？”），这些是 AI 可能已经知道的信息。

因此，他们创建了一个名为 DRQA（深度研究问答）的新测试。

类比： 想象 AI 是一个秘密公司的职员。问题是关于公司内部秘密的（例如“上季度我们在咖啡豆上节省了多少钱？”）。AI 从未见过 这些信息。
陷阱： 给 AI 一个文件夹的文档。其中一个包含正确答案。其他的包含错误答案、过时的答案或胡言乱语。AI 必须找到正确的文档来回答问题。如果它根据自己的记忆进行猜测，它会失败，因为答案并不存在于它的记忆中。

2. 解决方案：“双重检查”系统 (DCCD)

作者提出了一种不需要重新训练 AI 的方法。相反，它改变了 AI 在编写答案时，逐词思考的方式。

他们使用了两种类型的“置信度”检查，就像侦探使用两种不同的工具一样：

工具 A：文档级置信度（“这个文件有用吗？”检查）

在 AI 开始写作之前，它查看文件夹中的每个文档，并询问：“这个特定文档是否真的包含足够的信息来回答问题？”

类比： 这就像是在检查证人是否甚至在谈论正确的罪案。如果文档是关于“咖啡豆”的，但问题是关于“服务器崩溃”的，那么置信度得分就很低。如果文档看起来包含答案，得分就会很高。

工具 B：Token 级置信度（“我对下一个词确定吗？”检查）

当 AI 开始编写答案时，它观察自己正在使用的当前文档，并询问：“如果我继续使用这个文档，我对即将输入的下一个词有信心吗？”

类比： 想象你正在阅读一份证人陈述。如果陈述很清晰，你可以很容易地预测下一个词（“嫌疑人跑了……”）。如果陈述很混乱或有矛盾，你可能会犹豫（“嫌疑人跑了……或者可能是走……”）。这个工具衡量了这种犹豫。

3. 神奇的一步： “对比” (The Contrast)

最聪明的部分在于。AI 不仅仅是挑选“最好的”文档。它在玩一场 拔河比赛：

它找到在两项检查中得分都最高的文档（“好证人”）。
它找到在两项检查中得分都最低的文档（“坏证人”或撒谎者）。
它计算差距（边际值）——即“好证人”与“坏证人”之间的差异。
决策： 它获取当前的猜测，并将其强烈地推向 “好证人”，同时将其拉离 “坏证人”。两者之间的差距越大，它推的力量就越大。

简单来说： AI 在说：“我 90% 确定文档 A 是正确的，而我 10% 确定文档 B 是错误的。所以，我要忽略文档 B，并加倍关注文档 A。”

4. 为什么这很重要

论文表明，当 AI 面临一堆相互冲突、充满噪声或过时的文档（如他们在新的 DRQA 测试中所做的）时，这种“双重检查”方法比以往的方法效果要好得多。

旧方法 经常会被撒谎者或过时的信息搞混，然后直接进行猜测。
DCCD 能够成功识别出“好证人”并忽略“坏证人”，即使那个“坏证人”听起来非常有说服力。

总结

这篇论文关于如何教 AI 成为一名更好的侦探，使其在面对一堆相互冲突的证据时能够做出选择。它不再仅仅是猜测或盲目信任它所读到的内容，而是使用两步置信度检查：

这个来源是否有帮助？（文档级）
这个来源是否让我对下一个词感到确定？（Token 级）

通过将“最好的”来源与“最差的”来源进行对比并放大差异，AI 可以穿透噪音并找到真相，即使真相隐藏在一堆混乱且相互冲突的文件之中。

技术摘要：用于检索增强生成的双重置信度对比解码 (DCCD)

问题陈述
检索增强生成 (RAG) 系统在处理多文档场景时，面临着检索到的证据包中包含冲突、陈旧、噪声或无关信息的问题。现有的对比解码 (CD) 方法虽然能有效解决模型内部参数记忆与检索上下文之间的冲突，但在处理“上下文内”冲突方面表现乏力。在多文档 RAG 中，模型不仅需要选择下一个 token，还必须在多个检索到的文档中选择正确的证据源，因为其中一些文档可能会支持相互矛盾的断言。标准的 CD 方法通常将检索到的证据包视为单一上下文，未能区分哪些文档足以回答查询，也未能考虑到特定文档条件流中 token 级预测的置信度。

方法论：双重置信度对比解码 (D DCCD)
作者提出了 DCCD，这是一种无需训练的解码策略，旨在通过整合两种不同的置信度信号来解决上下文内冲突：

文档级置信度 ( $q_i$ )：该指标用于估计特定检索文档 $d_i$ 是否包含足够的信息来回答查询 $x$ 。其计算方式是通过一个“支持性探测”提示（support probe），询问模型一个二元是非问题（“该文档是否包含足够的信息来回答该问题？”）。得分由“是”的言语化 token 相对于“否”的 token 的概率质量得出。该得分在解码开始前，针对每个“问题-文档”对计算一次。
Token 级置信度 ( $c_{i,t}$ )：该指标用于估计在解码步骤 $t$ 时，以特定文档 $d_i$ 为条件的模型下一个 token 预测的锐度（sharpness）。遵循狄利克雷不确定性框架（Dirichlet uncertainty framework），模型将文档条件流的前 $k$ 个 logits 映射到狄利克雷浓度参数。计算诱导分类分布的期望熵并进行归一化；置信度定义为 $1 - \text{归一化熵}$ 。该得分在每个解码步骤都会重新计算。

解码机制
在每个解码步骤 $t$ ，DCCD 将这些信号聚合为双重置信度得分 $s_{i,t} = q_i + c_{i,t}$ 。该方法选择：

正向流 ( $i^+_t$ )：对应于具有最高双重置信度得分的文档。
负向流 ( $i^-_t$ )：对应于具有最低双重置信度得分的文档。

对比项 $\epsilon_t$ 由这些得分之间的间距动态缩放（ $\epsilon_t = s_{i^+_t,t} - s_{i^-_t,t}$ ）。最终的 logit 分布 $z_t$ 通过将生成锚定在全上下文 logits ( $z^{full}_t$ )，并加上正向和负向文档条件 logits 之间的缩放差值来计算：
$z_t = z^{full}_t + \epsilon_t (z^{i^+_t}_t - z^{i^-_t}_t)$
这种方法在放大来自最可靠来源的证据的同时，抑制了冲突或不支持的替代方案，且无需对模型进行微调。

基准测试：DRQA
为了评估这一设定，作者引入了 DRQA（深度研究问答），这是一个源自企业级深度研究场景的事实冲突基准。与依赖公共知识的标准开放域问答基准不同，DRQA 利用了合成的、企业特定的事实（例如，内部公司指标、用户画像），这些事实无法从模型的内部记忆中恢复。每个查询都配有一个包含以下内容的检索包：

一个正确的文档。
误导性文档（看似合理但事实错误）。
时效性文档（在历史上准确但目前已过时）。
噪声文档（主题相关但无法回答问题）。

这种设计迫使模型完全依赖检索和冲突解决能力，而非参数化知识。

实验结果
作者在 DRQA 和标准多文档问答基准（Natural Questions, TriviaQA, PopQA, RetrievalQA）上，针对指令微调的小型语言模型（Qwen3.5-2B/9B, Phi-3-medium）评估了 DCCD 对比标准全上下文解码及各种对比解码基线（CAD, ADACAD, DVD, COCOA）的表现。

性能：DCCD 在几乎所有设置下均取得了最佳的平均性能。其增益在 DRQA 上最为显著，因为该任务要求解决检索证据内部的冲突。
消融研究：移除文档级置信度会导致最大的性能下降（例如，在 DRQA @5 上下降了约 6.34%），这表明仅靠 token 级的锐度不足以应对误导性文档仍可能产生高置信度局部预测的情况。相反，仅使用文档级置信度虽然表现稳定，但随着干扰项数量的增加，效果会变差，这凸显了 token 级置信度的互补价值。
效率：虽然由于需要多次前向传播（一个全上下文流加上 $n$ 个文档条件流），DCCD 会增加推理成本，但该开销与检索文档的数量呈线性关系，并通过文档级探测进行摊销。

意义与主张
论文声称，当检索到的证据内部存在冲突时，DCCD 展示了基于来源感知且受置信度门控的解码的重要性。通过明确区分来源的充分性（文档级）与生成过程的确定性（token 级），DCCD 提供了一种无需训练即可解决上下文内冲突的鲁棒机制。作者将 DRQA 定位为评估企业级 RAG 系统（其中事实是私有的、异构的且易于发生冲突）的必要基准，而这种能力在以往的工作中仍未得到充分探索。结果表明，有效的多文档 RAG 不仅仅需要检索证据，还需要根据特定证据源的可靠性和清晰度进行动态的生成门控。