🤖 AI

D $^2$ F-ReAG: Dynamic Decomposition and Filtering for Multi-Hop Reasoning-Augmented Generation

该论文提出了 D $^2$ F-ReAG，这是一种新颖的检索增强生成框架，它通过根据初始推理的可靠性，自适应地决定是直接回答还是动态分解并过滤子问题，从而提高了多跳推理的准确性和效率。

原作者： Jiaoyang Li, Junhao Ruan, Shengwei Tang, Kaiyan Chang, Zhengtao Yu, Tong Xiao, Jingbo Zhu

发布于 2026-08-06

📖 1 分钟阅读☕ 轻松阅读

原作者： Jiaoyang Li, Junhao Ruan, Shengwei Tang, Kaiyan Chang, Zhengtao Yu, Tong Xiao, Jingbo Zhu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图解开一个谜团，但线索并不是集中在一个笔记本里，而是散落在巨大图书馆中一千本不同的书里。这就是现代“大语言模型”（LLMs）面临的挑战——这些能写故事、回答问题并与我们聊天的超级智能计算机大脑。这些模型就像是那些在训练期间读过海量书籍的优秀学生，但它们无法完美地记住所有内容，有时还会编造事实（科学家称之为“幻觉”问题）。为了解决这个问题，研究人员使用了一种被称为**检索增强生成（Retrieval-Augmented Generation，简称 RAG）**的小技巧。把 RAG 想象成给这个学生配备了一个搜索引擎：当被问到一个问题时，计算机会在写下答案之前，先在它的书库中查找答案。

对于简单的问题，比如“谁写了《哈利·波特》？”，搜索引擎只需一步就能找到答案。但对于**多跳推理（multi-hop reasoning）**来说，这个谜题要难得多。这就像是在问：“谁导演了那部在某位 1995 年获得奥斯卡奖的演员主演的电影之前上映的电影？”要回答这个问题，你不能只查找一个事实；你必须找到那位演员，然后是那部电影，接着是导演，最后是上映日期，在不同的页面之间将这些点连接起来。目前的方法经常在这个迷宫中迷失方向，要么将问题拆解得过于细碎且令人困惑，要么无法过滤掉过程中找到的错误线索。

D2F-ReAG 应运而生，这是由研究员 Jiaoyang Li 及其团队提出的一种新框架。把 D2F-ReAG 想象成一位非常聪明、谨慎的侦探，在确定之前绝不瞎猜。它不像那样盲目地将每个问题拆解成微小的子问题（这会浪费时间），也不像那样试图通过一次巨大的跨越来解决整个问题（这往往会导致错误），而是使用了一种“置信度检查”。

这位侦探的工作流程如下：

初步猜测： 系统首先尝试利用它立即找到的信息来回答大问题。
置信度检查： 一个特殊的“评委”模型会查看这个初步猜测并问道：“你确定吗？”如果答案是自信且可靠的，侦探就会在此停止并写下最终答案。这节省了处理简单问题的时间。
拆解： 如果评委说：“不，这看起来不对，”那么系统就会将大问题拆解成更小、更易于处理的子问题。它会逐一解决这些较小的谜题。
过滤： 至关重要的一点是，系统不会直接把所有小谜题的答案都丢回给大问题。它会检查每个小答案是否确实相关且正确。如果一个小答案是错误的或离题的，它会被丢弃；如果它是正确的，则会被用来修正并完善大问题的答案。

研究人员在三个专门设计用于应对复杂情况的“谜题”数据集（HotpotQA、2WikiMultiHopQA 和 MuSiQue）上测试了这个想法。他们发现，D2F-ReAG 在解决这些复杂谜题方面比以往的方法表现得更好。例如，在 2WikiMultiHopQA 测试中，它取得了 70.3 分（使用严格匹配指标）和 68.9 分（使用灵活语义检查）的成绩，击败了之前的最佳方法 LogicRAG（其得分分别为 65.3 和 62.6）。

论文指出，这种“按需执行”的方法是关键所在。通过仅在必要时拆解问题，并过滤掉错误信息，该系统避免了被过多的噪音干扰。这就像一位厨师，只有在食谱确实需要时才会切菜，而不是把厨房里所有的东西都切了，然后祈祷它们能对得上。实验表明，这种方法不仅能得到更多正确的答案，还能更好地处理无关信息的“噪音”，从而在处理复杂的、多步骤的问题时，提供更准确、更可靠的结果。

技术摘要：D2F-ReAG

问题陈述

由于依赖过时的参数化知识和幻觉现象，大型语言模型（LLMs）在知识密集型场景中经常生成事实错误或缺乏支持的输出。虽然检索增强生成（RAG）通过整合外部知识缓解了单跳查询中的这些问题，但在需要连接分布在多个文档中的分散证据的多跳推理问题上，RAG 表现得力不从心。

现有的多跳 RAG 方法面临特定的局限性：

基于图的方法（例如 GraphRAG、HippoRAG）依赖于预构建的图结构。这些结构的构建和维护成本高昂，且往往是不完整的，并且当底层知识发生演变时，其有效性会降低。
基于提示的分解方法（例如 LogicRAG、ChainRAG）将复杂查询分解为子问题。然而，它们通常受到僵化分解策略的影响（对简单的查询进行不必要的分解，或对复杂的查询分解深度不足），并且缺乏有效的过滤机制。这导致在迭代过程中，噪声和错误的中间结果不断累积，从而降低了最终答案的准确性。

方法论：D2F-ReAG

作者提出了 D2F-ReAG（用于多跳推理增强生成的动态分解与过滤），这是一个旨在根据当前推理状态的可靠性来自适应控制推理深度的框架。该过程分为四个迭代阶段：

检索与生成：
对于给定的问题（初始为根问题），系统使用稠密检索器检索前 $k$ 个相关文档。生成模型根据这些检索到的文档生成推理过程 ( $r(q)$ )，以使输出基于外部证据。
判断可靠性：
基于 LLM 的评分机制评估生成的推理的可靠性。系统评估逻辑连贯性、与检索文档的事实一致性以及答案的完整性，并分配一个分数 $s_r(q) \in [0, 10]$ 。
- 如果 $s_r(q) > \theta$ （阈值设为 7），则认为问题已解决，并生成最终答案。
- 如果 $s_r(q) \le \theta$ ，则认为推理不可靠，触发分解阶段。
分解与重写：
如果问题未解决，则将其逻辑地分解为更小的、可处理的子问题 ($sub(q)$)。
- 迭代求解： 子问题按顺序求解。
- 重写： 一旦某个子问题以高置信度被解决，其经过验证的推理 ( $r_q$ ) 将被用于重写相关的后续子问题。这解决了歧义引用和实体缺失问题，确保后续检索具有针对性，并避免冗余或矛盾的路径。
ReAG（推理增强生成）：
来自已解决子问题的经验证且相关的推理轨迹会被整合回根推理过程中。这一步骤通过准确的中间结论来更新根推理 ( $r'(q_{root})$ )，从而逐步丰富全局上下文。
- 相关性检查： 通过一种机制过滤掉无关的子问题，以防止噪声污染。
- 提前停止： 一旦根问题的推理分数超过阈值，过程立即终止，以防止不必要的计算开销和过度分解。

核心贡献

论文概述了三个主要贡献：

动态分解框架： 一种全新的范式，根据推理可靠性按需分解问题。与固定深度的法不同，它确保了准确的中间结果被传播回馈以引导最终答案，而不是在有损的记忆压缩中丢失。
自适应控制机制： 一种由置信度驱动的方法，平衡了分解深度。它仅在必要时（针对复杂问题）进行深度分解，同时避免了对简单查询进行冗余步骤，实现了真正的自适应推理。
迭代纠错： 一种利用来自子问题的可靠推理链来迭代更新和纠正根推理过程的方法。这有效地识别并修复了中间错误，减少了跨推理步骤的错误累积。

实验结果

作者在三个标准的多跳基准测试集上评估了 D2F-ReAG：HotpotQA、2WikiMultiHopQA 和 MuSiQue。性能衡量指标包括 Str-Acc（严格词法匹配）和 LLM-Acc（由强 LLM 判断的语义等价性）。

性能： D2F-ReAG 在所有数据集上均取得了最好或接近最好的结果。值得注意的是，在 2WikiMultiHopQA 上，它实现了 70.3 Str-Acc 和 68.9 LLM-Acc，分别超过最强的基线模型 (LogicRAG) 5.4 和 6.4 个百分点。在 HotpotQA 上，它取得了最高的 LLM-Acc (63.4)。
效率： 一项对比“使用分解”与“不使用分解”的消融研究表明，很大一部分问题可以在不进行分解的情况下解决。动态方法跳过了简单情况下的不必要步骤，比始终进行分解的方法能更好地平衡性能与效率。
案例研究： 与 LogicRAG 的定性比较表明，D2F-ReAG 通过分解查询并基于验证的事实重写子问题，成功纠正了中间错误（例如缺失的比较目标），而 LogicRAG 则因僵化的分解和缺乏验证而失败。

重要性与主张

论文声称 D2F-ReAG 解决了现有 RAG 方法的关键局限性：固定分解策略以及在推理过程中无法过滤错误信息的问题。

通过仅在必要时对问题进行自适应分解，并根据可靠性选择性地过滤中间推理，D2F-ReAG 有效地抑制了错误传播。作者断言，这种方法能够产生更忠实的推理链，并在具有挑战性的多跳基准测试中取得强劲表现，且无需承担基于图结构的维护成本或基于提示的僵化方法的噪声累积问题。该框架被呈现为迈向更像人类、更高效且更准确的 LLM 推理的一步。