💬 NLP

RAISE: Enhancing Scientific Reasoning in LLMs via Step-by-Step Retrieval

本文提出了 RAISE 框架，通过问题分解、逻辑查询生成和逻辑检索三个步骤，从开放语料库中检索逻辑相关的文档，从而显著提升了大语言模型在科学推理任务中的表现。

原作者： Minhae Oh, Jeonghye Kim, Nakyung Lee, Donggeon Seo, Taeuk Kim, Jungwoo Lee

发布于 2026-03-20

📖 1 分钟阅读☕ 轻松阅读

原作者： Minhae Oh, Jeonghye Kim, Nakyung Lee, Donggeon Seo, Taeuk Kim, Jungwoo Lee

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文介绍了一种名为 RAISE 的新方法，旨在让大型人工智能（LLM）在解决复杂的科学推理问题时变得更聪明、更准确。

为了让你轻松理解，我们可以把解决科学难题想象成一位侦探在破解一个高难度的案件，而 RAISE 就是这位侦探的“超级办案助手”。

🕵️‍♂️ 核心问题：为什么现在的 AI 会“翻车”？

普通的 AI 就像一位博闻强记但有点死板的侦探。

它的弱点：当遇到像“研究生级别的生物化学题”这种复杂案件时，它要么靠脑子里的记忆（可能会记错或过时），要么随便抓几个看起来相关的资料（比如搜“突变”就只搜到定义，却找不到解题关键）。
结果：它容易“幻觉”（胡编乱造），或者在复杂的逻辑链条中迷路，导致答案错误。

🚀 RAISE 的解决方案：三步走策略

RAISE 不像普通侦探那样“一枪打中靶心”，而是把大案子拆解成小步骤，每一步都精准地寻找线索。它的工作流程分为三个精彩的步骤：

第一步：拆解案件（Problem Decomposition）

比喻：把“解开整个宇宙”变成“先解开一颗螺丝”。

面对一个像天书一样的复杂科学题，RAISE 不会试图一次性回答。它先把大问题拆解成几个小问题（子问题）。

例子：如果题目问“这个基因突变为什么会导致药物失效？”，RAISE 会把它拆成：
1. 这个基因原本是怎么工作的？
2. 突变具体改变了什么结构？
3. 这种改变如何影响了药物的结合？
作用：把“大象”切成“牛排”，让 AI 能一口一口吃下去，逻辑更清晰。

第二步：生成“逻辑搜索词”（Logical Query Generation）—— 这是 RAISE 最厉害的地方！

比喻：从“搜关键词”升级为“搜解题思路”。

普通的搜索（RAG）就像在图书馆里只搜关键词。比如搜“突变”，可能搜出一堆定义，但没告诉你怎么用它解题。
RAISE 会先思考：“要回答这个小问题，我真正需要什么样的逻辑推理？”

它会把简单的搜索词（如“突变”）改写成充满逻辑的搜索指令（如“突变如何导致蛋白质功能丧失的机制”）。
作用：它不再只是找“看起来相关”的资料，而是找“能帮我把逻辑链条连起来”的资料。就像侦探不再只搜“凶器”，而是搜“凶器是如何造成这种特定伤口的”。

第三步：精准检索（Logical Retrieval）

比喻：在茫茫书海中，只挑出那本“破案手册”。

带着刚才生成的“逻辑搜索词”，RAISE 去海量的互联网资料（比如维基百科，即“野外”资料库）里找答案。

因为它问的问题很精准，所以找到的资料不仅领域对（是生物学的），而且逻辑对（能解释因果关系）。
它过滤掉了那些虽然也是讲生物学，但对解题毫无帮助的“废话”。

🏆 为什么 RAISE 这么强？

论文通过在 GPQA（研究生级别的科学问答）、SuperGPQA 和 MMLU 等权威考试上的测试发现：

普通 AI：像是在黑暗中摸索，偶尔蒙对，经常撞墙。
RAISE：像是拿着手电筒和地图，每一步都走得稳稳当当。
结果：RAISE 的成绩比现有的其他方法都要好，特别是在那些需要多步逻辑推理的难题上，提升非常明显。

💡 总结

如果把解决科学难题比作组装一台复杂的精密仪器：

以前的 AI：试图一次性把零件全倒出来，然后凭感觉乱拼，经常拼错。
RAISE：
1. 先把仪器拆成几个模块（拆解问题）；
2. 针对每个模块，去图书馆找专门讲解该模块组装原理的说明书，而不是找通用的零件目录（逻辑搜索）；
3. 拿到说明书后，一步步精准组装（逻辑检索与回答）。

RAISE 的核心贡献在于它教会了 AI：“不要只找相关的词，要找能帮我把逻辑串起来的道理。” 这让 AI 在面对真正的科学挑战时，从一个“背书机器”进化成了一个真正的“推理专家”。

RAISE 论文技术总结：通过逐步检索增强大语言模型的科学推理能力

1. 研究背景与问题 (Problem)

科学推理（Scientific Reasoning）对大语言模型（LLMs）提出了极高的挑战，主要体现在以下三个方面：

长链推理需求：解决复杂科学问题（如研究生级别的生物或化学问题）需要多步骤的逻辑推导。
领域专业知识：需要掌握特定的术语和概念。
知识时效性：科学发现不断更新，模型内部参数化知识往往滞后。

现有的解决方案存在局限性：

单纯的分步推理（Step-wise Reasoning）：如 Chain-of-Thought (CoT)，依赖模型内部知识，容易在缺乏外部事实时产生幻觉。
传统的检索增强生成（RAG）：通常针对单步问答或假设存在经过精心策划的领域语料库。在“野外”（in-the-wild，如维基百科）开放域语料中，传统 RAG 往往只能检索到领域相关但逻辑不相关的浅层信息（例如，只检索到定义，却未检索到解决问题的关键逻辑机制），甚至可能因为引入噪声而降低下游任务性能。

核心问题：在解决科学推理任务时，如何针对推理过程中的每一个中间步骤，从开放域语料中检索到逻辑上高度相关（Logically Relevant）而非仅仅是领域相似（Domain Similar）的文档？

2. 方法论 (Methodology)

作者提出了 RAISE (Step-by-Step Retrieval-Augmented Inference for Scientific rEasoning)，这是一个专为科学推理设计的逐步检索增强框架。RAISE 将推理过程分为三个关键阶段：

2.1 问题分解 (Problem Decomposition)

机制：LLM 将原始复杂问题 $x$ 分解为一系列子问题 $r_1, ..., r_n$ 。
输出：每个子问题对应一个初始搜索查询 $q_i$ 。
目的：将复杂的科学问题拆解为可管理的逻辑步骤，为后续的分步检索奠定基础。

2.2 逻辑查询生成 (Logical Query Generation)

核心创新：这是 RAISE 区别于其他方法的关键。
机制：模型接收子问题 $r_i$ 和初始查询 $q_i$ ，通过提示词（Prompt）生成一个富含逻辑的查询 $q^*_i$ 。
原理：初始查询往往缺乏推理上下文，而子问题可能过于具体或包含噪声。通过结合两者，RAISE 生成的查询不仅包含领域关键词，更明确表达了解决该子问题所需的推理意图和逻辑连接。
效果：即使生成的查询包含事实性偏差，它也能引导检索器找到支持推理逻辑的文档，而非仅仅匹配关键词的文档。

2.3 逻辑检索 (Logical Retrieval)

机制：使用生成的逻辑查询 $q^*_i$ 从开放域语料库（如维基百科）中检索文档 $D_i$ 。
过滤：引入相似度阈值 $T$ 过滤掉不相关的文档。
推理与合成：模型利用检索到的文档 $D_i$ 、原始问题、之前的子问题及答案，生成当前子问题的答案 $a_i$ 。最后将所有子答案综合生成最终答案 $y$ 。

3. 关键贡献 (Key Contributions)

提出 RAISE 框架：首个专门针对科学推理设计的“逐步检索”框架，强调在推理的每一步都进行针对性的检索。
逻辑查询生成策略：创新性地提出将子问题与初始查询结合，生成“逻辑增强”的查询。这解决了传统 RAG 在开放域中只能检索到浅层领域知识，而难以获取深层逻辑机制的问题。
开放域适应性：不依赖精心策划的领域语料库，直接从维基百科等“野外”语料中检索，证明了该方法在真实世界复杂场景下的有效性。
实证分析：通过大量实验和定性分析，证明了 RAISE 检索到的文档在逻辑相关性上显著优于基线方法（如 HyDE, Step-Back+RAG 等）。

4. 实验结果 (Results)

实验在三个具有挑战性的科学推理基准上进行：GPQA（研究生级别 Google 级问答）、SuperGPQA（跨学科研究生推理）和 MMLU（大规模多任务语言理解）。

性能提升：
- RAISE 在所有基准测试中均一致地超越了所有基线模型（包括直接推理 CoT、CoT+RAG、Least-to-Most、Step-Back 及其 RAG 变体）。
- 在 GPQA 上，RAISE 比最佳基线高出 9.8%。
- 在 SuperGPQA 的 Science-Hard 子集上，提升高达 33.3%。
- 在 MMLU 上也有显著改进。
模型泛化性：实验使用了不同规模的模型（Mistral 24B, LLaMA 3.1-8B, GPT-4o mini），RAISE 在不同规模模型上均表现出一致的提升，证明其有效性不依赖于特定模型架构。
消融实验：
- 移除了“问题分解”步骤的变体（RAISE-Direct）性能显著下降，证明了将问题分解为子步骤并针对性检索的重要性。
- 定性分析显示，RAISE 检索到的文档包含关键的科学原理和机制，而传统 RAG 往往返回模糊或无关的定义。

5. 意义与影响 (Significance)

解决科学推理瓶颈：RAISE 有效地解决了 LLM 在科学领域“知识幻觉”和“逻辑断层”的问题，通过外部逻辑证据增强了模型的推理链条。
重新定义检索策略：该研究指出，在复杂推理任务中，检索的目标不应仅仅是“领域相关”，而必须是“逻辑相关”。这一发现对未来的 RAG 系统设计具有指导意义。
广泛适用性：虽然主要应用于科学推理，但其“逐步逻辑检索”的思想同样适用于数学推理、法律分析等需要精确多步推断的领域。
开源贡献：代码和实验设置已开源，为社区进一步研究科学推理和检索增强技术提供了宝贵资源。

总结：RAISE 通过引入“逻辑查询生成”和“逐步检索”机制，成功地将开放域检索与复杂科学推理深度结合，显著提升了 LLM 在专业科学领域的推理准确性和逻辑严密性。