🤖 AI

ScalableRAG: High-Quality RAG at Zero Ingestion Cost

该论文介绍了 ScalableRAG，这是一种高质量的检索增强生成方法，它通过利用一个用于即时聚合推理的动态工作区，在实现零摄取成本的同时，在多个数据集上实现了卓越的准确度，同时还提供了一种受限摄取（Limited-Ingestion）变体，以极少的向量数据库使用量进一步提升了大规模场景下的性能。

原作者： Hilaf Hasson, Aditya Chakravarty, Jayant Thomas, Krishna Gogineni

发布于 2026-07-29

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Hilaf Hasson, Aditya Chakravarty, Jayant Thomas, Krishna Gogineni

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图通过阅读一百万本书籍来解开一个巨大的谜团。在人工智能领域，这被称为检索增强生成（Retrieval-Augmented Generation, RAG）。把标准的 AI 想象成一位才华横溢的侦探，他读遍了整个互联网，却无法记住某个尘封档案中的具体细节。为了帮助这位侦探，我们通常会在他开始工作之前构建一个“卡片目录”或“知识图谱”。这涉及阅读每一本书、总结其内容，并将其组织成一个复杂的数据库，以便 AI 能快速找到正确的一页。这就像是在侦探到达之前，雇佣了一支图书管理员团队花费数周时间对图书馆进行索引。这个过程既昂贵又缓慢，而且仅仅为了启动就需要消耗大量的计算能力。但如果侦探可以直接走进图书馆，看着书本，并在现场即时得出答案，而不需要预先制作庞大的目录呢？这就是这篇论文要解决的大问题：我们能否在不支付构建那个庞大数据库的高昂“摄取（ingestion）”成本的情况下，获得同样出色的结果？

由 Hilaf Hasson 及其团队领导的 Cohesity 研究人员表示，答案是肯定的。他们推出了一种名为 ScalableRAG 的新系统，它有两种形式：零摄取（Zero-Ingestion）和有限摄取（Limited-Ingestion）。他们的主要发现是，你并不需要预处理整个图书馆来回答复杂的问题。相反，他们的 AI 智能体表现得像一个组织极其严密的侦探，随身携带一个神奇且可扩展的剪贴板。当侦探需要寻找特定事实时，他们不仅仅是搜索关键词；他们会即时创建一个相关的文档“组”，对其进行过滤，甚至在现场对结果进行数学运算。

以下是他们的“零摄取”方法的工作原理，使用了一个简单的比喻：想象你有一堆混合在一起的一整年购物收据。传统系统需要有人坐下来，阅读每一张收据，并将它们分类放入贴有标签的文件夹（如杂货、汽油、电子产品）中，然后你才能问诸如“我六月份在汽油上花了多少钱？”之类的问题。这种分类工作非常耗时。然而，ScalableRAG 跳过了整个分类过程。当你提出问题时，AI 会查看这堆收据，找出所有提到“汽油”的收据，然后过滤这个较小的集合以仅找到属于“六月”的收据，最后把数字加起来。它通过即时创建和管理文档“集合（sets）”来实现这一点。这就像是一位侦察兵可以瞬间在相关的收据周围画个圈，计数并进行数学运算，而无需事先将它们归档。

论文显示，这种“即时（on-the-fly）”方法极其强大。在对六个不同文档集（从政府听证会记录到财务报告和电影剧本）的测试中，他们的零摄取系统在其中三个数据集（MuSiQue、Transcripts 和 Hotels）中轻松超越了所有基准模型（包括知识图谱方法）。在另外三个数据集（2Wiki、FinanceBench 和 ComplexTR）上，它仅略微落后于最高性能表现，与每个数据集表现最好的基准（即 A-RAG）相比，平均仅落后 1.63%。尽管在半数数据集上存在这些微小的差距，但该系统在所有六个数据集上的平均准确率比排名第二的竞争对手高出约 7.36%。这是一件大事，因为这表明对于许多类型的问题，预先构建数据库的昂贵步骤实际上是不必要的。

为了让系统在处理更棘手的问题时表现得更好，他们还构建了一个“有限摄取”版本。这就像是给侦探提供了一个针对最常见线索的小型预制索引，但仍然让他们进行现场的重体力劳动。这个版本使用了少量的预处理（仅对文档进行采样以寻找模式）和一个小型向量数据库（一种帮助寻找相似想法而非仅仅是精确单词的工具）。这种混合方法进一步提高了准确率，尤其是在信息隐藏在复杂结构中的数据集中，例如在酒店描述中寻找特定设施，或在法律合同中寻找特定条款。

论文明确反对那种认为你必须构建一个庞大的、经过预处理的知识图谱或完整的 SQL 数据库才能回答复杂的多步问题的观点。他们证明了那些要求 LLM 在用户提问之前阅读每份文档并提取数据的“重摄取”方法往往是过度设计的。虽然这些方法擅长对数据进行分组，但 ScalableRAG 证明了智能体可以在对话过程中即时完成同样的逻辑分组和数学运算。作者对这些结果非常有信心，他们在多样化的数据集上进行了严格的测试，并使用一个独立的 AI 作为评判者来对答案进行评分。他们发现，该系统不仅节省了资金和时间，而且往往比昂贵的替代方案能得到更正确的答案，或者以显著更少的精力达到非常接近的效果。

简而言之，ScalableRAG 通过展示你不需要建立一个巨大的、组织有序的知识仓库来寻找“大海捞针”中的那根针，从而改变了游戏规则。相反，你可以向草堆里派出一个聪明的智能体，并给它一套神奇的工具，让它就在原地抓取、分类并清点那些针头。无论你需要一个成本为零的设置系统（零摄取），还是一个通过增加少量预处理工作来换取更高精准度的系统（有限摄取），这项研究都表明，AI 问答的未来可能比我们想象的要简单、快速且廉价得多。

技术摘要：ScalableRAG

问题陈述

检索增强生成（RAG）的最新进展越来越多地集中在通过增加高昂的摄入成本来优化性能。这些方法通常涉及构建复杂的知识结构，例如知识图谱（如 GraphRAG、HippoRAG）或提取结构化 SQL 表格（如 SRAG、AutoSchemaKG），这通常需要每个文档至少调用一次大语言模型（LLM），甚至更多。虽然这些方法能够实现复杂的聚合推理（例如通过键进行分组以计算计数或平均值），但它们的计算成本高昂且难以扩展。相反，标准的密集检索 RAG 系统由于缺乏持久状态或结构化索引，往往在处理聚合类问题时表现不佳。

作者认为，许多需要聚合的问题都依赖于一个与文档语料库的一个子集具有一一对应关系的“主键”。他们主张，这种分组操作可以在推理阶段高效地进行复制，而无需沉重的预处理或向量数据库。

方法论

本文介绍了 ScalableRAG，这是一个状态化智能体（agentic）RAG 框架，旨在以极低或零摄入成本实现高质量的检索与推理。该系统通过两个变体运行：

1. 零摄入 ScalableRAG (Zero-Ingestion ScalableRAG)

该变体不需要任何预处理——没有知识图谱，没有模式提取，也没有向量嵌入。

状态化工作区（Stateful Workspace）： 智能体维护一个持久的文档集（ $S$ $S$ ）和数值集（ $V$ $V$ ）注册表。
- 文档集： 命名的文档子集（例如 has_Erik_pos），通过过滤操作创建。
- 数值集： 从文档 ID 到提取的标量值（数字、日期）或字符串列表的映射。
基于工具的交互： 智能体使用一套确定性工具与语料库进行交互：
- apply_filter：应用正则表达式将命名的集合划分为正向和负向子集。
- search_filenames：根据文件名模式过滤文档。
- set_operation：对命名集合执行交集、并集和差集操作。
- extract_field / extract_list：将文档中的值或列表提取到数值集中。
- aggregate：对数值集计算统计数据（总和、平均值、计数、最小值、最大值）。
- read_docs / find_in_doc：读取特定文档章节或在大型文件中进行导航。
诊断反馈： 一个核心创新是利用自动计算的诊断信息来丰富工具的观测结果。当应用过滤器时，系统会提供：
- 标记分解（Token decomposition）： 哪些关键词在正则表达式中过于严格或过于宽松。
- 选择性缺口（Selectivity gaps）： 提示组合模式是否比单个关键词过度约束了集合。
- 负向锚点检查（Negative anchor checks）： 识别被排除的文档是否仍包含关键问题实体，从而提示智能体优化其正则表达式。
推理循环： 智能体使用 ReAct 风格的循环，其中它规划动作、执行工具、观察结果（包括诊断信息），并迭代地细化其文档集，直到能够回答查询。

2. 有限摄入 ScalableRAG (Limited-Ingestion ScalableRAG)

为了进一步提高在复杂数据集上的准确性，该变体增加了两个可选的、低成本的摄入模块：

向量嵌入（Vector Embeddings）： 预计算大型文档块的嵌入，以实现 cosine_search。这作为语义检索的后备方案，当词法匹配失败时使用。它还支持在少量标记样本上训练轻量级分类器，以对剩余语料库进行分类。
自动模式发现（Automatic Pattern Discovery）： 一个分析文档样本以发现提取模式的预处理步骤：
1. 确定性正则表达式： 扫描循环出现的“标签：值”结构。
2. LLM 生成的正则表达式： 使用 LLM 提出多行结构化模式。
3. 语义模式： 识别嵌入在散文中的概念。
  这些模式经过验证、评分并作为 pattern_search 工具暴露给智能体，使其能够在不进行全量语料库索引的情况下利用预先发现的结构。

核心贡献

零摄入 ScalableRAG： 一种无需任何摄入成本（无向量数据库、无知识图谱）即可实现高性能的 RAG 系统。它利用推理时的集合持久化和集合代数推理来处理聚合任务。
有限摄入 ScalableRAG： 一个扩展版本，结合了极简的向量嵌入和一次性的、基于样本的模式发现过程，以在保持与语料库规模成常数比例的 LLM 调用次数的同时，进一步提升在结构复杂数据集上的准确性。
诊断反馈机制： 引入了自动化、相对性的诊断（例如作用域检查、选择性缺口），引导智能体的规划和正则表达式细化，显著减少了手动调优或外部验证的需求。

实验结果

作者在六个多样化的语料库上评估了 ScalableRAG：MuSiQue、2WikiMultiHopQA、Transcripts（美国国会听证会）、FinanceBench、ComplexTR 和 Hotels。

性能：
- 零摄入 ScalableRAG 在 6 个数据集中的 3 个（MuSiQue、Transcripts、Hotels）中超越了所有基线（包括像 HippoRAG2、SRAG、GraphRAG 和 AutoSchemaKG 这样重度摄入的方法）。
- 在其余三个数据集中，它与最高性能的差距平均仅为 1.63%。
- 在所有六个数据集中，其平均准确率比最具竞争力的基线高出 7.36%。
- 值得注意的是，在针对聚合推理具有挑战性的 Hotels 数据集上，它在零摄入的情况下超越了 SRAG 36.23%。
效率：
- ScalableRAG 使用与智能体基线（如 A-RAG）相似的每问题步骤数，但在推理过程中消耗的标记（tokens）显著更少。
- 有限摄入 变体在具有丰富结构的数据集（Hotels、Transcripts）上提供了额外的准确率提升，因为模式发现在此类场景下非常有效。

意义与主张

本文主张，ScalableRAG 证明了重度知识摄入的优势（特别是执行聚合推理和按主键分组的能力）可以通过零或极低的摄入成本来实现复制。

成本效率： 通过避免“摄入税”（即每个文档一次 LLM 调用），ScalableRAG 提供了一种极具扩展性的替代方案，对于感兴趣的主键对应于文档子集的语料库尤为有效。
状态化推理： 该研究挑战了无状态检索的范式，表明通过维护一个文档集和数值集的工作区，可以实现迭代细化和复杂的跳跃推理，而这在标准向量检索中是无法实现的。
实用性： 该系统在无需预计算向量数据库或复杂模式归纳的情况下实现了高准确率，使其成为预处理资源受限场景下的可行解决方案。

作者总结道，虽然知识图谱方法在违反“一对一对应假设”的问题上可能仍然表现出色，但 ScalableRAG 为广泛的聚合和多跳问答任务提供了一个极具竞争力的、高性价比的框架。