💬 NLP

Baikal: Structured Search for Deep Research over Data Lakes

本文介绍了 Baikal，这是一个通过将任务视为预算搜索问题来解决数据湖深度研究中迭代检索局限性的框架，其中证据被聚类为语义区域并进行自适应探索，以平衡探索与利用，从而实现比现有基准显著更高的报告质量。

原作者： Dhruv Agarwal, Rishitha Guttapalle Mohan, Aarti Kumari, Ashi Sinha, Athulya Anil, Kavitha Srinivas, Horst Samulowitz, Andrew McCallum

发布于 2026-07-31

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Dhruv Agarwal, Rishitha Guttapalle Mohan, Aarti Kumari, Ashi Sinha, Athulya Anil, Kavitha Srinivas, Horst Samulowitz, Andrew McCallum

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一名试图破解重大谜团的侦探，但你拿到的不是几本写满线索的笔记本，而是一个规模如城市般庞大的仓库，里面堆满了数百万份零散的文件、电子表格和手写笔记。这就是“深度研究”（Deep Research）相对于“数据湖”（Data Lakes）而言的世界。在现实世界中，公司和科学家面对的不只是一个需要阅读的文件；他们拥有成千上万张数字表格和数百万段文字，而且这些信息之间并不总是能相互沟通。为了解决一个复杂的问题，人工智能（AI）需要扮演一名超级聪明的调查员：它必须找到正确的线索，弄明白这些线索的含义，并撰写一份能够将所有点连接起来的报告。棘手之处在于，AI 的时间与精力（即“预算”）是有限的。如果它对一个微小的、容易发现的小线索过于兴奋，它可能会错过隐藏在仓库另一个角落里的巨大且重要的秘密。科学家们正在提出的核心问题是：我们如何教会 AI 在一个巨大的、混乱的图书馆中进行探索，而不至于困在某一个过道里，或者错过最好的故事？

这正是 Baikal 背后的研究人员致力于解决的问题。他们意识到，通常 AI 寻找答案的方式——仅仅抓取下一个看起来有趣的文本片段并继续前进——就像一只在同一棵树周围转圈圈的松鼠。它找到了一些坚果，但它从未探索过整片森林。为了解决这个问题，团队发明了一种新方法，将搜索视为一场策略性的探索游戏。

首先，Baikal 不会直接把整个仓库堆到 AI 面前。相反，它扮演着一位能够瞬间整理混乱秩序的资深图书管理员。它将成千上 de 无关的表格和文档归类为“语义区域（semantic regions）”——你可以把它们想象成贴有标签的箱子或社区。其中一个箱子可能存放着所有关于“塞尔维亚运动员”的内容，而另一个则存放着“板球场馆”。这一切在 AI 开始提问之前就已经完成了。

一旦图书馆组织完毕，Baikal 会派遣其 AI 智能体执行一项任务，并赋予其 50 步（或称为“提问次数”）的严格预算。该智能体不会仅仅随机挑选一份文档，而是使用一种聪明的策略来决定下一个要访问哪个“社区”。这就像是在玩一场游戏，你必须决定进入这座巨大豪宅中的哪间房间。有些房间可能已经被探索过且发现是空的，而另一些房间则可能藏满了黄金。Baikel 使用一种数学上的“猜谜游戏”（称为强盗问题/bandit problem）来平衡“访问其认为有希望的房间（利用/exploitation）”与“尝试新的、未被探索的房间以看看是否藏有更好的东西（探索/exploration）”之间的关系。

在选定的社区内部，AI 会生成具体的、有据可查的问题。例如，如果它处于“塞尔维亚”这个箱子里，它可能会问：“塞尔维亚运动员获得的奖牌最多的是哪些运动项目？”然后，它会深入挖掘该箱子中特定的表格和文本以寻找答案。一个特殊的“评判者”AI 会根据答案是否真实、有用以及是否不同于之前发现的内容来为其评分。如果答案很棒，系统就会记住该社区是有价值的。如果答案很乏味，它就会将该区域标记为“完成”并继续前进。

研究结果令人印象深刻。研究人员在两个大规模数据湖上测试了 Baikal：一个包含近 11,000 张表格和 227,000 段文本（约等于维基百科规模），另一个包含超过 2,700 张表格和 13,000 份财务报告。他们给出了 15 个复杂的科研问题让 AI 回答。当他们将 Baikal 与现有的最强方法进行对比时，差异巨大。在维基百科数据上，Baikal 的最佳设置将最终研究报告的质量提升了 28%；在财务数据上，提升了 36%。

至关重要的是，论文表明，这种魔力不仅仅在于有了组织的箱子，更在于其搜索策略。当研究人员给一个强大的编程 AI 同样的组织好的箱子，但让它在没有 Baikal 那种聪明的“社区跳转”规则的情况下进行搜索时，它并没有获得同样的提升。这表明，仅仅对数据进行组织是不够的；你需要一种聪明的办法来决定下一步去哪里看。通过将搜索视为一场结构化的探索游戏，而非随机的寻宝活动，Baikal 帮助 AI 智能体即使在与时间赛跑的情况下，也能找到更有用、更独特且有据可查的事实。它将一个混乱的数据倾倒过程变成了一场系统的发现之旅，证明了有时，寻找真相最好的方法是知道在哪里不去寻找。

技术摘要：Baikal —— 面向数据湖深度研究的结构化搜索

1. 问题定义

本文探讨了**数据湖深度研究（Deep Research over Data Lakes）**的挑战，该任务定义为：自主智能体必须通过有选择地调查分布在数千个异构表格和非结构化文本段落中的证据，来合成一份报告。

核心难点在于该问题的**预算化搜索（Budgeted Search）**本质。在给定的 $B$ 步预算（每一步产生一个发现）下，智能体必须：

从大规模、异构的集合（ $L = T \cup P$ ）中检索与查询相关的证据。
利用推理处理证据。
至关重要地： 在不过度开发局部高潜力证据的情况下，识别出一组多样化的显著方面（Salient Aspects）。

现有的迭代式“检索-生成”方法通常在此失效，因为它们依赖于累积上下文来改变模型的信念。这会导致智能体偏向于局部有潜力的证据，从而导致对不同语义区域覆盖不足，并生成质量较低、缺失查询关键方面的报告。作者将目标形式化为：在预算内最大化发现的平均质量得分，其中质量得分 ( $\rho$ ) 是四个维度的乘积：可靠性（Groundedness）、相关性（Relevance）、多样性（Distinctness）和效用性（Utility）。

2. 方法论：Baikal 框架

Baikal 将深度研究重新定义为在结构化语义空间上的预算化多臂老虎机（Multi-armed Bandit）问题。该框架分为三个主要阶段运行：

A. 添加结构（预计算）

与其直接搜索原始表格和段落，Baikal 首先将数据湖组织为语义区域（Semantic Regions）：

嵌入（Embedding）： 使用单一编码器（如 Qwen3-Embedding）将表格元数据（标题、模式）和文本段落嵌入到共享的向量空间中。
聚类（Clustering）： 利用 BERTopic（使用 UMAP 进行降维 + HDBSCAN 进行聚类），将数千个条目分组为 $|R|$ 个语义区域。
区域定义： 每个区域 $c$ 包含一组表格 $T_c$ 和段落 $P_c$ ，以及一个描述。区域的设计旨在适配智能体的上下文窗口，同时保持主题的一致性。这使得搜索空间从 $|L|$ 个条目缩减到了 $|R|$ 个“臂”。

B. 搜索与调查（运行时）

针对给定查询 $q$ ，Baikal 对候选区域 $C(q)$ 进行顺序搜索：

候选选择： 对查询进行嵌入，并检索前 $k$ 个表格/段落。任何与这些前 $k$ 个条目重叠的区域都会被保留为候选区域。这确保了检索到一个条目时，能将其整个语义区域纳入视野。
区域选择策略： 策略 $\pi$ $π$ 选择一个区域 $c \in C(q)$ $c \in C (q)$ 进行调查。论文评估了多种策略：
- 随机（Random）： 均匀采样。
- LLM 引导（LLM-guided）： LLM 根据区域描述和历史记录进行选择。
- 贝叶斯 $\epsilon$ -greedy： 利用估计出的最高平均回报区域，并以 $\epsilon$ 的概率通过对后验均值进行 Softmax 进行探索。
- Bayes-UCB： 选择具有最高后验上分位数（Upper Quantile）的区域，平衡探索与开发。
- 注：贝叶斯策略使用 LLM 诱导先验（LLM-elicited priors） 进行初始化，以避免在无信息的探索上浪费预算。
子问题生成与选择： 在选定的区域内，LLM 生成最多 $K$ 个基于该区域内容的分析性子问题（例如计数、比较）。随后选择一个子问题（通过随机或 LLM 策略）进行回答。
执行： 编码智能体（如 OpenCode）使用区域范围内的 SQL 在该区域的表格 SQLite 数据库上执行子问题，并阅读其段落。如果初始区域不足，智能体还可以执行区域扩展（使用 grep 获取额外的相关段落）。
奖励反馈： LLM 评判员根据四个维度对生成的发现进行评分。该得分作为奖励 $r_t$ ，用于更新该区域的策略价值估计（使用伪计数方案进行贝叶斯更新）。

C. 报告合成

一旦预算耗尽或不再有候选区域，收集到的发现将被合成最终报告，并对各项主张进行证据溯源。

3. 核心贡献

形式化： 将数据湖上的深度研究建模为结构化语义区域上的预算化搜索问题，明确解决了探索与开发之间的权衡。
Baikal 框架： 该系统通过将异构数据聚类为语义区域，并使用顺序决策（Bandit 策略）来引导证据收集，而非仅仅依赖迭代式的上下文累积。
新测试平台与评估： 构建了基于 HybridQA（10,993 张表格）和 TAT-QA（2,757 张表格）数据湖的深度研究查询，并配套了一套使用 LLM 评判员评估可靠性、相关性、多样性和效用性的实用准则。
实证验证： 证明了收益来自于搜索过程（预算的顺序分配）而非仅仅是结构本身。即使给予相同的区域信息，单纯提供强大的编码智能体也无法复制 Baikal 的性能。

4. 结果

作者在 15 个查询（每个数据湖）和 50 步预算下，将 Baikal 与包括 OpenCode 智能体（在使用/不使用检索或聚类人工制品的情况下）和 DeepSearcher 在内的强基线模型进行了对比。

性能： 最优的 Baikal 配置（HybridQA 上的 Bayes-UCB；TAT-QA 上的 Random/Bayes $\epsilon$ -greedy）在 HybridQA 上比最强基线提升了 28%，在 TAT-QA 上提升了 36%。
质量维度： Baikal 显著提升了可靠性（0.92 对比基线的 ~0.72）和多样性（0.86 对比基线的 ~0.62），这两点对于避免重复或幻觉内容至关重要。虽然基线模型在相关性上得分有时更高，但由于准则采用乘法性质，其缺乏可靠性的问题导致了较低的总分。
搜索效率： Baikal 的策略在最初 10 步内就与基线拉开了差距。虽然随机选择表现出奇地好（这归功于结构本身），但贝叶斯策略随着预算增加显示出明显优势（例如，在预算为 200 时，Bayes-UCB 比随机选择高出 8.8%）。
成本分析： 由于产生了更多有效的发现（44.6 对比 OpenCode 的 30.9），Baikal 的单次查询总成本较高。然而，每个有效发现的成本与基线相当，这表明其溢价买到的是可用的证据，而非昂贵的失败步骤。

5. 重要性与主张

论文声称，结构化语义探索对于异构数据湖的系统性研究至关重要。其核心贡献不仅在于数据的聚类，更在于对搜索过程的显式管理，即在固定预算下进行管理。

结构 vs. 搜索： 作者强调，仅仅为强大的智能体提供相同的结构化区域（检索 + 聚类）并不能实现性能迁移。提升源于顺序决策策略，该策略通过分配预算到不同区域来最大化覆盖范围和多样性。
可扩展性： 该方法通过将搜索空间缩减为语义区域，处理了深度研究的“长程（Long-horizon）”特性，使智能体能够覆盖迭代式上下文方法经常遗漏的、位于数据湖不同部分的独特区域。
可复现性： 评估准则（可靠性、相关性、多样性、效用性）经过验证具有良好的 LLM 间一致性，在多样性和可靠性的评分上表现出高度的一致性。

总之，Baikal 证明了将数据湖视为一个需要被搜索的结构化空间，而非仅仅是一个用于检索的语料库，能为深度研究任务提供坚实的基础，尤其是在证据分布于数千张表格和段落的情况下。