想象一下，你有一个超级聪明的机器人朋友，它可以阅读世界上任何书籍，并能瞬间回答你的问题。这就是大型语言模型（LLM）——许多现代聊天机器人背后的 AI 大脑——所承诺的愿景。但问题在于：如果你问这个机器人一个非常具体且复杂的话题——比如某个特定省份的电价规则——它可能会感到困惑。为什么？因为机器人的“记忆”是有限的，如果你一次性把一整座图书馆的文档都塞进它的脑子里，它会被淹没。这就像是试图通过把整个干草堆塞进一个小盒子里来寻找一根特定的针；针确实在那里，但它被埋在了太多的杂物之下。这就是“上下文工程”（context engineering）的问题：研究如何只给机器人喂入恰到好处的信息，让它能够清晰地思考而不至于迷失方向。

研究人员提出的核心问题是：我们如何构建一个系统，它不仅仅是在“猜测”，而是能从海量且不断变化的法律和技术文档中真正地“搜索”出正确答案？你即将阅读的这篇论文探讨了这一历程。它描述了从一种简单的“搜索并阅读”模式向一种更聪明的、多步骤侦探式过程的演进。作者们指出，与其尝试重新训练机器人的大脑去死记硬背每一条新法律（这既昂贵又缓慢），不如教机器人如何成为一名更好的研究员。他们发现，关键不在于给机器人更多的思考空间，而在于给它更好的工具，让它能循序渐进地找到所需的精确事实，同时兼顾成本和时间。

---

从“直接提问”到“超级侦探”：AI 研究员的进化史

这篇论文讲述了安大略发电公司（OPG）的一个团队如何升级其 AI 系统，以应对监管合规这一庞大且复杂的任务。你可以把它看作是一个初级图书管理员如何逐渐成长为一名资深侦探的故事。

起点：“天真”的图书管理员

最初，团队使用的是一种“天真型 RAG”（Naïve RAG）系统。想象一位图书管理员，当你提出问题时，他会抓取看起来稍微有点相关的头 20 本书，然后一次性全部堆在你的桌子上。如果你问：“2022 年水电站的成本是多少？”这位图书管理员可能会把 25,000 个单词的文本全倒在你面前，其中包含了关于 2019 年、2023 年以及无关设备的页面。

问题在于？AI（即“读者”）会被淹没。这就像是在有人对着你的耳朵大喊另外 50 句话的同时，你试图在一本小说中寻找特定的句子。你喂给它的文本越多，它寻找正确答案的能力就越差。这就是作者所说的**“上下文腐烂”（context rot）**。事实确实存在，但它们消失在了噪音之中。图书管理员只是不断地增加书籍，希望答案就在其中，但这只会让过程变得更慢、更昂贵。

升级：活跃的侦探

团队意识到，AI 需要停止做一个被动的接收者，而要开始做一个主动的调查员。这就是第二阶段：代理式检索（Agentic Retrieval）。

现在，AI 不再是把一堆书堆在桌上，而是像一个拿着放大镜的侦探。它每次只向图书管理员索要“五页”纸。它阅读这些页面，思考，然后说：“好的，这些页面提到了‘2022年’，但我需要专门检查‘附件 C’文件。”接着，它会请求一组更具体的页面。

这被称为渐进式发现（progressive discovery）。AI 不仅仅是在猜测，它在优化其搜索过程。如果它在某一页中发现了一个非常有力的线索，它可能会决定阅读整个文档以确保万无一失。但它很谨慎！只有当“线索”足够强大，足以证明额外投入时间和金钱是值得的时候，它才会进行全文阅读。这就像侦探决定是否要闯入一户人家：只有当证据表明罪犯确实在里面时才行动。

大师课：拥有团队的“深度智能体”

在第三阶段，系统变得更加聪明了。AI 不仅进行搜索，它还会制定计划。在开始寻找之前，它会将一个宏大且可怕的问题分解成一系列较小的、易于处理的任务。

想象你需要比较两个不同发电厂在十年间的成本。一个简单的 AI 会感到困惑。但这个“深度智能体”（Deep Agent）会创建一个研究计划：

1. “查找 A 电厂 2020 年的成本。”
2. “查找 B 电厂 2020 年的成本。”
3. “进行对比。”

为了处理这种情况，主 AI 会雇佣一个子智能体团队（小助手机器人）。一个助手负责阅读一份巨大的文档，并将其总结成一条简短的笔记。主 AI 从来不需要看到那份混乱的 50 页文档；它只看到那条干净的、只有两句话的摘要。这防止了“上下文腐食”再次发生。主 AI 保持着清醒和专注，而助手们则承担了繁重的体力活。

此外，由于加拿大严格的隐私法，该系统还有一个特殊的技巧。有些文档包含图表和图形，需要“视觉”AI 来读取。由于主 AI 不能将这些图像发送到海外服务器，系统使用了一个位于加拿大的特殊“本地”AI，它负责读取图像并将文字传回。这就像是在房间里请了一位专门的翻译官，确保没有任何秘密外泄。

秘诀：PEA-CAE

作者将这种聪明的、循序渐进的方法形式化为一个框架，称之为 PEA-CAE（带有成本感知升级的渐进式证据获取）。

你可以把它想象成一个聪明购物者的守则：

• 从小处着手： 先看价格标签（文本块）。
• 不要买下整个商店： 只有当价格标签看起来极其诱人时，才购买整个商品（阅读全文）。
• 压缩你的清单： 总结你的发现，这样你就不会携带过重的负担。

论文显示，这种方法确实有效。在测试中，系统进行了 67 次“文本块”搜索，但仅有 7 次升级到了全文阅读。这个比例大约是 10 比 1。这意味着系统通常只需快速浏览即可得出正确结论，从而节省了大量的时间和成本。当它不得不进行全文阅读时，耗时在 0.7 到 12 秒之间，这证明了“全文阅读”是一个沉重的工具，仅在必要时才会动用。

这对未来意味着什么

这篇论文的核心启示是：对于规模巨大且不断变化的规则与法规库，你不需要重新训练 AI 的大脑。 你不需要教会它每一条新法律。相反，你需要围绕它构建一个更好的搜索引擎。

作者认为，“上下文工程”——即在正确的时间喂入正确数量信息的艺术——才是真正的魔力所在。这比试图强迫 AI 记住一切要有效得多。通过使用一个能够规划、委派并谨慎升级的系统，企业可以从其 AI 中获得准确、可追溯的答案，而不会让 AI 迷失在文字的海洋中。

简而言之，论文表明，在复杂领域中，AI 的未来不在于在真空环境下让机器人变得更聪明，而在于给它一张更好的地图、一个更锐利的放大镜，以及一支协助完成重活的团队。其核心在于教会机器人成为一名侦探，而不仅仅是一个阅读者。