ContextNest: Verifiable Context Governance for Autonomous AI Agent
ContextNest（在摘要中被称为 ContextNext）引入了一种用于可验证上下文治理的开放规范与参考实现，该实现位于检索系统之下，旨在确保 AI 智能体仅消费经过批准、可追溯且经过完整性验证的知识，从而解决仅靠检索质量无法解决的来源与确定性失效问题。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是关于 ContextNest 论文的解释，已将其转化为通俗易懂的语言并使用了类比。
核心问题：一个“自信但错误”的智能体
想象你雇佣了一位非常聪明、反应迅速的助手（AI 智能体）来为你的公司做决策。你给了他们一个文档库供其阅读。
问题不在于这个助手很笨，而在于这个图书馆很乱。
- 混淆： 图书馆里既有当前的政策，也包含了三年前的旧政策、从未获批的草案政策，甚至还有某人偷偷塞进去的假政策。
- 错误： 当你问：“差旅报销限额是多少？”时，它可能会找到那份写着“50美元”的旧文档，而不是写着“200美元”的新文档。它回答得非常自信，因为那段文字看起来确实相关，但它给出的却是过时或错误的信息。
- 谜团： 如果你问：“你是如何做出这个决定的？”助手无法给你一个清晰的答案。它不能说：“我读了 6 月 12 日由 Sarah 批准的那份文档。”它只能说：“我找到了匹配的文本。”
这就是 上下文治理鸿沟 (Context Governance Gap)。AI 知道如何寻找文本，但它不知道哪些文本是安全、当前有效且经过批准的。
解决方案：ContextNest（“质量控制”层）
作者提出了 ContextNest。请不要将其视为一种新的搜索方式，而应将其视为一个位于 AI 接触文档之前的严格质量控制闸门。
以下是它的工作原理，使用了简单的比喻：
1. “类型化”的图书卡
在普通的图书馆里，书仅仅是一本书。但在 ContextNest 中，每份文档都有一张特定的身份卡（称为“类型”）。
- 有些卡片写着：“这是术语表”（仅限定义）。
- 有些写着：“这是政策”（需遵守的规则）。
- 有些写着：“这是草案”（暂不可使用！）。
AI 被编程为忽略任何没有正确身份卡的文档。它不会误把一份草案政策当成法律来读。
2. “仅限批准”的闸门
想象图书馆门口有一名保安。
- 草案被锁在留置室里。保安不会让 AI 进入那里。
- 已发布的文档会获得一个绿色印章。
AI 只能阅读带有绿色印章的文档。这确保了 AI 永远不会使用进行中或未经批准的想法。
3. “防篡改”链条
每当文档发生变化时，它都会获得一个新的数字指纹（哈希值）。
- 如果有人试图在文档获批后偷偷修改其中的文本，指纹就会断裂。
- 这就像信件上的火漆封印。如果封印破损，你就知道有人动过它。
- ContextNest 将这些指纹连接在一起形成一条链条。如果其中一个环节断裂，整个链条就失效了。这证明了文档自批准以来未被篡改。
4. “时光机”（检查点）
想象你需要证明在过去的某个特定日期，规则是什么样的（例如为了审计）。
- 普通的图书馆很难做到这一点；它们通常只展示当前的书籍。
- ContextNest 在每次文档变更时都会拍摄一张快照（检查点）。
- 如果你问：“AI 在 3 月 1 日时知道什么？”系统可以倒流时间，并向你展示 3 月 1 日存在的精确版本的文档，精确到最后一个字符。这使得伪造历史变得不可能。
5. “收据”（审计追踪）
每当 AI 阅读一份文档时，它都会自动打印一张收据。
- 收据会显示：“我在下午 2:00 阅读了文档 X，版本 3，由 Sarah 批准。”
- 如果 AI 以后犯了错，你可以查看收据，并准确找出是哪 piece 的信息导致了错误。你不能把错误归咎于 AI 的“幻觉”；你可以看清它是被喂了错误的（或旧的）文档。
它如何与现有 AI（RAG）协同工作
论文非常明确地指出：ContextNest 不是对 AI 搜索引擎的替代。
- RAG（检索增强生成） 就像一块磁铁。它能找到与你的问题看起来相似的文档。它擅长寻找相关的文本，但它很混乱。
- ContextNest 则像一个过滤器。它位于磁铁之前。
- 过滤器说：“只允许经过批准、当前有效且经过验证的文档通过。”
- 磁铁（RAG）随后仅在那个安全的、经过过滤的堆栈中进行搜索。
结果： AI 得到了两者的优点。它能找到相关的文本（得益于磁铁），但它被保证使用的是该文本的正确版本（得益于过滤器）。
实验展示了什么
作者通过两个主要实验测试了这一点：
“陈旧版本”攻击： 他们创建了一个场景，其中“旧”规则与“新”规则混合在一起。
- 没有 ContextNest 时： AI 经常选中旧的、错误的规则，并给出自信但错误的答案。
- 有了 ContextNest 后： AI 从未选中旧规则。它几乎每次都能得到正确答案，并且消耗更少的计算资源（Token），因为它不需要在垃圾信息中筛选。
“一致性”测试： 他们针对同一个问题询问了 20 次。
- 标准搜索： 有时给您文档 A，有时给您文档 B，即使问题完全相同。它是不可预测的。
- ContextNest： 它每次都给您完全相同的文档。它是完美可预测的。
总结
论文认为，随着 AI 智能体开始做出现实世界的决策（如审批费用或编写代码），我们不能仅仅依赖它们是否“聪明”。我们需要一个治理层来保证它们所使用的信息是：
- 经过批准的（由人类批准）。
- 当前的（不是旧草案）。
- 未被篡改的（安全的）。
- 可追溯的（我们确切知道它们读了什么）。
ContextNest 为 AI 知识提供了“交通规则”，确保当 AI 行动时，它是在基于事实的基础之上行动，而不仅仅是基于一堆随机的文本。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。