💻 computer science

A-tree: Agent Tree and Its Application to Patent Analysis

本文介绍了代理树（Agent Tree, A-Tree），这是一种神经网络树的可解释性扩展，它利用专门的代理和一步前瞻机制来增强高风险领域的决策透明度与准确性，并通过在计算机视觉专利分类及创新规则挖掘中的成功应用进行了验证。

原作者： Qiangfu ZHAO, Xiao Huang

发布于 2026-09-07

📖 1 分钟阅读☕ 轻松阅读

原作者： Qiangfu ZHAO, Xiao Huang

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在人工智能领域，大型语言模型在生成文本、解决问题和提供建议方面已变得异常出色。它们可以编写故事、起草法律文件，甚至帮助调试计算机代码。然而，当这些系统被用于高风险决策时——例如确定一项新发明的价值或诊断一种医疗状况——一个显著的问题便随之而来。它们给出答案背后的推理过程往往隐藏在一个复杂的数字和权重网络之中，甚至连其创造者也无法完全追踪。此外，这些模型往往难以识别自身知识的边界。当面对超出其训练范围的问题时，它们往往倾向于自信地进行猜测，而不是承认不确定性。这种不透明性和缺乏边界的特性，使得它们在专利法等错误成本极高的领域中难以获得信任，因为在这些领域，一次错误的分类就可能改变一位发明家的职业生涯或一家公司的未来。

为了应对这些挑战，来自镇江师范学院的研究人员赵强富和黄晓提出了一个名为“智能体树”（Agent Tree）的新型框架。该框架不再依赖单个庞大的模型来做出最终决策，而是将任务分解为一个层级结构，其中每一步都由一个专门的、定义明确的智能体来处理。可以将这种结构想象成一个决策树，每一个分支点都是一个独立的专家，而非一个黑箱。每个专家都被训练为仅理解一个特定的概念，例如“图像降噪”或“电池过热”，并配备了一系列现实世界的案例，以帮助其判断新的输入是否属于其类别。如果输入符合要求，流程就会向下移动到更具体的专家；如果不符合，路径就会停止，并解释其原因。这种设计确保了整个推理过程是透明、可追溯且有据可查的，而非隐藏在统计概率之中。

研究人员使用两百二十二份计算机视觉专利的语料库测试了这一方法，该语料库是从两万份文档中抽取的。他们构建了两棵独立的树来分析这些专利：一棵侧重于专利旨在解决的技术问题，另一棵侧重于用于解决这些问题的具体技术。为了构建这些树，他们使用大型语言模型对专利文本进行递归分析，根据其内容将其归入日益细分的类别。例如，一项专利可能从“图像处理”这一宽泛类别开始，进入“目标检测”，最后定位于“行人检测”。至关重要的是，系统被设计为能从共享数据库中为每个决策点检索相关示例，使智能体能够通过将新专利与已知案例进行比较来进行判断。这种被称为“结构化检索”的方法确保了每个智能体都能获得正确的上下文，而无需存储重复信息，从而使系统高效且具可扩展性。

他们工作中的一个关键创新是名为“单步前瞻推理”（one-step look-ahead inference）的机制。在标准的决策树中，系统可能会基于紧接着的下一步做出选择，这可能导致陷入一个无法进行进一步具体分类的死胡同。而这种新方法允许系统在确定路径之前，先向树的下方窥探一步。通过不仅评估当前的子节点，还评估其潜在的子节点，系统可以避免死路，并得出更具体、更有意义的结论。当研究人员将这种先进方法与标准方法进行对比时，发现单步前瞻显著提高了分析的深度。对于基于问题的树，推理路径的平均深度从 2.4 步增加到了 2.7 步；对于基于技术的树，则从 1.6 步跳升到了 2.4 步。这种更深层次的分类意味着系统可以识别出更精确的类别，从而从笼统的标签转向具体的的技术解决方案。

实验结果证明了该框架的可行性。通过使用单步前瞻法，该系统在专利测试集上实现了百分之九十六点四的准确率。虽然标准方法在某些情况下产生的错误较少，但它经常过早停止，导致专利停留在宽泛且无用的类别中。新方法通过推动分类向更深层发展，提供了更具行动力的见解，尽管这导致了误分类略有增加，研究人员指出这一点可以通过更好的阈值来管理。除了简单的分类之外，该系统的真正威力在于结合这两棵树的结果。通过将专利解决的问题与其使用的技术相匹配，研究人员可以绘制出创新的版图。他们识别出了诸如“强关联”（即某些技术始终被用于特定问题）以及“稀缺或缺失关联”（代表了新发明的潜在机会）等模式。例如，他们可以观察到哪些技术足以解决许多不同的问题，而哪些技术则是高度专业化的。

这项工作为使人工智能在关键领域更加可靠指明了方向。通过用结构化的专业智能体层级取代不透明的单体模型，研究人员创建了一个不仅能做出决策，还能准确解释其如何以及为何得出结论的系统。这些智能体不仅仅是在猜测；它们会将新输入与具体的案例进行对比，并在输入超出其专业范围时发出信号。研究表明，这种方法可以使用当前的云端语言模型来实现，并能处理像专利文档这样复杂的现实世界数据。虽然目前的测试仅限于计算机视觉专利的一个特定子集，但该框架旨在适应其他领域，如医疗诊断或法律推理，在这些领域，理解思维链条与得到最终答案同样重要。研究人员总结道，这种方法为构建不仅强大而且透明、负责任的人工智能提供了一个充满前景的方向。

技术摘要：A-Tree：智能体树及其在专利分析中的应用

1. 问题陈述

大语言模型（LLMs）在专利分析等高风险领域的部署目前受到两个根本性局限的阻碍：

不透明性（Opacity）： LLM 的推理路径是隐藏的。虽然思维链（CoT）等技术生成的文本看起来像是推理，但它们只是对模型内部计算的后验重建，而非透明的因果链。
边界盲目性（Boundary Blindness）： LLM 缺乏对其自身概念界限的显式知识。当输入超出某个概念的有效范围时，模型往往会产生概率性的“最佳猜测”，而不是发出不确定性信号或识别出边界。

现有的可解释性方法（如 LIME、SHAP、注意力可视化）提供的是近似值或可视化，但无法提供人类可读的决策过程因果链。此外，虽然多智能体系统（如 AutoGen、CrewAI）能够实现协作，但它们通常缺乏具有严格概念定位和边界意识的个体智能体。

2. 方法论

2.1 核心概念：定义良好的智能体（WD-Agent）

论文提出了将 定义良好的智能体（WD-Agent） 作为基础构建模块。WD-Agent 是一个专门的、具备边界意识的推理器，它具有以下特征：

被限制在单一概念内（功能局部化）。
利用存储在外部可检索存储中的描述性信息（DI），包括具有代表性的正例和边界负例（信息外部化）。
能够识别输入是否落在其概念之内或之外，并在边界附近发出不确定性信号。

2.2 A-Tree 架构

智能体树（A-Tree） 通过将经典神经网络树（NNTree）内部节点的数值多层感知机（MLP）替换为 WD-Agent，对 NNTree 进行了扩展。

结构： 一个根节点代表通用概念，子节点代表日益具体的子概念的根树。
推理： 输入从根节点向下遍历。如果节点的智能体拒绝了该输入，则停止遍历；否则，继续向子节点推进。
可解释性： 从根节点到最终节点的路径构成了一个自然的、可追踪的推理链。每一步都由特定 WD-Agent 的决策进行辩护，并以外部 DI 为依据。

2.3 关键机制

结构化检索： 为了确保可扩展性并减少存储冗余，作者提出了一个共享的外部数据库，其中每个训练样本仅存储一次并带有路径标注。节点基于路径过滤进行检索，从而使智能体能够高效地访问正例（相同路径）和硬负例（兄弟路径）。
单步前瞻（OSLA）： 为了提高推理深度并避免“死胡同”分支，OSLA 机制不仅评估当前的直接子节点，还评估其子节点（孙子节点）中的最佳结果。计算复合得分如下：
$score(c) = \alpha \cdot \mu_c(x) + (1 - \alpha) \cdot \max_{g \in children(c)} \mu_g(x)$
这使得系统能够绕过低置信度的中间节点，以达到更具体的概念。
基于 LLM 的构建： 树结构通过 LLM 进行递归构建。LLM 分析训练样本、定义概念边界、生成智能体提示词并将数据划分为子组，从而创建一个用于多智能体系统的 JSON 规范。

2.4 在专利分析中的应用

该框架应用于专利分析，使用了两个独立的 A-Tree：

基于问题的 A-Tree： 按专利解决的技术问题进行分类（例如，“电池过热”）。
基于技术的 A-Tree： 按专利提出的技术方案进行分类（例如，“相变材料”）。
聚合这两个树的输出可以得到结构化的 <问题, 技术> 对，通过挖掘这些对来提取创新规则（如强关联、稀有关联、缺失关联以及多功能技术）。

3. 主要贡献

智能体树（A-Tree）： 一种新型的分层分类架构，通过集成 WD-Agent 扩展了 NNTree，确保推理路径本身即作为解释。
定义良好的智能体（WD-Agent）： 一种具有显式边界和外部化描述信息的专门化智能体的形式化定义，作为可解释智能体系统的构建模块。
结构化检索： 一种可扩展的检索机制，利用路径标注在共享知识库中实现跨节点调用，消除了冗余存储，并实现了通过硬负例进行的边界感知学习。
原型实现： 一个使用 Qwen-Max 实现的云端多智能体系统，并在 222 件计算机视觉相关专利的语料库上进行了验证。

4. 实验结果

该框架在包含 222 件计算机视觉专利（166 件用于训练，56 件用于测试）的数据集上进行了验证。

准确率： 基于 OSLA 的推理在测试集上达到了 96.4% 的准确率。
推理深度： 与普通的贪婪推理相比，OSLA 显著提高了平均推理深度：
- 基于问题的 A-Tree： 从 2.4 增加到 2.7（+12.5%）。
- 基于技术的 A-Tree： 从 1.6 增加到 2.4（+50%）。
权衡： 深度的提升伴随着误分类率的轻微上升（两个树均从 1.8% 上升至 3.6%），这归因于 OSLA “强制”进行更深层的分类，即使置信度较低。作者指出，这可以通过引入子节点选择的置信度阈值来缓解。
创新规则： 系统成功提取了结构化的 <问题, 技术> 对，证明了挖掘创新规则（如“强关联”——主流方案，以及“跨领域迁移”——适用于结构相似问题的技术）的可行性。

5. 意义与主张

论文声称 A-Tree 为高风险领域的可解释 AI 提供了一个有前景的方向。其意义在于：

设计级可解释性： 与事后解释方法不同，A-Tree 在设计上即具有可解释性。其推理路径是架构固有的，提供了基于自然语言和具体实例的可追踪决策链。
边界意识： 通过显式训练智能体识别概念边界并使用兄弟节点作为硬负例，系统可以发出不确定性信号，解决了标准 LLM 的一个关键缺陷。
可扩展性： 结构化检索方法允许系统扩展到大规模语料库，而不会产生维护每个智能体独立检索索引所带来的指数级存储成本。
领域无关性： 虽然在专利分析中进行了演示，但作者断言该框架适用于其他需要结构化、透明分类的领域，如医疗诊断和法律推理。

作者对目前的规模保持谦逊，承认原型使用了有限的语料库（222 件专利），并指出未来的工作需要在大规模数据集上进行验证、实现动态优化能力，并整合更完整的专利数据（如权利要求书和摘要）以提升分类准确性。