Skill Blocks: How Should an Agent Load Its Skill? A Caching-Correct Comparison of Pre-load, On-Demand Tool-Loading, Progressive Disclosure, and Hybrid
本文评估了四种针对 AI 智能体的技能加载策略，并证明虽然没有哪种方法是普遍优越的，但混合式和渐进式披露方法能显著降低 Token 消耗——尤其是在大型多轮任务中——且不损害输出质量。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在人工智能不断演进的世界中，如何教计算机程序像专家一样行动，正成为一种日益增长的需求。工程师们不再通过重写软件的核心大脑，而是通过为其附加“技能”——即详细的指令手册，来告诉系统如何执行特定任务，例如搜索信息、操作电子表格或在虚拟环境中导航。每当被要求执行某项任务时，AI 都会阅读这些手册。然而，一个实际的问题出现了：这些手册通常非常冗长，包含数百页的规则和示例。当 AI 被问及一个简单问题时，它往往必须阅读整本庞大的手册，即使其中 90% 的文本与当前任务完全无关。这浪费了计算资源并减慢了处理速度，就像一位图书管理员坚持要读完图书馆里的每一本书，才去帮助顾客寻找某个特定的事实一样。
微软的研究人员试图通过提出一个简单的问题来解决这个效率问题：如果你有一本大型技能手册，你应该在什么时候向 AI 展示其中的每一部分？他们测试了四种不同的信息传递方法。第一种方法是传统方法：每次都加载整个手册。第二种方法被称为“技能块”（Skill Block），它仅保持一小部分核心指令可见，并允许 AI 在感到需要时才请求特定的额外章节。第三种方法是“参考型”（Reference），它向 AI 展示一份简短的手册目录，让它决定下一步阅读哪个部分。第四种方法是“混合型”（Hybrid），它预先提供一份非常简短的各章节摘要，让 AI 能够立即判断它是需要查看完整细节还是仅需摘要即可。研究团队在五种不同类型的任务中测试了这些方法，涵盖了从单一问题到需要 AI 在多轮对话中记住信息的复杂多步问题。
结果显示，并没有一种放之四海而皆准的最佳方法来加载这些技能；正确的选择完全取决于手册的大小和任务的性质。对于简单的、一次性的问题，“混合型”方法被证明是最有效的。通过提供每个部分的简短摘要，AI 通常可以找到所需内容，而无需请求全文，从而节省了大量数据。在一项涉及大量问题的测试中，与阅读整本手册相比，这种方法减少了近 28% 的信息处理量。然而，对于非常小的手册或 AI 需要重复使用相同指令的任务，请求信息或阅读摘要所带来的额外工作实际上让过程变得更慢、成本更高，并没有比一开始就阅读全部内容带来任何实质性的好处。
当研究人员观察那些 AI 必须在长对话中记住上下文的复杂、多步任务时，发现这些发现变得更加有趣。在这些场景中，当手册很大且包含许多很少被使用的章节时，“技能块”和“混合型”方法表现出色。因为 AI 只为每一步加载所需的特定部分，从而避免了不断重新发送整个未使用手册的高昂成本。在一次涉及科学推理的复杂模拟中，这些按需加载的方法比传统方法减少了 60% 以上的有效数据负载。研究人员指出，这种节省是非常巨大的，以至于抵消了请求信息的微小成本。相反，在指令较短且每一步都需要这些指令的任务中，这些智能加载方法的优势消失了，系统的表现与传统方法大致相同。
这项研究的一个关键部分在于研究人员如何衡量成本。他们意识到，仅仅计算发送给 AI 的总词数可能会产生误导，尤其是在长对话中。现代系统通常会记住对话之前的部分，因此不需要重新处理已经看过的词汇。团队开发了一种方法，通过计算新信息，并对重复部分给予一定的折扣，来统计信息量。当应用这种更准确的核算方式时，智能加载方法的优势在处理大型、复杂任务时变得更加清晰。然而，他们也发现，如果指令太小，或者 AI 需要过于频繁地请求信息，管理这些请求的开销可能会抵消掉节省下来的成本。
最终，这项研究表明，教导 AI 技能的最佳策略是将交付方法与工作匹配。如果手册很短，或者任务需要不断使用相同的指令，那么一次性加载所有内容会更好。但如果手册很长，且 AI 在任何给定时间只需要其中一小部分，那么一个仅在需要时加载信息的智能系统则要优越得多。研究人员发现，“混合型”方法（提供所有选项的快速概览）最适合简单任务，而“技能块”方法（让 AI 仅在必要时深入挖掘）最适合复杂的长期项目。这项工作并不声称找到了适用于所有情况的普遍规律，但它为工程师提供了清晰的路线图，指导他们如何构建 AI 的知识库，从而在不牺牲性能的前提下节省时间和资源。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。