SkillSmith: Compiling Agent Skills into Boundary-Guided Runtime Interfaces
SkillSmith 是一个以边界为优先的编译器 - 运行时框架,它通过将技能离线编译为最小可执行接口来优化基于大语言模型的代理系统,从而显著减少令牌消耗、推理迭代次数和执行时间,同时实现高效的跨模型技能复用。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象你有一位才华横溢但极其健谈的私人助理(即 AI 智能体),它正试图解决复杂的问题,比如修理一台故障机器或起草一份法律合同。为了协助这位助理,你拥有一个庞大的指令手册库(称为“技能”)。
问题:“厨房水槽”式方法
目前,当助理需要解决特定问题,例如“我该如何烤蛋糕?”时,系统并非仅提供蛋糕食谱,而是将整个“烘焙技能”库倾倒入助理的“大脑”中。
该库包含:
- 蛋糕食谱(你真正需要的部分)。
- 关于如何烘焙面包、饼干和派的操作说明(无关上下文)。
- 一份长达 50 页的面粉生产历史(更多无关上下文)。
- 一份有史以来所有烤箱品牌的清单(无关上下文)。
随后,助理必须阅读所有内容,找出哪部分是蛋糕食谱,然后制定烤蛋糕的计划。如果你接着让它烤一个派,它又必须重新阅读整个库,找出派的部分,并编写新计划。
论文将这种现象称为“冗余”。 它浪费了时间、金钱(因为 AI 按读取的字数计费)以及脑力。助理不断重读那些枯燥的相同部分,并反复“重新发明轮子”。
解决方案:SkillSmith(“编译器”)
作者开发了一种名为 SkillSmith 的工具。你可以将 SkillSmith 想象为一位专业编辑和翻译,它在助理开始工作之前进行运作。
SkillSmith 不会向助理提供整个杂乱的库,而是执行以下操作:
- 离线阅读手册:它在无人注视时,坐下来研读庞大的“烘焙技能”库。
- 剔除冗余:它精准识别特定任务所需的内容。它会意识到:“哦,对于烤蛋糕,我们只需要第 10 到 15 页。面包说明和面粉历史可以暂时丢弃。”
- 创建“速查表”:它将那些特定页面转化为一张微小、完美、分步执行的指令卡(即“边界契约”)。
- 隐藏其余部分:它将库的其余部分锁在一个盒子里,只有当助理卡住或需要检查特定细节时才会打开。
实时运作方式
当助理接到任务时:
- 旧方法:“这是整本 500 页的书。祝你好运。” -> 助理阅读 500 页 -> 助理制定计划。
- SkillSmith 方法:“这是一份专门针对蛋糕烘焙的 2 页速查表。” -> 助理阅读 2 页 -> 助理执行计划。
如果稍后助理需要烤派,SkillSmith 会将速查表替换为“派速查表”。助理再也不必在无关的面包说明中艰难跋涉。
结果:更快、更便宜、更智能
该论文在名为 SkillsBench 的基准测试中验证了此方法(包含 7 项不同任务,从撰写录用通知书到分析 3D 扫描)。以下是他们使用 SkillSmith 与旧有的“倾倒整个库”方法相比的结果:
- 速度:任务解决速度提高了 2 倍。
- 成本:AI 需要进行的“阅读”(token)量减少了 57%。由于 AI 按读取字数收费,这是一笔巨大的节省。
- 思考:AI 需要进行的“思考”(推理循环)次数减少了 43%。
- 准确性:它并没有犯更多错误;事实上,当使用更小、更便宜的 AI 模型时,由更智能的 AI 预先制作的“速查表”实际上帮助小模型解决了它原本无法独立完成的任務。
“编译器”类比
作者将此比作计算机程序员的工作方式。
- 旧方法:每次计算机需要解决数学问题时,你都给它一本英文指令书。计算机必须每次都把英文翻译成数学。
- SkillSmith:程序员将英文指令一次性翻译成机器码。当计算机运行程序时,它只需执行快速的机器码。它无需每次都重新翻译英文。
总结
SkillSmith 是一种工具,它处理 AI 智能体那些杂乱无章、体积庞大的指令手册,剔除垃圾内容,将其转化为微小、高效、立即可用的指令卡。这阻止了 AI 浪费时间阅读不需要的内容,在保持结果准确性的同时节省了金钱和时间。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。