SearchSkill: Teaching LLMs to Use Search Tools with Evolving Skill Banks
该论文提出了 SearchSkill,这是一个通过基于可复用搜索技能不断演进的 SkillBank 显式规划查询来增强语言模型开放域问答能力的框架,该框架通过减少搜索预算的浪费并促进原子化、聚焦式的查询,从而提升了检索效率和答案准确性。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象你有一位非常聪明的图书管理员(即人工智能),他凭借记忆掌握大量事实,但一旦涉及近期新闻或极其具体、棘手的细节时就会陷入困境。为了帮助他,你给他一张借书证,使他能够向搜索引擎提问以获取答案。
问题并不在于图书管理员“不会”使用这张借书证,而在于他们常常提出错误的问题。例如,他们不会问:“1990 年纽约的市长是谁?”,而是可能将整个令人困惑的问题直接复制粘贴到搜索栏中,就像大喊:“告诉我美国最大城市的第一位非裔市长的所有信息!”这种做法既浪费时间,又会让搜索引擎感到困惑,并常常导致错误的答案。
SEARCHSKILL 是一种新的训练方法,旨在教导图书管理员更有效地使用借书证。以下是其工作原理,采用简单的类比说明:
1. “技能菜单”(SkillBank)
与其让图书管理员自行猜测该做什么,SEARCHSKILL 会为他们提供一份实体化的“搜索技能”菜单。这就像厨师的食谱书或机械师的工具箱。
- 旧方法:图书管理员只是说“去搜索吧!”,然后听天由命。
- SEARCHSKILL 方法:在搜索之前,图书管理员必须从菜单中选择一个具体工具,例如:
- “桥梁构建者”:当你需要寻找隐藏的中间步骤时使用(例如:“谁是 X 的母亲?”→ 先找出 X,再找出 X 的母亲)。
- “比较器”:当你需要并排检查两件事时使用(例如:“A 和 B 谁先去世?”)。
- “事实核查员”:用于验证两条证据是否相互矛盾。
2. “两步舞”
每当图书管理员需要寻找答案时,他们必须遵循一个严格的两步流程:
- 选择技能:他们查看菜单并说:“我现在需要‘桥梁构建者’工具。”
- 执行操作:基于该工具,他们向搜索引擎提出一个非常具体、聚焦的问题。
这迫使图书管理员思考:“我现在具体需要哪一块缺失的信息?”而不是将整个问题一股脑地抛给搜索引擎。
3. “练习循环”(菜单的演进)
论文描述了一种构建该菜单的巧妙方法。他们并非一次性编写后便置之不理,而是让图书管理员经历了数千道练习题。
- 错误:当图书管理员失败时(例如,因提出错误问题而得到错误答案),系统会分析其失败原因。
- 修正:如果图书管理员在特定类型的谜题上反复失败(例如连接两个相距甚远的事实),系统就会为该问题专门添加一张新的“技能卡”到菜单中。
- 结果:菜单随时间不断扩展和改进,成为一套可复用的策略集合,图书管理员可将其应用于新的、类似的问题。
4. 结果
研究人员在不同的人工智能模型(包括开源和专有模型)上测试了该方法。
- 更准确的答案:模型获得了显著更多的正确答案,尤其是在棘手的多步骤问题上。
- 减少无效努力:他们提出的问题更少、更精准。与其提出 5 个模糊的问题,他们只提出 2 到 3 个精确的问题。
- 无需“魔法”:他们使用标准的训练方法(监督微调)取得了这些成果,而非其他系统所使用的昂贵且复杂的试错方法(强化学习)。
总结
SEARCHSKILL 就像是给人工智能提供一份“搜索策略清单”,而不仅仅是一个搜索按钮。它迫使人工智能暂停,针对具体问题选择合适的策略,然后提出一个聪明、有针对性的问题。这使得人工智能变得更聪明、更快速,并且大大降低了在其自身搜索结果中迷失方向的可能性。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。