💻 computer science

Toward Scalable Terminal Task Synthesis via Skill Graphs

本文介绍了 SkillSynth，这是一个自动化框架，它利用场景介导的技能图来合成多样化且可控的终端任务实例，从而解决数据稀缺问题并增强自主终端智能体的训练。

原作者： Zhiyuan Fan, Tinghao Yu, Yuanjun Cai, Jiangtao Guan, Yun Yang, Dingxin Hu, Jiang Zhou, Xing Wu, Zhuo Han, Feng Zhang, Lilin Wang

发布于 2026-04-29

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Zhiyuan Fan, Tinghao Yu, Yuanjun Cai, Jiangtao Guan, Yun Yang, Dingxin Hu, Jiang Zhou, Xing Wu, Zhuo Han, Feng Zhang, Lilin Wang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你想教一个机器人如何使用计算机的命令行（即你输入命令的文本界面）来完成复杂任务，比如整理文件或修复软件漏洞。问题在于，教机器人需要向它展示成千上万个如何完成这些任务的示例。但手动寻找或编写成千上万个“好”且“不同”的示例极其缓慢且昂贵。

本文的作者，即腾讯的混元团队，构建了一个名为SkillSynth的系统来解决这一问题。可以将 SkillSynth 想象成一个用于机器人训练的超高效“食谱生成器”。

以下是其工作原理，分解为简单步骤：

1. 问题：太多相似的“食谱”

以往的方法试图通过以下方式创建训练示例：

猜测：让一个聪明的 AI 发明新任务（但这些任务往往听起来很假，或与实际情况不符）。
窃取：从互联网上获取真实代码，并故意破坏它以创建“修复”任务（这仅教会机器人如何修复软件，而无法教会它做其他事情）。

这两种方法都导致机器人反复看到相同类型的问题。这就像只给厨师提供意大利面食谱来教他们烹饪。他们可能擅长做意大利面，但不知道如何制作沙拉或烘焙蛋糕。

2. 解决方案：“技能图”（地图）

SkillSynth 不再仅仅依靠猜测，而是构建了一张巨大的地图（称为技能图）。

地点（场景）：想象计算机可能处于的不同状态，例如“文件夹为空”或“视频文件已就绪”。这些就是地图上的“地点”。
道路（技能）：这些是机器人从一个地点移动到另一个地点可采取的行动，例如“删除文件”或“转换视频”。

团队从现实世界来源（如 GitHub 和一个名为 ClawHub 的数据库）收集了成千上万条这样的“道路”。随后，他们将道路连接起来，使得完成一个行动后，你会到达一个让下一个行动合乎逻辑的地点。

3. 过程：绘制路径

一旦地图构建完成，SkillSynth 就不会只选择一条道路，而是在地图上绘制一条路径。

它选择一个起点。
它选择一条道路（技能）来行进。
它到达一个新地点，选择另一条道路，并继续前行。

类比：想象你在规划一次公路旅行。与其仅仅从家开车到杂货店（单一技能），你规划了一条路线：家 → 加油站 → 风景路线 → 面包店 → 杂货店。这条路径代表了一个复杂的多步骤任务。

该系统在此方面非常智能：它会尽量避免重复使用之前用过的热门道路。这确保了机器人能看到新且不同的路径，从而使训练更加丰富。

4. 装配线：多智能体框架

一旦在地图上绘制出一条路径，系统就需要将该抽象路径转化为机器人可实际执行的真实任务。他们使用一个 AI 智能体团队（即“框架”）来完成这一工作：

规划器：查看路径并编写一套清晰的指令（例如，“将此原始视频转换为 GIF"）。
构建器：构建实际环境（文件、文件夹、初始状态），以便机器人有东西可操作。
裁判：进行两次不同的检查：
1. 神谕检查：是否存在完美的解决方案？（该任务是否真的可解？）
2. 评分标准检查：指令是否清晰？测试是否公平？（我们是否无意中让指令变得太难或太容易？）

如果任务未能通过这些检查，系统会自动修复并再次尝试，就像工厂中的质量控制流水线一样。

5. 结果

团队运行该系统，在单次自动化运行中创建了3,560 个经过验证的高质量任务。

多样性：这些任务涵盖了极其多样的场景和技能，远超以往方法。
难度：这些任务确实很难。即使是非常聪明的 AI（Claude Opus 4.6）也难以解决其中的许多任务，平均需要 37 个步骤才能完成。
性能：当他们利用这些新任务训练自己的机器人（使用如 Qwen3 等模型）时，与在旧且多样性较低的数据上训练的机器人相比，这些机器人在解决终端任务方面有了显著提升。

核心结论

SkillSynth 是一种自动生成海量、多样化“计算机杂务”库的方法，供机器人练习。通过描绘不同计算机技能如何相互连接，他们可以创造出无数新的、真实的挑战。这有助于训练 AI 智能体变得更加多才多艺和强大，不仅限于修复软件，还能处理各种现实世界的计算机任务。

注意：该论文明确指出，这些合成任务已被用于训练Hy3 Preview（腾讯的一款产品），提升了其在终端环境中作为智能体行动的能力。作者并未声称除终端自动化方面的这一普遍改进外，还有医疗、临床或其他特定的未来应用。

以下是论文《Toward Scalable Terminal Task Synthesis via Skill Graphs》（SkillSynth）的详细技术总结。

1. 问题陈述

终端智能体（通过命令行界面交互的大语言模型）在自主系统管理方面展现出潜力，但严重受限于用于训练的高质量、多样化执行轨迹的稀缺。

当前局限： 现有的终端任务扩展方法依赖于：
- LLM 生成的分类法： 往往偏离实际使用情况。
- GitHub 仓库逆向工程： 从真实代码库中推导任务，但将范围局限于软件工程（例如修复漏洞），且未能控制执行路径（场景和技能序列）的多样性。
核心洞察： 终端智能体的轨迹由两个维度定义：它 traverses 的场景（中间状态）以及它调用的技能（动作）。训练需要数据密集覆盖 $(\text{scenario}, \text{skill})$ 对的条件积空间。现有方法在这些维度上表现出冗余，导致学习次优。

2. 方法论：SkillSynth

作者提出了 SkillSynth，这是一个自动化框架，通过将工作流建模为场景介导技能图上的路径来合成多样化的终端任务。

A. 技能图构建

该框架构建了一个有向多重图 $G = (\Omega, K)$ ，其中：

节点 ( $\Omega$ )： 场景（对系统状态具有决策相关性的抽象）。
边 ( $K$ )： 技能（从前提场景到后置场景的有向转换）。
流程：
1. 技能过滤： 聚合来自 ClawHub 和公共 GitHub 仓库的技能，过滤可执行性、结构化工作流和安全性（无越狱）。
2. 场景推断： 利用 LLM 推断每个技能的前提场景和后置场景。
3. 语义去重： 使用层次凝聚聚类，对语义相同但词汇不同的场景进行聚类和合并。
4. 跨技能对齐： 通过嵌入相似度和 LLM 验证，将一个技能的后置场景与另一个技能的前提场景匹配，从而连接技能。
- 结果： 一个包含约 8.2 万个场景、约 5.7 万个技能以及约 18.5 万个已验证桥梁的图。

B. 图引导路径采样

SkillSynth 不使用随机游走（倾向于高degree节点），而是采用逆频率路径采样（算法 1）：

机制： 维护场景 ( $\nu$ ) 和技能 ( $\mu$ ) 的访问计数。
概率： 以与 $(count + 1)^{-1}$ 成正比的概率采样下一步。
约束： 强制单调推进（在单条路径内不重复访问节点）以确保多样性。
目标： 将经验分布引导至 $(\text{scenario}, \text{skill})$ 空间的均匀覆盖。

C. 多智能体合成工具

采样的路径通过多智能体系统实例化为可执行任务：

规划器： 将抽象路径转换为结构化的子目标计划。
构造器： 生成完整的任务实例（指令、初始文件系统、Docker 环境、验证脚本、Oracle 解决方案）。
双重验证：
- Oracle 检查： 在容器中执行解决方案以确保其可解性。
- 评分标准检查： 使用“作为法官的 LLM"验证指令与测试的对齐情况，并确保无解决方案泄露。
迭代修复： 失败的实例在使用工具增强的智能体进行最多 3 次修复循环后，若仍失败则被丢弃。

3. 主要贡献

理论建模： 将终端智能体轨迹形式化为场景和技能的序列，识别出为了有效训练，需要最大化 $(\sigma, \kappa)$ 空间中的多样性。
SkillSynth 框架： 一个端到端的自动化流程，构建场景介导技能图并合成任务，无需人工干预。
可扩展合成： 在单次运行中，从 3,721 条采样路径中成功合成了 3,560 个已验证任务实例，Oracle 通过率高达 95.7%，平均每个任务成本为 27.3 美元。
实证验证： 证明了图引导合成比单技能或随机多技能基线能产生更难、更多样化的任务，从而带来一致的性能提升。

4. 实验结果

数据集： 使用 3,560 个已验证任务通过监督微调（SFT）训练 Qwen3 模型（8B、14B、32B）。
基准测试： 在 Terminal-Bench 1.0 和 2.0 上进行评估。
性能提升：
- Qwen3-32B + SkillSynth 在 TB 1.0 上达到 33.8%，在 TB 2.0 上达到 29.6%。
- 这优于规模大得多的 Qwen 3 Coder 480B（TB 2.0 上为 23.9%），证明了针对性的数据多样性比单纯的模型规模更有效。
- 消融实验： 在 TB 2.0 上，SkillSynth 任务比“单技能”基线高出约 8.4 分，比“随机多技能”基线高出约 3.8 分。
任务难度： 38% 的合成任务即使经过 3 次尝试，智能体也无法解决（0/3 成功），表明其具有高复杂性。
多样性： 与单技能基线相比，SkillSynth 轨迹显示出 31% 更高的独特场景 - 技能覆盖率。

5. 意义与未来工作

范式转变： 将终端任务合成从“基于数量”（生成大量相似任务）转变为“基于多样性控制”（确保状态 - 动作空间的覆盖）。
成本效益： 提供了一种可扩展、低成本的生成高质量训练数据的方法，使较小的模型能够在终端任务中与较大的专有模型竞争。
现实世界对齐： 通过将合成建立在现实世界技能（ClawHub/GitHub）和场景转换的基础上，生成的任务更好地反映了实际用户工作流。
未来方向： 扩展到更大的数据领域，适应更便宜的模型，并探索子图采样以支持多个技能的并行执行，进一步增加任务复杂度。

结论： SkillSynth 有效地弥合了高质量终端数据稀缺与多样化训练轨迹需求之间的差距，为可扩展、自动化的终端智能体训练确立了新标准。