💬 NLP

Team of Thoughts: Efficient Test-time Scaling of Agentic Systems through Orchestrated Tool Calling

该论文提出了"Team-of-Thoughts"框架，通过引入编排器校准与代理自评估机制，将异构模型作为专用工具进行动态编排，从而在数学推理和代码生成等任务中显著超越了现有的同质多智能体系统。

原作者： Jeffrey T. H. Wong, Zixi Zhang, Junyi Liu, Yiren Zhao

发布于 2026-03-26

📖 1 分钟阅读☕ 轻松阅读

原作者： Jeffrey T. H. Wong, Zixi Zhang, Junyi Liu, Yiren Zhao

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文提出了一种名为"思维团队"（Team-of-Thoughts）的新方法，旨在让大型人工智能（AI）在处理复杂任务时变得更聪明、更高效。

为了让你轻松理解，我们可以把现在的 AI 世界想象成一个超级天才的“独行侠”，而这篇论文提出的方案则是组建一个**“全明星特种部队”**。

1. 核心问题：为什么现在的 AI 还不够完美？

现状：单打独斗的局限性
目前的 AI 系统（多智能体系统）通常像是一个**“克隆人军团”**。比如，让同一个 AI 模型扮演“数学家”、“程序员”和“编辑”三个角色来讨论问题。

比喻：这就像让同一个演员在舞台上分饰三角。虽然他演技很好，但他脑子里的“剧本”和“思维方式”只有一套。如果这个演员不擅长解数学题，那让他扮演数学家也解不出来；如果他不擅长写代码，扮演程序员也会出错。大家虽然分工不同，但底层的“大脑”是一样的，缺乏真正的多样性。

痛点：

同质化：大家想问题的角度太像了，容易一起掉进同一个思维死胡同。
效率低：不管问题多简单，都要让所有“角色”都跑一遍流程，浪费时间和算力（就像让 10 个人去搬一块小砖头）。

2. 解决方案：思维团队（Team-of-Thoughts）

这篇论文提出的新框架，不再让 AI 扮演角色，而是把它们当成真正的“专家工具”。

核心概念： heterogeneous（异构）团队
想象你要解决一个极其复杂的案件（比如写一个复杂的软件或解一道奥数题）。

旧方法：找 5 个长得一模一样的侦探，让他们轮流思考。
新方法（思维团队）：你有一个**“总指挥”（Orchestrator），他手底下有一群性格迥异、技能点完全不同的专家**：
- 有的擅长数学逻辑（像爱因斯坦）；
- 有的擅长写代码（像顶级黑客）；
- 有的擅长找漏洞（像质检员）；
- 有的虽然数学不好，但文笔极好（像作家）。

关键创新点：

A. 总指挥的“ Calibration"（校准与选人）

总指挥不是随便抓人的。他先进行“体检”，知道谁擅长什么。

比喻：就像项目经理。在开工前，他先问：“谁最擅长解这道数学题？谁最擅长写 Python 代码？”
发现：论文发现，最聪明的模型不一定是最好的“指挥官”。有些模型虽然自己解题很强，但不会指挥别人；有些模型虽然解题一般，但特别擅长整合大家的意见。所以，系统会专门挑选最适合做“总指挥”的模型。

B. 专家的“自我评估”（Self-Assessment）

每个专家在干活前，都要先**“自我反省”**。

比喻：就像医生在手术前自查。
- 数学专家会说：“我擅长代数，但几何有点弱。”
- 代码专家会说：“我写后端很稳，但前端 UI 容易出错。”
作用：这些“自我体检报告”会交给总指挥。当新问题来临时，总指挥只看报告，精准呼叫最合适的专家，而不是让所有人都上来瞎忙活。

C. 只给“结论”，不给“废话”

这是论文的一个有趣发现。

比喻：如果你问专家“怎么做”，他可能会啰嗦一大堆思考过程（中间步骤），其中可能夹杂着错误。
策略：总指挥只要求专家直接给出最终答案，或者只给最关键的结论。
原因：如果让总指挥阅读所有专家的长篇大论，他会被“信息噪音”淹没，反而变笨了。只给精华，总指挥才能做出最准确的判断。

3. 效果如何？（实战表现）

论文在数学竞赛（AIME）和编程比赛（LiveCodeBench）上做了测试：

数学题：以前最好的单模型能答对 80%，这个“思维团队”能答对 96%。
编程题：以前最好的单模型能答对 65%，这个团队能答对 77.9%。
省钱：因为它只调用需要的专家，不浪费资源，所以在达到更高准确率的同时，花费的成本反而更低（就像只派最合适的 2 个人去干活，而不是派 10 个克隆人）。

4. 总结：这到底意味着什么？

“思维团队”就像是一个高效的咨询公司：

不再搞“角色扮演”：不再让同一个 AI 假装成不同的人。
真正的“人尽其才”：让擅长数学的做数学，擅长代码的写代码。
聪明的“总指挥”：有一个大脑专门负责在合适的时间，叫最合适的人，并过滤掉废话，只整合精华。

一句话总结：
这篇论文告诉我们，与其让一个超级 AI 拼命思考，不如组建一个由不同特长 AI 组成的“特种部队”，由一个聪明的指挥官精准调度，这样既能解决更难的难题，又能省下一大笔“脑力”开销。

《思维团队（Team-of-Thoughts）：通过编排式工具调用实现智能体系统的高效测试时扩展》技术总结

1. 研究背景与问题定义 (Problem)

核心问题：
现有的多智能体系统（Multi-Agent Systems, MAS）通常依赖**同质化（Homogeneous）**的模型配置（即使用同一模型的不同“角色”或“人设”）。这种设计存在两个主要缺陷：

无法利用异构模型的互补优势： 不同架构或经过不同后训练（Post-training）的大语言模型（LLM）具有独特的专业领域知识。同质化系统无法利用这种多样性来覆盖更广阔的解空间。
测试时扩展（Test-Time Scaling, TTS）效率低下： 现有的 TTS 方法（如思维链 CoT、思维树 ToT）通常局限于单模型执行或静态的多智能体工作流。它们缺乏动态灵活性，无法根据任务属性动态选择最合适的模型，导致计算资源浪费或无法解决复杂任务。

目标：
提出一种新的框架，能够利用异构模型（Heterogeneous Models）的多样性，通过动态编排（Orchestration）和工具调用（Tool Calling）机制，在推理阶段（Inference）实现高效的能力扩展，从而在数学推理和代码生成等复杂任务上超越单一模型和现有的同质化多智能体系统。

2. 方法论：Team-of-Thoughts 框架 (Methodology)

该论文提出了 Team-of-Thoughts (ToT)，一个基于**编排式工具调用（Orchestrated Tool Calling）**的异构多智能体框架。其核心思想是将不同的 LLM 视为具有特定专长的“工具”，由一个中央“编排器（Orchestrator）”动态调用。

2.1 核心架构

系统由两部分组成：

编排器（Orchestrator）： 负责理解用户查询，根据任务需求动态选择最合适的工具智能体，并整合它们的输出。
工具智能体集合（Tool Agents）： 一组具有不同参数化分布（ $\theta_1, \theta_2, ..., \theta_n$ ）的异构模型，每个模型在特定领域具有不同的能力分布。

2.2 关键组件与机制

A. 编排器校准 (Orchestrator Calibration)

目的： 识别哪个模型最适合作为“管理者/编排器”。
发现： 模型作为独立求解器的能力与其作为协调者的能力并不总是正相关。某些模型擅长“整合推理”，而另一些则更适合作为特定领域的工具。
方法： 在特定任务类别（如数学或代码）的校准集上，评估候选模型聚合工具智能体响应的准确性，选择得分最高的模型作为该领域的编排器。

B. 智能体自我评估 (Agent Self-Assessment)

目的： 让工具智能体主动描述其能力边界，指导编排器的选择。
流程：
1. 实证画像： 工具智能体在验证集上生成预测和推理轨迹。
2. 性能量化： 计算其在不同任务类别上的准确率。
3. 定性描述： 生成自然语言的“能力画像”（Capability Profile），明确说明其在哪些领域表现优异、哪些领域存在弱点。
优势： 这种机制使编排器能够根据任务与智能体画像的匹配度进行动态优先级激活，仅调用最相关的工具，而非盲目调用所有智能体。

C. 概率视角与高斯混合模型 (Probabilistic View)

论文将单模型推理视为在解空间中的线性漂移（Linear Drift），容易陷入局部最优。
Team-of-Thoughts 被建模为高斯混合模型（Gaussian Mixture Model, GMM）。编排器通过选择多个异构智能体，相当于在解空间中初始化了多个“探索头”，能够直接“跳跃”到由特定工具定位的高概率区域，从而覆盖更广阔的解空间。

D. 响应聚合策略

研究发现，在聚合时仅返回最终答案（而非完整的推理轨迹）效果更佳。
完整的推理轨迹会引入上下文噪声和中间逻辑错误，干扰编排器的判断。过滤掉中间步骤能保持全局上下文的清洁，提高决策鲁棒性。

3. 主要贡献 (Key Contributions)

Team-of-Thoughts 框架： 提出了一种新颖的 MAS 架构，利用动态工具调用层级，使异构 LLM 能够协作，最大化能力覆盖范围。
编排与自我评估机制：
- 引入了编排器校准，解决了“谁最适合做管理者”的问题，打破了“模型越大越好”的默认假设。
- 设计了智能体自我评估协议，使工具能够自我剖析领域专长，实现基于画像的动态选择。
实证优越性： 在数学推理和代码生成基准测试中，该框架 consistently 优于独立模型和现有的同质化多智能体基线。
可扩展性分析： 揭示了多智能体系统的性能并非随智能体数量线性增长，存在“选择过载（Selection Overload）”瓶颈，证明了少量（如 2 个）精心选择的智能体优于大量随机激活的智能体。

4. 实验结果 (Results)

实验涵盖了 7 个模型家族（包括 Claude Sonnet 4.5, GPT-5 Mini, DeepSeek v3.2, Gemini 3 Flash 等），并在 5 个基准测试中进行了评估。

4.1 性能表现

数学推理 (AIME2024 & AIME2025)：
- Team-of-Thoughts 在 AIME2024 上达到 96.00% 的 Pass@1 准确率，显著优于同质化基线（AgentVerse 为 80.00%）和最佳单模型（DeepSeek v3.2 为 94.67%）。
- 在 AIME2025 上达到 95.33% (Pass@1)，接近理论上限（Theoretical Limit）。
代码生成 (LiveCodeBench, MBPP+, HumanEval+)：
- 在 LiveCodeBench 上达到 77.91% (Pass@1)，远超同质化基线（65.93%）。
- 在 MBPP+ 上实现了 SOTA 结果，且在 Pass@k 指标上表现出优秀的扩展性。

4.2 关键发现

编排器选择的重要性： DeepSeek v3.2 在数学任务中表现最好的编排器，而 GPT-5 Mini 在代码任务中表现最佳。这证明了编排能力与模型规模解耦。
自我评估的有效性： 使用“智能体自我评估”策略比“编排器主导评估”或“随机调用”获得了更高的准确率。
聚合策略： 仅聚合最终答案（排除中间推理轨迹）能显著提升性能，避免了上下文噪声。
激活密度与集合广度：
- 激活密度： 每次调用激活的智能体数量（k）并非越多越好。实验表明，当 k=2 时效果最佳；当 k 增加到 8 或 16 时，Pass@1 性能显著下降（由于聚合过程中的方差增加）。
- 集合广度： 当可用智能体池超过 50 个时，编排器的选择一致性（Agreement）急剧下降，导致性能衰退。这表明当前的编排器在处理大规模工具池时存在瓶颈。

5. 意义与局限性 (Significance & Limitations)

意义

范式转变： 从“单模型深度推理”或“同质化角色扮演”转向“异构模型动态协作”，充分利用了不同模型架构的互补性。
成本效益： 通过精准调用最合适的模型，避免了为所有任务调用昂贵的大模型，实现了更高的性价比（如图 1 所示，在 Pareto 前沿上表现优异）。
测试时扩展新路径： 提供了一种无需重新训练模型即可显著提升推理能力的方法，通过推理时的计算资源分配（调用不同专家）来突破单一模型的参数限制。

局限性

中心化瓶颈： 系统依赖单一 LLM 作为编排器。当工具智能体池规模扩大（如扩展到 100 个模型）时，编排器面临“选择过载”，导致决策质量下降和输出方差增加。
上下文限制： 当前的编排器在处理大量工具响应和长上下文时，其迭代推理过程缺乏鲁棒性。
未来方向： 需要更先进的长上下文推理能力和分层信息聚合机制，以支持更大规模的工具智能体集群。

总结： Team-of-Thoughts 通过引入“编排器校准”和“智能体自我评估”，成功构建了一个高效、动态的异构多智能体协作系统，在复杂推理任务上取得了显著的性能突破，为未来大规模智能体系统的构建提供了重要的理论依据和实践指导。