💬 NLP

AdaSwitch: Adaptive Switching between Small and Large Agents for Effective Cloud-Local Collaborative Learning

AdaSwitch 引入了一种协作学习框架，该框架在小型本地智能体与大型云端智能体之间自适应切换，使本地模型能够内省式地识别错误并就复杂推理步骤请求协助，从而在最小化计算成本的同时显著提升任务性能与效率。

原作者： Hao Sun, Jiayi Wu, Hengyi Cai, Xiaochi Wei, Yue Feng, Bo Wang, Shuaiqiang Wang, Yan Zhang, Dawei Yin

发布于 2026-05-19

📖 1 分钟阅读☕ 轻松阅读

原作者： Hao Sun, Jiayi Wu, Hengyi Cai, Xiaochi Wei, Yue Feng, Bo Wang, Shuaiqiang Wang, Yan Zhang, Dawei Yin

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你的手机里住着一位智能助手（“本地代理”），而在一台庞大且昂贵的云服务器里，有一位超级天才教授（“云端代理”）正在工作。

通常，你必须在二者之间做出选择：

本地代理速度快、成本低，且不需要互联网连接，但它有时会在难题上卡住，或者犯出一些愚蠢的数学错误。
云端代理极其聪明，极少犯错，但它运行缓慢、成本高昂，且需要强大的互联网连接。

ADASWITCH 是一个新系统，它能让这两者像一支完美的团队那样协同工作，让你无需为每一项任务都动用那位“超级天才”的高昂代价，就能同时获得两者的优势。

它是如何工作的：“自检”团队

将 ADASWITCH 想象为一个智能工作流：本地代理首先尝试解决问题。但其中的妙处在于：本地代理经过训练，能够知晓自己何时感到困惑。

尝试：本地代理（你手机上的 AI）尝试解决一道数学题或回答一个问题。
自检：在继续之前，本地代理会暂停并自问：“我刚才犯错了吗？”
- 如果它回答：“不，我没问题”，它便继续前进。
- 如果它回答：“等等，这看起来不太对”，它会立即呼叫云端代理寻求帮助。
救援：云端代理（那位教授）介入，修正具体的错误，并将修正后的步骤交还给本地代理。
收尾：本地代理接过修正后的步骤，独自完成剩余的任务。

它们如何学会协作

你可能会问：“本地代理怎么知道何时该寻求帮助？”研究人员通过一个三步“训练营”教会了它：

练习：本地代理在简单问题上进行练习，以掌握基础知识。
考试：本地代理参加考试。当它答错问题时，云端代理不会直接给出答案，而是向本地代理展示它究竟在哪里出错以及如何修正。
反思：本地代理研究这些“错误与修正”的示例。它学会了识别“陷入困境”的感觉，因此下次它就知道确切何时该举手，并向云端代理请求协助。

结果：更聪明且更经济

该论文在棘手的数学问题和复杂问题上测试了这一系统。以下是他们的发现：

显著进步：本地代理变得聪明得多。例如，一个原本只有 29% 正确率的小型模型，在使用该系统后，正确率跃升至近 54%。
成本节约：尽管他们使用了强大的云端代理，但并未在每一步都调用它。他们仅在必要时才进行调用。这意味着该系统取得了几乎与单独使用云端代理相当的效果，但计算成本降低了 3 到 5 倍。
灵活性：本地代理学会了“知道何时寻求帮助”这项技能，而不仅仅是如何解决特定问题。这意味着它可以与不同的云端代理（不同的“教授”）协作，而无需重新训练。

简而言之

ADASWITCH 就像拥有一个会自己做作业的学生，但他确切知道何时该为难题打电话给家教。你获得了学生独立工作的速度和低成本，同时拥有了家教仅在绝对必要时介入所带来的准确性。这是一种在不耗尽资金的情况下让 AI 变得更聪明的方法。

技术摘要：ADASWITCH

问题陈述

大型语言模型（LLM）的广泛采用为用户带来了一种两难困境：依赖云端大规模模型虽能提供高质量的生成效果，但会产生巨大的计算成本、带宽消耗和延迟；反之，部署小型本地 LLM 虽能降低成本并提升隐私性，却往往难以在需要深思熟虑的复杂推理任务上提供令人满意的性能。现有的解决方案（如知识蒸馏或模型量化）虽提升了本地效率，但在高难度场景下仍遭受严重的性能退化。核心挑战在于，如何充分利用大型云端模型的推理能力，同时保持本地部署的高效性与可及性。

方法论：ADASWITCH 框架

为解决这一问题，作者提出了ADASWITCH，这是一个新颖的框架，旨在实现本地智能体（小型 LLM）与云端智能体（大型 LLM）的协同运作。该系统设计为允许本地智能体独立处理较简单的推理步骤，并主动在遇到复杂步骤时寻求云端智能体的协助。

该框架通过一个三阶段的多阶段学习范式运行：

自我练习（Self-Practicing）： 本地智能体首先在训练数据集上进行微调，以建立基本的推理能力。交互轨迹通过将真实推理步骤转换为“思考 - 行动 - 观察”序列来生成。
协同考核（Collaborative Examination）： 本地智能体在训练集上进行“考核”。在此阶段，一个基于规则的机制（针对数学任务利用中间结果验证，针对文本任务利用语义等价性检查）动态识别错误的推理步骤。一旦检测到错误，云端智能体即被激活，通过擦除错误步骤并重新生成正确步骤来修正错误。随后，本地智能体基于此修正继续执行。该过程生成了一个包含错误检查与错误修正轨迹的数据集。
反思学习（Reflective Learning）： 本地智能体在第二阶段生成的轨迹上进行微调。关键在于，在计算损失时，对应于原始错误思考和行动的 token 会被屏蔽。这防止了模型学习错误的模式，同时教导其识别错误并利用反馈。

推理机制（ADASWITCH 模式）：
在推理过程中，本地智能体在“思考 - 行动 - 反思”的循环中运行。它会内省地预测前一步骤出错的概率。如果该概率超过预定义的激活阈值（ $p$ ），系统即切换至ADASWITCH模式，激活云端智能体来修正该步骤。这与“自我反思”模式（本地智能体尝试独自修正错误）或“随机/顺序”切换策略形成对比。

主要贡献

自适应切换范式： 本文提出了一种机制，本地智能体通过内省识别错误并主动寻求协助，有效融合了本地部署与云端 LLM 的优势。
错误检查数据集构建： 作者提出了一种构建专用数据集的方法，通过在协同考核期间由云端智能体修正本地智能体的错误，激励本地智能体学习“何时”寻求帮助以及“如何”利用反馈。
成本与性能的平衡： 该框架在显著降低计算开销（相较于仅依赖大型云端模型）的同时，实现了本地智能体性能的显著提升。

实验结果

作者在七个基准测试中评估了 ADASWITCH，包括数学推理（GSM8K, G_Hard, MultiArith, SVAMP, ASDIV）和复杂问答（MuSiQue, HotpotQA）。

性能提升： ADASWITCH 一致地提升了本地智能体的性能。
- 使用DeepSeek-Coder-1.3B作为本地智能体，GSM8K 上的性能从29.3%提升至53.9%（提升了 24.6 个百分点）。
- 使用StarCoder2-3B作为本地智能体，GSM8K 上的性能从48.8%提升至60.6%。
- 在G_Hard等困难数据集上，1.3B 模型实现了**86.9%**的相对提升。
竞争力： 经 ADASWITCH 增强的 3B 本地智能体，在多项任务上达到了与Llama-3-33B云端智能体相当的性能，但计算开销仅为后者的五分之一。
成本效益： 与 exclusively 使用 33B 云端智能体相比，ADASWITCH（使用 1.3B 本地智能体 + 33B 云端智能体）以三分之一的计算成本实现了相似的准确率。
消融研究： 移除云端智能体或反思学习阶段会显著降低性能，证实了协同修正与针对错误修正轨迹进行特定训练的必要性。
泛化能力： 该框架展现了强大的泛化能力，允许使用 33B 云端智能体训练的本地智能体，在不重新训练的情况下，有效地与不同的云端智能体（13B、32B、70B）进行协作。

意义与主张

本文主张，ADASWITCH 代表了使高质量 LLM 推理变得可及且高效的重要一步。通过模仿人类行为——即个体在面对困难部分时向知识更渊博的来源寻求帮助——该框架使得小型模型能够“以小博大”（punch above their weight）。

作者强调，他们的方法有效地平衡了计算成本与任务完成性能之间的权衡。他们断言，该框架使本地智能体能够独立处理大多数简单步骤，而仅将昂贵的云端资源保留给最具挑战性的推理步骤。这项工作表明，此类自适应、协作式框架是将强大的 AI 能力部署到本地设备而不牺牲大型云端模型所提供的推理深度的可行路径。

作者指出了局限性，具体而言，目前的评估仅限于数学和复杂问答任务，且由于资源限制，未在参数量超过 100B 的模型上进行实验。他们建议未来的工作应探索将此方法扩展到更广泛的推理任务和更大规模的模型。