💬 NLP

Squeeze Evolve: Unified Multi-Model Orchestration for Verifier-Free Evolution

本文提出了名为"Squeeze Evolve"的统一多模型编排框架，通过按需分配不同成本模型的计算资源以解决无验证器进化中的多样性与效率瓶颈，在显著降低 API 成本并提升吞吐量的同时，实现了多项基准测试上的新最优性能，甚至媲美基于验证器的进化方法。

原作者： Monishwaran Maheswaran, Leon Lakhani, Zhongzhu Zhou, Shijia Yang, Junxiong Wang, Coleman Hooper, Yuezhou Hu, Rishabh Tiwari, Jue Wang, Harman Singh, Qingyang Wu, Yuqing Jian, Ce Zhang, Kurt Keutzer, T

发布于 2026-04-10

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Monishwaran Maheswaran, Leon Lakhani, Zhongzhu Zhou, Shijia Yang, Junxiong Wang, Coleman Hooper, Yuezhou Hu, Rishabh Tiwari, Jue Wang, Harman Singh, Qingyang Wu, Yuqing Jian, Ce Zhang, Kurt Keutzer, Tri Dao, Xiaoxia Wu, Ben Athiwaratkun, James Zou, Chenfeng Xu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文介绍了一个名为 SQUEEZE EVOLVE（挤压进化） 的新方法。为了让你轻松理解，我们可以把它想象成一家**“超级高效的创意工作室”**的运作模式。

🌟 核心问题：为什么现在的 AI 进化太贵、太慢？

想象一下，你想让 AI 解决一个超级难的数学题或设计一个复杂的图案。

传统方法（单一模型进化）： 就像你雇佣了一位世界顶级的诺贝尔奖得主（昂贵的模型）来反复思考、修改、再思考。虽然这位大师很厉害，但他太贵了！而且，如果让他一直重复同样的思考路径，他可能会陷入思维定势，想不出新花样（这叫“多样性崩溃”）。
带验证器的方法： 就像请了一位严厉的考官在旁边，每写一步就检查对错。但这在现实中往往行不通，因为有些问题（比如核聚变研究）根本没有现成的“标准答案”可以检查，或者请考官的成本比请大师还高。

结果就是： 要么烧钱烧不起，要么想不出好点子。

💡 SQUEEZE EVOLVE 的解决方案：聪明的“团队分工”

SQUEEZE EVOLVE 的核心思想很简单：“好钢用在刀刃上，便宜的人做基础活。”

它不再只雇佣一位“诺贝尔奖得主”，而是组建了一个混合团队：

大师（昂贵模型）： 负责最关键的起步和最难的部分。
实习生（便宜模型）： 负责大量的草稿、修改和整理。
智能调度员（路由机制）： 负责决定哪部分工作交给谁。

🎨 生动的比喻：写小说的“主编与编辑团队”

想象你要写一本畅销书（解决难题）：

起步阶段（初始化）：
- 做法： 你请大师（昂贵模型）来构思故事大纲和第一章。
- 原因： 就像盖房子，地基打不好，后面再装修也没用。论文发现，起步的质量决定了最终的上限。
进化阶段（迭代修改）：
- 做法： 故事写了几章后，你不需要每次都请大师来改。
- 智能调度： 系统会检查每一章的“自信度”。
  - 如果这一章大家意见很统一，或者内容很简单（比如只是润色一下句子），调度员会直接把它交给实习生（便宜模型）去改。这就像让实习生去整理文档，成本极低。
  - 如果这一章大家意见分歧很大，或者逻辑很混乱（比如剧情卡住了），调度员会立刻把这一章交给大师来深度思考。
- 结果： 你只在大脑最累、最需要智慧的时候花钱，其他时候用低成本方案。
多样性保护（防止思维僵化）：
- 如果只用一个模型，它可能会反复写出相似的故事（多样性崩溃）。
- SQUEEZE EVOLVE 混合了不同性格的“作者”（不同模型）。有的擅长逻辑，有的擅长发散。这种**“混血”**团队能保证故事（解决方案）始终丰富多彩，不会陷入死胡同。

🚀 它带来了什么惊人的效果？

论文在数学、编程、视觉推理甚至科学发现（比如“圆堆积”问题）上做了测试，结果非常亮眼：

省钱（成本降低 3 倍）：
- 以前解决一个问题可能要花 17 美元，现在只要 7 美元。就像你以前请大师写全书，现在只请他写大纲和关键章节，其他交给实习生，省下的钱能买好几杯咖啡。
提速（效率提升 10 倍）：
- 在同样的预算下，以前只能处理 1 个任务，现在能处理 10 个。因为大部分时间都在用便宜的“实习生”干活，速度快且便宜。
甚至更强（效果超越）：
- 在 ARC-AGI-V2（一个极其难的抽象推理测试）上，它用 7.74 美元就拿到了 97.5% 的准确率，而之前最好的方法（需要代码执行和昂贵模型）要花 11.77 美元，准确率还略低。
- 在科学发现任务中，它是第一个在没有外部“考官”验证的情况下，就能达到甚至超过那些有验证器方法的成果。

🌍 总结：为什么这很重要？

这就好比**“技术民主化”**。
以前，只有大公司才用得起最聪明的 AI 来探索科学难题。SQUEEZE EVOLVE 告诉我们：不需要最贵的模型，只需要最聪明的“用工策略”。

它把昂贵的“超级大脑”和便宜的“普通大脑”完美结合，用最少的钱，办最大的事。这不仅让 AI 变得更便宜、更快，还让它能在没有标准答案的领域（如科学研究）里，像真正的科学家一样去“进化”和“发现”。

一句话总结： SQUEEZE EVOLVE 就是给 AI 进化装上了一个**“智能省钱开关”，让昂贵的大脑只在关键时刻出手，让便宜的大脑处理日常琐事，最终实现了“花小钱，办大事，甚至办成大事”**。

SQUEEZE EVOLVE 技术总结

1. 研究背景与问题定义

核心问题：
在测试时扩展（Test-time Scaling）领域，无验证器进化（Verifier-Free Evolution） 面临着两个主要瓶颈：

多样性崩溃（Diversity Collapse）： 在没有外部验证信号（如奖励模型或执行结果）的情况下，单一模型的反复进化会导致种群迅速收敛到狭窄的解空间模式，导致 Pass@K（K 次尝试中的通过率）显著下降。
计算效率与成本失衡： 现有的进化方法通常使用单一的高成本模型进行所有步骤（初始化、生成、重组），导致计算资源浪费。特别是在需要生成大量 Token 的进化过程中，高昂的 API 成本使其在经济上不可持续。

现有挑战：

传统的验证器驱动方法（如 AlphaEvolve）虽然有效，但依赖昂贵的外部验证器或代码执行，增加了延迟和成本。
单纯的无验证器方法（如 RSA）虽然去除了验证成本，但受限于单一模型的能力上限和多样性丧失，性能往往不如验证器驱动的方法。
如何在不依赖外部验证器的前提下，同时解决多样性维持和成本效率问题，是当前亟待解决的难题。

2. 方法论：SQUEEZE EVOLVE

SQUEEZE EVOLVE 是一个统一的多模型编排（Multi-Model Orchestration） 框架，旨在通过智能分配不同成本模型的能力，实现无验证器进化的高效运行。

核心原则

“边际效用最大化”原则： 将高成本、强能力的模型保留给对最终结果影响最大的关键阶段（如高难度重组），而让低成本模型处理其他阶段。

关键组件与流程

统一的进化框架：
论文将现有的测试时扩展方法（如多数投票、自精炼、RSA、AlphaEvolve）统一为一个进化算子 $\Phi_f = \text{recomb}_f \circ \text{select}_f$ 。
- 初始化 (Initialization)： 使用最强的模型（Model 2）生成初始种群，因为初始化质量直接决定最终上限。
- 适应度信号 (Fitness Signal)： 在无验证器设置下，利用模型内在的置信度信号（如 Token 的对数概率）或组内多样性（答案的唯一性）作为适应度指标，替代外部验证器。
- 选择 (Selection)： 根据适应度信号将候选解分组。
基于置信度的路由机制 (Confidence-Based Routing)：
这是该框架的核心创新。在重组（Recombination）阶段，系统根据每个候选组的“难度”（由置信度或多样性衡量）动态路由到不同的模型：
- 高置信度/低多样性组（简单）： 路由到低成本模型（Model 1） 或直接使用轻量级聚合（如多数投票）。
- 低置信度/高多样性组（困难）： 路由到高成本模型（Model 2） 进行深度重组。
- 轻量级聚合 (Lite Aggregation)： 对于已达成共识的组，直接使用非 LLM 方法聚合，进一步节省成本。
系统实现优化：
- 延迟匹配服务 (Latency-Matched Serving)： 将 GPU 资源池划分为大模型池和小模型池，并调整其大小使得两个池在每个进化循环中的处理时间大致相等，避免快池闲置造成的瓶颈。
- 自定义置信度引擎 (Confidence Engine)： 针对跨模型评分（Cross-model scoring）设计了优化的 Prefill 路径，仅计算并返回标量置信度，避免了传输完整的 Token 概率张量，将评分延迟降低了 4-10 倍，并支持超大模型（如 Qwen3-235B）的评分。

3. 主要贡献

理论统一与洞察： 将多种测试时扩展方法统一为进化框架，并指出多样性崩溃是无验证器进化的核心瓶颈。证明了模型内在的置信度信号可以作为有效的适应度代理，用于指导模型路由。
提出 SQUEEZE EVOLVE 框架： 设计了一种轻量级的基于置信度的路由机制，能够在推理过程中动态分配不同成本的模型，无需训练额外的奖励模型。
广泛的实证验证： 在 8 个基准测试（涵盖数学、代码、视觉、科学发现）上进行了评估。结果显示，SQUEEZE EVOLVE 在保持甚至超越单模型精度的同时，显著降低了成本。
系统级优化： 联合设计了路由算法与服务系统，实现了高达 10 倍 的固定预算吞吐量提升，且路由开销极低（仅增加 2.4%-4.3% 的延迟）。
多模态与科学发现突破：
- 在视觉任务中，证明了仅在初始化阶段使用视觉模型，后续聚合阶段使用纯文本模型，即可达到与全视觉模型相当的性能，节省 2.3-2.5 倍成本。
- 在科学发现任务（Circle Packing）中，成为首个在无验证器设置下达到或超越验证器驱动方法（如 AlphaEvolve）性能的进化方法。

4. 关键实验结果

成本与性能权衡 (Cost-Capability Frontier)：
- 在 AIME 2025、HMMT 2025、GPQA-Diamond 等数学推理任务上，相比仅使用昂贵模型（Model 2）的基线，SQUEEZE EVOLVE 实现了 1.3x - 3.3x 的成本降低，同时保持或提升了准确率。
- 在 ARC-AGI-V2 任务上，SQUEEZE EVOLVE 以 $7.74/任务 的成本达到了 97.5% 的准确率，刷新了该任务的成本 - 能力前沿（SOTA），且无需代码执行。相比之下，其他方法成本高达 $11.77 或$ 8.71。
- 在 MMMU-Pro 和 BabyVision 多模态基准上，使用“文本模型 + 视觉模型”的异构组合，在节省 2.3x - 2.7x 成本的同时，准确率甚至超过了纯视觉模型。
吞吐量提升：
- 在固定 GPU 预算下，SQUEEZE EVOLVE 的吞吐量比单模型 RSA 基线提升了 4x - 10x（取决于模型对的大小差异）。
科学发现 (Circle Packing)：
- 在 n=26 的圆填充问题上，SQUEEZE EVOLVE 达到了 2.635896 的得分，与使用闭源模型和外部验证器的 AlphaEvolve (2.635862) 和 ShinkaEvolve (2.635982) 相当，且完全无需外部验证器。

5. 意义与影响

重新定义测试时扩展的经济性： 证明了通过智能的多模型编排，可以在不牺牲性能的前提下，大幅降低大模型推理和进化的经济门槛，使其在资源受限的场景下更具可行性。
无验证器进化的新范式： 打破了“无验证器进化必然导致性能下降”的刻板印象。通过维持多样性并利用内在置信度信号，SQUEEZE EVOLVE 证明了无验证器方法在科学发现和复杂推理任务中同样具有强大的潜力。
系统设计的启示： 展示了算法（路由策略）与系统（GPU 池化、自定义推理路径）协同设计的重要性。通过消除推理过程中的冗余计算（如不必要的 Token 概率传输），实现了系统级的效率飞跃。
多模态任务的启示： 揭示了视觉理解在进化过程中的作用主要集中在“初始化”阶段，后续的推理和聚合可以完全由文本模型完成，为多模态大模型的高效部署提供了新思路。

总结： SQUEEZE EVOLVE 通过“将正确的模型分配给正确的任务”这一简单而深刻的原则，成功解决了无验证器进化中的多样性与成本双重瓶颈，为构建高效、经济且强大的下一代 AI 推理系统提供了新的技术路径。