Knowing in Advance When an Evolutionary Outer Loop Will Not Help: A Pre-Registered Cheap-Baseline Screening Rule

技术摘要：预知进化外层循环是否无效

问题陈述
进化、基于种群以及生命周期（lifecycle）的“外层循环”（用于搜索神经网络参数、掩码、路由或结构）通常被提议用于优化梯度“内层循环”无法直接服务的目标。然而，这些外层循环在计算上极其昂贵，其成本通常是其包裹的内层循环的 $10^2$ 到 $10^3$ 倍。对于研究实验室而言，关键的实际挑战不在于确定外层循环是否能提供帮助，而在于如何提前且廉价地判断其投资是否值得。目前，这种判断通常只有在已经投入了巨大的实现和执行成本之后才能做出。

方法论：Phase-0 筛选门控
本文引入了一种预注册的、前瞻性的决策程序，称为 Phase-0 廉价基准证伪门控（Phase-0 Cheap-Baseline-Falsification Gate）。该协议在任何外层循环实现开始之前执行。

1. 程序： 实验室枚举出预期效应最可能的廉价非机制解释。这些基准包括：

   • 随机基准（Random baselines）。
   • 单次触发启发式方法（例如，梯度或曲率统计量）。
   • 静态/非进化方法。
   • 无掩码的全量适配（Unmasked full adaptation）。
     这些基准在项目意图使用的精确指标上运行，并从一个“温暖”的基准（即不再进行进一步适配）开始。

2. 筛选规则： 协议计算一个单一的恢复率 $R$：
   $$R = s / G$$
   其中：

   • $s$ 是由最佳单次触发梯度/曲率统计量实现的增益。
   • $G$ 是可达前沿（achievable frontier），定义为在门控阶段评估的任何廉价方法（包括单次触发统计量、随机基准和静态基准）所达到的最大增益。

3. 决策阈值： 如果 $R \ge 90\%$，规则规定跳过外层循环。其逻辑是：如果一个廉价的单次触发方法已经恢复了任何廉价方法所能达到的最大增益的 90%，那么进化的生命周期不太可能比静态基质（static substrate）提供可检测到的改进。90% 的阈值是一个保守的惯例，旨在避免错误地跳过可能有效的循环，该阈值设定在作者数据中观察到的“终止”点之下。

核心贡献

• 一种预注册的决策规则： 不同于以往使用廉价基准作为事后对比来拆穿已构建方法的做法，本文提出了一种构建前的“去/留”（go/no-go）门控，并附带了明确的可证伪阈值。
• “无用性”的操作化： 该规则提供了一个具体的指标（$R$），用于量化何时不需要昂贵的搜索，因为廉价的静态计算已经捕捉到了该效应。
• 在实验室内部语料库上的验证： 作者将此规则应用于其自身的工作，报告了两个分析案例以及一个公开的“抽屉文件”（failed attempts）。

结果
该规则在作者实验室的一系列项目中得到了验证：

• 案例 1 (MoE-Lifecycle)： 一个研究在进化混合专家（MoE）生命周期中，留一法（LOO）对齐适应度信号的课题。Phase-0 门控显示，静态路由器-基质变化捕捉到了该效应（$R \approx 1.0$）。随后的因子分解证实，进化生命周期并未贡献可检测的增益；表面的胜利完全归功于静态基质的变化。该外层循环被放弃。
• 案例 2 (Mask-Rescue)： 一个测试可遗传的稀疏可变性掩码（heritable sparse mutability masks）能否挽救梯度预热 LoRA 适配器的课题。
  • 遗传性测试： 一个无生命周期的随机-$\kappa$ 控制组（每轮使用随机掩码）的表现优于可遗传的挽救循环（0.906 对比 0.805 的保留率）。进化内容（遗传性/选择）并未增加价值。
  • 掩码身份测试： 最佳单次触发统计量（梯度范数）达到了前沿（$R \approx 1.0$），甚至超过了无掩码的全量适配。不存在进化掩码可以利用的“上升空间”。
  • 结果： 外层循环未被构建。
• 成本节约： 对于掩码身份研究，Phase-0 门控的成本约为 $\sim 50\text{--}70$ GPU 小时。它筛除了估计的 $\sim 400+$ GPU 小时（仅第一单元）以及数周的实现时间，实现了 $6\text{--}8\times$ 的节省。
• 负向条件搜索： 作者尝试寻找一个 $R < 90\%$（表明可能需要外层循环）的真实任务。在一个上下文学习（in-context-learning）样本集选择任务中，廉价的贪婪/束搜索（greedy/beam）构造恢复了随机搜索所达到的前沿的 $97\%$（$R_{screen} \approx 97\%$），导致门控再次触发。唯一一个外层循环击败单次触发方法的情况是合成的、符合先验真值的控制组（$R \approx 0.004$），而非真实任务。

意义与主张
本文明确将其贡献界定为方法论层面，而非算法层面。

• 适度的主张： 作者并不声称进化外层循环绝不会提供帮助。他们指出，鉴于现有关于平滑目标（smooth objectives）和剪枝（pruning）的文献，静态方法通常足以应对这一现象，因此负面结果并不令人意外。
• 核心价值： 其新颖之处在于提供了一个打包的、有证据支持的、具有前瞻性且可证伪的决策程序。它将“构建针对已被内层优化器覆盖的空间的外层循环”这一反复出现的、昂贵的错误，转化为一个廉价的预检过程。
• 可证伪性： 该规则是明确可证伪的。如果存在一个 $R < 90\%$ 的真实任务，且外层循环仍然无法击败单次触发基准，则会反驳该规则。相反，如果一个 $R < 90\%$ 的任务成功了，这并不会反驳规则；这种情况只会验证外层循环应当被构建的条件。
• 局限性： 作者承认这些结果并非独立的重复实验（属于同一实验室/设计直觉），“正向条件”（即外层循环确实有帮助时）目前仍是一个假设，仅有合成数据支持，且该规则目前的验证仅限于 LoRA/MoE 规模的 LLM 工作。

总而言之，本文提供了一种严谨且低成本的协议，旨在防止在静态或单次触发基准已经达到性能前沿时，仍将计算资源浪费在进化外层循环上。