🤖 machine learning

Unlocking the Potential of Continual Model Merging: An ODE Perspective

本文提出了 ODE-M，这是一种新颖的持续模型合并框架，它利用常微分方程视角在参数空间中追踪低损失路径，从而有效缓解灾难性遗忘，并在异构任务基准测试中优于现有方法。

原作者： Lihong Lin, Haidong Kang

发布于 2026-05-20

📖 1 分钟阅读☕ 轻松阅读

原作者： Lihong Lin, Haidong Kang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你有一位精通完美意大利意面菜肴的大厨。接着，你聘请了第二位擅长日本寿司的大厨。最后，你又聘请了第三位专攻墨西哥塔可的大厨。

问题所在：
在人工智能领域，我们通常拥有“基础模型”（如同我们的大厨），它们擅长多种任务。当新任务出现时（例如学习制作寿司），我们通常不得不从头重新训练整个大厨，或者试图将新知识强行叠加在旧知识之上。

本文探讨了持续模型融合。这就像尝试将意大利大厨、寿司大厨和塔可大厨的技能融合成一位“超级大厨”，使其能完美胜任这三项任务，而无需从头重新训练。

旧方法（“跳跃”法）：
以往的方法试图通过分别获取意大利大厨和寿司大厨的“大脑快照”，然后简单地将它们取平均值来融合这些大厨。

缺陷： 想象意大利大厨的大脑位于一个山谷（低损失/良好性能），而寿司大厨的大脑位于另一个山谷。如果仅仅在两者之间画一条直线，你可能不得不穿越中间一座陡峭、崎岖的山峰。
结果： 当人工智能试图沿这条直线行进时，它会遭遇“损失屏障”（即那座山峰）。它在尝试学习寿司的过程中被困在山上，从而忘记了如何制作意面。这被称为灾难性遗忘。你添加的大厨越多，这位“超级大厨”遗忘原始技能的程度就越严重。

新想法（“ODE”法）：
作者提出了一种名为ODE-M（常微分方程驱动的融合）的新方法。他们不是从一个大厨“跳跃”到另一个大厨，而是构想出一条连接两个大脑的连续路径或平滑道路。

以下是他们如何利用简单比喻来实现这一点的：

平滑道路（模式连通性）：
该论文假设，尽管这些大厨看起来不同，但在他们的大脑之间隐藏着一一条平滑、低洼的道路，在这条路上他们都能很好地烹饪。目标就是找到这条道路，而不是翻越那座山峰的直线路径。
带限速的 GPS（速度场）：
作者构建了一个“速度场”，这就像是一个引导“超级大厨”从意大利风格过渡到寿司风格的 GPS。
- 问题： 有时，GPS 会试图将车开上陡峭的山坡（这会增加“损失”或使烹饪效果变差）。
- 解决方案： 系统实时检查地形。如果前方的道路开始上坡（即损失增加），系统就会对该特定方向施加“刹车”或“阻尼”。它会减缓导致遗忘的那部分移动，同时仍让车辆朝着新技能的方向前进。
“停车标志”（工作点）：
你并不总是需要一直开车到达目的地（即新大厨的大脑）。有时，你只想学习部分寿司技能，而不愿失去你的意面技能。
- 系统允许你在平滑道路上的任意点停车。
- 如果新任务非常重要，你就开得更远（更接近新大厨）。
- 如果旧任务更重要，你就更早停车（保留更多旧知识）。
- 这由一个“时间调度”控制，它就像一个旋钮，决定吸收多少新技能与保留多少旧技能。

为什么这更好？

无需登山： 通过遵循平滑、低损失的路径，人工智能无需攀登那座会导致其遗忘旧技能的“山峰”。
可控性： 它为用户提供了一个旋钮，可以精确决定添加多少新知识，而不会破坏旧知识。
结果： 在他们的测试中（使用能够识别汽车、花朵和交通标志等图像的人工智能模型），这种方法创造出的“超级大厨”在记住所有任务方面优于任何先前的方法。即使在逐个添加许多新食谱时，它也能在学习寿司的同时保留意面技能。

总结：
与其用一种粗暴的工具强行将两个不同的人工智能大脑拼凑在一起（这会破坏事物），不如利用本文提出的平滑、受引导的路径将它们融合。它就像一个谨慎的导航员，引导人工智能绕过“危险区域”（即会导致遗忘的区域），并让你精确决定沿该路径行进多远，以平衡新旧技能。

以下是论文《解锁持续模型合并的潜力：一种微分方程视角》的详细技术总结。

问题表述

本文探讨了持续模型合并（Continual Model Merging, CMM），这是一种任务适配模型按顺序到达，且单个部署模型必须在不访问原始训练数据的情况下迭代更新以纳入新能力的场景。虽然标准模型合并是同时合并多个模型，但 CMM 面临着灾难性遗忘和性能分配不一致的挑战。

现有的 CMM 方法通常将每次合并视为固定的代数运算（例如权重平均或任务向量算术），将当前模型 $\Psi_k$ 和传入模型 $\psi_{k+1}$ 直接映射到新的终点 $\Psi_{k+1}$ 。作者认为这种“仅关注终点”的视角存在两个关键缺陷：

缺乏路径控制：它忽略了参数空间中采取的轨迹。如果更新经过高损失区域（损失屏障），生成的模型可能会遭受功能退化或干扰先前学习到的行为。
僵化的稳定性 - 可塑性权衡：它对保留多少历史知识与采纳多少新任务专业知识之间的控制有限。这在异构效用场景中尤为成问题，因为任务具有不同的频率或重要性权重；固定规则通常无法适当分配容量，导致系统级性能次优。

方法论：ODE 驱动的合并（ODE-M）

受模式连通性（即独立训练的模型通常可以通过低损失路径连接）的启发，作者提出将持续合并视为参数空间中的受控连续过渡，而非离散跳跃。他们引入了ODE-M，这是一个通过时间依赖的速度场生成连接路径的框架。

1. 轨迹视角与损失屏障

ODE-M 不像线性插值那样，而是构建从当前模型 $\theta_0$ 到传入模型 $\theta_1$ 的连续路径 $\theta(t)$ 。其目标是最小化该路径上的损失屏障，定义为相对于端点损失的线性插值所遇到的最大超额损失。

2. 整流速度场

核心机制是构建一个感知屏障的速度场。

基础场：定义基础向量场 $u_t(\theta) = \alpha(t)(\theta_1 - \theta)$ 以驱动模型朝向目标。
梯度分解：在每一步，速度被分解为与损失梯度对齐的分量（ $u_\parallel$ ）和与其正交的分量（ $u_\perp$ ）。
自适应整流：自适应因子 $\gamma(\theta, t) \in [0, 1]$ $γ (θ, t) \in [0, 1]$ 调节梯度对齐分量：
- 如果向目标的移动减少或保持损失（ $\langle g_t, u_t \rangle \le 0$ ），则应用全速度（ $\gamma=1$ ）。
- 如果移动增加损失（ $\langle g_t, u_t \rangle > 0$ ），则阻尼该分量以确保损失增加保持在规定的预算内（ $\Delta L = L(\theta_1) - L(\theta_0)$ ）。具体而言， $\gamma = \text{clip}(\frac{\Delta L}{\langle g_t, u_t \rangle}, 0, 1)$ 。
积分：轨迹是通过对校准集上的整流速度场 $v_t(\theta) = u_\perp + \gamma u_\parallel$ 进行欧拉积分生成的。

3. 效用感知时间调度

为了控制稳定性 - 可塑性权衡，该方法选择轨迹上的操作时间 $t_k$ ，而不是积分到完整终点（ $t=1$ ）。时间 $t_k$ 由传入任务的相对效用决定：
$t_k = \frac{w_k}{\sum_{i=1}^k w_i}$
其中 $w_k$ 是第 $k$ 个任务的效用权重。在均匀设置下，这简化为 $t_k = 1/k$ ，随着流的增长自然地减少新任务的贡献，从而保留更多历史知识。

主要贡献

轨迹公式化：本文将 CMM 重新表述为路径搜索问题，将损失屏障的概念从线性插值扩展到一般连接路径。
感知屏障的动力学：提出了一种新颖的 ODE 驱动合并策略，使用整流速度场通过轻量级一阶反馈调节增加损失的运动，无需完全重新训练即可避开高损失区域。
显式控制：通过基于效用权重选择轨迹上的操作点，该方法提供了一种显式机制来平衡保留的历史知识与传入的任务专业知识。

实验结果

作者在 FusionBench 套件的数据集上，针对长度为 8、14 和 20 的任务流，在CLIP ViT 骨干网络（ViT-B/32、ViT-B/16、ViT-L/14）上评估了 ODE-M。

性能：ODE-M 在平均准确率（ACC）和向后迁移（BWT）方面，相较于强基线（包括持续任务算术、持续 Ties-Merging 和 OPCM）实现了最先进的性能。例如，在 8 个任务的 ViT-B/32 上，ODE-M 将 ACC 从 OPCM 的 75.5 提升至 79.6。
异构效用：在非均匀任务重要性下，ODE-M 始终实现了最高的效用加权准确率（ $ACC_w$ ），证明了其比针对均匀宏观平均值优化的方法更能优化特定任务优先级。
鲁棒性：消融研究表明，该方法对校准集的大小（仅需 512 个样本即可表现良好）和数值积分步长具有鲁棒性。
效率：每次合并的计算开销是实用的（例如 ViT-B/32 约为 124 秒），主要由校准集上的数值积分和梯度计算主导，与完全重新训练相比可忽略不计。

意义与主张

本文声称，ODE-M 通过将范式从固定代数更新转变为受控连续过渡，解锁了持续模型合并的潜力。通过显式构建尊重损失景观的路径，并根据任务效用调节积分速度，ODE-M 有效地减轻了遗忘并处理了异构任务重要性。

作者将这项工作定位为迈向更具可扩展性和可控性的模型定制的一步，减少了维护多任务系统的工程和计算开销。他们承认了局限性，例如需要校准集来计算梯度，以及目前专注于视觉分类任务，并指出未来的工作将探索更大的语言模型和更高效的集成策略。