🤖 machine learning

Resolving Interference (RI): Disentangling Models for Improved Model Merging

该论文提出了一种名为“解决干扰（RI）”的轻量级自适应框架，它利用无标签辅助数据将专家模型解缠为功能正交状态，从而有效减少跨任务干扰，显著提升了模型合并的性能、泛化能力及对超参数的鲁棒性。

原作者： Pratik Ramesh, George Stoica, Arun Iyer, Leshem Choshen, Judy Hoffman

发布于 2026-03-17

📖 1 分钟阅读☕ 轻松阅读

原作者： Pratik Ramesh, George Stoica, Arun Iyer, Leshem Choshen, Judy Hoffman

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文讲述了一个关于如何把多个“专家”合成为一个“全能高手”的故事，并解决了一个核心难题：当这些专家聚在一起时，他们互相“打架”，导致整体表现变差。

作者提出了一种名为**“解决干扰”（Resolving Interference, 简称 RI）**的新方法，就像给这些专家做了一次“物理隔离”和“心理疏导”，让他们在合作时互不干扰，从而发挥最大的威力。

下面我用几个生活中的比喻来为你拆解这篇论文：

1. 背景：为什么“拼凑”会出问题？

想象一下，你有一个**“猫语翻译专家”（专门识别猫的品种）和一个“狗语翻译专家”**（专门识别狗的品种）。

理想情况：如果你把这两个人的大脑参数（知识）简单平均一下，你就得到了一个既能认猫又能认狗的“全能翻译”。
现实情况：当你强行把这两个大脑合二为一时，会发生**“跨任务干扰”**。
- 猫专家脑子里的“猫耳朵特征”可能会和狗专家脑子里的“狗耳朵特征”发生冲突。
- 结果就是：合并后的模型既认不出猫，也认不出狗，或者把猫认成狗。这就好比两个人在同一个房间里大声说话，互相听不清对方在说什么，最后大家都乱套了。

2. 核心问题：什么是“跨任务干扰”？

论文把这种现象定义为**“跨任务干扰”**。

比喻：想象你在一个房间里同时放两首完全不同的歌（一首爵士，一首摇滚）。如果音量控制不好，两首歌混在一起，你就听不清任何一首的旋律了。
现状：以前的合并方法（比如简单的平均权重）就像是把两首歌直接混音，没有考虑它们会不会打架。以前的方法要么需要大量的数据来“调音”（但这在数据稀缺时做不到），要么就是盲目地合并。

3. 解决方案：RI（解决干扰）

作者提出了**RI（Resolving Interference）**方法。它的核心思想是：在合并之前，先让每个专家“各走各的路”，互不干扰。

它是如何工作的？（三个步骤）

想象你要把猫专家和狗专家合并，但你手里没有猫或狗的训练数据（这是论文设定的“数据稀缺”场景），只有一些通用的、没标签的“路人”图片（比如风景、物体等）。

保持自我（任务保留）：
- 让猫专家看着这些“路人图片”，告诉他：“虽然这些不是猫，但你要保持你原本识别猫的那种‘感觉’和‘逻辑’。”
- 比喻：就像让一个厨师在切洋葱时，保持他切洋葱的刀法，哪怕他手里拿的是苹果。
互不干扰（干扰消除）：
- 同时，让猫专家看着这些“路人图片”，并强迫他不要表现出任何“狗专家”的特征。
- 比喻：就像告诉猫专家：“当你处理这些图片时，你的大脑里绝对不能出现任何关于‘狗’的念头。如果你脑子里出现了‘狗’的神经反应，那就是干扰，要把它关掉。”
- 对狗专家也做同样的事：让他保持狗的特征，同时彻底屏蔽猫的特征。
完美合并：
- 经过这种“特训”后，猫专家的大脑里只有纯粹的“猫逻辑”，狗专家只有纯粹的“狗逻辑”，两者在功能空间上变得正交（就像 X 轴和 Y 轴，互不重叠）。
- 这时候再把他们合并，就像把 X 轴和 Y 轴拼在一起，既不会打架，又能组成一个完整的坐标系。

4. 为什么这个方法很厉害？

不需要“私货”数据：这是最酷的一点。以前很多方法需要拿回原来的猫和狗的数据来微调，但这在现实中很难（数据可能保密或丢失）。RI 只需要一些通用的、无标签的“路人”图片（比如 ImageNet 里的普通图片）就能完成训练。
轻量级：它不需要重新训练整个大模型，只是对模型的一小部分参数进行微调，就像给专家做了一次快速的“心理按摩”。
效果显著：
- 在测试中，RI 让现有的合并方法性能提升了3.8%（这在 AI 领域是巨大的进步）。
- 在面对从未见过的场景（比如从照片变成素描）时，鲁棒性提升了2.3%。
- 它让模型对“超参数”（那些需要人工调节的旋钮）不那么敏感了，也就是说，即使你随便调调参数，效果也不会差太多，大大降低了使用门槛。

5. 总结

这篇论文就像是在教我们如何**“和平共处”**。

以前，把两个专家合在一起，他们容易互相干扰，导致“1+1 < 2"。
作者发明的RI 方法，就像是在合并前给每个人发了一副**“降噪耳机”**：

戴上耳机，猫专家听不到狗专家的噪音，狗专家也听不到猫专家的噪音。
他们各自专注于自己的领域，互不干扰。
最后再合在一起，他们就能完美协作，变成一个既懂猫又懂狗，而且反应更灵敏的超级模型。

一句话总结：在数据很少的情况下，用通用的“路人”数据给各个专家做“隔离训练”，让他们在合并前互不干扰，从而创造出更强大的全能 AI 模型。

这篇论文提出了一种名为**“解决干扰”（Resolving Interference, RI）的轻量级自适应框架，旨在解决多任务模型合并（Model Merging）中的跨任务干扰（Cross-Task Interference）**问题。

以下是对该论文的详细技术总结：

1. 研究背景与问题定义 (Problem)

背景：模型合并技术允许将多个独立训练、专注于特定任务的专家模型（Specialist Models）的参数直接组合，形成一个多任务模型。这种方法在保留各任务性能的同时，能提升泛化能力和鲁棒性。
核心问题：当独立训练的任务模型参数直接合并时，往往会出现跨任务干扰。即合并后模型的输出表示会偏离其 constituent（组成）专家模型的表示，导致性能下降。
- 例如：一个识别猫品种的模型和一个识别狗品种的模型合并后，由于特征参数冲突，可能导致两者都无法正确分类。
现有方法的局限性：
- 无梯度方法（Gradient-free）：直接操作参数（如剪枝、对齐任务向量），但忽略了数据，无法捕捉参数与输入数据的交互。
- 基于梯度的方法（Gradient-based）：通常需要访问原始任务数据（Task Data）进行优化，这在数据稀缺或隐私受限的场景下不切实际。
- 路由/混合方法：虽然能缓解干扰，但增加了推理成本和模型容量。
挑战：是否存在一种轻量级、基于梯度的方法，能在不增加推理成本且无需访问原始任务数据（仅使用无标签辅助数据）的情况下，有效减少跨任务干扰？

2. 方法论：解决干扰 (Resolving Interference, RI)

论文提出了 RI 框架，其核心思想是在合并之前，将专家模型解耦（Disentangle），使其在功能上对其他任务正交。

2.1 跨任务干扰的形式化定义

作者定义了跨任务干扰度量 $\xi$ ，即合并模型 $\theta_m$ 与各个组成专家模型 $\theta_i$ 在各自任务上的输出表示差异：
$\xi(\{\theta_i\}, \theta_m) = \sum_{i=1}^{N} \mathbb{E}_x [\text{dist}(h_i(f(x|\theta_i)), h_i(f(x|\theta_m)))]$
其中 $\text{dist}$ 是距离度量（如 KL 散度）。 $\xi=0$ 意味着合并模型在各自任务上的表现与原始专家模型完全一致。

2.2 核心机制：正交化与解耦

RI 的目标是将每个任务向量 $\tau_i$ 调整为 $\tau^*_i$ ，满足两个条件：

任务保持（Task Preservation）：在自身任务数据上， $\tau^*_i$ 产生的输出应与原始 $\tau_i$ 一致。
干扰减少（Interference Reduction）：在其他任务的数据上， $\tau^*_i$ 不应产生任何影响（即输出应等同于预训练基座模型 $\theta_0$ 的输出）。

由于无法访问原始任务数据，RI 利用**任意无标签辅助数据（Unlabeled Auxiliary Data, $D_{aux}$ ）**来近似优化上述目标。

2.3 优化目标 (RI Loss)

对于每个专家模型 $i$ ，通过最小化以下损失函数来调整任务向量 $\tau^*_i$ ：
$\mathcal{L}_{RI} = \mathcal{L}_1 + \frac{\alpha}{N-1}\mathcal{L}_2$

$\mathcal{L}_1$ (任务保持损失)：最小化 $\tau^*_i$ 与原始 $\tau_i$ 在辅助数据上通过自身任务头 $h_i$ 的输出差异。
$\mathcal{L}_2$ (干扰减少损失)：最小化 $\tau^*_i$ 在辅助数据上通过其他任务头 $h_j (j \neq i)$ 的输出与预训练基座 $\theta_0$ 输出之间的差异。
$\alpha$ ：平衡两个目标的超参数（默认设为 1）。

2.4 流程

输入：预训练基座 $\theta_0$ ，N 个微调后的任务向量 $\{\tau_i\}$ ，任务头 $\{h_i\}$ ，无标签辅助数据集 $D_{aux}$ 。
对每个任务 $i$ ，初始化 $\tau^*_i = \tau_i$ 。
在 $D_{aux}$ 上通过梯度下降优化 $\mathcal{L}_{RI}$ ，得到解耦后的 $\tau^*_i$ 。
使用标准的合并方法（如 Task Arithmetic, TIES 等）合并所有 $\tau^*_i$ 得到 $\tau_m$ 。
输出合并模型 $\theta_m = \theta_0 + \tau_m$ 。

3. 主要贡献 (Key Contributions)

干扰形式化：提出了一个可度量的跨任务干扰指标，不仅用于评估，还作为优化的目标函数。
RI 框架：提出了一种轻量级自适应框架，仅需无标签辅助数据即可将专家模型解耦到正交的功能子空间，显著降低合并时的参数冲突。
性能提升：在多种模型规模和基准测试中，RI 将现有最先进（SOTA）的合并方法性能提升了最高 3.8%（域内），并将未见域（Out-of-Distribution）的泛化能力提升了最高 2.3%。
鲁棒性分析：发现经过 RI 适配的模型对合并超参数（如缩放系数、剪枝因子）的敏感度显著降低，减少了对验证数据的依赖。

4. 实验结果 (Results)

基准测试：在 8/14/20 个视觉分类任务（基于 ViT-B/32, ViT-B/16, ViT-L/14）上进行了评估。
- RI 与多种合并方法（Task Arithmetic, TIES, KnOTS, WUDI, Iso-C, TSV-M 等）结合后，性能均有提升。
- 例如，在 20 任务设置下，TSV-M + RI 相比基础 TSV-M 提升了 3.8%。
- 任务数量越多，干扰越严重，RI 的增益效果越明显。
域外泛化 (DomainNet)：在 DomainNet 数据集的 6 个不同风格域上进行测试。
- RI 将合并模型的泛化性能提升了 2.3%（相比未使用 RI 的基线）。
- 这表明 RI 在减少干扰的同时，保留了任务间有益的正向迁移。
消融实验：
- 距离度量：KL 散度（KL-Divergence）作为距离度量效果最好。
- 辅助数据源：RI 对辅助数据源不敏感。即使是合成数据（如高斯噪声、几何形状）也能带来提升，但使用与目标任务分布更接近的真实数据（如 ImageNet）效果最佳。
- 计算成本：RI 是轻量级的。在 NVIDIA A40 GPU 上，适配一个 ViT-B/32 专家仅需约 7-9 分钟（2500 步），且显存占用恒定，不随任务数量线性增长。

5. 意义与结论 (Significance)

解决数据稀缺痛点：RI 最大的突破在于不需要访问原始任务数据。这使得模型合并技术可以应用于数据私有、受版权保护或极度稀缺的场景。
通用增强器：RI 不是一个独立的合并算法，而是一个预处理适配器。它可以无缝集成到现有的任何无梯度或基于梯度的合并方法中，显著提升其性能。
降低调参门槛：经过 RI 处理的模型对超参数不那么敏感，使得在缺乏验证数据的情况下也能获得稳健的合并结果。
理论洞察：通过强制任务向量在功能上正交，RI 从理论上解释了如何通过解耦表示空间来缓解参数冲突，为未来的模型合并研究提供了新的方向。

总结：Resolving Interference (RI) 通过利用无标签辅助数据对专家模型进行轻量级解耦，有效解决了模型合并中的跨任务干扰问题，在无需访问原始训练数据的前提下，显著提升了多任务模型的性能和泛化能力。