🤖 machine learning

Model Merging is Secretly Certifiable: Non-Vacuous Generalisation Bounds for Low-Shot Learning

本文建立了模型融合与泛化证明之间的全新联系，证明了在处理使用大规模视觉和语言模型的高风险、少样本学习场景时，融合预训练模型而非对其进行微调，能够实现非空泛的泛化界限。

原作者： Taehoon Kim, Henry Gouk, Minyoung Kim, Timothy Hospedales

发布于 2026-08-25

📖 1 分钟阅读☕ 轻松阅读

原作者： Taehoon Kim, Henry Gouk, Minyoung Kim, Timothy Hospedales

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在人工智能领域，日益增长的矛盾存在于这些系统的强大能力与我们对其信任的能力之间。我们依赖人工智能在医疗和安全等高风险领域做出决策，然而，信任最基本的要求是知道一个系统在面对新的、未见过的数据时能够可靠地运行，而不仅仅是在它训练过的示例上表现良好。几十年来，科学家们一直试图创建数学保证，以证明模型不会发生意外失败。然而，对于驱动现代人工智能的那些庞大且复杂的网络，这些保证往往是徒劳的。为如此大型的系统证明安全性所需的计算通常会导致过于宽泛且悲观的警告，其结果几乎毫无用处，本质上是在说错误率可能在零到百分之百之间波动。当用于训练系统的可用数据非常稀少时，这个问题变得更加困难，而在一些专业领域，收集数千个示例通常是不可能的。

一个研究小组发现了一种通过改变观察学习过程的方式来绕过这些限制的惊人方法。他们没有尝试去认证整个庞大的神经网络，而是将注意力集中在一种称为“模型合并”（model merging）的技术上，这种技术将几个预训练的专家模型组合成一个新的单一模型。通过将合并这些模型的过程视为一种具有极少可调节参数的学习方式，研究人员发现他们可以应用此前无法实现的严格安全性检查。他们的工作表明，即使在仅有一百个示例的情况下，也能够为庞大的人工智能系统提供有意义、非空的性能保证。这一发现表明，用于认证当今最强大的 AI 系统所需的工具其实早已近在咫前，只是等待着通过不同的理论视角被重新识别。

这一发现的核心在于重新构想我们在数据匮乏时如何训练和验证人工智能。传统上，为了证明一个模型有效，科学家会将有限的数据分为训练集和单独的验证集。但当你只有一百个示例时，将其平分为两半，会导致既无法训练出一个好的模型，也无法可靠地测试它。研究人员意识到，一种流行的模型合并方法提供了一个解决方案。在这种方法中，你不是从头开始训练一个巨大的网络，而是获取几个已经学习了不同技能的现有网络，并将它们融合在一起。这种融合由一小组数字（或称权重）控制，这些数字决定了每个原始网络对最终结果的贡献程度。由于这些融合权重的数量相对于原始网络中数十亿个参数来说微乎其微，因此学习过程变得简单得多。

研究人员表明，这种简单性正是认证的关键。他们应用了一个被称为 PAC-Bayes 的框架，这是一种用于计算模型在处理新数据时表现良好的概率的方法。通常，这种方法对于大型网络会失效，因为数学推导会变得过于松散而失去意义。然而，由于模型合并只调整极少数的权重，数学计算保持了紧凑性。该团队证明，现有的合并算法（其设计初衷仅仅是为了获得最佳的组合模型）在无需任何特殊修改的情况下，就已经提供了这些紧凑的安全性保证。在许多情况下，这些算法的标准运作方式足以证明所产生的模型不会发生灾难性的失败，即使在训练数据非常少的情况下也是如此。

为了使这些保证更加强大，该团队开发了一种微调学习过程的方法。他们修改了合并算法的目标，使其明确地去最小化“安全性边界”本身，而不是仅仅试图在训练数据上获得最低误差。这种调整使得他们能够将那些提供不了实际保障的“空”保证，转化为对模型失效频率的、具体的、有用的限制。他们在两种截然不同类型的人工智能上测试了这种方法：一种是能够识别图像的视觉系统，另一种是能够理解文本的大型语言模型。对于视觉系统，他们使用了一个拥有约八千八百万个参数的模型；对于语言模型，他们使用了一个拥有七十亿个参数的模型。在这两种情况下，他们都在每个任务上仅使用了一百个示例进行训练。

结果令人瞩目。对于视觉任务，研究人员能够证明合并后的模型将在一个特定的、狭窄的准确度范围内运行。对于规模更大、更复杂的语言模型，他们也取得了同样的结果。在许多情况下，基础语言模型在没有任何训练示例的情况下在处理新任务时表现不佳，但在经过合并并接受了一百个示例的训练后，该系统不仅提高了性能，还附带了一份证明其可靠性的数学证书。研究人员发现，对于所有数据集，测试误差都可以被保证在训练误差的 5% 以内。

这项工作挑战了长期以来的观点，即认证大型 AI 系统需要海量的数据。研究人员表明，通过专注于合并过程中实际发生变化的少量参数，系统的复杂性变得可以掌控。他们还探索了一种称为“数据依赖先验”（data-dependent priors）的技术，即利用一小部分训练数据来设定一个更好的起始点，从而进行安全性计算。这进一步收紧了保证，证明了该方法是稳健且具有适应性的。该研究并未声称解决了人工智能安全的所有问题，但它为在低数据量环境下（在数据昂贵或难以获取的现实应用场景中至关重要）认证系统提供了一条清晰的路径。

这一发现的影响超越了数字本身。它表明，验证现有 AI 系统的安全性可能比之前认为的要容易。如果用于组合模型的方法可以如此轻易地被认证，那么使用这些方法构建的系统就可以在更高的信心下被信任。研究人员强调，这种方法对图像识别和语言理解都有效，这表明该原理具有通用性，并不局限于特定类型的人工智能。通过证明对于拥有七十亿个参数的模型，仅凭一百个示例就能实现非空的、有意义的保证，该团队为确保人工智能能够安全部署在人类生活中最关键的领域开辟了新的途径。这项工作证明，有时解决复杂的理论问题的关键不在于建造一台更大的机器，而在于从不同的角度去审视现有的机器。

技术摘要：模型合并在秘密地实现可验证性

问题陈述
本文探讨了为深度神经网络提供可验证泛化能力的严峻挑战，特别是在数据稀缺（少样本场景）的高风险应用（如医疗、安全）中。虽然存在理论上的泛化界限，但将这些界限实例化到大规模模型（如 7B 参数的 LLM、ViT-B）时，通常会导致“空洞”的证书——即保证过于宽松（例如误差 < 200%），从而无法提供实际的保障。在少样本学习中，由于需要将有限的数据拆分为训练集和验证集，这一问题会进一步恶化，导致标准经验验证失效。现有的非空洞认证方法历来局限于较小的网络，或需要大规模的训练集。

方法论
作者提出了一种将模型合并（Model Merging，或称模型融合）与 PAC-Bayes 泛化界限联系起来的新颖关联。他们并非推导新的理论界限，而是通过 PAC-Bayes 理论重新诠释现有的模型合并策略。

作为低维学习器的模型合并： 模型合并通过线性插值 $k$ 个预训练源模型的权重来构建目标模型 $\theta_m$ ，即 $\theta_m = \sum \alpha_i \theta_i$ 。至关重要的是，可学习参数的数量是合并权重（ $\alpha$ ）的数量，这个数量很小，且独立于源模型庞大的规模。
PAC-Bayes 重新诠释： 作者将合并权重解释为模型空间中后验分布 $Q$ $Q$ （建模为高斯分布）的参数，而先验分布 $P$ $P$ 为均匀分布。
- 现成认证（Off-the-Shelf Certification）： 他们证明了标准的合并算法（如 Task Arithmetic, Ties-Merging）可以被立即认证。通过将学习到的权重视为后验分布的均值，可以计算先验与后验之间的 Kullback-Leibler (KL) 散度。由于合并参数的数量很少，KL 项保持在可控范围内，通常可以在不修改原始算法的情况下获得非空洞的界限。
- 界限优化（Bound Optimization）： 为了进一步收紧界限，作者建议直接优化 PAC-Bayes 上界（定理 2），而非仅仅优化训练损失。这涉及使用无梯度优化（如 CMA-ES）来寻找能够使经验风险与泛化间隙项之和最小化的合并权重。
- 数据依赖先验（DDP）： 为了处理具有稍多参数的方法（如层级 AdaMerging），他们采用了两阶段过程：利用一部分数据构建一个信息丰富的、数据依赖的先验，并利用剩余数据优化后验。这降低了 KL 散度，从而收紧了界限。
- 离散化（Discretization）： 本文还探索了使用有限假设类（离散化界限）来认证确定性合并的方法，作为随机高斯预测器的替代方案。

核心贡献

大规模模型的非空洞界限： 本文首次展示了在大规模模型（特别是 CLIP-ViT-B/32 和 Mistral-7B）的少样本场景下（仅 100 个样本）提供非空洞泛化保证。
改造现有算法： 研究表明，通过 PAC-Bayes 框架进行观察，几种现有的模型合并策略在将其输出重新诠释为一种分布时，已经能够提供非平凡的保证。
优化策略： 引入界限优化目标和数据依赖先验，使得能够认证更复杂的合并方案，否则这些方案会产生空洞的界限。
可扩展性： 该方法成功扩展到了 7B 参数的 LLM，而在这一领域，之前的认证方法（如基于 Rademacher 复杂度的全量微调或针对大模型的离散化）都无法产生有意义的证书。

实验结果
作者在以下任务上评估了其方法：

视觉： 使用 CLIP-ViT-B/32 衍生物在五个图像分类数据集（EuroSAT, GTSRB, SVHN, MNIST, DTD）上进行测试。
语言： 使用 Mistral-7B 和 Llama3-8B-Instruct 变体在 BBH (Big-Bench Hard) 基准测试上进行测试。

主要发现包括：

Task Arithmetic 和 Ties-Merging 在无需界限优化的情况下，在大多数数据集上实现了非空洞界限（100-shot）。
界限优化 将更复杂方法（如 Layer-wise AdaMerging）的空洞界限转化为了非空洞界限，尽管有时这需要以经验误差为代价（通过 DDP 得到缓解）。
Mistral-7B： 在 100-shot BBH 任务上，Task Arithmetic 产生的 PAC-Bayes 界限显著低于 1.0（非空洞），而零样本（zero-shot）基准线通常会导致空洞界限。
鲁棒性： 验证了这些非空洞界限对于蒙特卡洛采样噪声以及先验/后验方差的变化具有鲁棒性。

意义与主张
本文声称，在少数据场景下认证大型模型的能力，一直“隐藏在众目睽睽之下”，即存在于模型合并这一类算法之中。其意义在于：

即时适用性： 它促进了现有 AI 系统（包括大型 LLM）在法律或伦理要求必须具备信任保证的高风险应用中的认证工作。
理论与实践的桥梁： 通过建议将保证聚焦于稀疏的、重参数化的学习器（合并权重）而非基础网络的完整参数空间，开辟了理论与实践交叉的新研究方向，并证明这是一条实现非空洞认证的可行路径。
低数据可行性： 它挑战了“非空洞认证需要大规模数据集”的假设，证明通过正确的学习范式（合并），即使只有 100 个样本也能实现有意义的保证。

作者保持了谦逊的态度，指出虽然他们没有推导新的理论，但他们的工作识别出，只要通过正确的理论框架进行分析，现有的策略已经具备了进行认证所需的特性。

技术摘要：模型合并在秘密地实现可验证性

类似论文