🤖 machine learning

Differentiated Aggregation to Improve Generalization in Federated Learning

本文提出了 FedALS，这是一种新型联邦学习算法，通过基于理论泛化界限和表示学习分析，对表示提取器和模型头应用差异化的聚合频率，从而在非独立同分布（non-IID）场景下降低通信成本并提高模型的泛化能力。

原作者： Peyman Gholami, Hulya Seferoglu

发布于 2026-08-27

📖 1 分钟阅读☕ 轻松阅读

原作者： Peyman Gholami, Hulya Seferoglu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在现代数字领域，一场静悄悄的革命正在重塑人工智能的学习方式。传统上，训练一个智能计算机程序需要将大量的个人数据——照片、信息、医疗记录——收集到一个单一且庞大的中央仓库中。这种方法虽然有效，但也引发了对隐私和安全的严重担忧。联邦学习（Federated learning）提供了一条不同的路径。与其将数据移动到中央计算机，不如让计算机模型前往数据所在地。想象一位老师走访许多不同的教室，从学生们的本地笔记本中学习，然后回到中央办公室来更新其教学方法。在这个系统中，原始数据永远不会离开个人设备，无论是智能手机还是医院的服务器。设备在本地进行繁重的学习工作，而返回并进行组合的仅是产生的见解，而非隐私信息本身。

然而，这种协作式方法面临着一个显著的障碍：通信成本。在数以千计的设备与中央服务器之间来回发送大型、复杂的模型，会消耗巨大的带宽和时间，就像每次只修改一页书时，都要把整座图书馆邮寄回去一样。当每个设备持有的数据各不相同且具有独特性时，这种瓶颈尤为严重，研究人员称这种情况为非均匀分布（non-uniform distribution）。在这种情况下，设备往往难以就一个单一且有效的模型达成一致，从而导致陷入不断且昂贵的更新循环，而这些更新未必能产生更智能的结果。科学家们面临的问题是，如何在不牺牲最终智能质量的前提下，使这种协作学习过程变得更快、更高效。

伊利诺伊大学芝加哥分校的一个研究小组提出了一种创新的解决方案，改变了这种协作的节奏。他们的研究成果发表在《机器学习研究汇刊》（Transactions on Machine Learning Research）上，指出并非模型的所有部分都需要以相同的速度进行更新。要理解他们的发现，首先必须观察用于执行如图像识别等任务的典型人工智能模型的内部结构。这些模型像流水线一样构建，分为两个截然不同的部分。第一部分通常由初始层组成，充当通用的特征提取器。它学习识别通用模式，例如眼睛的形状、耳朵的弧度或毛发的纹理，无论主体是狗、猫还是鸟。第二部分被称为“头部”（head），位于流水线的末端，专门负责最终的任务，例如判断图像具体是狗还是猫。

研究人员观察到，即使这些设备持有完全不同类型的数据，模型的初始通用层也往往看起来非常相似。因为这些层正在学习共享的通用特征，所以它们不需要频繁地进行同步。相比之下，专门针对特定本地数据的末端层分歧得更快，需要更频繁的协调，以确保团队保持在同一轨道上。基于这一洞察，该团队开发了一种名为 FedALS 的新算法，即具有自适应本地步长的联邦学习（Federated Learning with Adaptive Local Steps）。这种方法允许模型的通用特征提取部分在发送回中央服务器进行集体更新之前，在本地执行更多的学习步骤。与此同时，专门的末端层则被更新并共享得更加频繁。

这一方法基于对这些模型如何泛化（即它们在处理未见数据时的表现）的严密数学分析。研究人员推导出了一个新的公式来预测学习过程的误差率，证明在数据分布不均的情况下，允许通用层进行更多本地学习实际上可以提高模型处理多样化数据的能力。通过减少那些已经达成共识的部分的更新频率，该系统大幅降低了需要传输的数据量。研究人员使用标准的图像数据集（如 CIFAR-10 和 CIFAR-100）以及一个名为 OPT-125M 的大型语言模型测试了这个想法。在实验中，他们模拟了一个由五个设备协同工作的网络。

结果非常明确。在数据分布不均的场景下，新方法产生的模型比使用传统的统一更新计划训练的模型更准确。例如，在利用 SVHN 数据集训练图像识别模型时，新方法达到了约 81% 的准确率，而标准方法约为 70%。至关重要的是，这种性能提升伴随着通信成本的显著降低。通过调整不同部分模型的共享频率，研究人员在某些配置下将需要传输的参数量减少了十倍，且没有损失性能。他们发现，这种调整存在一个“甜点区”（sweet spot）；如果增加本地学习步长过多，最终会损害模型在最终任务上的达成一致的能力，但找到正确的平衡点，就能产生一个既高效又智能的系统。

该研究还探讨了这种新方法如何与其他旨在处理不均匀数据的现有技术进行交互。他们发现，他们的方法可以与其他先进算法互补，这意味着它们可以结合使用以进一步提升结果。然而，研究人员指出，当设备间的数据各异时，这种特定的优势最为显著。当所有设备的数据是均匀且一致时，这种自适应方法的益处很小，因为标准方法在这些条件下已经表现良好。这项工作为使联邦学习在带宽有限且数据多样化的现实应用场景中更具可行性，提供了一条清晰且实用的路径。通过认识到不同部分的“学习大脑”需要不同的协作节奏，研究人员展示了一种在尊重隐私的同时实现更少通信、构建更智能系统的方法。

技术摘要：通过差异化聚合提升联邦学习的泛化能力

问题陈述

联邦学习（FL）允许多个客户端在不共享原始数据的情况下，通过中央服务器进行协作模型训练。然而，这一范式面临着一个显著的瓶颈：高昂的通信成本，特别是客户端与服务器之间交换大型模型参数时的开销。虽然现有的策略通过诸如 Local SGD（多次局部更新）、剪枝和量化等技术来应对这一问题，但它们通常将模型视为一个单体整体。

联邦学习中的一个关键挑战是客户端之间存在的非独立同分布（non-iid/异构）数据分布。在非独立同分布的情况下，客户端倾向于向其局部最优解漂移，从而增加了“共识距离”（即局部模型与全局平均值之间的偏差）。这种漂移会降低全局模型的泛化性能。此外，目前的联邦学习理论泛化界限往往未能考虑到深度神经网络的具体结构特性，或者在非独立同分布设置下给出的界限过于松散，这限制了设计既能降低通信开销又能提高泛化能力的算法的能力。

方法论与理论分析

1. 改进的泛化界限

作者为单轮和 $R$ 轮联邦平均（FedAvg）推导了更紧凑的泛化误差界限。

单轮界限： 论文建立了一个取决于客户端局部泛化程度和非独立同分布程度的界限。至关重要的是，在 iid（独立同分布）设置下，该界限比现有技术的 $1/K$ 依赖关系提升了 $1/K^2$ 倍（其中 $K$ 是客户端数量），这是一个显著的改进。在 non-iid（非独立同分布）设置下，该界限揭示了如果共识距离过大，平均操作并不一定会降低泛化误差。
$R$ 轮界限： 该分析扩展到了多轮 FedAvg，根据轮数（ $R$ ）、局部步数（ $\tau$ ）、模型复杂度和非独立同分布程度来表征误差。分析表明，只要能控制非独立同分布性的增加，增加局部步数（ $\tau$ ）可以使泛化界限更加紧凑。

2. 表示学习解释

论文利用表示学习理论来解释这些界限。它认为深度神经网络由两个截然不同的功能部分组成：

表示提取器 ( $\phi$ )： 通常是初始层，负责提取在不同客户端和任务之间相似的通用特征（例如边缘、形状）。
头部 (Head, $h$ )： 通常是最终层，负责特定任务的分类或预测，对每个客户端的具体数据分布高度敏感。

作者认为，在非独立同分布场景中，由于底层特征在客户端之间是共享的，表示提取器的共识距离自然比头部要小。相反，由于标签分布的差异，头部会发生显著的偏差。

3. FedALS 算法

基于理论界限和表示学习的洞察，作者提出了具有自适应局部步数的联邦学习（FedALS）。

核心机制： FedALS 将表示提取器和头部的聚合频率解耦。
自适应局部步数： 该算法为表示提取器分配更多的局部更新次数（ $\tau_\phi$ ），并为头部分配较少的局部更新次数（ $\tau_h$ ）。
自适应系数 ( $\alpha$ )： 定义为 $\alpha = \tau_\phi / \tau_h$ ，该超参数控制局部步数的比例。较高的 $\alpha$ 意味着特征提取层在聚合前会在本地进行更频繁的更新，而头部则会被更频繁地聚合。
减少通信： 通过降低表示提取器的聚合频率，客户端与服务器之间传输的数据总量显著减少。

核心贡献

更紧凑的泛化界限： 论文提供了一种新型的联邦学习泛化界限，在 iid 设置下提供了 $1/K^2$ 的依赖关系（优于现有的 $1/K$ 界限），并明确表征了局部泛化和非独立同分布性的影响。
表示学习洞察： 它从理论和实证上证明了初始层（表示层）在非独立同分布客户端之间的相似度高于最终层（头部），从而证明了差异化聚合策略的合理性。
FedALS 算法： 设计了一种新算法，对不同部分的模型采用不同的聚合频率。这种方法在降低通信成本的同时，增强了异构环境下的模型泛化能力。
全面的评估： 在图像分类（CIFAR-10, CIFAR-100, SVHN, MNIST）和大语言模型（LLM）微调（针对 MultiNLI 数据集的 OPT-125M）方面进行了广泛的实验。

实验结果

作者使用 ResNet-20 进行图像分类，以及使用 OPT-125M 进行 LLM 微调，并在 iid 和 non-iid 数据分布下对 FedALS 进行了评估。

Non-IID 性能： 在 non-iid 场景下，FedALS 在测试准确率方面显著优于基准算法 FedAvg 和 SCAFFOLD。例如，在 CIFAR-10 上，FedALS 达到了 52.2% 的准确率，而 FedAvg 为 46.5%。在 SVHN 上，它达到了 81.2%，对比 FedAvg 的 70.1%。
通信效率： 通过增加表示提取器的局部步数（由 $\alpha$ 控制），FedALS 减少了通信参数量。当 $\alpha=10$ 时，与标准 FedAvg 相比，通信开销减少了约 90%（在 SVHN 实验中，每个客户端通信的参数量从 2.344B 降至 0.239B），同时保持甚至提升了准确率。
IID 性能： 在 iid 设置下，FedALS 相对于 FedAvg 的性能提升微乎其微，这符合理论预期，即在同质数据中， $1/K^2$ 的收益已通过标准平均化实现。
与 SCAFFOLD 的集成： 作者研究了将 FedALS 与 SCAFFOLD 结合使用，以同时利用方差缩减和差异化聚合。然而，表 1 中的实验结果表明，这种结合并不总能比单独使用 FedALS 带来进一步的提升。例如，在 CIFAR-10 (Non-IID) 上，FedALS 实现了 0.522 的准确率，而 FedALS + SCAFFOLD 仅为 0.512。同样，在 SVHN 上，FedALS 达到了 0.812，而结合后的方法结果为 0.810，显示出轻微的性能下降。
超参数敏感性： 实验表明，增加 $\alpha$ 会提高准确率，直到达到一个阈值（约 $\alpha=10$ ），之后由于表示层中非独立同分布性的过度增加，性能会开始下降。

意义与主张

本文声称，差异化聚合是提升联邦学习性能的一个基本但此前未被充分利用的杠杆。通过识别神经网络的不同部分对数据异构性的敏感度不同，FedALS 实现了双重收益：

降低通信成本： 减少了表示提取器参数的传输次数。
增强泛化能力： 通过更多的局部更新，使表示提取器能够学习到鲁棒且共享的特征，而不至于过早受到全局平均值的约束。

作者断言，这种方法为联邦学习的泛化提供了一个新的理论视角，并为在资源受限、异构的环境中部署大型模型提供了一个实用的、可扩展的解决方案。这项工作被视为理解局部更新动态与模型架构如何相互作用以决定全局模型性能的重要一步。