💻 computer science

FedSmoothLoRA: Toward Smoother and Faster Convergence in Federated Low-Rank Adaptation

FedSmoothLoRA 是一种新颖的联邦学习框架，它通过引入轮次匹配矩阵和梯度对齐矩阵来解决轮次间状态不匹配问题并提供客户端特定的初始化，从而提升低秩适应（LoRA）的收敛速度与稳定性，进而在图像和文本任务中超越现有方法。

原作者： Zehao Wang, Guanglei Yang, Yihan Zeng, Hang Xu, Hongzhi Zhang, Wangmeng Zuo, Chun-Mei Feng

发布于 2026-05-29

📖 1 分钟阅读☕ 轻松阅读

原作者： Zehao Wang, Guanglei Yang, Yihan Zeng, Hang Xu, Hongzhi Zhang, Wangmeng Zuo, Chun-Mei Feng

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你拥有一座庞大且极其聪明的图书馆（即“基础模型”），它几乎无所不知。然而，这座图书馆太大，任何单个人都无法搬动，而且馆内的书籍是私有的，分散在成千上万个人的家中。你希望教会这座图书馆一项新的、特定的技能（例如解决数学问题或编写代码），而不将所有书籍搬运到一个中心地点。

这就是联邦学习所面临的挑战：利用保留在每个人本地设备上的数据来训练智能模型。为了提高效率，研究人员使用了一种称为LoRA（低秩自适应）的技巧。可以将 LoRA 想象为一套轻便的便利贴，你可以将它们贴在图书馆的书架上以传授新知识，而无需重写整本书。

本文介绍了一种名为FedSmoothLoRA的新方法。为了理解其必要性，让我们通过几个类比来看看当前方法（称为FedAvgLoRA）存在的问题：

旧方法的三大问题

“小背包”问题（更新空间受限）：
想象这些便利贴（LoRA）太小了，只能容纳几个字。模型试图学习，但这就像试图在一张便利贴上写完整部小说。它根本没有足够的空间来捕捉所有必要的细节。
- 解决方案： 先前的研究（FRLoRA）试图通过将便利贴更频繁地合并到主书中来解决这个问题，从而为模型提供更多“页面空间”进行学习。FedSmoothLoRA 保留了这一改进。
“重置按钮”问题（轮次间状态不匹配）：
想象一群学生（客户端）正在做一个小组项目。每周，他们都会见面，分享笔记，然后老师（服务器）会根据小组的平均情况，发给他们一套全新的笔记。学生们扔掉自己上周的进度，拿着老师的笔记重新开始。
- 结果： 学生们不断忘记他们刚刚学到的东西。他们来回震荡，无法在之前的工作基础上平滑推进。这使得学习过程变得缓慢且断断续续。
- 解决方案： FedSmoothLoRA 引入了一个轮次匹配矩阵。学生们不再扔掉旧笔记，而是保留上周结束位置的“记忆”。当他们从老师那里获得新笔记时，会将其与自己的记忆融合。这确保了他们不会丢失进度，使学习过程变得平滑且连续。
“一刀切”问题（客户端无关的起始状态）：
想象老师给每个学生布置完全相同的作业起点，无论他们擅长数学、艺术还是历史。一个已经擅长数学的学生不得不从与 struggling 者相同的基础水平开始，浪费了时间。
- 结果： 需要特定帮助的学生得不到帮助，而且对所有人来说学习效率都很低。
- 解决方案： FedSmoothLoRA 引入了一个梯度对齐矩阵。在新的一周开始之前，老师让每个学生快速查看他们自己的特定作业（本地数据），并弄清楚他们具体需要关注什么。然后，老师根据他们的具体需求提供一个量身定制的起点。这有助于每个学生学得更快，因为他们不是从一个通用的位置开始的。

FedSmoothLoRA 的工作原理（解决方案）

FedSmoothLoRA 将这些思想结合成一个更智能的工作流程：

它保留了“大背包”： 与其前身一样，它将更新合并到主模型中，为学习过程提供更多成长空间。
它尊重“记忆”： 在学生开始新一轮训练之前，它会计算一个“轮次匹配”调整。这将新的起点与学生上次实际结束的位置对齐，防止出现“生硬”的跳跃和震荡。
它个性化“起点”： 它根据学生自己的本地数据计算一个“梯度对齐”调整。这为他们提供了一个完美契合其特定学习风格和需求的起步优势。

结果

作者在两类主要任务上测试了这种方法：

图像分类： 教会模型识别不同的图片（如猫、狗、汽车）。
自然语言生成： 教会模型进行数学运算、编写代码以及用多种语言聊天。

在每一项测试中，FedSmoothLoRA 都比之前的最佳方法学得更快，最终也变得更聪明。它特别擅长处理学生（客户端）拥有不同类型数据的情况（非独立同分布设置），证明了为每个学生提供个性化起点并尊重他们的记忆，能使整个群体取得更好的成功。

简而言之： FedSmoothLoRA 就像一种更优秀的小组学习方法。它确保每个人都有足够的空间写笔记，记住大家上周学到的内容以免任何人从头开始，并根据每个学生的优势和弱点提供个性化的学习计划。其结果是，整个群体学习得更平滑、更迅速。

技术摘要：FedSmoothLoRA

问题陈述

联邦学习（FL）与低秩自适应（LoRA）的结合为在保持数据本地性的同时微调基础模型并降低通信成本提供了一种有前景的方法。然而，FedAvg 与 LoRA 的直接结合（称为 FedAvgLoRA）存在三个关键局限性，阻碍了收敛和性能：

更新空间受限：LoRA 固有的低秩结构限制了有效参数更新空间，与全量微调相比，限制了模型的学习能力。
跨轮次状态失配：在标准联邦学习中，一轮中学习的本地 LoRA 参数会被丢弃，并在下一轮开始时被聚合的全局参数替换。这破坏了跨轮次的本地优化连续性，导致参数发生突变，并在训练损失中引起剧烈震荡。
客户端无关的起始状态：客户端从相同的全局 LoRA 参数初始化其本地训练，未融入客户端特定的优化信号。这种与异构本地目标的不一致减缓了本地收敛速度。

虽然像 FRLoRA 这样的近期方法通过将 LoRA 更新合并到主干网络中以扩大更新空间来解决第一个问题，但它们未能充分解决跨轮次状态失配和客户端无关起始状态的问题。

方法论：FedSmoothLoRA

作者提出了FedSmoothLoRA，这是一个旨在保留扩大后的更新空间，同时解决状态失配和初始化不对齐问题的框架。该方法在标准的联邦优化流程内运行，但在客户端和服务端引入了特定机制。

1. 扩大的更新空间（服务端与客户端）

与 FRLoRA 类似，FedSmoothLoRA 在每次通信轮次中将聚合的 LoRA 更新合并到全局主干权重中。

服务端：服务器不直接对低秩因子（ $B$ 和 $A$ ）进行平均，而是执行全秩聚合。它将来自所有客户端的有效更新矩阵（ $B_c A_c$ ）聚合成一个全秩矩阵 $\Delta W_s$ ，然后使用 SVD 近似将其投影回秩为 $r$ 的 LoRA 形式。这在压缩前保留了更多的全局更新信息。
客户端：客户端将接收到的全局 LoRA 更新合并到其本地主干网络中，有效地扩展了可用于学习的参数空间。

2. 轮次匹配矩阵（ $W_{c,rm}^t$ ）

为解决跨轮次状态失配，FedSmoothLoRA 构建了一个本地初始化，使当前轮次的起始状态与上一轮达到的有效本地模型对齐。

该矩阵定义为客户端保留的上一轮 LoRA 更新（ $B_{c}^{t-1}A_{c}^{t-1}$ ）与当前全局更新（ $B_{s}^{t}A_{s}^{t}$ ）之间的差值。
通过将此项纳入初始化，该方法抑制了参数突变并减轻了轮次间震荡，确保了更平滑的跨轮次优化连续性。
该矩阵的影响由系数 $\zeta$ 控制，该系数可以遵循恒定模式（用于 IID 设置）或衰减计划（用于 Non-IID 设置），以平衡稳定性和适应性。

3. 梯度对齐矩阵（ $\hat{W}_{c,ga}^t$ ）

为解决客户端无关的起始状态，该方法用源自本地梯度信号的客户端特定初始化取代了共享的模型权重初始化。

受 LoRA-GA 启发，客户端使用小型校准小批量估计损失函数相对于主干权重的本地梯度。
该梯度矩阵通过 SVD 分解，并重建一个稳定的低秩近似作为初始化。
这提供了一个明确与客户端本地优化目标对齐的起点，加速了本地收敛。

4. 本地初始化与训练

最终的本地 LoRA 初始化是梯度对齐矩阵和轮次匹配矩阵的组合：
$W_{c,init}^t = \hat{W}_{c,ga}^t + \zeta W_{c,rm}^t$
客户端随后从此初始化开始进行本地训练，在更新阶段，主干网络被调整以排除梯度对齐分量，以确保上传的更新代表净改进。

主要贡献

新颖框架：提出了 FedSmoothLoRA，将扩大的更新空间与客户端感知初始化策略相结合。
轮次匹配机制：一种特定的矩阵构建方法，保留了跨轮次的本地状态连续性，直接解决了标准联邦学习中因状态重置引起的震荡问题。
梯度对齐初始化：将基于梯度的初始化（来自 LoRA-GA）适配到联邦设置中，提供了一个与异构本地目标更匹配的客户端特定起始状态。
全秩聚合：在服务端利用全秩聚合，以最小化客户端更新压缩过程中的信息损失。

实验结果

在图像分类（CIFAR-100）和自然语言生成任务（数学推理、代码生成、多语言聊天）上，使用各种主干模型（ViT-Small、LLaMA-3.2-1B、LLaMA-2-7B/13B）进行了大量实验。

性能：FedSmoothLoRA 始终优于现有基线，包括 FedAvgLoRA 和 FRLoRA。
- 在 CIFAR-100（Non-IID）上，其准确率达到64.46%，超过了 FRLoRA（60.28%）和 FedAvgLoRA（57.36%）。
- 在 GSM8K（数学）上，其得分为36.74，优于 FRLoRA（33.98）和 FedAvgLoRA（25.85）。
- 在 HumanEval（代码）上，其 Pass@1 得分为18.25。
- 在多语言聊天基准（Aya）上，其取得了最高的平均分4.03。
收敛性：训练损失曲线表明，与 FedAvgLoRA 和 FRLoRA 相比，FedSmoothLoRA 表现出更平滑的动态和更快的本地收敛，且轮次间震荡显著减少。
消融研究：移除轮次匹配矩阵或梯度对齐矩阵中的任一项都会导致性能下降，证实了这两个组件对于观察到的增益都是必要的。该研究还验证了服务端的全秩聚合优于直接因子平均。

意义与主张

该论文声称，FedSmoothLoRA 为联邦微调基础模型提供了一种更稳健和高效的解决方案。通过明确解决通信轮次之间的不连续性以及初始化中缺乏客户端特定指导的问题，该方法在不会显著增加通信或内存成本的情况下，实现了更平滑的训练动态和更快的收敛。

作者将这项工作定位为迈向在资源受限和数据隔离环境中使大型模型的联邦适配更加实用的一步。他们指出，虽然该方法提高了效率和稳定性，但并未消除与联邦学习相关的所有风险（例如通过更新泄露隐私），并且部署时需要适当的保障措施。该工作仅限于特定的基准测试和模型系列（LLaMA、ViT），表明需要在更多样化的架构和现实世界的联邦设置中进行未来的评估。