🤖 machine learning

Federated Learning with Uncertainty and Personalization via Efficient Second-order Optimization

本文提出了一种用于联邦学习的新型、计算高效的二阶优化方法，该方法在实现贝叶斯方法所具备的不确定性量化和个性化优势的同时，在准确性和效率方面显著优于现有的最先进方法。

原作者： Shivam Pal, Aishwarya Gupta, Saqib Sarwar, Piyush Rai

发布于 2026-06-09

📖 1 分钟阅读☕ 轻松阅读

原作者： Shivam Pal, Aishwarya Gupta, Saqib Sarwar, Piyush Rai

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一群学生（即客户端）在一起学习，他们都住在不同的房子里，并且各自拥有一套独特的作业题。他们想要一起学习一门学科，但有一个严格的规则：谁都不能离开自己的房子，也不能分享实际的作业纸。他们只能向坐在中间的老师（即服务器）发送他们的答案。

这就是联邦学习（Federated Learning）。老师收集答案，将它们取平均值以创建一个“大师指南（Master Guide）”，然后将其发回给学生。

旧方法的缺陷

通常，老师只是简单地对答案取平均值（类似于 FedAvg）。如果每个人的作业都很相似，这种方法效果很好。但如果学生 A 只做数学题，学生 B 只做历史题，而学生 C 则既有数学又有历史，情况又如何呢？一个单一的“大师指南”对任何人都没多大帮助，因为它只是所有东西的一个模糊混合体。

此外，旧方法无法告诉你它们对某个答案有多确定。如果一个学生是在瞎猜，老师无法知道这究竟是运气好猜对了，还是经过严谨计算得出的结果。

一些研究人员尝试使用**贝叶斯学习（Bayesian Learning）**来解决这个问题。与其只发送一个答案，不如让学生发送一整个“可能性的云团”（概率分布），以展示他们的信心程度。这对于个性化和了解何时处于不确定状态非常有用。但是，计算并发送这些“云团”就像是试图邮寄一整个图书馆的书籍，而不是一张明信片。这太沉重、太慢，且对于网络连接弱或电脑配置低的同学来说成本太高。

新的解决方案：FedIvon

该论文的作者创建了一种名为 FedIvon 的新方法。你可以把它想象成一种巧妙的方法，它发送的是一个“智能摘要”，虽然内容丰富如同一座图书馆，但重量却轻如一张明信片。

它是这样工作的，我们用一个简单的类比来说明：

1. “二阶”捷径（智能地图）

想象你正在下山寻找最低的谷底（即最佳答案）。

旧方法（如 Adam） 就像是一个只看脚下坡度的徒步者。他们根据当前的坡度迈出小步。这虽然可行，但可能会很慢，并且可能会陷入小的凹陷处。
传统的贝叶斯方法 试图绘制整个山脉的地图，以完美理解山谷的形状。这很精确，但画图需要花费很长时间。
FedIvon 就像是一个带着智能指南针的徒步者。它并不绘制整座山脉，但它利用一种叫做 IVON 的技巧，快速估算出地面的曲率（是陡峭的悬崖还是平缓的斜坡？）。这使得它能够迈出更大、更聪明的步伐，而无需绘制整张地图。它获得了“全图”（不确定性和精确度）的好处，却无需承担繁重的绘图工作量。

2. “个性化”先验（老师的提示）

在这个新系统中，老师会根据全班同学掌握的知识，发回一个“提示”（先验分布）。

当学生学习时，他们从老师的提示开始，然后根据自己的特定作业进行大幅调整。
如果一个学生手头的作业很少（数据量小），他们会更多地依赖老师的提示。
如果一个学生有大量独特的作业，他们会更信任自己的数据。
这为每个学生创造了一个个性化模型，同时仍与集体保持联系。

3. 高效的交换

与其发送沉重的“云团”数据，FedIvon 为模型的每个部分仅发送两个小数字：

最佳猜测（平均值）。
置信水平（答案可能变化的程度）。

由于 FedIvon 背后的数学逻辑非常高效（它在学习过程中隐式地计算这些数字，而不是进行单独的、昂贵的计算），它的运行速度几乎与简单的非贝叶斯方法一样快。

他们发现了什么？

作者在三个不同的“作业集”（数据集）上进行了测试：

EMNIST（手写字母/数字）。
SVHN（来自街头标志的房屋数字）。
CIFAR-10（如猫、汽车等物体的图片）。

他们模拟了一个场景：200 名学生每人只有极少的样本（少于 100 个），且每个人拥有的数据类型都非常不同。

结果如下：

更高的准确度： FedIvon 在测试中的得分高于旧的“平均值”方法，甚至比其他复杂的贝叶斯方法表现更好。
更好的置信度： 它在判断自己是否不确定时表现得非常出色。在一次尝试识别“异常”图像（分布外数据）的测试中，FedIvon 是最擅长说“我不知道这是什么”而不是自信地猜错的方法。
速度： 尽管进行了这些复杂的数学运算，它并没有减慢过程。它的速度与简单的非贝处方法一样快。

核心结论

FedIvon 是一种新的计算机协同学习方式，无需分享私密数据。它实现了智能化（知道自己有多确定）、个性化（适应每个用户的独特数据）以及高效性（不会拖慢网络）。它通过一种巧妙的数学捷径，解决了“贝叶斯学习太重”的问题，让繁重的计算任务变得轻量化。

技术摘要：通过高效二阶优化实现具有不确定性与个性化的联邦学习

问题陈述

联邦学习（FL）支持在不共享原始数据的情况下，跨去中心化客户端进行协作式模型训练。然而，标准的联邦学习方法面临两个主要挑战：

数据异构性： 当客户端数据呈现非独立同分布（non-IID）时，单一的全局模型往往无法有效代表各个客户端的分布，导致性能欠佳。
缺乏不确定性量化： 标准的联邦学习方法通常仅学习模型参数的点估计。这使得它们在低数据量场景下容易出现过拟合，并且无法提供预测不确定性，而这对于诸如分布外（OOD）检测等任务至关重要。

虽然贝叶斯联邦学习通过学习后验分布来捕捉不确定性并实现个性化（通过层次化框架）提供了一个原则性的解决方案，但现有方法面临显著的瓶颈。目前的贝叶斯联邦学习方法通常依赖于计算昂贵的程序（例如 MCMC 采样、需要显式计算 Hessian 矩阵的 Laplace 近似，或深度集成），并且由于传输完整的后验分布而导致高昂的通信成本。这些因素限制了其可扩展性，特别是对于资源受限的客户端而言。

方法论：FedIvon

作者提出了 FedIvon，一种新型的贝叶斯联邦学习算法，它利用**改进的变分在线牛顿法（Improved Variational Online Newton, IVON）**来进行高效的二阶变分推理。该方法在贝叶斯推理的优势与计算及通信效率之间取得了平衡，使其效率可与 Adam 等一阶优化器相媲美。

核心组件

客户端变分推理 (IVON)：
- 客户端不再学习点估计，而是使用具有对角协方差矩阵的高斯分布 $N(\theta | m_k, \text{diag}(\sigma_k^2))$ 来近似其局部后验分布 $q_k(\theta)$ 。
- 二阶效率： 与根据平方梯度调整学习率的 Adam 不同，IVON 通过重参数化隐式地估计对角 Hessian 矩阵 ( $h$ )，而无需显式计算。方差被推导为 $\sigma^2 = 1/(h + \delta)$ 。
- 优化： 该算法使用自然梯度同时更新均值向量 ( $m$ ) 和方差 ( $\sigma^2$ )。这能自然地提供不确定性估计，并捕捉损失函数的几何结构以实现更快的收敛，同时保持与 Adam 相似的计算成本。
服务端后验聚合：
- 服务端聚合客户端的后验分布以计算全局后验。由于高斯分布的乘积仍为高斯分布，全局后验被近似为高斯分布 $N(\theta | \mu, \Lambda^{-1})$ 。
- 聚合策略： 全局均值 ( $\mu$ ) 和精度矩阵 ( $\Lambda$ ) 被计算为局部均值和精度的加权和，其中权重与客户端数据集大小 ( $N_k$ ) 成正比。这种策略在计算上是高效的，因为它只需要传输均值和对角方差（或 Hessian），而不是完整的模型权重或复杂的分布。
通过层次化贝叶斯框架实现个性化：
- FedIvon 天然支持个性化联邦学习。来自服务端的全局后验作为客户端局部优化的先验 ( $p_k(\theta)$ )。
- 客户端最小化个性化损失函数： $L_k(q) = \mathbb{E}_{q_k}[\bar{\ell}_k(\theta)] + \beta D_{KL}(q_k(\theta) \| p_k(\theta))$ 。
- 超参数 $\beta$ 控制局部适应与全局知识之间的权衡。当 $\beta=0$ 时，模型是完全个性化的； $\beta$ 值越高，则融入的全局信息越多。

核心贡献

高效的二阶贝叶斯联邦学习： 引入了 FedIvon，它利用 IVON 进行变分推理，其计算成本与一阶方法（如 Adam）相当，但提供了二阶信息（Hessian 估计）。
提升性能与不确定性： 证明了 FedIvon 在所有数据集上相比于最先进的（SOTA）贝叶斯和非贝叶斯联邦学习方法，在预测准确性和不确定性估计方面均取得了更优的表现。
原生个性化： 该框架通过利用服务端的后验作为先验，自然地实现了客户端级别的模型个性化，有效地平衡了局部数据特征与全局共享知识。

实验结果

作者在三种数据集（EMNIST、SVHN、CIFAR-10）上评估了 FedIvon，设置在非 IID 环境下，共有 200 个客户端，每个客户端的数据量很少（<100 个样本）。

标准联邦学习结果

准确性与校准度： 在所有数据集上，FedIvan 在测试准确率、期望校准误差 (ECE)、负对数似然 (NLL) 和 Brier 分数方面均优于基准方法（FedAvg、FedLaplace）。
OOD 检测： 在分布外（OOD）检测任务中，FedIvon 取得了具有竞争力的或优于基准方法的 AUROC 分数，验证了其有效量化预测不确定性的能力。
收敛性： 虽然由于用于梯度估计的权重随机采样，FedIvon 的初始收敛速度略慢，但由于改进了 Hessian 近似，随着训练的进行，其表现超越了其他方法。

个性化联邦学习结果

在 CIFAR-10（类别分布偏斜）和 CIFAR-100（类别概念漂移）上的实验将 FedIvon 与 pFedME、pFedBayes 和 pFedVEM 进行了对比。

CIFAR-10： FedIvon 实现了与 pFedVEM 相当的客户端准确率，同时在全局服务端准确率方面表现出显著提升，表明其能更好地聚合异构数据。
CIFAR-100： FedIvon 在个性化客户端准确率和全局服务端准确率方面均显著优于所有基准方法，凸显了其处理概念漂移的鲁棒性。

意义与主张

本文声称 FedIvon 弥合了贝叶斯联邦学习的理论优势（不确定性量化、个性化）与联邦系统实际约束（计算、通信）之间的鸿沟。通过使用高效的二阶优化方法，该方法避免了现有工作中存在的沉重的 MCMC 或显式 Hessian 计算开销。

作者断言，FedIvon 是首个能够提供以下特性的方法：

与一阶优化器（如 Adam）相当的计算效率。
完整的贝叶斯优势（不确定性和个性化），且不存在现有贝叶斯联邦学习方法的扩展性问题。
在标准和个性化联邦学习设置下均具有卓越性能，特别是在高数据异构性和有限客户端数据的场景下。

这项工作将 FedIvon 定位为一种可扩展、实用的解决方案，用于在现实世界的联邦环境中部署鲁棒、具备不确定性感知能力且个性化的机器学习模型。