🤖 machine learning

Fed-BAC: Federated Bandit-Guided Additive Clustering in Hierarchical Federated Learning

本文提出 Fed-BAC，一种分层联邦学习框架，该框架将加性集群个性化与两级多臂老虎机机制相结合，以联合优化服务器到集群的分配和客户端选择，从而在严重数据异构条件下实现显著的精度提升、更快的收敛速度以及更好的公平性。

原作者： Satwat Bashir, Tasos Dagiuklas, Muddesar Iqbal

发布于 2026-05-13

📖 1 分钟阅读☕ 轻松阅读

原作者： Satwat Bashir, Tasos Dagiuklas, Muddesar Iqbal

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一个庞大的全球课堂，成千上万的学生（客户端）想要共同学习一门课程，但他们分散在不同的城市。在传统模式下，每个学生都必须将作业直接发送给中央学校（云端）的主教师。这会造成交通拥堵，让教师不堪重负。

分层联邦学习（HFL） 就像在每个城市聘请本地辅导员（边缘服务器）。本地辅导员收集学生的作业，进行批改，并向主教师发送总结。这减少了交通流量。

然而，存在一个问题：“一刀切”的陷阱。
在现实世界中，不同城市的学生学习方式各不相同。有些擅长数学但不擅长艺术；有些则恰恰相反。如果本地辅导员强迫所有学生学习完全相同的“平均”教科书，数学天才会感到无聊，而艺术爱好者则会感到困惑。这被称为数据异构性。

现有方法试图通过将学生分组到单独的班级（聚类）来解决这个问题，但它们通常在两方面表现不佳：

它们创建了孤立的教室，组与组之间不共享任何知识。
它们随机选择叫哪些学生回答问题，浪费时间在那些学习效果不佳的学生身上。

引入 Fed-BAC：智能、自适应的课堂

这篇论文提出了一种名为 Fed-BAC 的新系统。将其想象为一个超级智能的教育系统，它利用两种类型的“赌博策略”（称为 Bandits）来做出决策，并结合了一种独特的教学方式。

1. 双层“赌徒”系统

Fed-BAC 使用两个不同的决策者来解决课堂混乱：

云端教师（“上下文 Bandit"）：
想象主教师有一个魔法水晶球。每隔几周，教师就会查看本地辅导员，并问道：“哪一组辅导员应该一起工作？”
教师不使用猜测，而是使用一种名为 LinUCB 的策略。它观察四个线索（例如当前组的表现如何、各组是否平衡等），以决定哪些辅导员应被分在同一个“学习小组”中。如果某个组运作不佳，教师就会将他们重新洗牌到新的组中。这确保了正确的辅导员能够协同工作。
本地辅导员（"Thompson Sampling"选择器）：
在每个城市内部，本地辅导员必须决定在下一次课程中叫哪 8 名学生（共 10 名）回答问题。
辅导员不使用随机选择，而是使用一种名为 Thompson Sampling 的策略。这就像老虎机一样。辅导员为每个学生保留一个心理分数。如果某位学生的作业提高了班级平均分，辅导员就给他们一个“胜利”，并更有可能在下次选择他们。如果他们表现挣扎，辅导员就给他们一个“失败”，并选择其他人。随着时间的推移，辅导员会确切地了解到哪些学生贡献最大，并专注于他们。

2. “共享 + 特色”教科书（加法聚类）

这是最具创意的部分。大多数系统要么使用一本供所有人使用的大教科书，要么为每个小组使用完全不同的教科书。Fed-BAC 同时做到了这两点。

想象每个学生都获得一本基础教科书（全局网络），涵盖每个人都需要了解的共同事实。在此基础上，每个学生都获得一本定制笔记本（特定于聚类的网络），他们在其中写下适合其本地风格的特定技巧和捷径。

为什么这很棒： “基础教科书”允许不同组共享共同知识（因此他们不必重复造轮子）。“定制笔记本”让他们能够处理其独特的本地差异。这就像拥有一种通用语言加上一种地方方言。

他们发现了什么？（结果）

研究人员在三个不同的“科目”（数据集：CIFAR-10、SVHN、Fashion-MNIST）上测试了该系统，并设置了两种难度级别：

中等难度： 学生有些不同。
严重难度： 学生非常不同（有些完全相反）。

以下是发生的情况：

情况越混乱，表现越好： 学生差异越大（严重难度），Fed-BAC 就越能碾压竞争对手。当其他系统挣扎且分数下降时，Fed-BAC 的分数实际上反而上升了。这证明了其“共享 + 特色”的方法非常适合混乱的现实世界数据。
它是速度恶魔： Fed-BAC 达到高准确度的速度比其他方法快 1.5 到 4.8 倍。它不需要等待所有人完成；通过选择最佳学生（通过本地辅导员）并高效地洗牌分组（通过云端教师），它学习得很快。
它节省能源（某种程度上）： 尽管 Fed-BAC 每轮只要求 80% 的学生参与（节省能源和带宽），但它仍然击败了强制 100% 参与的系统。
公平性： 在旧系统中，一些学生（服务器）被抛在后面，成绩糟糕。Fed-BAC 确保即使是班里“最差”的学生，其表现也优于其他系统中的“平均”学生。

结论

Fed-BAC 就像一个永不停止自我优化的课堂。它不断重组学习小组以找到最佳匹配，并挑选最有用的学生来引导讨论。通过将共享基础与个性化笔记相结合，它学习得更快，更好地处理混乱，并确保没有人被抛在后面，同时使用的资源比旧方法更少。

技术摘要：Fed-BAC

问题陈述

分层联邦学习（HFL）利用边缘服务器执行部分聚合，从而减少多接入边缘计算（MEC）环境中的通信瓶颈。然而，现有的 HFL 方法在处理现实世界的数据异构性时面临三个关键局限：

静态假设：大多数方法假设边缘服务器之间的数据分布是同质的，导致在聚合来自标签分布不同的客户端的更新时出现“客户端漂移”和准确率下降（高达 20%）。
隔离的聚类：虽然聚类的联邦学习方法（例如 IFCA）将相似的客户端分组，但它们通常训练完全隔离的模型，阻碍了跨聚类的知识迁移。
低效的选择：客户端选择通常是随机或静态的。现有的基于多臂老虎机（bandit）的方法在扁平架构中运行，无法在云 - 边 - 端三层拓扑中联合优化聚类分配和客户端选择。

此外，维护每个客户端残差的个人化方法（例如 Ditto、APFL）会产生 $O(N)$ 的参数开销，这在大规模场景下变得不切实际，并加剧了三层系统中的通信成本。

方法论：Fed-BAC 框架

本文提出了 Fed-BAC（联邦老虎机引导的加法聚类），这是一个将加法聚类个人化与双层老虎机决策架构相结合的框架。

1. 加法聚类个人化

Fed-BAC 不训练隔离的聚类模型，而是在对数几率（logit）空间采用加法分解。聚类 $k$ 中客户端的预测对数几率 $\hat{y}$ 定义为：
$\hat{y} = h(x; \Theta_{global}) + f(x; \Theta_k)$

$\Theta_{global}$ ：一个共享的全局网络，捕捉所有服务器之间的共性知识。
$\Theta_k$ ：一个特定于聚类的网络，捕捉分布差异。
该架构允许所有 $M$ 个边缘服务器在每一轮中都对全局模型做出贡献，从而在通过特定于聚类的残差保留专业性的同时，实现跨聚类的知识迁移。

2. 双层老虎机框架

Fed-BAC 将决策解耦为两个层级，以应对三层拓扑结构：

云层级（聚类分配）：使用 上下文 LinUCB 动态地将边缘服务器分配到聚类。
- 上下文特征：老虎机利用四个联邦学习特定特征：损失比率（当前聚类与最佳替代聚类相比）、聚类平衡性、分配稳定性以及训练进度。
- 机制：每隔 $\tau_{re}$ 轮，云端评估每个服务器与其当前聚类的适配度与替代聚类的适配度。如果服务器的损失比率表明其在其他位置有更好的适配度，则更新分配。这防止了“羊群效应”，并允许系统发现最佳活跃聚类数量（ $K \le M$ ）。
边缘层级（客户端选择）：每个边缘服务器使用 汤普森采样（TS） 选择参与的一个客户端子集（从 $N_m$ 个客户端中选择 $B$ 个）。
- 机制：每个服务器为每个客户端维护一个 Beta 分布先验。基于服务器聚类模型的单轮准确率变化（ $r_{TS}$ ），更新后验分布。
- 目标：动态识别高贡献客户端，在保持模型性能的同时减少通信开销。

3. 训练协议

系统以同步轮次运行，涉及以下步骤：

分发：云端向每个边缘服务器发送 $\Theta_{global}$ 和特定的 $\Theta_k$ 。
选择与训练：边缘服务器使用 TS 选择客户端，这些客户端在两个网络上执行本地 SGD。
聚合：
- 边缘聚合：客户端更新的加权平均。
- 云端聚合：两阶段更新。首先，对所有服务器的 $\Theta_{global}$ 进行全局聚合（使用总服务器数据大小，而不仅仅是选定的子集）。其次，对每个活跃聚类的 $\Theta_k$ 进行特定于聚类的聚合。

主要贡献

双层老虎机架构：一种新颖的分层决策系统，将聚类分配（云端的 LinUCB）与客户端选择（边缘的汤普森采样）解耦。这允许针对每种决策的时间尺度采用不同的更新频率。
集成的加法个人化：首次在三层 HFL 架构中集成加法聚类个人化。与隔离聚类的 IFCA 不同，Fed-BAC 共享一个全局骨干网络，促进了组间知识迁移。
联合优化：该框架联合优化聚类分配和客户端选择，解决了现有方法分别处理这些任务或假设静态配置的空缺。

实验结果

实验在三个基准数据集（CIFAR-10、SVHN、Fashion-MNIST）上进行，采用中等（ $\alpha=0.5$ ）和严重（ $\alpha=0.1$ ）的狄利克雷非独立同分布（Dirichlet non-IID）划分。

准确率提升：Fed-BAC 实现的分布式准确率增益比 HierFAVG 高出 +35.5 个百分点，比 IFCA 高出 +8.4 个百分点。
异构性敏感度：Fed-BAC 的性能优势随着数据异构性的严重程度而增加。在严重异构性（ $\alpha=0.1$ ）下，HierFAVG 显著退化，而 Fed-BAC 保持了高准确率。
效率：尽管仅需 80% 的客户端参与（ $p=0.8$ ），Fed-BAC 的收敛速度比基线方法快 1.5–4.8 倍（具体取决于数据集和目标准确率）。这种加速使得达到代表性准确率目标所需的总通信字节数减少了 3.0 倍至 5.9 倍。
可扩展性：在 CIFAR-10 上对 500 个客户端（5 倍规模）进行的扩展研究证实，Fed-BAC 保持了对 HierFAVG（+12.6 个百分点）和 IFCA（+3.3 个百分点）的领先优势，验证了其在更大部署规模下的鲁棒性。
公平性：Fed-BAC 表现出改进的跨服务器公平性，其每服务器准确率的方差低于 IFCA 和 HierFAVG，特别是在严重异构性条件下。

意义与主张

本文声称，Fed-BAC 解决了分层联邦学习中统计异构性和通信效率的关键挑战。通过结合 加法分解（实现知识共享）与 老虎机引导的自适应决策（优化聚类结构和客户端参与），该框架优于现有的最先进方法。

作者强调，随着数据分布的偏离，加法个人化方法变得日益重要，这证实了共享全局骨干网络同时保持特定于聚类的残差优于完全隔离的聚类。结果表明，Fed-BAC 为数据异构性严重且通信资源受限的 MEC 部署提供了一种可扩展的解决方案。

本文以谦逊的结论收尾，指出当前的评估使用了单一的参与率，未来的工作应探索参与率的系统扫描、现实世界的边缘硬件测试床，以及耦合非平稳老虎机系统的形式化收敛保证。