🤖 machine learning

FedTopo: Relation-Level Topology Sharing for Model-Heterogeneous Federated Learning

FedTopo 通过将全局知识编码为关系层级的类拓扑结构而非绝对特征，解决了异构联邦学习中表示空间不一致的挑战，从而在无需推理开销的情况下，实现了跨多样化客户端架构的可靠知识迁移和一致的性能提升。

原作者： Zhaoyang Ma, Zhihao Wu, Xin Gao, Lipo Wang, Youfang Lin, Jing Wang

发布于 2026-07-30

📖 1 分钟阅读☕ 轻松阅读

原作者： Zhaoyang Ma, Zhihao Wu, Xin Gao, Lipo Wang, Youfang Lin, Jing Wang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一个这样的世界：每个人的智能手机、智能手表和家用机器人都能共同学习以变得更聪明，但永远不会分享他们的私人照片或信息。这就是**联邦学习（Federated Learning）**的梦想。与其将你所有的数据收集到一个巨大的、脆弱的数据库中，不如让学习过程直接发生在你的设备上。设备只需向中央服务器发送关于它们学到了什么的微小“更新”，服务器将这些更新混合在一起，从而创造出一个更聪明的全球大脑。

然而，这里有一个问题：并非所有人的硬件都相同。有些设备是强大的超级计算机，而另一些则是微小的、节能的芯片。在机器学习的旧时代，每个人都必须使用完全相同的“大脑架构”来共同学习。如果你的手机与邻居的大脑不同，它们就无法理解彼此的更新。这就像试图将一本用英语编写的书翻译成一种使用完全不同的字母和语法规则的语言；其中的意义会在翻译过程中丢失。这篇论文解决了这些架构不匹配的设备试图进行协作的复杂现实。

问题所在：试图平均苹果和橘子

本文的作者提出了 FedTopo，他们注意到现有的帮助这些不匹配设备共同学习的方法，都在试图“削足适履”。大多数现有方法试图分享“原型”（prototypes）。想象一下，每个设备在其自身的特征空间中捕捉一张“猫”长什么样的快照，并将其快照发送到服务器。然后，服务器尝试平均所有这些快照，以找到那只“完美的猫”。

但问题在于：因为每个设备的架构不同（即不同的“大脑”），“猫”这个词在一部手机上可能看起来是一个模糊的斑点，而在另一部手机上可能是一个锐利的几何形状。当你试图用一个模糊的斑点去平均一个锐利的形状时，你得到的不是一只更好的猫，而是一个误导所有人的混乱集合。论文指出，当设备差异如此之大时，试图对齐这些绝对坐标（即“猫”在数学空间中的精确位置）是一场注定失败的战斗。

解决方案：分享地图，而非坐标

与其试图达成关于“猫”在宇宙中位于哪里的共识，FedTopo 建议我们只需分享事物之间是如何关联的。可以这样想：

想象你和一位朋友都在尝试导航一座城市，但你们拥有不同的地图。你的地图显示图书馆在“公园以北”，而你朋友的地图显示图书馆在“小山之上”。你们无法轻易合并这些地图，因为“北”和“上”对你们两人而言意义不同。

然而，你们可以对关系达成一致。你们可以共同同意“图书馆离公园比离机场更近”。这是一个关系，而不是一个坐标。

FedTopo 的工作原理是让每个设备构建其类别的“关系图”（拓扑结构）。它不会说：“类别 A 位于坐标 (5, 10)”。相反，它会说：“类别 A 与类别 B 非常相似，但与类别 C 非常不同。”它会计算在它自己的局部大脑中，“猫”相对于“狗”或“卡车”的相似程度。

它是如何工作的：可靠的信使

这个过程有点像一群侦探带着不同的笔记本在破解谜案：

局部侦探工作： 每个设备观察自己的数据，并弄清楚它的类别之间是如何关联的。“嘿，我的‘猫’和‘狗’看起来有点像，但我的‘猫’和‘卡车’完全不同。”它将这个关系图发送到服务器。
信任过滤器： 服务器知道有些设备可能只有很少的“卡车”图片，因此它们对于“卡车”如何与“猫”关联的看法可能是不可靠的。Fed-Topo 使用特殊的“可靠性评分”来权衡这些信息。如果一个设备拥有大量数据，它的关系图权重就更高；如果数据很少，服务器就会忽略它那些不可靠的猜测。
全局地图： 服务器将这些加权的关系图合并为一个单一的、极其可靠的“全局关系图”。
教训： 这个全局地图被发回给各个设备。现在，当一个设备在学习时，它不仅看它手里的图片，还会参考全局地图，看看哪些类别是“容易混淆且相似的”。然后，它会对这些特定的易混淆对进行更刻苦的练习，以磨练自己的技能。

他们的发现

作者在三个不同的数据集（CIFAR-10、CIFAR-100 和 Tiny-ImageNet）上测试了这个想法，使用了八种完全不同的神经网络架构（从简单的 CNN 到复杂的 ResNet）。他们模拟了一个数据分布不均的混乱世界（有些设备只有猫，有些只有卡车）。

结果非常明确：FedTopo 始终优于所有其他方法。

在 CIFAR-10 数据集上，在标准的非均匀设置下，它达到了 87.38% 的准确率，大幅领先于次优方法。
在更加困难的“病态”（pathological）设置下（即设备拥有的类别非常少），它达到了 86.26%，同样处于领先地位。
它在处理像 CIFAR-100 和 Tiny-ImageNet 这样更大、更难的数据集时也表现得同样出色。

至关重要的是，论文表明这种方法极其高效。它不需要来回传输庞大的模型文件。它只发送微小的关系表（对于一个 10 类问题，仅需上传 110 个参数 和下载 200 个参数）。此外，它在设备实际使用（推理）时增加了 零额外成本，因为关系图仅在训练阶段用于帮助设备更快地学习。

核心结论

FedTopo 证明了，当设备之间的差异大到无法就精确的“坐标”达成共识时，它们仍然可以通过对“概念之间的关系”达成共识来共同学习。通过关注类别之间的相互关系，而非它们在数学虚空中所处的位置，并通过过滤掉不可靠的猜测，这种方法允许多样化的设备构建一个更聪明、更鲁棒的集体智能，而无需集中处理它们的私人数据。这是一种更聪明的方式，让大家即使在说话方式略有不同时，也能更好地共同学习。

技术摘要：FedTopo

问题陈述

联邦学习（FL）能够在不集中原始数据的情况下，实现跨去中心化数据孤岛的协作训练。然而，标准的联邦学习假设客户端具有相同的架构，这在计算资源和部署约束各异的情况下往往是不切实际的。**模型异构联邦学习（Model-heterogeneous FL）**通过允许客户端使用不同的骨干网络来解决这一问题。

模型异构联邦学习的核心挑战在于如何在非对齐的表示空间之间传递全局知识。现有的范式通过以下方式共享知识：

部分参数共享（Partial Parameter Sharing）： 要求参数空间对齐且架构兼容。
知识蒸馏（Knowledge Distillation）： 要求共享输出空间或辅助公共数据以对齐预测。
原型共享（Prototype Sharing）： 交换类别的原型（特征坐标）。

所有这三种范式都将知识编码在绝对空间（权重、逻辑值或特征坐标）中，而该空间必须在客户端之间保持对齐。在异构骨干网络下，相同的特征维度在不同客户端可能编码不同的语义因子。因此，直接平均原型或参数会导致不可靠的全局知识，并误导本地训练。

方法论：FedTopo

作者提出了 FedTopo（联邦拓扑引导学习），这是一个将共享重点从分享绝对坐标转向分享**关系级类别拓扑（relation-level class topology）**的框架。FedTopo 不再询问“一个类别在特征空间中位于何处？”，而是询问“在一个客户端的局部空间内，各个类别是如何相互关联的？”

该框架分为三个阶段运行：

1. 关系级拓扑构建（客户端侧）

每个客户端 $k$ 在其私有数据上训练其本地异构模型。

原型提取： 客户端计算其本地数据集中存在的类别的类原型 $p_{k,c}$ （特征表示的均值）。
关系矩阵构建： 客户端不上传原型，而是计算本地关系矩阵 $R_k \in [0, 1]^{C \times C}$ 。矩阵中的条目 $R_k(c, c')$ 代表类别 $c$ 与类别 $c'$ 原型之间的余弦相似度，并缩放到 $[0, 1]$ 范围内。
统计量： 客户端记录类别样本计数 $n_k$ ，以量化这些关系的统计支持度。
上传： 仅上传关系矩阵 $R_k$ 和统计量 $n_k$ 。原始原型和特征坐标保留在本地。

2. 具备可靠性感知能力的全局拓扑聚合（服务端侧）

服务器将本地关系聚合为全局拓扑 $R_g$ 和可靠性矩阵 $S_g$ 。

掩码（Masking）： 使用二进制掩码 $M_k$ 排除特定客户端未观察到的类别对。
可靠性加权： 根据两个类别的样本计数的调和平均值计算权重 $w_k(c, c')$ 。由较少样本支持的关系会被降低权重。
聚合： 全局关系 $\tilde{R}_g$ 是有效本地关系的可靠性加权平均值。
可靠性矩阵： $S_g$ 追踪支持每个全局关系对的相对证据量。
平滑处理： 应用指数移动平均（EMA）于 $R_g$ ，以减少轮次间的波动。
广播： 服务器将 $(R_g, S_g)$ 广播给客户端。

3. 拓扑引导的本地训练（客户端侧）

客户端利用全局拓扑来锐化本地决策边界，而无需对齐特征空间。

引导选择： 对于具有真实标签 $y$ 的训练样本，客户端根据 $R_g$ 选择与 $y$ 在拓扑上最相似且根据 $S_g$ 支持度最高的 top- $q$ 个负类。
逻辑值调制（Logit Modulation）： 这些被选中的负类的逻辑值会增加一个因子 $\gamma$ 。
损失函数： 本地损失结合了标准交叉熵损失与一个辅助项，该辅助项会在模型未能区分真实类别与这些“困难”负类时进行惩罚。
推理： 全局拓扑仅在训练期间使用。在推理阶段，客户端使用其原始的本地模型，零推理开销。

核心贡献

关系级知识共享： FedTopo 是第一个将全局知识作为类别关系拓扑而非参数、逻辑值或原型坐标进行共享的框架。这把跨客户端的对齐假设放宽为客户端内部的一致性假设。
可靠性感知聚合： 该方法引入了一种机制，用于降低由稀疏数据或弱支持导致的不可靠关系的权重，确保全局拓扑对非 IID 数据分布具有鲁棒性。
拓扑引导训练： 一种新型训练目标，利用全局拓扑来强调容易混淆的负类，从而在不需要特征空间对齐的情况下提高本地判别能力。
高效性： 该框架以较低的通信成本（随 $O(C^2)$ 扩展，而非 $O(C \times d)$ ）实现了最先进的性能，并且无推理开销。

实验结果

作者在 CIFAR-10、CIFAR-100 和 Tiny-ImageNet 上，在 Dirichlet 和病态（pathological） 非 IID 设置下，使用八种异构骨干网络（涵盖从 CNN 到 ResNet-152）对 FedTopo 进行了评估。

性能： FedTopo 在所有三种知识共享范式（参数、蒸馏和原型共享）中均一致优于基准方法。
- 在 CIFAR-10 (Dirichlet $\alpha=0.1$ ) 上，FedTopo 达到了 87.38% 的准确率，超过了表现最好的基准方法 (FedSCE 为 86.18%) 1.2 个百分点。
- 在 CIFAR-100 (Pathological) 上，它达到了 59.30%，优于表现最好的基准方法 (FedMRL 为 57.45%) 1.85 个百分点。
鲁棒性： 随着模型异构性和数据偏斜度的增加，性能差距进一步扩大，证明了关系级拓扑比绝对坐标更具可迁移性。
消融实验： 移除任何组件（可靠性加权、Top-q 选择、缺失感知掩码或 EMA）都会导致性能下降，证实了完整设计的必要性。
成本： 在 CIFAR-10 上，FedTopo 每轮仅需上传 110 个参数和下载 200 个参数，显著低于基于原型的算法（5,120 个参数）。它增加的训练 FLOPs 微乎其微，且推理 FLOPs 为零。

意义与主张

论文声称 FedTopo 通过从根本上改变共享知识的性质，为模型异构联邦学习提供了一个更稳健的解决方案。通过从绝对坐标对齐（在异构骨干网络下会失效）转向相对关系一致性（在不同特征空间中得以保留），该方法实现了有效的协作，而无需共享架构、辅助数据或特征对齐。

作者强调，这种方法：

避免了原型共享中固有的“不可靠全局原型”问题。
在**无数据（data-free）**设置下也能有效运行（不需要公共辅助数据）。
即使在本地模型已经很强的高度个性化场景中也能实现正向迁移。
保持了低通信和计算开销，使其适用于资源受限的边缘设备。

该研究得出结论，关系级拓扑是异构联邦学习中更优越的全局知识载体，它提供了现有范式所缺乏的迁移性、鲁棒性和效率的平衡。未来的工作建议将其扩展到多模态和开集场景。