Enhanced Byzantine-Robust Federated Learning Via Truncated-Quadratic Loss for Heterogeneous Data

问题陈述
联邦学习（FL）能够在不共享原始数据的情况下，在分布式客户端（如移动设备、传感器）之间训练深度学习模型，从而增强隐私保护。然而，这种分布式架构引入了对拜占庭攻击（Byzantine attacks）的脆弱性，即恶意客户端发送任意更新以破坏学习过程。此外，现实世界的联邦学习场景通常涉及异构数据（non-IID），即不同客户端之间的数据分布存在显著差异。现有的鲁棒聚合规则，如 Krum、坐标中位数（Coordinate-wise Median, CM）和鲁棒联邦聚合（Robust Federated Aggregation, RFA），通常假设数据是同质的，并且在面对异构性时性能会下降。虽然有人提出了中心裁剪（Centered Clipping, CC）和基于 Huber 损失的聚合器来处理异构数据，但本文指出它们存在一个关键缺陷：在面对大模值异常值（large-magnitude outliers）时，特别是在高数据异构性或高比例拜占庭客户端的条件下，它们会产生有偏解。这种偏差会在通信轮次中不断累积，最终导致学习失败。

方法论
本文提出了一种基于截断二次（Truncated-Quadratic, TQ）损失的新型鲁棒聚合规则。该方法通过以下步骤进行：

1. 现有方法的理论分析： 作者首先利用凸共轭理论（convex conjugate theory）证明了中心裁剪（CC）与 Huber 损失最小化在拜占庭鲁棒联邦学习中的等价性。他们证明了两者都满足 $(f, \kappa)$-鲁棒性，但也存在共同的局限性：它们采用 $\ell_1$ 范数（或等效的裁剪机制）来抵御异常值。本文从理论上分析并证明，这种方法产生的偏差会随着数据异构性和拜占庭客户端比例的增加而增长。
2. 提出截断二次（TQ）损失： 为了减轻 Huber/CC 固有的偏差，作者引入了 TQ 损失函数。与 Huber 损失随误差线性增长不同，TQ 在异常值超过阈值 $\tau$ 时会完全裁剪其损失。聚合问题被公式化为最小化客户端更新的 TQ 损失之和。
3. 优化与实现： 由于 TQ 损失是非光滑且非凸的，作者使用凸共轭理论将其最小化问题重构为一个等价的迭代形式（算法 1）。这实现了高效计算，其中更新根据与当前聚合值的距离进行裁剪。
4. 超参数估计： TQ 规则需要一个阈值参数 $\tau_k$ 以及对拜占庭客户端数量（$f$）的了解。本文提出了一种鲁棒的偏差估计策略，利用中位数（Median）和中值绝对偏差（Median Absolute Deviation, MAD）来估计好客户端的均值和方差，而无需先验知识。此外，作者还分析了仅能获得拜占庭客户端估计值（$\hat{f}$）的情景，表明即使 $\hat{f}$ 是高估的（在崩溃点范围内），聚合器依然保持鲁棒。
5. FL 算法集成： 将 TQ 聚合器集成到一个利用动量（momentum）来减少梯度方差并对抗时间耦合攻击（time-coupled attacks）的拜占庭鲁棒联邦学习框架中（算法 2）。

核心贡献

• 等价性与偏差分析： 本文通过凸共轭理论正式建立了 Huber 损失与中心裁剪之间的等价关系。通过理论分析表明，在异构性和异常值存在的情况下，这两种方法都会产生有偏解，从而解释了它们的经验失效原因。
• TQ 聚合器： 作者提出了基于 TQ 的聚合器，通过完全裁剪大模值异常值，有效地减轻了现有方法的偏差。
• 鲁棒性保证： 本文证明了 TQ 聚合器满足崩溃点 $\delta_{min} = 0.5$ 的 $(f, \kappa)$-鲁棒性。研究表明，在非凸损失函数和异构数据下，TQ 实现了阶优（order-optimal）的拜占庭鲁棒学习。
• 实用估计策略： 提供了一种用于 TQ 超参数的鲁棒偏差估计策略，并分析了估计拜占庭客户端数量的影响，结果显示即使在估计不精确的情况下，该方法依然有效。

实验结果
提出的 TQ 聚合器在 MNIST、Fashion-MNIST 和 CIFAR-10 数据集上进行了评估，涵盖了多种条件：

• 攻击类型： 在六种不同的攻击下测试了性能：高斯攻击（Gaussian Attack, GA）、标签翻转（Label-Flipping, LF）、位翻转（Bit-Flipping, BF）、内积操纵（Inner Product Manipulation, IPM）、MIMIC 以及 “A Little Is Enough” (ALIE)。
• 异构性： 实验覆盖了不同程度的数据异构性（$\rho$）。
• 对比实验： 将 TQ 与 RFA、CM、TM、Krum、Huber 以及最大相关熵聚合（Maximum Correntropy Aggregation, MCA）进行了对比，包括使用了分桶（Bucketing）和最近邻混合（Nearest Neighbor Mixing, NNM）等预聚合步骤的情况。

结论：

• 卓越的鲁棒性： TQ 在各种条件下始终优于竞争对手的聚合器，特别是在高数据异构性和高比例拜占庭客户端（高达 50%）的情况下。
• 偏差缓解： 不同于 Huber 和 CC 在拜占庭客户端数量增加时表现出明显的性能下降和偏差累积，TQ 能够保持高准确率。
• 混合攻击： 在不同拜占庭客户端同时发起不同类型攻击的情景下，TQ 在不同异构水平下均显著优于其他方法。
• 估计鲁棒性： 结果表明，即使在无法精确获知拜占�客户端数量而仅使用估计值的情况下，TQ 仍能保持鲁棒性。

意义与主张
本文声称，所提出的 TQ 聚合器通过解决当前最先进方法在数据异构性下的特定失效模式，增强了联邦学习系统的可靠性。通过证明 TQ 实现了阶优学习误差（与引理 2 中描述的理论下界一致），作者认为该方法代表了拜占庭鲁棒联邦学习领域的一个重要进步。这项工作既为 Huber/CC 在异构环境下的失效提供了理论依据，也提供了一个实用的、鲁棒的替代方案，且不需要精确了解恶意客户端的数量。