🤖 machine learning

CRAFT: Conflict-Resolved Aggregation for Federated Training

本文介绍了 CRAFT，这是一种新颖的联邦学习聚合框架，它通过闭式几何校正和逐层适配来解决客户端更新冲突，从而在提高全局模型准确性的同时，降低了异构客户端之间的性能差异。

原作者： Ziqi Wang, Qiang Liu, Nils Thuerey

发布于 2026-05-21

📖 1 分钟阅读☕ 轻松阅读

原作者： Ziqi Wang, Qiang Liu, Nils Thuerey

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一群学生（“客户端”）试图共同学习一门学科，但他们身处不同的教室，使用不同的教材和教学风格。由于隐私规定，他们无法共享各自的笔记（私有数据）。相反，他们每周将作业答案（模型更新）发送给一位老师（“服务器”）。老师的任务是将所有这些答案整合成一本“主指南”，供所有人下周使用。

这就是联邦学习。问题在于：由于学生们的教材差异巨大，他们的作业答案往往相互矛盾。如果老师只是简单地取所有答案的平均值，生成的“主指南”可能会帮助某些学生，却让其他人感到困惑甚至受损。这就像将一份辛辣咖喱的食谱与一份甜蛋糕的食谱取平均；结果会是一道怪异、无法食用的混乱菜肴，无人满意。

本文介绍了一种名为CRAFT（联邦训练中的冲突解决聚合）的新方法来解决这一混乱局面。以下是其工作原理，采用简单的类比说明：

1. 问题：“平均”陷阱

在传统方法（如FedAvg）中，老师只需将所有作业相加，再除以学生人数。

问题所在：如果学生 A 想向左转，而学生 B 想向右转，平均值就是直行。但直行可能导致学生 A 坠崖，学生 B 陷入沼泽。“平均”方向往往与个别学生的具体需求相冲突，导致部分学生在任务上表现变差。

2. 解决方案：CRAFT 作为“几何校正”

CRAFT 不再仅仅进行平均，而是将老师的任务视为一个几何谜题。

参考方向：想象老师手中有一个指南针，指向他们上周移动的方向。这就是“参考方向”。它代表了团队迄今为止的进展动量。
无冲突规则：老师必须为本周找到一个新方向，该方向需满足：
1. 尽可能接近上周的指南针方向（以免失去动量）。
2. 关键的是：必须指向与每一位学生的作业答案相一致的方向。如果某位学生说“我需要向北走”，新方向就不能指向南方。它必须与每个人的请求形成正角度。

3. CRAFT 如何解决（“莫尔 - 彭罗斯”魔法）

本文描述了一种数学技巧（使用所谓的“莫尔 - 彭罗斯校正”），可瞬间解开这一谜题。

类比：想象老师站在一条绳索（参考方向）上。学生们拉着系在老师身上的绳子，每个人都想往不同的方向走。
旧方法：老师直接松手，跌落到平均位置。
CRAFT 方法：老师计算出从绳索移动到所有绳子都朝有益方向（而非冲突方向）拉动的位置所需的最小步幅。这就像为了避开墙壁而做出微小的路径调整，而不是停下来重新开始。
速度：论文声称，这种计算非常迅速，无需老师运行缓慢的重复循环来寻找答案。这是一种“一次性”计算。

4. “逐层”方法

深度神经网络（正在训练的 AI 大脑）就像多层建筑。

问题：有时，底层（基础特征）需要朝一个方向走，而顶层（复杂特征）需要朝另一个方向走。将整个建筑视为一个整体块可能会导致问题。
CRAFT 的修复：它分别对建筑的每一“层”（层）求解该谜题。这确保了顶层的冲突不会破坏基础，反之亦然。

5. 结果：公平性与准确性

论文在多种数据高度不均的场景下测试了 CRAFT（有些学生有 100 页笔记，有些只有 5 页）。

更高的平均分数：整个团队变得更快聪明了。
公平性：表现最好与表现最差学生之间的“差距”显著缩小。过去，“平均”方法往往帮助顶尖学生，却让 struggling 的学生掉队。CRAFT 确保“主指南”能帮助 struggling 的学生迎头赶上，而不会拖累顶尖学生。
即插即用：作者表明，CRAFT 可以替换现有系统中的“平均”步骤（即使是那些试图为每位学生个性化学习的系统），从而立即提升效果。

总结

CRAFT 是老师整合学生作业的一种更智能的方式。它不再盲目地对冲突答案取平均，而是找到一条新路径，既尊重团队的动量，又确保没有任何一位学生被推向错误的方向。它利用数学进行尽可能微小的调整，使所有人共同向前迈进，从而为每个人造就一个更智能、更公平的 AI 模型。

技术摘要：CRAFT（用于联邦训练的冲突解决聚合）

1. 问题陈述

联邦学习（FL）使得在无需共享原始数据的情况下，跨去中心化客户端进行协作模型训练成为可能。然而，一个根本性的瓶颈源于数据异质性（非独立同分布分布），这导致了本地更新的发散。传统的聚合方法（如 FedAvg）计算这些更新的加权平均。该论文指出，朴素平均可能会产生一个虽然能改善全局目标但与特定客户端冲突的全局更新方向（即全局更新与某客户端本地更新的内积为负）。这种冲突导致这些特定客户端的性能下降，从而造成各客户端准确率的高度差异和公平性差，即使全局平均准确率很高。

现有方法试图通过正则化（FedProx）、归一化（FedNova）、公平感知目标（AFL, q-FedAvg）或个性化模型来缓解这一问题。冲突感知方法（FedFV, FedLF, ConFIG）已出现，旨在直接操纵更新几何结构，但它们通常依赖启发式规则，或缺乏整合时间信息以指导解决冲突。

2. 方法论：CRAFT 框架

CRAFT 将聚合问题重新框架化，不是作为加权平均，而是作为一个几何校正问题。其核心目标是找到一个全局更新向量 $g$ ，使其尽可能接近一个稳定的参考方向，同时满足严格的无冲突对齐约束。

2.1 核心公式

CRAFT 并非从零先验方法那样从头重建更新，也非像动量方法那样简单平滑，而是求解一个参考锚定的约束最小二乘问题：

$\min_{g \in \mathbb{R}^d} \frac{1}{2} \|g - \hat{g}_t\|^2 \quad \text{s.t.} \quad U_t g = \rho_t$

其中：

$\hat{g}_t$ 是参考方向，定义为上一轮的全局更新归一化结果（ $\hat{g}_t = U(g_{t-1})$ ）。对于第一轮， $\hat{g}_0 = 0$ 。
$U_t$ 是来自活跃客户端的归一化本地更新矩阵（ $u_i = g_i / (\|g_i\| + \epsilon)$ ）。
$\rho_t$ 是正对齐目标向量，通常源自客户端数据比例（ $\rho_i = |D_i| / \sum |D_j|$ ）。
约束 $U_t g = \rho_t$ 确保全局更新 $g$ 与每个参与客户端的归一化更新具有正内积，从而保证无冲突方向。

2.2 闭式解

该问题是欠定的（模型维度 $d \gg$ 客户端数量 $m$ ）。CRAFT 利用 Moore-Penrose 伪逆推导出闭式解，避免了迭代求解器或二次规划的计算开销。更新计算为对参考方向的校正 $\Delta_t$ ：

$g_t = \hat{g}_t + \Delta_t, \quad \text{其中} \quad \Delta_t = U_t^\dagger (\rho_t - U_t \hat{g}_t)$

该公式确保：如果参考方向已满足约束，则不施加任何校正；否则，添加最小的欧几里得校正以强制对齐。

2.3 逐层适应

认识到深度神经网络表现出层特定的优化动态（例如，浅层可能遭受输入分布偏移的影响，而深层可能遭受标签偏斜的影响），CRAFT 实现了逐层适应。优化问题被分解为每层 $q$ 的 $Q$ 个独立子问题，分别求解校正：
$g^q_t = \hat{g}^q_t + (U^q_t)^\dagger (\rho_t - U^q_t \hat{g}^q_t)$
这防止了某一层中的严重冲突抑制其他层中有用的组件。

2.4 理论性质

论文提供了理论分析，表明 CRAFT 促进了共同下降结构。通过强制与所有客户端更新进行非负对齐，该方法缓解了冲突。作者为标准平滑性和有界梯度假设下的非凸目标建立了有限时间收敛保证，证明了收敛率为 $O(1/\sqrt{T})$ ，与标准非凸优化相当，前提是本地学习率适当衰减。

3. 主要贡献

问题重构：作者提出将联邦聚合重构为参考锚定的约束最小二乘问题，而非加权平均规则。这直接强制全局更新与每个客户端之间进行正对齐。
高效的闭式解：与迭代冲突解决方法不同，CRAFT 利用 Moore-Penrose 校正推导出显式解，保持服务器端计算轻量级（ $O(dm^2 + Qm^3)$ ）。
类动量参考：使用上一轮的全局更新作为参考方向，使 CRAFT 能够保持时间一致性，并稳定更新以抵抗采样噪声，这与投影向零向量的方法区分开来。
逐层粒度：该框架以模型层为粒度解决冲突，使其适用于深度神经网络，在这些网络中全局向量约束可能过于粗糙。
即插即用扩展性：CRAFT 被设计为通用聚合算子，可替换现有个性化 FL 流程（如 Ditto）中的加权平均，而无需修改本地适应机制。

4. 实验结果

在异构基准（FEMNIST, CIFAR-10, CIFAR-100）上进行了广泛的实验，使用了各种模型（MLP, CNN, ResNet-20/56/110）和客户端群体（多达 1000 个客户端）。

全局性能：CRAFT 在平均准确率方面始终优于最先进的基线。在 CIFAR-10 上使用 ResNet-20 时，它比 ConFIG 实现了53.5% 的相对提升，在 FEMNIST 上比 FedAvgM 提升了7.8%。
公平性与差异：CRAFT 显著降低了各客户端准确率的标准差。它提升了“尾部”客户端（最差的 10%）的性能，同时未牺牲“头部”客户端。例如，在 CIFAR-10 上，它比 FedLF 将最差 10% 的准确率提升了221.5%。
收敛性：CRAFT 表现出更快的收敛速度和更高的最终准确率，特别是在其他方法往往过早饱和或遭受客户端漂移的深层网络上。
个性化 FL 集成：当集成到 Ditto 框架中时，与原始 Ditto 相比，CRAFT 在 CIFAR-10 上将平均测试准确率提高了19.7%，在 CIFAR-100 上提高了98.8%，证明了其增强个性化流程的能力。

5. 意义与主张

该论文声称，CRAFT 提供了聚合设计的新视角，从启发式冲突解决转向基于几何原理的约束方法。其意义在于：

缓解异质性：它直接解决联邦学习中公平性问题的根本原因（冲突更新），而不仅仅是调整目标或正则化本地训练。
平衡准确率与公平性：它在实现高平均准确率的同时，减少了性能差异，这是一个现有方法往往难以同时满足的双重目标。
实用性：该方法计算高效，无需额外通信，且易于扩展到现有的个性化 FL 框架。

作者承认了局限性，指出当前的参考方向是一个简单的类动量先验，而对齐目标基于数据比例。他们建议未来的工作可以探索基于训练进度和公平性要求的自适应参考或目标。然而，当前工作确立了 CRAFT 作为用于异构联邦训练的鲁棒、无冲突聚合机制。