Fairness-Aware Federated Learning with Trajectory Shapley Value
本文提出了一种公平性感知的联邦学习框架 FedTSV，该框架利用轨迹沙普利值，根据客户端对全局模型优化轨迹的时间影响动态加权其贡献，从而在异构和对抗环境中提升收敛速度、鲁棒性和公平性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一群人试图共同解决一个巨大的拼图，但所有人都身处不同的房间，无法向彼此展示各自的拼图块。这就是联邦学习。与其将所有拼图块集中到一张中央桌子上（这既缓慢又存在隐私风险），不如让每个人在自己的房间里处理自己那部分拼图，然后发送回关于其拼图块如何契合的描述。随后，一个中央“服务器”尝试将这些描述拼接起来，以构建最终的图像。
旧有的方法（称为FedAvg）的问题在于，服务器对每个人都一视同仁。无论某人是拼图天才、困惑的初学者，还是故意试图破坏图像的人，他们在拼接拼图时都拥有同等的投票权。这导致最终图像杂乱且不稳定。
本文提出了一种更智能的群体协作方式，称为FedTSV。其工作原理如下，辅以简单的类比：
1. 问题：“固定投票”的缺陷
在旧系统中，如果有 100 人，每人恰好拥有 1% 的投票权。
- 优点：简单。
- 缺点：如果某人试图将拼图倒置粘贴（即“恶意”客户端），或者只是非常不擅长拼图（即“噪声”客户端），他们糟糕的建议仍然占 1% 的权重。反之，如果某人是拼图大师，他们也不会获得额外加分。结果是最终图像摇摆不定且不准确。
2. 解决方案：“轨迹沙普利值”（TSV）
作者提出了一种衡量谁真正在提供帮助的新方法，称为轨迹沙普利值。
将服务器想象为一位教练，他拥有一份“完美训练计划”（验证数据集）。
- 教练的行动：在请求团队帮助之前，教练利用“完美训练计划”独自进行一次快速模拟训练。这让教练确切地知道团队为了最快地解决拼图，应该朝哪个方向移动。
- 团队的行动：团队成员发回他们的建议（更新）。
- 比较：教练不仅仅看最终答案，而是观察团队所走的路径。团队的建议是否使他们更接近教练的“完美训练计划”？
- 如果某位团队成员的建议与教练的计划完美契合，他们获得高分。
- 如果他们的建议将团队引向错误的方向或导致剧烈摇摆，他们获得低分。
这就是“轨迹”部分：重要的不仅仅是目的地，而是每一步是否走在正确的方向上。
3. “沙普利值”部分：团队中的公平性
“沙普利值”是博弈论中的一个数学概念。想象一群朋友试图搬运一张沉重的沙发。
- 如果你通过观察某人在场时工作变得多么容易，与某人缺席时进行对比，来计算每个人贡献了多少，你就能得到一个公平的评分。
- 在本文中，数学计算的是：“在这个特定回合中，这个特定的人帮助整个团队向目标靠近了多少？”
通过将教练的路径（轨迹）与公平的团队评分（沙普利值）相结合，系统为每个客户端生成了一个动态评分。
4. 结果：FedTSV（智能粘合剂）
新系统FedTSV利用这些评分来决定“信任”每个人粘合剂的多少。
- 表现良好的玩家：如果你持续帮助团队朝正确方向移动，你的“粘合剂”就会变得更强。你在最终图像中的话语权更大。
- 表现糟糕的玩家：如果你试图破坏拼图或只是感到困惑，你的评分就会下降。系统会有效地忽略你的粘合剂，或给予极低的权重。
- 动态特性：与旧系统中投票权固定不同，这里的投票权每一轮都会根据你刚刚的表现而变化。
论文发现
作者在两个著名的图像数据集（MNIST 和 CIFAR-10）上测试了该方法，模拟了一个包含以下角色的世界：
- 表现良好的玩家（拥有相似数据）。
- 不同的玩家（拥有非常不同的数据）。
- 破坏者（试图破坏模型）。
结果：
- 学习更快：FedTSV 系统比旧方法更快地学会了拼图。
- 更稳健：即使破坏者试图搞乱局面，FedTSV 也能忽略他们，保持最终图像清晰。
- 更公平：系统正确识别了谁在帮忙、谁在捣乱，给予“好”玩家更多影响力，而让“坏”玩家几乎毫无影响力。
总结
简而言之，本文用一种动态的、类似教练的评估系统取代了“一刀切”的投票系统。服务器不再要求所有人平等投票，而是观察每个人在训练过程中的移动方式，奖励那些朝正确方向移动的人，并让那些朝错误方向移动的人保持沉默。这带来了更快、更准确且更公平的结果。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。