🤖 machine learning

Evidential Trust-Aware Model Personalization in Decentralized Federated Learning for Wearable IoT

本文提出了 Murmura，一种面向可穿戴物联网的去中心化联邦学习框架，该框架利用证据深度学习将认知不确定性量化为一种原则性的同伴兼容性度量，从而实现了信任感知的模型个性化，使其在非独立同分布环境中显著优于现有方法。

原作者： Murtaza Rangwala, Richard O. Sinnott, Rajkumar Buyya

发布于 2026-05-22

📖 1 分钟阅读☕ 轻松阅读

原作者： Murtaza Rangwala, Richard O. Sinnott, Rajkumar Buyya

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一个世界，成千上万块智能手表和健身追踪器希望学习如何识别你的活动——比如行走、跑步或睡眠——而无需将你的私人数据发送到中央服务器。这就是**去中心化联邦学习（DFL）**的世界。这里没有专横的老师收集每个人的作业，而是设备之间直接对话，分享所学，共同变得更聪明。

然而，存在一个大问题：每个人都不一样。

你的手表可能戴在左手腕，而你朋友的戴在右手腕。你可能是一名马拉松跑者，而你的朋友只是休闲散步者。你的数据是“统计异构”的，这意味着你的手表看到的模式与他人看到的不同。如果它们只是将各自的知识混合成一个“平均”模型，结果将是一个平庸的模型，对任何人都效果不佳。

本文介绍了一个名为MURMURA的新框架来解决这一问题。可以将 MURMURA 想象为一位明智且谨慎的外交官，帮助这些设备决定信任谁以及忽略谁，从而构建真正适合它们自身的个性化模型。

以下是其工作原理，分解为简单概念：

1. 问题：“坏邻居”困境

在正常的去中心化网络中，如果设备 A 从设备 B 收到模型更新，它通常只是将它们混合在一起。但如果设备 B 正在学习“游泳”，而设备 A 正在学习“骑行”呢？如果设备 A 盲目接受设备 B 的建议，它可能会感到困惑，甚至开始认为游泳就是骑行。

现有方法试图通过测量模型看起来有多“相似”（比如比较它们的“臂长”）来解决这个问题。但这存在缺陷。两个设备可能拥有非常不同的数据（一个游泳，一个骑行），但由于它们都擅长各自的任务，其模型看起来却相似。相反，两个设备可能拥有相似的数据，但其中一个只是学习得不好。简单的相似性检查无法区分“不同但优秀”与“不同且糟糕”。

2. 解决方案：“不确定性侦探”

MURMURA 使用一种特殊的 AI，称为证据深度学习。这相当于给每个设备配备一个“置信度计”，它不仅会说“我认为这是行走”，还会说“我有 90% 的把握，并且我知道为什么我有把握”。

这个置信度计将不确定性分为两类：

“我从未见过这种情况”的感觉（认知不确定性）： 如果一个设备查看你的数据后说：“我完全不知道这是什么，因为我的训练数据完全不同”，那这就是一个危险信号。这意味着另一个设备与你不兼容。
“这是个棘手案例”的感觉（偶然不确定性）： 如果一个设备说：“这看起来像行走，但这是一次奇怪、摇晃的行走，所以我不是 100% 确定”，那没问题。这意味着数据本身很难，而不是不兼容。

3. MURMURA 如何工作：“信任过滤器”

以下是 MURMURA 使用的逐步过程：

试驾： 当设备 A 从设备 B 收到模型时，它不会直接接受。它会在自己的本地“测试题”（验证数据）上运行设备 B 的模型。
置信度检查： 设备 A 查看“我从未见过这种情况”的得分（认知不确定性）。
- 高分： “哇，这个模型在我的数据上完全迷失了。这个人来自另一个世界。” -> 拒绝。
- 低分： “这个模型理解我的数据，即使不完美。” -> 信任。
智能混合： 设备 A 仅将其自身模型与“受信任”邻居的模型混合。它忽略那些不匹配的模型。
随时间变得更严格： 在训练的最开始，大家都感到困惑，因此 MURMURA 比较宽容，允许许多邻居加入。随着训练进展和模型变得更聪明，“信任过滤器”会变得更严格，只允许最兼容的同伴进入。

4. 结果：为何重要

作者在三个真实世界的可穿戴设备数据集（涉及行走、跑步和心率监测等活动）上测试了 MURMURA。以下是他们的发现：

更好地处理混乱： 当数据非常混乱且不同（非独立同分布）时，标准方法崩溃，准确率损失约19%。而 MURMURA 仅损失0.9%。在其他人惊慌失措时，它保持了冷静。
学习更快： 因为它过滤掉了来自不兼容邻居的“噪声”，其收敛（达到峰值性能）的速度比标准方法快7.4 倍。这意味着更少的电池消耗和更少的等待模型生效的时间。
更稳定： 它不需要完美调整参数即可工作。无论设置是略有偏差还是恰到好处，它都能持续表现良好。

总结

MURMURA 就像你设备的智能社交网络。它不强迫所有人就一种“平均”观点达成一致，而是让每个设备找到属于自己的“部落”——即兼容的邻居。通过使用特殊的“不确定性计”来检测谁真正理解其本地数据，它确保每个设备都能获得一个完美适合它们自己的个性化模型，而不会被世界上的其他事物所迷惑。

技术摘要：MURMURA——去中心化联邦学习中的证据信任感知模型个性化

1. 问题陈述

去中心化联邦学习（DFL）能够在无需中央协调器的情况下，实现跨边缘设备的协作模型训练，从而提供对单点故障的弹性。然而，一个根本性挑战源于统计异质性（非独立同分布数据），即由于用户多样性、传感器部署位置和环境背景的差异，本地数据分布存在显著变化。

这种异质性造成了一种张力：节点需要针对其本地分布进行个性化的模型，但与不兼容的同伴进行朴素协作却可能导致性能下降。现有方法面临两个主要局限性：

全局模型强制：标准方法通常强制使用单一的全局模型，导致该模型无法很好地适配任何特定节点。
启发式同伴选择：当前的个性化 DFL 方法依赖于相似性度量（例如参数距离、梯度范数），这些度量无法区分有害的不相似性（不兼容的数据分布）与有益的多样性（高质量但不同的数据）。此外，标准神经网络仅输出预测结果，而不指示预测是“为何”做出的，这使得无法区分一个从未见过类似数据的模型（不兼容的同伴）和一个发现数据本身具有难度但可能极具价值的模型（潜在有价值的同伴）。

2. 方法论：MURMURA 框架

作者提出了MURMURA，这是一个利用**证据深度学习（EDL）**实现信任感知模型个性化的框架。其核心见解是：认知不确定性（由于缺乏知识而导致的不确定性）直接指示了同伴的兼容性。

A. 证据不确定性量化

MURMURA 用基于狄利克雷的证据模型替代了标准的 softmax 输出。这些模型输出参数化狄利克雷分布的证据值，允许将不确定性分解为两种截然不同的类型：

认知不确定性（ $u$ ）：衡量对数据分布缺乏知识的程度。高认知不确定性表明模型在训练期间未见过类似数据，指示与评估节点之间存在分布不匹配。
偶然不确定性：衡量数据固有的模糊性（例如，噪声或过渡性的传感器读数）。高偶然不确定性并不一定意味着不兼容。

B. 信任感知聚合机制

该框架通过去中心化训练协议运行，节点基于交叉评估自主决定与哪些同伴协作：

交叉评估：节点 $i$ 在其自身的本地验证数据上评估同伴 $j$ 的模型。
兼容性评分：基于预测准确率，且关键地基于平均认知不确定性来计算信任分数。
- 如果同伴的模型在本地数据上表现出高认知不确定性，则被视为不兼容并被排除。
- 如果不确定性较低，则该同伴被视为兼容，无论预测是否完美（从而区分“未知数据”与“困难数据”）。
自适应阈值：信任阈值并非静态。它们在训练早期（当所有模型都不确定时）设定得较为宽松，并随着模型收敛而自适应收紧，防止过早拒绝同伴。
个性化聚合：节点仅聚合来自可信同伴的更新，并根据其信任分数进行加权，同时保留一部分本地模型（由自权重参数控制）。如果没有同伴通过阈值，节点则保留其本地模型，确保优雅降级为孤立学习。

C. 系统架构

MURMURA 作为一个模块化的 Python/PyTorch 框架实现，支持各种网络拓扑（环形、全连接等）。它将网络编排与节点级决策分离，允许独立于拓扑效应系统地评估个性化策略。它支持通过狄利克雷划分和自然划分（例如按受试者 ID）进行受控的异质性模拟。

3. 主要贡献

首次将 EDL 集成到去中心化个性化中：MURMURA 是首个在完全去中心化设置中结合证据不确定性量化与信任感知个性化的框架，使节点能够在非 IID 环境中通过选择性协作来维护个性化模型。
自适应信任感知算法：作者开发了一种聚合算法，通过在本地数据上进行交叉评估来评估同伴兼容性，并应用随着训练进展而收紧的自适应信任阈值。
开放且可扩展的框架：MURMURA 作为一个开源框架提供，支持多种拓扑、基线聚合方法以及在各种异质性水平下的系统评估。
计算效率：该方法在每次评估中仅需单次前向传播即可计算不确定性，避免了集成方法或蒙特卡洛 Dropout 带来的沉重计算开销，同时提供了比点估计更丰富的信息。

4. 实验结果

该框架在三个可穿戴物联网数据集上进行了评估：UCI HAR、PAMAP2 和 PPG-DaLiA。

对异质性的鲁棒性：在高异质性（狄利克雷 $\alpha = 0.1$ ）条件下，与基线相比，MURMURA 显著减少了性能下降。从 IID 到非 IID 条件的准确率下降，MURMURA 仅为0.9%，而标准 FedAvg 为19.3%。
收敛速度：MURMURA 实现了7.4 倍更快的收敛（在 4.0 轮达到峰值准确率），而 FedAvg 需要 29.5 轮。这归因于排除了来自不兼容同伴的噪声更新。
稳定性：该框架在不同超参数选择（例如自权重、信任阈值）下保持了稳定的准确率，大多数数据集的标准差低于 1%，减少了对每台设备进行大量微调的需求。
方差降低：与 FedAvg 相比，MURMURA 实现了更高的平均准确率，且节点间的方差更低，表明个性化使所有节点受益，而不是以牺牲某些节点为代价来改善其他节点。

5. 意义与主张

该论文主张，MURMURA 确立了证据不确定性作为去中心化异质环境中兼容性感知个性化的原则性基础。

区分不兼容性与难度：通过分离认知不确定性与偶然不确定性，该框架解决了“同伴兼容性问题”，使节点能够区分具有真正不兼容数据分布的同伴与具有挑战性但兼容数据的同伴。
自主决策：它使完全去中心化的节点能够在没有中央监督或不依赖将模型质量与分布差异混为一谈的启发式相似性度量的情况下，做出原则性的兼容性决策。
实际可行性：结果表明，证据信任感知聚合是资源受限的可穿戴物联网设备的实用解决方案，它提供了更快的收敛（减少能源和带宽使用）以及对极端数据异质性的鲁棒性，且无需复杂的超参数调整。

作者指出，虽然 MURMURA 表现良好，但在具有极端生理变异性（例如 PPG-DaLiA）的场景中，保守的过滤可能导致在兼容同伴极少时出现近乎孤立的训练。他们建议未来的工作可以探索渐进式信任机制，以从中等兼容的同伴中提取价值。