🤖 machine learning

Federated Learning of Spiking Neural Networks under Heterogeneous Temporal Resolutions

本文提出了一种针对脉冲神经网络的联邦学习框架，通过开发适配方法将不同时间尺度下学习到的神经元参数进行整合，从而有效应对边缘设备间异构时间分辨率的挑战，在恢复因时间尺度失配而损失的精度的同时，实现了无需共享原始数据的协同训练。

原作者： Sanja Karilanova, Subhrakanti Dey, Ayça Özçelikkale

发布于 2026-05-18

📖 1 分钟阅读☕ 轻松阅读

原作者： Sanja Karilanova, Subhrakanti Dey, Ayça Özçelikkale

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一群朋友试图共同学习一套新的舞蹈动作，但他们都在以不同的速度观看教程视频。

问题：“慢动作”与“快进”的两难困境
在人工智能领域，特别是针对智能手表或传感器等设备（称为“边缘设备”），存在一种特殊的类脑计算机，称为脉冲神经网络（SNN）。这些网络超级节能，非常适合电池供电的设备。

通常，这些设备使用一种称为联邦学习的方法协同学习。这就像是一个小组项目，每个人在自己的计算机上学习，然后将他们的“笔记”（模型更新）发送给老师（服务器），以创建一份主指南。每个人都将自己的私有数据（如个人健康统计）保留在自己的设备上。

然而，这里有一个陷阱：时间分辨率。

设备 A（一款高端智能手表）可能每秒记录 100 次运动。
设备 B（一款廉价传感器）为了节省电池，可能每秒仅记录 25 次。

如果老师只是简单地平均设备 A 和设备 B 的笔记，结果将是一团糟。这就像试图将慢动作视频与快进视频进行平均；舞蹈动作将无法对齐。论文将这种现象称为时间异质性，它会导致小组的最终模型表现不佳。

解决方案：“时间翻译器”（FedTA）
作者提出了一种名为FedTA（具有时间分辨率适应的联邦学习）的新框架。

老师不再只是简单地平均笔记，而是充当时间的通用翻译器。

小组聚会前：老师将来自“慢”设备的笔记在数学上拉伸以匹配“快”速度，反之亦然。
聚会中：既然所有人都在讲同一种“时间语言”，老师就可以安全地平均他们的笔记，以创建一份完美的主指南。
发回时：当主指南返回设备时，老师将其翻译回每个设备所理解的具体时间速度。

通过这种方式，廉价传感器无需升级硬件以匹配昂贵设备，昂贵设备也无需减速。它们都可以有效地共同学习。

工具：三种翻译方法
论文测试了三种不同的“翻译”方法，以观察哪种效果最好：

“步长”法（欧拉法）：一种简单、快速的近似方法。它就像通过画一条直线来猜测曲线的中点。它很快，但不够精确。
“面积”法（积分法）：一种更精确的计算，它观察整个曲线。这就像测量曲线下的实际面积。事实证明，这对于“平滑”类型的神经元是最准确的。
“对数”法（Delta 法）：这是一种针对特定类型神经元的巧妙技巧，在这种神经元中，“时间速度”是一个只需加减的数字。这就像通过旋转旋钮来改变收音机的音量，而不是重新建造收音机。

他们的发现
研究人员在两个真实世界的数据集上测试了这种方法：

SHD：识别口语数字（如听到“零”或“一”）。
DVS-Gesture：识别来自仅能感知光线变化的相机（如运动传感器）的手势。

结果：

准确率：“时间翻译器”方法的效果远好于盲目地平均所有内容。在许多情况下，它们恢复了因速度不同而损失的大部分准确率。
最佳组合：对于平滑的非脉冲模型，**“面积”法（积分法）**是冠军。对于脉冲模型（那些像真实生物神经元一样运作的模型），“对数”法或简单的平均法表现得出乎意料地好。
效率：最重要的发现是，进行这种“翻译”几乎不需要额外的时间或电池电量。这就像给电影添加微小的字幕；电影播放速度一样快，但现在每个人都能理解它。

结论
这篇论文表明，我们不需要网络中的每个设备都完全相同。我们可以将廉价、缓慢的传感器与昂贵、快速的设备混合使用，并仍然构建出一个智能、准确的 AI 系统。关键在于使用“时间翻译器”，确保他们在分享知识之前处于同一频道。

技术摘要：异质时间分辨率下的脉冲神经网络联邦学习

问题陈述
联邦学习（FL）能够在保护数据隐私的同时，实现跨去中心化边缘设备的协作模型训练。然而，在时间序列应用中，边缘设备往往受限于不同的硬件和能源约束，导致收集到的数据具有不同的时间分辨率（采样率）。这种时间异质性构成了一个根本性挑战：从一个时间分辨率学习到的参数并不一定能直接迁移到另一个时间分辨率。因此，标准的联邦平均（FedAvg）算法，即朴素地聚合模型参数，变得无效，因为它混淆了在不同时间尺度上运行的模型，可能会降低全局模型的性能。虽然现有文献解决了数据分布异质性（例如类别不平衡）以及非联邦脉冲神经网络（SNN）中的时间分辨率变化问题，但在针对状态化深度网络和 SNN 的联邦设置中，专门解决时间分辨率不匹配的问题仍存在空白。

方法论
作者提出了FedTA（具有时间分辨率适应的联邦学习），这是一个旨在在聚合前对齐在异质时间分辨率上训练的模型的框架。

框架结构：FedTA 将一种适应机制集成到标准的 FedAvg 循环中。在服务器聚合本地模型之前，它们会先从客户端特定的时间分辨率（ $T_k$ ）适应到中央服务器分辨率（ $T_c$ ）。反之，更新后的全局模型在分发前也会从 $T_c$ 适应回每个客户端的本地分辨率 $T_k$ 。
适应范围：适应仅应用于神经元的动态参数（ $\phi$ ）（例如膜衰减率、状态转移矩阵）。在此过程中，突触权重（ $W$ ）和归一化统计量（ $\psi$ ）保持不变。
神经元模型：该研究评估了两类神经元：
1. 漏积分发放（LIF）：一种标准的 SNN 模型。
2. 线性动力学对角状态空间模型（LD-SSM）：一种具有线性状态转移的非脉冲基线模型。
  对于每一类，作者比较了标准变体（直接训练动态参数）与 $\Delta$ -变体，后者采用 exp-log 重参数化，将本地时间分辨率显式映射到可训练参数（ $\Delta_{log}$ ）。
适应算法：集成了三种具体的适应方法：
1. FedTA-Int（积分法）：源自线性 SSM 理论，该方法使用积分变换（ $A_{r2} = A_{r1}^\rho$ ）来适应参数。
2. FedTA-Eul（欧拉法）：源自线性 SSM 的一阶近似（ $A_{r2} = I + \rho(A_{r1} - I)$ ）。
3. FedTA- $\Delta$ ：专门针对 $\Delta$ -变体，该方法对数时间分辨率参数应用加法偏移（ $\Delta_{log, r2} = \Delta_{log, r1} + \ln(\rho)$ ），其中 $\rho$ 是时间分辨率的比率。

主要贡献

新颖框架：本文介绍了首个明确针对 SNN 和状态化深度网络的时间分辨率异质性的联邦学习框架。
适应策略：提出并集成了三种不同的动态适应方法（积分法、欧拉法和 $\Delta$ -偏移），以弥合客户端特定时间分辨率与全局时间分辨率之间的差距。
全面评估：该框架在两个神经形态基准数据集（SHD 和 DVS-Gesture）上进行了评估，涵盖了两种客户端场景（每个分辨率的客户端数量不同）以及多种神经元模型配置。

结果

准确率恢复：所提出的适应方法显著恢复了因时间不匹配而损失的准确率。在 SHD 数据集上，Standard-SSM 与 FedTA-Int 的组合在所有场景和分辨率下均取得了最高准确率。在 DVS-Gesture 数据集上，性能有所变化， $\Delta$ -LIF 结合 FedAvg 通常产生最佳结果，尽管 FedTA 变体在异质设置中通常优于朴素的 FedAvg。
方法比较：
- 对于线性动力学（SSM），积分法（FedTA-Int） 显著优于欧拉法，这与欧拉法作为精度较低的一阶近似的理论预期一致。
- 对于非线性动力学（LIF），积分法和欧拉法均作为近似方法。 $\Delta$ -变体表现出混合的结果，有时表现与 FedAvg 相当或略差，具体取决于目标分辨率（ $T_c$ ）。
中心分辨率的影响：当中央服务器分辨率（ $T_c$ ）匹配最精细的客户端分辨率（ $T_c=1$ ）或中间分辨率（ $T_c=2$ ）时，性能通常最高，从而最小化了平均不匹配。
计算开销：与基线 FedAvg 相比，适应步骤（FedTA-Int、FedTA-Eul、FedTA- $\Delta$ ）的计算成本可忽略不计。训练时间保持在基线的一个标准差范围内。
能源效率：结合 FedAvg 的 $\Delta$ -LIF 提供了极具吸引力的权衡，与基于 SSM 的模型相比，它在显著降低能耗和缩短训练时间的同时实现了高准确率，这得益于 SNN 的稀疏性和二值特性。

意义与主张
本文声称，FedTA 使每个客户端能够以其本地时间分辨率进行训练，同时保持与全局模型的兼容性，从而有效解决了联邦设置中的时间未对齐问题。作者强调：

FedTA-Int 对于具有线性状态动力学的模型特别有效，因为该适应方法的假设与模型结构相一致。
基于 LIF 的模型（SNN） 在各种设置中表现出鲁棒性，并提供了更优越的能效与准确率权衡，使其成为资源受限的边缘设备的理想选择。
该框架是迈向时间异质性下鲁棒联邦学习的有希望的一步，尽管作者谦逊地指出，针对非线性动力学（如 LIF）的适应方法仅是近似，未来的工作应探索针对非线性神经元动力学的定制适应方法，以及与其他形式的数据异质性（例如类别不平衡）的相互作用。

技术摘要：异质时间分辨率下的脉冲神经网络联邦学习

类似论文