💻 computer science

Energy-Efficient Implementation of Spiking Recurrent Cells on FPGA

本文提出了一种用于脉冲循环单元（SRC）神经元的 FPGA 加速器，该加速器通过采用数学简化来消除高成本运算，从而在生物合理性与硬件效率之间取得平衡，并在 MNIST 数据集上展现出具有竞争力的准确率（高达 96.31%）以及显著的能耗降低（低至每数字 0.45 毫焦）。

原作者： Pascal Harmeling, Florent De Geeter, Guillaume Drion

发布于 2026-05-13

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Pascal Harmeling, Florent De Geeter, Guillaume Drion

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在教一台计算机识别手写数字，比如银行支票上的数字。通常，计算机使用“人工神经网络”（ANN）来完成这项任务，这些网络就像一座座全天候运转的巨型工厂。它们 24 小时不间断运行，持续检查每一块数据，即使没有任何重要信息需要处理。这虽然强大，却极其耗电，就像为了看一个人走过场地，而把整个体育场的灯全部打开一样。

“脉冲”替代方案
大自然提供了更好的方式。我们的大脑并非依靠恒定电流运行，而是依靠“脉冲”工作。可以把神经元想象成一颗鞭炮：它安静地待着，直到接收到足够的“噪声”（输入），然后才会“爆炸”（发放脉冲）。在两次爆炸之间，它是沉默的。这种“事件驱动”的方法极其节能，因为大脑只在真正发生事件时才消耗能量。

科学家们一直在尝试制造能够像这种“脉冲神经网络”（SNN）一样工作的计算机芯片。然而，这里有一个难题：

过于简单：有些模型就像基本的电灯开关（开/关）。它们易于在芯片上实现，却忽略了真实大脑运作中的微妙细节。
过于复杂：其他模型试图完美复制大脑，但它们过于复杂，要在芯片上实现它们，就像试图用乐高积木搭建法拉利引擎——占用空间太大，耗能太高。

本文的解决方案：“SRC"神经元
本文提出了一种折中方案，称为“脉冲递归单元”（Spiking Recurrent Cell, SRC）。可以把 SRC 想象成一颗“智能鞭炮”。它既不是简单的开关，也不是全功能的法拉利引擎。它捕捉了真实脑细胞复杂而有节奏的行为，同时专为在一种特定类型的计算机芯片——“现场可编程门阵列”（FPGA）上高效构建而设计。你可以把 FPGA 想象成一块“电子乐高板”，你可以随时重新编程，让它瞬间执行不同的任务。

他们如何实现高效
在芯片上构建这种“智能鞭炮”颇具挑战性，因为芯片讨厌复杂的数学运算。这些神经元的原始数学涉及一些高级函数（如tanh和exp），这就像试图用一台只能做加法的计算器来计算彩虹的精确曲线。

作者们提出了一套巧妙的捷径：

摒弃复杂数学：他们不再计算复杂的曲线，而是用简单的直线近似来替代。这就像通过连接几个直线点来绘制平滑曲线；看起来几乎一样，但绘制速度快得多。
无需小数：计算机讨厌浮点数（小数），因为它们占用大量空间。团队将所有数值放大 1000 倍，改用整数。这就像用毫米而不是米来测量房间以避免小数，最后只需记得除以 1000 即可。
“开关”技巧：数学中有一部分是一个复杂公式，用于决定神经元是“快”还是“慢”。作者们意识到，这个公式本质上只是在说：“如果输入超过 X，就快；否则就慢。”他们用简单的“如果/那么”开关替代了复杂公式，这对芯片来说构建成本极低。

实验
他们在名为Artix-7的芯片上构建了该系统，并使用MNIST 数据集（包含 70,000 个手写数字的标准集合）进行了测试。

设置：他们没有向芯片输入静态图像，而是将图像转换为“脉冲轨迹”——一段包含 220 帧的短片，其中像素像摩尔斯电码一样闪烁开关。
结果：芯片识别数字的准确率达到96.31%。这非常出色，与更复杂的系统相当。

能量权衡
真正的奇迹发生在他们开始调整系统以进一步节省能量时：

更短的影片：他们意识到不需要完整的 220 帧影片就能识别数字。他们将影片缩短至仅 44 帧。芯片速度更快，能耗更低，尽管准确率略有下降（降至约 92.9%）。
更小的权重：在神经网络中，“权重”是神经元之间连接的强度。通常，这些权重以高精度（如 9 位）存储。作者们证明，可以将它们缩减至仅4 位（就像将高清照片变为像素化草图）。这节省了大量内存和功耗。
最佳平衡点：通过结合更短的影片（44 帧）和更小的权重（4 位），他们实现了92.89%的准确率，同时每个数字仅消耗0.45 毫焦耳的能量。相比之下，这仅是传统计算机方法所消耗能量的极小部分。

为何这很重要
本文证明，你不必在“生物学准确性”和“能源效率”之间做出选择。通过使用 SRC 模型和这些巧妙的数学捷径，他们构建了一个系统，能够：

像大脑一样思考（使用脉冲和连续动态）。
像机器一样运行（使用简单、快速的数学）。
相比传统方法大幅节省能源。

他们还表明该系统具有鲁棒性。即使他们简化了数学或降低了数据质量，“智能鞭炮”神经元仍能良好工作，证明这种方法是为未来电池友好型 AI 设备构建的有力候选方案。

技术摘要：基于 FPGA 的脉冲循环单元能效实现

问题陈述
脉冲神经网络（SNNs）通过利用稀疏的、事件驱动的计算，为传统人工神经网络（ANNs）提供了一种极具前景的低功耗替代方案。然而，生物合理性与硬件效率之间存在显著的权衡。生物上忠实可信的模型往往计算成本过高，难以在可编程逻辑门阵列（FPGAs）上运行；而标准的简化模型，如漏积分发放（LIF）或积分发放（IF）模型，为了追求硬件可行性，牺牲了复杂的神经元动力学特性，如不应期和连续状态演化。此外，现有的 FPGA 实现通常依赖于在线学习或特定的架构，从而限制了灵活性。挑战在于实现一种神经元模型，该模型在保留比 LIF/IF 模型更丰富的动力学特性的同时，仍能与高效且资源受限的 FPGA 硬件兼容。

方法论
作者提出了一种利用**脉冲循环单元（SRC）**神经元的 SNN FPGA 加速器。SRC 源自循环神经网络（RNN）架构，并将脉冲行为直接整合到其动力学中，从而消除了 LIF 模型中常见的显式复位机制的需求。

为了实现高效的 FPGA 实现，作者对原始 SRC 方程引入了一系列数学简化：

定点算术：所有变量和参数均乘以 1,000 的系数并转换为整数（11 位表示），从而消除了昂贵的浮点运算。
算子简化：双曲正切（tanh）函数被斜率为 0.75 的分段线性近似（Stanh）所取代。常数乘法（例如 0.75）通过位移操作实现。
阈值非线性：用于计算不应期切换变量 $z_s[t]$ 的复杂指数函数被一个简单的阈值规则所取代。如果膜电位超过阈值 $V_{th}$ ， $z_s[t]$ 切换至“深”状态；否则，它保持在“双曲”状态。
参数调整：参数 $r_s$ 从 -7 调整为 -8，以允许基于位移的乘法，并将显式参数提取出来以合并运算。

该系统使用 VHDL 在时钟频率为 100 MHz 的 AMD Xilinx Artix-7 XC7A200T FPGA 上实现。架构包含四层：输入接口、全连接 SRC 层（100 个神经元）、IR（积分与复位）积分器层（10 个神经元）以及比较器输出。权重矩阵使用 Julia 离线计算，并直接存储于 LUT 寄存器中且未经修改，以此测试模型的鲁棒性。

主要贡献

硬件优化的 SRC 模型：本文提出了一组新颖的简化方案，使得复杂的 SRC 模型能够在无需浮点单元或昂贵一元算子的情况下在 FPGA 上运行，同时保留了连续的神经元动力学特性。
鲁棒性验证：该研究证明，在原始未简化的 SRC 模型（在 Julia 中）上训练的权重可以直接迁移到简化的 FPGA 实现中，且精度损失极小，从而验证了该模型对量化和方程简化的鲁棒性。
能效 - 精度权衡分析：该工作系统地研究了减少脉冲轨迹长度和量化突触权重（低至 4 位）对能耗和识别精度的影响。
模块化架构：提出了一种分层同步架构，使用“Binder”模块进行同步，并使用“NetWorkLevel”模块进行并行处理，从而促进了重新配置和可扩展性。

实验结果
该系统使用 MNIST 数据集进行评估，该数据集被转换为脉冲轨迹（二进制图像序列）。

基线性能：使用 220 张图像的脉冲轨迹和 9 位权重时，FPGA 实现达到了 96.31% 的准确率，每位数字的处理时间为 1.7424 毫秒。这与 Julia 中简化版“伪 VHDL"（PsV）仿真的准确率相匹配。
能效：通过将脉冲轨迹长度减少至 55 张图像并将权重量化为 5 位，系统以每位数字 0.55 毫焦耳 的能耗实现了 93.32% 的准确率。进一步减少至 44 张图像和 4 位权重，则以每位数字 0.45 毫焦耳 的能耗实现了 92.89% 的准确率。
资源利用率：将权重位宽从 9 位减少到 4 位，导致每个 SRC 神经元的 LUT 使用量减少了 5–6%。在 SRC 计算中使用 DSP48 单元以及在层内完全并行化，有助于降低处理时间。
对比：与其他基于 FPGA 的 SNN 实现（例如 Carpegna 等人、Han 等人的工作）相比，SRC 方法在每位数字的能耗显著更低的情况下，展现了具有竞争力的准确率，特别是在短脉冲轨迹方面。作者指出，与其他工作相比，训练准确率与测试准确率之间的差距较小（1.1%），这归因于 SRC 模型的鲁棒性。

意义与主张
本文主张，基于 SRC 的 SNN 能够在保留比标准 LIF/IR 模型更丰富的神经元动力学的同时，以较低的能耗提供具有竞争力的性能。作者强调，所提出的简化方案允许在生物合理性与硬件成本之间进行权衡，使 SRC 成为能效型 SNN 加速器的有力候选者。

该工作强调，增加参数 $z_{hyp}^s$ 可以在不显著降低准确率的情况下，将脉冲生成频率降低约三倍，这表明在稀疏活动机制中事件驱动调度的潜力。作者总结道，数学简化、权重量化和轨迹长度减少的结合，为在资源受限的硬件上部署复杂 SNN 提供了一条切实可行的途径，尽管他们谦逊地指出，未来的工作仍需探索针对更大网络的自适应事件驱动调度和自动化。

技术摘要：基于 FPGA 的脉冲循环单元能效实现

类似论文