Hybridizing Equilibrium Propagation with Ising Machines for Efficient Energy-Based Learning

技术摘要：将平衡传播与伊辛机结合以实现高效的基于能量的学习

问题陈述
深度神经网络（DNN）的快速发展受到了传统基于 GPU 的训练所需的高能耗和高时间成本的限制。虽然物理硬件求解器（如伊辛机）为能效计算提供了一条路径，但它们通常是在外部电子设备上使用反向传播（BP）进行预训练的，这使得它们容易受到硬件噪声和制造缺陷的影响。因此，需要一种基于物理原理的训练方法，使学习直接在物理动力学中发生。

平衡传播（Equilibrium Propagation, EP）是一种著名的基于能量的学习算法，它通过局部学习规则统一了训练与推理。然而，标准的 EP 依赖于霍普菲尔德网络（Hopfield networks），其受非哈密顿耗散动力学（$\dot{x} = -\nabla E(x)$）支配。这种形式化导致了相空间收缩，使得系统频繁收敛到局部能量极小值而非全局最优解，从而削弱了训练效果。此外，将多层网络参数直接映射到大规模自旋系统面临着扩展性问题，包括收敛时间过长。

方法论
作者提出了一种名为 cSB-EP（连续模拟分叉平衡传播）的混合训练框架。该方法将 EP 的局部学习规则与受伊辛动力学启发的物理趋向平衡的路径相结合。

1. 扩展相空间动力学： 不同于标准霍普菲尔德网络的纯耗散弛豫，作者使用基于哈密顿框架的连续模拟分叉（cSB）系统替换了动力学。该系统为神经元状态引入了共轭变量（动量）。

   • 动力学由耦合微分方程控制：$\dot{s}_{yi} = -s_i - \gamma s_{yi} + \rho(\sum J_{ij}s_j)$ 以及 $\dot{s}_i = s_{yi}$，其中 $s_{yi}$ 作为共轭坐标提供惯性动量。
   • 激活函数 $\rho(x) = \min(\max(x, 0), 1)$ 取代了非弹性势垒以加速计算，而阻尼项 $\gamma$ 则确保收敛。

2. 作用机制： 共轭变量的引入允许系统暂时进入更高势能的区域。这种惯性动量使网络能够克服能量景观中的浅层局部极小值，而这种能力在能量严格单调下降的非哈密顿耗散系统中是缺失的。基于 Freidlin-Wentzell 原理的理论分析表明，弱耦合降低了有效能量势垒，指数级地增加了跳出局部最优解的转换率。

3. 训练架构： 该框架保留了 EP 的两阶段学习规则：

   • 自由阶段（Free Phase）： 网络在输入数据下演化至稳定状态。
   • 微扰阶段（Nudge Phase）： 应用受参数 $\beta$ 控制的扰动到输出层，以驱动系统向目标状态靠近。
   • 实现： 该算法利用混合 CPU/GPU 设置。数据处理和参数更新在 CPU 上进行，而计算密集型的基态搜索（神经元状态的收敛）则通过 cSB 算法在 GPU 上加速完成。

核心贡献

• 新颖的动力学： 本文引入了从耗散型霍普菲尔德弛豫到扩展相空间哈密顿动力学的转变，有效地缓解了由相空间收缩引起的局部极小值问题。
• 连续模拟分叉 (cSB)： 作者将最初为二进制自旋系统设计的模拟分叉机（Simulated Bifurcation machine）适配为适用于具有特定激活函数的连续动力系统。
• 可扩展性： 该框架成功地从简单的全连接网络扩展到了深度卷积霍普菲尔德网络（CNNs），证明了其与复杂架构的兼容性。

结果
实验在 MNIST、Fashion-MNIST 和 CIFAR-10 数据集上进行：

• 收敛性与能量： 与传统 EP 相比，cSB-EP 实现了更低的有效能量分布和更快的稳定态收敛。在训练过程中，平均网络能量更快地向较低值偏移。
• 准确率： 在 MNIST、Fashion-MNIST 和 CIFAR-10 上，cSB-EP 的测试错误率与反向传播（BP）相当，并优于现有的 EP 变体（如 cEP）。例如，在 CIFAR-10 上，cSB-EP 的表现优于传统 EP，并接近 BP 的性能。
• 效率： 该方法显著减少了基态搜索所需的迭代次数。与现有的 EP 算法相比，cSB-EP 在保持相当准确度的同时，实现了约 3 倍的计算加速。
• 鲁棒性： 该框架表现出增强的噪声鲁棒性。在模拟模拟或光电硬件缺陷的噪声条件下，cSB-EP 比标准 EP 保持了更高的分类准确度。惯性动力学有助于系统在受到噪声扰动时仍能跳出局部最优，前提是噪声强度不是过度剧烈。

意义与主张
作者声称，cSB-EP 不仅仅是将伊辛机应用于神经网络，它建立了一种全新的受伊辛机动力学启发的训练范式。通过改变趋向平衡的物理路径并保留局部学习规则，该框架为高效、可扩展且硬件兼容的基于能量的学习提供了一条可行路径。

研究表明，这种方法特别适用于部署在光学系统、光电系统和电子振荡器等物理平台上。通过解决传统物理训练方法的收敛性和噪声鲁棒性限制，cSB-EP 旨在促进低功耗 AI 在边缘计算和物联网设备中的部署，从而超越对依赖高能耗反向传播生成的预训练模型的依赖。