Physical neural networks with trainable nonlinear connections for continuous control
本文介绍了一种物理神经网络架构，该架构通过在每个连接上使用模拟带通滤波器来放置可训练的非线性函数，证明了这种方法在实现高保真连续控制任务时，与传统的多层感知器相比，所需的参数和连接数量显著减少，同时能够实现超低功耗的硬件实现。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代计算领域，机器在识别模式方面已经变得极其出色，从识别照片中的面部到进行语言翻译。这些被称为神经网络的系统，通常构建在逐个处理数字的数字处理器之上。然而，一个新兴的研究领域正在探讨：我们是否可以利用电子元件本身的原始物理特性来构建这些思考机器。与其在标准计算机上模拟大脑，研究人员正试图创建“物理神经网络”，让硬件直接进行思考。挑战在于，大多数此类物理系统被迫表现得像它们的数字亲戚一样，使用简单的、固定的规则来处理信息。这往往浪费了真实电子设备天生拥有的独特且复杂的行为，例如某种特定类型的开关可能会根据信号到达的速度或强度做出不同的反应。科学家们面临的问题是，我们能否停止对抗这些自然的特性，转而将它们作为智能的基石。
来自英国各大学的一个研究小组在回答这一问题方面迈出了大胆的一步。他们开发了一种新型物理网络，其中每两个点之间的每一个连接都不再仅仅是一个简单的数字，而是一个可训练的、灵活的函数。想象一下一个标准网络，其中的导线就像管道，可以开启或关闭以允许更多或更少的水流通过。在这个新系统中，管道本身可以改变其形状和行为，在水流经过时对其进行过滤和重塑。研究人员使用模拟电子滤波器构建了这些连接，这些电路会对不同频率的声音或电信号做出不同的反应。通过训练这些滤波器来充当连接的“大脑”，他们创造了一个物理设备承担计算重任，而非仅仅传递信号的系统。
该团队在几个需要平滑、连续调节的现实世界任务上测试了这种方法，例如控制机械臂的运动、平衡移动车上的木棒，以及寻找太阳能电池板的最优功率输出。在每种情况下，他们都将这种新型物理网络与标准数字网络进行了对比。结果令人瞩目。对于涉及平滑、连续运动的任务，物理网络的准确度达到了与数字网络相同的水平，但所使用的部件却更少。在某些情况下，物理网络所使用的连接和参数仅为标准数字模型的一小部分。这种效率至关重要，因为更少的连接意味着需要更少的硬件构建、编程和功耗。当研究人员预测用于构建太阳能电池板控制器的专用芯片将消耗多少能量时，他们估计其耗电量约为 35 微瓦。这比目前用于类似边缘计算任务的微控制器低了约两个数量级，表明了一条通往极低功耗智能设备的路径。
为了确保他们的发现不仅仅是某种特定类型电路的偶然现象，研究人员还使用另一种被称为忆阻器（其电阻会根据其历史记录而变化）的电子元件对相同的网络进行了模拟。即使使用了完全不同的物理材料，该网络仍然保持了其相对于标准数字网络的优势。这表明，这种益处源于架构本身——即使用可训练的非线性连接——而非源于任何单一类型的硬件。研究人员还展示了他们可以将网络的数学模型直接转化为硬件设置，并使其立即投入运行，而无需在设备上重新训练系统。他们在超过 35,000 个独立连接上测试了这种迁移，物理硬件与模拟预测高度吻合。
然而，这项研究也明确了这种新方法并不适用的场景。当研究人员将网络用于涉及做出尖锐、二元决策的任务（例如对衣物图像进行分类，或在两种截然不同的动作之间做出选择）时，物理网络并未表现出比标准数字网络明显的优势。研究人员解释说，这是因为他们的系统旨在擅长处理平滑、连续的变化，而二元决策通常依赖于更容易由传统网络创建的清晰边界。这种区别很重要：这项新技术并不是解决所有计算问题的万灵药，而是一个专门的工具，在任务涉及在平滑的可能性景观中导航时表现尤为出色。
这项工作代表了我们在构建智能机器思维方式上的重大转变。研究人员表明，我们不必强迫物理设备表现得像简单的、可预测的数字开关，而是可以利用这些设备的复杂、自然行为来为我们工作。通过在每个连接上放置一个可学习的非线性函数，他们将硬件的物理局限性转化为了计算优势。这种方法为构建紧凑、低功耗的网络提供了一条充满前景的路径，这些网络能够处理机器人技术、能源管理和自主系统所需的连续、现实世界的控制任务。研究结果表明，高效机器学习的未来可能不在于让我们的硬件更像软件，而在于让我们的硬件展现其本真之态。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。