Hardware-Aware On-Chip Learning with a Scalable Single-Transistor-based Neuromorphic Platform

现代计算机功能极其强大，但它们也极其“饥渴”。随着人工智能变得日益复杂，运行它所需的能量已成为一个瓶颈，特别是对于那些需要在野外环境或机器人身上长时间依靠小型电池运行的设备而言。为了解决这个问题，科学家们转向了一种不同的计算思维方式，即模仿人类大脑。传统的计算器是以稳定、连续的流式处理信息，而这些“神经形态”系统则使用被称为“脉冲”的微小、异步的信息爆发。这种方法效率更高，因为系统只有在有新内容需要处理时才会工作。然而，教导这些类脑机器在运行时学习新任务一直是一个重大障碍。在大多数设计中，神经元的内部状态——即它刚刚接收到信息的“记忆”——隐藏在硬件内部，这使得系统几乎无法在不依赖昂贵且耗能的外部传感器的情况下，调整自身的连接并从错误中学习。

来自首尔大学和韩国科学技术研究院的一个研究小组现在展示了一种无需“窥视”神经元内部即可教导这些系统的方法。他们构建了一种新型芯片，其学习过程仅依赖于已经在表面可见的信号：组件之间流动的电流以及脉冲的时序。通过将硬件设计与学习软件协同工作，他们创造了一个可以在芯片上进行学习的系统，利用单个晶体管同时充当突触、神经元和学习信号发生器。这种方法无需读取神经元隐藏的内部电压，而此前这一步骤需要笨重且高能耗的电路。其结果是一个不仅更小、更简单，而且能够持续学习、在记住已学知识的同时适应新信息的统一平台。

这项突破的核心在于研究人员如何解决了“状态访问”问题。在传统的类脑系统中，为了教导一个神经元在正确的时间发放脉冲，计算机需要确切知道在任何给定时刻其内部积聚了多少电荷。在物理硬件中，这些电荷被困在设备内部，测量它们需要复杂的、高能耗的电路，这违背了开发低功耗系统的初衷。研究人员意识到，如果能以流入神经元的电流作为代理指标，就不需要测量这种隐藏的电荷。他们开发了一种称为“基于电流的代理梯度”的方法。系统不再询问“神经元的电池有多满？”，而是询问“现在的电流是多少？”。如果电流处于特定的健康范围内，系统就知道神经元正在正确学习；如果电流过高或过低，系统就知道需要进行调整。这使得芯片能够仅利用连接点处自然可用的数据，生成自身的学习信号。

为了使这项技术在现实世界中发挥作用，团队使用标准的制造工艺制造了一款特殊的芯片，但加入了一个巧妙的设计。他们使用了一种可以通过配置执行三种不同工作的单类晶体管。其中一组晶体管充当突触，即存储记忆强度的连接；另一组充媒体神经元，负责积累电荷直到达到临界点并发出脉冲；第三组则充当学习机制，观察电流并决定何时发送修正信号。由于所有三个组件都由相同的基本单元构建，因此可以将它们密集地封装在单个芯片上。研究人员展示了这些晶体管可以可靠地存储不同等级的权重、随时间整合输入信号，并以模拟生物神经元的模式发放脉冲。至关重要的是，学习组件只需观察电流，即可检测系统运行是否正确，而无需访问神经元隐藏的内部电压。

团队通过大量的计算机模拟测试了该系统，这些模拟使用了其实际物理芯片的实测行为。他们在多种任务上训练了该网络，范围从识别手写数字到识别图像中的复杂物体，再到解释来自事件相机（event-based cameras）的视频流。在这些测试中，新方法的表现与依赖于获取完整内部状态的传统学习方法一样出色。该系统能够在学习新类别物体的同时不忘记已经掌握的内容，这种能力被称为“持续学习”。这是一个重大的成就，因为以往许多尝试在芯片上进行学习的尝试都会导致“灾难性遗忘”，即学习新事物会抹除旧记忆。通过使用这种新的学习信号，研究人员证明了即使在硬件本身存在缺陷和噪声的情况下，系统也能在保留先前知识的同时适应新信息。

其对能源效率的影响是巨大的。研究人员估计，通过使用这种模拟的、基于脉冲的方法，运行一次推理（即根据新数据做出决策）所需的能量与全数字系统相比可以减少 60% 以上。在某些特定配置下，节省程度甚至更高，达到了 85% 以上。这是因为该系统避免了将模拟信号转换为数字数字再转回来的巨大能量成本，并且只有在脉冲实际发生时才会消耗功率。虽然在教导芯片的过程中最初仍需要一些消耗能量的高压脉冲，但研究人员指出，这种成本是单次设置或罕见事件，而日常运行期间的能量节省是持续且显著的。

这项工作并不声称已经解决了人工智能的所有问题，也不意味着这些芯片明天就能取代你智能手机中的处理器。研究人员谨慎地指出，尽管学习信号效果良好，但尚未测量过一个完整的、集成学习系统的实际整体能耗。在扩大制造规模以及集成管理这些芯片所需的控制电路方面，仍然存在挑战。然而，这项研究提供了一个明确的概念验证，证明了构建一种无需查看自身“内在思想”即可自主学习的类脑计算机是可能的。通过让硬件使用与学习算法相同的语言，该团队为开发出能够像其设计的生物大脑一样在现实世界中学习和进化的、具有适应性且高效能的机器开辟了一条道路。