Polarization-coupled complete operators in sliding ferroelectric semiconductors for native in-memory attention computing
本文提出了一种基于滑动铁电半导体的存内计算硬件，该硬件通过极化作用将线性与非线性算子内在耦合，以实现完整的 Transformer 注意力原语（包括原生 Softmax），并为实时生成式人工智能提供超低延迟与超低能耗。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
现代人工智能，特别是那些编写故事、翻译语言和生成图像的系统，依赖于一种被称为“注意力”（attention）的数学过程。这一过程允许机器决定在任何给定时刻，句子或图像中哪些部分是最值得关注的重点。为了做出这些决策，计算机必须同时执行两种截然不同的计算：一是简单的加法和乘法，这类计算非常直接；二是复杂的、具有曲线特征的数学函数，它们像过滤器一样对结果进行归一化处理。目前，计算机芯片非常擅长处理简单的数学运算，但在处理这种复杂的过滤功能时却显得力不从心。它们必须在存储信息的内存与处理复杂数学运算的独立处理器之间不断地来回移动数据。这种频繁的数据搬运降低了系统的速度并消耗了大量能量，从而形成了一个瓶颈，限制了这些智能系统能够达到的速度和效率上限。
南京大学及其它机构的研究团队开发出一种新型计算机芯片，通过在存储数据的同一地点同时执行简单和复杂的计算，解决了这一问题。他们利用一种名为 ReS2 的特殊材料制造了一个微型器件，这是一种可以通过滑动来改变其电学特性的层状半导体。在这个单一器件内部，他们集成了两条不同的电流传输路径：一条电流垂直穿过材料，另一条则沿表面水平移动。这两条路径都由同一个被称为“铁电极化”（ferroelectric polarization）的内部开关控制，这个开关就像一个永久性的记忆设置，可以通过微小的电脉冲进行翻转。
当研究人员施加电压来翻转这个内部开关时，它会同时改变电流通过这两条路径的难易程度。垂直路径的反应呈直线且可预测，非常适合执行简单的加法和乘法任务；而水平路径的反应则是曲线式的、指数级的，能够自然地执行通常需要独立处理器才能完成的复杂过滤数学运算。由于两条路径都受同一个内部开关控制，该器件可以在无需移动任何数据的情况下，通过单个步骤执行整个注意力过程。研究人员构建了一个由这些器件组成的特定模式的小型网格，并证明它能够成功运行现代语言模型的核心逻辑。该系统运行速度惊人，操作耗时仅为 600 皮秒（即不到十亿分之一秒），且每项操作消耗的能量极低，仅为 320 阿托焦耳。
该团队并未止步于制造出这种器件，他们还证明了它具备学习和适应的能力。通过调整器件内路径的物理尺寸，他们可以调节复杂数学运算的敏感度，从而针对不同类型的任务设计芯片。他们使用了一个闭环设置对系统进行了测试，在该设置下，芯片接收文本输入并实时生成响应。当被提示“I am hungry”（我饿了）时，硬件立即计算出必要的注意力权重，并生成了后续内容“need pizza now”（现在需要披萨）。这表明该器件可以在没有外部帮助的情况下，独立处理理解和生成语言的完整循环。此外，研究人员利用其微型器件的实测性能模拟了一个规模更大的系统。在这些模拟中，该芯片成功地将来自小鼠大脑的电信号（代表恐惧或兴奋等不同情绪状态）转化为书面语言。模拟结果显示，这种方法可以扩展到处理涉及感官数据和语言生成的复杂现实任务。
这项工作代表了人工智能硬件设计方式的一次根本性转变。研究人员不再仅仅试图提高现有线性数学运算的速度，而是将缺失的复杂数学运算直接嵌入到了存储材料本身之中。通过这种方式，他们消除了此前困扰几代芯片的高能耗数据搬运问题。该器件可以在无电状态下保持设置状态超过一年，并且可以被改写数百万次，证明了其在实际应用中的稳定性。这次实验的成功表明，高效人工智能的未来可能并不取决于更优秀的软件或更快的处理器，而在于能够直接在单个微小存储单元内，原生执行完成所有数学运算所需的完整范围的材料。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。