Attractor computation in continuous-time digital networks
本文提出了一种连续时间数字霍普菲尔德神经网络,该网络将数字可编程能量景观与物理时间状态演化相结合,以控制内在不稳定性,从而在多样化的优化与记忆任务中平衡探索与收敛,实现稳健的吸引子计算。
原始论文采用 CC BY 4.0 许可(https://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
在脑部的深处,数以十亿计的细胞在持续不断的流动中进行着交流。它们并不等待一个主时钟来告知何时发言;相反,它们会对邻近的细胞做出即时反应,并稳定在某种活动模式中,使我们能够记住一张脸或做出决定。长期以来,科学家们一直试图建造模仿这种自然节奏的机器,希望创造出通过“松弛”进入解而非通过逐步计算来解决复杂问题的计算机。挑战在于,物理系统在被允许自由且同步地演化时,往往会变得混乱。它们可能会陷入循环,或者根本无法稳定下来,从而导致其在实际应用中变得不可靠。几十年来,人们似乎只能在精确、有序但缺乏这种自然流动的数字计算机,与流体、混沌但难以控制的模拟系统之间做选择。
中国科学技术大学的研究人员找到了一种弥合这一差距的方法。他们构建了一种存在于这两个世界之间的全新计算机网络。通过使用标准的数字芯片,但允许信号在没有全局时钟的情况下传输,他们创造了一个在连续物理时间中演化的系统,就像生物大脑一样。这个被称为“连续时间数字霍普菲尔德网络”(continuous-time digital Hopfield network)的系统可以被编程来解决困难的谜题。研究团队发现,通常会导致此类系统失效的这种不稳定性,实际上可以被转化为一种工具。通过仔细调整信号的时序以及神经元相互反应的方式,他们可以引导网络要么快速稳定到一个确定的答案,要么在各种可能性中游走以寻找更好的答案。
研究人员在几种类型的难题上测试了他们的发明,首先是简单的磁性材料模型,其中微小的自旋必须要么聚在一起,要么彼此相反。在这些测试中,该网络成功找到了代表最稳定排列的最低能量状态,涉及多达169个自旋的系统。当问题变得更加复杂——即自旋想要与邻居相反时——网络有时会难以稳定,产生无休止的振荡。这种行为在标准计算机中会被视为失败,但却揭示了一种隐藏的力量。在一种记忆任务中,即网络必须从部分线索中回忆特定模式时,研究人员观察到系统的暂时不稳定性使其能够跳过能量壁垒。网络并没有被困在错误的答案中,而是利用这些波动来探索可能性图谱,最终找到了正确的记忆,或者找到了比稳定系统所能达到的更好的解。
为了证明他们可以控制这种行为,团队将该网络应用于一个经典的图论问题,即 Max-Cut(最大割)挑战,该问题涉及将一组点分为两组,以实现连接的最大化。他们测试了包含多达1,000个点的图。在没有任何特殊调整的情况下,网络保持混沌状态,从未找到好的解。然而,通过引入三种特定的控制手段,他们可以调节系统的“个性”。他们可以让神经元分组进行轮流演化,添加一个忽略微小波动的缓冲器,并在信号路径中插入可调节的延迟。当他们结合这些控制手段时,网络变成了一个强大的求解器。它能找到近乎完美的解,且所用的时间仅为传统笔记本电脑运行传统算法的一小部分。该系统不仅解决了问题,还证明了曾经被视为缺陷的物理延迟和反馈回路,是可以被编程用来平衡探索与稳定性的。
这项工作为计算硬件指明了一条新路径。它表明,数字芯片不必非要是僵化且受时钟驱动的;它们也可以变得具有流动性并能实时反应。核心洞察在于,不稳定性并不总是敌人。在正确的语境下,配合适当的控制,物理系统的抖动和延迟可以帮助它逃离死胡同并找到更好的答案。研究人员创建了一个框架,其中问题的规则由数字设定,但寻找解的过程是通过电路的自然物理特性完成的。这种方法提供了一种切实可行的方式,用于构建能够以生物系统的速度和并行能力处理复杂优化问题的机器,同时又不牺牲现代电子设备的精确性。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。