Storing Infinite Dynamical Attractors in Nonreciprocal Associative Neural Networks
本文为非互易关联神经网络开发了一种动力学平均场理论,证明了耦合矩阵的光谱结构——特别是特征相的分布——通过控制延迟自相互作用与淬火噪声之间的相互作用来决定记忆检索能力,从而能够存储大量从极限环到奇异吸引子的动力学吸引子。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
人类的大脑是一个由数十亿个细胞组成的庞大网络,这些细胞以复杂的模式进行放电,创造了从转瞬即逝的记忆到稳定的心跳的一切。几十年来,科学家们一直试图理解这些网络是如何存储信息的。一个经典的观点认为,大脑就像一个图书馆,特定的连接排列持有静态的图像或事实,就像架子上的照片一样。然而,真实的大脑活动很少是静止的。它随着节奏、周期和混沌的波动而脉动,并随时间传递信息。理解一个网络如何能够留住这些移动的、变化的模式——而不仅仅是冻结的图像——一直是一个难题。如果大脑要作为一个动态机器发挥作用,它必须不仅能存储事物“是什么”,还要能存储事物“如何变化”。
一组研究人员现在开发了一种新的数学框架,用以解释一个由简单单元组成的网络如何同时存储大量此类移动模式。他们关注的是这样一种类型的网络:其中单元之间的连接并非完全平衡;一个单元发送给另一个单元的信号,其返回的强度并不一定相同。这种不对称性在生物系统中很常见,并且允许循环和节奏的产生。研究人员提出了一个基本问题:这样一个网络在变得过于混乱而无法记住任何模式之前,可以持有多少种不同的移动模式?他们的答案表明,存储更多信息的关键不在于模式本身的复杂性,而在于它们内部节奏的多样性。
为了探索这一点,科学家们构建了一个理论模型,该模型由在两种状态之间切换的二元单元组成。他们编写程序让这个网络存储特定的活动序列,其中一些在循环中重复,另一些则表现出混沌、不可预测的行为。利用先进的统计方法,他们计算了这个网络记忆的极限。他们发现,网络回忆这些模式的能力很大程度上取决于编码它们的连接的数学属性。具体而言,研究人员观察了这些连接的“特征相位”(eigenphases),这可以被理解为每个存储的模式想要振荡的特定时机或频率。
当研究人员编写程序使网络中所有存储的模式共享完全相同的时机时,结果令人失望。网络只能持有极少量的这些移动记忆,否则信号就会开始相互干扰。在这种情况下,网络的内部反馈回路会对自身产生负面影响,产生一种淹没记忆的噪声。对于以循环方式移动的模式尤其如此;网络难以保持它们的独特性,导致存储容量大幅下降,远低于静态图像所能达到的水平。
然而,当研究人员引入多样性时,情况发生了戏剧性的变化。当他们编写程序使每个存储的模式具有略微不同的随机时机时,网络的性能显著提高了。通过分散存储模式的频率,曾经困扰均匀系统的破坏性干涉消失了。不同的节奏本质上抵消了通常会破坏记忆的噪声,使得网络运行起来就像一个更简单的系统。在这些模拟中,网络能够存储的移动模式数量大约是经典静态记忆模型的两倍。存储模式的时机越多样,网络就能持有越多的信息。
研究人员通过运行该网络的详细计算机模拟,将他们的数学预测与模拟系统的实际行为进行对比,以此测试这些想法。他们检查了以简单循环运动的模式,以及遵循混沌、奇异路径的模式。在每种情况下,理论都与模拟完美契应。他们证实,当模式具有不同的时机时,网络可以高精度地检索它们,即使存储的模式数量非常大。相反,当时机过于接近时,网络就会无法检索记忆。这项研究表明,大脑同时处理多种节奏的能力(例如在海马体和皮层中看到的各种活动波)可能是一种特性,而非缺陷。多样化的频率不仅不会导致混乱,反而能让大脑在相同的空间内封装更多信息,因为它防止了信号相互干扰。
这项工作挑战了“复杂性总是导致不稳定”的直觉。在许多系统中,增加更多的活动部件会让整个系统更容易崩溃。在这里,情况恰恰相反:为存储模式的节奏增加多样性,会使系统趋于稳定并提高其容量。这些发现为生物电路如何管理维持多种振荡模式提供了一个新的视角。它表明,不同神经回路之间的频率分布不仅是其活动的副产品,更是大脑存储广泛动态记忆的关键机制。该研究提供了一个清晰的数学解释,说明为什么一个由简单、嘈杂的单元组成的网络,只需确保其存储的模式不会步调一致,就能成为一个强大的、高容量的记忆系统。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。