Predictive learning with local plasticity in excitatory-inhibitory networks
本文表明,具有纯局部塑性的循环兴奋-抑制网络,特别是类BCM规则,可以通过维持在一致性流形上的权重来实现预测推理并学习稀疏的时空特征,从而在不需要显式误差表示的情况下,将预测编码与生物学上合理的电路机制联系起来。
原始论文采用 CC BY 4.0 许可(https://creativecommons.org/licenses/by/4.0/)。 这是一篇未经同行评审的预印本的AI生成解释。这不是医疗建议。请勿根据此内容做出健康决定。 阅读完整免责声明
人类大脑是一个由数十亿神经元组成的庞大网络,这些神经元不断地放电并建立连接,以理解这个世界。在这项活动的核心,存在着两种相互对立的力量:鼓励神经元放电的兴奋性信号,以及使它们平静下来的抑制性信号。几十年来,科学家们一直在思考,这些简单的局部交互是如何让大脑实现像预测下一步会发生什么这样复杂的任务的。一个领先的理论被称为“预测编码”,该理论认为大脑始终在猜测其感官输入的成因,并且只关注那些令人惊讶的变化。然而,一个主要的谜题一直存在:一个只能根据附近细胞的即时活动来调整其连接的生物网络,如何在没有中央计算机来计算误差的情况下,完成这种复杂的猜谜游戏?
爱丁堡大学的一项新研究通过展示一种特定类型的神经回路如何仅利用局部规则学习预测未来,提供了一个引人注心的答案。研究人员构建了一个计算机模型,在这个网络中,兴奋性神经元向前发送信号,而抑制性神经元则提供反馈以维持系统的稳定。他们发现,为了让该网络进行有效的学习,神经元之间的连接必须保持在一种非常特定的平衡状态。如果兴奋性连接偏离这种平衡太远,网络就会无法学习数据中的真实模式。团队发现,一种类似于在真实动物大脑中观察到的学习规则,能够自然地使网络保持在这种“甜点位”(最佳平衡点)。这种规则使网络不仅能从静态图像(如边缘和形状)中学习,还能从移动视频中学习,从而能够预判运动方向,甚至在输入消失时填补序列中的缺失部分。
研究人员首先在简单的静态图像上测试了他们的模型,例如交叉的条纹或来自自然照片的斑块。他们想看看网络是否能在没有被告知要寻找什么的情况下,将这些复杂图像分解为基本的构建模块,比如线条或边缘。他们比较了几种不同的网络调整连接的方法。有些方法依赖于神经元之间的简单巧合,这会导致网络偏离最佳平衡,导致学习过程混乱且不准确。然而,当他们使用一种根据当前活动与预测的匹配程度来调整连接的规则时,网络保持了完美的平衡。这种特定的规则(作者称之为“预测规则”)确保了抑制性反馈始终能够匹配抵消输入中的噪声所需的强度。结果,网络学会了使用稀疏的特征集来表示图像,这意味着只有少数神经元在描述图像时同时放电,这与哺乳动物的视觉皮层工作方式非常相似。
研究进一步为模型加入了时间维度。现实生活不仅仅是一系列静止的画面,它是一个连续的事件流。为了模拟这一点,研究人员增加了一个机制,使网络的当前状态可以影响其未来的状态,从而创造出一种形式的记忆。当他们用移动条纹的视频训练这个更新后的网络时,它不仅学会了检测物体的形状,还学会了检测其移动的方向。值得注意的是,网络发展出了完成序列的能力。如果视频中的移动条纹突然变为空白,网络会根据其学到的知识,继续“看到”条纹正朝着同一个方向移动,从而填补了空白。这表明网络已经内化了运动规则,并能在自己的思维中将其向前运行,这种能力对于在世界中导航至关重要。
为了使模型更加逼真,团队移除了学习步骤之间的人工停顿,让网络从连续的数据流中学习,就像活生生的脑部一样。在连续版本的模型中,网络开发出了平滑、弯曲的活动模式,而不是尖锐、僵硬的切换。当研究人员在学习完成后用随机噪声刺激该网络时,网络会自发地重放之前见过的序列。它会循环播放相同的活动模式,仿佛在回忆过去的事件。这些模式在网络的活动空间中形成了一个环状结构,这种形状允许系统非常精确地表示单个数值(如方向)。这种行为模仿了大脑海马体中的现象,即动物在休息期间会重放其行进路径,这表明相同的局部学习规则可能同时支撑着预测与记忆。
这些发现挑战了长期以来的观点,即大脑需要特殊的“误差神经元”来计算预期与所见之间的差异。相反,这项研究表明,大脑可能只是利用其内部预测与传入信号之间的不匹配,直接来调整其连接。研究人员展示了,通过使电路的兴奋部分和抑制部分保持紧密且一致的关系,网络可以在不需要单独误差信号的情况下执行复杂的推理。这意味着,兴奋性连接的塑性(或称改变能力)是预测的关键。这项研究在局部生物学习规则与全局智能预测行为之间建立了强有力的理论联系,表明大脑预见未来的能力,是其电路保持平衡的一种自然结果。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。