Inhibitory budget matching constrains homeostatic plasticity in competitive spiking networks
本文表明，在竞争性脉冲网络中，若要用具有塑性的稳态规则取代固定的侧向抑制，则需要一个“抑制预算匹配”约束以保持总抑制驱动不变，这一原则在允许局部抑制权重进行自适应的同时，确保了网络的稳定性并保持了学习性能。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是一篇未经同行评审的预印本的AI生成解释。这不是医疗建议。请勿根据此内容做出健康决定。 阅读完整免责声明
在大脑中，神经元并非孤立工作；它们形成了庞大且动态的网络，其中兴奋与抑制必须保持微妙的平衡。兴奋性神经元通过放电来传递信息，而抑制性神经元则充当刹车，防止系统陷入混乱。几十年来，致力于模仿这种生物智能的人工神经网络计算机科学家们一直依赖于一种简化的模型：他们让兴奋性神经元进行学习和适应，但保持抑制性连接固定不变。这种方法在教授机器识别模式（例如手写数字）方面效果良好，但它忽略了一个生物学上的基本事实。在真实的脑中，抑制性连接与兴奋性连接一样具有可塑性；它们会随着时间的推移而增强或减弱，以维持稳定性。研究人员长期面临的问题是，如果我们用活性的、学习型的刹车取代那些固定的、不变的刹车，人工网络是否还能生存？如果刹车会自动调节，汽车是会留在路上，还是会撞车？
德国神经退行性疾病中心的一个研究小组致力于通过构建一个竞争性脉冲网络来回答这个问题，这是一种旨在进行无监督学习的人工大脑。他们使用一组标准的 28x28 像素手写数字图像（即著名的 MNIST 任务）对该网络进行了训练。在他们的设置中，网络接收这些图像作为电脉冲流，就像大脑处理视觉数据一样。兴奋性神经元通过竞争对特定模式做出反应，当它们率先放电时，会增强与输入的连接。为了使这种竞争保持公平并防止少数神经元主导整个网络，研究人员引入了一群抑制性神经元。在这一模型的传统版本中，从抑制性神经元到兴奋性神经元的连接是硬编码的，永不改变。研究人员想看看，如果他们允许这些抑制性连接根据网络的活动进行改变——模拟人类皮层中的可塑性——会发生什么。
该团队测试了几种不同的规则，以确定这些抑制性连接应当如何变化。一种规则基于脉冲的精确时序，这种方法此前已被证明能在其他类型的网络中平衡活动。另一种规则则较慢，根据较长时间内的平均放电率来调整抑制。他们还测试了一种新方法，该方法增加了一个严格的约束：一个“预算”，用于限制任何单个兴奋性神经元所能接收到的总抑制强度。结果表明，仅仅让抑制具有可塑性并不足以保证稳定性。当研究人员使用基于时序的规则时，网络通常保持稳定，但非常脆弱；起始条件的微小变化或学习速度的变化都会导致系统失效，使得神经元不受控制地放电，导致网络崩溃。较慢的基于速率的规则表现较好，在大多数测试运行中完成了训练，但当总抑制量偏离理想水平太远时，它仍然难以应对。
突破出现在研究人员强制执行预算约束时。他们发现，为了让网络在学习过程中保持稳定，每个神经元接收的总抑制强度必须保持在特定范围内，与在成功的基准模型中所使用的固定连接强度相匹配。当他们将此预算设定为正确值时，网络的学习效果与固定版本同样出色，在数字识别任务中达到了约 83.5% 的准确率。神经元对不同的数字发展出了清晰的偏好，且网络在整个训练过程中保持冷静且有序。然而，当他们将预算增加一倍，即允许两倍的抑制强度时，网络在每一次尝试中都失败了。神经元放电过快，导致系统几乎立即崩溃。这表明，网络的稳定性不仅取决于局部学习规则，还取决于一个保持总竞争压力恒定的全局约束。
这项研究表明，在竞争性学习系统中，你不能在不管理整体竞争强度的情况下，简单地将固定连接替换为可塑连接。研究人员证明，抑制性可塑性可以取代固定抑制，但前提是系统必须由一个能够保持总抑制驱动力恒定的规则来引导。这一发现为构建更具生物现实性的人工大脑提供了一个实用的设计原则。它意味着，为了让网络在有效学习的同时不至于崩溃，它需要一种机制，既允许单个连接进行适应，又确保抑制的总力量保持稳定。如果没有这种守恒，网络就会失去平衡，这证明在神经竞争的复杂舞蹈中，刹车的总强度与它们如何施加同样重要。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。