A transformer-based model reveals sparse, stimulus-dependent orientation readout from macaque V1 population activity
本研究表明，基于 Transformer 的模型能够精确地从猕猴 V1 层的群体活动中重建刺激方向，揭示了冗余的神经编码通过自注意力机制支持了一种灵活、稀疏且依赖于刺激的读取机制。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是一篇未经同行评审的预印本的AI生成解释。这不是医疗建议。请勿根据此内容做出健康决定。 阅读完整免责声明
初级视觉皮层是位于大脑后部的一层薄薄的组织，它是我们感知视觉信息的第一大处理站。当光线进入眼睛时，信号会传送到这一区域，在那里，数以百万计的单个神经元会对视觉世界的特定特征做出反应并产生电信号。这些神经元检测的最基本属性之一是方向（orientation）：即一条线或一个边缘倾斜的角度。数十年的研究表明，这些神经元并非千篇一律；每一个都有其偏好的角度，就像一个指向特定方向的小指南针。然而，大脑并不依赖单个神经元来告诉我们正在观察的角度。相反，一个视觉刺激会激活成千上万个神经元组成的庞大且重叠的群体，每个神经元的偏好略有不同，活跃程度也各异。这创造了一种复杂的、冗余的代码，其中相同的信息散布在大量的神经元种群中。神经科学界长期以来的核心谜题在于，大脑是如何从这个庞大且充满噪声的群体中筛选出关于世界的一个单一且精确的答案的。如果每个神经元都贡献了一点信息，大脑是如何决定该听谁的，以及它是否平等地倾听所有人？
为了解决这个难题，研究人员转向了人工智能领域的一种强大的新工具：基于Transformer的模型。这种模型最初是为语言处理设计的，它非常擅长识别复杂输入中哪些部分对于特定任务最为重要。由北京大学和浙江大学科学家领导的研究团队将这种模型应用于真实的生物数据。他们同时记录了七只清醒猕猴视觉皮层中超过1,000个神经元的活动。实验中，猴子被展示了各种角度的条纹图案（即Gabor刺激）。随后，研究人员将这些神经元的集体钙信号响应输入到计算机模型中，要求它重建猴子所看到的精确图像。其目标不仅是看计算机能否猜出角度，更要观察它在处理过程中是如何决定关注哪些神经元的。
结果令人震惊。计算机模型以惊人的精度重建了条纹图像，捕捉角度的平均误差小于一度。这种准确度远超简单的计算机模型所能达到的水平，证明了Transformer架构能够独特地解码这种复杂的生物信号。但真正的突破来自于观察模型的“内心世界”。当计算机处理数据时，它生成了一张注意力图（map of attention），展示了在做出决策时它为每个神经元分配了多少权重。研究人员发现，模型并没有将这1,000个神经元视为平等的伙伴。相反，对于任何给定的角度，重建过程都由仅有的两三个神经元组成的微小且稀疏的群体所主导。这些特定的神经元并非随机选取的；它们正是那些偏好角度与所示图像相匹配的神经元，也是从网络其余部分接收到最强“注意力”信号的神经元。
这一发现挑战了一个普遍假设，即大脑必须通过平均化数千个神经元的信号来获得清晰的图像。研究表明，虽然大脑在庞大的种群中冗余地存储信息，但在读取信息时却表现出高度的选择性和灵活性。模型揭示了这些关键神经元的特殊之处不仅在于它们喜欢正确的角度，还在于它们与邻近神经元的独立性更高，表现出较少的共享噪声或变异性。此外，模型显示它可以强化这些少数关键神经元的信号，有效地调高最有用的信息音量，同时降低其余人群中的噪声。这一过程使得系统能够从混沌的活动海洋中提取出精确的方向。
来自一项“假设实验”的证据或许最为有力。研究人员从模型中移除了那组权重极高的神经元，并让它再次尝试。模型并没有失败，而是迅速进行了调整。它招募了一组具有相似属性的新替代神经元来接替被移除的神经元。这些新神经元同样对准了正确的角度，并能够以同样高的精度接管方向解码的工作。这证明了大脑并不依赖于一组固定不变的“明星”神经元。相反，读取视觉信息的能力是一个动态过程，冗余的细胞种群提供了一个安全网，允许系统根据需要切换到不同的神经元子集，而不会损失准确性。
这项研究证实，视觉皮层是基于“冗余存储、稀疏读取”的原则运作的。大脑将相同的信息存储在许多地方以确保鲁棒性，但当它需要做出决策时，它会将资源集中在极少数高效的神经元子集上。这种机制既保证了大网络的稳定性，又实现了聚焦读取的速度与精度。通过使用Transformer模型来解码真实神经元的活动，研究人员为我们提供了一个清晰的窗口，让我们得以窥见大脑如何解决从大规模、重叠的代码中提取特定细节的问题。研究结果表明，大脑的高效性并不在于拥有更少的神经元，而在于拥有一种聪明且灵活的方式，能够在任何给定时刻精准选择哪些神经元才是最重要的。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。