Masked Autoencoders Learn Perception-Relevant Representations from Resting State Neural Data
这项研究表明,在无标签静息态神经数据上进行预训练的自监督掩码自编码器可以学习可解释的大脑结构,并显著提高盲人参与者的感知解码准确度,证明了自发性皮层活动包含丰富的任务相关信息。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是一篇未经同行评审的预印本的AI生成解释。这不是医疗建议。请勿根据此内容做出健康决定。 阅读完整免责声明
想象一下,你正在试图教一个机器人如何看东西。通常情况下,要教一个机器人,你需要给它看成千上万张带有标签的照片:“这是一只猫”、“这是一只狗”、“这是一棵树”。但如果你的标签照片很少,却拥有一座由未标记视频组成的“大山”,而视频里机器人只是坐在一个黑漆漆的房间里无所事事呢?长期以来,科学家们认为这种“无所事事”的片段只是静态噪声——是毫无用处的垃圾,无法教会机器人关于现实世界的任何知识。这正是神经义肢(帮助大脑连接机器的设备)领域面临的一个重大问题。医生们希望通过向大脑发送微小的电信号来帮助盲人“看见”,但他们缺乏足够的实践数据来教计算机预测这个人实际会看到什么。他们拥有数小时的“休息”状态下的脑电数据,但过去一直认为这些数据太杂乱,无法使用。
这篇论文提出了一个大胆的问题:如果那些“休息”时的脑电数据并不是噪声呢?如果大脑即使在“放松”时,也在秘密地练习它在实际观察事物时所使用的模式呢?研究人员测试了一个被称为自监督学习的聪明技巧。你可以把它想象成一场“填空游戏”。你给学生展示一个随机缺失单词的句子,并要求他们根据上下文猜出缺失的单词。如果学生非常擅长猜测缺失的单词,说明他们一定已经掌握了语言的深层规则,即便你从未告诉过他们故事的含义。研究人员将这种“填空游戏”应用在脑电数据上,以观察他们是否能在从未见过任何“带标签”视觉测试的情况下,教会计算机理解视觉。
伟大的实验:教大脑玩猜谜游戏
团队与一名失明参与者合作,该参与者的大脑负责视觉的部分(称为 V1)植入了 96 个微小传感器的微型网格。他们拥有两种类型的数据:
- “闲暇”数据: 14.6 小时的大脑处于静止状态,没有任何光线或信号输入。
- “测试”数据: 短时间的爆发式过程,研究人员尝试通过电刺激特定的传感器,以在人的意识中创造出一种“闪光”(光幻视)。
研究人员构建了一个名为掩码自编码器(Masked Autoencoder)的计算机模型。想象你有一个巨大的大脑活动拼图。模型会取一段“闲暇”数据,用掩码遮住其中 75% 的部分(就像用胶带盖住拼图碎片),然后仅根据可见的部分来尝试猜测隐藏部分的样貌。它利用 14.6 小时的数据反复进行这一过程。至关重要的一点是,在整个训练阶段,模型从未见过任何“测试”数据。它不知道“闪光”看起来是什么样的;它只知道大脑在休息时是如何表现的。
惊喜:大脑的“休息”状态隐藏着一张秘密地图
当模型完成训练后,研究人员窥探了它的内部(或者说,它的数字“潜空间”)。他们发现了一些令人惊叹的现象。尽管模型从未被告知关于视觉的信息,但它却意外地学会了大脑的内部地图。
- 邻里效应: 当研究人员观察模型的理解能力时,发现物理位置相近的传感器在模型的意识中也被归为一类。就好像模型通过观察大脑放松的过程,自行领悟到了:“嘿,这些传感器是邻居。”
- 情绪环(Mood Ring): 模型还学会了区分大脑的不同“情绪”。它能够区分大脑处于“准备好观察某物”的状态与非观察状态之间的差异,尽管它从未被告知要去寻找这些状态。
真正的考验:它能预测你看到了什么吗?
为了验证这种基于“休息”的训练是否真的有效,他们冻结了模型(停止教学),并利用它来预测“测试”数据的结果。他们问模型:“基于现在的脑电活动,这个人会看到闪光还是不会?”
他们在两个层面上进行了测试:
- 简单等级(心理测量任务): 他们使用了通常会产生闪光的强电流刺激。利用其“休息”训练后的模型,答对率达到了 84.1%。这优于那些仅仅是将数据压缩或仅观察原始数值的旧方法。
- 困难等级(阈值任务): 这是真正的挑战。他们使用了极弱的电刺激,处于感知的边缘。有时人看到了闪光,有时则没有,尽管电刺激的强度完全相同。这正是以往的计算机通常会失败的地方,因为数据看起来就像随机噪声。但经过“休息”数据训练的模型成功实现了 64.0% 的准确率。
这为什么重要
这篇论文表明,“休息”状态下的脑电噪声实际上充满了丰富的、有用的模式。通过让计算机学习大脑“闲暇时间”的规则,它变得更擅长预测“行动时间”会发生什么。
作者们谨慎地指出,这目前还不是万能的灵丹妙药。他们仅在一名受试者身上进行了测试,因此我们不知道它是否适用于所有人。他们也承认,自己并不百分之百确定为什么“休息”数据会有所帮助——也许大脑在休息时也在“排练”视觉,或者也许它只是设定了一个基准,使得“行动”信号更加突出。但核心结论是明确的:我们不需要丢弃那些“枯燥”的脑电数据。如果我们教会计算机理解沉默,它们或许就能学会如何聆听音乐。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。