scRM: A single-cell foundation model trained on scRNA-seq reads

在每一个活细胞内部，一个繁忙的生命工厂正时刻不停地运转着，阅读指令并构建蛋白质。为了理解这些工厂是如何运作的，科学家们长期以来一直依赖一种类似于人口普查员的方法：他们统计每本指令手册存在的副本数量。这种方法会产生一份包含数千个基因的简单数字列表，多年来一直是研究单个细胞的标准手段。然而，这种普查方法丢弃了指令的实际文本内容。它告诉你一个工厂生产了四份特定手册的副本，但却丢弃了页面本身，从而丢失了关于这些页面是如何被编辑、在哪里被剪切，或者是否含有错别字的细节。几十年来，研究人员一直接受这种细节的流失，将其视为能够同时研究数千个细胞所付出的代价，并认为遗传密码的原始文本过于混乱且复杂，无法直接进行分析。

来自 Altos Labs 和马里兰大学的一个研究小组现在挑战了这一长期存在的假设。他们构建了一种新型的人工智能，完全跳过了计数步骤。他们不再要求计算机查看一份数字列表，而是将原始的遗传文本本身——即构成细胞内 RNA 分子的 A、C、G 和 T 字母的实际序列——喂给计算机。这个被称为 scRM 的新模型直接从未经处理的数据中学习，就像学生通过阅读原著而非摘要来学习语言一样。研究人员发现，这种方法不仅有效，而且能让模型以一种此前无法实现的细节水平来理解细胞活动，同时仅使用传统方法所需计算能力的极小部分。

这一突破的核心在于数据的准备方式。在典型的实验中，科学家会捕获数千个单个细胞的遗传物质。原始输出是一股巨大的短文本片段流，每个片段都带有用于识别其来自哪个细胞的唯一代码。传统上，计算机首先会尝试将每一个片段与参考基因组进行匹配，这个过程既缓慢又需要一个预先存在的生物体基因图谱。新的框架完全绕过了这一步。它获取原始片段，根据细胞标签对它们进行分组，并将它们组装成更长的、连贯的文本块，称为“重叠群”（contigs）。这些重叠群代表了细胞中发现的实际 mRNA 分子，保留了精确的序列以及基因拼接方式的任何变化。这种组装后的文本随后被直接输入 AI 模型，模型将遗传密码视为一种需要理解的语言，而非仅仅是一份需要计数的列表。

他们构建的模型 scRM 出奇地小。它仅包含 120 万个可调节设置，即参数。为了直观理解，该领域的其他领先模型通常要大数百倍，拥有数亿个参数，并在数千万个细胞上进行训练。相比之下，研究人员仅用 3,000 个小鼠神经元细胞训练了他们的模型，整个过程在单块高端计算芯片上仅耗时一小时。尽管规模较小且训练数据有限，该模型的表现却非常出色。在测试诸如识别细胞类型或预测细胞如何响应遗传变化等任务时，它达到了与那些庞大且依赖数据的模型相当的性能。它甚至能在从未见过的物种（如人类、苍蝇和老鼠）中正确识别细胞类型，因为它学习的是遗传密码的通用语言，而非死记硬背特定的基因名称列表。

当研究人员观察细胞如何对特定的遗传干扰做出反应时，这种方法的真正威力显现了出来。在某些情况下，细胞可能会改变其缝合遗传指令的方式，从而创造出一种略有不同的蛋白质版本。旧有的计数方法只能看到指令的总数，无法检测到这些细微的结构变化。由于 scRM 读取的是实际序列，它能够捕捉到这些差异。在通过改变基因剪接方式来改变细胞的实验中，该新模型比现有的任何大规模模型都能更准确地检测到这些变化。这表明，遗传密码的原始文本包含了大量关于细胞功能的细节信息，而这些信息在被简化为简单计数时就会丢失。

这项工作为生物学研究开启了一扇新门。通过证明模型可以直接在原始测序读段上进行训练，研究人员表明，无需预先存在的生物体基因图谱也能构建强大的工具。这对于研究病毒、细菌或缺乏完善基因图谱的稀有生物尤为重要。该框架也非常高效，使得科学家可以基于自己的特定数据集训练定制化模型，而不是依赖于基于大规模公共数据集训练的通用模型。虽然目前的模型只是一个概念验证，但研究人员相信，扩展这种方法可以解锁对细胞运作方式的更深层理解，揭示那些一直隐藏在简化计数法面纱之下的基因活动细节。这项研究证明，有时要理解生命的叙事，必须阅读原始文本，而不仅仅是看摘要。