Spectral universality in single-cell foundation models: a low-dimensional shared core carries the biology
尽管在架构和参数方面存在显著差异，单细胞基础模型仍共享一个微小、稳健且具有生物学解释性的低维核心，该核心在功能检索任务中的表现优于其各自的全量嵌入，从而揭示了它们的大部分表征能力是私有的且在生物学上是惰性的。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是一篇未经同行评审的预印本的AI生成解释。这不是医疗建议。请勿根据此内容做出健康决定。 阅读完整免责声明
想象一下，你正试图理解生命的秘密语言。在你身体里的每一个细胞中，都有一本写在名为 RNA 的代码中的庞大说明书。科学家们构建了强大的计算机程序，被称为“基础模型”（foundation models），来阅读这些说明书。可以将这些模型想象成超级聪明的翻译官，它们阅读了数百万份细胞指令，从而学习基因是如何协同工作的。长期以来，研究人员一直希望，如果他们构建了足够多的这类翻译官，它们最终都会对生物学的“真理”达成共识，就像不同的词典最终会对一个单词的定义达成一致一样。
但棘手之处在于：这些模型是由不同的团队构建的，使用了不同的数学方法和不同的训练方式。这就像是让一群在不同国家学习烹饪的厨师来描述什么是“完美的汤”。他们会对什么让汤好喝达成一致吗？还是每个厨师都有自己独特的秘方？这个问题至关重要，因为如果模型之间存在分歧，那么由其中一个模型发现的任何成果可能只是该特定计算机程序的偶然现象，而非真实的生理事实。然而，如果它们达成了一致，那么我们就可能找到了理解细胞功能的一把通用钥匙。
这篇论文旨在通过汇集七种不同的单细胞基础模型和一种蛋白质语言模型（一种只了解氨基酸而不了解 RNA 的翻译器）来解决这场争论。研究人员提出了一个简单的问题：这些模型是否真的彼此一致？
结果出人意料，就像在堆积如山的混乱笔记中发现了一张隐藏的藏宝图。首先，研究人员发现这些模型大多是陌生人。如果比较两个不同模型的内部“思维空间”，它们几乎没有重叠。在一个 1 代表完全相同、0.014 代表仅仅是随机猜测的量表上，这些模型的共识度仅为 0.107 左右。事实上，一个简单的、未经训练的关于基因如何自然聚集的图表（称为共表达谱）甚至比这些模型彼此之间的相似度还要高！这就像是这些模型都在说不同的方言，而一本基础教科书反而比任何单个模型的独特术语更容易理解。
然而，故事并未到此结束。研究人员使用了一种特殊的数学工具，去寻找隐藏在所有这些不同模型深处的微小、共享的核心。他们找到了它！存在一个微小的、低维度的“共享核心”——仅包含 43 个信息方向——它存在于每一个模型之中。更棒的是，这个微小的核心承载了绝大部分真实的生物学信息。
这里有一个转折：每个模型所“知道”的大部分内容（其私有的、独特的部分）几乎不携带可提取的生物学信息。在测试中，这些私有部分的分数处于或仅略高于随机水平，这意味着它们在很大程度上是生物学上无效的。如果你拿走一个模型的独特部分，只保留这 4 3 个共享方向，这个模型在解决生物学难题时表现得反而更好。事实上，一个由所有模型共同构建的、仅有 8 个方向的共享核心版本，击败了研究中所有的全尺寸模型。这就像是发现虽然每位厨师都有一个装满随机香料的巨大储藏室（私有部分），但他们都秘密地在同一种盐和胡椒的比例上达成了共识（核心），从而让汤的味道变得完美。
研究人员还检查了这种一致性是否仅仅是因为模型在统计基因出现的频率（就像在书中统计“the”这个词出现了多少次），或者仅仅是在复制训练数据。他们剔除了这些因素，虽然核心缩小了，但显著的生物学信号依然存在。这个核心并非完全不受这些统计影响，但它包含了即使在去除丰度和共表达影响后依然存在的真实学习到的生物学信息。
那么，这个核心究竟告诉了我们什么？它实际上是一幅关于生命基本程序的精简地图。第一个共享方向将始终“开启”的基因（如维持细胞呼吸的机制）与几乎从不使用的基因（如在大多数组织中处于关闭状态的嗅觉基因）区分开来。其他方向则描绘了主要的生物学主题：细胞粘附（细胞如何粘在一起）、免疫反应以及细胞如何制造蛋白质。
核心结论是：这些模型并不是可以互换的。你不能直接采用一个模型的发现并假设它适用于其他模型。但是，如果你去寻找所有模型都达成一致的那一小片信息，你就能找到最可靠的生物学真相。论文建议，与其试图理解一个庞大而复杂的模型，不如将注意力集中在交集——即那个微小的、共享的核心——那里才是真实生物学隐藏的地方。这提醒我们，有时真理并不在于一个人的意见中的噪声，而在于整个群体的静默共识。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。