A transcriptomics-native foundation model for universal cell representation and virtual cell synthesis

本文提出了 xVERSE，一种原生转录组基础模型，它通过结合批次不变表征学习与概率表达谱生成，在表征学习、空间插值及虚拟细胞合成方面均超越现有方法，并能够利用高保真虚拟细胞解决微小数据集分析难题，从而解锁超越传统模型的通用分析能力。

要点

这篇论文介绍了一个名为 xVERSE 的超级人工智能工具，它是专门为理解细胞“语言”（基因表达数据）而设计的。为了让你轻松理解，我们可以把这项技术想象成一位**“细胞世界的全能翻译官兼虚拟建筑师”**。

以下是用通俗语言和创意比喻对这篇论文的解读：

1. 背景：为什么我们需要 xVERSE？

现状： 现在的科学家通过单细胞测序技术，能读取成千上万个细胞的“基因日记”。但是，现有的 AI 模型（比如 scGPT 等）大多是模仿处理人类语言的模型（像 ChatGPT 那样）。
问题： 把细胞数据当成“文字”来处理有个大问题。基因不像单词那样有固定的顺序（先说 A 再说 B），它们更像是一个混乱的、无序的、高维度的“大杂烩”。现有的模型就像是用“读小说”的方法去“读乱码”，结果往往不够精准，甚至不如一些老式的专用工具。而且，它们很难真正“创造”出新的细胞数据。

2. xVERSE 是什么？（核心创新）

xVERSE 是一个**“原生转录组基础模型”**。

• 比喻： 如果以前的模型是拿着字典去翻译乱码，xVERSE 就是直接听懂了细胞原本的“方言”。它不强行把基因排成句子，而是直接理解基因之间复杂的概率关系（就像理解天气变化的规律，而不是背诵天气预报）。
• 两大超能力：
  1. 万能翻译官（通用表征）： 它能忽略实验中的“噪音”（比如不同实验室、不同机器产生的误差），把不同来源的细胞数据统一到一个标准的“语言”里，让科学家能轻松对比不同研究。
  2. 虚拟建筑师（生成式模型）： 这是它最厉害的地方。它能根据已有的细胞样本，凭空“画”出逼真的虚拟细胞。这些虚拟细胞在基因层面和真实细胞几乎一模一样，连最挑剔的专家都分不清真假。

3. xVERSE 的四大绝招（具体应用）

① 消除“方言”隔阂（去批次效应）

• 场景： 就像不同国家的同一种水果，因为产地不同，颜色深浅不一。科学家想对比它们，但颜色差异（批次效应）会干扰判断。
• xVERSE 的做法： 它像一位精通多国语言的翻译，能自动忽略产地差异，直接提取水果的“本质味道”。
• 效果： 在识别细胞类型时，它的准确率比目前最好的模型高了近 18%，比传统的去噪工具也高了 11%。

② 给基因“排座次”（Gene2Cell 评分）

• 场景： 一个细胞里有几万个基因，但真正决定它身份的只有几十个关键基因。就像在一场大合唱里，只有领唱的声音最重要。
• xVERSE 的做法： 它能给每个基因打分，告诉科学家哪些是“领唱”（关键基因），哪些是“背景音”（噪音）。
• 效果： 科学家发现，只用那些高分的“领唱”基因，就能把细胞分得比用所有基因还清楚。这能帮助设计更便宜、更精准的空间测序芯片（只测关键基因，省钱又高效）。

③ 制造“完美替身”（虚拟细胞合成）

• 场景： 有时候样本太少（比如只有 4 个稀有细胞），就像只有 4 个人投票，很难看出民意。或者有些基因没测到，就像拼图缺了一块。
• xVERSE 的做法： 它能根据那 4 个细胞，“克隆”出成百上千个虚拟细胞。这些虚拟细胞不是简单的复制粘贴，而是根据生物学规律“生长”出来的，保留了所有复杂的细节。
• 效果：
  • 填补空缺： 能把稀有细胞的数量放大，让科学家能看清原本看不见的稀有细胞群。
  • 补全拼图： 在空间测序中，如果只测了 500 个基因，xVERSE 能准确“猜”出剩下那 2 万个基因长什么样，准确率比现有方法高出 34%。
  • 以假乱真： 让 AI 去分辨真假细胞，AI 的准确率只有 50%（等于瞎猜），说明虚拟细胞太逼真了。

④ 增强“免疫力”（数据增强与泛化）

• 场景： 训练一个 AI 模型识别心脏病，如果只给它看“健康人”的数据，它到了“心脏病患者”面前就会傻眼。
• xVERSE 的做法： 它用虚拟细胞给训练数据“加餐”，模拟各种可能的病理状态。
• 效果： 经过 xVERSE 增强的模型，在面对从未见过的疾病状态（如心脏移植后的排异反应）时，表现得更稳健、更聪明，预测准确率大幅提升。

4. 总结：这意味什么？

xVERSE 不仅仅是一个工具，它是一个“数据倍增器”。

• 以前： 科学家想研究稀有细胞，必须去收集更多昂贵的样本，耗时耗力。
• 现在： 有了 xVERSE，科学家可以在电脑上“无中生有”，用少量的真实样本生成海量的虚拟数据。
• 比喻： 就像以前画家要画一千幅画，必须找一千个模特；现在有了 xVERSE，只要给画家看一个模特，它就能自动生成一千个神态各异、但都符合解剖学规律的虚拟模特，让画家（科学家）能进行更深入的创作（研究）。

一句话总结： xVERSE 让科学家不再受限于样本数量和实验成本，通过“计算”来扩展生物学实验的边界，加速我们对生命奥秘的探索。

技术摘要

论文技术总结：xVERSE

1. 研究背景与问题 (Problem)

随着单细胞和空间测序技术的飞速发展，产生了海量的人口级细胞图谱数据。然而，现有的转录组基础模型（Foundation Models）主要存在以下局限性：

• 架构不匹配：大多数现有模型（如 scGPT, Nicheformer, Geneformer）直接借用自然语言处理（NLP）中的大语言模型（LLM，如 BERT, GPT）架构。它们将基因视为有序的“Token"，忽略了转录组数据本质上是无序、高维且稀疏的计数分布。
• 生成能力不足：现有模型主要侧重于学习细胞和基因的表征（Representation Learning），而非显式建模转录组的完整概率分布。因此，它们难以生成高保真的“虚拟细胞”，在数据增强和稀有细胞类型分析上表现受限。
• 任务性能瓶颈：尽管计算成本高昂，这些通用基础模型在零样本（Zero-shot）模式下，往往不如专门设计的传统方法（如批次校正、基因插补）表现优异。

2. 方法论 (Methodology)

作者提出了 xVERSE，这是一个**转录组原生（Transcriptomics-native）**的生成式基础模型。其核心设计理念是摒弃语言模型的序列先验，直接对基因计数的概率分布进行建模。

核心架构创新：

1. 原生无序建模：不强制引入人工序列结构，直接处理原始基因计数，尊重转录组数据的无序和高维特性。
2. 双流解码器与 Poisson 分布建模：
   • 模型学习将细胞投影到**批次不变（Batch-invariant）**的潜在生物嵌入空间。
   • 解码器基于细胞嵌入和基因嵌入，为每个基因生成**细胞特异性和基因特异性的泊松分布（Poisson distributions）**参数。这使得模型能够输出完整的转录组表达概率分布，而不仅仅是点估计。
3. 梯度反转层（GRL）用于去批次：通过对抗训练策略，显式地将生物学变异与技术混杂因素（如批次效应、平台差异）解耦，确保学到的表征对技术噪声具有不变性。
4. 面板感知（Panel-aware）的随机基因掩码策略：在训练过程中模拟不同基因面板（Gene Panels）的覆盖情况，使模型能够适应从全转录组到特定空间转录组（如 Xenium, CosMx）的小面板输入。
5. Gene2Cell 评分：量化每个基因对特定细胞嵌入的贡献度，用于识别驱动细胞身份的关键标记基因。

训练数据：
使用了超过 8900 万 个细胞图谱进行预训练，涵盖：

• 7000 万+ 基于液滴的单细胞/单核 RNA-seq 数据（64 种组织，138 种疾病状态）。
• 1900 万+ 基于原位成像的空间转录组数据（Xenium, MERFISH, CosMx 等，13 种组织）。

3. 关键贡献 (Key Contributions)

1. 首个转录组原生生成式基础模型：xVERSE 是第一个能够合成与真实生物数据在转录组层面无法区分（AUROC ≈ 0.5）的“虚拟细胞”的基础模型。
2. 超越专用方法的通用性：在零样本模式下，xVERSE 在表征学习（ASW 分数）和批次校正方面，分别比领先的专用方法（Harmony）和基础模型高出 11.4% 和 17.9%。
3. 高保真虚拟细胞合成引擎：能够生成高保真的虚拟细胞，有效填补稀有细胞类型的空白，并作为强大的数据增强工具，显著提升小样本数据集的分析能力。
4. 无需参考的基因插补：在空间转录组中，xVERSE 能够仅凭部分基因面板准确插补未测量的基因，且性能优于依赖外部参考数据集的专用插补方法（如 SpaGE, gimVI）。
5. 跨模态预测的泛化能力：利用 xVERSE 生成的虚拟细胞进行数据增强，显著提高了下游机器学习模型在未见病理状态（如心脏移植排斥反应）下的泛化能力。

4. 主要结果 (Results)

• 通用细胞表征：

  • 在人类健康肝脏和 ALS 运动皮层数据集的零样本测试中，xVERSE 的细胞类型平均轮廓宽度（ASW）比第二名 scGPT 高出 17.9%。
  • 即使在受限的基因面板（如 Xenium Prime 5000 基因或特定组织面板）下，其表现依然优于其他模型。
  • 推理速度比 scGPT 快 59.7%。

• 虚拟细胞合成与真实性：

  • 分布保真度：xVERSE 生成的虚拟细胞在基因表达计数分布（如 UMI 计数）和稀疏性上与真实生物细胞高度一致。
  • 不可区分性：二分类器无法区分 xVERSE 生成的虚拟细胞和真实细胞（AUROC ≈ 0.5），而对比模型 scVI 生成的细胞很容易被识别（AUROC > 0.7）。
  • 结构保持：虚拟细胞在 UMAP 降维中完美融入真实细胞流形，并保持清晰的细胞亚群结构。

• 空间转录组基因插补：

  • 在 CosMx 肺 NSCLC 数据集的“掩码”实验中，xVERSE 能够准确恢复被掩码的高变基因（HVGs）的空间分布。
  • 在零样本设置下，xVERSE 的插补精度比依赖外部参考的 SpaGE 和 gimVI 高出 34.3%，且表现更稳定，不受参考数据集选择的影响。

• 小样本与稀有细胞分析：

  • 稀有细胞聚类：在仅有 4-10 个稀有细胞的小样本中，xVERSE 通过合成虚拟细胞，成功将稀有细胞类型从主群中分离出来（调整兰德指数 ARI 显著提升），而标准流程失败。
  • 差异表达基因（DEG）检测：在极度稀疏的数据集中（如仅 4 个树突状细胞），xVERSE 增强的数据显著提高了 DEG 检测的召回率（Recall），优于简单的过采样（复制细胞）。

• 跨模态预测泛化：

  • 在心脏移植数据集中，使用 xVERSE 增强的模型在预测抗体衍生标签（ADT）蛋白水平、B 细胞重链同种型及 T 细胞谱系时，在未见过的病理状态（NGD, CAV）下表现显著优于仅使用真实生物细胞训练的基线模型。

5. 意义与影响 (Significance)

• 范式转变：xVERSE 标志着单细胞分析从“表征学习”向“生成式建模”的转变。它不再仅仅将细胞映射到潜在空间，而是能够从头合成符合生物学规律的转录组数据。
• 解决实验瓶颈：通过计算合成高保真虚拟细胞，xVERSE 使得研究人员能够在不增加湿实验成本的情况下，“扩展”小样本数据集，解决稀有细胞类型分析难、统计效力低的问题。
• 打破硬件限制：通过强大的基因插补能力，xVERSE 允许研究人员使用低成本、小面板的空间测序技术，同时获得全转录组的信息，实现了生物学发现与硬件限制解耦。
• 通用引擎：作为一个通用的数据增强引擎，xVERSE 可以无缝集成到现有的机器学习流程中，提升从细胞注释到药物反应预测等各种任务的性能和泛化能力。

局限性：
目前模型主要针对基于 UMI 的计数分布（液滴法和成像法），对非 UMI 协议（如 Smart-seq2，受 PCR 扩增偏差影响）的适应性有限。未来版本计划整合染色质可及性（scATAC-seq）和蛋白丰度（CITE-seq）数据，以构建更全面的细胞状态视图。