🧬 biology

HEIST: A Graph Foundation Model for Spatial Transcriptomics and Proteomics Data

本文介绍了 HEIST，这是一种在 2230 万个空间分辨率细胞上进行预训练的分层图 Transformer 基础模型，它通过将空间上下文与细胞内基因和蛋白质网络相结合，在细胞注释、基因填补和临床结局预测方面实现了最先进的性能，同时能够泛化到如空间蛋白质组学等未见数据类型。

原作者： Hiren Madhu, João Felipe Rocha, Tinglin Huang, Siddharth Viswanath, Smita Krishnaswamy, Rex Ying

发布于 2026-06-05

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Hiren Madhu, João Felipe Rocha, Tinglin Huang, Siddharth Viswanath, Smita Krishnaswamy, Rex Ying

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ⚕️ 这是一篇未经同行评审的预印本的AI生成解释。这不是医疗建议。请勿根据此内容做出健康决定。阅读完整免责声明

想象一下你正试图理解一座繁忙、拥挤的城市。你拥有关于这座城市的两种数据：

人员名单： 一份巨大的电子表格，记录着每一个人的想法和行为（他们的“基因表达”）。
地图： 一个 GPS 系统，显示着每个人的精确站立位置，以及谁正站在谁的旁边（他们的“空间位置”）。

长期以来，科学家们必须在观察“人员名单”或“地图”之间做出选择。如果他们看名单，就会错过社区的背景信息；如果他们看地图，就会错过个体内在的思想。此外，大多数计算机模型将每个人的“词汇量”视为固定的，这意味着如果它们面对的是一个使用不同词汇（基因或蛋白质）的新城市，它们就无法理解。

HEIST 登场了。

HEIST 是一种全新的“基础模型”（一种超级智能的 AI 底座），旨在同时理解细胞的内在思想及其邻里环境。以下是它的工作原理，我们使用简单的类比来解释：

1. 双层城市地图（分层图结构）

大多数模型只从一种方式看待城市。而 HEIST 像看俄罗斯套娃或两层建筑一样看待它：

顶层（社区）： 这是整个组织的地图。它根据谁站在谁旁边来连接细胞。它知道一个处于“肿瘤社区”的细胞与一个处于“健康社区”的细胞是不同的。
底层（内部办公室）： 在每一个单独的细胞内部，HEIST 构建了一个微型网络。它不仅仅是列出基因，还根据基因之间如何相互交流（共表达）来建立联系。

神奇的技巧： HEIST 不仅仅观察顶层或底层。它让两者能够相互对话。

如果一个细胞站在一个嘈杂、拥挤的社区（特定的组织环境）中，HEIST 会更新该细胞的“内在思想”，以反映这种压力。
反之，如果一个细胞内部的基因正在发出特定的信号，HEIST 会利用这一点来更新它对该细胞在社区中所处位置的认知。

2. 没有固定词典（泛化能力）

想象你训练了一位英语翻译，但随后你递给他一本用法语写的书。标准的模型会崩溃，因为它只掌握了“英语词汇”。

HEIST 则不同。它不是通过死记硬背一份固定的基因列表，而是学习词汇之间是如何相互关联的。

如果它看到一个它从未见过的蛋白质（例如在蛋白质组学数据中），它不会惊慌。它会观察这个新蛋白质是如何与其邻居“交谈”的，并基于这些关系推断其含义。
这使得 HEIST 能够从研究 RNA（转录组学）无缝跳转到研究蛋白质（蛋白质组学），而无需从头开始重新训练。这就像一位博学多才的通晓多种语言者，只需通过理解语法和句子结构，就能学习一门新语言，即使他从未听过其中的单词。

3. 它是如何学习的（训练过程）

HEIST 在一个包含 2230 万个细胞、来自 15 种不同器官和 124 种不同组织的庞大“城市”数据集上进行了训练。

老师的游戏： 为了学习，这个 AI 玩了两场游戏：
1. “找不同”游戏（对比学习）： 它被展示两个细胞，并被问到：“这两个邻居是相似还是不同？”它学会了将相似的细胞归为一类，并将不同的细胞推开。
2. “填空”游戏（掩码自编码）： AI 被展示了一个隐藏了部分基因或位置数据的细胞。它必须根据该细胞的邻居和内部基因网络来猜测缺失的部分。

4. HEIST 能做什么（结果）

论文声称 HEIST 是生物学领域的“超能力”，主要体现在四个特定领域：

发现隐藏的聚类： 它可以发现其他模型会错过的微小、隐藏的细胞亚群。例如，它可以识别出一种仅存在于肿瘤内特定“微环境”中的特定免疫细胞，而之前的模型只会将其视为“普通免疫细胞”。
预测健康结果： 它可以观察组织样本，并预测癌症患者是否会对免疫疗法产生反应，或者胎盘是否健康，其表现通常优于其他顶尖模型。
填补空白： 如果基因测量缺失或存在噪声（实验室中的常见问题），HEIST 可以准确地推测出它原本应该是怎样的。
速度： 它非常快——比某些竞争对手快 8 倍，比另一些则快 48 倍——因为它使用了一种智能的、稀疏的方式来观察数据，而不是尝试将每一个细胞都与每一个其他细胞相连。

总结

可以将 HEIST 想象成终极的生物侦探。它不仅阅读细胞的身份卡（基因），还会观察犯罪现场（组织地图），理解嫌疑人之间的关系（基因网络），并利用这些背景信息去解决其他侦探（模型）因盲目而无法破解的谜团。它是第一个成功将“是谁”（基因）、“在哪里”（空间）以及“如何交流”（网络）整合进一个统一且具有适应性的系统中的模型。

技术摘要：HEIST —— 用于空间转录组学与蛋白质组学的图基础模型

问题陈述

单细胞转录组学和蛋白质组学已经实现了对细胞异质性的深度洞察，然而传统的单细胞 RNA 测序（scRNA-seq）缺乏理解组织结构、微环境相互作用以及基因共表达如何影响组织层面行为所需的空间上下文。虽然空间转录组学和蛋白质组学通过保留物理位置解决了这一问题，但现有的计算模型面临显著的局限性：

忽略空间或分子复杂性： 许多模型要么忽略空间信息，要么无法建模细胞内复杂的遗传和蛋白质程序，从而阻碍了推断内部调节如何适应微环境线索。
固定词表： 大多数基础模型使用固定的基因词表，这阻碍了它们在包含预训练时不存在的基因或蛋白质的数据集上的泛化能力。
缺乏层次化建模： 现有方法通常将细胞和基因视为扁平结构或全连接图，未能捕捉到稀疏且符合生物学合理性的共表达网络与空间邻域相互作用的归纳偏置。

方法论：HEIST 架构

作者提出了 HEIST（Hierarchical EmbeddIngs for Spatial Transcriptomics，空间转录组学层次嵌入），这是一个层次化图 Transformer 基础模型，旨在联合建模空间邻近性和内部基因共表达网络。

1. 层次化图构建

HEIST 将组织建模为两层层次化图：

高层（空间图）： 一个细胞-细胞图 ( $G_c$ )，通过计算细胞坐标的 Voronoi 多边形构建，并将相邻多边形中的细胞连接起来，以捕捉空间邻近性和组织架构。
低层（基因共表达网络）： 每个细胞由一个较低层级的基因共表达网络 ( $G^k_g$ ) 表示。这些网络是按细胞类型构建的，通过计算去噪基因（使用 MAGIC）之间的成对互信息，并将超过数据驱动的自适应阈值 $\tau$ 的配对进行连接。

2. 模型架构

HEIST 采用 层次化图 Transformer，执行两种不同类型的消息传递：

层内消息传递： 在每一层内，模型使用 CellGraphTransformer（捕捉长程空间相互作用）更新细胞嵌入，并使用 GeneGraphTransformer（捕捉细粒度共表达模式）更新基因嵌入。
跨层消息传递： 一种新型的方向性注意力机制整合了这两种模态。
- 基因到细胞（Gene-to-Cell）： 通过其组成基因的聚合摘要来优化细胞嵌入，确保转录状态塑造空间身份。
- 细胞到基因（Cell-to-Gene）： 基因嵌入根据其所属细胞的空间上下文进行更新。这使得同一个基因可以根据其细胞背景被进行不同的编码，从而使模型能够在无需重新训练的情况下，泛化到未见的基因或蛋白质特征。

3. 预训练目标

HEIST 在来自 15 个器官、124 个组织的 2230 万个细胞上进行预训练，结合了以下自监督目标：

对比学习（Contrastive Learning）： 对齐相似的细胞和基因（例如，同类型的相邻细胞、共表达的基因），同时推开不相似的配对。它包括跨层对比对齐，以确保基因表示与细胞表示之间的一致性。
掩码自编码器（Masked Autoencoding, MAE）： 模型重建被掩码的基因表达值和空间坐标，迫使其推断缺失数据并学习鲁棒的基因信号和空间线索表示。
正交正则化（Orthogonality Regularization）： 鼓励嵌入维度之间去相关，从而促进多样化且非冗余的表示。

核心贡献

首个空间组学层次化基础模型： HEIST 是第一个在统一的层次化框架中显式结合共表达网络与空间图的模型，允许局部基因程序影响组织层面的组织结构，反之亦然。
上下文感知、动态基因嵌入： 不同于依赖固定词表的模型，HEIST 从共表达网络和细胞上下文中动态计算基因嵌入。这使其能够泛化到包括空间蛋白质组学在内的各种新数据类型，而无需重新训练。
计算效率： 通过利用稀疏建模并避免对所有基因进行全自注意力计算，HEIST 实现了显著的加速，据报道在嵌入提取方面比 SCGPT-SPATIAL 快 8 倍，比 SCFOUNDATION 快 48 倍。
生物学归纳偏置： 该架构通过跨层消息传递，捕捉了细胞内细粒度的基因共表达以及长程细胞相互作用，从而产生具有生物学上下文的嵌入。

实验结果

HEIST 在多种技术（MERFISH, Xenium, CODEX, MIBI）和多个器官的四个下游任务上进行了评估：

细胞聚类： HEIST 在归一化互信息（NMI）得分方面优于基准模型（STAGATE, GraphST, CellPLM, scGPT-spatial）。至关重要的是，它成功识别了以往模型会发生塌陷的具有空间信息的亚群，揭示了由微环境驱动的异质性（例如，独特的 L4-IT 神经元亚群）。
细胞类型注释： 在五个数据集中的四个实现了最先进的（SOTA）F1 分数，与基准模型相比有显著提升（例如，在 UPMC 颈部数据上提升了 48.5%）。
临床结局预测： HEIST 在七个场景中的六个中获得了最高的 AUC-ROC，包括预测免疫治疗反应、缓解情况和胎盘状况。值得注意的是，通过利用所有可用标记物而无需重新训练，它比蛋白质组学特定的基准模型高出多达 44.3%。
基因填补（Imputation）： 在微调后，HEIST 在胎盘和皮肤数据集的 Pearson 相关性方面超越了所有基准模型（包括 MAGIC 和微调后的基础模型）。
配体-受体预测： HEIST 在预测配体-受体相互作用方面达到了 0.995 的 AUC-ROC，显著优于其他基础模型，表明其嵌入有效地捕捉了细胞通信的空间特征。

意义与主张

论文声称，HEIST 通过统一空间与分子层次结构，代表了空间组学建模的重大进展。其主要意义在于其能力：

发现新生物学： 通过捕捉先前模型错过的微环境特异性亚群，HEIST 提供了对组织结构和疾病进展（如阿尔茨海默病中的 Braak 分期进展）更深入的见解。
实现跨模态迁移： 动态嵌入机制使模型能够泛化到蛋白质组学数据和具有不同基因集的数据集，解决了当前固定词表基础模型的重大局限。
提供可扩展的基础： 凭借最先进的性能和极高的计算效率，HEIST 为从细胞注释到预测治疗反应等各种下游临床和生物学任务提供了一个实用的、通用的基础。

作者总结道，建模分子（共表达）和空间信息对于开发可迁移的空间组学模型至关重要，而 HEIST 正是为了填补这一空白。