🤖 machine learning

HEXST: Hexagonal Shifted-Window Transformer for Spatial Transcriptomics Gene Expression Prediction

HEXST 是一种新颖的六边形移位窗口 Transformer，它通过与六边形点阵几何结构对齐并采用对比度敏感目标以保留空间异质性，从而改进组织学图像的空间基因表达预测，在多个数据集上超越了现有的最先进模型。

原作者： Keunho Byeon, Jin Tae Kwak

发布于 2026-05-07

📖 1 分钟阅读☕ 轻松阅读

原作者： Keunho Byeon, Jin Tae Kwak

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是论文《HEXST：用于空间转录组的六边形移位窗口 Transformer》的通俗解释，辅以生动的类比。

宏观视角：从卫星照片解读城市地图

想象你拥有一张繁忙城市的高分辨率卫星照片（这相当于组织学切片，即显微镜下的组织图像）。你可以看到建筑物、道路和公园。然而，你并不知道建筑物内部正在发生什么。工厂在运转吗？学校坐满了人吗？医院忙碌吗？

在医学界，想要弄清楚“建筑物”（细胞）内部发生了什么，通常需要一个昂贵、缓慢且复杂的过程，称为空间转录组学。这就像向每一栋建筑派遣无人机进行人口普查。虽然这种方法能提供完美的数据，但对于医院里的每一位患者来说，成本都太高了。

这篇论文的目标是构建一个智能 AI，它能够仅通过观察卫星照片（廉价且常见的组织切片），就准确推测出建筑物内部（基因表达）正在发生什么，而无需派遣无人机。

问题所在：“方枘圆凿”的困境

研究人员发现，其他 AI 模型在尝试解决这一问题时存在两个主要问题：

错误的网格：昂贵的“无人机”技术（如 10x Genomics Visium 平台）并不是像国际象棋棋盘那样以完美的正方形网格对城市进行采样，而是以蜂窝状图案（六边形）进行采样。
- 类比：想象试图将站在蜂窝状图案中的人群组织起来，却强行将他们塞进方形的盒子里。一些紧挨着的人被分到了不同的盒子里，而相距甚远的人却被困在同一个盒子里。AI 因此对谁才是真正的邻居感到困惑。
“模糊”效应：现有的 AI 模型过于“温和”。当它们试图推测特定位置的活动时，往往会将答案平均化。
- 类比：如果一栋楼里正在举办喧闹的摇滚音乐会，而隔壁是一间安静的图书馆，一个“过于温和”的 AI 可能会猜测它们都是“中等噪音”。这种过度平滑模糊了不同类型组织之间的清晰边界，而重要的医学线索恰恰隐藏在这些边界处。

解决方案：HEXST（蜂窝智能 AI）

作者创建了一个名为HEXST（六边形移位窗口 Transformer）的新模型。以下是它如何解决上述问题的方法：

1. 说蜂窝语言

HEXST 没有强行将数据塞进方形盒子，而是构建了它自己的六边形窗口。

类比：与其用方形尺子去测量蜂窝，HEXST 使用的是六边形尺子。它按照自然界排列“点”（数据点）的方式将它们分组。
移位：为了确保 AI 能看到全貌，它不仅仅观察一个静态的蜂窝网格。它会移位网格，就像左右滑动窗扇一样。这确保了每一个点都有机会成为某个窗口的中心，从而让 AI 能够从各个角度理解其周边环境。

2. "HexRoPE"指南针

标准的 AI 模型使用一种只知道东、南、西、北的指南针（笛卡尔坐标）。但在蜂窝结构中，“北”不仅仅是正上方；这里有六个方向。

类比：HEXST 发明了一种名为HexRoPE的新指南针。这种指南针理解蜂窝晶格的六个方向。它会告诉 AI：“嘿，那个点实际上是你右上方的邻居，而不仅仅是‘上方’。”这有助于 AI 理解组织的真实形状。

3. 保持边缘锐利（“偏差”技巧）

为了防止 AI 模糊摇滚音乐会和图书馆之间的边界，HEXST 使用了一种特殊的训练技巧。

类比：AI 不仅仅被问：“这栋楼有多吵？”（这会导致平均化的猜测），它还被问：“这栋楼与其邻居相比，差异有多大？”
通过关注差异（偏差）而不仅仅是绝对数值，AI 学会了保留清晰的边缘以及每个基因位置的独特“个性”。它学会了一个清晰的边界是一个特征，而不是需要被平滑掉的错误。

4. 向专家学习（“基础模型”）

HEXST 并非从零开始学习。它使用了一个“预训练”的大脑（一个名为scFoundation的基础模型），该模型已经阅读了数百万本遗传学书籍。

类比：想象教一个学生读地图。你不是从字母表开始教起，而是给一个已经背熟了整本基因运作百科全书的学生。HEXST 将其猜测与这位专家的知识对齐，确保其预测具有生物学意义。

结果：它有效吗？

研究人员在七个不同的数据集（包括人类和小鼠等不同类型的组织和物种）上测试了 HEXST。

记分牌：在几乎所有类别中，HEXST 都击败了其他顶级模型（如 PEKA、NH2ST 等）。
证据：当他们查看热图（基因活动的视觉猜测）时，HEXST 生成的地图比其他模型更清晰、更准确。它没有模糊不同类型组织之间的界限。
现实世界测试：他们还测试了这种“智能猜测”是否能辅助真实的医疗任务。他们利用 HEXST 预测前列腺癌分级和肺癌患者的生存时间。该模型仅通过观察组织图片，其表现就优于那些仅查看图片而未借助基因预测辅助的模型。它更接近拥有实际昂贵基因检测结果的准确度。

总结

HEXST 是一款新的 AI 工具，它终于尊重了现代组织扫描仪的蜂窝形状。通过使用六边形窗口、一种特殊的六方向指南针以及保持边缘锐利的技巧，它能够仅从简单的显微镜切片中准确预测复杂的基因活动。这最终可能使医生能够从他们日常使用的廉价标准切片中获得深层的遗传见解，而无需昂贵的新型设备。

技术摘要：HEXST——用于空间转录组学的六边形移位窗口 Transformer

问题陈述
空间转录组学（ST）能够在保留空间上下文的同时对组织切片中的基因表达进行谱分析，这对于理解组织结构和疾病微环境至关重要。然而，ST 技术的高成本和低通量阻碍了其在大型临床队列中的常规部署。因此，计算方法应运而生，旨在直接从普遍存在的苏木精 - 伊红（H&E）染色组织学切片中推断空间基因表达。

尽管近期取得了进展，现有模型仍面临两个根本性局限：

几何失配：广泛使用的点阵式 ST 平台（例如 10x Genomics Visium）在近似六边形晶格上对组织进行采样。然而，大多数现有模型强加笛卡尔（方形网格）或几何无关的邻域结构。这种失配导致各向异性的感受野，将非相邻点归为一组，却将紧邻的邻居分开，从而未能将真实的局部几何结构作为架构归纳偏置进行编码。
空间异质性的过度平滑：标准的训练目标依赖于逐点回归（例如，最小化每个点的误差）。这往往倾向于预测向局部均值回归的结果，导致基因表达谱过度平滑。这种平滑掩盖了基因特异性的空间异质性和锐利的生物学边界（例如肿瘤 - 基质界面），而这些对于识别局部细胞相互作用至关重要。

方法
作者提出了HEXST（六边形移位窗口 Transformer），这是一个几何对齐框架，旨在从组织学图像中预测空间基因表达，同时尊重 ST 平台的六边形采样特性。该架构包含四个关键组件：

六边形移位窗口多头自注意力（HexMSA）：
- HEXST 将移位窗口 Transformer 架构适配到六边形点阵。
- 它利用轴向坐标和立方坐标，将笛卡尔点坐标映射为六边形晶格表示。
- 根据点在晶格上的位置，将点划分为多尺度六边形窗口。
- 一种移位机制在连续块之间偏移窗口中心，促进跨窗口信息交换，并将感受野从局部扩展到组织范围，且无边界伪影。
- 在每个窗口内，自注意力在固定的一组离散六边形“槽位”上计算，确保计算效率。
六边形旋转位置编码（HexRoPE）：
- 为了编码六边形晶格固有的相对空间关系，HEXST 引入了 HexRoPE。
- 与标准的笛卡尔旋转位置嵌入（RoPE）不同，HexRoPE 基于相对立方坐标偏移，沿六边形晶格的三个主方向（u、v、w 轴）旋转查询和键特征。
- 这保持了每个窗口内的平移等变性，并提供了几何一致的位置信息。
转录组特征对齐：
- 为了注入转录组先验，该模型将其输出嵌入与预训练的单细胞基础模型（scFoundation）的表示进行对齐。
- 一个可学习的线性投影将 HEXST 的视觉嵌入映射到转录组空间，并通过余弦对齐损失进行优化。这利用了大规模单细胞数据集的知识来指导基因表达模式的预测。
偏差匹配目标：
- 为了克服过度平滑并保留基因特异性的空间对比度，HEXST 引入了偏差匹配损失。
- 该目标不仅仅是最小化绝对误差，而是对齐预测值与真实值在各点之间的偏差（相对于批次均值的相对变化）。
- 这鼓励模型捕捉细尺度的空间变化和锐利边界，而不是坍缩为局部平均值。

主要贡献

几何感知架构：HEXST 是首个通过六边形窗口划分和 HexRoPE 将 Transformer 架构与点阵式 ST 平台的六边形几何结构显式对齐的模型。
增强的空间对比度：通过结合逐点回归与偏差匹配目标及转录组先验，该方法有效保留了基因特异性的空间异质性和锐利边界，而这些在标准回归方法中往往丢失。
鲁棒的性能：该框架在多样化的数据集、组织和物种中展现出优于最先进方法的持续改进。

结果
作者在 SpaRED 基准聚合的七个空间转录组学数据集上评估了 HEXST，涵盖了不同的组织（人类和小鼠）及实验方案。

定量性能：HEXST 在五个评估指标上始终优于七个最先进基线（包括 STNet、Hist2ST、EGNv1/v2、TCGN、NH2ST 和 PEKA）：基因级皮尔逊相关系数（PCCF）、点级 PCC（PCCS）、互信息（MIF）以及用于区分表达水平的两个曲线下面积（AUC）指标。
- 与表现最佳的基线（PEKA）相比，HEXST 在 PCCF 上提升了 +0.0364，在 PCCS 上提升了 +0.0558，在 MIF 上提升了 +0.0431。
定性分析：基因表达热图的视觉比较显示，HEXST 保留了锐利的局部变化和边界，而基线模型倾向于模糊这些特征或错误识别高表达区域。
下游临床任务：HEXST 学习到的转录组表示成功迁移到了 TCGA 队列中缺乏 ST 测量的两个下游临床任务：
- 前列腺癌分级（TCGA-PRAD）：与仅基于图像的基线相比，HEXST 引导的表示将 Gleason 分级准确率提高了 2.82%，Cohen's $\kappa$ 提高了 0.0338，表现优于 PEKA 基线。
- 生存预测（TCGA-LUAD）：HEXST 将总生存预测的一致性指数（C-index）提高了 0.0115，比仅基于图像的基线更接近批量 RNA-seq 基线的性能，且优于竞争方法。

意义与主张
本文主张，HEXST 解决了 ST 平台的几何现实与现有计算模型假设之间的关键差距。通过显式建模六边形几何结构并保留空间异质性，HEXST 能够从常规 H&E 切片中更准确地推断空间基因表达。作者认为，这种能力促进了组织结构的规模化探索研究，并支持转录组引导的临床研究（如预后预测），而无需进行昂贵的实验性空间转录组学检测。该工作表明，几何感知建模对于释放空间转录组学在临床实践中的全部潜力至关重要。未来的工作 noted 将涉及与其他基础模型的比较，以及扩展到连续坐标空间检测。