Hi-Cformer enables multi-scale chromatin contact map modeling for single-cell Hi-C data analysis

本文提出了一种基于 Transformer 的单细胞 Hi-C 数据分析方法 Hi-Cformer，它通过创新的多尺度注意力机制有效建模染色质接触图，从而实现了更清晰的细胞类型分离、准确的染色质互作信号填补以及高鲁棒性的细胞类型注释。

要点

你好！这篇论文介绍了一个名为 Hi-Cformer 的新工具，它就像是一个专门用来“读懂”细胞内部三维结构的超级翻译官。

为了让你更容易理解，我们可以把细胞核想象成一个巨大的图书馆，而 DNA（染色体）就是图书馆里成千上万本长卷书。

1. 背景：为什么我们需要 Hi-Cformer？

• 图书馆的混乱现状：
  在传统的“批量”测序中，我们像是把图书馆里所有书的内容混在一起复印，虽然能看清大概结构（比如哪些书放在 A 区，哪些在 B 区），但看不清每一本书的具体细节。
  而“单细胞”测序（scHi-C）就像是试图一本一本地扫描每一本书。这很棒，能看清每一本书的独立故事。但是，问题在于：

  1. 太稀疏了：就像扫描仪坏了，很多页是空白的（数据缺失）。
  2. 太乱了：因为书太长，扫描出来的数据像是一堆乱码，既有整本书的大结构，又有局部章节的微小细节，很难同时看清。

• 旧工具的局限：
  以前的工具要么只看整本书的大概（忽略了细节），要么只盯着局部看（忽略了全局）。它们很难同时处理“整本书的布局”和“某一页的折角”之间的关系。

2. Hi-Cformer 是什么？（核心创新）

Hi-Cformer 是一个基于 Transformer（一种目前最火的 AI 模型，像 ChatGPT 背后的技术）的算法。

• 创意类比：把 DNA 变成“句子”
  想象一下，Hi-Cformer 把细胞核里复杂的 DNA 接触图，变成了一串单词序列。

  • 它把 DNA 切成不同大小的积木块（比如 1 厘米、2 厘米、4 厘米见方的小块）。
  • 这些积木块就像句子里的单词。
  • 整条染色体就像一句话。
  • 整个细胞核里的所有染色体，就像一整篇文章。

• 它的超能力：多尺度注意力机制
  普通的 AI 可能只关注相邻的单词。但 Hi-Cformer 有一个特殊的"注意力机制"（就像读者的目光）：

  • 它既能看到局部：比如“这一页（局部积木）”里有什么故事（TAD 结构，即基因调控的小圈子）。
  • 它也能看到全局：比如“这一章（整条染色体）”在整个故事里的位置（A/B 区室，即活跃或不活跃的基因区域）。
  • 它甚至能理解跨章节的联系：比如第 1 章的某个词，和第 5 章的某个词是如何呼应的（染色体间的相互作用）。

3. Hi-Cformer 能做什么？（三大绝招）

绝招一：给细胞“画肖像”（细胞分类）

• 问题：因为数据太乱，以前的工具很难把不同种类的细胞（比如神经细胞和血细胞）区分开，它们混在一起像一团乱麻。
• Hi-Cformer 的做法：它通过阅读 DNA 的“故事”，给每个细胞画一张独特的身份证（嵌入向量）。
• 效果：就像把不同种类的水果（苹果、橘子、香蕉）完美地分到了不同的篮子里，即使它们长得有点像，或者有些水果缺了皮（数据缺失），它也能分得很准。

绝招二：给残缺的地图“补全”（数据填补）

• 问题：单细胞测序就像一张被雨水淋湿、字迹模糊的地图，很多路都看不见了。
• Hi-Cformer 的做法：它利用学到的“故事规律”，像福尔摩斯一样，根据上下文推测出那些模糊或缺失的部分应该是什么样子。
• 效果：它能把一张破破烂烂的地图，修复成一张清晰、完整的地图，甚至能还原出原本看不见的“基因开关”（TAD 边界）和“活跃区域”（A/B 区室）。

绝招三：给细胞“贴标签”（自动识别）

• 问题：以前科学家需要手动去猜这个细胞是什么类型，很费时间。
• Hi-Cformer 的做法：它可以作为一个智能分类器。只要给它看过一些已知类型的细胞，它就能自动认出新的细胞是什么类型，哪怕是在不同实验条件下（比如不同实验室做的数据）也能认出来。

4. 总结：为什么这很重要？

想象一下，以前我们看细胞内部的 3D 结构，像是在雾里看花，只能看到模糊的影子。
Hi-Cformer 就像是一副高清智能眼镜：

1. 它能把模糊的图像变清晰（填补数据缺失）。
2. 它能同时看清宏观的大楼结构和微观的房间布局（多尺度建模）。
3. 它能告诉我们哪栋楼里住着什么人（区分细胞类型）。

这项技术将帮助科学家更好地理解基因是如何在三维空间中工作的，从而揭示疾病（如癌症）发生的深层原因，甚至为未来的精准医疗提供新的线索。简单来说，它让科学家第一次真正“看清”了细胞核里那个复杂而精妙的三维世界。

技术摘要

Hi-Cformer：基于 Transformer 的单细胞 Hi-C 多尺度染色质接触图谱建模

1. 研究背景与问题定义 (Problem)

• 背景：单细胞 Hi-C (scHi-C) 技术能够揭示单个细胞内染色质的三维（3D）结构，对于理解基因调控、转录及细胞异质性至关重要。
• 核心挑战：
  • 数据稀疏性与噪声：与批量（bulk）Hi-C 数据不同，scHi-C 数据极其稀疏，且接触信号在基因组距离上分布不均（对角线信号强，长距离信号弱）。
  • 多尺度结构复杂性：染色质接触图谱包含从局部拓扑关联结构域（TADs）到全局 A/B 区室（Compartments）的多尺度结构模式。
  • 现有方法局限：
    • 传统统计方法（如 PCA, LDA）难以捕捉复杂的非线性关系。
    • 现有的深度学习方法（如 Higashi, scDEC-Hi-C）通常要么关注整个染色体图谱，要么在固定分辨率下处理成对相互作用，缺乏显式地同时建模多尺度局部块（local blocks）和全局上下文（global context）的能力，导致难以全面捕捉 3D 基因组组织的异质性信息。

2. 方法论 (Methodology)

Hi-Cformer 提出了一种基于 Transformer 的架构，将染色质接触图谱视为类似语言模型中的“词序列”进行处理，实现了多尺度的联合建模。

• 整体架构：包含三个核心模块：多尺度编码器（Multi-scale Encoder）、Transformer 模块、多尺度解码器（Multi-scale Decoder）。
• 输入表示：
  • 将单个细胞的所有染色体接触图谱表示为有序的嵌入序列（Embedding Sequence）。
  • 多尺度编码器：
    • 染色体级嵌入：通过 PCA 提取每个染色体的全局特征。
    • 块级嵌入：将接触图谱对角线上的不同大小块（Block，如 8, 16, 32, 64, 128 个 bin）编码为固定维度的向量，捕捉局部结构（如 TAD 样结构）。
    • 所有嵌入按染色体索引、块大小和位置排序，形成类似 Token 的序列。
  • 位置与属性嵌入：为每个嵌入添加染色体身份、块大小和基因组位置的嵌入，帮助模型区分不同来源和尺度的信息。
• Transformer 模块（核心创新）：
  • 采用染色体感知（Chromosome-aware）的分层注意力机制。
  • 注意力掩码（Attention Mask）设计：
    • 块级嵌入：仅允许关注同一染色体内的其他块嵌入及该染色体的全局嵌入（限制跨染色体的局部块交互，符合生物学先验）。
    • 染色体级嵌入：允许全局关注所有染色体的全局嵌入，同时关注自身染色体内的块嵌入。
  • 这种设计既保留了染色体内部的精细结构依赖，又实现了染色体间的全局上下文整合。
• 训练策略：
  • 自监督学习：采用改进的 掩码语言建模（Masked Language Modeling, MLM） 任务。随机掩码部分嵌入，让模型预测被掩码的接触信号，从而学习长程依赖。
  • 预加热（Preheating）：在正式训练前，先移除 Transformer 模块进行预训练，加速收敛。
  • 多尺度重建损失：同时优化细胞级（Cell-level）、染色体级（Chromosome-level）和块级（Block-level）的重建损失。
• 下游应用扩展：
  • 通过添加分类器（Discriminator）和交叉熵损失，可直接用于监督式细胞类型注释。

3. 主要贡献 (Key Contributions)

1. 首创多尺度 Transformer 架构：首次将 Transformer 引入 scHi-C 分析，通过多尺度块编码和分层注意力机制，同时捕捉局部精细结构和全局染色体相互作用。
2. 鲁棒的低维表征：生成的细胞嵌入（Cell Embeddings）能更清晰地分离不同细胞类型，显著优于现有方法（如 Higashi, scDEC-Hi-C 等）。
3. 高精度的数据插补：能够有效恢复稀疏 scHi-C 数据中的缺失接触信号，不仅提高了数值相关性，还保留了 TAD 边界和 A/B 区室等关键生物学结构特征。
4. 灵活的框架设计：支持不同分辨率的特定区域分析（如针对特定基因座的高分辨率插补），并可直接扩展至细胞类型分类任务。

4. 实验结果 (Results)

研究在多个公开 scHi-C 数据集（Ramani2017, Lee2019, Tan2021A/B, Wu2024）上进行了验证：

• 细胞聚类与表征能力：
  • 在 NMI（归一化互信息）和 ARI（调整兰德指数）指标上，Hi-Cformer 平均比次优方法（Higashi）分别提高了 6.41% 和 29.35%。
  • 在 cLISI（细胞类型局部逆辛普森指数）指标上表现优异，表明细胞类型在嵌入空间中分离度更高。
  • 能够识别稀有细胞类型（如 Ramani2017 中的 GM12878 亚群）和细微的神经元亚型差异。
  • 对数据稀疏性（Dropout）具有极强的鲁棒性。
• 数据插补性能：
  • 在插补后的接触图谱与 Bulk Hi-C 或伪 Bulk 图谱的相关性上，PCC 和余弦相似度分别提升了约 68% 和 66%。
  • 在结构相似性（SSIM）和峰值信噪比（PSNR）上表现最佳，证明其能恢复真实的结构模式（如 TAD 边界清晰度），而非简单的平滑噪声。
• 生物学特征识别：
  • TAD 边界：插补后的数据能更清晰地揭示细胞类型特异的 TAD 样边界。
  • A/B 区室：插补数据计算的 A/B 区室评分与 H3K27ac ChIP-seq 信号及 Bulk 数据高度一致，且能更好地区分细胞类型。
  • 特定基因座分析：成功在 50kb 分辨率下解析了 K562 和 GM12878 细胞中 ABL1 基因座附近的结构差异，揭示了与白血病相关的染色质结构变化。
• 细胞类型注释：
  • 在监督学习任务中，Hi-Cformer 在准确率、Cohen's Kappa 和 Macro-F1 上均显著优于 scHiClassifier、逻辑回归和随机森林。
  • 在跨数据集（Inter-dataset）验证中（如 Tan2021A 训练，Tan2021B 测试），表现出优异的泛化能力和抗批次效应能力。

5. 科学意义与展望 (Significance)

• 技术突破：Hi-Cformer 将 NLP 领域的 Transformer 成功迁移至 3D 基因组学，解决了 scHi-C 数据稀疏和多尺度建模的难题，为单细胞 3D 基因组分析提供了新的范式。
• 生物学洞察：通过高质量的数据插补和表征，使得从稀疏的单细胞数据中可靠地提取 TAD、区室等高级结构成为可能，有助于深入理解细胞异质性背后的 3D 基因组机制。
• 应用前景：作为一个灵活的基础模型框架，Hi-Cformer 未来可进一步整合多组学数据（如 DNA 甲基化、基因表达），或扩展至跨染色体相互作用及高阶多路相互作用的建模，推动 3D 基因组学的“基础模型”发展。

---

总结：Hi-Cformer 通过创新的 Transformer 架构，有效克服了单细胞 Hi-C 数据稀疏和多尺度建模的挑战，在细胞聚类、数据插补、结构特征识别及细胞类型注释等多个任务上均取得了 State-of-the-Art 的性能，是单细胞 3D 基因组分析领域的重要工具。