📊 statistics

Cluster Analysis with Resampling for Validation and Exploration (CARVE)

本文介绍了 CARVE，这是一个开源的 Python 和 R 软件包，它通过利用基于重采样的稳定性与泛化性诊断，在处理复杂的、高维度的生物医学数据方面超越了传统的几何验证指标，从而解决了聚类分析中的复现性危机。

原作者： Kai R. Wycik, Tiffany M. Tang, Tarek M. Zikry, Genevera I. Allen

发布于 2026-06-02

📖 1 分钟阅读☕ 轻松阅读

原作者： Kai R. Wycik, Tiffany M. Tang, Tarek M. Zikry, Genevera I. Allen

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你是一名侦探，正试图将一大堆杂乱无章的证据（比如成千上万种不同类型的叶子，或者成千上万个独特的指纹）分类到不同的组别中。你想找到隐藏在混乱之中的“自然”分组。这就是科学家们所说的聚类（Clustering）。

然而，有一个巨大的问题：你如何知道自己分得对不对？

如果你请五位不同的专家来对同一堆叶子进行分类，他们可能会得出五种完全不同的分组方式。一位专家可能会说：“这些都是‘橡树’叶子”；而另一位可能会说：“不，这是‘枫树’和‘桦树’。”在数据科学领域，这是一场噩梦。如果仅仅因为你微调了一个设置或选择了一个不同的排序算法，结果就会发生变化，那么你还能信任这项发现吗？

旧方法：“完美球体”规则

长期以来，科学家们使用一套被称为**聚类验证指数（Clustering Validation Indices, CVIs）**的规则来决定哪种分类方式更好。你可以把这些指数想象成一份僵化的清单，它只在证据看起来像完美的圆球时才有效。

问题所在： 现实世界的数据（如生物细胞或社会行为）是杂乱无章的。它们具有重尾性、非线性且形状不规则。它们不是一个完美的球体，而是一个弯弯曲曲的面条或一块参差不齐的岩石。
结果： 当你将这些旧的“完美球体”规则应用于杂乱的数据时，它们往往会失效。它们可能会告诉你只有 2 个组，而实际上有 10 个；或者它们可能会凭空创造出并不存在的组。这就像是用尺子去测量一朵云；工具的形状根本无法匹配测量对象。

新方案：CARVE

本文的作者引入了一个名为 CARVE（基于重采样的聚类分析验证与探索）的新工具。

CARVE 不再问：“这看起来像不像一个完美的球体？”，而是问：“如果我们重新洗牌并重新发牌，我们还能得到相同的分组吗？”

以下是 CAR_VE 的工作原理，我们用一个简单的类比来说明：

1. “洗牌与发牌”测试（重采样）

想象你有一副代表你的数据的扑克牌。

旧方法： 你只看一眼整副牌，然后做一个猜测。
CARVE 的方法： 你洗牌，发出一小手牌，对这些牌进行分类，看看你会得到什么样的分组。然后你再次洗牌，发出另一手不同的牌，再次进行分类。你重复这个过程数百次。
目标： 如果一组牌（比如所有的“K”）无论你怎么洗牌都会始终聚在一起，那么这个组就是稳定的（Stable）。如果这些“K”总是被随机拆散，那么这个组就是不稳定的（Unstable），很可能不是真实存在的。

2. “预测”测试（泛化性）

CARVE 还会检查这些分组对于新数据是否有效。

想象你教一个机器人去对你发出的第一手牌进行分类。
然后，你给机器人展示一入手它从未见过的全新牌。
问题在于： 机器人能否正确猜出这些新牌属于哪个组？
如果机器人猜对了，说明这些分组具有泛化性（Generalizable）。如果机器人感到困惑，那么这些分组可能只是那次特定洗牌产生的偶然现象。

为什么 CARVE 更好

论文通过两种类型的测试，将 CARVE 与旧的“完美球体”规则进行了对比：

模拟数据（合成基准）： 他们创建了具有已知“真实”分组的计算机生成数据。
- 结果： 当数据变得杂乱、具有重尾特征或呈现扭曲带状（非线性）时，旧的规则表现糟糕。然而，CARVE 即使在数据噪声非常大的情况下，也能一致地找到正确的组别。
真实的生物数据： 他们将 CARVE 应用于真实的科学数据，特别是：
- 小鼠干细胞： 他们观察了随时间变化的细胞。旧规则认为只有 2 个大的细胞组。而 CARVE 发现了 4 个截然不同的阶段，这与细胞发育的实际生物学时间线相吻合。旧规则完全忽略了中间的步骤。
- 白血病细胞： 他们分析了白血病患者的血液细胞。旧规则将三种截然不同的免疫细胞归为一个巨大的、混乱的类别。CARVE 则正确地将它们分成了 10 个不同的组，揭示了更清晰的疾病图景。

核心结论

CARVE 就像是数据分类的质量控制检测员。

它不在乎你的数据看起来是否像一个完美的球体。
它关心的是你的分组是否可靠（无论如何洗牌都会出现）以及是否有用（能够预测新数据）。
它不仅能为整个数据集提供报告单，还能为每个特定的组和每个特定的项目提供报告单，告诉你是哪些部分是稳固的，哪些部分是摇摆不定的。

作者已将此工具作为免费软件（支持 Python 和 R）发布，以便科学家们不再靠猜测来确定哪种分类方法是正确的，而是开始信任他们所发现的分组。

技术摘要：CARVE（基于重采样验证与探索的聚类分析）

问题陈述

聚类是一种基础的无监督学习技术，用于将数据划分为相似的组，广泛应用于基因组学、神经科学和社会科学等多个科学领域。然而，聚类结果对方法论的选择极其敏感，包括特定的算法、预处理步骤以及聚类数量（ $k$ ）。这些选择的微小变化可能导致定性的分组差异，从而导致科学结论无法复现。

目前的尖端验证方法严重依赖于聚类验证指数（CVIs），如轮廓系数（Silhouette）、戴维斯-博尔丁指数（Davies–Bouldin）和卡林斯基-哈拉巴斯指数（Calinski–Harabasz）。这些指数通过几何假设（例如紧凑性、球形形状和特定的密度分布）来总结聚类质量。作者认为，这些假设在生物医学研究中经常失效，因为此类数据通常表现出重尾分布、高维性和非线性结构。因此，CVIs 经常无法识别合适的解，导致系统性的过度聚类或聚类不足。此外，现有的基于重采样的替代方案（侧重于稳定性和泛化性）散落在专门且非统一的工具中，缺乏一个用于系统比较的凝聚式软件框架。

方法论

本文介绍了 CARVE（Cluster Analysis with Resampling for Validation and Exploration），这是一个统一的框架，旨在基于稳定性和泛化性而非几何假设来评估聚类解。

核心算法：
对于用户指定的聚类算法和超参数（包括 $k$ ）网格，CARVE 执行 $B$ 次重采样迭代：

子抽样： 抽取两个独立的子样本（ $P_1, P_2$ ），大小为 $\lfloor \rho n \rfloor$ ，以及一个留出的测试集（ $P_{test}$ ）。
聚类： 将候选聚类方法 $f(\cdot, \theta)$ 分别应用于 $P_1$ 、 $P_2$ 和 $P_{test}$ 。
稳定性指标 ( $S^{(b)}$ )： 计算 $P_1$ 和 $P_2$ 在其交集上的调整兰德指数（ARI）。这衡量了分组在数据扰动下的鲁棒性。
泛化性指标 ( $G^{(b)}$ )： 使用分类器（默认为随机森林）在 $P_1$ 上利用其聚类标签进行训练。该分类器对 $P_{test}$ 进行标签预测，并计算预测值与 $P_{test}$ 实际聚类之间的 ARI。这衡量了在某一子集上学习到的结构是否能迁移到留出的数据上。
聚合： 在多次迭代中聚合指标，生成均值、标准误和置信区间。同时构建一个共识矩阵，通过共聚类频率导出样本级和聚类级诊断信息（例如 Gini 指数、交叉熵、模糊聚类的比例）。

选择规则：
为了选择最优的 $k$ 和方法，CARVE 采用了三种选择规则：

最大化规则（Max Rule）： 选择使指标最大化的 $k$ 。
1-SE 规则： 选择得分位于最大值一个标准误范围内的最大 $k$ （借鉴自监督学习原则）。
分位数规则（Quantile Rule）： 选择得分位于最大化 $k$ 所观察到的得分分布中心 95% 范围内的最大 $k$ 。

多级诊断：
CARVE 提供三个粒度的诊断：

全局（Global）： 整个数据集的整体稳定性和泛化性得分。
聚类（Cluster）： 识别哪些特定聚类是稳定的或模糊的。
样本（Sample）： 识别具有不确定成员身份的个体样本（可疑样本）。

主要贡献

统一框架： CARVE 是第一个在单一工作流中，通过结合稳定性与泛化性指标来共同评估多种聚类算法及其超参数的开源软件包（提供 Python 和 R 版本）。
模型无关的验证： 通过依赖重采样而非几何假设，CARVE 对基因组学中常见的非球形、重尾和高维数据具有鲁棒性。
有原则的选择： 本文提出并验证了将 1-SE 规则 应用于稳定性指标作为默认选择策略，该策略通常优于简单的最大化或基于 CVI 的选择。
软件实现： CARVE 提供了一个与 scikit-learn 兼容的 Python API，以及一个兼容 Seurat 和 SingleCellExperiment 工作流的 R 接口，便于集成到现有流程中。

结果

作者在六个合成基准测试和两个真实世界的生物医学案例研究中评估了 CARVE。

合成基准测试：
在各向同性高斯混合、重尾 $t$ 混合、带有干扰特征的混合以及非线性流形（瑞士卷、圆环、月牙形）的测试中，CARVE 一致地恢复了接近最优的聚类，而经典的 CVIs 在这些场景下性能显著下降。

在重尾和非线性设置中，CVIs（特别是 Gap statistic、Calinski–Harabasz 和 Davies–Bouldin）经常无法识别真实的 $k$ 或选择了与地面真值（ground truth）相比 ARI 较低的解。
CARVE 使用 1-SE 规则的稳定性指标在所有任务中表现最为一致。

案例研究：

基于液滴的单细胞 RNA 测序（Klein 等人）： CARVE 识别出了一个 4 聚类解，对应于小鼠胚胎干细胞的四个不同分化阶段。相比之下，CVIs（Silhouette, CH, DB）选择了 2 聚类解，这合并了不同的生物学阶段，忽略了连续的转录进展。
质谱流式细胞术（Levine 等人）： CARVE 选择了一个 10 聚类解，恢复了细粒度的骨髓细胞群结构（区分了 CD4+ T、CD8+ T 和 NK 细胞）。CVIs 则选择了一个 7 聚类解，将这些不同的群体合并在一起。与所有 CVI 选择的解相比，CARVE 选择的解在针对人工标注标签的 ARI 上表现显著更高。

意义与主张

本文声称 CARVE 解决了无监督学习在复现性方面的关键空白。通过从几何假设转向基于重采样的稳定性与泛化性，CARVE 为复杂生物医学数据的科学发现提供了更可靠的基础。

作者强调，虽然稳定性是可靠的数据驱动发现的必要条件，但仅靠稳定性是不够的；泛化性对于确保洞察力能从特定样本扩展到整体至关重要。CARVE 的多级诊断功能使研究人员不仅能选择模型，还能识别哪些特定聚类或样本是稳健的，哪些是可疑的，从而防止将人工伪影误认为是生物学信号。文章总结道，CARVE 为提高计算生物学及其他领域聚类结果的可信度和可重复性提供了一条切实可行的路径。