Scalable Random Survival Forests via Risk Set Sampling

技术摘要：通过风险集采样实现可扩展的随机生存森林

问题陈述
随机生存森林（RSF）是针对带删失时间-事件数据的随机森林的一种强大的机器学习扩展。然而，将其应用于大规模或高维数据集时，计算成本往往过高。主要的瓶颈在于构建树的过程中，为了计算对数秩（log-rank）分裂规则，需要反复评估“风险集”（risk sets）。对于每一个事件发生时间，算法都必须评估所有仍处于风险中的个体，这导致计算成本随样本量和不同事件时间的数量增加而迅速上升。虽然风险集采样已成功集成到基于 Cox 的神经网络中（例如 Cox-Time），并且是经典流行病学中的标准设计（嵌套病例对照研究），但尚未被引入到 RSF 中。

方法论
作者提出了一种修改后的 RSF 算法，将风险集采样直接集成到树的构建过程中。

• 核心机制： 该方法不再利用每个事件时间 $t_k$ 处的完整风险集 ($R_k$) 来计算对数秩分裂统计量，而是从风险集中抽取固定比例的个体组成采样风险集 ($\tilde{R}_k$)。
• 统计调整： 对数秩统计量依赖于节点内预期事件数及其方差。作者修改了这些计算方式，使用采样的风险集 $\tilde{R}_k$ 代替完整的风险集进行计算。具体而言，子节点 $\alpha$ 的预期事件数 $E(D_{\alpha,k})$ 和方差 $Var(D_{\alpha,k})$ 是通过采样风险集中的在险个体数 ($\tilde{R}_{\alpha,k}$) 与总采样风险集大小 ($\tilde{R}_k$) 的比例进行重新计算的。
• 实现： 该方法已在高性能随机森林实现包 ranger 中进行了实现。作者测试了从 10% 到 100% 的采样比例（其中 100% 代表标准的完整风险集）。
• 实验设计：
  • 模拟实验： 使用指数分布和 Weibull 混合分布生成异质生存数据，样本量分别为 $n=500, 1000,$ 和 $2000$，协变量$p=15$。
  • 真实世界数据： 利用了两个数据集：METABRIC（1904 例乳腺癌观测值）和德国乳腺癌研究组（GBSG）数据集（686 例观测值）。
  • 指标： 通过 5 折交叉验证和袋外（OOB）估计来评估性能（使用一致性指数 C-index）以及计算运行时间。

关键结果

• 预测性能： 在所有模拟和真实世界数据集中，基于采样风险集训练的 RSF 模型（特别是使用 25% 到 40% 的风险集时）所获得的一致性指数（C-index）值与基于完整风险集训练的模型几乎没有区别。
• 计算效率： 将风险集缩减至 25–40% 的范围，使得训练时间减少了 50% 以上。运行时间随风险集比例单调增加，在大型数据集中观察到的增益最为显著。
• 稳定性与偏差： 研究发现，风险集采样主要影响估计值的方差，而不是引入系统性偏差。C-index 的置信区间在所有采样比例之间表现出实质性的重叠，表明在预测判别力方面不存在统计学上的显著差异。
• 正则化效应： 在若干场景下，使用适度采样比例（25–40%）训练的模型表现出略高于全风险模型的 C-index 值，这表明存在一种潜在的有益正则化效应，能够减少噪声。

意义与主张
本文声称，风险集采样是一种简单且有效的修改方法，它在不损害预测性能或模型稳定性的情况下，显著提高了随机生存森林的可扩展性。作者认为：

1. 跨学科桥梁： 该方法为经典的流行病学采样设计（嵌套病例对照）与现代生存分析机器学习之间提供了方法论上的桥梁。
2. 实际效用： 在 RSF 建模中，全风险计算对于实现良好的预测性能往往几乎没有实际优势，却会带来显著更高的计算成本。
3. 易用性： 通过在广泛使用的 ranger 包中实现该方法，作者促进了可扩展 RSF 在实践中的应用，特别是在大规模和高维生存数据领域。

作者总结道，虽然该方法具有鲁棒性，但未来的工作可以探索其在更复杂框架（竞争风险、多状态模型）中的应用，并研究其与其他 RSF 超参数的相互作用。