📊 statistics

Extending Deep Cox Survival Models with Case-Cohort risk set Sampling

本文引入并评估了首次将病例-队列风险集采样（case-cohort risk-set sampling）集成到深度 Cox 比例风险神经网络中，证明了虽然嵌套病例对照采样能始终近似全风险集性能，但小批量训练使得病例-队列采样能够以显著的计算节省实现相当的准确度。

原作者： Justine Nasejje, Michael P. Falk, Marvin N. Wright, Wende Clarence Safari, Pierre-Philippe Dechant, Raeesa Manjoo Docrat, Rukia Nuermaimaiti

发布于 2026-09-17

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Justine Nasejje, Michael P. Falk, Marvin N. Wright, Wende Clarence Safari, Pierre-Philippe Dechant, Raeesa Manjoo Docrat, Rukia Nuermaimaiti

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在医学研究和工程领域，预测某事何时会发生，往往比知道它确切何时发生更有价值。无论是机器零件失效，还是患者从疾病中康复，科学家们都使用一种称为生存分析的方法来研究事件发生的时间。该领域的一个主要挑战是，研究结束时，并非所有受试者都经历了该事件；有些人仍在研究结束时仍然存活，或者机器仍在运行。这被称为右删失数据（right-censored data），它需要特殊的统计工具来处理这些不完整的信息，而不至于丢弃现有的宝贵数据。几十年来，这一领域的标准工具是一个通过计算在任何给定时刻仍处于风险中的人群（即风险集）的风险模型。

随着数据规模的爆炸式增长，现代研究追踪着数以千计的患者和数百万个数据点，这些传统的计算已成为瓶颈。为了处理数据，计算机必须在每次事件发生时，都要查看研究中仍处于活跃状态的每一个人，这个过程对计算能力和内存提出了极高的要求。这为使用现代强大的人工智能技术制造了障碍，因为这类技术虽然擅长处理大规模数据集，却难以应对这种沉重且重复性的计算。研究人员现在正在探究，如何在保持这些先进模型准确性的同时，使其速度足以应对二十一世纪的大规模数据集。

来自南非、德国和英国的大学研究团队通过测试一种新的训练深度神经网络的方法解决了这一问题，深度神经网络是一种旨在发现数据中复杂模式的人工智能。他们的目标是观察是否可以通过不一次性观察研究中的每一个人，而是观察一个精心挑选的样本，来加速训练过程。他们比较了两种不同的抽样策略：一种是每次针对每个事件挑选一些新的人员进行对比；另一种是在研究开始时挑选一个固定的群体并一直沿用。他们在计算机生成的已知真实答案的数据集以及一个真实的乳腺癌患者数据集上测试了这些方法，测量了模型的生存预测能力以及所需的计算机内存和时间。

研究人员发现，被称为嵌套病例对照抽样（nested case-control sampling）的方法——即为每个事件挑选一组新鲜的人群——几乎表现完美。无论他们使用的是整个数据集还是仅使用一小部分样本，这种方法产生的预测结果都与那种观察所有人的缓慢、沉重的传统方法几乎完全一致。模型学习到了正确的模式，且预测精度与标准方法相当，但无需承担巨大的计算成本。这表明，对于许多大规模问题，研究人员可以安全地使用这种抽样技巧，在不损失任何预测能力的情况下大幅提升模型运行速度。

第二种方法被称为病例队列抽样（case-cohort sampling），其表现则呈现出更为复杂的情况。当研究人员使用一个非常小的固定群体来代表整个研究时，模型的表现显著下降。在针对极小群体的测试中，模型区分高风险和低风险患者的能力大幅下降，预测变得不可靠。然而，研究人员发现，计算机处理数据的方式改变了一切。当他们从一次性处理整个数据集切换到以小规模、快速批次的形式处理时，小规模固定群体的表现得到了显著改善。通过这种更快的处理方式，即使是一个很小的群体也能帮助模型进行有效学习，在节省大量计算资源的同时，恢复了大部分的准确性。

该研究还观察了这些方法如何影响计算机本身。传统的全量数据处理方式需要巨大的内存，通常达到六个吉字节（GB）或更多，这会导致标准计算机崩溃。通过切换到批处理方式，内存占用降至不到零点五个吉字节，使得这些先进模型可以在更小的机器上运行。研究人员观察到，虽然小规模固定群体法在计算机观察全局数据时表现不稳定，但批处理方法平滑了误差，使模型能够稳定学习。这种样本规模与数据处理方式之间的权衡，为科学家提供了一个全新的工具箱：他们可以选择使用一种始终稳健的方法，或者如果愿意调整计算机处理数据的方式，则可以使用更小、更快速的方法。

最终，这项工作架起了经典统计学与现代人工智能之间的桥梁。它表明，分析生存数据所需的繁重工作并不一定非要通过在每一个时刻观察研究中的每一个人来完成。通过使用智能抽样技术，特别是结合现代训练方法，研究人员可以构建既强大又高效的模型。研究结果表明，对于未来的生存分析而言，关键不仅在于拥有更多的数据，还在于知道如何以一种既尊重计算机限制，又能保留数字中所隐藏的真相的方式去观察数据。

技术摘要：利用病例-队列风险集采样扩展深度 Cox 生存模型

问题陈述
深度神经网络（DNN）在利用 Cox 偏似然函数进行生存分析时，已展现出卓越的预测性能。然而，将这些模型扩展到大规模数据集时存在一个显著的瓶颈：在每个观测到的事件时间评估完整的风险集会产生巨大的计算和内存成本。这一限制制约了深度 Cox 模型的可扩展性。虽然风险集采样技术（如嵌套病例-对照法，NCC）已被引入神经网络以缓解这一问题，但将病例-队列（Case-Cohort, CC）采样设计（一种在基线时一次性抽取静态子队列的设计）整合进深度 Cox 框架的研究仍处于空白。本研究旨在解决现有文献中关于在深度生存学习中应用和评估 CC 采样的空白，并具体研究其在全批次（full-batch）和小批量（mini-batch）训练机制下相对于 NCC 和全风险集方法的权衡关系。

方法论
作者提出了一种包含风险集采样的 Cox 型 DNN 训练框架。其核心统计基础是 Cox 比例风险模型，其中网络输出 $\eta_i = f_\theta(X_i)$ 取代了线性预测因子 $\beta^\top X_i$ 。该模型最小化负对数偏似骸函数。

研究评估了三种用于构建各事件时间 $t_j$ 处的风险集 $R(t_j)$ 的采样策略：

全风险集（Full Risk Set）： 基准方法，使用所有处于风险中的个体（ $R(t_j) = \{i : T_i \ge t_j\}$ ）。
嵌套病例-对照（NCC）： 对于每个事件，从当前的风险集中随机抽取固定数量的对照组（ $m$ ）。
病例-队列（CC）： 在基线时一次性抽取一个规模为 $m$ 的静态子队列。在每个事件时间，风险集由该事件病例以及仍处于风险中的子队列成员组成。

该框架使用前馈神经网络（包含三个带有 ReLU 激活函数的隐藏层及 Dropout 正则化）并通过 Adam 优化器进行训练。评估涵盖了两种不同的训练机制：

全批次（Full-Batch）： 每次梯度更新使用整个数据集。
小批量（Mini-Batch）： 数据被划分为多个批次；风险集仅限于当前批次内的个体。对于小批量下的 CC，风险集是固定子队列与当前批次的交集，加上该事件病例。

实验在以下数据上进行：

合成数据： 生成具有已知真实潜在风险结构的数据（ $N=6,000$ ），用以评估对真实线性预测因子和潜在风险分布的恢复能力。
真实世界数据： METABRIC 乳腺癌数据集（ $N \approx 1,800$ ），用以评估在复杂临床数据上的表现。

性能衡量指标包括一致性指数（C-index）、集成布莱尔分数（IBS）、皮尔逊相关系数和斯皮尔曼相关系数（针对合成数据），以及计算资源利用率（CPU 和内存）。

核心贡献
据作者所知，本研究首次将病例-队列风险集采样集成并系统评估于深度 Cox 比例风险神经网络中。具体贡献包括：

创新集成： 将经典的病例-队列设计适配到深度神经网络实现的 Cox 模型中，填补了深度生存学习框架中的空白。
训练公式化： 开发了一种能在全批次和小批量随机优化中结合病例-队列采样的训练公式，从而实现可扩展的学习。
系统比较： 提供了对深度 Cox 模型中全风险集、NCC 和 CC 策略的首次实证比较，分析了计算成本与预测准确度之间的权衡。

结果

全批次训练：
- NCC： 在所有配置下均能稳定地逼近全风险集基准。在合成数据中，其 C 指数（~0.78）与基准几乎一致，对数风险相关性接近 0.99。
- CC： 对子队列规模（ $k$ ）表现出高度敏感性。过度下采样（ $k=5$ ）会导致性能显著下降（相对于基准 C 指数下降约 23%）且难以恢复潜在风险结构。然而，增加子队列规模（例如在合成数据中增加至 1,000，或在 METABRIC 中增加至 500）可以缓解过拟合并恢复基准性能，但会以增加训练时间为代价。
小批量训练：
- NCC： 保持稳健，能够高稳定性地追踪全风险基准。
- CC： 小批量执行显著降低了全批次 CC 中观察到的性能退化。在全批次中表现不佳的小规模子队列（ $k=5$ ），在小批量设置下实现了约 0.738 的 C 指数（仅比基准下降约 5.3%）。将子队列规模增加到 15 或更高，使 CC 能够恢复接近基准的 C 指数和 IBS 分数。
- 资源效率： 小批量处理大幅降低了峰值内存使用量（从全批次的 ~6 GB 降至小批量的 ~0.5 GB）。虽然在小批量中增加子队列规模不会显著增加内存使用，但会增加实际运行时间（wall-clock training time）。
风险结构恢复： 在合成实验中，NCC 始终能保持潜在风险结构。CC 在小规模子队列下在全批次中难以恢复真实的风险排序，但在小批量设置中表现出显著改善。

意义与主张
本文声称，只要选择得当，风险集采样可以在不牺牲预测性能的前提下，为深度 Cox 模型提供实质性的计算节省。

NCC 被视为一种稳健的方法，在各种采样配置下均能提供一致的性能。
小批量 CC 被确定为一种有效的替代方案，当子队列规模选择得当时，它能在计算效率和统计准确性之间取得平衡。
研究强调，当底层数据天然源于病例-队列研究设计时，CC 采样特别具有价值，提供了一种自然的分析策略。
研究结果表明，虽然全批次 CC 需要较大的子队列来避免性能退化，但小批量训练的随机性质允许 CC 利用更少的样本合成全局风险动态，从而以极小的计算成本实现完整的预测能力。

作者总结道，其框架将经典的 Cox 偏似骸函数扩展到了现代大规模学习领域，既能在全批次设置下恢复精确的公式，又能集成高效的采样设计以实现可扩展的训练。

类似论文