🤖 machine learning

Staying Alive: Uncensored Survival Analysis with Tabular Foundation Models

本文介绍了一种无需训练的生存回归方法，该方法利用表格基础模型（Tabular Foundation Models）迭代地填补右删失数据并构建加速失效时间（Accelerated Failure Time）模型，在标准基准测试中实现了与传统训练模型相媲敌的性能。

原作者： Mariana Vargas Vieyra

发布于 2026-06-03

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Mariana Vargas Vieyra

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

核心理念：无需训练即可预测“何时”发生

想象你是一名医生，试图预测患者在确诊后能生存多久；或者是一名汽车修理工，猜测某个特定零件何时会损坏。这被称为生存分析（Survival Analysis）。棘手之处在于，通常你无法看到最终的结果。也许是患者搬走了，或者是研究结束时零件还没坏。在统计学中，这被称为右删失（right-censoring）——你知道事件尚未发生，但你不知道它何时会发生。

通常情况下，为了解决这个问题，你需要为每一个新数据集从头构建一个定制模型，这就像是你每买一块地，都要重新雇佣一位建筑师来设计一座房子。

这篇论文介绍了一种使用**表格基础模型（Tabular Foundation Models, TFMs）**来实现这一目标的新方法。把 TFM 想象成一个“超级聪明的、经过预训练的侦探”，他已经阅读过数百万个不同的数据集。他只需看一眼新的事实列表（一张数据表），就能做出预测，而不需要经过重新训练。作者想要看看这个“超级侦探”能否在不需要额外训练的情况下，解决生存分析中的“缺失时间”谜题。

问题所在：侦探看不见结局

问题在于，这些超级侦探（TFM）习惯于看到完整的故事。如果你问他们：“这位患者能活多久？”但你只给了他们直到患者离开研究为止的数据，侦探就会感到困惑。他期待的是一个确定的答案，而不是一个“我还不知道”。

如果你直接忽略那些缺失结束时间的患者（删失数据），侦探就会产生偏差。他会认为所有人都死得比实际更早，因为他只看到了那些早逝的人，而忽略了那些仍然活着的人。

解决方案：“填空游戏”

作者创建了一种名为 TabSA（表格生存分析）的方法，让侦探通过两个巧妙的步骤来解开谜题：

第一步：“猜平均值”（AFT 模型）

首先，他们利用侦探根据特征（如年龄、健康指标等）来猜测每个人的“平均对数时间（average log-time）”。这就像侦探观察人群并猜测：“根据我以前见过的案例，这群人通常能维持大约 X 年。”

然而，为了做出这个猜测，他们只让侦探观察那些确实完成了研究的人。为了让这套机制运转起来，他们只需要调整一个单一的数值（缩放参数）。这就像告诉侦探：“你的直觉很准，你只需要告诉我该如何拉伸或收缩你的猜测。”

第二步：“想象力游戏”（迭代填补法）

这是神奇的部分。由于侦探看不见删失患者的故事结局，作者玩了一个“填补空白”的游戏。

初步猜测： 他们首先使用一种标准的统计技巧（例如基于其他仍然存活的人进行的粗略估计）来猜测删失患者缺失的结束时间。
循环过程： 他们将这些猜测反馈给侦探。侦探观察整个群体（包括这些猜测），然后说：“实际上，基于这个新信息，我对那个人的猜测应该再长一点。”
精炼： 他们更新猜测并再次询问侦探。他们重复这个循环（就像不断完善素描草图一样），直到猜测的结果不再发生变化。

这个过程受到了名为 Buckley-James 估计量的古老统计方法的启发，但不同于进行复杂的数学计算，他们让“超级侦探”（TFM）承担了搞清楚这些缺失时间“应该是多少”的重任。

结果：表现如何？

作者在五个真实世界的数据集（心肌梗死、乳腺癌、重症监护等）上测试了他们的模型，并将其与以下对象进行了对比：

经典模型： 那些需要大量训练的传统“定制建筑师”。
其他零样本（Zero-Shot）方法： 其他无需训练即可使用这些侦探的方法。

研究发现：

排序能力： 他们的这种方法（TabSA-BJ）在排序患者方面表现出色。它能正确判断“患者 A 可能比患者 B 活得更久”，其表现几乎可以媲美那些昂贵的、经过充分训练的模型。
校准度： 虽然在排序方面表现优异，但与通过将时间划分为若干区间（离散化）的方法相比，它在预测特定时间点的精确生存概率方面稍逊一筹。
无需训练： 最大的胜利在于，他们在不需要针对特定数据集重新训练模型的情况下，就取得了这些结果。他们只需输入数据，运行“填补空白”的循环，即可得到结果。

总结

这篇论文表明，我们并不总是需要从头构建一个新模型来预测生存时间。通过使用预训练的“基础模型”作为智能引擎，并利用简单的“猜测与精炼”游戏来处理缺失数据，我们可以获得足以与传统的、经过重度训练的统计模型相竞争的结果。

这就像拥有一位品尝过世间所有菜肴的大厨。你不需要从头教他新食谱，你只需要把食材交给他，并问他：“根据你的经验，这锅炖菜需要煮多久？”然后让他不断调整他的猜测，直到感觉完全正确为止。

技术摘要：生存于现状：使用表格基础模型的无删减生存分析

问题陈述
生存分析（Survival Analysis, SA）是一种用于建模对感兴趣事件发生时间的统计框架，其应用范围涵盖了从医疗保健到流失预测的各个领域。SA 的一个核心挑战是右删失（right-censoring），即由于受试者退出研究或在事件发生前达到了观察期限，导致其事件时间无法被观测到。虽然经典的生存模型能够自然地处理删失数据，但表格基础模型（Tabular Foundation Models, TFMs）——这类擅长在上下文学习中进行分类和回归且无需针对特定数据集进行训练的模型——在处理此类任务时却表现挣扎。TFMs 通常要求预测目标是完全观测到的，这使得直接将其应用于生存回归变得十分困难。现有的适配 TFM 的尝试（例如将时间离散化为若干区间进行分类）会在分辨率与有效上下文长度之间引入权衡，通常会导致粗粒度分箱后的性能下降。

方法论
作者提出了 TabSA，这是一个无需训练的框架，它利用冻结的 TFM 通过将任务构建为上下文预测问题来进行生存回归。该方法基于**加速失效时间（Accelerated Failure Time, AFT）**模型假设，即对事件时间的对数进行线性建模。其核心创新在于一种受 Buckley-James 估计量启发的迭代式、非参数化删失数据填补策略。

所提算法流程如下：

模型构建： 使用 TFM 作为回归骨干网络，根据上下文示例预测受试者的平均对数时间（ $\hat{\mu}$ ）。
参数估计： 通过对训练集进行极大似然估计（MLE）来估计单个标量参数 $\sigma$ 。这是唯一需要拟合的参数；TFM 骨干网络保持冻结状态。
迭代填补（TabSA-BJ）： 为了在不丢弃数据的情况下解决右删失问题，该方法迭代地填补删失样本的伪目标：
- 初始化： 伪目标使用基于 Kaplan-Meier Jackknife 估计量的驱动数据热启动进行初始化。
- 迭代： 在每一步中，TFM 利用包含未删失和删失受试者的随机子采样上下文，来预测删失受试者的平均对数时间（以防止退化的自我预测）。
- 更新： 不同于标准的 Buckley-James 估计量通过填补条件均值，本方法通过从截断分布（ $p(\log T_i | T_i > C_i)$ ）中采样来更新伪目标，严格强制执行“填补时间必须大于删失时间”的约束。
- 精炼： 通过在更新后的数据集上重新进行 MLE 来重新估计标量参数 $\sigma$ 。该循环持续进行，直到伪目标趋于稳定。
推理： 在测试阶段，模型进行一次前向传播以获得平均对数时间，并结合最终的 $\sigma$ 来构建生存函数。

核心贡献

零样本生存回归： 本文介绍了一种使用 TFM 进行生存回归的方法，无需针对数据集进行专门训练，仅需拟合单个标量参数（ $\sigma$ ）。
非参数化上下文填补： 作者提出了一种新型迭代机制，利用 TFM 作为非参数估计器来填补删失数据，从而解决了处理右删失的问题，避免了与时间离散化相关的分辨率与性能之间的权衡。
AFT 集成： 该框架成功构建了一个以 TFM 为骨干网络的 AFT 模型，弥合了现代基础模型与经典生存分析结构之间的鸿沟。

实验结果
该方法在五个标准的生存分析基准数据集（WHAS500, GBSG, METABRIC, SUPPORT, FLCHAIN）上进行了评估，涵盖了心血管疾病、肿瘤学和重症监护领域。所提方法（TabSA-BJ）与经典训练模型（Cox PH, Weibull AFT, Log-Normal AFT, Random Survival Forest）以及零样本竞争对手（TabSA-Bin，使用时间离散化方法）进行了对比。

区分度（C-Index）： TabSA-BJ 取得了具有竞争力的 C-Index 分数，通常能匹配甚至超越经典训练模型，并显著优于更简单的零样本变体（TabSA-CCA, TabSA-PO）。它在删失率较高的数据集上表现出特别的优势。
校准度（IBS）： 虽然 TabSA-BJ 展现了强大的区分度，但其集成布里尔分数（Integrated Brier Score, IBS）通常低于 TabSA-Bin 和经典方法。作者将其归因于方法的本质：TabSA-Bin 在固定分位数上优化生存概率（更利于校准），而 TabSA-BJ 在对数时间尺度上运行，保留了秩结构（更利于区分度）。
收敛性： 分析显示，标量参数 $\sigma$ 收敛于稳定值（通常接近 1），这表明 TFM 骨干网络在没有显式生存特定训练的情况下，捕捉到了对数时间的大部分方差。

意义与主张
本文声称，表格基础模型编码了足够的关于回归结构的先验知识，使其能够以极小的适配代价泛化到生存任务。通过引入一种无需训练的迭代填补策略，这项工作证明了 TFMs 可以有效地处理右删失数据，为零样本统计建模提供了一个充满前景的方向，尤其适用于带标签事件时间数据稀缺或需要快速部署且无需重新训练的领域。作者将 TabSA-BJ 和 TabSA-Bin 定位为互补机制，前者在区分度方面表现卓越，后者在校准度方面表现出色。