Adressing Separation: A Firth-corrected Joint Model for Longitudinal and Time-to-event Data with an Application on Dropout from Vocational Training

技术摘要：通过 Firth 校正解决联合模型中的分离问题

问题陈述
用于分析纵向数据与生存时间数据的联合模型（Joint models）被广泛应用于分析内生性时变协变量（例如生物标志物或满意度）与生存结局的关系。然而，这些模型继承了其生存子模型的局限性，特别是分离（separation）问题。当分类协变量能够完美预测特定类别中事件的缺失时（例如，在特定的职业领域中没有辍学者），就会发生分离。这会导致单调似然（monotone likelihood），使得回归系数趋于无穷大或变得不稳定，从而导致标准的极大似然估计（MLE）失效。虽然 Firth 校正已被确立用于二元回归和 Cox 比例风险模型以减轻此类偏差，但它尚未被正式整合到联合模型框架中，这限制了联合模型在罕见事件或高度不平衡协变量场景下的适用性。

方法论
作者提出了一种在基于期望最大化（EM）算法的频率派估计框架下实现的 Firth 校正联合模型。

1. 模型结构： 该模型由两个关联的子模型组成：
   • 一个纵向子模型（线性混合模型），捕捉内生协变量 $m_i(t)$ 的轨迹，包含随机截距和随机斜率。
   • 一个生存子模型（Cox 型比例风险模型），其风险函数取决于基线协变量以及当前纵向过程 $m_i(t)$ 的值，通过关联参数 $\alpha$ 进行关联。
2. Firth 校正实现：
   • 作者推导了生存子模型系数（$\theta_{surv}$）得分函数所需的必要校正项。
   • 利用得分函数的二阶泰勒展开来近似 MLE 的偏差。校正项 $c(\theta)$ 被推导为 $c(\theta) = \frac{1}{2} \text{tr}\left[ I(\theta)^{-1} \frac{\partial I(\theta)}{\partial \theta} \right]$，其中 $I(\theta)$ 是 Fisher 信息矩阵。
   • 在 EM 算法的 M 步中，该项被添加到生存系数的 Newton-Raphson 更新中：$\hat{\theta}^{(t+1)}_{surv} = \hat{\theta}^{(t)}_{surv} + [I(\hat{\theta}^{(t)}_{surv})]^{-1} S^*(\hat{\theta}^{(t)}_{surv})$，其中 $S^*$ 是校正后的得分函数。
   • 初始化： 为确保收敛，作者使用来自经典 Firth 校正 Cox 模型（通过 R 包 coxphf）的惩罚极大似然估计值来初始化外生回归系数。
   • 推断： 标准误是通过全 Hessian 矩阵的前向差分近似导出的。

模拟研究结果
研究人员进行了一项模拟研究，以评估 Firth 校正联合模型（FC-JM）相对于经典联合模型（JM）以及带有 Firth 校正初始值的联合模型（JMc）的表现。

• 偏差减少： 在存在分离的场景中，与 JM 相比，FC-JM 对分离协变量的估计显著减少了偏差。其估计值接近于非分离场景下观察到的数值。
• 信息依赖性： 校正的效果是由似然函数的曲率驱动的，而曲率取决于事件的绝对数量。FC-JM 在低信息量设置（小样本量、高删失率）中表现最好，而这些设置正是分离问题最严重的情况。
• 稳定性： 虽然 FC-JM 减少了偏差，但在极度稀疏的数据设置中观察到了少量异常值，这是由于解析 Hessian 矩阵病态导致的，而标准 JM 通过 BFGS 近似 Hessian 矩阵，不存在这一问题。
• 其他系数： 校正并未显著改变非分离系数的估计，保持了模型的准确性。

实际应用：职业培训辍学
该方法被应用于德国国家教育面板研究（NEPS）关于职业培训辍学的数据。

• 背景： 研究对培训满意度（纵向）的轨迹与辍学风险（生存时间）进行了建模。
• 分离问题： 在女性子样本中，“商业服务类其他职业”这一职业领域出现了分离（零辍学事件），导致经典 JM 产生无穷大的系数和膨胀的标准误。
• 发现：
  • FC-JM 为分离领域提供了有限且稳定的估计，表明该领域与参照领域的辍学风险没有显著差异。
  • 模型成功地将效应分解为直接效应（例如，受教育程度、职业领域妥协直接影响辍学风险）和间接效应（通过满意度进行中介）。
  • 结果证实，虽然社会经济因素和妥协程度显著影响满意度，但在考虑了满意度轨迹后，它们对辍学的直接影响通常是不显著的；相比之下，教育程度和职业领域妥协则保留了直接的保护性或风险增加效应。

意义与主张
本文声称，所提出的 Firth 校正估计程序扩展了联合模型的适用范围，使其能够处理因单调似然导致经典方法失效的、具有罕见事件或高度不平衡分类协变量的数据集。

• 方法论贡献： 它在联合模型 EM 算法中提供了 Firth 惩罚项的正式推导与实现，允许在分离情况下估计出有限且偏差较小的系数。
• 实质性贡献： 在职业培训的应用中，该模型提供了一个更严谨的因果框架，通过显式建模满意度的中介作用，展示了结构性预测因子往往通过情感状态（满意度）间接影响辍学风险，而这一机制在标准的两阶段或静态预测方法中会被掩盖。
• 局限性： 作者指出，目前的实现仅限于当前值关联和时间常数外生协变量。此外，对解析 Hessian 矩阵的依赖可能导致在极度稀疏的数据中出现数值不稳定，这表明未来需要开发稳定策略。

这项工作被呈现为针对特定估计失败模式的解决方案，使研究人员能够在以往被认为不适用的分离场景下使用联合模型，从而提高涉及罕见事件的社会科学和生物统计学应用的推断稳健性。