Inference on the Significance of Modalities in Multimodal Generalized Linear Models

技术摘要：多模态广义线性模型中模态显著性的推断

问题陈述
整合了来自多个来源（如 MRI、PET、CT 或多组学）信息的多模态数据，在生物医学研究和人工智能等领域日益普及。虽然融合的多模态模型在预测性能上通常优于单模态模型，但在严谨的统计推断方面仍存在关键空白：目前尚无建立的工具能够量化高维多模态模型中单个模态的显著性。现有的高维推断方法（例如去偏 LASSO、解耦得分检验）旨在测试单个协变量系数或其线性组合。它们无法直接评估整个模态的贡献，因为模态的贡献不仅取决于其系数的大小，还取决于复杂的总体参数，例如模态之间的相关性。此外，经典的拟合优度指标（如 $R^2$、$pseudo-R^2$）量化的是所有变量的整体贡献，而非单个模态的贡献。

方法论
作者提出了一个多模态广义线性模型（MGLM）框架，其中响应变量 $y$ 取决于来自 $M$ 个模态的连接向量 $x = (x_1^T, \dots, x_M^T)^T$。

1. 指标定义（期望相对熵 - ERE）：
   作者引入了一个指标 $H_m$，用于量化在给定其他所有模态的情况下，第 $m$ 个模态的信息增益。该指标被定义为全模型（使用所有模态）与简化“预设”模型（使用除第 $m$ 个模态外的所有模态）之间两次期望 Kullback-Leibler (KL) 散度的值：
   $$H_m = 2E_x [D_{KL}(p(y|x) \parallel p(y|x_{-m}))]$$
   其中 $x_{-m}$ 表示排除第 $m$ 个模态后的子向量。论文证明了 $H_m$ 是非负且单调的。对于特定情况（如线性回归），$H_m$ 有一个涉及系数和协方差结构的闭式表达式。对于非线性连接函数（逻辑回归、泊松回归），它通过对数似然比的期望来定义。作者展示了传统的拟合优度指标是当所有协变量被视为单个模态时的 ERE 特例。

2. 估计程序：
   为了在高维设置（$p \gg n$）下估计 $H_m$，作者提出了一个两步偏差估计程序：

   • 第一步（筛选）： 应用确定性独立筛选（Sure Independence Screening, SIS）程序，将超高维空间降至中等维度。变量按其边际似然贡献进行排序，并通过选择阈值 $\gamma_n$（通过 BIC 最小化）来确保筛选出的集合能以高概率包含真实的支撑集。
   • 第二步（部分惩罚）： 进行部分惩罚极大似然估计。
     • 对于全模型，筛选集中位于第 $m$ 个模态之外的变量受到惩罚（使用折叠凹惩罚，如 SCAD），而第 $m$ 个模态内的变量则不进行惩罚，以避免偏差。
     • 对于简化模型，采用相同的程序，但第 $m$ 个模态内的变量被强制系数为零。
       估计值 $\hat{H}_m$ 通过全模型与简化模型之间的偏差差异进行归一化计算。

3. 理论推断：
   作者确立了 $\hat{H}_m$ 的渐近性质：

   • 一致性： $\hat{H}_m$ 对 $H_m$ 是一致的，误差界为 $O_P(\max\{s n^{-1} \log n, n^{-1/2}\})$。
   • 渐近分布： 在满足正则性条件（包括协变量的亚高斯性和调节参数的特定速率）下，$n\hat{H}_m$ 收敛于非中心卡方分布 ($\chi^2_{e_{sm}, \Gamma_n}$)，其中 $e_{sm}$ 是第 $m$ 个模态筛选集的规模，$\Gamma_n$ 是与真实系数相关的非中心参数。
   • 显著性检验： 这一分布结果使得构建 $H_m$ 的置信区间以及计算检验原假设 $H_m = 0$ 的 p 值成为可能。至关重要的是，作者证明了这种推断并不需要变量选择一致性（即估计量不需要完美识别真实的零/非零系数），这相对于现有的高维推断方法是一个显著的放宽。

主要结果

• 模拟研究： 作者在 $n=300$ 且 $p=600$ 的线性、逻辑回归和 Probit 回归模型上评估了该方法。所提出的“SIS+SCAD”方法在实际覆盖概率（接近标称的 95%）方面表现出令人满意的经验结果，特别是当真实的信息增益较大时。该方法在特异性和覆盖率方面优于“SIS+重拟合（refit）”方法（后者缺乏部分惩罚），尤其是在效应量较小时。结果证实，即使在变量选择不完美的情况下，该方法依然保持有效。
• 真实数据应用： 该方法应用于来自阿尔茨海默病神经影像学倡议（ADNI）的多模态神经影像数据集，涉及 669 名受试者的 Amyloid-PET 和 FDG-PET 扫描。结局变量为记忆评分（MEM）、执行功能评分（EF）和诊断标签（DX）。
  • 分析表明，在预测执行功能和诊断状态方面，FDG-PET 提供的比 Amyloid-PET 更多的信息（FDG-PET 的 p 值更低且 ERE 估计值更高）。
  • 相反，Amyloid-PET 对记忆评分显示出更强的信息增益。
  • 这些发现符合临床理解，即代谢活动（FDG）是功能衰退的强生物标志物，而淀粉样蛋白负荷（Amyloid）对记忆相关病理具有更高的特异性。

意义与主张
本文声称提供了第一个用于评估高维多模态广义线性模型中单个模态显著性的严谨统计推断工具。通过定义期望相对熵（ERE）并推导其渐近分布，作者使研究人员能够：

1. 量化一个模态在提供其他模态信息之外的特定信息增益。
2. 在不依赖于难以实现的完美变量选择条件的情况下，构建该增益的置信区间和 p 值。
3. 将拟合优度的概念从变量层面扩展到模态层面，弥合了经典指标与现代高维多模态分析之间的差距。

作者指出，虽然目前的工作侧重于 GLM，但基于熵的指标有可能扩展到其他模型（如 Cox 比例风险模型），不过这些扩展属于未来的研究方向。