技术摘要：预测即代理：在 AI 时代重新审视代理结局

1. 问题陈述

在许多科学领域，获取真实的结局变量 $Y$ 成本高昂、耗时或具有侵入性，导致数据集中的 $Y$ 仅被部分观测到。研究人员通常依赖于代理结局（辅助变量 $\hat{Y}$），这些变量更容易获得且与 $Y$ 相关。虽然传统的代理模型在生物统计学和经济学中已有建立，但 AI 的兴起引入了一类新的代理：来自预训练机器学习模型的预测（例如，大语言模型、计算机视觉模型）。

本文指出，**预测驱动推断（Prediction-Powered Inference, PPI）**这一新兴领域存在一个缺口，该领域试图将这些 AI 预测纳入统计推断中。现有的 PPI 方法通常将预测视为结局的直接替代品，或应用简单的线性修正。然而，这些方法面临以下局限性：

1. 低效性： 它们可能无法达到半参数效率界限，特别是当预测存在偏差或与真实结局存在系统性偏差时。
2. 过拟合偏差： 当使用灵活的机器学习模型来学习代理变量与结局之间的关系时，在同一数据上进行学习和推断（同样本拟合）会引入一阶偏差，从而导致置信区间失效。
3. 模态与分布失配： 预训练模型经常面临模态失配（例如，从图像进行预测，但推断需要表格协变量）或分布偏移（在通用数据上训练，应用于特定子群体），导致预测失准。

核心问题在于开发一个统计严谨、计算可行且高效的框架，利用预训练 AI 预测作为代理，同时纠正其固有的偏差并确保推断的有效性。

2. 方法论：重校准预测驱动推断 (RePPI)

作者提出了重校准预测驱动推断 (Recalibrated Prediction-Powered Inference, RePPI)，该方法将经典的代理结局文献（特别是 Robins 等人 [1994] 和 Chen & Chen [2000] 的工作）与现代 PPI 相统一。

2.1 理论基础

目标参数 $\theta^\star$ 通过估计方程 $E[U_{\theta}(X, Y)] = 0$（或等价地，最小化凸损失 $E[\ell_\theta(X, Y)]$）来定义。数据由 $n$ 个带标签样本 $(Y, X, \hat{Y})$ 和 $N$ 个不带标签样本 $(X, \hat{Y})$ 组成。

作者建立，使估计量渐近方差最小化的最优导入损失 $g_\theta$ 为：
$$\nabla g_\theta^\star(X, \hat{Y}) = \frac{1}{1+r} E[\nabla \ell_\theta(X, Y) \mid X, \hat{Y}]$$
其中 $r = \lim n/N$。该最优得分代表了给定代理和协变量条件下，真实梯度的条件期望。

2.2 RePPI 算法

为了使该理论具有可操作性，RePPI 采用了两项关键创新：

1. 通过机器学习进行灵活重校准： RePPI 不再假设条件期望具有参数形式，而是使用灵活的机器学习算法（如随机森林、神经网络）来估计最优得分函数 $s(X, \hat{Y}) \approx E[\nabla \ell_{\hat{\theta}_0}(X, Y) \mid X, \hat{Y}]$，其中 $\hat{\theta}_0$ 是一个初始估计量（例如，仅从带标签数据中获得的估计量）。
2. 交叉拟合 (Cross-Fitting)： 为了防止使用灵活学习器时产生过拟合偏差，将带标签数据分为若干折（folds）。得分函数在其中一个子集上进行训练，并在另一个子集（样本外）上进行评估。这确保了有效渐近理论所需的独立性。
3. 矩阵幂调优（控制变量）： 为了确保即使在得分估计不完美的情况下也能保证效率，RePPI 对估计的得分应用了一个线性变换矩阵 $\hat{M}$。该矩阵被估计为真实梯度与估计得分之间的经验协方差，并经过得分方差的归一化。这起到了最优控制变量的作用，确保估计量绝不会比“仅使用 XY”的基准（即忽略预测）更差。

最终的估计量最小化一个线性化的经验风险：
$$\hat{\theta}_{RePPI} = \arg\min_\theta \left( \frac{1}{n}\sum_{i=1}^n \ell_\theta(X_i, Y_i) - \frac{1}{n}\sum_{i=1}^n \hat{g}_\theta(X_i, \hat{Y}_i) + \frac{1}{N}\sum_{i=n+1}^{n+N} \hat{g}_\theta(X_i, \hat{Y}_i) \right)$$
其中 $\hat{g}_\theta$ 是利用重校准后的得分构建的。

3. 主要贡献

1. 统一框架： 本文正式将数十年前的代理结局文献与新兴的 PPI 领域联系起来，明确了预训练模型预测是特定类型的代理。
2. 重校准 PPI (RePPI)： 作者引入了一种新的估计量，它：
   • 如果最优得分被一致估计，则能达到半参数效率（最小渐近方差）。
   • 即使在得分估计不一致的情况下（由于控制变量机制），也始终比 XY-only 估计量更高效。
   • 通过使用线性化的导入损失，保持了优化目标的凸性（区别于以往的一些 PPI 提案）。
3. 理论保证： 文中提供了在交叉拟合下渐近正态性和效率性的严格证明，表明该方法对使用高容量、灵活的学习器具有鲁棒性。
4. 重校准效益分析： 作者从理论和数值上分析了三个重校准至关重要的具体场景：
   • 模态失配： 当预测基于非结构化数据（如图像）而推断需要结构化协变量时。
   • 分布偏移： 当预测模型的训练分布与目标推断群体不同时。
   • 离散预测： 当模型输出粗糙且未校准的离散类别（如 1-5 星）而非连续值时。

4. 结果

论文通过风格化的理论模型和使用最先进 AI 模型的现实世界应用验证了 RePPI。

4.1 理论效率增益

在风格化模型中，RePPI 始终比现有方法（XY-only, standard PPI, 和 PPI++）实现更低的渐近方差：

• 模态失配： RePPI 通过有效地利用非结构化模态中的信息，并纠正预测中缺乏结构化协变量的问题，降低了方差。
• 分布偏移： RePPI 纠正了当预测模型的训练分布与推断群体不同时引入的偏差，而标准 PPI 在这些情况下表现可能比 XY-only 基准更差。
• 离散预测： RePPI 学习了从离散预测到结局尺度的非线性映射，优于依赖线性修正的 PPI++。

4.2 实际应用

三个现实世界的应用展示了显著的有效样本量增益（即减少达到目标置信区间宽度所需的带标签数据量）：

1. X 光诊断 (NIH ChestX-ray14)： 使用在 CheXpert 上训练的 DenseNet-121 模型来预测胸腔积液。为了达到相同的区间长度，与 PPI++ 相比，RePPI 将所需的带标签样本量减少了 ~5.7%。
2. 毒性测量 (CivilComments-WILDS)： 使用在维基百科评论上训练的 DistilBERT 模型来预测新闻评论中的毒性（分布偏移）。RePPI 将所需的带标签样本量减少了 ~5.8%。
3. 葡萄酒评论 (WineEnthusiast)： 使用 GPT-5.4 从文本评论中预测评分（离散预测）。与 PPI++ 相比，RePPI 将所需的带标签样本量减少了 ~17.6% 至 19%，突显了非线性重校准对于离散代理变量的巨大优势。

在所有案例中，RePPI 都保持了有效的 95% 置信区间覆盖率，而标准 PPI 由于失准往往会产生更宽的区间或无效的覆盖。

5. 重要性与主张

论文声称 RePPI 代表了利用 AI 进行统计推断的重要一步，因为它：

• 架起了理论与实践的桥梁： 它提供了一种实用的计算策略（交叉拟合 + 线性化损失），以实现半参数统计中建立的理论效率界限，而这在之前使用灵活机器学习模型时是难以实现的。
• 鲁棒性： 不同于以往可能在预测存在偏差时变得低效或失效的方法，RePPI 被设计为是“安全的”，保证了比完全忽略预测更好的效果。
• 应对 AI 时代： 它专门解决了使用预训练基础模型（高维、非结构化数据、分布偏移）作为代理时面临的独特挑战，超越了假设预测是完美或仅仅是真实值的线性变换的假设。

作者也谦虚地指出了局限性，包括对渐近理论的依赖、对 i.i.d. 数据（尽管讨论了分布偏移的扩展）的假设，以及目前侧重于将预测作为代理，而非直接利用更丰富的模型输出（如嵌入向量）。尽管如此，这项工作为 AI 时代的“预测驱动”科学奠定了坚实的理论基础。