📊 statistics

Surrogate-assisted optimal sampling for risk prediction under measurement constraints

本文提出了一种代理辅助的最优采样框架，该框架通过将有限的测量预算策略性地分配给代理负向观测值，从而在测量约束条件下最小化期望的样本外交叉熵损失，并提升风险预测性能。

原作者： Sunhyun Park, Seong-ho Lee

发布于 2026-06-03

📖 1 分钟阅读☕ 轻松阅读

原作者： Sunhyun Park, Seong-ho Lee

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一名正在试图破解谜团的侦探，但你有一个非常严格的规则：你只能对有限数量的人进行直接提问。

在数据科学的世界里，这是一个常见的问题。你可能拥有一个庞大的名单（一个数据集），里面包含大量的背景信息（比如年龄、职业或病史），但要找出每个人“真实的答案”（比如他们是否真的患有某种疾病）却极其昂expensive、缓慢或困难。这就像你拥有百万名嫌疑人，但你的预算只够采访其中的 200 人。

这篇论文提出了一种聪明的策略，用于决定应该采访谁，从而获得最佳的预测模型。

问题所在：“替代指标”线索

通常，研究人员会有一个“替代指标”线索。你可以把它看作是一个廉价、易于获取的提示。

真实情况（响应变量）： 患者是否真的患有抑郁症？（难以得知，需要医生进行深度审查）。
替代指标： 患者的文件中是否有一个特定的抑郁症代码？（容易找到，但并不总是完美的）。

在许多情况下，如果代码存在，患者肯定患有该疾病。但如果代码缺失，患者可能仍然患有该疾病，只是我们目前还不知道。目标是利用你有限的预算去检查这些“代码缺失”的案例，以构建出最好的模型。

旧方法 vs. 新方法

旧方法（随机抽样）：
想象一下，对于每一个没有代码的人，你都抛一次硬币。如果是正面，你就采访他们。这很公平，但很浪费。你可能会采访 50 个非常相似的人，把预算浪费在冗余的信息上，而错过了那些能教给你最多知识的独特案例。

论文的新方法（替代指标辅助的最优抽样）：
作者 Sunhyun Park 和 Seong-ho Lee 创建了一个“智能过滤器”。他们不再是抛硬币，而是使用一个公式来计算哪些特定的人是最具有信息量的采访对象。

他们使用了一个叫做**交叉熵损失（Cross-Entropy Loss）**的概念。你可以把它理解为一种“困惑度得分”。

如果你的模型对某一类特定的人感到非常“困惑”，那么这类人就是一个高价值的目标。
这个新方法通过观察背景数据和“替代指标”来指出：“嘿，我们对具有这种特定特征的人感到非常困惑。让我们把预算花在他们身上。”

它是如何运作的（两步舞曲）

由于你还不知道“真实答案”是什么（这正是你为什么要进行采访的原因），所以你无法立即计算出完美的名单。因此，论文建议采用一种“两步舞曲”：

热身阶段（试点）： 你快速地随机采访一小部分人，只是为了初步了解规则。这给了你一个“初步猜测”的模型。
智能选择： 利用那个粗略的猜测，你在剩余的人群中运行你的“智能过滤器”。你识别出那些能教给你最多知识的特定人群，并且只采访他们。
最终模型： 你将试点数据和你新智能选择的数据结合起来，构建出一个最终的、高度准确的预测模型。

为什么这种方法更好？（结果）

论文通过两种方式测试了这个想法：

计算机模拟： 他们创建了拥有数百万个虚拟患者的虚拟世界。
- 结果： 新方法构建的模型始终比随机抽样或其他现有方法更准确（困惑度得分更低）。
- “混乱”测试： 他们甚至测试了一个场景，即“替代指标”略有偏差（有些人虽然有代码，但实际上并没有患病）。新方法表现得非常稳健（Robust），这意味着它不会崩溃；即使在提示信息不完美的情况下，它依然能保持良好的表现。
现实世界测试：
- 抑郁症预测： 利用真实的医院记录，他们尝试预测抑郁症。新方法找到了最值得审查的患者，从而构建出的模型在识别抑郁症方面比旧的随机方法要好得多。
- 中风预测： 他们将此方法应用于一个疾病非常罕见（仅 5% 的人患病）且没有任何替代指标的数据库。即使在这种“困难模式”下，该方法也比随机抽样效果更好，证明了即使没有金属探测器，它也能找到大海里的针。

核心结论

这篇论文为研究人员提供了一份数据的“智能购物清单”。与其随机购买杂货，它会告诉你精确到应该买哪些物品，才能用最少的钱换取最有营养的一餐。

通过专注于预测准确性（模型预测未来的能力）而非仅仅是参数估计（模型拟合数学公式的能力），这种方法确保了投入在数据收集上的每一分钱都发挥了作用。即使在线索不完美、甚至疾病非常罕见的情况下，它依然有效，使其成为任何需要处理昂贵数据的场景下的强大工具。

技术摘要：测量约束下用于风险预测的代理辅助最优采样

问题背景
在许多风险预测场景中（例如电子健康记录 EHR 分析），可以获得大量目标人群的协变量和响应代理指标（例如诊断代码），但真实的响应（true response）获取成本高昂，仅在极小部分子集中被观测到。这产生了一个设计问题：如何分配固定的测量预算，以选择哪些观测值应当测量其真实响应，从而构建一个最优的预测模型。

现有的子采样方法在这一设定下往往面临局限性。简单随机采样（SRS）无法利用信息量的异质性。优化参数估计的方法（例如 Wang et al., 2018）需要已观测到的响应来设计采样概率，而对于未标记组而言，这些响应是不可用的。其他方法（例如 Shen & Ning, 2025; Lee et al., 2023）侧重于最小化参数或预测的均方误差（MSE），但这可能并不直接符合二元风险预测的表现。此外，许多现有方法假设代理指标能完美识别阳性病例，而这一条件在实践中可能并不成立。

方法论
作者提出了一种专门针对测量约束下二元风险预测的代理辅助最优采样框架。

设定：
- 令 $y_i \in \{0, 1\}$ 为真实响应， $s_i$ 为代理指标，其中 $s_i=1 \implies y_i=1$ 。
- $s_i=1$ 的观测值为已确认的阳性病例，具有已知的响应。
- $s_i=0$ 的观测值为未标记样本（包含真实的阳性和阴性样本）。目标是从这些 $s_i=0$ 的观测中选择一个子集进行响应测量。
- 测量预算 $C$ 限制了从 $s_i=0$ 组中采样的观测总数。
估计：
- 预测模型 $p(x, \beta)$ 用于估计 $P(Y=1|x)$ 。
- 通过最小化逆概率加权（IPW）交叉熵损失来估计模型参数 $\beta$ ：
  $L_N(\beta) = -\sum_{i=1}^N \frac{\delta_i}{\pi_T(x_i)} [y_i \log p(x_i, \beta) + (1-y_i) \log(1-p(x_i, \beta))]$
  其中 $\delta_i$ 是采样指示变量， $\pi_T(x_i)$ 是总采样概率。
最优采样设计：
- 作者推导了期望样本外交叉熵损失的主项，该项取决于 $s_i=0$ 组的采样概率 $\pi(z)$ 。
- 通过在预算约束下最小化该主项的经验对应项，推导出最优采样概率。
- 解的形式为：
  $\hat{\pi}_i \propto \sqrt{a_i(\hat{\beta})}$
  其中 $a_i(\hat{\beta})$ 代表第 $i$ 个观测值对交叉熵损失渐近方差的贡献， $\hat{\beta}$ 是一个初步估计量。
- 两步法程序： 由于初始阶段 $\hat{\beta}$ $\hat{β}$ 是未知的，作者提出了一个两步算法：
  1. 使用试点样本（pilot sample）或简单随机采样获得一个初步估计量 $\tilde{\beta}$ 。
  2. 基于 $\tilde{\beta}$ 计算最优采样概率 $\hat{\pi}$ ，并重新采样/测量响应以拟合最终模型。
理论性质：
- 在正则条件下（紧致参数空间、平滑性、可逆性 Hessian 矩阵），所提估计量 $\hat{\beta}_{\pi}$ 被证明是一致的且具有渐近正态性。
- 定理 3 确立了该设计在具有相同预算的所有可容许采样策略中，能够最小化期望样本外交叉熵损失的阶前项。

核心贡献

广泛的适用性： 该方法适用于一类通用的平滑参数化风险预测模型，不局限于逻辑回归或特定的广义线性模型（GLMs）。
约束下的可行性： 在设计阶段，该设计不需要目标未标记观测值的真实响应，仅依赖于协变量、代理指标和初步估计量。
面向预测的标准： 不同于旨在最小化参数估计 MSE 或预测 MSE 的现有方法，本框架直接优化期望交叉熵损失，使采样策略与二元风险预测的目标保持一致。

结果
作者通过大量的模拟实验和两个实际数据应用验证了该方法：

模拟实验：
- 正确代理： 当代理指标正确识别阳性病例（ $P(Y=1|S=1)=1$ ）时，所提的交叉熵（CE）方法比基于 MSE 的最优采样（Lee et al., 2023）、OSCA 和 SRS 实现了更低的交叉熵损失以及更具竞争力的 MSE、灵敏度和特异度。
- 误设代理： 当假设 $P(Y=1|S=1)=1$ 被违反时（即代理组中存在假阳性），CE 方法表现出卓越的鲁棒性。与在假阳性污染下性能显著下降的竞争方法相比，它保持了较低的交叉熵损失和更好的分类稳定性。
- 稀有结局： 在低患病率（ $\approx 5\%$ ）且没有代理信息的情况下，CE 方法优于 SRS 和 OSCA（此时 OSCA 退化为 SRS），并避免了 MSE 类方法中观察到的数值退化问题。
实际数据应用：
- 抑郁症预测（MIMIC-III）： 利用 ICU 入院记录，在各种采样预算（ $C=100$ 至 $400$）下，CE 方法始终比竞争方法获得更低的交叉熵损失和更高的 AUC。
- 中风预测（Kaggle）： 在无代理指标的低患病率场景下，CE 方法在所有子采样方法中提供了最稳定的预测和最高的 AUC，其表现接近全数据基准。

意义与主张
本文声称，所提出的框架为资源受限下的风险预测提供了一个具有理论依据且切实有效的解决方案。通过直接针对交叉熵损失，该方法确保了采样设计优先考虑对预测准确性最具信息量的观测值，而非仅仅针对参数估计。作者强调了该方法对代理误设的鲁棒性，以及在传统最优采样策略可能失效的稀有结局场景下的有效运作能力。这项工作弥补了测量约束下的实验设计与二元分类性能之间的差距，为标签获取昂贵且代理指标不完美的场景提供了一种可行的策略。