📊 statistics

Anytime-Valid Confirmation of Label-Shift Corrections

本文提出了一种随时有效的序列检验框架，该框架利用逐观测似然比的累积乘积来确认预设的标签偏移修正，在小批量设置下，为目标端带标签结果稀缺的情况提供了一种统计严谨的替代方案，以取代数据驱动的偏移估计。

原作者： Seungjin Choi

发布于 2026-06-15

📖 1 分钟阅读☕ 轻松阅读

原作者： Seungjin Choi

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是该论文的通俗易懂的解释，使用了日常类比。

核心问题： “标签稀缺”的困境

想象你是一名医生，你拥有一种基于 A 医院（源端）患者数据训练出的诊断工具。现在，你将这个工具部署到了 B 医院（目标端）。你知道两者的患者构成有所不同——也许 B 医院的老年患者更多，或者患有某种特定疾病的人更多。这被称为 标签偏移 (Label Shift)。

通常情况下，为了修复你的工具，你需要大量来自 B 医院且带有已知结果的新数据（带标签的数据），以此来精确计算患者构成发生了怎样的变化。但在许多现实世界的科学或医疗场景中，带标签的数据是非常稀缺的。你可能一次只能得到极少数的新结果，或者结果到来得很慢。你不能为了重新训练模型而等待海量数据集。

然而，你有一个直觉。也许是一项监管规则、之前的小规模实验，或是专家知识告诉你：“我认为 B 医院的患者构成向老年人偏移了大约 10%。”

问题在于： 与其询问“确切的偏移量是多少？”（这需要大量数据），这篇论文问的是：“我的直觉（提出的修正方案）是否得到了我们目前获得的少量新数据点的支持？”

解决方案：“置信度累加器”

作者提出了一种测试你直觉的新方法。他们将这个问题变成了一个累积证据的游戏，类似于赌徒在赛马场上投注，但遵循严格的规则以确保你不会被运气所蒙蔽。

1. 两种预测

想象你有两位天气预报员：

旧预报员 (源端)： 基于旧数据（A 医院）来预测降雨。
调整后的预报员 (倾斜后的)： 基于旧数据，并结合了你关于气候发生偏移的直觉（B 医院）来进行预测。

2. “E-值” (赌注筹码)

每当一个新的患者结果出现时（例如：“下雨了”或“患者康复了”），你会对比两位预报员：

调整后的预报员 是否比 旧预报员 预测得更准？
如果是，你就赢得一个“赌注筹码”（即 e-值）。
如果不是，你就失去一个筹码。

论文在数学上证明了，如果你的直觉是错误的（即旧预报员实际上才是真相），那么平均而言，你只会盈亏平衡或失去筹码。你不会仅仅靠运气就变得富有。

3. “鞅” (运行总分)

你会记录筹码的累计总数。这个总数被称为 鞅 (Martingale)。

规则： 如果旧预报员确实是正确的，那么你的筹码总数达到极高水平（超过特定阈值）的可能性极低（例如小于 5%）。
“随时有效”的超能力： 这是该论文最大的创新点。通常在统计学中，你必须在开始之前就决定好要测试多少个患者。如果你因为“感觉”数据够了就提前停止，你的统计结果就会失效。
- 这种方法允许你在任何时候停止。 你可以在观察了 5 个、50 个或 500 个患者后进行检查。只要你还没有超过阈值，规则依然成立。如果你确实超过了阈值，你就可以自信地说：“数据支持我的直觉。”

“对数财富”类比

论文提到了 NLPD（负对数预测密度）。你可以将其理解为一种“惊讶度得分”。

如果预报员对某个结果感到意外，他们的得分就会很高（表现差）。
如果他们预测得很好，得分就会很低（表现好）。
论文表明，你的“筹码总数”恰好是旧预报员的惊讶程度与调整后预报员的惊讶程度之间的差异。
拒绝假设： 如果你的“筹码总数”变得足够高，这意味着调整后的预报员比旧预报员更不容易感到“意外”。这证实了你的直觉很可能是正确的。

重要局限性 (论文所述)

论文非常谨慎地说明了该工具能做什么以及不能做什么：

它是一个“是/否”测试，而非测量工具： 如果测试结果显示“是的，你的直觉得到了支持”，它并不会告诉你确切的偏移量是多少。它只是告诉你，该偏移的方向和幅度是合理的。如果你需要确切的数值，你仍然需要大量的数据和不同的工具。
“垃圾进，垃圾出”警告： 该测试假设 旧预报员 是经过良好校准的。如果旧预报员本身是坏的（例如，实际降雨概率是 90%，但它认为只有 50%），那么测试可能会给你错误的警报。你必须信任原始模型的基准准确性。
直觉必须是预设的： 你必须在开始观察新数据之前就确定你的“直觉”（修正方案）。你不能先看数据，改变你的直觉，然后再运行测试。否则会破坏数学逻辑。

总结

这篇论文为科学家提供了一种正式的方法来说明：“我对数据如何变化有一个理论。尽管我只有少量的观测数据，但我可以从数学上证明，我的理论比我的旧模型更符合这些新数据，而且无需等待海量数据集。”

它将模型监控变成了一个严谨的、循序渐进的确认游戏，让你可以在获得足够证据的那一刻立即结束游戏。

技术摘要：随时有效的标签偏移修正确认方法

1. 问题陈述

在小批量科学部署场景中，由于标记的目标结果（labeled target outcomes）过于稀缺，利用传统的无标记目标方法（如 BBSE 或 MLLS）来可靠地估计标签偏移（即在 $p(x|y)$ 保持稳定而 $p(y)$ 发生变化的情况下）往往难以实现。在这些场景中，从业者通常拥有一个基于领域知识、监管规范或桥接实验预先指定的候选修正方案。

本文解决的核心问题不是“估计”偏移，而是“确认”传入的标记结果是否支持相对于源预测模型的一个设定的、固定的标签偏移修正。这被框架化为一个确认问题而非估计问题，要求一种能够处理序列数据到达、且在可选停止（optional stopping）条件下仍能控制第一类错误（Type I error）的统计工具。

2. 方法论

本文提出了一种基于 e-值（e-values） 和 e-过程（e-processes）（Vovk & Wang, 2021; Shafer, 2021）的序列测试框架。

核心构建：
给定一个固定的源预测模型 $p_s(y|x, D_{tr})$ 和一个源自领域知识的候选权重 $w(y)$ ，作者定义了一个倾斜预测（tilted predictive）：
$\tilde{p}_w(y|x, D_{tr}) \propto w(y) p_s(y|x, D_{tr})$
测试通过累积观测值的偏离似然比（likelihood ratio），该比值定义为倾斜预测与源预测之比：
$e_i = \frac{\tilde{p}_w(y_i|x_i, D_{tr})}{p_s(y_i|x_i, D_{tr})} = \frac{w(y_i)}{Z_w(x_i)}$
其中 $Z_w(x_i)$ 是归一化常数。

理论保证：

条件 E-值： 在预测零假设 $H_0^{pred}$ （即结果遵循源预测 $p_s$ ）下，给定过去数据和当前输入时， $e_i$ 的期望值为 1。因此， $e_i$ 是一个有效的条件 e-值。
鞅性质（Martingale Property）： 运行乘积 $M_t = \prod_{i=1}^t e_i$ 构成一个非负鞅（即 e-过程）。
随时有效规则（Anytime-Valid Rule）： 根据 Ville 不等式，停止规则 $\tau^* = \inf\{t : M_t > 1/\alpha\}$ 在所有样本量 $t$ 下同时控制了水平为 $\alpha$ 的第一类错误，且无需针对可选停止进行修正。
NLPD 间隙恒等式（NLPD Gap Identity）： 对数财富 $\log M_t$ 等于源预测与倾斜预测之间负对数预测密度（NLPD）的累积差值：
$\log M_t = \sum_{i=1}^t (\text{NLPD}_i(p_s) - \text{NLPD}_i(\tilde{p}_w))$
当倾斜预测积累的对数得分优势超过 $\log(1/\alpha)$ 时，触发拒绝。

高斯过程的闭式解：
对于具有高斯标签偏移比率的高斯过程（GP）源，作者推导出了归一化常数 $Z_w(x)$ 和逐样本对数 e-值的闭式表达式。这使得仅使用 GP 后验输出（ $\mu_s, \sigma^2_s$ ）和偏移参数即可进行高效计算。

多重检验：
对于 $K$ 个并行流的并行测试，本文建议使用 e-BH 程序（Wang & Ramdas, 2022）结合批量 e-值来控制错误发现率（FDR），而非使用过于保守的 Bonferroni 修正。

3. 主要贡献

NLPD 间隙恒等式： 将 Kelly 最优博弈与模型评估联系起来，证明了累积 NLPD 间隙可以作为有效 e-过程的对数财富。
随时有效的确认测试： 提供了一种正式的序列测试，用于验证预设的固定偏移，该测试不需要预先指定样本量，并在可选停止下控制第一类错误。
闭式 GP E-值： 推导了高斯标签偏移倾斜下的解析解，从而实现了在 GP 回归中的实际应用。
增长率特征描述： 证明了在备择假设（即设定正确）下，该测试具有渐近功率 1，其增长率等于倾斜预测与源预测之间的平均 KL 散度。
经验验证： 验证了其对第一类错误的控制能力、有限样本功率、对失校准（miscalibration）的敏感性，以及使用可靠先验优于在小批量中进行噪声重估计的优势。

4. 实验结果

作者通过端到端 GP 回归模拟验证了该方法：

第一类错误控制： 在预测零假设下，经验假警报率在所有时间跨度内均严格低于标称水平 $\alpha$ (0.05)，证实了随时有效性的保证。
功率对比固定样本 LRT： 虽然针对特定样本量校准的固定样本似然比检验（LRT）在长时程下显示出略高的功率，但 e-过程在任意停止时间下仍保持有效性，提供了一种功率与灵活性之间的基本权衡。
小批量优势： 在目标批量规模较小（ $n_t=10$ ）的场景下，可靠的先验修正（Oracle）在留出集 NLPD 方面显著优于自适应重估计。确认测试为使用此类先验提供了正式证据。
失校准敏感性： 该测试对源预测的失校准高度敏感。源 GP 的方差低估（例如因子 $c=2$ ）会导致第一类错误剧烈上升（高达 36.45%），这凸显了其有效性保证依赖于源模型必须是经过良好校准的。
误设鲁棒性： 当设定的偏移被误设（错误的量级或方向）时，测试的功率会下降，但只要权重在测试前固定，第一类错误仍受控。测试不会因误设而产生假拒绝；它仅仅是无法拒绝原假设。

5. 意义与主张

本文声称为一种特定的、常被忽视的部署场景提供了必要的工具：确认而非估计。

与估计的区别： 作者强调，拒绝意味着确认了所设定的修正与数据相对于源模型的一致性，但它并不量化偏移的具体程度。对于定量估计，无标记目标方法仍然是合适的工具。
实际效用： 该方法允许从业者在数据到达时，正式验证基于领域知识的修正（例如监管规范），避免了从稀缺的有标记数据中进行不可靠的偏移重估计。
局限性： 作者明确指出，第一类控制的保证是以预测零假设（即源模型必须经过良好校准）为条件的。该测试对于没有额外校准层的任意模型误设并不具备鲁棒性。此外，候选权重必须在测试流开始之前固定；使用来自测试流的数据来估计权重会使 e-值的性质失效。

总而言物，本文提供了一个严谨的随时有效框架，用于确认预设的标签偏移修正，填补了数据匮乏环境下领域知识与序列统计证据之间的空白。