📊 statistics

The V-fold jackknife for semiparametric inference: variance estimation, confidence intervals, and simultaneous confidence bands

本文介绍了 V-折叠刀切法（V-fold jackknife），将其作为一种计算高效且具有理论依据的自助法替代方案，用于半参数推断，并证明了其在构建标准及广义渐近线性估计量的置信区间和同时带（simultaneous bands）方面的有效性，且无需推导影响函数。

原作者： Yi Li, Ashkan Ertefaie, Mark van der Laan

发布于 2026-07-27

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Yi Li, Ashkan Ertefaie, Mark van der Laan

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一名正在试图破解谜题的侦探，谜题是：“我们对自己的答案有多大把握？”在统计学世界中，这被称为推断（inference）。当科学家利用数据来猜测一个真相——比如一种新药的平均疗效或患者的生存率——他们需要一种方法来衡量如果收集不同的数据，他们的答案会产生多少“晃动”。这种晃动的空间被称为不确定性（uncertainty），而用来衡量它的工具通常是置信区间（confidence interval）。把置信区间想象成一个安全网：如果你说答案是“50”，一个 95% 的置信区间可能会说：“我们有 95% 的把握认为真实答案在 45 到 55 之间。”

几十年来，侦探们构建这种安全网的最爱工具一直是自助法（bootstrap）。想象你有一个装满弹珠的袋子，代表你的数据。自助法说：“让我们伸手进去，抓一把弹珠，记录下它们的颜色，然后把它们放回去，再重复这个过程。”你重复进行数千次，创造出数千个虚构的数据集。通过观察这些尝试中答案的变化程度，你可以弄清楚你的真实答案有多不稳固。它非常强大，因为几乎适用于任何情况，但它也极其耗时。如果你的数学问题很复杂（比如现代机器学习中使用的那些），运行数千次会耗费极长时间，就像试图通过一次次捡起沙粒来数清海滩上每一粒沙子一样。

最近，出现了一个新问题。在人工智能和复杂算法的时代，这种“抓取并替换”的弹珠游戏有时会失效。当你抓取弹珠并放回原处时，你可能会不小心两次抓到同一个弹珠，或者完全漏掉了一些。对于简单的数学，这没关系。但对于当今使用的那些高级自适应算法，这个微小的故障可能会搞砸整个安全网，导致置信区间在关于其安全性方面撒谎。科学家们需要一种既能在笔记本电脑上快速运行，又能聪明地处理这些棘手现代算法，且不会对结果撒谎的新工具。

这就是论文《用于半参数推断的 V-折叠刀切法》（The V-Fold Jackknife for Semiparametric Inference）介入的地方。作者 Yi Li、Ashkan Ertefaie 和 Mark Van Der Laan 提出了一种聪明的替代方案，称为 V-折叠刀切法（V-Fold Jackknife）。与其玩“抓取并替换”的游戏，他们建议采用“分而治之”的策略。想象你有一个巨大的披萨（你的数据）。你不需要制作成千上万个假披萨，只需将真实的披萨切成 V 份（折叠）。然后，你拿走其中一份，用剩下的部分解决谜题，并记录下答案。你对每一份都这样做，因此你会得到 V 个不同的答案。

这种方法的魔力在于如何利用这些答案。作者表明，通过观察这 V 个答案彼此之间的差异程度，你可以构建出一个与通过数千次自助法尝试构建出的安全网同样可靠的安全网，但你只需要解题 V 次（通常在 5 到 20 次之间）。这是一个巨大的提速。

但真正酷的部分在于，这篇论文证明了即使在数学变得诡异的情况下，这种方法依然有效。通常，当你只有很少的切片（较小的 V）时，你会预期你的安全网是摇摆不定的。然而，作者发现，如果你使用一种特定类型的数学“尺子”（称为具有 V-1 个自由度的 t 分布）来测量晃动空间，安全网就会保持强韧。这就像拥有一把会自动变长并变得更加谨慎的尺子，以应对你手中切片较少的情况，确保你不会意外跌入悬崖。

该论文还处理了一种场景，即随着数据量的增加，“晃动”也会随之增大，这发生在某些先进的机器学习模型中。V-折叠刀切法能自然地处理这种情况，因为它直接从数据切片中测量晃动，而不是试图计算一个可能会出错的复杂公式。

为了测试他们的想法，作者在三种不同类型的问题上进行了模拟实验：

平均处理效应（Average Treatment Effect）： 研究某种疗法是否有效。他们发现，虽然旧的“影响函数”（一种标准的基于公式的方法）经常给出过小的安全网（覆盖不足），但 V-折叠刀切法能保持安全网足够宽，从而保证可靠性，即使在样本量较小时也是如此。
生存曲线（Survival Curves）： 追踪患者的生存时间。在这里，V-折叠刀切法表现得与现有的最佳方法一样出色，但计算速度要快得多。
剂量-反应曲线（Dose-Response Curves）： 这是旧方法真正挣扎的地方。在这些复杂的场景中，标准公式经常崩溃或给出错误的答案（在他们的测试中失败率高达 6.2%）。然而，V-折叠刀切法从未失败，并提供了所有方法中最可靠的安全网。

作者还展示了如何使用这种方法来为整条曲线（而不只是单个点）创建一个“安全毯”。他们发现，即使只有适中的切片数量（例如 20 个），该方法也表现得非常出色，尤其是因为这些问题中的数据通常具有一种隐藏的简单性（低“有效秩”），该方法可以利用这一点。

简而言之，这篇论文介绍了一种像高速、低维护的安全网一样的工具。它不需要通过运行数千次模拟来进行繁重的体力活，也不会在数学变得复杂或数据行为变得奇怪时崩溃。它为机器学习时代的科学家提供了一种信任答案的方法，确保当他们说“我们有 95% 的把握”时，他们真的名副其实。

技术摘要：用于半参数推断的 V 折 Jackknife

问题陈述
长期以来，自助法（bootstrap）因其广泛的适用性和极低的模型分析要求，一直是统计推断中的默认工具。然而，对于现代半参数和基于机器学习的估计量，其理论有效性在很大程度上仍未得到充分研究。在涉及高维扰动估计、自适应模型选择和机器学习算法的当代背景下，普通的非参数自助法往往会失效。有放回的重采样会扰动经验分布，从而改变数据自适应的估计路径（例如：调优参数的选择、内部交叉验证拆分以及拟合的扰动估计量）。因此，在自助样本上计算的估计量可能无法满足与原估计量相同的阶一展开式，从而导致推断失效。此外，对复杂估计量进行数百或数千次重新拟合的计算成本也非常高昂。因此，需要一种计算高效、在渐近线性估计量下具有理论依据，且不依赖于影响函数解析推导的推断框架。

方法论
本文提出将 V 折 Jackknife（分组或删除组 Jackknife）作为一种计算高效且具有理论依据的替代方案。该程序包括：

划分： 将规模为 $n$ 的样本划分为 $V$ 个不相交且大小近似相等的折叠 $\{I_1, \dots, I_V\}$ 。
留折估计： 为每个 $v=1, \dots, V$ ，在排除第 $v$ 折后的子样本上计算估计量 $\hat{\Psi}(P_{n,-v})$ 。
伪值构建： 计算定义的 Jackknife 伪值 $IC_{Jack}(v) = V\hat{\Psi}(P_n) - (V-1)\hat{\Psi}(P_{n,-v})$ 。
方差估计： 使用这些伪值的经验离散度来估计方差： $\hat{S}^2_{Jack} = (V-1)^{-1} \sum_{v=1}^V (IC_{Jack}(v) - \hat{\Psi}_{Jack}(P_n))^2$ 。
推断： 使用 Studentized 统计量和来自自由度为 $V-1$ 的 $t$ 分布（ $t_{V-1}$ ）的临界值来构建置信区间，而非使用标准正态分布。

该方法适用于路径可微参数的正则渐近线性估计量（例如：TMLE、单步估计量、增强型 IPW），并扩展到了影响函数方差随样本量发散的广义渐近线性估计量（例如：HAL 剂量-反应曲线）。

核心贡献
本文确立了六项主要的理论和方法论贡献：

固定 $V$ 的渐近理论： 作者将 Brillinger (1964) 从极大似然估计量扩展到了全类正则渐近线性估计量。他们证明了对于固定的 $V \ge 2$ ，Studentized V 折 Jackknife 统计量依分布收敛于 $t_{V-1}$ 分布。这使得即使在 $V$ 固定时 Jackknife 方差估计量不依概率收敛于真实渐近方差的情况下，也能实现有效的置信区间。
发散 $V$ 的一致性： 本文确立了当 $V \to \infty$ 时（受限于 $V = o(n)$ 及特定的余项稳定性条件），Jackknife 方差估计量以 $V^{-1/2}$ 的速率具有一致性。这支持了在使用 $V$ 缓慢增长（例如 $V = \log n$ ）时使用 Wald 型推断。
同时置信带： 作者开发了基于分组 Jackknife 的首个同时置信带构建方法。该方法利用了分量化 Studentized 极限分布，该分布考虑了折叠层级分母的 Wishart 结构。临界值通过从估计的相关矩阵进行蒙特卡洛模拟来计算，避免了对影响函数进行解析堆叠或大规模自助法重拟合的需求。
针对非 $\sqrt{n}$ 速率的尺度不变性： 该框架被扩展到影响函数方差发散的较慢收敛速率的估计量（例如 HAL 估计量）。研究表明 Studentization 过程具有尺度不变性；未知的发散速率在分子和分母中相互抵消，从而允许在无需显式推导或估计有效维度或收敛速率的情况下进行有效推断。
偏倚修正带： 本文引入了偏倚修正的同时置信带，通过绝对 Jackknife 偏倚估计 $|\hat{b}_j|$ 来加宽区间，以解决有限样本偏倚问题，这对于非平滑参数尤为重要。
经验验证： 在平均处理效应（TMLE）、Kaplan–Meier 生存曲线以及基于 HAL 的剂量-反应曲线上的广泛模拟实验证明了该方法的可靠性。

结果
模拟研究证实了 V 折 Jackknife 的理论特性：

标量推断 (ATE)： 在存在严重正值性违规或扰动模型误设的情景下，标准的基于影响函数的 (EIC) 方法和稳健方差估计量会出现显著的覆盖率不足（低至 70%）。使用 $t_{V-1}$ 临界值的 V 折 Jackknife 在所有场景下均能保持接近或高于名义 95% 的水平，即使在小样本量（ $n=200$ ）下也是如此。虽然在 $V$ 和 $n$ 较小时其区间比自助法区间更宽，但在其他方法失效的情况下，它们提供了可靠的覆盖率。
函数推断 (生存曲线)： 对于 Kaplan–Meier 估计量，V 折 Jackknife 产生的逐点及同时置信带与已建立的方法（Greenwood 公式、Hall–Wellner、自助法）相当。该方法能有效处理估计相关矩阵的奇异性问题（当评估点数量 $m$ 超过 $V-1$ 时），充分利用了相关结构的低有效秩特性。
非标准速率 (HAL 剂量-反应曲线)： 对于基于 HAL 的剂量-反应曲线，Delta 方法经常出现数值失败（产生 NA 标准误）和统计失败（在振荡场景下同时置信带出现严重的覆盖率不足，如 19.2%）。V 折 Jackknife 从未出现数值失败，并且在所有对比方法中始终实现了最高的覆盖率。偏倚修正带成功地在存在中度偏倚的设置中恢复了接近名义的覆盖率。

意义
本文声称，V 折 Jackknife 为现代半参数推断提供了一种实用、计算高效且具有理论依据的自助法替代方案。其意义在于三个方面：

计算效率： 它仅需要 $V$ 次重拟合（例如 5–20 次），而自助法则需要数百甚至数千次，这使得它对于基于机器学习的昂贵估计量而言是可行的。
理论鲁棒性： 它为渐近线性估计量提供了有效的推断，且无需进行复杂的解析影响函数推导，也不需要验证通常会被数据自适应算法违反的自助法有效性条件。
多功能性： 它通过尺度不变性自然地处理了非标准收敛速率和发散方差，这一特性允许从业者在无需了解有效维度或收敛速率的情况下，对复杂泛函（如剂量-反应曲线）进行推断。

作者强调，虽然固定 $V$ 的 $t_{V-1}$ 修正相对于正态近似提供了有限样本的改进，但该方法对于同时置信带和发散 $V$ 情景的有效性取决于底层估计量的折叠层级余项稳定性。在解析标准误难以获得、难以推导或数值不稳定时，该方法尤其具有价值。

技术摘要：用于半参数推断的 V 折 Jackknife

类似论文