Improving the adjusted Benjamini--Hochberg method using e-values in knockoff-assisted variable selection

这是一份关于论文《Improving the adjusted Benjamini-Hochberg method using e-values in knockoff-assisted variable selection》（利用 e 值改进 knockoff 辅助变量选择中的调整 Benjamini-Hochberg 方法）的详细技术总结。

1. 研究背景与问题 (Problem)

• 核心问题：在高维线性回归模型（$Y = X\beta + \varepsilon$）中进行变量选择，即检验假设 $H_j: \beta_j = 0$。这是一个多重假设检验问题，需要控制错误发现率 (FDR)。
• 现有方法的局限性：
  • Knockoff 方法 (Barber & Candès, 2015)：一种无需 p 值的 FDR 控制方法，但在信号微弱（weak signal）、目标 FDR 较低或信号数量较少时，统计功效（Power）往往较低。
  • Bon-BH 方法 (Sarkar & Tang, 2021)：利用 Knockoff 构造辅助统计量，结合两阶段 p 值（$P^{(1)}$ 和 $P^{(2)}$）的 Bonferroni-Benjamini-Hochberg 方法。虽然比原始 Knockoff 方法在弱信号下表现更好，但其本质是两阶段 p 值处理的一种特例，缺乏灵活性。
  • 依赖结构：在有限样本下，统计量之间的依赖结构复杂，传统 BH 方法难以直接应用。

2. 方法论 (Methodology)

本文提出了一种基于 p 值到 e 值校准 (p-to-e calibration) 的统一框架，将 Sarkar 和 Tang 的方法重新解释为一种未归一化的 e 值加权 BH 程序的特例，并在此基础上提出了三种改进方法。

核心概念

• e 值 (E-values)：一种新兴的推断工具，用于衡量反对零假设的证据强度。p 值可以通过校准器（calibrator）$g(\cdot)$ 转换为 e 值：$S = g(P)$。
• 两阶段框架：
  1. 第一阶段：利用原始设计矩阵 $X$ 和 Knockoff 矩阵 $\tilde{X}$ 构造第一组统计量，生成 p 值 $P^{(1)}$。
  2. 第二阶段：构造第二组统计量，生成 p 值 $P^{(2)}$。
  3. 结合：将 $P^{(1)}$ 转换为 e 值 $S^{(1)}$，作为权重来调整 $P^{(2)}$ 的显著性。

提出的三种方法

1. 方法 1 (e-value weighted BH)：

   • 将 $P^{(1)}$ 转换为 e 值 $S^{(1)}$。
   • 构造调整后的 p 值：$\tilde{P}_j = P^{(2)}_j / S^{(1)}_j$。
   • 直接应用标准的 BH 程序。
   • 特点：提供有限样本的 FDR 控制（在 $\sigma^2$ 已知或条件独立假设下），无需估计零假设比例。

2. 方法 2 (Adaptive e-value weighted BH)：

   • 引入 Storey 估计量 $\hat{\pi}_0$ 来估计真实零假设的比例。
   • 构造调整后的 p 值：$P^*_j = \frac{\hat{\pi}_0 P^{(2)}_j}{I(P^{(2)}_j \le \lambda) S^{(1)}_j}$。
   • 特点：通过自适应调整提高了功效，提供渐近 FDR 控制。

3. 方法 3 (Adaptive Weighted BH)：

   • 将 e 值标准化为权重 $W_j$（使得权重和为 $m$）。
   • 使用加权版本的 Storey 估计量 $\hat{\delta}_0$ 来估计零假设比例。
   • 应用自适应加权 BH 程序。
   • 特点：同样提供渐近 FDR 控制，通过标准化处理 e 值的异质性，在稀疏信号和高维场景下可能表现更优。

关键创新：有界校准器 (Bounded Calibrators)

• 作者指出 Sarkar 和 Tang 的方法对应于一种极端的“全有或全无”（all-or-nothing）校准器。
• 本文建议使用有界且连续的校准器（例如 $g(t) = C(1-t^a)$），以避免极端值带来的方差膨胀，使权重分配更加平滑和灵活。
• 这种改进使得方法在保持理论有效性的同时，在经验上表现更好。

3. 主要贡献 (Key Contributions)

1. 理论统一：将 Sarkar 和 Tang 的 Bon-BH 方法识别为本文提出的通用 e 值加权框架的一个特例（对应特定的极端校准器）。
2. 新框架提出：建立了一个基于 Knockoff 辅助和 p-to-e 校准的统一多重检验框架，能够构建有效的两阶段变量选择程序。
3. 三种新算法：提出了三种具体的 FDR 控制方法（基础版、自适应版、加权自适应版），并证明了它们在有限样本或渐近意义下的 FDR 控制性质。
4. 校准器优化：引入了有界校准器的概念，解决了极端校准器可能导致的数值不稳定性，并提供了更优的实证表现。

4. 实验结果 (Results)

模拟研究 (Simulation Study)

• 设置：在不同样本量 ($n$)、变量数 ($m$)、非零系数数量 ($k$)、信号强度 ($\gamma$) 和自相关结构 ($\rho$) 下进行比较。
• 对比对象：原始 Knockoff 方法 (M0)、Sarkar & Tang 的 Bon-BH (M1) 和自适应 Bon-BH (M2)、本文提出的三种方法 (M3, M4, M5)。
• 发现：
  • FDR 控制：所有方法均能良好控制 FDR。方法 3 (M3) 在有限样本下表现出严格的 FDR 控制，符合理论预期。
  • 统计功效 (Power)：
    • 在弱信号、低目标 FDR ($\alpha=0.05$) 和稀疏信号场景下，本文提出的方法 (M3-M5) 显著优于原始 Knockoff 方法 (M0) 和 Sarkar & Tang 的方法 (M1, M2)。
    • 原始 Knockoff 方法在弱信号下过于保守，几乎无发现。
    • 在强信号和大样本下，Knockoff 方法表现良好，但本文方法仍保持竞争力。
  • 稳健性：在多重共线性较高 ($\rho=0.9$) 的情况下，所有方法性能下降，但相对优劣关系保持不变。

真实数据分析 (HIV-1 药物抗性)

• 数据集：HIV-1 蛋白酶抑制剂 (PI) 药物抗性数据集，包含 846 个样本和 99 个基因位点。
• 结果：
  • 在 $\alpha=0.05$ 和 $\alpha=0.1$ 水平下，本文提出的方法 (M3-M5) 检测到的突变位点数量明显多于原始 Knockoff 方法 (M0 甚至未检测到显著位点) 和 Sarkar & Tang 的方法。
  • 检测到的位点中，既有已知生物学支持的位点（蓝色），也有新的发现（橙色），证明了方法在发现新生物标记物方面的潜力。

5. 意义与结论 (Significance)

• 理论意义：成功将 e 值理论引入 Knockoff 辅助的变量选择中，为多重检验提供了一种新的加权视角，统一了现有的 p 值方法和新兴的 e 值方法。
• 实际应用价值：
  • 解决了高维数据中弱信号检测难的问题，特别适用于基因组学等信号稀疏且微弱的领域。
  • 提供了一种比原始 Knockoff 方法更灵活、比传统两阶段 p 值方法更稳健的替代方案。
• 未来方向：
  • 扩展到广义线性模型 (GLMs)。
  • 探索更优的校准器选择。
  • 研究其他类型 I 错误指标（如 k-FDR）的扩展。

总结：该论文通过引入 e 值作为权重，并优化校准策略，显著改进了基于 Knockoff 的变量选择方法。在保持 FDR 严格控制的前提下，特别是在信号微弱和样本量有限的实际场景中，大幅提升了统计功效，为高维数据变量选择提供了强有力的新工具。