Confidence envelopes for the false discoveries with heterogeneous data

1. 研究背景与问题定义 (Problem)

在多重假设检验（Multiple Testing）的选择性推断（Selective Inference）领域，核心目标是在用户根据数据任意选择子集 $S$ 后，提供关于该子集中**假阳性发现数（False Discoveries, FD）的统计保证。这种保证通常以置信包络（Confidence Envelopes）**的形式给出，即一个函数 $\hat{V}(S)$，使得以高概率对所有可能的子集 $S$，都有 $|S \cap H_0| \le \hat{V}(S)$。

现有方法的局限性：

• 同质性假设（Homogeneity）： 现有的主流方法（如 Genovese 2006, Blanchard 2020, MBR2024 等）通常假设在原假设下，所有 $p$-值均服从 $[0, 1]$ 上的均匀分布（Uniform distribution）。
• 异质性与离散性（Heterogeneity & Discreteness）： 在实际应用（如基因表达分析、fMRI、离散数据的 Fisher 精确检验）中，数据往往是异质的（不同假设检验的 $p$-值分布不同）且离散的。
• 后果： 如果直接套用基于均匀分布假设的“同质”置信包络方法，会导致严重的保守性（Conservativeness）。即，估计的假阳性数量 $\hat{V}(S)$ 会远大于实际值，从而降低了统计功效（Power），导致许多真实的发现被遗漏。

核心问题： 如何在已知原假设下 $p$-值具有异质且离散分布（即已知每个 $p$-值的累积分布函数 $F_i$ 或其上界）的情况下，构建更紧（更不保守）的置信包络？

---

2. 方法论 (Methodology)

本文提出了一套系统的框架，将现有的同质理论扩展至异质场景，主要包含以下三个核心部分：

2.1 形式化框架与假设

• 假设 1 (超均匀性)： 原假设下的 $p$-值 $p_i$ 满足 $P(p_i \le x) \le x$。
• 假设 2 (独立性)： 原假设下的 $p$-值相互独立。
• 假设 3 (异质下界)： 对于每个 $i$，已知其分布函数 $F_i(x)$ 的上界（即 $P(p_i \le x) \le F_i(x)$）。这允许利用已知的离散分布信息。

2.2 通用捷径与反演程序 (General Shortcuts & Inversion Procedure)

• 反演程序（Inversion Procedure）： 基于局部检验（Local Tests）$\phi_A$ 构建置信包络。传统上，计算该程序是 NP-hard 的。
• 新捷径（Shortcuts）： 作者提出了一类新的通用捷径，适用于局部检验具有特定结构（如基于经验累积分布函数 ecdf 的包络）的情况。
  • 定义了统计量 $\phi_{S,n,t}$，并证明了在多项式时间内可计算。
  • 关键发现： 在同质情况下，这些捷径与反演程序是精确等价的。这意味着作者不仅提供了计算方法，还从理论上验证了某些自适应方法（如 MBR2024 中的自适应 Simes 和 DKW 方法）的最优性。

2.3 异质概率不等式 (Heterogeneous Probabilistic Inequalities)

为了处理异质性，作者推导了两种新的不等式，用于构建局部检验：

1. Bretagnolle 不等式（异质 DKW）：
   • 这是 DKW 不等式（Dvoretzky-Kiefer-Wolfowitz）的异质推广。
   • 利用已知分布 $F_i$ 的均值 $\bar{F}$ 来替代均匀分布假设，并引入修正项以处理异质性带来的方差增加。
   • 形式：$\sqrt{N} \sup | \frac{1}{N}\sum 1\{X_i \le t\} - \bar{K}(t) | > \lambda$ 的概率被控制。
2. 异质 Simes 型不等式：
   • 基于 Döhler (2018) 的异质 FDR 控制方法。
   • 通过定义阈值族 $\tau$ 和条件 (C1)，推导出适用于异质 $p$-值的 Simes 型不等式。
   • 允许构建自适应的阈值，利用数据驱动的方式估计原假设数量 $m_0$。

2.4 基于参考族（Reference Families）的置信包络构建

利用上述不等式构建局部检验，并结合 JER（Joint Error Rate，联合错误率） 框架：

• Top-k 设置： 针对前 $k$ 个最小 $p$-值构建包络。
• k-FWER 设置： 针对控制 $k$-族错误率构建包络。
• 确定性设置： 针对预先定义的子集构建包络。
• 自适应版本： 利用上述不等式导出的 $m_0$（原假设数量）的上界估计量，构建自适应的置信包络，进一步降低保守性。

---

3. 主要贡献 (Key Contributions)

1. 理论桥梁： 将基于局部检验的反演程序（Inversion Procedure）与基于参考族的 JER 方法在理论上进行了统一和扩展，特别是在异质数据场景下。
2. 新捷径与最优性证明：
   • 提出了计算反演程序的新多项式时间捷径。
   • 证明了在同质情况下，这些捷径是精确的（Exact），从而形式化地验证了 MBR2024 中自适应 DKW 和 Simes 方法的最优性。
3. 异质不等式推导：
   • 提出了改进的 Bretagnolle 不等式，作为异质 DKW 不等式。
   • 提出了新的 异质 Simes 型不等式，基于 FDR 控制理论。
4. 自适应置信包络：
   • 基于上述不等式，构建了针对 Top-k、k-FWER 和确定性设置的自适应置信包络。
   • 这些包络利用数据的异质性信息（$F_i$），显著优于直接应用同质假设的方法。
5. 数值验证： 通过模拟实验（基于 Fisher 精确检验的离散数据），展示了新方法在统计功效上的显著提升。

---

4. 实验结果 (Results)

作者通过数值模拟（设置 $m=2000$，模拟二项分布数据）对比了以下方法：

• 同质方法： 基于均匀分布假设的 DKW 和 Simes 包络（包括自适应版本）。
• 异质方法： 本文提出的 Bretagnolle 包络和异质 Simes 包络（包括自适应版本）。

关键发现：

1. 功效提升（Power Gain）： 在异质数据场景下，本文提出的异质包络（特别是自适应版本）给出的假阳性上界 $\hat{V}(S)$ 显著低于同质方法。这意味着在相同的置信水平下，能检测到更多的真实发现（True Positives）。
2. Bretagnolle vs. DKW：
   • 在 $p$-值较小（强信号）区域，Bretagnolle 包络有时比 DKW 更保守（由于异质修正项），但在 $p$-值较大或信号较弱时，Bretagnolle 能检测到 DKW 无法检测到的信号。
   • 自适应版本在强信号下表现最佳。
3. 异质 Simes vs. 同质 Simes：
   • 异质 Simes 方法在中等到强信号下，比同质 Simes 方法更不保守，能提供更紧的界限。
   • 在弱信号下，两者表现接近（继承了同质 Simes 的特性）。
4. 与其他方法对比： 与 Katsevich-Ramdas (2020) 和 MBR2024 的自适应方法相比，本文的异质方法在 $p$-值分布的特定区域（如尾部）提供了更优的界限。

---

5. 意义与展望 (Significance & Perspectives)

科学意义：

• 解决保守性痛点： 本文解决了离散和异质数据多重检验中过度保守的长期问题，使得统计推断在基因学、神经影像学等实际应用中更加高效。
• 理论深化： 通过证明捷径的精确性，加深了对反演程序与 JER 方法之间等价关系的理解，为未来算法设计提供了理论基石。
• 通用性： 提出的框架不依赖于特定的分布形式，只要已知 $p$-值的分布上界即可应用。

实际应用价值：

• 为处理离散数据（如计数数据、基因型数据）提供了现成的统计工具。
• 允许研究人员在保持严格错误率控制的同时，挖掘更多潜在的生物学或医学发现。

未来展望：

• 尝试推导 Katsevich-Ramdas (2020) 不等式和均匀 Wellner 不等式的异质版本，以覆盖更多 $p$-值区域。
• 进一步探索在依赖结构（Dependence）下的异质置信包络构建。

---

总结：
这篇论文通过引入针对异质数据的新型概率不等式（Bretagnolle 和异质 Simes），并结合高效的计算捷径，成功构建了比现有同质方法更不保守、功效更高的置信包络。这不仅填补了选择性推断在异质离散数据领域的理论空白，也为实际数据分析提供了强有力的工具。