Testing conditional independence under isotonicity

这是一份关于论文《Testing conditional independence under isotonicity》（在等距性假设下检验条件独立性）的详细技术总结。

1. 研究背景与问题定义

核心问题：
条件独立性（Conditional Independence, CI）检验是统计学中的核心挑战，广泛应用于变量选择、图形模型和因果推断。然而，Shah 和 Peters (2020) 证明了在没有任何额外假设的情况下，构建分布无关（distribution-free）的条件独立性检验是本质上困难的（fundamentally hard）：任何有效的检验在零假设下的功效（power）都不超过其第一类错误率（即检验是无效的）。

现有方法的局限性：
现有的解决方案通常依赖于以下强假设之一：

1. 参数模型（如联合高斯分布）。
2. 已知或可精确估计的条件分布 $P_{X|Z}$。
3. 平滑性假设（如 $P_{X|Z}$ 属于 Hölder 类）。
   这些方法往往需要指定模型结构或进行复杂的分布估计，限制了其适用性。

本文的切入点：
本文提出了一种新的非参数框架，仅假设条件分布 $P_{X|Z}$ 满足随机单调性（Stochastic Monotonicity）。即假设 $X$ 随 $Z$ 的增加而随机非减（$z \preceq z' \implies P(X \ge x | Z=z) \le P(X \ge x | Z=z')$）。这种假设在许多实际应用（如生物医学、经济学、信用风险）中是自然且合理的，且不需要估计具体的分布形式或选择调参参数。

2. 方法论：PairSwap-ICI 检验

作者提出了一种名为 PairSwap-ICI 的检验程序，用于检验受限的零假设：
$$H_0^{ICI}: X \perp\!\!\!\perp Y \mid Z \quad \text{且} \quad P_{X|Z} \text{ 满足随机单调性假设}$$

核心思想：
利用配对（Pairing）和置换（Permutation）的思想。如果 $X \perp\!\!\!\perp Y \mid Z$ 且 $X$ 随 $Z$ 单调非减，那么对于满足 $Z_i \preceq Z_j$ 的配对 $(i, j)$，在零假设下，$X_i$ 应该倾向于小于或等于 $X_j$。如果 $Y$ 对 $X$ 有影响，这种单调关系可能会被破坏。

具体步骤：

1. 数据配对 (Matching)：
   基于 $Y$ 和 $Z$（不依赖 $X$），分析师选择一系列有序对 $(i_\ell, j_\ell)$，满足 $Z_{i_\ell} \preceq Z_{j_\ell}$。

   • 邻域匹配 (Neighbor Matching)： 将 $Z$ 排序后，取相邻的点对。
   • 跨箱匹配 (Cross-bin Matching)： 将 $Z$ 分箱，匹配相邻箱中 $Y$ 值差异最大的点对（如箱 $k$ 中 $Y$ 最大的点与箱 $k+1$ 中 $Y$ 最小的点配对）。

2. 定义统计量 (Test Statistic)：
   定义一个反单调（anti-monotonic）函数 $\psi: \mathbb{R} \times \mathbb{R} \to \mathbb{R}$（例如 $\psi(x, x') = x - x'$ 或 $\text{sign}(x-x')$）。
   统计量 $T$ 定义为配对差值的加权和：
   $$T(X) = \sum_{\ell=1}^L w_\ell \psi(X_{i_\ell}, X_{j_\ell})$$
   其中权重 $w_\ell$ 可以依赖于 $Y$ 和 $Z$（例如 $w_\ell = \max(Y_{i_\ell} - Y_{j_\ell}, 0)$）。

3. 置换检验 (Permutation Test)：
   为了校准 $p$ 值，在每对 $(i_\ell, j_\ell)$ 内部随机交换 $X$ 的值。

   • 定义置换向量 $s \in \{\pm 1\}^L$，若 $s_\ell = -1$ 则交换 $X_{i_\ell}$ 和 $X_{j_\ell}$。
   • 计算置换后的统计量 $T_s$。
   • $p$ 值定义为：
     $$p = \frac{1}{2^L} \sum_{s \in \{\pm 1\}^L} \mathbb{I}\{T_s \ge T\}$$
   • 在实际操作中，通常使用蒙特卡洛近似（Monte Carlo approximation）。

3. 主要理论贡献

1. 有限样本第一类错误控制 (Finite-sample Type I Error Control)：
   定理 2 证明了在零假设 $H_0^{ICI}$ 下，无论配对方式或统计量如何选择（只要满足反单调性），该检验都能严格控制第一类错误率（$P(p \le \alpha) \le \alpha$）。这是非渐近的（finite-sample），不依赖于样本量大小。

2. 功效分析 (Power Analysis)：

   • 引入了等距信噪比 (Isotonic Signal-to-Noise Ratio, ISNR) 的概念，用于量化备择假设与零假设之间的距离。
   • 定理 5 给出了检验功效的渐近表达式，表明功效由配对权重与信号差值的信噪比决定。
   • 定理 7 证明了 ISNR 是任何有效检验功效的上界。
   • 定理 8 & 9 表明，当使用“神谕”（Oracle）权重或基于独立数据估计的“插入”（Plug-in）权重时，PairSwap-ICI 检验的功效可以达到理论上限。

3. 多变量扩展：
   第 5 节 将方法推广到多维响应变量 $X \in \mathbb{R}^{d_X}$ 的情况，通过投影到正象限方向来保持单调性结构，并证明了同样的有限样本有效性。

4. 实验结果

1. 模拟实验：

   • 第一类错误控制： 在不同单调强度下，PairSwap-ICI 均表现出良好的有限样本控制，且比某些渐近方法（如 CRT, PCM）更稳健。
   • 功效表现： 在部分线性模型下，当信噪比超过临界值时，检验功效趋近于 1。
   • 匹配策略对比： “跨箱匹配”（Cross-bin matching）通常比“邻域匹配”（Neighbor matching）具有更高的功效，因为它利用了更多的数据点，尽管在单调性较弱时可能稍显保守。

2. 真实数据应用（糖尿病风险因素）：

   • 使用 Pima 印第安人糖尿病数据集，检验在控制年龄（$Z$）后，其他变量（如血糖、BMI 等）是否与糖尿病发病（$X$）独立。
   • 结果： 边际独立性检验显示多个变量显著，但在控制年龄后，PairSwap-ICI 仅识别出血糖 (Glucose) 和 BMI 为显著风险因素。这与医学常识一致，且展示了该方法在消除混杂因素后的有效性。
   • 合成控制验证： 使用合成数据验证了当零假设成立时，$p$ 值服从均匀分布，证实了检验的有效性。

5. 意义与结论

• 无需分布假设： 该方法不需要假设 $X|Z$ 的具体分布形式，也不需要估计条件分布，仅需满足形状约束（随机单调性）。
• 有限样本保证： 与许多基于渐近理论的方法不同，PairSwap-ICI 提供了严格的有限样本第一类错误控制，这对于小样本或高维数据至关重要。
• 灵活性： 允许分析师根据领域知识灵活设计配对策略和统计量，以最大化检验功效。
• 应用价值： 为在存在混杂因素且具备单调性先验知识的场景下（如剂量 - 反应关系、教育 - 收入关系等）进行因果推断和变量选择提供了强有力的工具。

总结：
本文通过引入随机单调性这一自然且实用的形状约束，成功绕过了条件独立性检验的“不可能性”障碍。提出的 PairSwap-ICI 检验不仅具有坚实的理论基础（有限样本有效性、渐近最优性），而且在模拟和真实数据中表现出优异的性能，填补了非参数条件独立性检验领域的一个重要空白。