General Frameworks for Conditional Two-Sample Testing

技术摘要：条件双样本检验的通用框架

问题设定
本文探讨了条件双样本检验问题，旨在确定在考虑潜在混杂因素后，两个总体在给定协变量 $X$ 时响应变量 $Y$ 的条件分布是否相同。形式上，给定两个独立样本 $\{(X^{(1)}_i, Y^{(1)}_i)\}_{i=1}^{n_1} \sim P^{(1)}_{XY}$ 和 $\{(X^{(2)}_i, Y^{(2)}_i)\}_{i=1}^{n_2} \sim P^{(2)}_{XY}$，目标是检验原假设：
$$H_0: P^{(1)}_{Y|X}(\cdot | X) = P^{(2)}_{Y|X}(\cdot | X) \quad \text{几乎处处成立}$$
对立假设为两者以正概率不同。该问题出现在关键应用中，例如域适应（验证协变量偏移假设）和算法公平性（检测基于人口统计属性的条件偏差）。

困难性结果
作者首先建立了该问题的根本困难性结果。他们证明，若无额外假设，当条件变量 $X$ 为连续变量时，任何有效的条件双样本检验都无法对任何单一备择假设具有非平凡的效力。这一发现与 Shah 和 Peters (2020) 确立的条件独立性检验的负面结果相平行。其证明中的一个关键技术区别在于，与组指示符为随机的标准条件独立性设定不同，双样本问题中的样本量 $n_1$ 和 $n_2$ 是确定性的。作者利用集中性论证弥合了这一差距，表明该问题本质上依然困难，需要结构性假设（例如密度比的平滑性或有界性）才能使问题可行。

方法论框架
为了克服这些困难，本文引入了两个通用框架，通过隐式或显式地纳入合理假设来实现有效检验。

1. 基于条件独立性检验（CIT）的框架
第一个框架利用了条件双样本检验与条件独立性检验之间的等价性。通过引入二元组指示符 $Z$，问题 $P^{(1)}_{Y|X} = P^{(2)}_{Y|X}$ 等价于检验 $Y \perp\!\!\!\perp Z \mid X$。

• 算法 1：作者提出了一种通用的“黑盒”转换方法，将任何现有的条件独立性检验转化为条件双样本检验。该算法基于二项分布从原始固定大小的组中重采样，构建一个独立同分布的三元组 $(X, Y, Z)$ 数据集。如果重采样的大小超过原始组的大小，则接受原假设；否则，对置换后的数据应用标准的条件独立性检验。
• 理论保证：定理 2 证明，只要检验统计量是“耦合稳定”的，或者重采样损失渐近可忽略，这种转换就保留了底层条件独立性检验的渐近有效性（I 类错误控制）和一致性（效力）。

2. 基于密度比估计（DRT）的框架
第二个框架利用密度比估计将条件比较转化为边际比较。

• 原理：原假设成立当且仅当联合密度 $f^{(1)}_{XY}$ 等于 $f^{(2)}_{XY}$ 的重新加权版本，具体为 $f^{(1)}_{XY}(x,y) = r_X(x) f^{(2)}_{XY}(x,y)$，其中 $r_X(x) = f^{(1)}_X(x)/f^{(2)}_X(x)$ 是边际密度比。
• 实现：该问题被重构为 $f^{(1)}_{XY}$ 与重新加权的 $f^{(2)}_{XY}$ 之间的边际双样本检验。作者通过两种具体方法演示了这一点：
  • 基于分类器的方法：训练一个分类器来区分两组，其中第二组的损失函数由估计的密度比 $r_X$ 加权。
  • 基于核的方法（MMD）：使用带重要性加权的最大均值差异。作者提出了一种由参数 $\gamma \in [0, 1]$ 控制的统一分块 MMD 统计量。
    • 情形 I（$0 \le \gamma < 1$）：使用分块 U 统计量以实现渐近正态性。
    • 情形 II（$\gamma = 1$）：恢复标准的二次时间 MMD，并通过乘子自举法进行校准以处理非高斯极限分布。
• 样本分割：为避免插入偏差，作者采用样本分割（或交叉拟合）将 $r_X$ 的估计与检验统计量的评估分离开来。

主要贡献

1. 困难性刻画：严格证明了在连续条件下，条件双样本检验与条件独立性检验同样困难，强调了假设的必要性。
2. 通用转换算法：一种新颖的算法（算法 1），允许从业者将任何现有的条件独立性检验应用于双样本设定，同时保持理论保证。
3. 密度比框架：一个灵活的框架，通过密度比将条件检验转化为边际检验，并具体化为基于分类器和基于核的方法。
4. 统一 MMD 理论：统一 MMD 框架的理论发展，涵盖线性时间（分块）和二次时间情形，包括后者的自举校准。

结果与实证发现
本文在合成数据（涵盖线性、高方差和后非线性模型）和真实世界数据集（Diamonds 和 Superconductivity）上评估了所提出的方法。

• 合成数据：
  • DRT 方法（依赖密度比）在边际密度比有界且易于估计时显示出更优越的效力。
  • CIT 方法（通过算法 1）和条件核方法（CMMD, CGED）对无界密度比更具鲁棒性，但在特定的高方差场景中可能表现不佳。
  • 没有单一方法在所有情况下都占主导地位；性能高度依赖于数据生成机制和密度比估计的难度。
• 真实数据：
  • 在高维设定下（Superconductivity 数据集），密度比估计器的选择至关重要。线性逻辑回归（LLR）未能控制 I 类错误，而核逻辑回归（KLR）恢复了有效性，尽管计算成本更高。
  • 条件核方法（CMMD, CGED）取得了具有竞争力的效力，但计算成本显著更高（比其他方法慢几个数量级）。

意义与主张
本文声称为条件双样本检验提供了系统基础，该问题在非参数统计中此前探索不足。通过确立固有的困难性并提供两个不同的、有理论依据的框架，这项工作扩展了从业者可用的工具箱。

• CIT 框架提供了一条实用途径，利用条件独立性检验的广泛文献来解决双样本问题。
• DRT 框架将条件检验与已深入研究的加权重要性和边际检验领域联系起来，在方法选择（分类与核）上提供了灵活性。
• 作者强调，这些方法的有效性依赖于特定假设（例如密度比的有界性或可估计性），并提供了关于不同数据情形下计算成本、效力和 I 类错误控制之间权衡的实证指导。

文章最后指出了未来的方向，例如将框架扩展到条件 $K$ 样本检验（$K \ge 2$），以及探索基于重采样的方法，如采样重要性重采样（SIR）。