A Decision Rule for Multi-null Multinomial Testing via Jensen-Shannon Geometry

技术摘要：基于 Jensen-Shannon 几何的多空假设多项式检验决策规则

问题陈述
本文研究了多空假设多项式检验问题（multi-null multinomial testing problem），这是一个统计学挑战，其中观测到的类别直方图 $h$（由 $n$ 个观测值分布在 $k$ 个类别中组成）必须针对一组完全指定的候选空假设分布 $(p_\ell)_{\ell=1}^L$ 进行评估。其目标有两个：首先，判断数据是否与至少一个候选分布一致；其次，如果一致，则识别出最合理的分布。如果没有任何候选分布是一致的，该规则必须拒绝所有候选分布。

这种表述不同于传统的“一对比多”拟合优度（GOF）检验（此时 $L=1$），也不同于通过估计分布来进行的两样本等价性检验。该问题出现在诸如基因组学（密码子使用归因）、语料库语言学（作者归因）和遥感（土地覆盖分类）等应用领域。

现有方法的局限性
作者认为，标准方法在稀疏状态下（即 $k$ 相对于 $n$ 很大，例如密码子使用的 $k=64$ 或光谱数据的 $k \approx 200$）表现不佳：

• 幂散度统计量（如 $\chi^2$、G-检验）： 依赖于渐近 $\chi^2$ 收敛，当期望单元计数较低时，这种收敛会失效。G-检验在观测分布与空假设分布支持集不重叠时还会出现不稳定性。
• 核方法（如 MMD、KSD）： 虽然是非参数性的，但它们依赖于超参数（核函数选择、带宽），而在离散单样本设置中，无法获得精确的有限样本 Type-I 错误保证。
• 标准多空假设补救措施： 运行 $L$ 个独立的检验并使用 Holm 校正是非常保守的，其扩展性随 $L$ 的增加而变差，且输出的是 $L$ 个二元决策，而非单一连贯的选择。

方法论：MN2 决策规则
本文提出了 MN2（Multi-Null Non-parametric multinomial test，多空假设非参数多项式检验），这是一种基于 Jensen-Shannon 距离 (JSd) 的统一决策规则。

1. 度量基础： MN2 利用 JSd，其定义为 Jensen-Shannon 散度的平方根。与 KL 散度不同，JSd 在 $[0, 1]$ 范围内有界，具有对称性，并满足三角不等式，使其成为概率单纯形上的一个真正的度量。
2. 决策逻辑：
   • 对于每个空假设 $H_\ell^0: p = p_\ell$，根据 $JSd(H/n, p_\ell)$ 的空假设分布计算 p 值。
   • 该规则定义了一个非拒绝假设集合 $N_n^\alpha(h) = \{ \ell : p_{n,\ell}(h) > \alpha_\ell \}$，其中 $\alpha_\ell$ 是异质的目标显著性水平。
   • 选择： 如果 $N_n^\alpha(h)$ 为空，则规则拒绝所有候选分布（输出 $\perp$）。否则，在非拒绝集合中选择具有最大 p 值的索引 $\ell$（若存在平局，则取最小索引）。
3. 计算： p 值通过 JSd 在空假设下的累积分布函数 (CDF) 推导得出。论文提供了三种计算方法：
   • 精确枚举： 对所有满足 $|h|_1 = n$ 的直方图进行多项式时间枚举（对于中等规模的 $n, k$ 是可行的）。
   • 蒙特卡洛 (MC)： 通过从多项式分布中采样来近似 CDF。
   • 高斯近似： 对于大 $n$ 情况下的中心极限定理 (CLT) 近似，使用经过数值修正的高斯样本来近似多项式分布。

核心理论贡献
作者建立了三项现有方法无法同时提供的严格保证：

1. 有限样本 Type-I 错误控制： 定理 1 证明，对于任何固定的样本量 $n$，该决策规则都能在目标水平 $\alpha_\ell$ 下控制每个空假设的 Type-I 错误。这是通过针对精确（或 MC 近似）多项式 CDF 进行校准而非使用渐近近似而产生的结构性结果。因此，家族误差率 (FWER) 被限制在 $\max \{\alpha_\ell\}$ 之内。
2. 强一致性： 定理 2 表明，在显著性计划满足温和的可求和条件（$\sum \alpha_n < \infty$）下，该决策规则在 $n \to \infty$ 时几乎处处收敛到正确的选择（即正确的空假设或拒绝所有候选）。
3. 非渐近 Type-II 错误界限： 定理 3 提供了一个有限样本下的 Type-II 错误上限，该上限相对于备选分布与空假设集之间的最小 JSd 间隔以高斯速率衰减。该界限依赖于 JSd 的度量属性和 McDiarmid 不等式，这是幂散度和核基准方法所缺失的特性。

实验结果
通过合成和半合成实验对该方法进行了验证：

• 合成场景： 在四个稀疏程度递增（$k$ 高达 25，$L$ 高达 8）的场景中，MN2 在所有 $n$ 下均保持 Type-I 错误低于目标值 (0.05)。相比之下，$\chi^2$+Holm 在稀疏状态下表现出显著的误差膨胀，而 G-test+Holm 的功效则趋于接近零。MN2 在稀疏设置下的 Type-II 错误收敛速度也快于 MMD+Holm。
• 基因组学（半合成）： 使用真实的密码子使用谱 (CUTG) 作为空假设（$k=64$）并结合合成观测值，MN2 在字母表大小 $k \in [8, 512]$ 且 $L$ 高达 50 的情况下仍能控制 Type-I 错误。在 $n=50$ 时，它实现了 66–80% 的正确归因率，并在 $n \approx 800$ 时将误分类率降低至 $<1\%$。
• 真实数据： 应用于 NCBI RefSeq 编码序列，MN2 即使在观测值偏离严格多项式模型时也表现出稳健的行为。
• 效率： 由于使用了预计算的 CDF，MN2 的摊还运行时间比幂散度基准方法快 5–10 倍。

意义与主张
本文声称，MN2 为多空假设选择问题提供了一个连贯的、非参数化的解决方案，并且在经典统计学失效的稀疏状态下具有稳健性。其主要意义在于，无需除了多项式模型之外的分布假设或用户调优的超参数，即可提供精确的有限样本保证（Type-I 控制和 Type-II 界限）。作者强调，虽然 Type-I 控制是校准方法（精确 CDF）的结果，但 Jensen-Shannon 几何对于实现可计算性（通过多项式枚举）以及推导非渐近 Type-II 错误界限至关重要。该方法已在 mn-squared Python 包中实现。