論文「Besag-Clifford e-values for unnormalized testing」の技術的サマリー

この論文は、正規化定数が未知の確率分布（未正規化分布）に対する仮説検定において、有効な**e 値（e-values）**を構築するための新しい手法「Besag-Clifford e 値」を提案するものです。マルコフ連鎖モンテカルロ（MCMC）アルゴリズムと Besag-Clifford の並列サンプリング法を組み合わせることで、尤度比検定の不可能性を克服し、任意の反復回数やアルゴリズムステップ数に対して妥当な検定を可能にします。

以下に、問題設定、手法、主要な貢献、結果、および意義について詳細にまとめます。

1. 背景と問題設定

• 未正規化分布の課題:
  機械学習（マルコフ確率場、制限付きボルツマンマシン、積の専門家モデルなど）やベイズ推論では、正規化定数（分配関数）が解析的に計算できない未正規化分布 $p(x) \propto g(x)$ が頻繁に使用されます。
• 尤度比検定の不可能性:
  単純な帰無仮説 $P$ と対立仮説 $Q$ に対する尤度比 $E(X) = q(X)/p(X)$ は、Neyman-Pearson の補題により最も検出力の高い e 変数となります。しかし、$p(x)$ や $q(x)$ の正規化定数が未知の場合、尤度比そのものを計算できず、したがって尤度比に基づく検定は実行不可能です。
• 既存手法の限界:
  MCMC は未正規化分布から近似サンプリングできますが、通常の MCMC サンプルは自己相関を持ち、帰無仮説下での交換性（exchangeability）が保証されないため、単純な p 値や e 値の構築には適用が困難でした。また、既存の Monte Carlo 検定は主に p 値に基づいており、逐次検定や事後解析（post-hoc analysis）における Type 1 誤差制御の保証が e 値ほど強固ではありません。

2. 提案手法：Besag-Clifford e 値

著者らは、Besag と Clifford (1989) が提案した**並列法（Parallel Method）**を拡張し、未正規化尤度比（ULR）を正規化して有効な e 値に変換する手法を提案しました。

核心的なアイデア

1. 交換性の確保:
   観測データ $X$ と、MCMC によって生成された $M$ 個のサンプル $Y^{(1)}, \dots, Y^{(M)}$ が、帰無仮説 $P$ の下で**交換可能（exchangeable）**になるようにサンプリングを行います。

   • アルゴリズム 1（Besag-Clifford 並列法）:
     • 観測値 $X$ から、$J$ ステップだけ逆方向にマルコフ連鎖を進め、中間状態 $Y^{(0)}$ を生成します（逆転遷移核 $V^J$ を使用）。
     • この $Y^{(0)}$ から、$J$ ステップだけ順方向に $M$ 個の独立な鎖を並列に実行し、$Y^{(1)}, \dots, Y^{(M)}$ を生成します。
   • この構成により、$P$ が真であれば $(X, Y^{(1)}, \dots, Y^{(M)})$ は交換可能となり、$X$ が他のサンプルと統計的に同等の扱いを受けます。

2. e 値の構築:
   任意の非負の検定統計量 $T(x)$（例：未正規化尤度比 $q(x)/g(x)$）に対して、以下の統計量を e 値として定義します。
   $$\hat{E}_M(X) = \frac{(M + 1)T(X)}{T(X) + \sum_{m=1}^M T(Y^{(m)})}$$
   命題 1により、この統計量は任意の $M$ に対して、帰無仮説 $P$ の下で期待値が 1 以下となる有効な e 変数であることが保証されます。

3. 主要な理論的貢献と結果

A. 漸近的な対数最適性（Log-optimality）

• 定理 2: $M \to \infty$ かつ $T(x) \propto q(x)/p(x)$（尤度比）とすると、提案された e 値 $\hat{E}_M(X)$ は、確率収束して以下の形に近づきます。
  $$\hat{E}_M(X) \xrightarrow{pr.} \frac{E(X)}{\Delta_J(Y^{(0)})}$$
  ここで、$E(X)$ は真の尤度比（対数最適 e 値）であり、$\Delta_J(Y^{(0)})$ はマルコフ連鎖の混合時間（mixing time）に依存するスカラー項です。
• 混合時間の重要性:
  $\Delta_J(Y^{(0)})$ は、逆方向遷移核 $V^J$ が定常分布 $P$ に十分に混合している場合、1 に近づきます。したがって、混合時間の長い MCMC アルゴリズムを使用し、ステップ数 $J$ を適切に設定することで、提案手法は対数最適 e 値に近づくことが示されました。

B. 複数鎖による e 力（e-power）の向上

• 命題 3: 複数の独立した MCMC 鎖（$S$ 本）を並列に実行し、それぞれの e 値を平均化することで、Type 1 誤差制御を維持しつつ e 力（対数期待値）を向上させることができます。
  $$\bar{E}_{M,S}(X) = \frac{1}{S} \sum_{s=1}^S \hat{E}_{M,s}(X)$$
  単一の鎖では混合が遅い場合でも、複数鎖を平均化することで初期値への依存性を減らし、検出力を高めることが可能です。

C. 複合仮説への拡張

• 有限の複合帰無仮説: 帰無仮説が有限集合 $\{P_1, \dots, P_R\}$ の場合、各 $P_r$ に対して e 値を計算し、その最小値をとることで、複合仮説に対する有効な e 値を構築できます（式 19）。
• 信頼領域: 上記の手法を用いて、パラメータ $\theta$ に対する信頼領域（Confidence Region）を構成できます（アルゴリズム 2）。
• 複合対立仮説: 事前学習されたモデルや尤度最大化モデルを対立仮説の近似として使用し、それを $T(x)$ に代入することで、未正規化統計量を用いた検定が可能になります。

D. 逐次検定（e-process）への拡張

• Besag-Clifford e-process: 逐次的なデータ観測において、各ステップで Besag-Clifford e 値を生成し、それらを積または賭け戦略（betting strategy）で結合することで、任意の停止時間（データ依存型を含む）において Type 1 誤差を制御する e-process を構築できます（式 22）。
• 収束性: 大数の法則により、この e-process は漸近的に尤度比プロセスに収束し、最適な成長率（KL 発散）を達成します。

4. 数値実験と実データ適用

シミュレーション結果

1. AR(1) プロセス:
   • 自己相関 $\phi$ が大きい場合（混合が遅い）、$J=1$ では尤度比を過小評価する傾向がありますが、$J$ を増やすことで $\Delta_J$ を補正し、尤度比と一致することが確認されました。
   • 検出力は $J$（ステップ数）と $M$（サンプル数）の増加とともに向上し、真の尤度比検定に近い性能を示しました。
2. 逐次尤度比（ULR）プロセス:
   • 複合対立仮説（ガウス分布のパラメータ推定）において、Besag-Clifford e-process は、従来のユニバーサル推論（Universal Inference）に基づく e-process よりも早期に検出（停止時間 $\tau$ が小さい）できる傾向を示しました。
3. 複数鎖の効果:
   • 鎖の数 $S$ を増やすことで e 力が向上しましたが、ある点を超えると非単調になる可能性も示唆されました。

実データ適用：シャプレー超銀河団の速度データ

• タスク: 銀河の速度分布をモデル化する際、Product of Experts (PoE) モデルにおける「専門家（experts）の数 $W$」を決定する検定（$W=5$ vs $W=25$）。
• 結果: 未正規化尤度比を用いた Besag-Clifford e-process を適用したところ、e 値は時間とともに指数関数的に減少し、より単純なモデル（$W=5$）がデータに適合していることを強く支持しました。複雑なモデル（$W=25$）は不要であると判断されました。

5. 意義と結論

• 理論的意義:
  正規化定数が未知の状況でも、MCMC を用いて厳密な Type 1 誤差制御を持つ e 値を構築できることを示しました。特に、尤度比検定が不可能な場合でも、漸近的に対数最適性を達成できるという点は画期的です。
• 実用的意義:
  • 柔軟性: 任意の検定統計量 $T(x)$ や MCMC アルゴリズム（Metropolis-Hastings, HMC, Gibbs など）と組み合わせ可能です。
  • 逐次・事後解析: e 値の性質により、データ収集を途中で停止したり、複数の仮説を後から検討したりしても誤差制御が保たれます。
  • 計算効率: 並列サンプリング（複数鎖）による検出力向上が可能であり、現代の計算リソースを活用しやすい設計です。
• 将来の展望:
  無限の帰無仮説集合に対する適用や、Serial Method（直列法）との比較、より効率的なサンプリング手法の開発などが今後の課題として挙げられています。

総じて、この論文は、現代の複雑な確率モデルにおける仮説検定の問題に対し、MCMC と e 値の理論を統合した強力な枠組みを提供する重要な研究です。