Anytime-Valid Confirmation of Label-Shift Corrections

技術要約：ラベルシフト補正の随時有効な確認（Anytime-Valid Confirmation of Label-Shift Corrections）

1. 問題設定

小規模バッチの科学的デプロイメントにおいては、ラベル付きのターゲット結果が極めて乏しいため、BBSEやMLLSのような従来のラベルなしターゲット手法を用いてラベルシフト（$p(x|y)$ は安定しているが、周辺分布 $p(y)$ が変化する現象）を信頼性高く推定することは困難である。このようなシナリオにおいて、実務者はドメイン知識、規制上の仕様、またはブリッジング実験から導出された、あらかじめ指定された候補となる補正策を保有していることが多い。

本稿で扱う核心的な問題は、シフトを「推定」することではなく、ソース予測モデルに対して、提示された固定のラベルシフト補正が、入ってくるラベル付きの結果と整合しているかどうかを「確認」することである。これは推定問題ではなく確認問題として定式化されており、事前のサンプルサイズ指定なしに逐次的に到着するデータを取り扱うことができ、かつ任意停止（optional stopping）の下でも第一種の過誤を制御できる統計的ツールを必要とする。

2. 手法

本稿では、e値（e-values）およびeプロセス（e-processes）（Vovk & Wang, 2021; Shafer, 2021）に基づく逐次検定フレームワークを提案する。

核となる構成:
固定されたソース予測 $p_s(y|x, D_{tr})$ と、ドメイン知識から導出された候補ウェイト $w(y)$ が与えられたとき、著者らは**傾斜予測（tilted predictive）**を以下のように定義する：
$$\tilde{p}_w(y|x, D_{tr}) \propto w(y) p_s(y|x, D_{tr})$$
テストは、傾斜予測とソース予測の間の観測ごとの尤度比を累積する：
$$e_i = \frac{\tilde{p}_w(y_i|x_i, D_{tr})}{p_s(y_i|x_i, D_{tr})} = \frac{w(y_i)}{Z_w(x_i)}$$
ここで、$Z_w(x_i)$ は正規化定数である。

理論的保証:

• 条件付きe値: 予測的な帰無仮説 $H_0^{pred}$（出力がソース予測 $p_s$ に従う場合）の下では、過去のデータと現在の入力に対する $e_i$ の期待値は1である。したがって、$e_i$ は有効な条件付きe値となる。
• マルチンゲール特性: 累積積 $M_t = \prod_{i=1}^t e_i$ は非負のマルチンゲール（eプロセス）を形成する。
• 随時有効なルール: ヴィルの不等式（Ville's inequality）により、停止ルール $\tau^* = \inf\{t : M_t > 1/\alpha\}$ は、サンプルサイズ $t$ に関する補正を行うことなく、任意停止の下でレベル $\alpha$ の第一種の過誤を制御する。
• NLPDギャップ恒等式: 対数資産 $\log M_t$ は、ソースと傾斜予測の間の負の対数予測密度（NLPD）の累積差に等しい：
  $$\log M_t = \sum_{i=1}^t (\text{NLPD}_i(p_s) - \text{NLPD}_i(\tilde{p}_w))$$
  傾斜予測によるログスコアの優位性が $\log(1/\alpha)$ を超えたときに棄却される。

ガウス過程における閉形式:
ガウス過程（GP）ソースとガウス型ラベルシフト比率の場合、著者らは正規化定数 $Z_w(x)$ とサンプルごとのログe値の閉形式の表現を導出している。これにより、GP事後分布の出力（$\mu_s, \sigma^2_s$）とシフトパラメータのみを用いた効率的な計算が可能になる。

多重テスト:
$K$ 個のストリームに対する並行テストについては、偽発見率（FDR）を制御するために、保守的なボンフェローニ補正ではなく、バッチe値を用いた e-BH法（Wang & Ramdas, 2022）を推奨している。

3. 主な貢献

1. NLPDギャップ恒等式: ケリー最適ベッティング（Kelly-optimal betting）とモデル評価を結びつけ、累積NLPDギャップが有効なeプロセスの対数資産として機能することを示した。
2. 随時有効な確認テスト: 事前に指定されたサンプルサイズを必要とせず、任意停止の下で第一種の過誤を制御する、固定された提示シフトのための形式的な逐次テストを提供する。
3. 閉形式のGP e値: ガウス型ラベルシフトによる傾斜の下でのe値の解析解を導出し、GP回帰における実用的な実装を可能にした。
4. 成長率の特性付け: 代替仮説（正しい仕様）の下で、テストの漸近的な検出力が1であり、その成長率が傾斜予測とソース予測の間の平均KLダイバージェンスに等しいことを証明した。
5. 実証的検証: 第一種の過誤制御、有限サンプルでの検出力、較正不備（miscalibration）への感度、およびノイズの多い再推定と比較した信頼できる事前分布の優位性を実証した。

4. 実験結果

著者らは、エンドツーエンドのGP回帰シミュレーションを用いて手法を検証した：

• 第一種の過誤制御: 予測的な帰無仮説の下で、経験的な偽アラーム率はすべてのホライゾンにおいて公称 $\alpha$ (0.05) を厳密に下回っており、随時有効な保証を確認している。
• 固定サンプルLRTとの検出力比較: 特定のサンプルサイズに合わせて較正された固定サンプル尤度比検定（LRT）は、大きなホライゾンにおいてわずかに高い検出力を示すが、eプロセスは任意の停止時間の下で妥当性を維持しており、パワーと柔軟性の間の根本的なトレードオフを提供している。
• 小規模バッチの優位性: ターゲットのバッチサイズが小さいシナリオ（$n_t=10$）では、信頼できる事前補正（オラクル）が、保持データ（held-out）のNLPDにおいて適応的な再推定よりも大幅に優れた性能を示した。この確認テストは、そのような事前分布を使用することを支持するための形式的な証拠を提供する。
• 較正不備への感度: テストはソース予測の較正不備に対して非常に敏感である。ソースGPによる分散の過小評価（例：係数 $c=2$）は、第一種の過誤を急激に増大させ（最大36.45%）、この妥当性の保証がソースモデルが適切に較正されていることに依存していることを浮き彫りにしている。
• 誤指定への頑健性: 提示されたシフトが誤指定されている（振幅や方向が異なる）場合、テストの検出力は低下するが、ウェイトが固定されている限り、第一種の過誤は制御されたままである。テストは誤指定によって誤って帰無仮説を棄却することはない。単に棄却に失敗するだけである。

5. 意義と主張

本論文は、モデルのデプロイメントにおける、しばしば見落とされがちな特定の状況に対する必要なツールを提供すると主張している：すなわち、推定ではなく確認である。

• 推定との区別: 著者らは、棄却は提示された補正がソースに対してデータと「整合している」ことを確認するものであり、シフトの正確な程度を「定量化」するものではないことを強調している。定量的な推定には、依然としてラベルなしターゲット手法が適切なツールである。
• 実用的有用性: 本手法により、ドメイン知識に基づく補正（例：規制仕様）を、データが到着するにつれて形式的に検証することが可能になり、乏しいラベル付きデータからシフトを再推定することの不安定さを回避できる。
• 限界: 著者らは、第一種の過誤制御の保証は予測的帰無仮説（すなわち、ソースモデルが適切に較正されていること）に条件付けられていることを明示している。本テストは、追加の較正レイヤーなしでは、任意のモデル誤指定に対して頑健ではない。さらに、テストに使用するウェイトは、テストストリームが始まる前に固定されていなければならない。テストストリームから得られたデータを使用してウェイトを推定すると、e値の性質が無効になる。

要約すると、本論文は、データが乏しい環境において、ドメイン知識と逐次的統計的証拠の間の架け橋となる、事前に指定されたラベルシフト補正を確認するための厳密な随時有効なフレームワークを提供している。