テクニカル・サマリー：学習分布を超えて：分布シフトと選択バイアス下における予測の評価

問題提起

機械学習モデルは、新しい環境にデプロイされる際、しばしば二つの主要な（そして多くの場合、併発する）課題によって性能が低下します。それが**共変量シフト（covariate shift）と選択的ラベル（selective labels）**です。

• 共変量シフト: 入力特徴量の周辺分布（$P(X)$）が、学習時（ソース）とデプロイ時（ターゲット）の間で異なる一方で、特徴量とアウトカムの条件付き関係（$P(Y|X)$）は安定している状態です。標準的なホールドアウト・テストセットによる評価では、ソース環境では稀だがターゲット環境では一般的な特徴領域にエラーが集中している場合、性能低下を見逃してしまう可能性があります。
• 選択的ラベル: ヘルスケアや融資などの高リスク領域では、アウトカムのラベルは、事前の意思決定ポリシー（例：診断テストを受ける患者）によって選択された個人に対してのみ観測されます。これは選択バイアスを引き起こし、観測されたラベルは決定に依存する集団のサブセットから抽出されるため、学習データがデプロイメント集団全体の正確な反映ではなくなってしまいます。

既存の文献では、これらの問題は個別に扱われるのが一般的です。本論文では、共変量シフトと選択的ラベルが同時に存在するシナリオ、すなわち、特定のデモグラフィック・グループに対して学習されたモデルが多様な集団にデプロイされ、かつ特定の臨床プロトコルに従う患者に対してのみアウトカムが観測されるような、臨床的意思決定において一般的な状況を研究しています。核心となる問題は、ターゲットのアウトカムが観測されておらず、ソースのアウトカムが選択的に観測されている場合に、任意のブラックボックス予測モデルのターゲット・リスク（デプロイメント環境における期待損失）をどのように評価するかです。

手法

1. 問題の定式化と特定

著者らは、ターゲット・リスク $\psi$ をターゲット集団における期待損失として定義します：
$$\psi := E_T [\ell(f(X), Y)]$$
ここで、$f$ は固定されたブラックボックス予測器であり、$\ell$ は一般的な損失関数です。

観測可能なデータから $\psi$ を特定するために、本論文は以下の4つの標準的な仮定に基づいています：

1. 観測可能性に基づく選択（ソース）: 共変量 $X$ を条件付けると、ソース集団におけるラベルの観測可能性 $D$ は、アウトカム $Y$ と独立である（$Y \perp\!\!\!\perp D \mid X, R=1$）。
2. 共変量シフト: 特徴量に対するアウトカムの条件付き分布は、ドメイン間で不変である（$P_S(Y|X) = P_T(Y|X)$）。
3. ポジティビティ（正値性）: すべての共変量プロファイルが、ソース集団において観測される正の確率を持つ。
4. 有界な尤度比: ターゲット分布とソース分布の密度比が有界である。

これらの仮定の下で、ターゲット・リスクは以下の2つの等価な式によって特定されます（命題 3.5）：

1. ターゲット期待値: $\psi = E_T [\mu(X)]$。ここで $\mu(X) = E[\ell(f(X), Y) \mid X, R=1, D=1]$ は、ソースにおける条件付き期待損失です。
2. 補正付きソース期待値: $\psi = E_S \left[ \frac{p_T(X)}{p_S(X)} \cdot \frac{D}{\pi_S(X)} \cdot \ell(f(X), Y) \right]$。ここで $\frac{p_T(X)}{p_S(X)}$ は共変量シフトを補正し、$\frac{D}{\pi_S(X)}$ は逆確率重み付けによって選択的ラベルを補正します。

2. 有効影響関数 (Efficient Influence Function: EIF)

著者らは、ターゲット・リスクの推定対象（estimand）に対する**有効影響関数（EIF）**を導出しています（命題 3.6）。EIF $\phi(Z; P)$ は、ソース分布とターゲット分布の両方の信号を組み合わせたものです：
$$\phi(Z; P) = \frac{R D}{\pi(X)} \frac{g(X)}{\rho} (L - \mu(X)) + \frac{1-R}{\rho} (\mu(X) - \psi)$$
ここで：

• $R$ はドメイン指標（ソースの場合は1、ターゲットの場合は0）。
• $D$ はラベル観測可能性の指標。
• $\pi(X)$ は統合されたプロペンシティ・スコア。
• $g(X)$ はドメイン・プロペンシティ・スコア。
• $\rho$ はターゲット集団の割合。
• $L$ は観測された損失。

第1項は、ターゲット分布へ輸送するために重み付けされた、ラベル付きソースユニットの残差補正を表します。第2項は、ターゲット・リスクによって中心化された、ラベルなしターゲットユニットのプラグイン推定値です。

3. ダブル機械学習 (Double Machine Learning: DML) 推定器

EIFを活用して、本論文は**ダブル機械学習（DML）**推定器（式 7）を提案しています：
$$\hat{\psi} = \frac{1}{n} \sum_{i=1}^n \left[ \frac{R_i D_i}{\hat{\pi}(X_i)\hat{g}(X_i)} (L_i - \hat{\mu}(X_i)) + \frac{1-R_i}{\hat{\rho}} \hat{\mu}(X_i) \right]$$
この推定器の主な特徴は以下の通りです：

• バイアス補正: 誤差関数（$\mu, \pi, g$）の推定から生じる一次のバイアスを補正するために、EIFの構造を使用しています。
• サンプル分割／クロスフィッティング: 評価用サンプルとは独立した補助サンプル上で誤差関数を推定することで、漸近的正規性を確保します。
• ロバスト性: 誤差関数が $o_p(n^{-1/4})$ の速度で収束する限り、この推定器は半パラメトリックに効率的であり、$\sqrt{n}$ 一致性を持ちます。これにより、パラメトリックな収束速度を必要とせずに、柔軟な非パラメトリック機械学習手法（ランダムフォレストやニューラルネットワークなど）を誤差関数の推定に使用できます。

主要な結果

理論的保証

本論文は、提案されたDML推定器が漸近線形であり、半パラメトリックに効率的であることを証明しています（定理 3.7）。これは以下を意味します：

• 推定器は、$\sqrt{n}$ の速度で真のターゲット・リスクに収束します。
• 推定器は漸近正規性を持ち、デプロイ前のリスク評価のための妥当なワルド型の信頼区間の構築を可能にします。
• 誤差関数が高次元または複雑なモデルで推定されたとしても、それらの誤差の積が無視できるほど小さい限り、推定器は一貫性を保ちます。

実証的評価

著者らは、eICU Collaborative Research Database（20万件以上のICU入院データ）および半合成実験を用いて手法を評価しました。

• 半合成実験: eICUの実データから得られた共変量を用い、アウトカムとラベル観測可能性をシミュレーションして、DML推定器が以下の手法と比較して最小のバイアスと最小のRMSEを示したことを確認しました：
  • 素朴なプラグイン推定器（シフトと選択の両方に対して重み付けを行う）。
  • 共変量シフト（CS）のみの推定器（選択バイアスを無視）。
  • 選択的ラベル（SL）のみの推定ラー（共変量シフトを無視）。
    結果は、片方のバイアスのみに対処すると、特に選択の強さが増すにつれて、デプロイメント・リスクを系統的に誤認することを示しました。
• 実世界での実験: 特定の臨床検査がオーダーされた場合にのみラベルが観測される4つの臨床アウトカム（BNP、Troponin-I、CK、Hypoxemia）に適用しました。DML推定器は、いくつかの病院においてベースラインとは大きく異なるリスク推定値を示し、シフトと選択の共同的な性質を無視することが、新しい臨床現場におけるモデル・リスクの過小評価または過大評価につながることを浮き彫りにしました。
• ロバスト性チェック: 推定器は、ポジティビティおよび有界な尤度比の仮定の違反に対しても、一定のロバスト性を示しました。しかし、予想通り、選択に関する観測可能性（観測されない交絡）や条件付きアウトカム・シフトの違反に対しては性能が低下しましたが、他のベンチマークと比較して競争力のある水準を維持しました。

意義と主張

本論文は、共変量シフトと選択的ラベルが同時に存在する状況下で、ブラックボックス予測器を評価するための形式的な枠組みと解法を提供した最初の試みであると主張しています。

• 実用的なインパクト: 本研究は、モデルが特定の集団に対して学習される一方で、別の集団にデプロイされ、かつ臨床的意思決定プロセスによってアウトカム・データが本質的に不完全であるヘルスケアのような高リスク領域における、デプロイ前の評価のための厳格なフレームワークを提供します。
• 方法論的貢献: ターゲット・リスクの特定を確立し、有効影響関数を導出することで、本論文は分布シフトの文献と選択的ラベルの文献の間の溝を埋めています。ターゲットのラベルが完全に観測されておらず、ソースのラベルがバイアスを含んでいる場合でも、妥当な推論が可能であることを示しています。
• 公平性と安全性: 著者らは、これらの共同の課題を考慮しないことは、過小代表されているサブグループに対してモデルの性能を系統的に誤認させ、不平等を永続させる可能性があると強調しています。彼らの手法は、デプロイ前に公平性と安全性の特性をより正確に評価することを可能にします。
• 幅広い適用性: 臨床設定に焦点を当てていますが、このフレームワークは、フィードバックが選択的に観測され、デプロイメント分布が学習分布と異なる、基盤モデルやLLM（大規模言語モデル）が関わるあらゆる領域に適用可能です。

著者らは、特定（identification）が実務上の仮定（例：臨床判断が未測定の重症度に依存する場合）に依存していることを認め、控えめな姿勢を維持しています。彼らは、手法がある程度の違反に対して耐性を持つことを示しつつも、将来の研究ではこれらの仮定を緩和するか、適応的なデータ収集に焦点を当てるべきであると示唆しています。