技術要約：感度比による事後的な因果的特徴量の特定

問題提起

本論文は、機械学習の解釈可能性における極めて重要なギャップに対処している。すなわち、学習プロセス、モデルクラス、および基礎となる因果グラフへのアクセスがない状態で、学習済みモデルがどの特徴量を「因果的」に依存しているのか、あるいは「擬似的（スプリアス）」に依存しているのかを判断するという課題である。

IRM（Invariant Risk Minimization）やICP（Invariant Causal Prediction）といった既存の因果的特徴量特定手法は、学習フェーズにおける介入（例：損失関数の変更や徹底的な部分集合探索）を必要とする。その結果、これらは既にデプロイされたモデルを診断することができない。著者らは、マルチサイトの臨床データやマルチバッチのゲノミクスなどで一般的な「構造的シフト・レジーム（structured-shift regime）」に焦点を当てている。このシナリオでは、環境間の差異は主に擬似的な特徴量の平均値（例：機器のオフセットやバッチ効果）に起因し、因果的メカニズムおよび因果的特徴量の分布は安定している。この設定において、擬似的な特徴量に依存するモデルは環境依存の感度を示すが、因果的な特徴量に依存するモデルは一定の感度を示す。

手法：正規化感度比 (Normalised Sensitivity Ratio: NSR)

著者らは、事後的かつモデルに依存しない診断指標である**正規化感度比（NSR）**を提案している。

コア概念

NSRは、特定のモデルの感度が異なる環境間でどの程度安定しているかを定量化する。

1. 因果的感度比 (Causal Sensitivity Ratio: CSR): 特徴量 $j$ と環境 $e$ および参照環境 $e_{ref}$ について、CSRは、他の特徴量を固定した状態で、特徴量 $j$ を参照環境の周辺分布からのサンプルに置き換えた際のモデル出力の変化の平均を測定する。
2. 正規化: NSRは、環境間におけるCSR値の変動係数の二乗（$CV^2$）を、平均CSRで正規化したものとして定義される。
   $$\text{NSR}_j(e_{ref}) := \frac{\text{Var}_{e \neq e_{ref}}[\text{CSR}_j(e, e_{ref})]}{(\mathbb{E}_{e \neq e_{ref}}[\text{CSR}_j(e, e_{ref})])^2}$$

主な特性

• 重みの不変性: 正規化により、学習されたモデルの重み（$\hat{w}_j^2$）が相殺される。これにより、重みベースの分析では見逃される可能性のある小さな係数を持つ擬似的な特徴量であっても、その感度が環境間で変化する場合、検出が可能となる。
• 診断シグナル: 構造的シフト・レジーム下において：
  • 因果的特徴量: 環境間で一定の感度を誘発する $\implies \text{NSR}_j = 0$。
  • 擬似的特徴量: 環境のシフトに追従する感度を誘発する $\implies \text{NSR}_j > 0$。
• 実装: NSRは、学習済みのブラックボックスモデル、環境ラベル、およびホールドアウトデータのみを必要とする。SHAP値や置換重要度（permutation importance）を感度シグナルのドロップイン推定器として用いることで計算可能である。

主な貢献

1. 正確な特定定理

線形構造的因果モデル（SCM）における構造的シフト・レジーム（非退化な環境 $K \ge 3$ を伴う）の下で、NSRは**正確な特定（exact identification）**を達成する。

• 定理 1: 非ゼロの重みを持つ任意の線形予測器において、$\text{NSR}_j = 0 \iff j$ は因果的特徴量である。
• この証明は、特定シグナルがモデルの重みではなく、環境シフトの幾何学的構造から生じることを示している。この理論的結果は、非線形モデルにも経験的に拡張される。

2. 失敗モードの完全な特性評価

本論文は、NSRが失敗する際の正確な定量的基準を提供しており、実務者がレジームの妥当性を評価することを可能にしている。

• 弱いシフト (Weak Shifts): シフトの大きさ $\epsilon$ が環境内のノイズに対して相対的に小さい場合、NSRは $O(\epsilon^4)$ で崩壊する。
• 退化した幾何学 (Degenerate Geometry): $K < 3$ である場合、または参照環境からの絶対的なシフトが対称的（例：$+1, -1, 0$ のシフト）である場合、NSRは恒等的にゼロとなる。
• プロキシ減衰 (Proxy Attenuation): 因果的信号と擬似的信号が混在する特徴量（$X_j = \alpha X_C + (1-\alpha)X_S$）の場合、NSRは $O((1-\alpha)^4)$ で劣化する。

3. 有限サンプル収束率

論文は、因果的特徴量と擬似的特徴量の間のレート差を確立している。

• 帰無仮説（因果的特徴量、$\text{NSR}=0$）の下では、経験的推定値は $O_p(n^{-1})$ で収束する。
• 対立仮説（擬似的特徴量、$\text{NSR}>0$）の下では、$O_p(n^{-1/2})$ で収束する。
• この差により、分布の仮定なしに**置換ベースの閾値設定（permutation-based thresholding）**が可能となる。なぜなら、帰無分布は対立分布よりも速くゼロへと収縮するためである。

4. IRMおよびICPとの比較不能性

著者らは、シフトのスケジュールに関して、NSR、IRM、およびICPが比較不能な条件の下で動作することを証明している。

• IRMとICPは擬似的な特徴量を検出できるが、NSRは検出できないシフト構成（例：対称的なシフト）が存在する。
• 逆に、NSRは擬似的な特徴量を検出できるが、IRMは検出できない構成（例：二乗分散がゼロとなる非対称なシフト）が存在する。
• これらの手法は補完的であり、選択は利用可能な環境シフトの具体的な幾何学に依存する。

実験結果

合成データによる検証

• レジームの検証: 実験は理論的なフェーズ遷移を裏付けている。$K \ge 5$ かつシフトの大きさ $\epsilon \ge 1$ の場合、NSRは30個のシード間で分散ゼロで AUROC 1.000 を達成した。
• 失敗モード: 実験は失敗条件の鋭さを検証している。対称的なシフト（退化した幾何学）はチャンスレベルの性能（AUROC $\approx 0.5$）をもたらすが、対称性を崩すことで完全な検出が回復する。
• 収束: 経験的な収束率は、理論的な $O(n^{-1})$ および $O(n^{-1/2})$ の予測と2〜8%の誤差範囲内で一致している。

モデル非依存性

NSRは5つのモデルファミリー（OLS, Ridge, Random Forest, XGBoost, MLP）でテストされた。特徴量のランキングはモデルファミリー間で一貫しており（Kendell $\tau \ge 0.529$）、シグナルが特定のモデルクラスではなく環境構造に存在することを裏付けている。

実世界への応用

• 自転車シェアリングデータ: 月ごとの五分位分割を用いて、NSRは 8個中6個の因果的特徴量 を回収した（Precision@7 = 0.75）。これは、学習済みモデルを変更することなく、LASSO（0.58）を上回る性能であった。
• ワイン品質データ: バッチレベルの技術的変動がある設定において、NSRは因果的要因を特定した。
• 実践的な洞察: 実験は、NSRが環境内での汎化（過学習しないこと）をベースモデルに要求することを強調している。環境特有のノイズが安定性のシグナルを覆い隠すのを防ぐために、適応的な正則化（$R^2 \approx 0.75$ をターゲットとする）が必要であった。

意義と範囲

本論文は、NSRが理論的に裏付けられた事後的監査ツールを提供すると主張している。その意義は以下の点にある。

1. 運用の有用性: 学習データや学習プロセスへのアクセスがなくとも、既存のモデルにおける擬似的な依存を診断できる。
2. 明確な境界: 多くのブラックボックス的な解釈可能性ツールとは異なり、NSRは適用前に（例：シフトの大きさと環境数を検証するなど）定量的なチェックを行うための、動作レジームと失敗モードの完全なマップを備えている。
3. 補完性: 非対称なシフトの幾何学や、モデルが既に学習済みであるという特定のシナリオをターゲットとした、IRMやICPとは異なるニッチを埋めている。

著者らが認める制限事項:

• 周辺的な因果的安定性: NSRは、因果的特徴量の分布（$P(X_C)$）が環境間で安定していることを前提としている。因果的共変量がシフトする場合（例：人口統計学的変化）、NSRはそれらを擬似的と誤分類する可能性がある。
• シフト構造: 現在の定式化は、擬似的な特徴量に対する一様なスカラーシフトを想定している。特徴量固有のシフトや共分散のシフトは、部分空間拡張なしには直接捉えられない。
• レジーム依存性: 本手法は、厳密に構造的シフト・レジームのための診断ツールである。任意のデータ分布に対する汎用的な因果発見ツールではない。