Measuring Variable Importance in Heterogeneous Treatment Effects with Confidence

技術的概要：信頼性のある異質的処置効果における変数重要度の測定

問題定義
本論文は、異質的処置効果（HTE）、特に条件付き平均処置効果（CATE）の文脈における変数（共変量）の重要度を推定する課題に取り組む。機械学習（ML）は、高次元の生物医学データから個々の処置反応を予測するための強力なツールを提供するが、その解釈性の欠如が科学的・臨床的な採用を妨げている。標準的な予測（例：Leave-One-Covariate-Out、LOCO）や因果推論における既存の変数重要度手法は、計算コスト、統計的保証（第 1 種誤差の制御）、および有限サンプル推定誤差に対する頑健性の間でトレードオフに直面することが多い。因果推論の文脈では、真の潜在結果が利用できないため推定量のスコアリングが複雑化し、また（LOCO のように）すべての変数に対して複雑なモデルを再適合させる必要性は、生物医学応用で一般的に見られる小〜中規模のサンプル領域において、高い分散と統計的検出力の低下をもたらす可能性がある。

手法：PermuCATE
著者は、CATE 推定における統計的に厳密なグローバル変数重要度評価のためのアルゴリズムであるPermuCATEを提案する。この手法は、因果推論に適応された**条件付きパーミュテーション重要度（CPI）**に基づいている。

• 中核メカニズム: LOCO が注目変数を除外した共変量のサブセット上で CATE 推定量を再適合させるのとは異なり、PermuCATE は訓練済みの CATE 推定量を再利用する。これは、注目変数（$X_j$）を残りの共変量（$X_{-j}$）に対して回帰した後の残差をパーミュテーション（入れ替え）することで入力データを攪乱する。
• 条件付きサンプリング: アルゴリズムは、共変量間の関係が、共変量と結果との関係よりも単純であるという仮定（仮定 3.1）を前提とする。条件付き予測子 $\hat{\nu}_j(X_{-j}) \approx E[X_j | X_{-j}]$ を推定し、攪乱された共変量 $X'_j = \hat{\nu}_j + \text{shuffle}(X_j - \hat{\nu}_j)$ を構築する。
• スコアリング: 変数重要度は、攪乱された共変量を使用した場合と元の共変量を使用した場合との間で、実行可能な因果リスク（具体的には PO リスク）が増加する度合いとして測定される。このリスクは、ニュアンス関数（反応関数とプロペンススコア）から導出された疑似結果を用いて計算される。
• 理論的基盤: 著者は有限サンプルの理論的分析を提供し、PermuCATE の分散は主に条件付き分布（$\hat{\nu}_j$）の推定誤差によって駆動されるのに対し、LOCO の分散は CATE モデル自体（$\hat{\tau}$）およびその部分モデルの推定誤差によって駆動されることを示している。共変量の条件付き分布の推定は、一般的に複雑な CATE 関数の推定よりも容易であるため、PermuCATE はより低い分散を持つことが期待される。

主要な貢献

1. アルゴリズムの提案: CATE における変数重要度のためのモデル非依存手続きである PermuCATE の導入。これは CPI を因果推論の文脈に一般化したものである。
2. 理論的分析: PermuCATE と LOCO を比較する有限サンプル分散分析の開発。この分析は、PermuCATE が CATE モデルの推定誤差に対してより頑健であることを示しており、これは小サンプルサイズや複雑な深層学習推定量を使用する場合に重要な要因である。
3. 実証的検証: シミュレーションデータ（低次元、高次元線形、高次元多項式）および実世界の半合成ベンチマーク（IHDP）を用いた包括的な実験。本研究では、ランダムフォレスト（Causal Forest）、深層ニューラルネットワーク（CateNet）、トランスフォーマーベースの基盤モデル（TabPFN）を含む各種 CATE 推定量における性能を評価した。

結果

• 分散の低減: 線形および非線形のシナリオの両方において、PermuCATE は LOCO よりも一貫して低い分散を示した。この差は、サンプルサイズが小さい場合や、CATE 推定に複雑な確率的モデル（例：深層ニューラルネットワーク）を使用する場合に最も顕著であった。
• 統計的検出力: より低い分散により、PermuCATE は LOCO に比べて高い統計的検出力（真陽性の変数を正しく識別する能力）を達成した。高次元設定（$d=50, 100$）において、PermuCATE は次元数が増加しても検出力を維持したのに対し、LOCO の検出力は著しく低下した。
• モデルの誤指定への頑健性: IHDP ベンチマークにおいて、PermuCATE はすべてのテストされた学習器（Causal Forest、CateNet、TabPFN）において、より優れた変数重要度のランキング（高い AUC）と統計的検出力を提供した。特に CateNet を使用する場合、LOCO は確率的トレーニングに固有の最適化ノイズの影響を受け、場合によっては第 1 種誤差率が上昇したが、PermuCATE は制御を維持した。
• 計算効率: PermuCATE は、各変数に対して完全な CATE モデルを再適合させる必要がないため、CATE 推定量が計算的に高価である場合、LOCO に比べて著しい計算上の利点を提供する。

意義と主張
本論文は、PermuCATE が、特に生物医学研究に典型的な「限られたデータ領域」において、因果推論における変数重要度のための LOCO よりも優れた代替手段であると主張している。著者は、以前の研究が第 1 種誤差の制御に重点を置いていたのに対し、今回の分析は有限サンプル分散に起因する第 2 種誤差（偽陰性）の決定的な影響を浮き彫りにしたことを強調している。

この研究の意義は、深層学習や基盤モデルなどの高容量で複雑な ML モデルを CATE 推定に使用可能にしつつ、信頼性が高く統計的に厳密な解釈性を維持できる点にある。これは、高度な予測モデリングと、臨床試験などの介入研究における実行可能な科学的洞察の必要性との間のギャップを埋めるものである。著者は、自らの手法が処置の異質性に対する堅牢な説明を提供することで予測バイオマーカーの発見を促進し、医師の意思決定を支援して治療開発を加速すると主張している。このアプローチは、生物医学を超えて、解釈可能な ML を用いた因果推論を必要とするあらゆる領域に適用可能であると提示されている。