技術要約：分布的操作変数（DIV）法

問題提起

本論文は、ランダム化実験が利用できない状況において、未観測の交絡因子（隠れた交絡因子 $H$）が存在する場合の因果効果の推論という課題に取り組んでいる。操作変数（IV）アプローチはこのような内生性を扱うための標準的なツールであるが、既存の手法は通常、因果効果の特定の関数、例えば平均因果効果（例：2段階最小二乗法（2SLS）による）や分位点治療効果の推定に焦点を当てている。

著者らは、因果効果を単一の量（平均など）に要約することは、貴重な情報を放棄することになると主張している。多くのアプリケーションにおいては、処置 $X$ に対する $do$-介入下でのアウトカム$Y$の**介入分布**（$P_{do(X:=x)}(Y)$ と表記される）全体を理解することの方がより情報量が多い。さらに、従来のIV手法は、操作変数の数が処置変数の数よりも少ない場合や、条件付き平均においては関係が弱いが高次の分布モーメントにおいては強い場合など、「識別不能（under-identified）」な設定において失敗することが多い。

手法：分布的操作変数（DIV）

提案されている分布的操作変数（DIV）法は、構造的因果モデル（SCM）の枠組み内で生成モデリングを活用することで、完全な介入分布を推定する。

1. 構造的因果モデルと生成定式化

著者らは、データが以下のSCMによって生成されていると仮定している：
$$X := g(Z, \eta_X)$$
$$Y := f(X, \eta_Y)$$
ここで、$Z$ は操作変数、$X$ は処置、$Y$ はアウトカムであり、$\eta_X, \eta_Y$ は隠れた交絡により相関を持つノイズ項である。古典的な線形IV手法とは異なり、DIVは一般的な非線形関数 $g$ および $f$ を許容し、加法的なノイズを仮定しない。

$\eta_X$ と $\eta_Y$ の間の相関を捉えるために、DIVはノイズ項を、独立な標準ガウス変数と共有された潜在ノイズ成分の関数としてモデル化する：
$$\eta_X = h_X(\varepsilon_X, \varepsilon_H)$$
$$\eta_Y = h_Y(\varepsilon_Y, \varepsilon_H)$$
ここで、$\varepsilon_X, \varepsilon_Y, \varepsilon_H$ は独立な標準ガウス変数である。これにより、$Z$ が与えられたときの $(X, Y)$ の結合生成モデルが得られる。

2. エネルギー・スコアによる推定

DIV法の核心は、Engression（Shen and Meinshausen, 2024）を用いて結合条件付き分布 $P(X, Y | Z)$ を適合させることにある。モデルパラメータ（$g, f, h_X, h_Y$ のためのニューラルネットワーク）は、多変量分布に対する厳密に適切なスコアリングルールである期待負エネルギー・スコアを最小化するように最適化される。

母集団の目的関数は以下の通りである：
$$(g^*, f^*, h_X^*, h_Y^*) \in \arg \min_{f,g,h_X,h_y} \mathbb{E} \left[ \|(X, Y) - (\hat{X}, \hat{Y})\| - \frac{1}{2}\|(\hat{X}, \hat{Y}) - (\hat{X}', \hat{Y}')\| \right]$$
ここで、$(\hat{X}, \hat{Y})$ と $(\hat{X}', \hat{Y}')$ はモデルによって生成された独立なサンプルである。

3. 介入分布の推定

モデルが適合された後、介入分布 $P_{do(X:=x)}(Y)$ はサンプリングを通じて推定される。$do$-介入$do(X:=x)$は、$X$とそのノイズ$\eta_X$ の間のリンクを切断する。手順は以下の通りである：

1. $\varepsilon_Y$ および $\varepsilon_H$ を標準ガウス分布からサンプリングする。
2. ノイズ $\eta_Y^* = h_Y^*(\varepsilon_Y, \varepsilon_H)$ を計算する。
3. アウトカム $Y^* = f^*(x, \eta_Y^*)$ を生成する。

これらのサンプルから、任意の分布の関数（平均、分位点、分散）をモンテカルロ法によって推定できる。

主要な理論的貢献

本論文は、以下の3つの異なるモデル構成下での介入分布の識別性に関する結果を確立している：

1. 一般モデルクラス： 潜在的な撹乱における厳密な単調性と共通サポートの仮定（操作変数が大きなサポートを持つことを要求する）の下で、介入分布は観測データから一意に識別可能である。
2. 前加法的ノイズモデル（連続的な操作変数）： アウトカムモデルを前加法的ノイズ形式に制限することで、操作変数が連続的なサポートを持つ場合でも、一般クラスで要求される「大きなサポート」条件を必ずしも満たさなくても識別可能であることを示している。
3. 前加法的ノイズモデル（離散/バイナリ操作変数）： 極めて重要な点として、前加式的ノイズモデルについては、バイナリ操作変数かつ多変量処置（$dim(Z) < dim(X)$ である識別不能な設定）であっても、介入分布が識別可能であることを本論文は示している。これは、第1段階における多重共線性により2SLSが失敗するケースとは対照的である。著者らは、もし操作変数が処置の分布に（単なる決定論的なシフトを超えて）影響を与えるのであれば（すなわち、条件付き分布が平均シフト以上の形で異なる場合）、完全な分布情報が識別には十分であることを示している。

また、単純なパラメトリック線形部分集合におけるDIV推定量の一致性についても証明している。

実証結果

著者らは、2SLS、コントロール関数（CF）、DeepIV、DeepGMM、HSIC-X、IVQR、およびDIVEを含むベンチマークと比較してDIVを評価している。

• シミュレーションデータ：
  • 平均および分位点の推定： 線形、非線形、および前加的ノイズの設定において、DIVは介入平均および分位点の推定において競争力のある、あるいは優れた性能を示した。
  • 識別不能なケース： 単一のバイナリ操作変数と2次元の処置（$dim(Z)=1, dim(X)=2$）を持つシナリオにおいて、2SLSおよび他のベンチマークは因果パラメータを識別できなかった。DIVは、完全な分布情報を利用することで、パラメータの回収に成功した。
  • 弱い操作変数： DIVは、操作変数の平均的な関連性や平均的な分散の関連性が弱い場合でも、高次の分布モーメントが構造的情報を持っている限り、頑健であり続けた。
• 実世界のアプリケーション：
  • 経済データ（Acemoglu et al., 2001）： 制度の質とGDPの関係に適用。DIVは、元の2SLSの知見と一致する、正でほぼ線形な因果効果を回収すると同時に、完全な分布的推定（分位点）も提供した。
  • シングルセルデータ： 未知のCRISPR摂動下での遺伝子発現予測に適用。DIVは、他の手法と比較して、未知の介入環境への汎化性能および異なるトレーニングサブセット間での安定性において優れていることを示しており、これは基礎となる因果メカニズムをより効果的に捉えていることを示唆している。

重要性と主張

本論文は、DIVが以下の点で因果推論における重要な進展を提供すると主張している：

1. 推定対象の拡張： 平均や分位点効果を超えて、完全な介入分布を推定することで、因果メカニズムと偶然的不確定性（アレトリックな不確実性）に関するより豊かな理解を提供する。
2. 識別の限界の克服： 伝統的なIV手法（2SLSなど）が失敗する「識別不能」な問題、特に離散的な操作変数と多変量処置を伴う設定を解決する。
3. 柔軟性： 制限的な加法的ノイズの仮定なしに、一般的な非線形関係を受け入れることができる。
4. 実用的な有用性： 推定された介入分布からのサンプリングを可能にする、計算効率の高いソフトウェア実装（RおよびPython）を提供し、あらゆる分布的関数の計算を容易にする。

著者らは、本手法が結合分布 $P(X, Y | Z)$ の推定に依存しているものの、このアプローチは操作変数からの情報の使用を最大化し、複雑で交絡した設定において識別できる最善の機会を提供するものであると結論付けている。今後の研究の方向性としては、エピステミックな不確実性の定量化や、分布汎化タスクへの本手法の適用が挙げられている。