Potential weights and implicit causal designs in linear regression

技術的要約：線形回帰における潜在的な重みと潜在的な因果設計

1. 問題の所在

応用研究者は、準実験的な処置変動を通じて因果効果を推定するために線形回帰を頻繁に使用するが、その際、処置の割り当てに関する仮定は暗黙的なままにされている。ここには中心的な緊張関係が存在する。すなわち、回帰モデルの仕様は構造的なアウトカムモデルに類似していることが多い一方で、その因果的な妥当性は、処置 $W$ がどのように割り当てられるかという仮定に完全に依存しているということである。Freedman (2008) が指摘したように、ランダム化は、そのままでは単に最小二乗法（OLS）モデルの背後にある仮定を正当化するものではない。

文献（例：Angrist and Pischke, 2008; Angrist, 1998; Lin, 2013）は、一般的な推定量が単純でモデルに依存しない解釈を持つことを示唆しているが、この楽観論は極めて繊細なものである。特定の仕様は、特定の割り当てプロセス下では解釈可能な加重平均処置効果（WATE）をもたらすが、他のプロセス下では解釈不能、あるいは負の重みを持つ推定量を生成する場合がある。本論文は、以下の事項を決定するための一般的な枠組みの欠如に対処する：

1. どのような処置割り当ての仮定の下で、与えられた回帰が準実験的な解釈を許容するか。
2. 不均一性がある場合、その回帰が具体的にどのような因果的対比（推定対象）をターゲットとしているか。
3. これらの暗黙の仮定が誤指定された場合、推定値はどの程度悪化するか。

2. 方法論と枠組み

本論文は、「デザインベース」の視点を定式化し、共変量 $(x_i)$ と潜在的アウトカム $y_i(\cdot)$ を固定されたものとして扱い、処置割り当て $W_i$ のみにランダム性を分離する。核心となる革新は、真の割り当てプロセス $\pi^*$ に関する2つの異なる問いへと、準実験的要件を分解することにある。

最小準実験的（MQE）基準:
本論文は、回帰の推定対象 $\tau$ が、潜在的なアウトカムの構成に関わらず、潜在的アウトカムの対比（すなわち、処置効果の加重平均）である場合、それを「最小準実験的」であると定義する。これは「レベル独立性」を強制するものである。すなわち、ある単位のすべての潜在的アウトカムを一律に定数分シフトさせても、推定対象が変化してはならない。

潜在的重みと潜在的デザイン:
集団回帰の推定対象 $\tau$ は、潜在的アウトカムの線形集計として次のように表現できる：
$$\tau = \frac{1}{n} \sum_{i=1}^n \sum_{w \in \mathcal{W}} \pi^*_i(w) \rho_i(w) y_i(w)$$
ここで、$\rho_i(w) = \Lambda G_n^{-1} z(x_i, w)$ は潜在的重みであり、回帰の仕様と集団のグラム行列によってのみ決定される。

$\tau$ が最小準実験的であるためには、潜在的アウトカムに割り当てられる重みが、各単位において処置レベル間でゼロに合計されなければならない。これは、真の割り当て確率 $\pi^*_i$ に対して線形制約を課すことになる：
$$\sum_{w \in \mathcal{W}} \pi^*_i(w) \rho_i(w) = 0 \quad \text{および} \quad \sum_{w \in \mathcal{W}} \pi^*_i(w) = 1$$

これらの線形方程式の解を潜在的デザインと呼ぶ。

• [MQE-1] 存在性: これらの線形制約を満たす有効な確率分布 $\pi$ は存在するか？
• [MQE-2] 正当性: 真の割り当てプロセス $\pi^*$ は、これらの潜在的デザインの一つと一致しているか？

近似的準実験的解釈:
厳密な条件が成立しない場合、本論文はOLS推定量と増強逆確率重み付け（AIPW）推定量の間の数値的な等価性を確立する。OLS推定量と、特定のデザイン $\tilde{\pi}$ をターゲットとするAIPW推定量の間のギャップは、回帰残差と、$\tilde{\pi}$ が潜在的デザインの制約を違反している度合いとの間の経験的共分散に比例する。したがって、OLSが近似的に準実験的であるための条件は、処置モデルの誤指定がアウトカムモデルの誤指定と無相関であることである。

3. 主な貢献と理論的結果

統一と逆の結果:
本フレームワークは、提案されたデザインと推定対象が、回帰仕様から導出される潜在的デザインおよび潜在的推定対象に他ならないことを示すことで、既存文献（例：Angrist, 1998; Goldsmith-Pinkham et al., 2024; Athey and Imbens, 2022）の多様な結果を統一する。決定的なことに、本論文は逆の結果を提供している。すなわち、回帰が準実験的な解釈を許容するのは、真のデザインが唯一の潜在的デザインと一致する場合に限られる。

特定の仕様に関する知見:

• 共変量を伴う二値処置: $Y_i = \tau W_i + x_i'\gamma + \epsilon_i$ の場合、潜在的デザインは傾向スコアが共変量に対して線形であること（$\pi_i = x_i'\delta$）を要求する。推定対象は、$\pi_i(1-\pi_i)$ に比例する重みを持つWATEである。
• 交互作用を含む回帰: 処置と共変量を交互作用させる仕様（$Y_i = \tau_0 W_i + \tau_1' W_i x_i + \dots$）の場合、厳密な準実験的解釈は非常に脆弱である。これには、傾向スコアとその共変量との交互作用の両方が、残りの共変量に対して線形であることが要求される。この条件は、共変量が飽和していない限り一般に成立しないため、交互作用を含む回帰はしばしば正当な因果的解釈を欠いている。
• 二方向固定効果（TWFE）: 時変共変量を伴うTWFE回帰は、処置パスが完全にランダム化されているか、共変量が制限的な線形スパン条件を満たさない限り、一般に潜在的デザインを許容しない。
• 二段階最小二乗法（TSLS）: 本フレームワークはTSLSにも拡張され、潜在的推定対象が適切な重みを割り当てるための要件として、コンプライアンス・パターン（例：二値インストルメントに対する強い単調性）に関する必要条件を回収する。

4. 実証結果

AIによるセンサス分析:
American Economic Review および American Economic Journal: Applied Economics に掲載された1,051本の論文（2020–2026年）の分析により、準実験的回帰が広く普及していることが明らかになった。しかしながら：

• 実務者は現代的な因果推論手法（IPW、マッチング、DML）をほとんど使用していない。
• 明示的なターゲット推定対象が名指しされることは稀である（非無作為化に関する論文98本のうち、わずか9本のみ）。
• 研究の大部分は、理論的結果が示唆するように、因果的解釈に関して脆弱な、交互作用を含む仕様や時変共変量を伴うTWFEを使用している。

9つの研究に対する診断的再分析:
提案された診断を用いて9つの最近の研究を再分析した：

1. 厳密な解釈: 9つのケースすべてにおいて、厳密な準実験的解釈は拒絶された。推定された潜在的デザインは、傾向スコアが $[0, 1]$ の範囲外となることが多く、Ramsey RESETテストも傾向スコアの線形性を決定的に拒絶した。
2. 近似的解釈: 厳密な条件は拒絶されるものの、ほとんどの研究は近似的に準実験的である。デザインの不一致と回帰残差の間の共分散は通常小さく、これはOLS推定値が合理的な代替デザインに対するAIPW推定値に近いことを意味する。
3. 例外: 1つの研究（Ang, s2023）では、代替の傾向スコア推定値がOLSの結果を2標準誤差以上に変化させる大きな乖離を示しており、潜在的モデルの失敗がその特定の文脈において重大であることを示している。
4. 代表性: 多くのアプリケーションにおいてオーバーラップ（重なり）が悪く、潜在的推定対象が集団の極めて小さな部分を合算している。オーバーラップのためのトリミングは代表性を向上させるが、多くの場合、推定値はマイノリティのサブ集団の代表となる。

5. 意義と主張

本論文は、線形回帰から導出される因果的主張の妥当性を評価するための、一般的かつ自動化可能なフレームワークを提供すると主張している。その主要な意義は以下の通りである：

• 潜在的モデルの定式化: 回帰を因果推論に使用することは、処置割り当ての特定のモデル（潜在的デザイン）と、不均一な効果の特定の重み付け（潜在的推定対象）を暗黙的に選択していることを実証した。
• 楽観論への挑戦: 回帰の堅牢性に関するAngrist and Pischke (2008) の「楽観論」は、必ずしも普遍的に正当化されるものではないことを示唆している。厳密な準実験的解釈は、特に交互作用を含むモデルやTWFEモデルにおいて、非常に脆い。
• 実用的有用性: 厳密な解釈はしばしば失敗するが、本フレームワークは、研究者が近似的な妥当性と推定対象の代表性を評価することを可能にする。著者らは、透明な実証分析においては、これらの隠れた仮定を可視化するために、潜在的デザインと推定対象を明示的に推定し報告すべきであると主張している。

結論として、回帰はモデルの誤指定間の相関が低いために実務上は合理的な推定量として機能することが多いが、それが課す潜在的な仮定は無視できないものであり、形式的な正当化に委ねるのではなく、明示されるべきものである。