技術要約: EML-CD – EMLシンボリックツリーによる因果メカニズムの回復

1. 問題提起

現在の因果探索手法は、構造の正確性とメカニズムの解釈性の間で根本的なトレードオフに直面している。NOTEARSやGOLEMのような連続最適化手法、およびニューラルネットワークを用いた加法ノイズモデル（GraNDAG、NOTEARS-MLPなど）は、有向非巡回グラフ（DAG）構造の回復において高い精度を実現しているが、これらは因果メカニズムをブラックボックスとしてのニューラルネットワークとして表現してしまう。Waxmanら[22]が論じているように、ニューラルネットワークの重みから特定の関数形式を抽出することは、不適切に設定された問題（ill-posed problem）である。なぜなら、重みは基礎となるメカニズムを一意に特定するものではないからである。その結果、既存の手法は介入効果を予測するための閉形式の式や、因果効果関数を定量的に分析するための手法を提供できない。事後的な説明ツール（SHAP、LIME）は局所的な近似を提供するに過ぎず、スプラインベースのモデル（CAM）はシンボリックな方程式として抽出することができない。単一の学習プロセス内で、因果構造と任意の非線形な閉形式のメカニズムを同時に回復できるフレームワークは存在しない。

2. 手法: EML-CD

EML-CD（EMLベースの因果探索）は、EML演算子 [14] を因果構造学習に統合することでこのギャップを埋める。EML演算子は、$eml(x, y) = \exp(x) - \ln(y)$ と定義され、文法 $S \to 1 \mid eml(S, S)$ を介して合成されるとき、基本関数のための関数的に完全（functionally complete）である。

2.1 EMLツリー表現

EML-CDは、各エッジのメカニズム $f_{j,i}(X_i)$ を、有界な深さ $D$ を持つゲート付きEMLバイナリツリーとして表現する。

• 構造: ツリーは完全二分木であり、内部ノードはEML演算を適用するか、ゲーティング機構を介してそれをバイパスする。
• ゲーティング: 深さゲート $\sigma(\gamma)$ が複雑さを制御する。$\gamma \ll 0$ の場合、ノードはEMK演算をバイパスし（線形パスへと退化する）、$\gamma \gg 0$ の場合、EML演算が活性化される。これにより、モデルは線形メカニズムと非線形メカニズムの間でデータ駆動型の選択を行うことができる。
• 学習: モデルは、ゲート温度 $\tau_g$ に対して決定論的アニーリング・スケジュールを採用し、学習中に1から0.02へとアニーリングする。これにより、学習初期には勾配が自由に流れる一方で、ゲートがバイナリに近い状態へと収束し、学習されたソフト関数を忠実に表現するハード閾値化された閉形式の方程式が得られる。
• 安定性: 数値的な発散（例：$\exp$ や $\ln$ によるもの）を防ぐため、演算子は入出力の範囲を特定の境界（例：$\exp$ の入力を $[-2, 2]$、$\ln$ の引数を0.5でフロアとする）にクリップする。

2.2 二段階推論

学習プロセスは、以下の2つの明確なフェーズで構成される。

1. メカニズムの事前学習: すべての $d(d-1)$ 個の潜在的なペア $(i, j)$ について、平均二乗誤差（MSE）を最小化するようにAdamを用いてEMLツリー $T_{j,i}$ を学習する。各ペアに対して、3つのランダムな初期化のうち最良のものが選択される。このフェーズにより、$R^2$ スコア（予測力）と学習済みツリーのパラメータが得られる。
2. 貪欲なDAG構築: エッジは $R^2$ スコアの降順に従ってグラフに追加されるが、非巡回性を厳格に維持する。 $R^2$ が閾値 $\tau$ 未満のエッジは除外される。OLSに基づくBICを用いたオプションの逆方向の枝刈り（backward pruning）により、偽のエッジをさらに除去することも可能である。

2.3 識別性と方向性

EML-CDは、残差の独立性テストではなく、適合品質の非対称性（$R^2_{i \to j}$ 対 $R^2_{j \to i}$）に基づいてエッジの向きを決定する。関数クラスをEMLツリーに制限することで、逆方向のメカニズムの表現が困難になり、自然にその $R^2$ が低下する。これは、加法ノイズモデル（ANM）の識別性のためのヒューリスティックなプロキシとして機能する。

3. 主な貢献

1. フレームワークの統合: EML-CDは、EMLシンボリックツリーを因果構造学習に直接統合し、検出されたすべてのエッジに閉形式の方程式と解析的なヤコビアンを付随させた最初のフレームワークである。
2. 精度を損なわない解釈性: シンボリックな解釈性を追加しても、構造回復の精度が最先端のベースラインと比較して必ずしも低下しないことを示している。
3. 忠実なメカニズム回復: 制御された設定において、本手法は単に曲線をフィットさせるだけでなく、基本関数の関数形式を高精度に回復する。
4. 解析的な因果効果: ツリー構造から直接方程式を導出することにより、EML-CDは解析的なヤコビアン（$\partial X_j / \partial X_i$）の計算を可能にし、線形係数や数値的なNN微分からは得られない、状態依存的な因果効果の定量化を実現する。

4. 実験結果

4.1 実データ: Sachs タンパク質シグナリング ($d=11$)

• 構造回復: EML-CDは、構造ハミング距離（SHD） 11.2 ± 0.4（5シード平均）を達成した。これはPCおよびGES（SHD=11）と同等であり、CAM（SHD=12）よりも優れている。
• 適合率/再現率: すべての手法の中で最高の適合率（0.756）を達成したが、再現率（0.365）は低く、これは高信頼性のエッジを優先していることを示している。
• メカニズム: 本手法は、既知の経路（例：Raf $\to$ Mek）を閉形式の方程式とともに正常に回復した。例えば、PKC $\to$ P38に対しては、-5.4から+2.3の範囲の状態で依存的なヤコビアンを持つ非線形メカニズムを特定し、Erk $\to$ Aktに対しては線形メカニズムを特定した。

4.2 制御された二変量回復

既知のグラウンドトゥルース関数（$N=2000$）を用いたテストにおいて、EML-CDは 11個中10個 の基本関数ファミリー（線形、二次、三次、cos、tanh、exp、sqrt、sigmoid、log、abs）を、ホールドアウト形状相関 $\ge 0.96$ で回復した。高周波の正弦波（$\sin(1.5x)$）のみが部分的な回復（0.84）に留まった。

4.3 合成シンボリックベンチマーク (S-Sym)

• 固定辞書に対する安定性: シンボリックSEMベンチマークにおいて、EML-CDは平均メカニズム $f$-MSE 3.67 を達成し、これは固定SINDy辞書（平均7644）よりも大幅に低く、かつ安定している。SINDyのベースラインは、あるシードにおいて壊滅的な外挿エラーに陥った。
• 構造回復: 構造的SHD（14.0）はSINDy辞書ベースラインと一致したが、特化した線形最適化手法を下回ることはなかった。
• 限界: 安定ではあるものの、与えられたサンプルサイズにおける深さ2のモデルでは、高度に非線形な形状（例：tanhの飽和）を確実に回復できなかった。

4.4 因果チャンバー (Light-Tunnel サブセット)

マリュスの法則（$\cos^2(\theta_1 - \theta_2)$）に従う物理システムにおいて、深さ2のEML-CDモデルは、線形OLS-BIC（0.273）よりも優れたF1スコア（0.444）を向上させた。しかし、小規模サンプル設定では深さ3のモデルは失敗した。相互作用を考慮したリーフと介入メタデータを組み込むことで、適合率は1.000に向上したが、再現率は依然として限定的であった。

5. 意義と主張

本論文は、EML-CDを、シンボリックな因果メカニズムの解釈性が構造学習を犠牲にすることなく統合できることを示す**概念実証（proof of concept）**として位置づけている。

• 核心的な成果: 探索空間を有限次元で解釈可能なEML関数クラスに制限することで、NNベースのメカニズム抽出における不適切性を回避している。
• 実用的な価値: 方程式を直接出力できる能力により、介入効果の定量的予測や状態依存的な因果分析が可能となり、これは標準的なDAGのみの手法では不可能である。
• 謙虚な姿勢: 著者らは以下の限界を明示的に認めている：
  • 本手法は現在、単変量の加法的メカニズムを想定しており、特定の拡張なしには変数間の相互作用（例：$\cos^2(\theta_1 - \theta_2)$）をネイティブに表現できない。
  • 合成ベンチマークにおける構造回復は辞書ベースラインと一致するが、まだ特化した線形最適化手法を上回ってはいない。
  • 回復された方程式のシード間での安定性については、さらなる改善が必要である。
  • EML演算子自体は最近の開発であり、大規模な検証がまだ独立して行われていない。

結論として、EML-CDは、閉形式の方程式を因果グラフに付随させることが可能であることを示す初期の証拠を提供しており、透明で解析的に扱いやすい因果モデルへの道筋を示すものである。