技術的概要：SC3D – 安定した因果的動的微分可能発見

1. 問題定式化

本論文は、複数の時間遅れにわたって相互作用が生じ、かつ潜在的に瞬間的な依存関係を含む多変量時系列データからの因果構造の発見という課題に取り組む。時系列における従来の因果発見は、主に 2 つの障壁に直面している：

1. 組み合わせ探索空間: 遅れ（スライス間）および瞬間的（スライス内）の両方のエッジを含む動的グラフの探索空間は組み合わせ的であり、高次元システムにおける網羅的探索は非現実的である。
2. 数値的不安定性: 構造学習を連続最適化として定式化する微分可能因果発見（DCD）手法は、非循環性制約を強制する際に、特に変数の数が増加するにつれて数値的不安定性に陥りやすい。既存の滑らかな非循環性制約（トレースベースなど）は、変数が数十を超えると急速に劣化する。

著者は、非線形動的構造方程式モデル（SEM）内で遅れ固有の隣接行列と瞬間的有向非循環グラフ（DAG）を共同で学習するように設計されたフレームワーク、SC3D（Stable Causal Dynamic Differentiable Discovery）を提案する。

2. 手法

SC3D は、構造的ベクトル自己回帰（SVAR）モデルと安定した微分可能因果発見を橋渡しする、2 段階の微分可能フレームワークを採用する。本手法は、観測された多変量時系列 $\{X_t\}_{t=1}^T$ 上で動作する。

段階 1：ノードごとの時間的事前選択

第 1 段階は、非循環性制約を強制することなく候補となる因果親を特定することで、組み合わせ探索空間を削減することを目的とする。

• プロセス: 各ターゲット変数 $X_j^{t+1}$ に対して、遅れ変数（最大 $L$ 次まで）と同時変数（自己ループを除く）を含む候補親の時間ウィンドウを用いて、条件付き予測モデル（多層パーセプトロン、MLP として実装）を適合させる。
• 目的: このモデルは、スパース性を強制する $L_1$ 正則化項を備えた条件付き対数尤度を最大化する。
• 出力: 学習された入力グループの大きさを閾値処理し、バイナリマスク（遅れエッジ用 $M_{A_\ell}$ および瞬間的エッジ用 $M_B$）を生成する。
• 理論的保証: 定理 3.1 は、集団レベルにおいて、この事前選択ステップが選択された時間ウィンドウ内のすべての真の動的親を保持することを確立しており、精緻化段階の前に真の因果関係が破棄されないことを保証する。

段階 2：制約付き構造精緻化

第 2 段階は、段階 1 で生成されたマスクを用いて因果構造を精緻化し、特に瞬間的コンポーネントに対して非循環性制約を強制することに焦点を当てる。

• 最適化: モデルパラメータを再最適化し、段階 1 のマスクによって許可されたエッジに制限された正則化付き負対数尤度を最小化する。
• 非循環性の強制: 以前の手法がグラフ全体に滑らかなトレースベースの制約を適用するのとは異なり、SC3D は瞬間的隣接行列 $B$ に対してのみ非循環性を強制する。これは、グラフが非循環である場合のみゼロとなるスペクトル半径ペナルティ $\rho(|B|)$ によって達成される。
• 2 サイクルペナルティ: 小さなスペクトル半径を満たす可能性のある相互エッジに起因する潜在的な不安定性に対処するため、要素ごとの積 $B \odot B^\top$ に対する追加の $L_1$ ペナルティを導入し、2 サイクルを直接ペナルティ化する。
• ペナルティスケジューリング: スペクトルペナルティ係数 $\gamma$ はトレーニング中に徐々に増加する。抽出された瞬間的グラフが非循環制約を満たし、かつ十分な数のエッジを保持すると、ペナルティは「凍結」され、振動挙動を防ぎ収束を安定させる。
• 理論的洞察: 命題 3.2 は、瞬間的ブロック $B$ が非循環であれば、遅れエッジは本質的に時間的に前方へ移動しサイクルを形成できないため、時間展開された因果グラフ全体が非循環であることが保証されることを証明する。

3. 主要な貢献

本論文は、4 つの主要な貢献を概説している：

1. 新規定式化: 遅れ固有の隣接行列と瞬間的 DAG コンポーネントを用いて動的システムの因果発見を定式化し、構造的 VAR モデルと安定した微分可能因果発見を効果的に橋渡しする。
2. 2 段階アプローチ: スクリーニングと制約付き精緻化戦略を導入する。非循環性を強制する前に遅れ予測ウィンドウ内で候補親をスクリーニングすることで、高次元の非循環グラフを直接最適化することに伴う数値的不安定性を回避する。
3. 理論的保証: 段階 1 が真の因果親をすべて保持し、瞬間的依存関係の非循環性が時間展開グラフの非循環性を保証するのに十分であることを証明する、集団レベルの保証を提供する。
4. 実証的検証: 合成 SVAR システム、非線形およびカオス的ベンチマーク（Lorenz-96、NC8）、非定常ダイナミクス（TVSEM）、および実世界データセット（CausalRivers）においてフレームワークを評価し、既存のベースラインよりも優れた安定性と精度を実証する。

4. 実験結果

著者は、DYNOTEARS、PCMCI+、NTS-NOTEARS、TECDI、VAR-LiNGAM、NeuralGC などのベースラインに対して SC3D を評価した。

• スケーラビリティと安定性: 次元 $d$ を 10 から 50 まで変化させる実験において、SC3D は最小の総構造ハミング距離（SHD）を示した。他の手法のエラーが次元とともに急速に増大する一方、SC3D は堅牢な性能を維持した。DYNOTEARS や TCDF と比較して遅れみのみのエラー（$SHD_A$）が低く、時間的依存関係の回復において優れていることを示している。
• ランキング性能: AUROC および AUPRC メトリクスを用いて、SC3D は遅れ因果関係のランキングにおいてトップクラスの性能（AUROC $\approx$ 0.91）を達成し、瞬間的エッジのランキングにおいても競争力のある性能（AUPRC $\approx$ 0.715）を達成した。これは、スパースネットワーク設定において専門的なベースラインを上回るものである。
• 遅れ次数への頑健性: 感度分析により、遅れ次数 $L$ が増加してもエラーの瞬間的コンポーネントは安定したままであることが示され、2 段階設計がより深い時間的依存関係であっても探索空間を効果的に制御していることを確認した。
• 動的システム:
  • Lorenz-96（カオス的）: SC3D は最小のトップ-$k$ 構造エラーおよび最高の AUROC/AUPRC を達成し、PCMCI+ や TECDI を上回った。
  • TVSEM（非定常）: 状態遷移環境において、SC3D はより滑らかで時間的に一貫したスコア軌道を生み出し、ベースラインが示す鋭いが不安定な遷移と比較して優れていた。
  • 実世界（CausalRivers）: 河川流量データにおいて、SC3D は競争力のある構造精度とランキングメトリクスを達成し、特に他の手法が著しく劣化する高次元（$d=20$）において性能を維持した。
• アブレーション研究: 段階 1 の事前選択を除去すると、総 SHD が壊滅的に増加した（例：$d=20$ で約 87 から約 637 へ）。これは、事前選択ステップが探索空間を制御するために不可欠であることを確認した。スペクトルおよび 2 サイクルペナルティも、高次元における安定した回復に不可欠であることが示された。

5. 意義と主張

本論文は、SC3D が多変量動的システムにおける因果発見のための安定した、スケーラブルな、かつ微分可能な解決策を提供すると主張する。その意義は以下の点にある：

• 数値的不安定性の克服: 探索空間の削減（段階 1）と非循環性の強制（段階 2）を分離し、スペクトル制約を瞬間的ブロックのみに適用することで、高次元における滑らかなトレースベース制約の数値的落とし穴を回避する。
• 共同回復: 遅れおよび瞬間的因果構造の両方を、非線形依存関係を支持しながら共同で回復できる数少ない手法の一つである。
• 理論的妥当性: スクリーニング中の真の親の保持および、グローバルな非循環性に対する瞬間的非循環性の十分性に関する形式的保証を提供する。

著者は、SC3D を、遅れと瞬間的依存関係を独立してモデル化する既存の手法、またはそれらを同時に学習する際にスケーラビリティと安定性に苦しむ手法に対する堅牢な代替案として位置づけている。この研究は、複雑な動的システムにおける分布シフト下での信頼性の高いメカニズム的介入と推論への一歩として提示されている。