技術要約：稀な事象の因果経路の定式化と反証

1. 問題提起

本論文は、自然災害、市場暴落、システム障害などの「稀な事象（アウトライヤー）」に対して因果的な説明を提供することの課題に取り組んでいる。既存の根本原因分析手法は、少数の因果的起源を特定することには長けているが、それらの原因がいかにして伝播し、観察された結果を生み出すかという具体的なメカニズムやサブグラフを捉えることには失敗することが多い。さらに、完全な因果モデルは未知であることが多く、漸近的な極値理論や連続変数への仮定に依存する標準的なアプローチは、極端ではないが稀な事象や離散的な領域には適していない。

核心となる問題は、「因果経路」という概念を、単純な言葉による説明と詳細な因果モデリングの架け橋となるような、形式的かつテスト可能なものとして定義できていない点にある。現在の手法は、完全な因果グラフが利用できない場合や、説明が部分的なモデル知識の下で堅牢である必要がある場合に、提案された一連のイベントの連鎖が特定の稀な観察に対する有効な説明を構成しているかどうかを定量化することに苦慮している。

2. 手法

2.1 因果経路の定式化と説明スコア

著者らは、二値事象のための因果経路を定式化するために、構造方程式モデル（SEM）と有向非巡回グラフ（DAG）に基づくフレームワークを導入している。

• イベントのクラスター: 因果DAG $C$ によって接続された二値変数の集合 $B$。部分集合 $R$ は、メカニズムが「破壊」された、あるいは介入を受けた根本原因を表す。
• 説明スコア: Oesterleら（2025）に基づき、本論文では事象 $X=x$ が事象 $Y=y$ を説明するという意味での説明スコア $E(x \to y)$ を以下のように定義する：
  $$E(x \to y) := 1 - \frac{\log P(Y=y | do(X=x))}{\log P(Y=y)}$$
  このスコアは、介入 $do(X=x)$が、その事前の希少性に対して、どれだけ$Y=y$ の可能性を高めるかを測定する。スコアが1に近いほど、強力な説明であることを示す。
• 経路説明スコア: 根本原因だけでは事象の「全容」を説明できないという限界に対処するため、著者らは経路説明スコア $E^K_{R \to t}$ を定義する。これは、根本原因 $R$ を1に設定することで、ターゲットとなるイベントを含む「クラスター全体」が、ターゲットイベントの希少性に対してどれほど蓋然性が高まるかを評価するものである。
  $$E^K_{R \to t} := 1 - \frac{\log P(B=1 | do(B_R=1))}{\log P(B_t=1)}$$
  この指標は、根本原因を設定した後でも中間事象が依然として起こりにくい場合、その経路の整合性を損なうとしてペナルティを課す。これにより、経路がコヒーレント（一貫している）であることを保証する。

2.2 因果的抽象化と二値化

連続的または複雑な変数を扱うために、本論文は詳細な因果モデルを簡略化された二値経路へと写像する手法である**経路抽象化（Pathway Abstraction）**を提案している。

• 特徴量の単調性: 変数は特徴関数 $\tau$（例：$X \ge x$）を用いて二値イベントへと変換される。このフレームワークは、これらの特徴量が「特徴量の単調性」を満たすこと、すなわち親の特性値が増加すると子の特性値が発生する確率が増加することを要求する。
• 自然なマイクロ実現（Natural Micro-Realization）: 粗い粒度（二値）の変数に対する介入の定義が困難であることを扱うため、著者らは介入 $do(B_S=b_S)$ の「自然なマイクロ実現」を定義している。これは、二値の制約の下で、基礎となる連続変数をその条件付き分布からサンプリングすることを含み、細粒度のモデルにおける介入を実質的にシミュレートするものである。
• 精度指標: 抽象化の質は、抽象モデルの介入分布と、真の投影分布との間のKLダイバージェンスによって、ターゲットイベントの希少性で正規化されて測定される。

2.3 一貫性チェックによる評価

本フレームワークは、一貫性チェックを通じて因果的説明の反証を可能にする：

• 定量的一貫性: ある経路が提案された場合、ノード間の遷移確率（例：$P(B_j=1 | B_i=1)$）は、説明スコアと整合していなければならない。これらの確率の積がターゲットの尤度を十分に高めない場合、その説明は弱いとみなされる。
• 定性的一貫性: 本フレームワークは、提案された経路のサブ構造についてエージェント（LLMなど）に問いかけ、主張された因果関係が特定の文脈下で保持されるかどうかを検証するために使用できる。

3. 主な貢献

1. 因果経路の形式的定義: 本論文は、因果経路を単なる根本原因の集合としてではなく、ターゲットを説明するサブグラフ $P$ を含むタプル $(C, P, B, B_t, B_R, P_B)$ として定義している。これにより、コンテキストとして使用される完全な因果グラフ $C$ と、説明的な経路 $P$ を区別している。
2. 経路説明スコア: 根本原因がターゲットだけでなく、経路内の「一連のイベント全体」をいかに蓋然的なものにするかを評価することで、説明の質を定量化する新しい指標を提示している。このスコアは、互いに素なメカニズムの集合に対して加法的であり、Shapley値のようなコンテキスト依存性の問題を回避している。
3. イベントレベルの抽象化: 経路抽象化の導入により、複雑、連続的、あるいは部分的にしか知られていないモデルから、単純で言語化可能な二値の因果的説明を導出することが可能になる。これは、変数の「粗粒度化」を扱いながら、テスト可能な含意を維持するための厳密な方法を提供する。
4. 反証可能性: どのメカニズムが期待通りに機能し、どのメカニズムが変更されたかについての明示的なコミットメントを要求することで、本フレームワークは因果的説明を反証可能なものにしている。説明が拒絶される条件（例：対数尤度ギャップに関する補題3.7）を提供している。

4. 結果とデモンストレーション

• 理論的境界: 著者らは、強い局所的な因果的説明（高いペアワイズスコア）が、必ずしも強いグローバルな経路説明を保証しないことを証明している。彼らは、中間事象が親よりも著しく発生しにくい場合を避けるといった、高い経路スコアを得るための必要条件を導出している。
• 必然性との関係: 本論文は、稀な事象において、正の説明スコアが「高い必然性の確率（PN）」を意味することを示す。つまり、スコアが完璧でなくても、根本原因はその事象が発生するために必要であった可能性が高いことを意味する。
• LLMによる評価ケーススタディ: 著者らは、長期的なホームレス状態の原因に関する大規模言語モデル（LLM）が生成した因果経路を評価するために、本フレームワークを適用した。
  • LLMは経路 $A \to B \to C \to D \to E$ を生成した。
  • 遷移確率をLLMに問い合わせることで、著者らは経路説明スコアが $\approx 0.29$ であることを算出した。
  • この低いスコアは、弱いリンク（$C \to D$）、すなわち「住居を失う」ことから「家族との疎遠」への遷移が、十分に確率的ではなかったことに起因している。
  • この演習は、本フレームワークが、言語的な説明における弱いリンクを定量的に特定し、妥当性を改善するための修正（例：直接的なリンクの追加やノードの言い換え）を提案できることを示した。

5. 意義と主張

本論文は、稀な事象の因果的説明を議論するための、形式的かつ定量的な言語を提供することで、因果推論および説明可能なAI（XAI）の分野を前進させると主張している。

• ギャップの架橋: 単純な言語的説明（直感的ではあるがテスト不可能）と、詳細な因果モデリング（複雑すぎて未知であることが多い）の間の溝を埋めるものである。
• 反証可能性: 主要な意義は、因果的説明を反証可能にすることにある。説明が特定の介入確率を内包することを要求することで、本フレームワークは、データや専門家の知見に対する経験的または論理的なチェックを可能にする。
• AIの安全性と透明性: 著者らは、本研究を、AIシステムが生成する因果的言明の真実性を評価するためのステップとして位置づけている。説明を明示的な経路として形式化することで、社会的に重要な事象に関する欠陥のある因果的説明を検出し、生成AIの信頼性に寄与することが可能になる。

著者らは、本フレームワークが因果DAGの妥当性や介入確率の真実性を自動的に証明するものではないという点に留意しつつ、謙虚な姿勢を保っている。むしろ、データ駆動的な方法で妥当性や蓋然性を議論するために必要な概念と指標を提供するものである。