🤖 machine learning

GoT-CD: Graph-of-Thoughts Causal Discovery and the Fragility of Post-hoc Path-Specific Fairness Audits

本論文は、構造的に競争力のある因果グラフを生成するGraph-of-ThoughtsフレームワークであるGoT-CDを紹介するとともに、高忠実度の発見手法であっても、正確な事後的なパス特定公平性監査に必要となる特定の経路の復元に失敗し得ることを示し、それによって、因果発見をダウンストリームの公平性要件の観点から評価することの極めて重要な必要性を浮き彫りにしている。

原著者： Nitish Nagesh, Elahe Khatibi, Thomas Dean Hughes, Mahdi Bagheri, Pratik Gajane, Amir M. Rahmani

公開日 2026-08-05

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Nitish Nagesh, Elahe Khatibi, Thomas Dean Hughes, Mahdi Bagheri, Pratik Gajane, Amir M. Rahmani

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたは、ぼやけた白黒の犯罪現場写真だけを頼りに謎を解こうとしている探偵だと想像してください。容疑者の姿ははっきりと見えませんが、誰が、誰に対して、何をしたのかを突き止めなければなりません。データサイエンスの世界では、これを**因果探索（causal discovery）**と呼びます。あらゆる動きを観察できる対照実験を行う代わりに、科学者たちは「観察データ」（例えば、大量の医療記録や交通ログなど）を見て、どの要因が他の要因を引き起こしているのかを示す地図を描こうとします。例えば、「砂糖の摂りすぎが頭痛を引き起こしているのか」、それとも「単に両方が同時に起きているだけなのか」といったことです。

一度この地図を手に入れたら、それが公平かどうかを確認したくなるかもしれません。ここで**パス特定公平性（path-specific fairness）**が登場します。例えば、採用アルゴリズムが候補者を不採用にしているとしましょう。あなたは、その人がスキルに基づいて拒否されたのか（正当な理由）、それとも性別や人種に基づいて拒否されたのか（不当な理由）を知りたいと考えています。これに答えるには、あなたのアイデンティティから最終的な決定に至るまでの、地図上の特定の「パス（経路）」を辿る必要があります。もし地図が間違っていれば、公平性のチェック自体が無意味になります。アルゴリズムが公平であると思っていても、実際には偏っているかもしれませんし、あるいはその逆かもしれません。これは、この論文が探求している科学の非常にトリッキーな領域です。つまり、「いかにして最善の地図を作り上げ、そしてその地図が公平性をチェックしようとする際に、私たちを欺かないようにするか」という問題です。

論文：GoT-CDと「偽りのクリーン」という罠

この論文の著者であるニティシュ・ナゲシュ（Nitish Nagesh）とそのチームは、一見シンプルに見えて、実は罠を含んでいる問題に取り組んでいます。彼らは、科学者がAI（具体的には大規模言語モデル、LLM）を使用してこれらの因果地図を描く際、通常は地図が「構造的に正しいか」どうかだけをチェックしていることに気づきました。それは、まるで生徒が描いた家の絵を、窓やドアが正しい位置にいくつあるかを数えることで採点するようなものです。しかし、もし生徒が完璧な家を描いたとしても、玄関のドアを描き忘れていたらどうでしょう？もしあなたが、車椅子利用者がアクセス可能かどうかをチェックしようとしているなら、その欠落したドアは致命的な問題となります。たとえ残りの絵が完璧であったとしてもです。

この論文は、GoT-CD（Graph-of-Thoughts Causal Discovery）と呼ばれる新しい手法を紹介しています。その仕組みを理解するために、同じ事件に取り組む3人の探偵のチームを想像してみてください。ただし、彼らは互いに議論し合うのではなく、全員が同時に自分の「犯罪理論」を紙に書き留めます。

従来の方法（ペアワイズまたはトラバーサル）： 以前のAI手法は、2つの手がかりを一度にしか見ない（「AはBを引き起こすか？」）探偵や、最初の一歩で推測を確定させてしまう探察のようなものでした。もし早い段階で間違いを犯すと、物語全体が台無しになり、やり直すこともできませんでした。
GoT-CD の方法： この手法は、複数の完全な地図を同時に生成します。その後、厳格な「審判」（決定論的なスコアリング関数）がそれらをチェックします。最も優れた地図の最も優れた部分が統合されますが、ここには非常に重要なルールがあります。それは、**「どの探偵も提案していない新しい接続を捏造してはならない」**というルールです。これにより、AIがもっともらしく聞こえるだけの偽の関係を作り出すことを防ぎます。最後に、チームは地図にループがないこと（AがBを引き起こし、それがCを引き起こし、さらにAへと戻るようなことはできない）を確認し、DAG（有向非巡回グラフ）と呼ばれる、きれいな一方通行の道路地図へと仕上げます。

チームは、アルツハイマー病に関するデータセットを含む5つの異なるデータセットを用いて、従来の数学的アルゴリズムや他のAI手法と比較検証を行いました。条件を公平にするため、データ量は固定（100件の観測値）とし、特定のAIモデル（gpt-4o-mini）を使用しました。

大きな発見：「偽りのクリーン」証明書
最も驚くべき発見は、GoT-CDがより優れた地図を描くこと自体ではありません。それらの地図を使って公平性をチェックしたときに何が起こるか、という点です。研究者たちは、アルツハイマー病のデータセットにおいて、そこにはるかに明らかな「不当なパス」が存在することを確認しました。それは、性別 → 脳の容積 → MOCAスコア（認知機能テスト）という経路です。性別が脳の容積に影響を与え、それがテストのスコアに影響を与えるという事実を、彼らは把握していました。

ここでのひねりは以下の通りです：

旧来のAI手法の一つ（LLM-BFS）は、全体として見た目は良好な地図を描いていました。その構造スコア（F1）は 0.649 であり、まずまずの数値でした。
しかし、その地図を用いて不当なパスをチェックしたところ、そのパスが完全に欠落していました。 地図上には、性別とテストスコアの間の接続が存在しませんでした。
パスが欠落していたため、公平性監査の結果は 0 と報告されました。それは「不当性は検出されませんでした」という、いわば「クリーン」な証明書のように見えました。
しかし、これは嘘でした。実際の不当性は 0.572 という大きな値でした。AIはバイアスを見つけられなかったのです。なぜなら、バイアスが存在する「道」を描き忘れていたからです。システムが公平だったのではなく、地図が壊れていたのです。

対照的に、GoT-CD は、最高の構造スコア（0.757）を持つだけでなく、その特定の不当なパスを正確に特定することにも成功しました。それは、バイアスが確かに存在することを示す正しい方向の因果関係を報告しました。

また、別の手法であるGESは、パス自体は見つけましたが、あまりにも多くの「余計な偽のパス」を追加してしまったため、不当性を実際よりも7倍も大きく見せてしまいました（実際の 0.572 に対して 4.034 という値）。

これがあなたにとって何を意味するか

この論文は、システムの公平性を判断するために、単に地図の「良いスコア」を信じてはならないことを示唆しています。もし地図が、偏った結果につながる特定の道を捉え損ねていれば、公平性のチェックは「すべて順調である」と自信満々に告げることになるのです。これが、著者たちが「偽りのクリーン証明書（false-clean certificate）」と呼んでいる現象です。

彼らは、医療上の決定や採用などのためにAIを使ってこれらの地図を作成する場合、単なる全体的な精度を見るだけでは不十分であると主張しています。具体的に次を確認する必要があります。「その地図は、私たちが注目すべきパスを見つけ出せているか？」

この研究は、GoT-CDが「思考するチーム」のアプローチを用いて地図を構築することで、重要な接続を見落としたり、偽の接続を捏造したりしないようにしているため、有力な候補であることを示唆しています。結果はシミュレーションと特定のデータセット（アルツハイマー病の例など）に基づいたものですが、教訓は明確です。公平なAIを構築する競争において、単に「きれいな地図」があるだけでは不十分です。正しい道が描かれていなければ、バイアスのあるシステムを、誤って「公平である」と認定してしまうことになるのです。

技術要約：GoT-CDと事後的なパス特定公平性監査の脆弱性

1. 問題提起

因果探索（Causal Discovery）は、メカニズム推論や予測モデルの公平性監査を支援するために、臨床現場でますます活用されるようになっている。しかし、構造的発見の精度と、その下流で行われる公平性評価の信頼性の間には、決定的なギャップが存在する。パス特定的な反事実的公平性の推定値（path-specific counterfactual fairness estimands）は、提供された因果グラフに基づいて定義される。これらは、保護属性（ $S$ ）から結果（ $Y$ ）への有向パスの存在とその構造に完全に依存している。

現在の因果探索の評価慣行は、すべてのエッジを等しく重み付けする集約的な構造指標（例：適合率、再現率、F1スコア、構造ハミング距離）に依存している。これらの指標は、公平性監査に必要な特定のサブ構造（ $S \to Y$ の経路）が、探索プロセスにおいて生存しているかどうかを判断できない。その結果、ある探索手法は競争力のある構造的F1スコアを達成しながらも、極めて重要な「不公平な経路」の回収には失敗するという事態が起こり得る。このような経路が欠落している場合、公平性監査は確信を持ってゼロの効果（ $PSE|_{\cdot}| = 0$ ）を報告するが、これは真に公平なモデルが出力する結果と区別がつかない。これは、構造的な欠落が「公平である」という誤った証明（false-clean certificate）として機能してしまう現象を生む。

2. 手法：GoT-CD

著者らは、因果探索を局所的なクエリの連鎖ではなく、完全なグラフの推論問題として再定義する手法である GoT-CD（Graph-of-Thoughts Causal Discovery）を提案する。ペアワイズ（変数ペアをクエリする）手法やトラバーサル（ノードを逐次的に展開する）手法とは異なり、GoT-CDは、推論の単位を「完全な候補エッジ集合」として扱う。

GoT-CDのパイプラインは、以下の「グラフ操作（Graph of Operations）」の単一パスを実行する：

生成 (Generate): 変数名、説明、およびドメインの導入文をLLMにプロンプトとして与え、 $k$ 個の異なる候補グラフ（エッジ集合）を並列に生成させる。
スコアリング (Score): 決定論的な非LLMバリデーション関数を用いて、候補をスコアリングする。この関数は、宣言されていない変数の存在や自己ループをペナルティとして課し、適切に構成されたエッジに報酬を与え、ソフトな密度事前分布を適用し、非巡回性（acyclicity）に対してボーナスを加算する。
最良N個の保持 (KeepBestN): 上位 $N$ 個の候補（通常 $N=2$ ）を保持する。
集約 (Aggregate): 保持された候補を**ハード・ユニオン制約（hard union constraint）**の下で統合する。モデルには、少なくとも一つの入力候補に現れたエッジのみを出力するよう指示される。これにより、モデルが推論の分岐で提案していない「もっともらしいエッジ」を捏造することを防ぐ。
改善 (Improve): 統合されたグラフを洗練させる。モデルは、既に受け入れられたコア部分とサイクルを形成しない場合にのみ、新しいエッジを導入できる。
強欲な投影 (Greedy Projection): 最終的な決定論的ステップとして、エッジを走査して、既に保持されたエッジと有向サイクルを形成しない場合のみエッジを保持することで、非巡回性を強制する。これにより、出力が常に有向非巡回グラフ（DAG）であることを保証する。

本手法は、 $n=100$ の観測値と gpt-4o-mini バックボーンを用いたロックされたプロトコルを使用している。

3. 主な貢献

本論文の主な貢献は以下の3点である：

GoT-CD アルゴリズム: 推論の単位を完全な候補エッジ集合とし、並列生成、決定論的スコアリング、およびエッジの捏造を防ぐためのハード・ユニオン制約を活用した因果探索手法。
包括的なベンチマーク: GoT-CDを、4つの古典的なベースライン（PC, GES, NOTEARS, DAGMA-linear）および3つのLLMベースライン（Pairwise, LLM-BFS, GoT-CD-BFS）と比較し、5つのベンチマーク（Asia, Child, Alzheimer's, COVID-Respiratory, Sweden-Traffic）を用いて検証した。
事後的パス特定公平性監査: アルツハイマー病（Alzheimer's）のベンチマーク（真の不公平なパスは $Sex \to Brain Volume \to MOCA Score$ ）に適用される評価フレームワークを用い、単なる構造的F1だけでなく、特定の $S \to Y$ パスの逐語的な回収（verbatim recovery）に基づいて手法をスコアリングした。

4. 結果

ロックされた $n=100$ プロトコルの下での結果：

構造的性能: GoT-CDは、5つのベンチマークすべてにおいて有効なDAGを生成する。Asia (0.750)、Alzheimer's (0.757)、COVID-Respiratory (0.688) において、LLM手法の中で最高のDAG有効F1を達成し、5つのデータセットのうち4つでLLM-BFSを上回った。古典的な手法とも互角の成績を収めているが、線形ガウス型の Sweden-Traffic データセットでは連続緩和手法（NOTEARS, DAGMA）が優位であった。
DAGの妥当性: PC（全データセットで循環あり）や GES（4つのデータセットで循環あり）とは異なり、GoT-CD（および GoT-CD-BFS）は一貫してDAGを返し、公平性分析の前のヒューリスティックなサイクル打破を必要としない。
公平性の忠実度 (Alzheimer's ベンチマーク):
- GoT-CD: 正しい効果の符号（ $TE_{lin} = -0.580$ vs. ベンチマーク $-0.572$）と共に、真の不公平なパスを回収し、構造的F1においてもリードした。
- LLM-BFS: 競争力のある構造的F1（0.649）にもかかわらず、 $S \to Y$ のパスを一切回収できなかった。その結果、 $PSE|_{\cdot}| = 0$ を報告し、誤った「クリーンな」公平性証明を生み出した。
- GES: 不公平なパスを回収したが、8つの余分な偽の経路により、総パス質量を7倍以上に膨張させた（ $PSE|_{\cdot}| = 4.034$ ）。
- その他の手法: PC, NOTEARS, DAGMA-linear, および GoT-CD-BFS はすべて $S \to Y$ パスの回収に失敗し、ゼロの効果を報告した。

5. 意義と主張

本論文は、**「構造的忠実度は、公平性の忠実性を意味しない」**と主張している。ある手法は構造的に正確（高いF1）であっても、公平性監査に必要な特定のパスを回収できず、結果として自信に満ちた、しかし誤った「公平である」という結論を導き出す可能性がある。

著者らは、因果探索をパス特定的な公平性へと繋げるパイプラインは、以下の条件を満たすべきであると主張する：

経路の回収を報告すること: 公平性の推定値とともに、クリティカルな $S \to Y$ 構造が実際に回収されたかどうかを明示的に報告しなければならない。
探索指標の再評価: 公平性パイプラインのための探索手法は、集約的な構造的一致度だけでなく、ダウンストリームの分析が依存する特定のエッジに基づいて評価されるべきである。
グローバルな推論の活用: 結果は、グローバルな推論（GoT）が、ローカルな探索（BFS）やペアワイズなクエリよりも、公平性に関連する構造を保持する上で優れていることを示唆している。これは、ペアワイズ手法による「エッジの氾濫（edge flooding）」や、トラバーサル手法による「不可逆的なエラー伝播」を回避できるためである。

結論として、LLMの事前知識は、知識が豊富でコンパクトなグラフ（Alzizerheimer'sなど）においては効果的であるが、統計的手法（線形ガウス型データに長けている）を置き換えるものではなく、それらを補完するものである。また、今後の研究として、スコア誘導型のバリアントや、公平性を考慮した探索目的関数の検討が必要であるとしている。