From Causal Plausibility to Causal Reliability: Evaluating LLMs as Calibrated Direct Causal-Edge Classifiers
本論文は、12種類の大規模言語モデルを直接的な因果エッジの分類器として体系的に評価し、それらが高い再現率を示す一方で、著しい過剰予測、直接的関係と間接的関係の識別不全、および誤った判断に対する深刻な過剰自信に苦しんでいることを明らかにしており、これらは因果構造の信頼できる直接的証拠というよりも、ソフトな因果事前分布のソースとして適していることを示唆している。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
科学はしばしば、何が起こるかだけでなく、なぜそれが起こるのかを理解しようとします。研究者が現象の背後にある原因をマッピングしようとする際（それが人口におけるウイルスの蔓延であれ、工場における機械の故障であれ）、彼らはつながりの図を作成します。この図において、あるものから別のものへの直接的な線は、最初のものが直ちに次のものを引き起こすことを意味します。もしウイルスが感染を引き起こし、それが陽性判定につながる場合、ウイルスは感染を通じて間接的に検査結果を引き起こしていることになります。どの線が直接的で、どれが間接的なのかを見極めることは、「因果発見（causal discovery）」と呼ばれる難しいパズルです。数十年にわたり、科学者たちはこのパズルを解くために、複雑な数学的ツールや膨大な観測データに頼ってきましたが、これらのツールは、データが乏しい場合や異なるパターンが同一に見える場合に、苦戦することがあります。
近年、新しい種類のツールが登場しました。それは大規模言語モデル（LLM）です。これらは膨大な量のテキストで学習されたコンピュータシステムであり、質問に答え、物語を書き、問題を推論することができます。これほど多くの文章を読んできたため、彼らは世界の仕組み、つまり物事がどのように互いに影響し合うかについての深い知識の泉を持っているかのように見えます。研究者たちは、これらのシステムが専門的なガイドとして機能し、図の中のどの接続が真実で直接的なものであるかを教えてくれるのではないかと問い始めました。期待されていたのは、これらのモデルがショートカットを提供し、高価な実験を行うことなく、因果関係についての信頼できる判断を下してくれることでした。しかし、新しい研究によれば、これらのモデルは二つの事柄が関連していることを察知することには長けているものの、それらが正確にどのように結びついているかを知ることには極めて不向きであり、間違ったときにはあまりにも自信過剰であるということが示唆されています。
研究チームは、大規模言語モデルを直接的な因果関係の判定者として扱うことで、その信頼性をテストすることに乗り出しました。彼らは、より小型で効率的なシステムから、巨大で強力なものまで、12種類の異なるバージョンのモデルを集めました。そして、既知の因果関係のマップで表された6つの異なる現実世界のシナリオをこれらのモデルに提示しました。これらのシナリオは、肝炎やCOVID-19のような医学的状態から、産業プロセスや生態系に至るまで、多様な分野を網羅しています。これらのマップ内のすべての変数ペアに対して、研究者はモデルに単純な質問を投げかけました。「最初の項目は、二番目の項目を直接引き起こしますか？」モデルは「はい」か「ノー」で答え、さらに確信度を示す数値である「信頼スコア」を提示しなければなりませんでした。
結果は、一貫した「過剰な熱意」のパターンを明らかにしました。モデルは「はい」と答えすぎる傾向がありました。必要最小限の直接的な接続のみを持つ疎なマップを描く代わりに、モデルはほとんどすべてのものが互いに直接つながっているかのような、密なネットワークを作り出しました。この挙動は非常に強力で、研究者が質問の仕方を試行錯誤しても、モデルをより選択的な判断ができるよう訓練することは容易ではありませんでした。モデルは二つの事柄が関連していることは正しく特定していましたが、直接的な原因と間接的な原因を区別することには失敗していました。例えば、ウイルスが感染を引き起こし、その感染が熱を引き起こす場合、モデルはしばしばウイルスが熱を直接引き起こすと主張し、中間のステップを無視してしまいました。このエラーは、関係が間接的であるケースの約40％、および方向が逆であるケースの36％で発生しました。
最も懸念すべき発見は、モデルの自己認識の欠如でした。モデルが構造的な誤りを犯したとき、彼らは躊躇しませんでした。間接的な関係にある項目間に直接的なつながりがあると誤って主張したケースのうち、80％以上において、モデルは少なくとも8割の信頼スコアを割り当てていました。彼らは単に推測していたのではなく、自信満々に間違っていたのです。研究では、モデルが正しい推測と間違った推測を、自身の信頼スコアに基づいて区別できるかどうかについても調査しました。その結果、モデルが提示する信頼スコアはしばしば信頼できないものであることが分かりました。モデルはある回答に対して「90％の確信がある」と言っても、その数値は回答が正しいかどうかとは実際には相関していませんでした。唯一、わずかな改善が見られた手法は、同じ質問を異なる方法で投げかけ、互いに一致するかどうかを確認することでしたが、この方法でさえ完璧な解決策にはなりませんでした。
研究者たちは、モデルがテスト問題で見たことのあるデータを単に暗記しているだけではないかとも調査しました。その結果、特定の医学的条件に関するデータセットについては、いくつかのモデルが疑わしいほど高いパフォーマンスを示しており、トレーニング中にそのデータを見た可能性が示唆されました。しかし、この既知の事実は、モデルが依然として同じ種類の誤りに苦しんでいた他の5つのデータセットの低いパフォーマンスを説明するものではありませんでした。研究者が、単なる「はい／いいえ」の二択ではなく、直接的な原因、逆の因果、あるいは直接的なつながりなしという3つの選択肢から選ぶように強制した場合でも、モデルの性能は大幅には向上しませんでした。彼らは依然として直接的なつながりがない場所に直接的なリンクを予測し続け、この問題が単に質問の仕方の欠陥ではなく、これらのシステムにおける因果関係の理解に関する根本的な限界であることを証明しました。
最終的に、この研究は、大規模言語モデルはアイデアを生み出すための強力なツールではあるものの、世界の仕組みに関する決定的な証拠として扱うべきではないと結論付けています。それらは「ソフトな示唆」の源として見るべきであり、他の方法によってチェックされ、検証されるべき出発点に過ぎません。モデルは二つの事柄が関連している可能性が高いことは教えてくれますが、それ自体で精密な因果マップの線を引くことはできません。彼らが示す自信は、真実の真の尺度というよりも、むしろトレーニングデータの反映であることが多いのです。精密な因果メカニズムを理解する必要がある科学者やエンジニアにとって、これらのモデルだけに頼ることは、すべての通りが互いに接続されている地図を使って複雑な都市をナビゲートするようなものです。それは包括的に見えるかもしれませんが、あなたを迷わせることになるでしょう。進むべき道は、これらのモデルを使って仮説を生成し、それを厳格にテストすることにあります。彼らの自信に満ちた判断を最終的な答えとして受け入れることではありません。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。