技術的概要：確率的常識に基づく帰納的推論

1. 問題定義

本論文は、大規模言語モデル（LLM）における推論に対する現在の神経記号アプローチの限界に取り組んでいる。既存の方法は自然言語を形式論理に変換し、ソルバーを活用することに成功しているが、形式ソルバーに必要な常識的世界知識（例：「白は色である」）にアクセスできないため、しばしば失敗する。

このギャップを埋めようとした先行試み（例：LLM-Tres、ARGOS）は、クエリ（$c$）が文脈（$S$）から論理的に導かれるように、LLM が欠落した前提（$L$）を生成する帰納的推論フレームワークに依存している。しかし、これらの方法は、誰もが真実として受け入れる単一の普遍的に合意された事実集合 $L$ が存在するという単一的な常識を暗黙的に仮定している。

著者らは、この仮定が誤っていると主張する。実際には、常識的信念は個人間で変動する。2 人の人がクエリに対して同意しない場合、それは推論の誤りによるものではなく、矛盾した結論をもたらす、異なるが正当化可能な常識的信念の集合（$L_1$対$L_2$）を保持しているためである。さらに、単一的な常識を仮定することは、命題の真偽の確率を解釈しにくくし、真の確率ではなく、解釈不能な信頼スコアに還元されることが多い。

核心的な問題: 必要な常識的仮定が普遍的に合意されるのではなく、推論者の集団間で変動する場合、前提 $S$ が与えられたとき、クエリ $c$ の真偽値をどのように決定するか？

2. 手法：確率的帰納的常識（PACS）

著者らは、常識を単一の静的な事実集合ではなく、推論者の集団における確率的分布としてモデル化するPACSを提案する。

2.1 理論的枠組み

著者らは、クエリ $c$ が真である帰納的確率を、すべての人間（$R$）の集合における期待値として定義する：
$$AP(S, c) \equiv \mathbb{E}_{R} [ \mathbb{1}[S \land L(R) \vdash c] ]$$
ここで、$L(R)$ は推論者 $R$ が保持する常識的信念の集合を表す。クエリは、大多数の推論者がそれを真と結論づける場合、「帰納的に真」と見なされる。

任意の個人の完全な信念ベクトル $L$ はアクセス不可能であるため、この期待値は、個々の「思考」（認識的命題）を逐次的にサンプリングすることで近似される。

2.2 サンプリングアルゴリズム

このアルゴリズムは、証明の探索を信念ベクトル $L = (L_1, L_2, \dots, L_{|D|})$ の個々の要素をサンプリングするプロセスとして扱う。

1. 連鎖律サンプリング: 連鎖律を用いて信念を一つずつサンプリングする：$p(L) = p(L_1)p(L_2|L_1)\dots$。
2. 早期停止: サンプリングは完全な信念ベクトルを生成する必要はない。蓄積された信念 $\hat{l}$ が前提 $S$ と組み合わさってクエリ（$S \land \hat{l} \vdash c$）またはその否定（$S \land \hat{l} \vdash \neg c$）を論理的に導き出すやいなや停止する。
3. MDP としての最適化: 計算コスト（停止時間）を最小化するために信念をサンプリングする最適な順序を見つけることは、マルコフ決定過程（MDP）として定式化される。
   • 状態: 現在サンプリングされた信念の集合。
   • 行動: 次にサンプリングする信念命題の選択。
   • 報酬: 結論に到達するための将来のステップ数の期待値を最小化すること。

2.3 サロゲートスコア関数

正確な期待報酬の計算には、完全な分布 $p(L)$ の知識が必要であり、これは計算不可能である。著者らは、モデルカウント（論理を満たす可能な世界の数）に基づいた計算可能なサロゲートスコアを導出した。
貪欲に最小化するために提案されるスコアは以下の通りである：
$$\text{Score}(\phi(t)|S) = \#\sigma_{S \land l_{\phi(1:t)}} \times (v_{S \land \hat{l}_t} - b_{S \land \hat{l}_t}) + 1$$
ここで：

• $\#\sigma$ は到達可能な完全に制約された状態の数である。
• $v$ は問題内の変数の総数である。
• $b$ はすでに制約された変数の数である。
  このスコアは不確実性の減少を近似し、最も情報量の多い常識的仮定への探索を導く。

2.4 実装

• サンプリャーとしての LLM: LLM は、次の信念命題 $l_i$ の条件付きサンプリャーとして機能する。
• ビーム類似探索: アルゴリズムは各ステップで $n$ 個の候補思考をサンプリングするが、上位 $m$ 個のスコアを持つ経路を保持する（ビーム探索の変種）。
• 集約: 単一の最高スコア経路を選択する標準的なビーム探索とは異なり、PACS はすべての完了した探索経路の結果を集約する。最終的な答えは、これらの多様な経路の結論に対する多数決によって決定される。

3. 主要な貢献

1. 確率的常識フレームワーク: 本論文は、単一的な真実の仮定から離れ、人間の常識的信念の多様性を明示的にモデル化する、帰納的推論の形式的定義を導入する。
2. PACS アルゴリズム: LLM と形式論理ソルバーを組み合わせ、多様な推論経路をサンプリングし、モデルカウントを用いて最小の説明の探索を導く新しいアルゴリズム。
3. 実証的検証: 信念の変動をモデル化し、多様な経路を集約することが、単一の「正しい」推論経路を仮定するか、LLM の信頼スコアのみを依存する手法よりも高い精度をもたらすことを実証。

4. 実験結果

著者らは、PACS を 3 つのデータセットで評価した：FOLIO（論理的推論）、CosmosQA、および真偽に変換された読解力テストQUAIL。

• 性能: PACS は、FOLIO および QUAIL において、Chain-of-Thought（COT）、Self-Consistency（SC）、および先行の神経記号手法（LoT、LLM-Tres、ARGOS）を上回った。
  • FOLIO では、PACS は（Llama 3.3 70B を使用して）**88%**の精度を達成し、次の最良の神経記号手法（ARGOS）の 78%、COT の 73% を上回った。
  • QUAIL では、PACS は**91%**を達成し、ヒューリスティックなビーム探索ベースライン（If-Beam）を 6% 上回った。
• 多様性と堅牢性: PACS は、正しい推論経路が一つも見つからなかった問題の割合を大幅に削減した（例：FOLIO で 3% 対 If-Beam の 16%）。これは、PACS が解空間をより効果的に探索していることを示している。
• 「思考」モデルとの比較: 小さな非思考モデル（Llama 3 8B）を使用した場合でも、PACS は最新の 120B「思考」モデル（GPT-OSS-120B）を FOLIO で上回った（QUAIL では 82% 対 82%、FOLIO では 88% 対 82%）。これは、原理的な探索アルゴリズムが、単にモデル規模を拡大するよりも効果的であることを示唆している。
• 経路の長さ: PACS は、If-Beam（6.7）と比較して、より短い推論経路（FOLIO で平均 4.6）を見出し、より良い計画と過剰な「考えすぎ」の減少を示している。

5. 意義と主張

本論文は、PACS の成功が 2 つの中核的な洞察を検証すると主張している：

1. 多様性が鍵である: 推論システムは「正しい答えは何か？」と問うべきではなく、「大多数の人が正しいと言うのは何か？」と問うべきである。これには、単一の単一的な証明を求めるのではなく、多様なサンプル根拠を総和することが必要である。
2. 目標指向の探索: システムは「いくつかの真実な命題は何か？」と問うべきではなく、「この問題を解決するのに役立つ真実な命題は何か？」と問うべきである。これには、網羅的な生成ではなく、最小化戦略（最も短く直接的な経路を見つけること）が必要である。

著者らは、比較的単純な仮定（例：解の均一分布）を使用しているにもかかわらず、このフレームワークが、LLM の微調整やその暗黙の信頼に依存するよりも、具体的で原理的な探索アルゴリズムを設計することが推論能力を向上させるより効率的な道であることを実証していると結論づけている。

6. 限界

著者らはいくつかの限界を認めている：

• 均一性の仮定: サロゲートスコアの導出は、到達可能な状態の分布（$p(\sigma_i|l)$）に対して均一なモデルを仮定しており、これはおそらく非現実的である。
• 翻訳エラー: この手法は、自然言語を論理に変換するために事前学習された LLM に依存している。この翻訳段階でのエラーはノイズを導入し、特に翻訳ミスが頻繁に発生した CosmosQA データセットで顕著であった。
• 範囲: 本論文は、専用の論理翻訳モデルの微調整を探求するものではなく、信念分布のためのより複雑なモデルを提案するものでもなく、これらは現在の範囲外とみなしている。