🤖 AI

Generative Recursive Reasoning

本論文は、確率的な多経路潜在状態の洗練を可能にすることで再帰的推論を強化し、推論時のスケーリング、多様な仮説生成、および条件付き推論と無条件生成の両方を支援する生成再帰的推論モデル（GRAM）という確率的枠組みを導入する。

原著者： Junyeob Baek, Mingyu Jo, Minsu Kim, Mengye Ren, Yoshua Bengio, Sungjin Ahn

公開日 2026-05-20

📖 1 分で読めます☕ さくっと読める

原著者： Junyeob Baek, Mingyu Jo, Minsu Kim, Mengye Ren, Yoshua Bengio, Sungjin Ahn

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

「Generative Recursive Reasoning Models (GRAM)」という論文を、平易な言葉と創造的な比喩を用いて解説します。

大きな問い：AI はどのように思考すべきか

非常に難しいパズル、例えば複雑な数独や論理ななぞなぞを解こうとしていると想像してください。

従来の AI（自己回帰モデル）： これらは、最初から最後まで一語ずつ思考を書き留める人のようなものです。もし最初の文で間違いを犯せば、その間違いを含んだまま物語の残りを書き続けるか、最初からすべてやり直すしかありません。彼らは「直線的」な思考者です。
再帰的 AI（前世代）： これらのモデルは、何も書き留めずに「頭の中で考える」人のようなものです。彼らは一つのアイデアを頭の中に保持し、それを洗練し、さらに洗練し、さらに洗練し、納得いくまで繰り返します。これは効率的ですが、山を一つの下り道で歩くようなものです。もしその道が行き止まりに終われば、AI は立ち往生します。代替案はありません。

問題点： この論文は、既存の「再帰的」AI は硬直的すぎると主張しています。彼らは解決策へ向かう単一の経路をたどります。その経路が間違っていれば、AI は失敗します。彼らは決定論的であり、同じパズルを二度与えれば、（たとえその結果が間違っていたとしても）全く同じ思考過程を経て、全く同じ結果を得ます。

解決策：GRAM（「多経路」思考者）

著者らはGRAM（Generative Recursive reAsoning Models）を導入します。

比喩：ハイキングチーム
霧の濃い巨大な迷路の出口を見つけなければならないと想像してください。

従来の方法（決定論的再帰）： 一人のハイカーを送り出します。彼はある経路を選び、壁にぶつかるまで歩き続けます。壁にぶつかれば、立ち往生です。彼はその特定の一本の道に従うようにプログラムされているため、引き返して別のルートを試すことはできません。
GRAM の方法： ハイカーのチーム全体（複数の「軌道」）を送り出します。
1. 確率性（「揺らぎ」）： 一直線に歩くのではなく、各ハイカーは小さくランダムな迂回を許されます。時には左、時には右に足を踏み出します。このランダムさが、迷路の異なる部分を探索するのを助けます。
2. 並列探索： チームがいるため、一人のハイカーが行き止まりにぶつかっても、別のハイカーが出口につながる全く異なる経路上にいる可能性があります。
3. 洗練： すべてのハイカーは互いに絶えず会話（内部状態の更新）を行い、より賢くなります。

仕組み（メカニズム）

この論文は、マネージャーとワーカーがいるような二層構造を説明しています。

ワーカー（低レベル）： この部分が重労働を行います。現在のアイデアを受け取り、迅速かつ正確に洗練します。非常に集中しており、決定論的（ここにはランダム性はありません）です。
マネージャー（高レベル）： この部分が方向性を決定します。重要なのは、マネージャーが計画に少しの「ランダムなノイズ」や「創造的なカオス」を加える点です。
- なぜか？ チームが局所的な罠（解決策に見える行き止まり）に陥るのを防ぐためです。
- 結果： AI は単一の経路をたどるのではなく、可能な経路の分布を生成します。本質的に、「これを解決する 20 の異なる方法があります。どれが最もうまくいくか見てみましょう」と言っているのです。

GRAM の二つのスーパーパワー

この論文は、この新しいシステムがどのように拡張するかを二つの主要な方法で強調しています。

1. 深さ（長く考える）
従来の再帰モデルと同様に、GRAM は長い間考えることができます。答えを何度も何度も洗練できます。

比喩： ダイヤモンドが輝くまで磨き続けることができます。

2. 幅（広く考える）
これが新しいトリックです。単に長く考えるのではなく、GRAM は並列に考えることができます。同時に 20 の異なる「もしも」シナリオを実行できます。

比喩： ルービックキューブを 10 時間かけて一辺ずつひねって解こうとする代わりに、20 人の異なる人が異なる側面を同時にひねるのを想像し、最も早く解けたものを選びます。
論文の主張： この「幅」の拡張は、AI に長く考えさせること（深さ）よりも速く、効果的です。

何でテストされましたか？

研究者らは理論について語るだけでなく、複数の正解が存在したり、立ち往生しやすい特定の難しいパズルで GRAM をテストしました。

数独（制約パズル）：
- 結果： GRAM は、従来の再帰モデルよりもはるかに優れた性能で非常に難しい数独パズルを解きました。単に正解を得ただけでなく、異なる可能性を探索することで、より早く正解を見つけました。
N-クイーン問題とグラフ彩色（「多解」パズル）：
- 課題： これらのパズルでは、数十から数百の妥当な解が存在します。従来の AI はたった一つの解に固執し、他の解を見逃したり（あるいはその一つの解がブロックされた場合に失敗したり）しました。
- 結果： GRAM は多くの経路を探索するため、同じパズルに対して複数の妥当な解を見つけることができます。これは「モード崩壊」（一つの答えしか見つけられない現象）の影響を受けません。
画像生成（「無条件」テスト）：
- 課題： この論理は、解くべきパズルがなくても機能するでしょうか？単に画像を「夢見」ることができるでしょうか？
- 結果： はい。MNIST データセットからの数字など、ゼロから画像を生成するように求められたとき、GRAM は従来の再帰モデルよりも鮮明で正確な画像を生成しました。これは「思考」のプロセスが「創造」にも使えることを示しました。

結論

この論文は、GRAMが大きな前進であると主張しています。なぜなら、それは「再帰的推論（ループ内での思考）」を、硬直した単一経路のプロセスから、柔軟で確率的な多経路のプロセスへと変えるからです。

従来の AI： 「答えを見つけるまで、この一本の道を進みます。」
GRAM： 「探検隊を多くの道へ送り出し、少し徘徊させ、最良の結果を選びます。」

著者らは、このアプローチにより、AI は不確実性に対処し、複数の解決策を見つけ、モデルを大きくするだけでなく、同時に多くの可能性を探索することで知能を拡張できると結論付けています。

技術的サマリー：生成再帰的推論モデル（GRAM）

問題定義

将来のニューラル推論システムは、拡張された計算をいかに効率的に実装するかという中心的な課題に直面しています。大規模な自己回帰モデルはシーケンス生成を拡張することで（例：Chain-of-Thought）推論を拡張しますが、**再帰的推論モデル（RRM）**は、共有遷移関数の繰り返し適用を通じて永続的な潜在状態を洗練させることで、この課題に対する代替案を提供します。このアプローチは、推論の深さをパラメータ規模や出力長から切り離します。

しかし、既存の RRM（例：HRM、TRM）は本質的に決定論的です。同じ入力と初期化が与えられれば、これらは単一の潜在軌跡に従い、単一の予測に収束します。この決定論は、妥当な推論経路の空間を単一のアトラクタに崩壊させ、不確実性を維持したり、代替仮説を検討したり、複数の解決戦略を探求したりすることを失敗させます。これは、本質的な曖昧さを持つ問題、複数の有効な解が存在する問題、あるいは単一の洗練経路が最適ではない推論軌跡に閉じ込められる可能性のある問題において、特に制限的です。ここで扱われる核心的な問いは、*「コンパクトな再帰モデルの効率性を維持しつつ、再帰的潜在計算は確率的で、生成性があり、多仮説的な推論をサポートできるか？」*というものです。

手法：生成再帰的推論モデル（GRAM）

GRAM は、再帰的潜在推論を確率的な多軌跡計算に変換するフレームワークを導入します。これは推論プロセスを確率的な潜在軌跡として扱い、モデルが複数の仮説を維持し、代替の解決戦略を探求することを可能にします。

1. アーキテクチャ

GRAM は、確率的な潜在推論軌跡を周辺化することによって条件付き分布 $p_\theta(y | x)$ をモデル化します。アーキテクチャは、エンコーダ、再帰的コア、デコーダで構成され、2 つのネストされたループに整理されます。

内部ループ（低レベル洗練）： 単一の遷移内において、低レベル潜在成分 $l$ は、高レベル状態 $h$ と入力埋め込み $e_x$ に条件付けられた決定論的関数 $f_L$ を用いて $K$ 回洗練されます。
外部ループ（高レベル遷移）： 高レベル成分 $h$ は遷移ごとに 1 回更新されます。決定論的 RRM とは異なり、GRAM はこの更新を確率的遷移として定義します。
1. 決定論的更新 $u_t$ が計算されます： $u_t = f_H(h_{t-1}, l_t; \theta)$ 。
2. 学習可能な確率的ガイダンス $\epsilon_t$ が状態依存ガウス分布からサンプリングされます： $\epsilon_t \sim \mathcal{N}(\mu_\theta(u_t), \sigma^2_\theta(u_t)I)$ 。
3. 新しい状態は $h_t = u_t + \epsilon_t$ となります。
この設計により、モデルは不確実性を捉え、平均 $\mu_\theta$ によって軌跡を誘導しつつ、分散 $\sigma^2_\theta$ によって探求を制御することが可能になります。低レベルの洗練は決定論的のままですが、確率性は高レベルの抽象状態でのみ注入されます。
再帰的構造： 計算は $N_{sup}$ 個の監督ステップを経て進行します。あるステップの終端状態は、次のステップの初期状態として機能し、完全な再帰チェーンを形成します。

2. 学習

GRAM は、証拠下限（ELBO）を最大化するために償却変分推論を用いて学習されます。

潜在変数定式化： モデルは潜在軌跡 $\tau$ に対して周辺化を行います。ELBO は生成パラメータ $\theta$ と変分パラメータ $\phi$ に対して最適化されます。
深層監督： 密な学習信号を提供するために、モデルは $N_{sup}$ 個の連続するステップにわたって深層監督を適用します。勾配はメモリ効率を確保するために、各監督ステップの最終遷移のみを通じて伝播されます（切り捨てられた逆伝播）。これは完全な ELBO の代理目的関数として機能します。
無条件生成： 入力を空の条件付け埋め込みと置き換えることで、同じ再帰プロセスが無条件生成モデル $p_\theta(x)$ を定義します。

3. 推論時のスケーリング

GRAM は 2 つのスケーリング軸をサポートします。

深さ： 適応計算時間（ACT）を使用することで、軌跡は学習された停止深さで終了できます。
幅：モデルは学習された事前分布から複数の潜在軌跡を並列にサンプリングします。候補は多数決または**潜在プロセス報酬モデル（LPRM）**を通じて選択されます。LPRM は、軌跡の潜在状態からその最終的な品質を予測します。これにより、逐次再帰長を増加させることなく推論をスケーリングすることが可能になります。

主要な貢献

確率的定式化： 著者らは、再帰的推論を潜在変数生成プロセスとして定式化しました。ここでは、解は単一の決定論的経路に従うのではなく、確率的推論軌跡を周辺化することで得られます。
幅ベースのスケーリング： この論文は「幅ベース」の推論時スケーリングを導入し、並列に複数の潜在軌跡をサンプリングすることで性能向上を実現し、従来の深さベースのスケーリングを補完します。
実証的検証： 著者らは、この定式化が構造化推論、多解制約充足、および無条件生成において、決定論的再帰モデルおよび再帰的ベースラインに対してアーキテクチャ上の優位性をもたらすという証拠を提供します。

実験結果

GRAM は、制御された推論および生成タスクで評価され、決定論的ベースライン（Looped Transformers、HRM、TRM）および大規模推論モデル（LRM）を外部参照として比較しました。

構造化推論（Sudoku-Extreme、ARC-AGI）： GRAM は一貫して決定論的再帰ベースラインを上回ります。Sudoku-Extreme において、GRAM は 97.0% の精度を達成し、TRM の 87.4% や HRM の 55.0% を凌駕しました。ARC-AGI-1 において、GRAM は 52.0% に達し、TRM（44.6%）や HRM（40.3%）を上回りました。著者らはこれを、多様な推論軌跡を探求する能力に起因すると述べています。
多解タスク（N-Queens、グラフ彩色）： 決定論的モデルは、有効な解の数が増加するにつれてモード崩壊に苦しみます。GRAM は解の数に関わらず一貫した精度を維持します。8x8 N-Queens において、GRAM は 99.7% の精度と 90.3% のカバレッジ（発見された一意の有効解）を達成し、決定論的モデル（最大 36.1% のカバレッジ）や AR などの生成ベースライン（84.8% のカバレッジ）を大幅に上回りました。
無条件生成：
- 二値化 MNIST： GRAM は、D3PM と比較可能なインセプションスコア（IS）および FID を持つ認識可能な数字を生成しますが、決定論的 TRM ベースラインは深刻なモード崩壊（FID 303.29）を示します。
- スudoku 生成： 空の盤面から、GRAM は 16 の推論ステップと 1090 万パラメータのみを使用して、99.05% の妥当性を持つ有効な Sudoku ボードを生成します。これは、最大 1000 ステップと 5510 万パラメータを使用する D3PM ベースラインを上回ります。
アブレーション研究： 確率的ガイダンスを除去すると、特に多解タスクにおいて性能が低下します。確率性を完全に除去すると完全な失敗（0% の精度）を招き、この利益が単なるランダム性ではなく変分フレームワークに由来することを確認しました。

意義と主張

この論文は、GRAM が確率的な多軌跡再帰を将来の再帰的および再帰的推論アーキテクチャの設計原則として確立すると主張しています。決定論的再帰を生成プロセスに変えることで、GRAM は以下を可能にします。

堅牢な探求： 複数の仮説を維持することで、複雑な問題空間をナビゲートし、局所最適解から脱出する能力。
効率的なスケーリング： 深さのみのスケーリングの遅延ボトルネックを回避する、推論時スケーリングの新たな軸（幅）。
統合モデリング： 同じ再帰メカニズムを使用して、条件付き推論モデル（ $p(y|x)$ ）としても無条件生成モデル（ $p(x)$ ）としても機能する能力。

著者らは、GRAM が構造化推論および生成において潜在力を示している一方で、深層監督の逐次性が Transformers に比べて学習効率を制限しており、より大規模な基盤モデルへのスケーリングに対する障壁となっていると指摘しています。また、高リスクの環境では、妥当だが無効な生成が検証済みの解と誤認される可能性があり、厳格な検証と不確実性の較正が必要であるとも警告しています。