💬 NLP

The Bicameral Model: Bidirectional Hidden-State Coupling Between Parallel Language Models

二院制モデルは、連続的な隠れ状態の結合を通じて2つの凍結された言語モデルが双方向的に協調することを可能にする学習可能なニューラルインターフェースを導入し、これにより主要モデルがタスクを駆動しつつ補助モデルがツールやコードを実行できるようにすることで、テキストベースの通信に依存することなく算術、論理、数学的推論における性能を大幅に向上させる。

原著者： Cedric Flamant, Udaya Ghai, Kanna Shimizu

公開日 2026-05-13

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Cedric Flamant, Udaya Ghai, Kanna Shimizu

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

2 人の天才シェフがキッチンで働いていると想像してください。一人のシェフ（プライマリ）はレストランの顔であり、顧客と話し、メニューを作成します。もう一人のシェフ（オクシリアリー）は道具、数学、論理パズルの達人ですが、顧客には直接話してはいけません。

従来のやり方では、この 2 人のシェフは窓を通して互いに指示を叫び合っていました。「ねえ、28 に 23.99 を掛ける計算が必要だ！」と最初のシェフが叫ぶと、2 人目のシェフが「それは 671.72 だ！」と叫び返します。これが現在のほとんどの AI システムの仕組みです：彼らは言葉（テキストトークン）を使って互いに話します。これは遅く、叫ぶたびに、複雑な思考を文に変換し、送信し、相手がそれを再び思考に戻すのを待つ必要があります。

二頭脳モデルは、これらの 2 人のシェフに、脳と脳の間に直接走る秘密の目に見えないテレパシーリンクを与えるようなものです。

以下は、簡単な比喩を用いた仕組みの説明です：

1. 沈黙のリンク（隠れ状態結合）

窓越しに叫ぶ代わりに、シェフたちは頭と頭の間に走る細く目に見えないワイヤーでつながっています。

プライマリシェフは顧客の注文について考えています。
オクシリアリーシェフは電卓や論理パズルについて考えています。
彼らは一言も発しません。代わりに、電気パルス（数学的シグナル）を脳から脳へ直接送ります。これは、彼らが持つすべての思考に対して、瞬時に、完全に同時に起こります。

2. 「門番」（抑制ゲート）

「もし彼らが常につながっているなら、騒がしすぎないか？混乱しないか？」と思うかもしれません。
そこで門番が登場します。これはシステムのごく一部（全体の約 1% 程度）の学習可能な部分であり、スマートなフィルターのように機能します。

フィルターは静かになることを学ぶ：プライマリシェフが「こんにちは」や「ようこそ」と言っているだけの場合、門番はリンクを閉じます。シグナルは送られません。
フィルターは開くことを学ぶ：プライマリシェフが「28」といった数字や「合計」といった単語について考えるとき、門番は瞬時に扉を開き、オクシリアリーシェフへ強力なシグナルを送ります。
逆方向の流れ：オクシリアリーシェフが数学の問題を解くと、門番は逆方向に扉を開き、プライマリシェフが文を書き終える前に、答えをプライマリシェフの脳へ送り返します。

3. 「同調」ダンス

この論文はこれを「同調（ロックステップ）」と呼んでいます。2 人のシェフが踊っていると想像してください。彼らは完全に同時に一歩を踏み出します。

ステップ 1：プライマリシェフは「ステーキを 28 枚注文する必要がある」と考えます。
ステップ 1（同時）：オクシリアリーシェフはワイヤーを通じてその思考を感じ取り、すぐに「よし、28 に価格を掛ける計算をしよう」と考え始めます。
ステップ 2：プライマリシェフは「そしてサーモンを 35 匹」と考えます。
ステップ 2（同時）：オクシリアリーシェフはそれを感じ取り、サーモンの計算を始めています。
結果：プライマリシェフは答えを待つために止まる必要はありません。答えはオクシリアリーシェフが並行して作業を行い、その結果がワイヤーを通じて瞬時にフィードバックされたため、彼らの脳に現れるだけです。

彼らは実際に何を証明したのか？

研究者たちは、この「テレパシーリンク」を、一方のシェフがそのタスクに苦手で、もう一方が得意な 3 つの特定のタスクでテストしました：

数学テスト：彼らは 2 つの小型で平均的な AI モデル（ジュニアシェフのようなもの）を取りました。一方には電卓がありました。リンクなしでは、チームは数学の問題を**36%**しか正解できませんでした。リンクがある場合、**96%**正解しました。プライマリシェフは電卓さえ見ていませんでした；答えは彼らの脳へ流れ込んでいただけです。
論理パズル：彼らに「ゼブラパズル」（手がかりに基づいて誰がどの家に住んでいるかを突き止める論理グリッド）を与えました。リンクを持つチームは、リンクを持たないチームよりも1.7 倍うまく解きました。オクシリアリーシェフは手がかりをコンピュータソルバーが理解できる厳密な論理言語に翻訳し、プライマリシェフは最終的な答えを書くだけでした。
コードテスト：彼らに、それを解くためにコンピュータプログラムを書く必要がある数学の問題を与えました。プライマリシェフは問題の説明を書きました。オクシリアリーシェフは、問題文を一度も読まずに、何らかの形でワイヤーを通じて問題を感じ取り、それを解く正しい Python コードを書きました。

大きな教訓

この論文は、2 つの凍結された AI モデル（自分自身の脳を変えないモデル）は、それらの間に小さな「翻訳者」を訓練するだけで、完全に協力して学習できることを主張しています。

彼らは話す必要はありません。
彼らは待つ必要はありません。
彼らが必要とするのは、解決しようとしているタスクに基づいて、いつ話し、何を言うかを学習する選択的で目に見えないチャネルだけです。

それは、一度も会ったことがない 2 人の人のようなものです。しかし、数日間一緒に働いた後、彼らは沈黙の言語を発達させ、一瞥だけで相手が何をすべきかを正確に伝えるようになり、互いに協力して難しい問題を解決する際に驚異的に効率的になります。

技術的サマリー：二院制モデル

問題定義

現在のマルチモデルおよびツール拡張システムは、異なるエージェントやモデル間で調整を行うために、離散的なテキストトークンの生成に依存しています。このアプローチは、すべての交換を出力語彙を通じて直列化するため、非効率的であり、相互作用の流動性を制限します。本論文は、2 つの凍結された事前学習済み言語モデル（LLM）が、代わりに中間隠れ状態を通じて調整し、連続的かつ並行的な通信チャネルを構築できるかどうかを問うています。具体的には、そのようなメカニズムが、通信形式の指定なしに、タスク損失のみから学習可能かどうかを調査します。

手法

著者は、二院制モデル（Bicameral Model）を提案します。これは、プライマリモデル（ $M_p$ ）と補助モデル（ $M_a$ ）という 2 つの凍結された言語モデルを、軽量で学習可能なニューラルインターフェース（ $\phi$ ）を介して結合するアーキテクチャです。

アーキテクチャ:
- プライマリモデル（ $M_p$ ）: タスクを調整し、最終的なユーザー向け応答を生成します。
- 補助モデル（ $M_a$ ）: 外部ツール（電卓、Z3 ソルバー、Python サンドボックス）へのアクセス権を有し、並行した推論ストリームを維持します。
- ニューラルインターフェース（ $\phi$ ）: 翻訳ネットワークと学習された抑制ゲートから構成される学習可能なコンポーネントです。モデルと同期して、各生成ステップで動作します。
- 結合メカニズム: 各ステップにおいて、インターフェースは一方のモデルから隠れ状態を読み取り、それを他方のモデルの表現空間に変換し、摂動として注入します。これは双方向的に発生します:
  - 順方向結合（ $M_p \to M_a$ ）: 補助モデルは、プライマリモデルの進化中の表現を観察します。
  - 逆方向結合（ $M_a \to M_p$ ）: プライマリモデルは、補助モデルの推論またはツールの結果を取り込みます。
- 抑制ゲート: 学習されたゲート（ $\sigma$ ）が結合の強度を制御し、受信側が自身の状態に基づいて送信側の信号を選択的に受け入れるか無視するかを決定します。このゲートは、通信チャネルに対する明示的な監督なしに、タスク損失のみから選択的通信プロトコルを学習します。
- トレーニング: 両方のモデルは凍結されたままです。インターフェースのパラメータのみが、両モデルの出力に対するマスク付き交差エントロピー損失を用いた双目標教師あり微調整（SFT）を通じてトレーニングされます。システムは、インターフェースパラメータに対する第 2 段階の強化学習（RL）もサポートします。
3 段階生成:
1. 補助モデル初期化: 補助モデルはツール指示プロンプトを処理します。結合は無効化されます。
2. 入力処理: プライマリモデルはユーザーのクエリを処理します。共有表現を構築するために、完全な双方向結合が有効化されます。
3. 共同生成: 両モデルは同期してトークンを生成します。補助モデルはツールを呼び出す可能性があり、その結果は入力トークンとして補助モデルストリームに強制戻され、隠れ状態チャネルを介してプライマリモデルに影響を与えます。

主要な貢献

隠れ状態による調整: 2 つの凍結された LLM が、直列化されたテキストではなく中間隠れ状態を通じて効果的に調整できることを実証し、連続的かつ並行的な通信チャネルを可能にしました。
学習された選択的プロトコル: 抑制ゲートが、指定された形式や通信チャネルに対する明示的な監督なしに、構造化された方向固有の通信プロトコル（例：数値などのタスク関連トークンの転送、ツールの結果の逆転送）を学習できることを示しました。
ツール拡張推論: 3 つの異なるツールバックエンド（電卓、Z3 制約ソルバー、Python サンドボックス）全体でメカニズムを検証し、補助モデルが問題文を一度も目にすることなく、隠れ状態シグナルのみに基づいて問題固有のコードや制約を生成できることを示しました。
アダプター同等アブレーション: パフォーマンス向上が、単にインターフェースの追加学習可能パラメータによるものではなく、補助モデルの推論能力とツール使用によるものであることを確認しました。

実験結果

著者は、ツールが大きな能力差を生む 3 つのドメインで二院制モデルを評価しました。

算術（電卓）:
- 電卓を備えた 2 つの 0.5B モデルを結合することで、算術精度は**36.2%から96.5%**に向上しました。
- より困難な GSM8K-IRL ベンチマークでは、精度が 12.8% から**17.1%**に改善されました。
- 補助モデルを迂回するアダプター同等アブレーションはこれらの向上を再現できず、補助モデルの役割を確認しました。
論理グリッドパズル（Z3 ソルバー）:
- Z3 ソルバーを備えた 2 つの 0.6B モデルを結合することで、ZebraLogic ベンチマークで64.7%の精度を達成し、ツール未拡張のベースライン（37.5%）に対して1.7 倍の改善を示しました。
- システムはパズルのサイズに対して頑健であることを示しましたが、探索空間が大きくなるにつれて性能は低下しました（例：特大パズルでは 36.7%）。
数学的推論（Python サンドボックス）:
- ツインの 4B モデルに Python サンドボックスを結合することで、補助モデルが隠れ状態シグナルのみから正確で問題固有のコードを生成できるようになりました。
- MATH ベンチマークでの全体の精度（62.5%）は、思考機能付きベースライン（81.6%）を下回りましたが、システムは思考ベースラインが失敗した127 問を解決し、コード生成を通じて特定の複雑なケースを処理する能力を実証しました。

意義と主張

本論文は、二院制モデルがトークンレベル以下で通信するマルチモデルシステムの新たな設計空間を開くことを主張しています。主な要点は以下の通りです。

創発的プロトコル: システムは、明示的なフォーマット制約なしに、タスク損失のみから選択的かつ方向的な通信（例：タスクコンテキストのための順方向結合、ツールの結果のための逆方向結合）を学習します。
推論対パラメータ: パフォーマンス向上は、インターフェース自体の容量ではなく、補助モデルの推論能力とツールアクセスによって駆動されています。
一般化のトレードオフ: 論文は、分布内適合と分布外（OOD）一般化の間のトレードオフを指摘しています。学習された翻訳インターフェース（PULLSTANDARD）は最も高い分布内精度を達成しましたが、アイデンティティ結合（PULLIDENTITY）は GSM8K-IRL などの OOD 問題に対する一般化が優れており、学習されたゲートを伴うニアアイデンティティパススルーは、学習されたボトルネックよりも互換性のある表現の帰納的バイアスをよりよく活用することを示唆しています。
限界: 著者は、同期生成が計算要件を倍増させること、および隠れ状態の摂動が、ベースモデルが既にうまく処理しているタスクにおいて性能を低下させる可能性（シグナルではなくノイズを注入すること）を認めています。さらに、現在のトレーニングには因果関係注釈付きのタスク固有データが必要ですが、この制約を緩和する可能性として強化学習が提案されています。

この研究は、隠れ状態結合がテキストベースのマルチエージェント通信の代替手段として viable であることを示唆しており、他の相補的なモデルペアリング（例：検索または非テキストモダリティ）への拡張や、専門化された AI コンポーネント間のより効率的で連続的な調整への道筋を提供する可能性があります。