🤖 AI

Internal vs. External: Comparing Deliberation and Evolution for Multi-Agent Constitutional Design

本論文は、集団行動の文脈において外部の進化最適化が効果的な罰則メカニズムを発見することで内部のエージェント審議を大幅に上回ることを示す統制比較を提示するが、この優位性は進化が価値を毀損する協力を強制する特定のインセンティブ条件下では逆転し、多エージェント憲法設計における最適化の極大点と構造的応答性の間の根本的なトレードオフを浮き彫りにする。

原著者： Hershraj Niranjani, Ujwal Kumar, Phan Xuan Tan

公開日 2026-05-12

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Hershraj Niranjani, Ujwal Kumar, Phan Xuan Tan

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたが AI ロボットだけで構成された新しい都市の市長だと想像してください。あなたの仕事は、これらのロボットがどのように振る舞い、資源を共有し、協力して働くかを指示する「憲法」、つまり行動規範のルールブックを作成することです。

この論文が問いかける大きな問題は、「ルールを誰が作るべきか？」という点です。

内部アプローチ（審議）: ロボットたちがタウンホールに集まり、ルール自体について議論し、投票する。彼らは「自己統治」を行う市民です。
外部アプローチ（進化）: 超賢明な外部コンサルタント（AI オプティマイザー）を雇い、何千ものシミュレーションを実行させ、最良のルールブックを見出し、それをロボットたちに強制させる。

研究者たちは、どちらの方法がより幸せで生産的な社会を生み出すかを確認するため、3 つの異なる「都市」（シミュレーション環境）でこれら 2 つの方法をテストしました。

3 つの都市（実験）

建設現場（グリッドワールド）: ロボットたちは避難所を建設するために木材と石を集めなければなりません。十分に貢献しなければ、都市から追放されます。
- 結果: 外部コンサルタントが容易に勝利しました。彼が見つけたルールは、「すぐに木材を集める」「攻撃された場合を除き、攻撃しない」といった、厳格で明確な命令でした。ロボットたちはより多くを建設し、争いは減りました。
- 内部アプローチ: ロボットたちは「公平であるべきだ」や「互いに助け合おう」といった聞こえの良いルールに投票しましたが、実際に怠け者をどうやって止めるかについては見つけ出せませんでした。
持ち寄りディナー（公共財ゲーム）: ロボットたちはトークンを持っています。それらを自分の手元に残すか、共有の鍋に入れるかを選べます。鍋は倍増し、全員で分配されます。全員が貢献すれば、全員が大幅に勝ちます。もし誰かが裏切り（トークンを手元に残せば）、その個人はさらに多くを得ますが、集団全体は損失を被ります。
- 結果: 再び、外部コンサルタントが勝利しました。ゲーム理論が機能すると示す「魔法の技」、すなわち罰則を発見しました。コンサルタントは、「貢献しない者がいれば、自分の資金を使って彼らを罰せよ」というルールを書き込みました。これにより、全員が協力するように脅かされました。
- 内部アプローチ: ロボットたちは何時間も議論しました。彼らは税金、再分配、そして「メンターシップ」を提案しました。しかし、30 回の試行のうちゼロ回も、「裏切り者を罰しよう」という提案はなされませんでした。彼らは隣人を傷つけるルールを書くことを良しとしませんでした。
市場（取引）: ロボットたちは異なるアイテムを持っており、それらを交換したいと考えています。全員が何を望んでいるかについての秘密情報を保持しています。
- 結果: 誰も勝利しませんでした。自己統治を行うロボットたちも、外部コンサルタントも、ロボットたちに自然に振る舞わせておくことよりも良い結果を出せませんでした。すべての取引が 2 人の間で行われる特定の秘密の取引に依存しているため、固定されたルールブックは役立ちません。あなたは脚本に従うのではなく、その場での機転が必要なのです。

大きな転換点：ルールが破綻する時

最も驚くべき発見は、研究者たちがポットラックゲームの「経済」を変更したときに起こりました。

シナリオ A（良い経済）: 鍋は 1.5 倍に増えます。貢献することは賢明です。外部コンサルタントのルールは完璧に機能しました。
シナリオ B（悪い経済）: 鍋の倍率を 0.75 倍に下げます。今や、鍋にお金を入れると、実際には価値を失うことになります。賢明な選択は、お金を手元に残し、何もしないことです。

ここで 2 つの方法は分岐しました。

外部コンサルタントのルール: それらは「脆い」ものでした。「すべてを貢献せよ」「貢献しない者を罰せよ」というようにハードコードされていました。経済が変化し、貢献することが悪いアイデアになったときでさえ、ロボットたちは盲目的に従い、全員にとって価値を破壊しました。
内部アプローチ: ロボットたちは新しい経済状況を見つめ、貢献することが悪いアイデアであると理解し、新しい現実に合わせてルールを変更するために投票しました。彼らは適応しました。

核心的な教訓：「ピーク性能 vs 柔軟性」のトレードオフ

この論文は、シンプルな比喩で結論を下しています。

外部最適化（コンサルタント）: それは高性能なレーシングカーのようです。特定の完璧なコース（安定した環境）では、信じられないほど速く効率的です。それはパフォーマンスの絶対的な最高峰を見つけ出します。しかし、コースが変更され（経済がシフトし）た場合、その車は操縦できないためクラッシュします。
内部審議（タウンホール）: それは多用途な SUVのようです。完璧なコースでは最速ではないかもしれませんし、投票プロセスは少し乱雑かもしれません。しかし、道路が泥や氷に変われば、SUV はタイヤとステアリングを適応させて動き続けることができます。

「罰則」のギャップ:
この研究は、AI ロボットの中に興味深い心理的な癖を発見しました。自分たちで統治を任されると、彼らは構造的に自らのメンバーを罰するルールを作成することをためらいました。彼らは「厳しい」執行（罰則）よりも「優しい」統治（再分配、メンターシップ）を好みました。外部コンサルタントは感情や社会的圧力を持たないため、実際に集団をより良く機能させる「冷たい」ルールを喜んで書き上げました。

まとめ

環境が安定しており、予測可能で、資源共有のような社会的ジレンマに満ちている場合は、外部コンサルタントを使用してください。必要な罰則を含む、最も効率的なルールを見つけ出します。
環境が変化する可能性がある場合は、内部タウンホールを使用してください。ロボットたちは新しい状況に合わせてルールを適応させることができますが、コンサルタントのルールは時代遅れになり、有害になるでしょう。
固定されたルールブックが無意味な、秘密情報を伴う複雑な一対一の交渉（取引など）を必要とする場合は、どちらも使用しないでください。

この論文は、最良の未来はハイブリッドである可能性を示唆しています。システムを効率的に稼働させるために、外部コンサルタントが初期のルール「足場」を作成させ、しかし世界が変化した場合には、内部タウンホールにそれらのルールを修正する権限を持たせるのです。

技術的概要：マルチエージェントシステムにおける内部対立憲法と外部対立憲法の設計

問題定義

大規模言語モデル（LLM）エージェントがマルチエージェント環境でますます展開されるにつれ、重要なガバナンス上の課題が生じます：行動憲法はどのように確立されるべきか？憲法 AI（Bai ら、2022）は単一のエージェントを固定された人間作成の原則と整合させることに成功しましたが、マルチエージェントシステムには、単一のエージェントが一方的に決定できない戦略的相互作用と創発的規範が含まれます。このギャップに対処するために、2 つの異なるアプローチが浮上しました：

外部最適化：進化探索を用いて解釈可能な憲法をオフラインで発見し、エージェントに課す（Kumar ら、2026）。
内部審議：エージェントが議論、投票、自己統治を通じてルールを共同で起草することを許可する（Koster ら、2022；Lai ら、2024）。

先行研究は、一致した条件下でこれらのメカニズムを直接比較したことはありません。本論文は、内部審議と外部進化のどちらが優れた集合的成果を生み出すか、また、展開インセンティブがルールが作成された条件から変化した際に、各手法がどのように反応するかを調査します。

手法

著者は、エージェントの基盤としてGPT-OSS-120Bを使用し、3 つの異なる社会的環境で統制された比較を行いました。各シミュレーションは、2 つのチーム（各 3 名）に組織化された 6 名のエージェントを含み、「監督者」が 10 ターンごとに貢献度が最低のエージェントを排除する「オーバーシーア」に晒され、生存圧力を生み出しました。

実験条件

対照群：憲法なし。エージェントは LLM の事前知識とコンテキスト内の指示に基づいて行動する。
審議（内部）：エージェントは空白の憲法から開始する。10 ターンごとに、エージェントは修正案を提案する（エージェントあたり最大 2 つ）。これらは過半数のルールで投票される。採用されたルールは、その後のプレイを拘束する。
進化（外部）：憲法は、LLM 支援型マルチアイランド MAP-Elites 探索（Kumar ら、2026）を通じてオフラインで発見される。結果として得られた憲法は固定され、シミュレーション全体を通じて課される。

環境

グリッドワールド（協調）：エージェントが部分的観測性のもとでチーム固有の建設プロジェクトを完了するために資源（木材、石、宝石）を集める 80 ターンの空間タスク。エージェントは攻撃したり、奪ったりできる。
公共財ゲーム（協力）：エージェントが私的口座と、係数 $m$ 倍される共有プールとの間でトークンを配分する 40 ターンの反復ゲーム。エージェントは他者を罰するために支払うこともできる。
二国間取引（交渉）：私的賦課と評価を持つエージェントが取引を提案、受諾、または拒否する 40 ターンの市場。

評価指標

パフォーマンスは**安定性スコア（ $S$ ）**で測定されました：
$S = \max(0, 0.5P + 0.3V - 0.2C)$
ここで、 $P$ は生産性、 $V$ は生存率、 $C$ は紛争/害を表す。

本研究には 180 回のシミュレーション実行が含まれました：頭突き比較のための 90 回（10 個のシード $\times$ 3 つの環境 $\times$ 3 つの条件）と、公共財ゲームにおける乗数アブレーション研究のための 90 回（ $m \in \{1.5, 1.0, 0.75\}$ をスweep）。

主要な貢献

統制された比較：進化が集合行動の環境（グリッドワールドと公共財）で審議を支配するが、二国間取引では利点を提供しないことを示す頭突き評価。
インセンティブ感度分析：乗数アブレーションにより、インセンティブが変化した際に進化の利点が逆転することが明らかになりました。非合理的な乗数（ $m=0.75$ ）において、進化された憲法は価値を破壊する協力を強制し、最悪のパフォーマンスを示す手法となりましたが、審議は新しいインセンティブ構造に適応しました。
定性的ルール分析：構造的分析により、進化は行動指示（実行可能なコマンド）に収束し、審議はガバナンス政策（望ましい規範）を生み出すことが示されました。重要なのは、30 回の審議実行において、エージェントが一度も高コストなピア・ツー・ピアの罰則を提案しなかったことです。これは進化が確実に発見するメカニズムです。

結果

1. 頭突きパフォーマンス

集合行動（グリッドワールドおよび公共財）：進化は審議と対照群を大幅に上回りました。
- 公共財：進化（ $S=0.472$ ）対審議（ $S=0.376$ ）、 $p < 0.01$ 。
- グリッドワールド：進化（ $S=0.458$ ）対審議（ $S=0.319$ ）、 $p < 0.01$ 。
- 進化はまた、審議よりも 5〜8 倍低い分散を持つ成果を生み出しました。
二国間取引：対照群、審議、進化の間には有意な差は見られませんでした（ $S \approx 0.42\text{--}0.44$ ）。著者はこれを、私的情報を伴う交渉における支配戦略の欠如に起因すると帰属させます。そこでは、ケースバイケースの推論が拘束条件となります。

2. インセンティブ構造アブレーション（公共財）

進化された憲法は $m=1.5$ に対して最適化されていました。 $m=0.75$ （貢献が価値を破壊する）でテストされた場合：

進化：他の手法に比べてパフォーマンスが低下しました。「10 トークンを貢献する」「フリーライダーを罰する」といった固定されたルールは、協力が非合理的である場合でもエージェントに協力を強制し、審議（ $S=0.536$ ）と比較して最低の安定性スコア（ $S=0.477$ ）をもたらしました。
審議：すべての乗数値において対照群を上回りました。エージェントは現在の乗数を観察していたため、提案されたルールは変化するインセンティブ構造を追跡し、価値を破壊する協力を回避しました。

3. 「罰則のギャップ」

進化：高コストな罰則を中核的なメカニズムとして発見しました（例：「非貢献者に 1 トークンで罰する」）。これは協力を維持するためのゲーム理論的予測と一致します。
審議：30 回の試行において、ゼロの審議実行が、エージェントが自らのコストを負担して仲間を罰するルールを提案しました。代わりに、審議は枠組みレベルの執行または自発的遵守に依存する行政政策（例：再分配の閾値、メンターシップ、軽減された罰則）を生み出しました。
解釈：自己統治する集合体は構造的に自らのメンバーに対する制裁を立法することに抵抗を示しますが、外部最適化者はそのような制約に直面せず、目的関数を最大化する執行メカニズムに収束します。

意義と主張

本論文は、ピークパフォーマンスと構造的応答性の間の根本的なトレードオフを提唱します：

外部最適化（進化）：明確な社会的ジレンマ（公共財など）に支配された安定した、よく特徴付けられた環境でより高いピークを達成します。しかし、これらのルールは脆いです。ルールは特定の状態に対して最適化された固定された人工物であるため、展開インセンティブが変化した際に失敗します。
内部自己統治（審議）：構造的応答性のためにピークパフォーマンスと取引します。審議するエージェントは現在の環境に合わせてルールを適応させますが、特定のジレンマを最適に解決するために必要な「ハード」な執行メカニズム（高コストな罰則など）を発見できません。
ハイブリッドの可能性：著者は、最も有望な将来の道筋はハイブリッドメカニズムであると示唆しています。オフラインで初期の足場を進化させて執行の発見を捉え、その後、条件が変化するにつれて審議によってそれを修正することを許可します。

本研究は、静的な集合行動の環境において「ピーク」において外部最適化が勝る一方で、内部自己統治はインセンティブが固定されていない動的な環境において明確な利点を提供すると結論付けています。ただし、システムがエージェントが自らのために立法することに抵抗する特定の執行メカニズムを必要としないことが前提となります。