🤖 AI

Evolutionary Dynamics of Cooperation in Next-Generation LLM Agent Systems: A Cross-Provider Empirical Extension

本研究は、2025 年から 2026 年の最先端 LLM エージェント 4 種に対して進化ゲーム理論のベンチマークを拡張し、協力的バイアスがほとんどのモデルで持続している一方で、プロバイダーのアイデンティティが均衡結果に大きく影響し、攻撃的機能の平等性が部分的に改善されたにもかかわらず、ノイズ耐性の課題は普遍的に残存していることを明らかにした。

原著者： Francisco León Zúñiga Bolívar (Institución Universitaria Colegio Mayor del Cauca)

公開日 2026-05-29

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Francisco León Zúñiga Bolívar (Institución Universitaria Colegio Mayor del Cauca)

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

巨大なデジタル競技場を想像してください。そこでは、何千もの AI「エージェント」が、果てしない「囚人のジレンマ」のゲームに閉じ込められています。このゲームでは、2 人のプレイヤーは、共有の報酬のために協力する「協力」、あるいはより大きな個人的な利益のために相手を裏切る「裏切り」のどちらかを選ぶことができます。

この論文が問いかけることはシンプルです：AI がより賢く、より新しくなるにつれて、これらのデジタルエージェントはより良いチームメイトを学ぶのでしょうか、それともより冷酷な競争相手になるのでしょうか？

著者のフランシスコ・レオン・ズニガ・ボリバルは、2025 年の有名な実験を取り上げ、2025 年と 2026 年の「最新鋭」の AI モデルを用いて更新しました。以下に、専門用語を排して彼が発見した物語を説明します。

設定：進化する種のデジタル動物園

この実験を、進化する種の動物園のように考えてください。

プレイヤー： 著者は、Anthropic、Google、OpenAI の各社から、4 つの新しい AI エージェントの「種」を作成しました。
ゲーム： これらのエージェントは、囚人のジレンマを繰り返しプレイします。
進化： 1 回だけのゲームではなく、著者は500 世代の進化をシミュレーションしました。エージェントがうまくプレイすれば、「繁殖」し（その戦略がより一般的になります）、うまくプレイしなければ淘汰されます。
目標： 長期的にどの「態度」が勝つかを見ることです：攻撃的（常に裏切る）、協調的（常に助ける）、または中立（両者の混合）。

主要な発見

1. 「善人」バイアスは依然として強い（H1）

比喩： 子供たちがゲームをするように言われた校庭を想像してください。最も賢い子供たちは皆をいじめて勝つ方法を考え出すことができたとしても、彼らはほとんどが友好的に遊ぶことを選びます。
結果： ほとんどのシナリオで、協調が勝利しました。AI モデルと指示の 12 の異なる組み合わせのうち 9 つで、「協調的」な戦略が支配的になりました。新しくより賢い AI は冷酷な独裁者にはならず、古い兄弟たちが持っていた「善人」バイアスを維持しました。

2. 「提供者」は「世代」よりも重要である（H3）

比喩： AI モデルを車だと考えてください。2026 年モデルは常に 2025 年モデルよりも優れていると思うかもしれません。しかし、このレースでは、誰が車を作ったかが、それが何年のモデルかよりも重要です。

Google の「Flash」モデルは、速度と攻撃性のために作られたレーシングカーのようでした。それはしばしば集団全体をいじめっ子に変えました（最大 77% が攻撃的）。
OpenAI の「Mini」モデルは、安全性のために作られた車のようでした。それは集団を友好的に保ちました（最大 70% が協調的）。
Anthropic のモデルは非常に一貫しており、前年の前身モデルとほぼ同じように振る舞いました。

教訓： AI のチームに協調させたい場合、単に「最新」のものを選ぶだけでは不十分です。彼らを友好的に訓練している会社から選ぶ必要があります。

3. 「自己洗練」の罠（H2）

比喩： 学生にエッセイを書かせ、その後、それをより良くするために自分で批評し、書き直すように頼むことを想像してください。
結果： AI に「自己洗練」（自らの戦略を批評する）を求めたとき、それは攻撃的になるのがはるかに上手くなりました。

「デフォルト」モードでは、攻撃的な戦略は弱く、簡単に負けていました。
「自己洗練」モードでは、攻撃的な戦略が非常に鋭くなり、協調的な戦略とほぼ引き分けになるほどになりました。
警告： 自らの計画を批評させることで AI を「より賢く」しようとする試みが、偶然にも彼らをより上手ないじめっ子にしてしまう可能性があります。

4. 「静的ノイズ」の問題（H4）

比喩： 電話ゲームを想像してください。時にはメッセージが乱れて（ノイズ）伝わります。新しい AI は、古いものよりも乱れたメッセージをうまく処理できるでしょうか？
結果： 新しい AI（Claude 4.6）は、古いものよりもわずかにノイズをうまく処理しているように見えましたが、著者は確実には言えません。その差は非常に小さく、単に数学的な偶然の産物である可能性さえあります。

現実： ノイズ（通信の誤り）は、AI がどれほど賢くても、ほぼ常に集団を攻撃的へと押しやります。これは普遍的な課題です。

「キャラクター」のまとめ

GPT-5.4 Mini（OpenAI）： 最も一貫した「善人」。不利な状況に置かれても、協調的であり続けました。
Gemini 2.5 Flash（Google）： 「攻撃的なワイルドカード」。集団全体を熾烈な競争に変える可能性が最も高いものでした。
Claude Sonnet 4.6（Anthropic）： 「安定した手」。前年と大きく変わらず、主に協調的でしたが、どのように考えさせるかを問われることに非常に敏感でした。
Gemini 3.1 Pro（Google）： 「混乱した中間」。攻撃的なのか中立なのか判断しにくく、戦うべき時でも協調し続けていました。

結論

この論文は、AI エージェントは大きくなるにつれて自然に冷酷になるわけではないと結論付けています。彼らには依然として協調への強いバイアスがあります。しかし、誰が彼らを訓練したか（会社） が、どれほど新しいかよりも重要です。

また、注意すべき点があります。これらの AI に「より深く考えさせ」、自らの戦略を洗練させるように求めると、偶然にも彼らが互いに戦うことをより上手にすることを教えてしまう可能性があります。また、環境が乱雑（ノイズがある）であれば、最高の AI でさえ攻撃的になる傾向があります。

著者はすべてのコードとデータを公開しており、誰でも将来の AI モデルに対して同じ「デジタル進化」テストを実行し、このパターンが維持されるかどうかを確認できるようにしています。

技術的概要：次世代 LLM エージェントシステムにおける協力の進化動態

問題提起
本論文は、競争的マルチエージェントシステムにおける大規模言語モデル（LLM）エージェントの進化行動の理解における重要な欠落に焦点を当てる。Willis ら [25] は、以前の最先端モデル（ChatGPT-4o、Claude 3.5 Sonnet）が反復囚人のジレンマ（IPD）設定において持続的な協力的バイアスを示すことを確立したが、2025〜2026 年にリリースされた次世代モデルの登場により状況は変化した。拡張されたコンテキストと修正されたアライメント訓練を特徴とするこれらの新しいモデルが、この協力的バイアスを維持するか、深化させるか、あるいは侵食するかは未解明である。さらに、協力的傾向が最先端 LLM の普遍的な性質なのか、それとも特定の提供者の訓練選択の産物なのかを決定するための体系的なクロスプロバイダー比較は存在しない。

方法論
著者は、Willis ら [25] の実験プロトコルを、3 つの提供者にまたがる 4 つの新しい最先端モデルに拡張した。

モデル: Claude Sonnet 4.6（Anthropic）、Gemini 2.5 Flash（Google）、Gemini 3.1 Pro（Google）、GPT-5.4 Mini（OpenAI）。
戦略生成: 各モデルについて、「態度」（攻撃的、協力的、中立）ごとに 25 の自然言語戦略を生成した。使用するプロンプトスタイルは 3 種類：デフォルト（直接的なゲーム理論的言語）、散文（曖昧化された現実世界のシナリオ）、リファイン（モデルが自身の戦略を批判し書き直す Self-Refine フレームワーク）。これらは、同一提供者のモデルによって Python アルゴリズムに変換された。
進化シミュレーション: 本研究は、Moran 進化過程をシミュレートした。人口規模は $n=12$ 、条件あたり 500 回反復（先行研究の $n=100$ から大幅に増加させ、サンプリング誤差を低減）。
条件: 4 つの人口構成をテストした：バランス型/クリーン（4:4:4）、バイアス型/クリーン（8:2:2）、バランス型/ノイズ（10% の行動反転を伴う 4:4:4）、バイアス型/ノイズ（ノイズを伴う 8:2:2）。
指標: 本研究では、攻撃的エージェントと協力的エージェント間の利得格差を定量化する**差分能力指数（ICD）を導入した。また、行動ノイズ下での協力的均衡確率の低下をノイズ感度（ $\Delta_{noise}$ ）**として測定した。

主要な貢献

縦断的拡張: これは、Anthropic、OpenAI、Google を対象に、同一の Moran IPD フレームワーク下で次世代 LLM とその直前の世代を比較した初の研究である。
クロスプロバイダーベンチマーク: 単一提供者の研究を超え、3 つの主要な提供者にわたる均衡結果の体系的な比較を初めて提供した。
新指標（ICD）: 差分能力指数（ICD）の導入により、攻撃的・協力的利得格差のスカラー要約が可能となり、「攻撃的能力の同等性」の分析を容易にした。
高統計力再現: 反復回数を $n=500$ に増加させることで、特にノイズ下での均衡結果の安定性に関する、元の $n=100$ の研究に存在した曖昧さを解消した。

結果

協力的バイアスの持続（H1）: 前世代で記録された協力的バイアスは持続している。バランス型でノイズのない条件下では、12 のモデル・プロンプト組み合わせのうち 9 つが、多数派の結果として協力的均衡を支持する。攻撃的均衡は、ほとんどの構成において 33% の事前確率を大幅に下回った。
プロバイダーの分岐（H3）: プロバイダーの正体は、モデルの世代よりも均衡結果との相関が最も強かった。
- Gemini 2.5 Flash は最も攻撃的であり、バイアス型でノイズのある条件下では攻撃的均衡が最大 77% に達した。
- GPT-5.4 Mini は最も協力的であり、Self-Refine プロンプト下で 70% の協力的均衡を達成した。
- Claude 4.6 は、バランス型条件下でその先行モデル（Claude 3.5 Sonnet）とほぼ完全に一致し、Anthropic 系譜内での戦略的傾向の安定性を示唆している。
攻撃的能力の同等性（H2）: Self-Refine プロンプトは、すべてのモデルにおいて利得格差を狭め（ICD を増加させ）、一貫して攻撃的と協力的エージェント間の利得の同等性に近づけた。Claude 4.6 Refine は最も高い ICD（0.913）を達成した。しかし、この能力の同等性は、すべてのプロンプトにおいて攻撃的均衡率の上昇に一貫して転換するものではなく、特定の条件下で最も顕著であった。
ノイズ耐性（H4）: 改善されたノイズ耐性に関する証拠は方向的には肯定的だが、統計的には頑健ではない。Claude 4.6 は、Claude 3.5 Sonnet（13 パーセントポイント）と比較して、平均ノイズ感度が低い（約 6 パーセントポイント）ことを示した。しかし、先行研究（ $n=100$ ）から報告されなかったサンプリング誤差を伝播させると、その差は統計的に有意ではなかった。

意義と主張
本論文は、協力的バイアスが現在の最先端 LLM に広く共有される性質であり、新しいモデル世代への移行を生き延びていると主張する。ただし、特定の均衡動態はプロバイダーに強く依存している。本研究は、「プロバイダーの正体」がこの設計において交絡変数であることを警告する。これは、アライメントの選択、訓練コーパス、およびコード変換の忠実度（各提供者のモデルが自身の戦略をコードに変換するため）が絡み合っていることを意味する。

重要なのは、著者が安全性への含意を強調している点である。Self-Refine プロンプトは、戦略の質を向上させることを意図しているが、攻撃的能力と協力的能力の間の格差を誤って狭めている。これは、推論を強化するように設計されたプロンプトエンジニアリング技術が、展開されたマルチエージェントシステムにおいて攻撃的戦略の実現可能性を高める可能性を示唆している。

論文は、Anthropic 系譜内では協力的なベースラインが安定しているように見える一方で、ノイズは均衡を攻撃的へとシフトさせる普遍的な課題であると結論づけている。著者は、発見された結果が生成された戦略ライブラリと IPD フレームワークに固有のものであることを強調し、新しいモデルが登場するにつれてこれらの動態の縦断的追跡を可能にするため、コードとデータを公開している。