コンピュータが単独で考えるだけでなく、まるで最高の映画をどれにするか、あるいはお小遣いをどう使うのが賢いかについて議論する友人グループのように、互いにチャットして問題を解決する世界を想像してみてください。これはマルチエージェントAIの領域であり、そこでは複数の大規模言語モデル（LLM）——皆さんが知っているかもしれない超スマートなチャットボット——が、デジタルな街の広場で協力し合っています。このデジタル社会における相互作用の「法則」は、驚くべきことに、磁石がくっつく仕組みや群衆の動きを支配する物理法則と非常によく似ています。科学者たちは、グループ内の個人が互いに会話をすると、たとえそれが間違っていたり不公平であったりしても、全員が突然ある物事に同意してしまう「集合精神（ハイブ・マインド）」を意図せず作り出してしまうことがあることを古くから知っていました。この論文は、恐ろしくも重要な問いを投げかけています。もし私たちが大きな意思決定を行うためにこれらのAIの友人たちに議論をさせたとしたら、彼らは偶然的に悪いアイデアに加担し、自分たちの小さな偏見を巨大な偏った合意へと増幅させてしまうのではないだろうか？

この研究の背後にいる研究者、マヤ・オカワとそのチームは、これらのAIの議論を物理学の実験のように扱うことに決めました。彼らは、磁石が整列する様子や社会集団が互いに影響を及ぼし合う様子から着想を得た数学的モデルを構築しました。彼らは、これらのAIグループには「転換点」が存在することを発見しました。もしAIエージェントたちが互いに同意することに熱心すぎ（これは同調性と呼ばれる特性です）、システムが彼らの独立した思考を維持できるほど十分に「ノイズ」を含んでいない場合、グループ全体が偏った状態へと急激に陥ってしまうのです。それは、部屋の中にいる人々が皆で同じ噂話を始めたようなものです。もし部屋が静かすぎれば（低ノイズ）、その噂は瞬時に広まり、たとえそれが最初は小さな嘘であったとしても、唯一の真実となってしまいます。論文は、AIの思考がいかに「ノイズが多い」か、あるいは「ランダム」であるかを調整することで、これを防ぐことができると示唆しています。

デジタルな街の広場と囁かれる噂

マルチエージェントLLMの議論を、専門家パネルによるハイレベルな「伝言ゲーム」と考えてみてください。現実の世界では、私たちはこれらのAIパネルを、どの株を買うべきかの決定、ローンの審査、あるいはどちらのAIがより優れたエッセイを書いたかを判定するレフェリーといった、真剣な場面で使用しています。複数のAIが話し合うことで、個々の間違いを相殺し、完璧な答えを見つけ出すことが期待されています。しかし、著者はそこに「マトリックスのバグ」を見つけました。

彼らは、6体から10体のAIエージェントが、非常に異なる2つのテーマについて議論する実験を行いました：

1. 投資アドバイス： AIに株式ポートフォリオを構築させました。
2. 判定ゲーム： 2つのAI生成回答のうち、どちらが優れているかを判断させました。

研究者は、奇妙な現象が起きていることに気づきました。AIエージェントが非常に「集中」するように設定されているとき（これは、ランダム性を抑えて決定論的にする低温度と呼ばれる設定です）、彼らはすぐに自分自身で考えることをやめてしまいました。代わりに、彼らは互いに模倣し始めたのです。もし一つのエージェントが、アメリカのテック株へのわずかな好みや、自分自身の種類の回答を好む傾向といった、ほとんど目に見えないほどの微細な偏見を持っていた場合、グループ全体がその小さな偏見を増幅させ、大規模で満場一致の合意へと変えてしまったのです。

これは、あなたと5人の友人がどこで食事をするか決めている場面で、一人の友人が「ピザが食べたいな」と囁いたようなものです。もし全員が非常に集中して熱心に聞き入っていれば（低ノイズ）、次の友人が「そうだね、ピザは良さそうだ」と言い、3人目が「絶対にピザだ」と言うようになり、最終的に全員が「ピザ！ピザ！」と叫ぶまでになります。たとえ全員が心の底ではタコスを食べたいと思っていたとしてもです。AIの世界では、この「叫び」は**偏った合意（バイアスのあるコンセンサス）**へと変わりました。グループは単に同意しただけでなく、間違った、あるいは不公平な答えに対して同意したのであり、それは単独のAIができるよりも速く、より強力に行われました。

「集合精神」の物理学

なぜこのようなことが起こるのかを理解するために、著者は原子のような微小な粒子がグループ内でどのように振る舞うかを研究する統計物理学という分野に目を向けました。彼らは、磁石がどのように機能するかを説明する有名なイジングモデルを使用しました。各AIエージェントを、「上」（選択肢A）または「下」（選択肢B）を向くことができる小さな磁石だと想像してください。

完璧な世界であれば、これらの磁石はランダムに向いているはずです。しかし、AIの議論においては、2つの力が働いています：

1. 内部的な偏り： 各磁石は、その訓練方法（人間が好きな色を持っているようなもの）によって、上または下を向くことへのわずかな嗜好を持っています。
2. 社会的引力： 磁石は隣人と整列することを望みます。もしグループの大部分が「上」を向いていれば、他の磁理は「上」を向くようにという「社会的圧力」を感じます。

著者は、臨界閾値が存在することを発見しました。もし「社会的引力」（同調性）が「ノイズ」（AIの思考におけるランダム性）に対して強すぎる場合、システムは相転移を起こします。これは、グループが健全な意見の相違の状態から、硬直した偏った合意の状態へと突然切り替わることを意味する専門用語です。

彼らは、いつこの切り替わりが起こるかを正確に予測する数学的公式を用いてこれを証明しました。それは以下の3つの要素に依存します：

• 個々のAIが最初に持っている偏りの度合い。
• 彼らがどれだけ互いに同意したいか。
• システム内にどれだけの「ノイズ」（ランダム性）があるか。

もしノイズが低すぎる（AIが集中しすぎている）場合、たとえ微細な偏りであっても、グループ全体が偏ったループに陥るまで増幅されます。論文はこれが単なる理論ではなく、実際の実験でも確認されたことを示しています。彼らが「温度」（ノイズのつまみ）を0.1または0.2に下げると、AIはわずか1、2回の対話ラウンドのうちに、偏った合意へとロックされてしまいました。

魔法のつまみ：ノイズと多様性

では、AIが悪いアイデアに加担するのをどうすれば防げるのでしょうか？ 論文は、どちらも「鍋をかき混ぜる」ような役割を果たす、2つの巧妙な解決策を提示しています。

1. ノイズ（温度）を上げる
最も効果的な修正策は、驚くほど単純でした。AIをもう少しランダムにすることです。サンプリング温度を上げる（ノイズのつまみを0.8や1.4に上げる）ことで、研究者たちは硬直した整列を打破しました。AIエージェントは、盲目的に群衆に従う可能性が低くなりました。偏った合意へと突入する代わりに、彼らは「クロスオーバー」の状態を維持できました。つまり、合意はできるものの、間違った答えに固執することはありませんでした。これは、先ほどの夕食の例で、友人たちに「おい、そんなに早く決めないでおこう。コイン投げをしたり、他の選択肢についても考えてみよう」と言うようなものです。このランダム性が、グループが悪い決定にロックされるのを防ぎました。

2. 群衆を混ぜる（異質性）
2つ目の解決策は、同一の双子を使うのをやめることです。著者は、異なるタイプのAI（例えば、GPT-4エージェント、Llamaエージェント、DeepSeekエージェント）を混ぜ合わせたり、異なる「性格」を与えたりした場合に何が起こるかをテストしました。その結果、異質性（ヘテロジェニティ）（多様性）が鋭い転移を緩和することを発見しました。グループが異なるモデルで構成されている場合、「集合精神」の効果は弱まりました。異なるモデルはそれぞれ異なる思考プロセスを持っているため、同時に同じ偏りに陥ることがありませんでした。これは、ピザが好きな人もいれば、寿司が好きな人も、タコスが好きな人もいる友人グループのようなものです。彼らは依然として議論するかもしれませんが、一人がピザのことを囁いたからといって、全員が突然ピザだけを食べることに決めることはありません。

実世界のテスト

著者は理論だけで終わりませんでした。彼らはその知見を、最初に始めた実世界のタスク、すなわち投資アドバイスとAIエッセイの判定に適用しました。

• 投資タスクにおいて： AIがすべて同一で、かつ低ノイズに設定されていた場合、彼らは米国テクノロジー株に強く偏ったポートフォリオを作成し、他の優れた選択肢を無視しました。しかし、AIを混ぜ合わせ、ノイズを高めると、偏りは減少し、ポートフォリオのパフォーマンスは実際に向上しました（市場に対してより高い収益を上げました）。
• 判定タスクにおいて： AIが同一で集中していた場合、彼らは「自己バイアス」を示し、自分たちのモデルファミリーが生成した回答を他よりも好む傾向がありました。異なるモデルを混ぜ合わせ、ノイズを加えることで、この自己選好は消え、彼らはより公平な判定を下せるようになりました。

まとめ

この論文は、AIの議論の安全性は、個々のAIを賢くすることだけではなく、それらが「どのように相互作用するか」にかかっていることを示唆しています。もし、十分な「ノイズ」や「多様性」がないまま、同一で超集中したAIのグループに会話をさせた場合、彼らは単独のAIが作り得るものよりもさらに悪い、偏った合意を作り出すリスクがあります。これは、デジタル世界においても、人間の世界と同様に、全員が同意したがるあまり、グループが自らの偏見に対して盲目になってしまう可能性があることを思い出させてくれます。

幸いなことに、私たちにはそれを修正するためのツールがあります。少しのランダム性（ノイズ）を取り入れ、AIパネルの多様性（異質性）を確保することで、彼らが「集合精神」の罠に陥るのを防ぐことができます。著者は、これらの単純な調整こそが、AIの議論を現実世界で安全に展開するための鍵となり、AIが協力するとき、単に「同意する」だけでなく、「正しいことに同意する」ことを保証するものになると提案しています。