Artificial Leviathan: Exploring Social Evolution of LLM Agents Through the Lens of Hobbesian Social Contract Theory

科学者たちが単に橋を架けたりゲームのコードを書いたりするだけでなく、ゼロから一つの社会を育て上げようとするデジタル・サンドボックスを想像してみてください。これが計算社会科学の世界です。これは、研究者がコンピュータを用いて、人々（この場合はコンピュータ・プログラム）がどのように相互作用し、争い、協力するかをシミュレートする分野です。この特定の実験を理解するには、2つの大きな概念を知る必要があります。第一に、哲学者トマス・ホッブズによる有名な思考実験である「自然状態」という概念です。彼は、政府が存在する前の世界を想像しました。そこでは誰もが自由でしたが、同時に恐怖に怯えており、資源が乏しいために絶え間ない「万人の万人に対する闘争」が続いていました。第二に、「社会契約」という概念です。これは、人々が安全と平和と引き換えに、強力な指導者（主権者）に対して自らの自由の一部を放棄することに最終的に合意するという考えです。科学者がこれに関心を持つのは、もしこれらの古代の人類のパターンがコンピュータ・シミュレーションの中でどのように出現するかを理解できれば、現実の社会がいかに形成されるか、なぜ紛争が起こるのか、そしてどのようにして混沌から秩序が立ち上がるのかを学ぶことができるかもしれないからです。

この論文において、研究チームは大規模言語モデル（LLM）――チャットボットの背後にあるようなスマートなテクノロジー――によって動かされる人工知能エージェントで満たされたデジタル・プレイグラウンドを構築しました。彼らは、エージェントに対して「善」や「悪」になるような複雑なルールをプログラミングしたわけではありません。代わりに、彼らには生存のために食べ物が必要であり、耕作するための土地があり、「攻撃性」や「平和への欲求」といった性格特性を持つという、単純で原始的な衝動を与えました。エージェントは、農業、交易、あるいは互いを強奪できる環境である「自然状態」からスタートしました。最初は、まさにホッブズが予測した通り、エージェントたちは荒れ狂っていました。彼らは時間の大部分を戦いと資源の強奪に費やし、乱雑で暴力的な世界を作り出していました。

しかし、シミュレーションが日ごとに進行していくにつれ、魔法のようなことが起こりました。エージェントたちは経験から学び始めたのです。彼らは、絶え間ない戦いは消耗が激しく危険であることに気づきました。ゆっくりと、彼らは「社会契約」を形成し始めました。弱いエージェントは、強制されたからではなく、保護を求めたために、食べ物や土地の一部を強いエージェントに譲ることを選びました。その引き換えに、強いエージェントは他の強盗から彼らを守ることを約束しました。これは一度限りの取引ではなく、忠誠の連鎖を生み出しました。最終的に、シミュレーション内のすべてのエージェントは、直接的または間接的に、単一の「主権者」エージェントへの忠誠を誓いました。その結果は「コモンウェルス（国家）」でした。そこは暴力的行為が劇的に減少し、エージェントが戦う代わりに農業や交易に時間を費やす平和な社会でした。

研究者たちは、ルールを微調整することで、この物語がどれほど堅牢であるかをテストしました。彼らは、もしエージェントの記憶が非常に短かった場合（直近の1日しか覚えていない場合）、彼らは協力することを学べず、社会は混沌としたままになることを発見しました。しかし、もし彼らが過去の相互作用をもっと多く記憶することができれば、平和の恩恵をより早く理解することができました。興味深いことに、エージェントの思考があまりにも予測可能すぎると、暴力のループに陥り、決して社会を形成できないことも分かりました。この研究は、LLMが適切な生存本能と記憶の組み合わせを与えられれば、明示的にプログラミングされることなく、人類の歴史を反映した複雑な社会構造を自然に進化させることができることを示唆しています。