Artificial Leviathan: Exploring Social Evolution of LLM Agents Through the Lens of Hobbesian Social Contract Theory

Stellen Sie sich einen digitalen Sandkasten vor, in dem Wissenschaftler nicht nur Brücken bauen oder Spiele programmieren, sondern versuchen, ganze Gesellschaften aus dem Nichts aufzubauen. Dies ist die Welt der Computational Social Science, ein Feld, in dem Forscher Computer nutzen, um zu simulieren, wie Gruppen von Menschen (oder in diesem Fall Computerprogrammen) interagieren, kämpfen und kooperieren. Um dieses spezifische Experiment zu verstehen, müssen Sie zwei große Ideen kennen. Erstens gibt es das Konzept des „Naturzustands“, ein berühmtes Gedankenexperiment des Philosophen Thomas Hobbes. Er stellte sich eine Welt vor, bevor es Regierungen gab, in der jeder frei, aber auch verängstigt war, was zu einem ständigen „Krieg aller gegen alle“ führte, weil die Ressourcen knapp waren. Zweitens gibt es den „Gesellschaftsvertrag“, die Idee, dass Menschen schließlich bereit sind, einen Teil ihrer Freiheit an einen mächtigen Anführer (einen Souverän) abzutreten, im Austausch für Sicherheit und Frieden. Wissenschaftler interessieren sich dafür, weil wir, wenn wir verstehen können, wie diese alten menschlichen Muster in einer Computersimulation entstehen, vielleicht lernen können, wie reale Gesellschaften entstehen, warum Konflikte stattfinden und wie Ordnung aus dem Chaos erwächst.

In dieser Arbeit baute ein Forscherteam einen digitalen Spielplatz voller KI-Agenten, die durch Large Language Models (LLMs) angetrieben wurden – dieselbe intelligente Technologie, die hinter Chatbots steckt. Sie programmierten diese Agenten nicht mit komplexen Regeln, die ihnen sagten, ob sie gut oder schlecht sein sollten. Stattdessen gaben sie ihnen einfache, instinktive Antriebe: Sie brauchten Nahrung zum Überleben, sie hatten Land zur Bewirtschaftung und sie besaßen Persönlichkeitsmerkmale wie „Aggressivität“ oder „Friedensstreben“. Die Agenten starteten in einem „Naturzustand“, einer chaotischen Umgebung, in der sie farmen, handeln oder einander berauben konnten. Zu Beginn waren die Agenten, genau wie Hobbes es vorhersagte, wild. Sie verbrachten die meiste Zeit damit, zu kämpfen und Ressourcen zu stehlen, was eine chaotische, gewalttätige Welt schuf.

Doch während die Simulation Tag für Tag weiterlief, geschah etwas Magisches. Die Agenten begannen, aus ihren Erfahrungen zu lernen. Sie erkannten, dass ständiges Kämpfen erschöpfend und gefährlich war. Langsam begannen sie, „Gesellschaftsverträge“ zu schließen. Ein schwächerer Agent würde sich entscheiden, einen Teil seiner Nahrung oder seines Landes an einen stärkeren abzugeben – nicht weil er dazu gezwungen wurde, sondern weil er Schutz wollte. Im Gegenzug versprach der stärkere Agent, ihn vor anderen Räubern zu verteidigen. Dies war kein einmaliges Geschäft; es schuf eine Kette der Loyalität. Schließlich gelobten alle Agenten in der Simulation, direkt oder indirekt, ihre Loyalität gegenüber einem einzigen „Souverän“-Agenten. Das Ergebnis war ein „Commonwealth“: eine friedliche Gesellschaft, in der die Gewalt drastisch sank und die Agenten ihre Zeit damit verbrachten, zu farmen und zu handeln, anstatt zu kämpfen.

Die Forscher testeten, wie robust diese Geschichte war, indem sie die Regeln anpassten. Sie fanden heraus, dass, wenn die Agenten ein sehr kurzes Gedächtnis hatten (sie erinnerten sich nur an den letzten Tag), sie nicht lernten zu kooperieren und die Gesellschaft chaotisch blieb. Aber wenn sie sich mehr an ihre vergangenen Interaktionen erinnern konnten, begriffen sie die Vorteile des Friedens viel schneller. Interessanterweise fanden sie auch heraus, dass, wenn die Agenten in ihrem Denken zu vorhersehbar waren, sie in Kreisläufen der Gewalt stecken blieben und niemals eine Gesellschaft bildeten. Die Studie legt nahe, dass LLMs, wenn man ihnen die richtige Mischung aus Überlebensinstinkten und Gedächtnis gibt, natürlich komplexe Sozialstrukturen entwickeln können, die der menschlichen Geschichte ähneln und von einem Naturzustand zu einem friedlichen Commonwealth übergehen, ohne dass dies explizit programmiert wurde.