Artificial Leviathan: Exploring Social Evolution of LLM Agents Through the Lens of Hobbesian Social Contract Theory

Stel je een digitale zandbak voor waarin wetenschappers niet alleen bruggen bouwen of games coderen, maar proberen hele samenlevingen vanaf nul op te bouwen. Dit is de wereld van de computationele sociale wetenschap, een vakgebied waar onderzoekers computers gebruiken om te simuleren hoe groepen mensen (of in dit geval, computerprogramma's) met elkaar interageren, vechten en samenwerken. Om dit specifieke experiment te begrijpen, moet je twee grote ideeën kennen. Ten eerste is er het concept van de "Natuurtoestand", een beroemd gedachte-experiment van filosoof Thomas Hobbes. Hij stelde zich een wereld voor voordat er overheden bestonden, waarin iedereen vrij was maar ook doodsbang, wat leidde tot een constante "oorlog van allen tegen allen" omdat middelen schaars waren. Ten tweede is er het "Sociaal Contract", het idee dat mensen uiteindelijk ermee instemmen om een deel van hun vrijheid op te geven aan een machtige leider (een soeverein) in ruil voor veiligheid en vrede. Wetenschappers geven hierom omdat als we kunnen begrijpen hoe deze oude menselijke patronen ontstaan in een computersimulatie, we misschien kunnen leren hoe echte samenlevingen ontstaan, waarom conflicten plaatsvinden en hoe orde uit chaos kan voortkomen.

In dit artikel bouwde een team van onderzoekers een digitale speeltuin vol met Artificial Intelligence-agenten, aangedreven door Large Language Models (LLM's) — dezelfde slimme technologie achter chatbots. Ze programmeerden deze agenten niet met complexe regels die hen vertelden goed of slecht te zijn. In plaats daarvan gaven ze hen eenvoudige, primitieve driften: ze hadden voedsel nodig om te overleven, ze hadden land om te boeren en ze hadden persoonlijkheidskenmerken zoals "agressiviteit" of "verlangen naar vrede". De agenten begonnen in een "Natuurtoestand", een chaotische omgeving waar ze konden boeren, handelen of elkaar konden beroven. In het begin waren de agenten, net zoals Hobbes voorspelde, wild. Ze besteedden de meeste tijd aan het vechten en stelen van middelen, wat een rommelige, gewelddadige wereld creëerde.

Echter, naarmate de simulatie dag na dag doorging, gebeurde er iets magisch. De agenten begonnen te leren van hun ervaringen. Ze realiseerden zich dat constant vechten uitputtend en gevaarlijk was. Langzaam begonnen ze "sociale contracten" te vormen. Een zwakkere agent zou ervoor kiezen om een deel van hun voedsel of land af te staan aan een sterkere agent, niet omdat ze werden gedwaden, maar omdat ze bescherming wilden. In ruil daarvoor beloofde de sterkere agent hen te verdedigen tegen andere rovers. Dit was geen eenmalige deal; het creëerde een keten van loyaliteit. Uiteindelijk zwoeren alle agenten in de simulatie, direct of indirect, hun loyaliteit aan een enkele "Soevereine" agent. Het resultaat was een "Gemenebest": een vredige samenleving waarin geweld drastisch afnam en de agenten hun tijd besteedden aan boeren en handelen in plaats van vechten.

De onderzoekers testten hoe robuust dit verhaal was door de regels aan te passen. Ze ontdekten dat als de agenten een zeer kort geheugen hadden (alleen de vorige dag herinnerden), ze niet konden leren samenwerken en de samenleving chaotisch bleef. Maar als ze meer van hun verleden konden onthouden, begrepen ze de voordelen van vrede veel sneller. Interessant genoeg ontdekten ze ook dat als de agenten te voorspelbaar waren in hun denken, ze vastliepen in lussen van geweld en nooit een samenleving vormden. De studie suggereert dat LLM's, wanneer ze de juiste mix van overlevingsinstincten en geheugen krijgen, van nature complexe sociale structuren kunnen ontwikkelen die de menselijke geschiedenis weerspiegelen, waarbij ze bewegen van een natuurtoestand naar een vredig gemenebest zonder dat iemand hen daar expliciet voor heeft geprogrammeerd.