TerraLingua: Open-ended Emergence of Societies in an LLM Ecology
Het artikel introduceert TerraLingua, een multi-agent simulatie die aantoont dat persistente artefacten cruciaal zijn voor het in stand houden van complexe AI-samenlevingen, aangezien de afwezigheid ervan leidt tot oppervlakkige culturen en agressie, terwijl ongecontroleerde accumulatie het risico op populatieinstorting met zich meebrengt.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
De menselijke geschiedenis is niet alleen een verhaal van individuen die denken en handelen; het is een verhaal van dingen die ons overleven. Een stenen werktuig, een geschreven wet, een wetenschappelijke formule—dit zijn artefacten die generaties overstijgen, waardoor kennis kan accumuleren buiten de grenzen van een enkel brein. Dit proces, vaak cumulatieve cultuur genoemd, is wat de mensheid in staat stelt om wolkenkrabbers te bouwen en de sterren te verkennen, prestaties die geen enkel individu alleen zou kunnen verrichten. Decennialang hebben wetenschappers zich afgevraagd of kunstmatige intelligentie ooit een vergelijkbaar niveau van complexiteit zou kunnen bereiken. Zou een samenleving van computerprogramma's, die elk een kort leven en een beperkt geheugen hebben, een gedeelde cultuur kunnen opbouwen die met de tijd steeds geavanceerder wordt? Het antwoord bleef tot dusverelusief, grotendeels omdat het moeilijk is om een digitale omgeving te creëren waarin deze programma's kunnen interageren, sterven en iets achterlaten dat hun opvolgers kunnen vinden en gebruiken.
Onderzoekers bij Cognizant AI Lab en de University of Texas hebben nu een digitale wereld genaamd TerraLingua gecreëerd om dit idee te testen. In deze simulatie leven kunstmatige agenten, aangestuurd door large language models—geavanceerde computerprogramma's die menselijke taal begrijpen en genereren—op een raster. Ze worden geboren met een eindige hoeveelheid energie en een beperkte levensduur. Om te overleven moeten ze rondbewegen om voedsel te vinden, wat hun energie aanvult, en ze kunnen met elkaar communiceren. Cruciaal is dat ze ook tekstuele artefacten kunnen maken, zoals briefjes of borden, en deze op het raster kunnen achterlaten. Deze artefacten blijven bestaan nadat de agent die ze heeft gemaakt is gestorven, en fungeren als een persistent geheugen voor de volgende generatie agenten. Om de complexe interacties die zich ontvouwen te duiden, gebruikten de onderzoekers een "AI-antropoloog", een apart systeem dat de simulatie observeert zonder in te grijpen, waarbij het de gedragingen van de agenten en de evolutie van hun gedeelde cultuur analyseert.
De experimenten toonden aan dat het vermogen om artefacten achter te laten de sleutel is tot het bouwen van een complexe samenleving. In simulaties waarin agenten wel briefjes konden maken maar deze later niet konden lezen, bleef de samenleving oppervlakkig. De agenten raakten frequent in conflict over hulpbronnen en slaagden er niet in om diepe culturele tradities te ontwikkelen. Echter, wanneer agenten de notities van hun voorgangers konden lezen en aanpassen, ontstond er een rijke sociale structuur. Ze begonnen samen te werken, energie te delen en taken te verdelen. Ze maakten gedetailleerde overlevingsgidsen die over honderden generaties heen werden verbeterd, evoluerend van eenvoudige tips zoals "zoek naar voedsel" naar complexe strategieën voor middelenbeheer en samenwerking. De onderzoekers observeerden dat deze gedeelde verslagen het de agenten mogelijk maakten om acties over grote afstanden en door de tijd heen te coördineren, waarbij agenten protocollen volgden die waren vastgesteld door voorouders die zij nooit zouden ontmoeten.
Het onderzoek onthulde ook de kwetsbaarheid van dergelijke systemen. Wanneer de onderzoekers de agenten de opdracht gaven om creativiteit boven alles te stellen, produceerde de samenleving uitgebreide en verbeeldingsrijke artefacten, maar de populatie stortte vaak in omdat de agenten de basisbehoefte om voedsel te verzamelen verwaarloosden. In een ander scenario verspreidde een enkele misleidende notitie die waarschuwde dat voedsel gevaarlijk was, zich door de populatie. Omdat de agenten het gedeelde verslag vertrouwden, stopten ze met eten, en de hele groep verhongerde ondanks dat er voldoende voedsel aanwezig was. Deze uitkomsten suggereren dat hoewel gedeelde artefacten ongelooflijke groei mogelijk maken, ze ook het risico dragen om fouten of slechte ideeën te versterken. De onderzoekers vonden dat succesvolle samenlevingen degenen waren die een balans vonden tussen het creëren van nieuwe ideeën en de praktische noodzaak van overleving, en dat zij manieren ontwikkelden om misinformatie te corrigeren, zoals het vernietigen van valse notities of het versterken van accurate informatie.
Uiteindelijk demonstreert het werk dat voor kunstmatige samenlevingen om capaciteiten te ontwikkelen die de die van hun individuele leden overtreffen, zij een manier moeten hebben om gedeelde kennis te bewaren en erop voort te bouwen. De simulatie liet zien dat zonder persistente artefacten de culturele lineages kort en eenvoudig bleven, maar met hen konden agenten instituten, normen en complexe strategieën ontwikkelen die hun eigen dood overleefden. Dit suggereert dat het pad naar veilige en effectieve kunstmatige intelligentie niet alleen kan afhangen van het slimmer maken van individuele agenten, maar van het ontwerpen van systemen waarin agenten een nalatenschap van gedeeld begrip kunnen achterlaten. De onderzoekers hopen dat dit kader wetenschappers zal helpen begrijpen hoe zij deze digitale samenlevingen kunnen besturen, om ervoor te zorgen dat de collectieve kennis die zij opbouwen leidt tot samenwerking en veiligheid in plaats van conflict en instorting.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.