💻 computer science

Artificial Institutions: How Institutional Design Shapes LLM Simulations

Dit artikel betoogt dat institutioneel ontwerp even cruciaal is als de eigenschappen van agenten bij het vormgeven van op LLM gebaseerde kunstmatige samenlevingen, waarbij via een marktexperiment wordt aangetoond dat het variëren van uitwisselingsregels de efficiëntie, prijzen en surplusverdeling significant verandert, zelfs wanneer de agenten en condities constant blijven.

Oorspronkelijke auteurs: Maxim Chupilkin

Gepubliceerd 2026-08-06

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Maxim Chupilkin

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het decor is belangrijker dan de acteurs

Stel je voor dat je naar een toneelstuk kijkt. Meestal focussen we op de acteurs: zijn ze talentvol? Memoriseren ze hun tekst? Hebben ze de juiste emoties? Maar wat als het podium zelf—de regels voor hoe ze bewegen, met wie ze kunnen praten en wanneer ze mogen spreken—eigenlijk het belangrijkste deel van de show was? Dit is de vraag die centraal staat in een nieuwe studie in de wereld van "artificiële samenlevingen."

Om dit te begrijpen, moeten we twee dingen weten. Ten eerste zijn er Large Language Models (LLM's). Denk aan deze als ongelooflijk slimme, digitale breinen die kunnen lezen, schrijven en chatten net als mensen. Wetenschappers beginnen ze te gebruiken om nepwerelden te bouwen waar deze AI-"agenten" met elkaar interageren om te zien hoe ze problemen oplossen, goederen verhandelen of beslissingen nemen. Ten tweede is er het concept van instituties. In het dagelijks leven is een institutie niet alleen een gebouw; het is een set regels. Het zijn de verkeerslichten die auto's vertellen wanneer ze moeten stoppen, de regels van een spel zoals voetbal, of de manier waarop een markt georganiseerd is. De grote vraag die wetenschappers stellen is: gedragen deze AI-breinen zich op dezelfde manier in een nepwereld, ongeacht wat de regels zijn? Of verandert het "decorontwerp" het hele verhaal? Dit is belangrijk omdat als we AI willen gebruiken om echte markten, beleidsmaatregelen of sociale systemen te ontwerpen, we moeten weten of de AI gewoon zijn eigen persoonlijkheid volgt of dat het reageert op de regels die we haar geven.

Het Grote AI-Marktexperiment

In dit artikel besloot een onderzoeker genaamd Maxim Chupilkin dit idee te testen door een kleine, digitale marktplaats op te zetten. Stel je een spel voor waarbij vier AI-kopers en vier AI-verkopers samenkomen om één enkel item te verhandelen. De kopers hebben geheime "waarden" (hoeveel ze het item willen hebben, variërend van 50 tot 100) en de verkopers hebben geheime "kosten" (wat het hen kost om het te maken, variërend van 30 tot 85). Het doel is simpel: zoveel mogelijk verhandelen om voor iedereen de meeste winst te maken.

Het slimme deel van het experiment is dat de acteurs nooit veranderden. Dezelfde AI-modellen (zoals GPT-5, Claude Sonnet en Gemini) speelden het spel keer op keer. Ze hadden dezelfde geheime waarden, dezelfde instructies en dezelfde geschiedenis. Het enige dat veranderde was de institutie—de regels van het spel. De onderzoeker liet de AI spelen in vijf verschillende soorten markten:

Call Market (Oproepmarkt): Iedereen roept tegelijkertijd hun prijs en een computer koppelt hen aan elkaar.
Posted-Offer Market (Aanbodmarkt): Verkopers plaatsen een "neem het of laat het"-prijs, en kopers kiezen.
Posted-Bid Market (Bodmarkt): Kopers brengen een prijs uit, en verkopers kiezen.
Continuous Double Auction (Continue Dubbele Veiling): Een chaotische, real-time markt waar mensen op elk moment in en uit kunnen springen.
Bilateral Bargaining (Bilaterale Onderhandeling): Kopers en verkopers worden willekeurig aan elkaar gekoppeld om één-op-één te onderhandelen.

De Schokkende Ontdekking: De Regels Veranderen de Uitkomst

De resultaten waren verrassend. Hoewel de AI-"persoonlijkheden" exact hetzelfde waren, veranderde de hoeveelheid geld die ze verdienden en hoe zij die verdeelden drastisch afhankelijk van de regels.

Het Beste Decor: De Call Market was de superster. Het stelde de AI-agenten in staat om 88,6% van de maximaal mogelijke winst te realiseren. Het was de meest efficiënte manier om te handelen.
Het Middenveld: De Continuous Double Auction deed het redelijk en bereikte 71,5% efficiëntie.
De Strijd: De Posted-Offer en Posted-Bid markten waren veel slechter en behaalden slechts ongeveer 66% efficiëntie.
Het Slechtste Decor: De Bilateral Bargaining (één-op-één onderhandelen) was de minst efficiënte en realiseerde slechts 56,4% van de mogelijke winst.

Het is alsoals het hebben van dezelfde groep acteurs die een scène uitvoeren. Als je hen vertelt om in een cirkel te staan en hun regels te schreeuwen, werkt de scène perfect. Maar als je hen vertelt om in een donkere kamer met één persoon tegelijk te fluisteren, valt de scène uit elkaar, ook al zijn de acteurs hetzelfde.

Waarom Gebeurde Dit?

Het paper duikt in waarom de regels er zo veel toe deden. Het was niet dat de AI in bepaalde markten "dommer" werd; het was dat verschillende regels verschillende soorten puzzels creëerden.

Gemiste Kansen: In de "Posted" markten (waar één zijde de prijs bepaalt), misten de AI-agenten vaak goede transacties. Ze waren te voorzichtig of konden de juiste match niet vinden, waardoor er geld op tafel bleef liggen.
De Onderhandelingsval: In de één-op-één onderhandelingen slaagden de AI-agenten er daadwerkelijk in om over eerlijke prijzen overeen te komen wanneer ze wel handelden. Echter, ze faalden in het verhandelen zo vaak als ze hadden moeten doen. Ze kwazen vast in periodes van "niet-handelen" waarin ze simpelweg niet tot een middenweg konden komen.
Wie Krijgt het Geld? De regels veranderden ook wie rijk werd. In de "Posted-Offer" markt (waar verkopers de prijzen bepalen), hielden de kopers uiteindelijk 83,7% van de winst. Maar in de "Posted-Bid" markt (waar kopers de prijzen bepalen), hielden de kopers slechts 14,3%. De AI had geen vast idee van "eerlijkheid"; het reageerde simpelweg op wie de macht had in dat specifieke regelgevend kader.

Wat Dit Betekent voor de Toekomst

De belangrijkste les is dat AI-gedrag niet neutraal is. Je kunt niet simpelweg zeggen: "Deze AI-modellen zijn goed in economie." Je moet zeggen: "Dit AI-model is goed in economie wanneer de regels op deze manier zijn ingesteld."

Het paper suggereert dat als we AI willen gebruiken om echte systemen te ontwerpen—zoals een nieuwe aandelenmarkt, een sociaal mediaplatform of een beleid voor een stad—we niet alleen moeten focussen op het slimmer maken van de AI. We moeten de regels van het spel net zo zorgvuldig ontwerpen. Een kleine verandering in hoe mensen communiceren of hoe deals worden gemaakt, kan de uitkomst volledig veranderen.

De auteur waarschuwt dat we deze regels niet als saaie achtergronddetails moeten behandelen. In feite zijn de regels onderdeel van het experiment zelf. Als we ze negeren, denken we misschien dat een AI faalt, terwijl hij eigenlijk gewoon een spel speelt met slechte regels. Door verschillende regels te testen, kunnen we leren hoe we betere, eerlijkere en efficiëntere systemen kunnen bouwen voor zowel mensen als machines. De studie laat zien dat in de wereld van artificiële samenlevingen het decorontwerp net zo belangrijk is als de acteurs.

Technische Samenvatting: Artificiële Instituties: Hoe Institutioneel Ontwerp LLM-simulaties Vormgeeft

Probleemstelling

De snelle adoptie van Large Language Models (LLM's) als agenten in artificiële samenlevingen heeft de focus primair verschoven naar agent-eigenschappen: prompts, persona's, geheugen, redeneervermogen en hun getrouwheid aan menselijke subjecten. Dit paper betoogt echter dat een cruciale variabele vaak wordt over het hoofd gezien: de institutionele architectuur van de simulatie.

In artificiële samenlevingen zijn agenten ingebed in regels die bepalen wie mag handelen, wie kan observeren, de sequentie van acties, communicatieprotocollen en de aggregatie van individuele acties tot collectieve uitkomsten. Deze regels worden frequent behandeld als achtergronddetails van de implementatie in plaats van onderdeel van het wetenschappelijk object. Het centrale probleem dat wordt geadresseerd is of LLM-agenten "institutie-neutraal" zijn (vergelijkbare uitkomsten produceren ongeacht de uitwisselingsregels) of "institutie-sensitief" (kwalitatief verschillende sociale uitkomsten produceren op basis van enkel de regels van interactie). Indien dat laatste het geval is, is het toeschrijven van simulatieresultaten uitsluitend aan modelfamilies of prompts methodologisch gebrekkig.

Methodologie

De studie maakt gebruik van een gecontroleerd experimenteel ontwerp gebaseerd op de induced-value market theory om institutionele effecten te isoleren van agent-effecten.

Experimentele Omgeving: Een kleine, herhaalde markt met vier artificiële kopers en vier artificiële verkopers.
- Kopers: Privéwaarden van 100, 90, 70 en 50.
- Verkopers: Privékosten van 30, 45, 65 en 85.
- Restricties: Elke agent kan maximaal één keer per periode handelen. Agenten krijgen de instructie niet boven de waarde te bieden of onder de kosten te vragen. Prompts onthullen niet de efficiënte allocatie of de competitieve evenwichtsprijsband (65–70).
Variabelen:
- Vast: Agent modelfamilies, privéwaarden/kosten, instructies voor uitbetaling, aantal periodes (5) en publieke geschiedenisstructuur.
- Behandeling (Variabel): De institutie van uitwisseling. Vijf standaard marktinstituties werden getest:
  1. Call Market (Call Markt): Gecentraliseerde biedingen/vragen, gecentraliseerde clearing, prijs op afgerond middelpunt.
  2. Posted-Offer Market (Geposte Aanbodmarkt): Verkopers plaatsen take-it-or-leave-it vragen; kopers kiezen simultaan één aanbod of laten het afের.
  3. Posted-Bid Market (Geposte Bodmarkt): Kopers plaatsen take-it-or-leave-it biedingen; verkopers kiezen simultaan één bod of laten het af.
  4. Continuous Double Auction (CDA - Continue Dubbele Veiling): Sequentiële aankomst; agenten kunnen staande aanbiedingen accepteren, nieuwe aanbiedingen plaatsen of afzien.
  5. Bilateral Bargaining (Bilaterale Onderhandeling): Willekeurige koppeling; eenmalige voorstellen; handel vindt plaats als bod $\ge$ vraag.
Modellen: Vier modelfamilies werden getest: GPT-5 mini, GPT-5, Claude Sonnet (specifiek claude-sonnet-4-5-20250929) en Gemini (specifiek gemini-2.5-flash).
Schaal: 10 onafhankelijke markten per model-institutie cel, wat resulteert in 1.000 model-markt-periode observaties.
Metrieken: Gerealiseerd surplus (als % van het efficiënte surplus), handelsvolume, afstand tot de competitieve evenwichtsprijs (CE) band, en surplusverdeling tussen kopers en verkopers.

Belangrijkste Resultaten

1. Institutionele Regels Drijven Geaggregeerde Uitkomsten

De institutionele architectuur alleen, waarbij agenten en uitbetalingen constant worden gehouden, genereerde significante variaties in sociale uitkomsten:

Efficiëntie: Call-markten bereikten de hoogste efficiëntie op 88,6% van het efficiënte surplus. Continuous double auctions (CDA) bereikten 71,5%. Posted-offer en posted-bid markten realiseerden ongeveer 66%. Bilaterale onderhandelingen waren het minst efficiënt met 56,4%.
Handelsvolume: Call-markten gemiddelden 2,55 transacties (dichtst bij de efficiënte hoeveelheid van 3). Posted-offer en posted-bid markten gemiddelden slechts ~1,5 transacties. Bilaterale onderhandelingen gemiddelden 1,91 transacties.
Prijsafwijking: Bilaterale onderhandelingen en call-markten produceerden prijzen die het dichtst bij de CE-band (65–70) lagen. Posted-offer markten genereerden prijzen die aanzienlijk onder de band lagen, terwijl posted-bid markten prijzen genereerden die aanzienlijk boven de band lagen.
Surplusverdeling: Institutionele regels dicteerden de distributie van winsten. Posted-offer markten verdeelden 83,7% van het surplus naar kopers, terwijl posted-bid markten slechts 14,3% aan kopers toewezen. Call-markten en CDA's bevoordeelden verkopers, terwijl bilaterale onderhandelingen resulteerden in een ongeveer evenwichtige splitsing.

2. Model-Institutie Interactie (Heterogeniteit)

De prestaties van specifieke modelfamilies waren sterk afhankelijk van de institutie:

Robuustheid: Call-markten waren relatief robuust over modellen heen; GPT-5, GPT-5 mini en Gemini bereikten allemaal >90% efficiëntie.
Sensitiviteit: Gedecentraliseerde instituties legden model-specifieke zwakheden bloot. Bijvoorbeeld, Gemini bereikte 100% efficiëntie in call-markten maar slechts 35,2% in CDA's. Daartegenover presteerde Claude Sonnet goed in CDA's (81,4%) maar slecht in bilaterale onderhandelingen (33,2%).
Implicatie: Een model kan competent lijken in de ene institutionele setting en fragiel in een andere. De relevante eenheid van analyse is de model-institutie paar, niet het model in isolatie.

3. Mechanismen van Falen

Verschillende instituties faalden om verschillende redenen:

Posted Markten: Efficiëntieverliezen werden gedreven door gemiste transacties (het niet matchen van compatibele kopers en verkopers) in plaats van een instorting naar periodes zonder handel.
Bilaterale Onderhandeling: Hoewel de prijzen vaak dicht bij de CE-band lagen, leed de institutie onder een hoge frequentie van periodes zonder handel vanwege de moeilijkheid om overlappende voorstellen te vinden in een gedecentraliseerde, willekeurige koppelingssetting.
Continuous Double Auctions: Agenten vertoonden bid shading (kopers die lager bieden dan hun waarde) en ask markups (verkopers die hoger vragen dan hun kosten), consistent met de strategische complexiteit van het beheren van timing en staande aanbiedingen.

Betekenis en Bijdragen

Het paper levert drie primaire bijdragen aan het veld van AI en sociale wetenschappen:

Praktische Implicatie: Het inzetten van LLM-agenten in real-world systemen (markten, platforms, organisaties) vereist institutioneel ontwerp naast agent-ontwerp. De regels die communicatie, sequentie en aggregatie beheersen zijn geen neutrale containers; ze vormen actief de collectieve uitkomsten.
Methodologische Implicatie: Simulaties moeten de institutionele architectuur rapporteren en testen met dezelfde strengheid als de agent-architectuur (prompts, persona's, geheugen). Het behandelen van interactieregels als implementatiedetails riskeert resultaten toe te schrijven aan het model, terwijl ze eigenlijk een consequentie zijn van het institutionele ontwerp.
Wetenschappelijke en Pedagogische Implicatie: Artificiële agenten maken de studie van institutionele contrafeituals mogelijk in compacte, controleerbare omgevingen. Onderzoekers kunnen voorkeuren, informatie en identiteiten vastzetten terwijl ze enkel de regels van interactie variëren, wat een laag-kost methode biedt om te demonstreren waarom instituties ertoe doen.

Beperkingen en Reikwijdte

De auteur merkt expliciet op dat de resultaten geen stabiele parameters van menselijk gedrag of algemeen LLM-gedrag zijn. Het experiment gebruikt een smal ontwerp (één vraag/aanbod schema, geen monetaire prikkels, geen leren over de tijd). De modellen werden geprompt om te beslissen, niet getraind voor marktparticipatie. De primaire claim is niet dat LLM's mensen perfect imiteren, maar dat ze institutie-sensitief zijn binnen deze artificiële economie. Als een dergelijke eenvoudige omgeving grote institutionele verschillen produceert, zullen grotere artificiële samenlevingen waarschijnlijk niet institutie-neutraal zijn.