🤖 AI

Information Limits and Attractor Dynamics in Economies of Frontier LLM Agents: A Pre-Registered Test

Deze vooraf geregistreerde studie valideert een informatietheoretische capaciteitswet voor welvaartsgroei in frontier LLM-economieën, terwijl zij gladde mean-fieldmodellen van populatie-misalignment weerlegt door aan te tonen dat de reacties van agenten op sturingsmechanismen bistabiele stapfunctiedynamiek vertonen in plaats van continue dispersie.

Oorspronkelijke auteurs: Cheng Qian

Gepubliceerd 2026-07-08

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Cheng Qian

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een wereld voor waarin je een team van ongelooflijk slimme, maar lichtelijk verschillende AI-assistenten inhuurt om een gokspel met hoge inzet tegen elkaar te spelen. Je wilt twee dingen weten:

Maakt meer weten je daadwerkelijk rijker? (De "Informatiewet")
Als je de regels of de beloningen verandert, passen de teamleden zich dan langzaam en vloeiend aan? (De "Geleidelijke Respons-wet")

De auteur van dit artikel heeft een strikt, vooraf gepland experiment uitgevoerd met geavanceerde AI-modellen (specifiek Claude Opus) om deze vragen te beantwoorden. Het experiment kostte ongeveer $139 om uit te voeren en was zo ontworpen dat niemand kon valsspelen of de regels kon veranderen nadat de resultaten bekend waren.

Hier is wat zij ontdekten, uitgelegd aan de hand van eenvoudige analogieën.

1. De "Slimste Gokkker" wint (Het Goede Nieuws)

De Opstelling: Stel je een groep gokkers voor die wedden op de uitkomst van drie muntworpen. Sommige gokkers hebben een perfect zicht (ze zien de munten duidelijk), sommige hebben wazig zicht (ze zien de munten met een beetje ruis), en sommige hebben helemaal geen zicht. Ze wedden allemaal in een gezamenlijke pot.

De Voorspelling: Oude wiskundige theorieën zeggen dat als je meer weet over de wereld dan je tegenstander, je je vermogen met precies die hoeveelheid sneller zult laten groeien. Het is als een directe vertaling: Meer Kennis = Meer Geld.

Het Resultaat: Het experiment bevestigde dit perfect.

De Vertaling: De AI-agenten die een beter "zicht" hadden (meer informatie), groeiden hun vermogen sneller. De wiskunde hield stand tot een piepkleine, minuscule foutmarge (minder dan 0,05%).
De Teamwerktest: De onderzoekers testten ook of twee agenten die samenwerkten hun kennis konden combineren.
- Als hun informatie slechts "redundant" was (zoals twee mensen die naar dezelfde munt kijken), was hun gecombineerde waarde minder dan de som van hun delen.
- Als hun informatie "synergetisch" was (zoals één persoon die de linkerkant van een puzzel ziet en de ander de rechterkant, waarbij geen van beide stukken alleen zinvol is), ontsloten ze plotseling een enorme waardestijging. De AI begreep de puzzel simpelweg door erover te praten.
De Winnaar: In een langlopende markt absorbeerde de agent met het duidelijkste zicht uiteindelijk bijna al het geld, waardoor de anderen met niets achterbleven. De markt selecteerde van nature de slimste speler.

Eenvoudige Les: In een competitieve markt bepaalt wat je weet direct wat je verdient. Als jij degene bent met de meeste informatie, zul je de pot winnen.

2. De "Schakelaar, niet een Dimmer" (Het Verrassende Nieuws)

De Opstelling: Stel je nu een groep van 20 AI-agenten voor die proberen een "goede plek" te vinden in een landschap.

Er is een Beloningspiek (een heuvel met veel goud) die hen de ene kant op trekt.
Er is een Controle-doel (een specifiean punt waar de onderzoekers willen dat ze naartoe gaan) dat hen de andere kant op trekt.
De onderzoekers verwachtten dat als ze de "Controle"-knop een klein beetje zouden opdraaien, de agenten zich langzaam en vloeiend naar het doel zouden bewegen, zoals een dimmer die een licht geleidelijk sterker maakt.

De Voorspelling: Standaard economische modellen gaan ervan uit dat populaties als een gas of een vloeistof zijn: als je ze zachtjes duwt, bewegen ze zachtjes. Als je harder duwt, bewegen ze meer.

Het Resultaat: De agenten bewogenen niet vloeiend. Ze gedroegen zich als een lichtschakelaar.

De "Dimmer" Faalde: Hoeveel de onderzoekers de knoppen ook een klein beetje bijstuurden, de agenten bevonden zich nooit in het midden. Ze negeerden de controle volledig en renden naar de gouden heuvel, of ze sprongen direct naar het controle-doel.
De "Schakelaar" Werkte: Het systeem gedroeg zich als een set magneten.
- Als de "Gouden Heuvel" sterk genoeg was, sprong iedereen daarheen.
- Als het "Controle-doel" sterk genoeg was, sprongen iedereen er direct naartoe.
- Als de twee krachten gelijk waren, werd de uitkomst een kop-of-munt-situatie: soms ging de hele groep naar de heuvel, soms naar het doel, afhankelijk van kleine, willekeurige ruis aan het begin van het spel.
De "Instorting": De onderzoekers zochten naar een "middenweg" waar de agenten verspreid waren (gedispergeerd) zodat ze een vloeiende respons konden meten. Ze vonden nul gevallen van dit soort situaties. De agenten klonterden altijd nauw samen.

Eenvoudige Les: Je kunt deze AI-populaties niet met kleine prikkels naar een middenweg "nudgen". Je verandert hun gedrag of niet; ze springen ofwel volledig naar de gouden heuvel, of ze springen direct naar het controle-doel. Er is geen "vloeiende aanpassing".

Het Grote Plaatje

Het paper concludeert met twee duidelijke lessen:

Voor de Individuele Agent: Als je AI-agenten in een markt plaatst, is de wiskunde prachtig en voorspelbaar. Kennis is valuta. De agent die het meeste weet, zal uiteindelijk het meeste bezitten.
Voor de Groep Agenten: Als je probeert een menigte van deze agenten te beheren met kleine prikkels, verspil je je tijd. Ze reageren niet op "nudges". Ze zijn discrete attractoren—ze springen naar een van de paar duidelijke gedragingen. Om hen te veranderen, moet je de schakelaar omzetten, niet de draaiknop verdraaien.

De auteur benadrukt dat deze resultaten gebaseerd zijn op een zeer specifiek, kleinschalig experiment met één type AI-model. Echter, de gebruikte methode was zo strikt en transparant dat iedereen exact hetzelfde experiment gratis kan herhalen met behulp van de verstrekte gegevens om deze bevindingen te verifiëren.

Technische Samenvatting: Informatielimieten en Attractor-dynamiek in Economieën van Frontier LLM-agenten

Probleemstelling

Dit artikel behandelt twee fundamentele, ongeteste vragen met betrekking tot populaties van frontier Large Language Model (LLM) agenten die interageren in economische en selectie-gebaseerde omgevingen:

Informatie-rijkdom Koppeling: Voldoen gekoppelde LLM-agenten aan klassieke informatietheoretische wetten die hun "geclaimde" informatie (posterior beliefs) verbinden met hun economische groei (vermogensaccumulatie) in parimutuel markten? Concreet: is de relatieve groeisnelheid van agenten gelijk aan hun relatieve informatiewerk en vertonen coalitiewaarden de voorspelde submodulariteit of synergie?
Populatiedynamiek en Controle: Reageren LLM-populaties vloeiend op prikkel- en controlehefbomen (bijv. beloningsgradiënten en alignment-bonussen) zoals verondersteld in mean-field modellen? Of vertonen ze discrete, niet-lineaire gedragingen zoals attractor-switching en het instorten van doel-dispersie?

Eerder werk heeft LLM-agenten gesimuleerd in sociale of economische settings, maar niemand heeft deze kwantitatieve wetten rigoureus getest op frontier-modellen met vooraf geregistreerde acceptatiebanden en deterministische, controleerbare uitvoering.

Methodologie

De studie maakt gebruik van een pre-geregistreerd, tweeledig experiment met het claude-opus-4-8 model. De methodologie onderscheidt zich door strikte naleving van wetenschappelijke reproduceerbaarheid en controleerbaarheid:

Pre-registratie & Bevriezing: Alle voorspellingen, acceptatiebanden, beslisregels en protocolpoorten werden vooraf gecommitteerd aan een publieke Git-repository voordat de dataverzameling begon. Drie wijzigingen werden "blind" gecommit (vóór de runs waar zij over heersten) om externe beperkingen of interne inconsistenties aan te pakken.
Determinisme & Kostencontrole: Elke API-aanroep werd gecached in een SQLite-store, gekoppeld aan de volledige request. De analyse is volledig deterministisch en offline opnieuw uit te voeren vanuit de cache tegen nul marginale kosten. De totale gemeten API-uitgave was $138,76.
Instrumentontwerp:
- Experiment A (Capaciteitsregio): Agenten interageren in een parimutuel markt over een 3-bit wereld. Vier perceptiestructuren (disjunct, overlappend, gekloond, ruisachtig) en een ontworpen XOR-synergiecontrole worden getest. Agenten rapporteren posteriors, die mechanisch worden omgezet in weddenschappen. Groei wordt gemeten als de verwachte logaritmische vermogensverandering.
- Experiment B (Residuele Schaling): Een populatie van 20 agenten bezet een 16-niche landschap met een beloningsgradiënt ( $g$ ) en een controlebonus ( $\gamma$ ) bij een doelniche. Het experiment test een $3 \times 3$ raster van $(g, \gamma)$ -waarden over 8 seeds (72 runs) om populatie-misalignment en doel-dispersie ( $V$ ) te meten.
Beslisregels: Een mechanische analyzer evalueert de resultaten tegen bevroren banden. Verdicten worden gecategoriseerd als PASS, CLEAN NEGATIVE, of CAP ("Cannot Answer - Insufficient In-Regime Span").

Belangrijkste Bijdragen

Eerste Pre-geregistreerde Bevestiging van Gekoppelde Capaciteitswetten: Het artikel levert empirisch bewijs dat frontier LLM-agenten specifieke informatietheoretische wetten naleven in gekoppelde markten, inclusclusief de "gap law" (relatieve groei is gelijk aan relatieve informatie), voorwaardelijke submodulariteit van coalitiewaarde, en de entropie-plafond op gezamenlijke groei.
Structureel Negatief Resultaat voor Mean-Field Modellen: De studie toont aan dat geteste LLM-populaties niet de "ruis-gehandhaafde dispersie"-regime bezetten die vereist is voor vloeiende mean-field lineaire-responsmodellen. In plaats daarvan vertonen ze doel-dispersie-instorting ( $V \to 0$ ) en stapfunctie-reacties op controlehefbomen.
Controleerbare Methodologie: Het artikel vestigt een template voor goedkope, integriteit-hoge pre-geregistreerde experimenten op frontier model-populaties, voorzien van bevroren banden, blinde amendementen en volledige herkomst via een publieke commit-keten.

Resultaten

Resultaat 1: De Gekoppelde Capaciteitsregio Houdt Stand

Over vier perceptiestructuren en een ontworpen synergiecontrole bevestigde het experiment het volgende binnen de pre-geregistreerde banden:

Gap Law: Het verschil in relatieve groei tussen agenten is gelijk aan het verschil in hun geclaimde informatie ( $\hat{G}_a - \hat{G}_b = \hat{I}_a - \hat{I}_b$ ). De slechtst denkbare afwijking was 46 millinats (binnen de 50 millinats band).
Coalitiestructuur: Coalitiewaarde was submodulair waar kanalen voorwaardelijk onafhankelijk waren (slechtste marge $-0,019 \ge -0,03$ ). In de XOR-synergiecontrole (waar individuele signalen nul informatie dragen maar het gezamenlijke signaal één bit draagt), kantelde de coalitiewaarde naar supermodulair met een gat van 0,621 nats (overschrijdt de 0,347 nats band), wat het vermogen van de agenten demonstreert om gezamenlijke pariteitsstructuren te redeneren.
Gezamenlijk Plafond: Geen enkele coalitie overschreed de entropiesnelheid van de wereld ( $H(X)$ ); de grens hield stand tot numerieke precisie.
Vermogensselectie: In een live 40-ronde markt absorbeerde de agent met de zuiverste informatie $\ge 99,9\%$ van de vermogenspool in alle seeds, en de volgorde van vermogen volgde strikt de volgorde van informatie in 4/5 seeds.
Opmerkelijke Afwijking: De voorspelling dat clones met identieke signalen een gelijk eindvermogen zouden bereiken, faalde (2/4 scorebare seeds slaagden). Het mechanisme werd geïdentificeerd als "absorbing all-in dynamiek", waarbij sampling-ruis in een enkele ronde een clone permanent elimineert uit de zero-sum pool.

Resultaat 2: Het Mean-Field Regime Bestaat Niet

De test voor de residu-schalingswet ( $\text{residue} \propto V g / \gamma$ ) leverde een CAP (Cannot Answer) verdict op.

Dispersie-instorting: In alle 72 grid-runs stortte doel-dispersie ( $V$ ) bijna naar nul (maximale $V=4,85$ tegen een bevroren vloer van 5,31). De populatie behield nooit de door ruis in stand gehouden dispersie die nodig is voor het lineaire-responsregime.
Stapfunctie-dynamiek: De populatiereactie was discreet in plaats van vloeiend.
- Wanneer controle ( $\gamma$ ) de piek-incentive ( $12g$ ) overtrof, stemde de populatie perfect uit met het doel ( $\bar{k}=0$ ).
- Wanneer de incentive domineerde, clusterde de populatie nabij de beloningspiek.
- Nabij de grens ( $\gamma \approx 12g$ ) vertoonde het systeem bistabiliteit, waarbij de specifieke seed (sampling-ruis) bepaalde in welke attractor de populatie terechtkwam.
Drie-Instrument Bracket: Gecombineerd met twee eerdere mislukte pogingen met kleinere modellen (één vanwege gradiëntverzadiging, één vanwege niet-respons), suggereren de resultaten dat het domein van de mean-field lineaire-respons-wet leeg is voor geteste LLM-populaties. De wet wordt gerapporteerd als "gepensioneerd naar zijn wiskundige reikwijdte" in plaats van gefalsifieerd.

Betekenis en Claims

Het artikel claimt twee afzonderlijke maar even zwaar wegende bevindingen:

Kwantitatieve Geldigheid van Informatie-Economische Wetten: Het stelt vast dat voor frontier LLM-agenten "wat een agent meetbaar weet, bepaalt wat hij meetbaar verdient." De koppeling van informatie en vermogen in parimutuel markten volgt precieze, falsifieerbare wetten afgeleid van klassieke informatietheorie.
2.Discrete Attractor-dynamiek: Het daagt de aanname uit dat LLM-populaties vloeiend reageren op prikkels. In plaats daarvan gedragen deze populaties zich als discrete attractor-systemen. Interventies produceren geen marginale aanpassingen; ze schakelen de populatie óf naar een nieuwe attractor-bekken, óf hebben geen meetbaar effect. Dit impliceert dat multi-agent governance-strategieën die vertrouwen op vloeiende, lineaire-responsmodellen fundamenteel misplaatst kunnen zijn bij de werkelijke dynamiek van LLM-populaties.

De auteurs benadrukken dat het negatieve resultaat (Resultaat 2) alleen interpreteerbaar is omdat het instrument bewezen bekwaam was door het positieve resultaat (Resultaat 1). De studie concludeert dat hoewel de capaciteitsregio een bevestigd eigendom is van deze agenten, het vloeiende mean-field regime dat veel veiligheids- en alignmenttheorieën veronderstellen, een artefact lijkt te zijn dat niet aanwezig is in echte LLM-populaties.