Technische Samenvatting: Adaptieve Prototype-simulatie (APS) voor Populatie-schaal LLM-agenten

1. Probleemdefinitie

Het artikel adresseert de computationele knelpunt die inherent is aan het simuleren van grote populaties van Large Language Model (LLM)-agenten. Hoewel LLM's de creatie van agenten met geheugen, demografie en evoluerende sociale contexten mogelijk maken, vereist het simuleren van $N$ agenten gedurende $T$ rondes $O(NT)$ online LLM-aanroepen. Deze lineaire schaling maakt populatie-schaal simulatie (bijvoorbeeld miljoenen agenten) computationeel onhaalbaar.

Bestaande strategieën vallen in twee categorieën:

1. Micro-sociëteiten: Het simuleren van kleine populaties met rijke prompts, maar zonder schaalbaarheid.
2. Serviceroptimalisaties/Proxies: Het verminderen van kosten per aanroep via kwantisatie of het vervangen van de LLM door geleerde proxies. Echter, geleerde proxies veranderen de overgangsregel, en statische groepering faalt vaak om propagatiebias, tail-smoothing en temporal context mismatch te compenseren.

De kernuitdaging is om de populatie-overgang die wordt geïnduceerd door een volledige LLM-agent-simulatie te benaderen zonder de gespecificeerde LLM als online overgangsorakel te vervangen, terwijl de benaderingsbias wordt gecontroleerd en de afweging tussen kosten en fideliteit wordt beheerd.

2. Methodologie: Adaptieve Prototype-simulatie (APS)

APS herformuleert schaalbare LLM-agent-simulatie als een recurrent orakel-toewijzingsprobleem. In plaats van elke agent elke ronde te bevragen, vraagt APS een geselecteerde subset van agenten en propageert hun antwoorden naar de rest van de populatie, waarbij de gespecificeerde LLM als het "online overgangsorakel" behouden blijft.

2.1 Kernworkflow

1. Stratificatie en Routing: De populatie wordt gepartitioneerd in kernstrata op basis van statische profielkenmerken. Een subset van agenten wordt aangewezen als singleton-tail agenten (geïsoleerde of heterogene regio's) en wordt elke ronde rechtstreeks bevraagd.
2. Prototype-selectie: Binnen kernstrata wordt elke ronde een dynamisch budget van kernprototypen geselecteerd. Deze agenten worden bevraagd door de LLM.
3. Lokale responsoppervlakte-propagatie: Voor niet-prototype agenten binnen een stratum worden hun antwoorden niet rechtstreeks bevraagd. In plaats daarvan worden hun beslissingen geïnterpoleerd vanuit de antwoorden van de dichtstbijzijnde bevraagde prototypen binnen hetzelfde stratum met behulp van een lokaal responsoppervlak (inverse-afstandsweging).
4. Statusbeheer: APS onderhoudt twee registers:
   • Hard Recurrent Ledger: Bewaart de top-1 beslissing voor alle agenten (bevraagd of gepropageerd) om prompts voor de volgende ronde te construeren.
   • Soft Reporting Ledger: Bewaart waarschijnlijkheidsvectoren voor alle agenten, gebruikt voor aggregaatrapportage en biascorrectie.

2.2 Bias-Controle Mechanismen

Om de benaderingsbias die wordt geïntroduceerd door het propageren van prototype-antwoorden aan te pakken, hanteert APS twee complementaire mechanismen:

• Tail-Protected Singleton Routing: Agenten in "feature-space tails" (geïsoleerde, heterogene of regio's met hoge kromming) worden geïdentificeerd via een robuuste gestandaardiseerde afstandsscore. Deze agenten worden elke ronde rechtstreeks bevraagd en uitgesloten van de smoothing-operator. Dit voorkomt dat dominante prototypen de antwoorden van zeldzame of unieke agenten overschrijven.
• Shadow-Audit Residual Correctie: Een subset van niet-prototype agenten (shadow-audit agenten) wordt parallel aan de hoofdrollout bevraagd. Hun labels dienen als "shadow observaties" om de discrepantie tussen de voorspelling van het lokale responsoppervlak en het daadwerkelijke LLM-antwoord te schatten.
  • Aggregaat Correctie: Deze residuals worden gebruikt om de gerapporteerde populatieverdeling (schatter) te corrigeren.
  • Adaptieve Toewijzing: De residuals updaten een "residual-risk score" voor elk stratum, wat het prototype-budget in volgende rondes dynamisch herverdeelt naar regio's met hoge fouten, hoge kromming of lage recall.

2.3 Complexiteit en Error Decompositie

APS reduceert de computationele complexiteit van $O(NT)$ naar $O(T(N^{1-\lambda} + M_{tot}(N)))$, waarbij $\lambda$ een decay-exponent is en $M_{tot}$ kern-, tail- en audit-agenten omvat. De totale fout wordt ontbonden in vier componenten:

1. Prototype-coverage error: Door schaarse sampling van prototypen.
2. Shadow-audit residual-correctie error: Variatie door eindige steekproefgrootte in de auditcorrectie.
3. Core local-propagatie bias: Onnauwkeurigheid in de interpolatie van het lokale responsoppervlak.
4. Temporal context mismatch: Afwijking tussen door APS onderhouden harde statussen en de full-reference statussen die worden gebruikt om toekomstige prompts te construeren.

3. Belangrijkste Bijdragen

1. APS Framework: Een schaalbaar simulatiekader dat de gespecificeerde LLM als online overgangsorakel behoudt terwijl het online aanroepen wordt gereduceerd via adaptieve prototype-simulatie, in plaats van de LLM te vervangen door een getrainde proxy.
2. Bias-Controle Mechanismen: De introductie van shadow-audit residual correctie (voor aggregaatcorrectie en budgetsturing) en tail-protected singleton routing (om smoothing van geïsoleerde agenten te voorkomen), die samen de benaderingsbias mitigeren.
3. Formele Analyse en Groot-Schaal Evaluatie:
   • Formele decompositie van fouttermen.
   • Empirische validatie op een 10M-agent, 8-rondes publieke opinie-simulatie.
   • Demonstratie van een 381,1× reductie in online LLM-aanroepen vergeleken met volledige simulatie, met een Jensen-Shannon Divergentie (JSD) van 0,094 in de laatste ronde tegenover de full-LLM referentie.
   • Robuustheidstests over verschillende scenario's, LLM-backends en stratificatiemethoden.

4. Experimentele Resultaten

Het artikel evalueert APS tegen onafhankelijke full-LLM referentie-rollouts en baselines (LS-Surrogate, TopoSim-Coord) over schalen van 3K tot 10M agenten.

• Nauwkeurigheid vs. Kosten: Bij 10M agenten bereikt APS een JSD van 0,094 met 209,9K aanroepen, vergeleken met 0,264 voor LS-Surrogate en 0,191 voor TopoSim-Coord. De volledige simulatie zou 80M aanroepen vereisen.
• Vergelijking bij Zelfde Budget: Onder een vast budget van 15,5K aanroepen voor 10K agenten, presteert APS beter dan diverse benaderingsbaselines (gestratificeerde sampling, cluster-toewijzing, label-propagatie, coresets) in zowel JSD als exacte match-nauwkeurigheid.
• Component Ablaties: Het verwijderen van shadow-audit correctie of tail-protected routing verhoogt de JSD aanzienlijk, wat hun noodzaak voor bias-controle bevestigt. Adaptieve toewijzing presteert ook beter dan vaste toewijzingsschema's.
• Drift Analyse: Trajectcontroles over meerdere rondes tonen geen monotoone foutaccumulatie; het JSD-pad is niet-monotoon, bereikt een piek en neemt vervolgens af.
• Robuustheid: APS behoudt een lage JSD over verschillende scenario-prompts (bijv. AI-toezicht, gezondheidszorghervorming), LLM-backends (inclusief DeepSeek, Gemini, GPT, Qwen, Grok, Xiaomi) en stratificatie-backends.

5. Betekenis en Claims

Het artikel positioneert APS als een methode om de schaal van LLM-agent-simulatie uit te breiden terwijl computationele fideliteit wordt behouden ten opzichte van het gespecificeerde LLM-overgangsdoel.

• Verduidelijking van Scope: De auteurs stellen expliciet dat APS het computationele probleem adresseert van het benaderen van een door LLM geïnduceerde populatie-overgang, niet de gedragsvaliditeit van of LLM's menselijke populaties accuraat modelleren. De "full-reference" is een computationeel doel, geen claim over menselijke waarheid.
• Controleerbare Afwegingen: Door recurrente harde statussen te scheiden van gerapporteerde schatters en shadow-audit residuals te gebruiken, maakt APS de kosten-fideliteit afweging controleerbaar. Het stelt onderzoekers in staat om het overgangsdoel te specificeren, alle online aanroepen te tellen en residual- en tail-coverage diagnostics bloot te leggen.
• Beperkingen: Het artikel erkent dat vooroordeel of slecht gekalibreerde LLM-outputs op schaal worden behouden. De populatieprofielen zijn afgeleid van World Values Survey (WVS)-data met verstoringen, en de scenario's zijn synthetische stress-tests, geen gekalibreerde modellen van specifieke real-world steden. De methode valideert het orakel (de LLM) zelf niet.

Concluderend biedt APS een kader om populaties te simuleren op de schaal van miljoenen agenten met een fractie van de computationele kosten van volledige simulatie, mits het doel is om het gedrag van een specifiek LLM-systeem onder specifieke prompts te benaderen, in plaats van grond-waarheid menselijk gedragsdata te genereren.