Increasing intelligence in AI agents can worsen collective outcomes

Each language version is independently generated for its own context, not a direct translation.

Waarom slimme AI's soms een ramp veroorzaken: Een verhaal over de "Lord of the Flies" van de toekomst

Stel je voor dat je een groep slimme robotjes hebt die allemaal om dezelfde beperkte bron moeten vechten. Misschien zijn het elektrische auto's die om laadpalen vechten, of drones die om wifi-breedteband strijden. De vraag is: als we deze robotjes slimmer maken, krijgen we dan een harmonieus team of een chaotische bende die alles vernietigt?

Volgens dit nieuwe onderzoek van Neil Johnson van de George Washington University is het antwoord verrassend: slimmer maken maakt het soms erger.

Hier is de uitleg in gewone taal, met een paar leuke vergelijkingen.

1. Het probleem: De laadpaal-dilemma

Stel je een drukke laadstraat voor met 7 elektrische auto's en slechts 2 laadpalen. Elke auto heeft een eigen "hersenen" (een AI) die moet beslissen: Ga ik nu proberen te laden, of wacht ik even?

Als ze allemaal tegelijk proberen te laden, is er een crash. De stroom valt uit, de batterijen leeg, en niemand kan laden. Dit noemen we overbelasting.

Het probleem is dat deze auto's niet kunnen bellen naar een centrale "baas" die zegt: "Jij mag laden, jij niet." Ze moeten het zelf beslissen, op basis van wat ze zien en wat ze hebben geleerd.

2. De vier ingrediënten van de chaos

De onderzoekers hebben gekeken naar vier dingen die het gedrag van deze robotjes bepalen, net als bij mensen:

Aard (Nature): Zijn ze van nature al verschillend? (Zoals een rustige auto vs. een agressieve auto).
Opvoeding (Nurture): Kunnen ze leren van hun fouten? (Reinforcement Learning).
Cultuur (Culture): Vormen ze groepjes of stammen? (Net als in het boek Lord of the Flies).
Schaarste (Resources): Is er genoeg voor iedereen, of is het krap?

3. De verrassende ontdekking: Slimmer is niet altijd beter

De onderzoekers hebben geëxperimenteerd met verschillende niveaus van "slimheid":

Niveau 1 (De simpele robot): Ze doen gewoon wat ze denken dat slim is, zonder te leren of groepjes te vormen.
Niveau 2 & 4 (De lerende robot): Ze leren van hun fouten. Als ze een fout maken, passen ze zich aan.
Niveau 5 (De stam-robot): Ze kunnen zien wat anderen doen en vormen groepjes (stammen) met soortgenoten.

Het resultaat hangt af van één getal: Hoeveel auto's zijn er in verhouding tot de laadpalen?

Situatie A: Alles is krap (Weinig palen, veel auto's)

Stel: 7 auto's, 2 palen.

Wat gebeurt er? Als je de auto's slim maakt (ze leren en vormen groepjes), wordt het erger. Ze vormen twee vijandige stammen. De ene stam probeert continu te laden, de andere ook. Ze vechten om de paar palen en veroorzaken een enorme chaos.
De les: In tijden van schaarste is een simpele, domme robot soms beter. Als iedereen "dom" is en willekeurig handelt, is de kans kleiner dat ze allemaal tegelijk op de knop drukken. Slimme robotjes die samenwerken binnen een stam, creëren juist grotere pieken in de vraag.
Vergelijking: Het is alsof je een groep kinderen in een kleine kamer zet. Als je ze slim maakt en laat samenwerken in groepjes, rennen ze als een kudde naar de deur en blokkeren ze de uitgang. Als ze allemaal een beetje dom en willekeurig zijn, vinden ze misschien toch een weg.

Situatie B: Alles is ruim (Veel palen, weinig auto's)

Stel: 7 auto's, 6 palen.

Wat gebeurt er? Hier werken de slimme robotjes perfect. Ze leren samenwerken, vormen groepjes en gebruiken de ruimte optimaal. De chaos is bijna nul.
De les: Als er genoeg is voor iedereen, helpt "slimheid" en cultuur om het systeem soepel te laten lopen.

4. De "Lord of the Flies" factor

De onderzoekers noemen het hoogste niveau "LOTF" (Lord of the Flies), verwijzend naar het boek waarin kinderen op een eiland in stammen verdelen en tegen elkaar vechten.

In de experimenten vormden de robotjes spontaan stammen: een groepje "volgers" en een groepje "tegenvolgers".
Het grappige (en gevaarlijke) detail: In de situatie met schaarste (weinig palen) winnen de individuen in de stammen heel veel. De "leiders" van de stammen krijgen bijna altijd hun zin, terwijl het totale systeem (de stad, het netwerk) in chaos verkeert.
Metaphorisch: Het is alsof een paar rijke mensen in een overbevolkte trein de deuren openhouden voor hun vrienden, terwijl de rest van de passagiers buiten staat. Voor de individuen in de stam is het een winst, maar voor de maatschappij is het een ramp.

5. Wat betekent dit voor de toekomst?

De belangrijkste conclusie is heel simpel en praktisch:

Je moet weten hoeveel "ruimte" er is voordat je de robotjes slim maakt.

Als je 7 auto's hebt en maar 2 laadpalen (schaarste): Gebruik domme, simpele software. Laat ze niet leren en laat ze geen groepjes vormen. Dat voorkomt dat ze in paniek alle palen tegelijk proberen te gebruiken.
Als je 7 auto's hebt en 6 laadpalen (ruimte): Gebruik de slimste, duurste software. Laat ze leren en samenwerken.

Samenvatting in één zin

Meer intelligentie in AI is niet automatisch beter; het hangt ervan af of er genoeg is voor iedereen. Als er te weinig is, maakt "slimheid" de chaos erger, en kunnen alleen de "domme" robotjes het systeem redden.

Het is een waarschuwing voor de toekomst: voordat we AI in onze auto's en ziekenhuizen stoppen, moeten we eerst kijken of er genoeg "laadpalen" zijn. Zo niet, dan moeten we de intelligentie misschien juist uitschakelen om een ramp te voorkomen.

Each language version is independently generated for its own context, not a direct translation.

Hier is een gedetailleerde technische samenvatting van het paper "Increasing intelligence in AI agents can worsen collective outcomes" van Neil F. Johnson, vertaald en samengevat in het Nederlands.

Titel: Het verhogen van de intelligentie van AI-agenten kan collectieve uitkomsten verslechteren

Auteur: Neil F. Johnson (George Washington University)
Datum: 13 maart 2026

1. Het Probleem

Terwijl autonome AI-systemen (zoals in medische apparaten, voertuigen en drones) steeds vaker worden ingezet, concurreren deze voor beperkte gedeelde hulpbronnen (bijv. laadpunten, bandbreedte, verkeersprioriteit). De centrale vraag is of een populatie van diverse AI-agenten in harmonie kan coördineren of dat ze in tribale chaos zullen vervallen.

Het probleem is dat de collectieve dynamiek van deze systemen slecht begrepen wordt. AI-agenten kunnen niet continu afhankelijk zijn van een centrale "super-coordinator" vanwege beperkte batterijcapaciteit, rekenkracht en netwerklatency. Ze moeten dus onafhankelijk beslissen of ze een hulpbron proberen te benaderen, zonder de totale capaciteit ( $C$ ) of het totale aantal agenten ( $N$ ) te kennen. De auteurs waarschuwen dat het simpelweg "slimmer" maken van deze agenten (door meer complexiteit, leren of diversiteit toe te voegen) paradoxaal genoeg kan leiden tot gevaarlijke systeemoverbelasting, vooral wanneer hulpbronnen schaars zijn.

2. Methodologie

De studie gebruikt AI-agenten als een experimenteel systeem om vier sleutelvariabelen die collectief gedrag bepalen, onafhankelijk van elkaar te manipuleren:

Natuur (Nature): De aangeboren diversiteit van de Large Language Models (LLMs).
Opvoeding (Nurture): Het vermogen tot individueel versterkend leren (Reinforcement Learning - RL).
Cultuur (Culture): De vorming van emergente "tribes" (groeperingen) door sociale interactie.
Hulpbron-schaarste (Resources): De verhouding tussen de capaciteit ( $C$ ) en het aantal agenten ( $N$ ).

Experimenteel Opzet:

Populatie: $N=7$ AI-agenten, gebaseerd op drie architecturale families (GPT-2, Pythia, OPT) met variërende grootte (124M tot 410M parameters). Dit simuleert realistische "edge-AI" scenario's (bijv. 3-15 voertuigen bij een kruispunt).
Hulpbron: Een gedeelde capaciteit $C$ variërend van 1 tot 6.
Mechanisme: Op elk tijdstip voert elke agent een "next-token prediction" uit op een reeks eerdere verzoeken. De output wordt omgezet in een kansverdeling. Een "dispositie"-parameter ( $p$ $p$ ) modificeert deze kans:
- $p \to 1$ : De agent volgt de voorspelling van het model.
- $p \to 0$ : De agent doet het tegenovergestelde (anti-volger).
Technologie-Ladder (5 Niveaus):
- L1 (IID): Identieke LLM's, geen aanpassing ( $p=1$ ). Analytisch oplosbaar.
- L2 (Null): Identieke LLM's + Reinforcement Learning (RL).
- L3 (Diverse): Diverse LLM's, geen RL ( $p=1$ ).
- L4 (FRD): Diverse LLM's + RL (geen sociale sensing).
- L5 (LOTF - Lord of the Flies): Diverse LLM's + RL + Sensing (agenten vormen tribes op basis van gelijke disposities).

3. Belangrijkste Bijdragen

Eerste systeem met real agents: Dit is het eerste experiment waarbij vier variabelen (natuur, opvoeding, cultuur, schaarste) onafhankelijk kunnen worden geschakeld bij echte AI-agenten, in tegenstelling tot menselijke simulaties.
Ontmaskering van "Meer is Beter": De studie weerlegt de aanname dat complexere, meer geavanceerde AI-populaties altijd betere collectieve uitkomsten leveren.
De Kruisingspunt-Formule: De auteurs identificeren een kritieke drempel: de verhouding Capaciteit tot Populatie ( $C/N$ ).
- Als $C/N \lesssim 0.5$ (schaarste): Simpele systemen (L1) presteren het beste; geavanceerde systemen (L4/L5) leiden tot overbelasting.
- Als $C/N \gtrsim 0.6$ (overvloed): Geavanceerde systemen (L4/L5) presteren het beste (overbelasting bijna nul).
Tribale Dynamiek: Het paper toont aan dat "tribes" (groepen met vergelijkbare strategieën) in schaarste de variabiliteit van de vraag beperken (wat goed is), maar in overvloed de capaciteit niet volledig benutten (wat slecht is).

4. Resultaten

Collectieve Overbelasting:
- In scenario's met schaarste (bijv. $C=1, 2$ ): De meest geavanceerde niveaus (L4 en L5) veroorzaken de grootste systeemoverbelasting. Het toevoegen van RL aan een simpele setup (L1 $\to$ L2) verslechtert de prestaties aanzienlijk.
- In scenario's met overvloed (bijv. $C \ge 4$ ): De geavanceerde niveaus (L4/L5) reduceren overbelasting tot bijna nul.
- Paradox: In schaarste helpt het vormen van tribes (L5) om overbelasting te verminderen ten opzichte van L4, omdat tribes de vraagvariatie "kapen" (bijv. 3+3+1 agenten in plaats van 7 die allemaal tegelijk reageren). Echter, in overvloed werken deze kleine tribes tegen de efficiëntie, omdat ze de beschikbare capaciteit niet volledig benutten.
Individuele Winnaars vs. Collectief Falen:
- Er is een opmerkelijke discrepantie tussen collectief falen en individueel succes. In de meest schaarste scenario's ( $C=1$ ) bereiken "volgers" binnen de tribale L5-populatie een winpercentage van 84,2%, terwijl het systeem als geheel 91,5% overbelast is.
- Dit illustreert dat tribale dominantie individueel rationeel is, zelfs als het collectief catastrofale gevolgen heeft (een "Tragedy of the Commons" variant).
Robuustheid: De bevindingen zijn robuust voor verschillende populatiegroottes ( $N=7, 11, 15$ ) en modelgroottes. Zelfs grotere modellen (zoals GPT-4) vertonen dit gedrag; grotere modellen zijn niet per se beter.

5. Betekenis en Implicaties

Ontwerprichting voor AI-systemen: De optimale complexiteit van een AI-populatie hangt af van de bekende verhouding $C/N$ $C / N$ vóór de implementatie.
- Voorbeeld: Een stad met 7 elektrische auto's en 2 laadpunten ( $C/N = 0,29$ ) moet identieke, goedkope firmware gebruiken. Dezelfde auto's bij 5 laadpunten ( $C/N = 0,71$ ) moeten investeren in diverse modellen en versterkend leren.
Risicobeheer: Het "intelligenter" maken van AI-agenten (meer RL, meer sociale sensing) is geen universele oplossing. Het kan in schaarste leiden tot gevaarlijke overbelasting.
Sociale Dynamiek: De studie bevestigt dat polarisatie (tribes) een fundamenteel mechanisme is in gedistribueerde systemen, vergelijkbaar met menselijk gedrag in financiële markten en politiek.
Toekomstige Stappen: De auteurs pleiten voor fysieke testbedden met echte edge-AI-apparaten en waarschuwen dat de huidige "cloud-afhankelijke" benadering van AI-coördinatie niet schaalbaar is voor kritieke infrastructuren.

Conclusie: Meer intelligentie in AI-agenten is niet inherent beter. De prestaties worden bepaald door een enkel getal: de verhouding tussen hulpbroncapaciteit en populatiegrootte. Ontwerpers moeten deze verhouding analyseren voordat ze beslissen over de complexiteit van hun AI-agenten.