🔬 physics

Generative artificial intelligence reduces social welfare through model collapse

Dit artikel toont aan dat generatieve kunstmatige intelligentie, ondanks individuele voordelen, door modelinstorting en gewoontevorming de collectieve welvaart kan ondermijnen, vooral bij belangrijke taken waar de prikkel voor menselijke inspanning groot is.

Oorspronkelijke auteurs: Fabian Baumann, Erol Akçay, Joshua B. Plotkin

Gepubliceerd 2026-04-24

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Fabian Baumann, Erol Akçay, Joshua B. Plotkin

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

De Kernboodschap: Waarom "te veel AI" ons allemaal een beetje dommer maakt

Stel je voor dat je een grote, levende bibliotheek hebt waarin iedereen boeken schrijft. Dit is onze cultuur, onze kennis en onze creativiteit. Nu komen er robots (Generatieve AI) die heel snel en goed kunnen schrijven.

Aanvankelijk lijkt dit fantastisch. De robots werken sneller dan mensen en kosten minder. Maar er zit een valkuil in: de robots leren van wat er al in de bibliotheek staat.

Als we de robots laten schrijven en die teksten vervolgens weer gebruiken om de robots op te trainen, ontstaat er een probleem. De robots beginnen steeds meer op elkaar te lijken en verliezen de "randjes" en de unieke variatie van de menselijke creativiteit. Dit noemen de auteurs Model Collapse (een instorting van het model). Het is alsof je een kopie maakt van een kopie van een kopie; na een tijdje is de tekst vaag, saai en onnauwkeurig.

Het Dilemma: Waarom doen we het toch?

Dit creëert een sociaal dilemma, vergelijkbaar met het Gevaar van de "Gratis Maaltijd".

Stel je een groep vrienden voor die samen koken:

Mensenwerk (H): Iedereen doet zijn best, koopt verse ingrediënten en kookt een heerlijk maal. Het kost tijd en moeite, maar het smaakt goed.
Geen werk (N): Iedereen eet niet. Niets gebeurt.
AI-werk (AI): Iedereen kiest voor de snelle, goedkope kant- en klare maaltijd van de robot.

Het probleem:
Voor jou persoonlijk is het slim om de robot te kiezen. Het is goedkoper en sneller. Maar als iedereen de robot kiest, wordt de robot steeds slechter in het koken, omdat hij alleen maar leert van eerdere robotmaaltijden. Uiteindelijk krijgen we allemaal een smakeloze, saaie soep.

De studie toont aan dat we, als we alleen naar ons eigen belang kijken, altijd de robot zullen kiezen, zelfs als we allemaal erger af zijn dan wanneer we zelf hadden gekookt.

Twee Soorten Taken: "Klusjes" vs. "Poëzie"

De auteurs verdelen taken in twee categorieën, afhankelijk van hoe belangrijk ze zijn en hoe snel de robot instort:

De "Klusjes" (Busy-work):
- Voorbeeld: Het overtypen van vergaderingen of simpele administratie.
- Situatie: Mensen doen dit vaak niet eens zelf (te saai). De robot doet het prima.
- Resultaat: Hier is AI goed. Het zorgt dat er überhaupt iets gebeurt. Zelfs als de robot een beetje instort, is het beter dan niets doen.
De "Poëzie" (High-value tasks):
- Voorbeeld: Het schrijven van een roman, het maken van nieuwsberichten, of medische diagnoses.
- Situatie: Mensen doen dit graag en goed, omdat het belangrijk is.
- Resultaat: Hier is AI slecht. Als we hier de robot laten werken, vergeten we hoe we het zelf moeten doen. De robot leert van zijn eigen slechte werk, wordt steeds saai en onnauwkeurig, en uiteindelijk is het resultaat voor iedereen slechter dan als we het zelf hadden gedaan.

De Gevaarlijke "Gewoonte" (Spillover)

Het gevaarlijkste deel van het verhaal is de gewoonte.

Stel je voor dat je de robot eerst gebruikt voor de "Klusjes" (zoals vergaderingen overtypen). Je raakt eraan gewend. Je denkt: "Oh, de robot is handig, ik gebruik hem wel."

Maar omdat je zo gewend bent geraakt, gebruik je de robot ook voor de "Poëzie" (zoals het schrijven van je sollicitatiebrief of het bedenken van een nieuw idee). Omdat je de robot nu ook voor de belangrijke dingen gebruikt, begint de instorting daar ook.

Het paradoxale effect:
Hoe meer tijd je besteedt aan de "Klusjes" (waar AI goed is), hoe meer je de gewoonte ontwikkelt om AI te gebruiken. Deze gewoonte "spat" over naar de belangrijke taken (waar AI slecht is). Hierdoor wordt het totale resultaat voor de maatschappie slechter, zelfs als je alleen maar probeerde om tijd te besparen op de saaie taken.

Wat betekent dit voor ons?

De boodschap is niet dat we AI moeten verbieden, maar dat we voorzichtig moeten zijn met hoe we het gebruiken.

Voor saai werk: Gebruik AI gerust. Het helpt ons.
Voor belangrijk werk: We moeten de menselijke creativiteit bewaken. Als we AI laten doen wat mensen het beste kunnen, verliezen we die menselijke vaardigheid en wordt de AI zelf ook slechter.

De oplossing?
We moeten zorgen dat AI niet alleen maar van zichzelf leert. We moeten "menselijke ingrediënten" blijven toevoegen aan de bibliotheek. Denk aan regels die zorgen dat AI-gegenereerde teksten niet zomaar weer als bron worden gebruikt voor nieuwe AI, of dat we mensen blijven belonen voor het doen van creatief werk, zodat de "verse ingrediënten" in de bibliotheek blijven bestaan.

Kortom: Als we niet opletten, kiezen we allemaal voor de snelle, goedkope optie, en belanden we uiteindelijk in een wereld van saaie, slechte kwaliteit.

Probleemstelling

Generatieve kunstmatige intelligentie (genAI) verandert snel hoe kennis en cultuur worden geproduceerd en geconsumeerd. Hoewel genAI individuele productiviteit op korte termijn vaak verhoogt, bestaat er een fundamenteel risico: modelcollapse. Dit fenomeen treedt op wanneer generatieve modellen worden getraind op data die door eerdere versies van zichzelf zijn gegenereerd. Hierdoor verdwijnen de "staarten" van de oorspronkelijke menselijke verdeling, wat leidt tot een verlies aan diversiteit en een verslechtering van de prestaties.

De kern van het probleem is een sociaal dilemma:

Het is voor individuen rationeel om genAI te gebruiken omdat het kosten bespaart en productiviteit verhoogt.
Echter, als iedereen genAI gebruikt, degradeert de kwaliteit van de AI door modelcollapse.
Dit kan leiden tot een situatie waarin collectief welzijn daalt, zelfs als individuele adoptie rationeel blijft.

De auteurs onderzoeken of en wanneer de introductie van genAI het collectieve welzijn vermindert, rekening houdend met deze feedbacklus.

Methodologie

De auteurs ontwikkelen een wiskundig model gebaseerd op de evolutiegame-theorie, specifiek een "samenwerkingsspel" (collaboration game).

Spelstructuur: Een populatie van $N$ individuen werkt samen in paren om gezamenlijke producten te creëren.
Strategieën: Individuen kiezen tussen drie strategieën:
1. H (Human work): Menselijk werk verrichten (kost $c_h$ , levert bijdrage $b/2$ ).
2. N (No work): Geen werk verrichten (geen kosten, geen bijdrage).
3. AI (GenAI): Werk delegeren aan AI (kost $c_a$ , levert bijdrage $a/2$ ).
- Aangenomen wordt dat $c_h > c_a$ (AI is goedkoper) en $b \geq a$ (menselijk werk is in principe waardevoller).
Model Collapse: De kwaliteit van de AI-strategie ( $a$ ) is niet statisch, maar afhankelijk van het gebruik in de populatie. De auteurs modelleren dit als een lineaire afname: $a(x_{AI}) = b - m \cdot x_{AI}$ , waarbij $x_{AI}$ de frequentie van AI-gebruik is en $m$ de ernst van de modelcollapse weergeeft.
Dynamiek: Individuen passen hun strategieën aan door succesvollere peers te imiteren (replicator dynamics). De evolutie wordt beschreven door een systeem van gewone differentiaalvergelijkingen.
Analyse: De auteurs vergelijken de langdurige evenwichtstoestand (evolutionaire stabiele strategie) met en zonder de optie om AI te gebruiken. Ze definiëren "sociaal welzijn" als het gemiddelde uitbetaalingsniveau van de populatie.

Belangrijkste Bijdragen en Taxonomie

Het artikel introduceert een tweedimensionale taxonomie om de impact van genAI te categoriseren, gebaseerd op twee variabelen:

Incentive Strength (Aanmoediging): Is de taak zo waardevol dat mensen het ook zonder AI zouden doen? ( $b > 2c_h$ = hoog; $b < 2c_h$ = laag).
Severity of Model Collapse (Ernst van ineenstorting): Hoe snel verslechtert de AI-prestatie bij meer gebruik? ( $m < m_c$ = zwak; $m > m_c$ = sterk).

Dit leidt tot vier domeinen:

Type Ia ("Busy-work"): Laag incentive, zwak collapse. (Bijv. automatische transcriptie).
Type Ib: Laag incentive, sterk collapse. (Bijv. AI-gemaakte persoonlijke websites die terugkeren in trainingsdata).
Type IIa: Hoog incentive, zwak collapse. (Bijv. AI-assistente medische diagnose).
Type IIb ("Poetry"): Hoog incentive, sterk collapse. (Bijv. creatief schrijven, journalistiek, wetenschappelijk onderzoek).

Resultaten

1. Impact op Sociaal Welzijn per Domein:

Zonder modelcollapse ( $m=0$ ): De introductie van AI is altijd neutraal of positief voor het welzijn, omdat het kosten verlaagt of werk mogelijk maakt dat anders niet zou gebeuren.
Laag incentive (Type Ia & Ib): Zelfs met modelcollapse leidt AI tot een toename van het sociaal welzijn. Het vervangt de "geen werk"-strategie (N) door werk (AI), wat netto winst oplevert.
Hoog incentive met zwak collapse (Type IIa): AI vervangt menselijk werk volledig. Het welzijn kan stijgen of dalen, afhankelijk van of de kostenbesparing groter is dan het kwaliteitsverlies.
Hoog incentive met sterk collapse (Type IIb - "Poetry"): Dit is het kritieke resultaat. De auteurs bewijzen in Stelling 1 dat in dit regime de introductie van genAI altijd leidt tot een daling van het sociaal welzijn ( $\Delta S < 0$ $Δ S < 0$ ).
- Redenering: Omdat de taak hoog incentive heeft, blijven mensen werken. Maar door de lagere kosten van AI, schakelen sommigen over. Door de sterke modelcollapse daalt de kwaliteit van AI zodanig dat de gemengde evenwichtstoestand (mens + AI) een lagere totale uitbetaling geeft dan de situatie waarin iedereen puur menselijk werkt. De individuele rationaliteit (overschakelen naar goedkopere AI) ondermijnt het collectief.

2. Spillover-effecten en Gewoontevorming:
De auteurs modelleren een scenario waarin individuen twee taken uitvoeren: een "busy-work" taak (gunstig voor AI) en een "poetry" taak (schadelijk voor AI).

Gewoontevorming (Habit Formation): Als individuen gewend raken aan het gebruik van AI in de ene taak, gebruiken ze het ook in de andere taak (zelfs als dat schadelijk is).
Negatieve Spillover: Zelfs als AI in de "busy-work" taak het welzijn verhoogt, kan de verplichte overname van AI in de "poetry" taak (door gewoonte) leiden tot een netto daling van het totale welzijn. De schadelijke effecten in het hoog-incentive domein wegen zwaarder dan de voordelen in het laag-incentive domein.

Significantie en Conclusie

De studie biedt een waarschuwing tegen een al te optimistische blik op de snelle adoptie van genAI:

Paradox van individuele rationaliteit: Individuen die rationeel kiezen voor AI om kosten te besparen, creëren collectief een situatie waarin iedereen er slechter aan toe is, specifiek in domeinen waar menselijke creativiteit en kwaliteit essentieel zijn (zoals kunst, wetenschap en journalistiek).
Stabiliteit van schadelijke evenwichten: Een stabiele mix van mens en AI is niet per se een teken van gezonde complementariteit, maar kan een signaal zijn van een welzijnsverminderende feedbacklus.
Beleidimplicaties:
- Interventie is nodig om de feedbacklus te doorbreken: het beperken van het hergebruik van AI-genererde content in toekomstige trainingsdatasets.
- Maatregelen zoals detectie van AI-inhoud, data-provenance en het behoud van menselijke vaardigheden in hoogwaardige domeinen zijn cruciaal.
- Beleid moet rekening houden met "spillover": het gebruik van AI in lage-risico taken kan onbedoeld schadelijke gevolgen hebben voor hoog-risico domeinen door gewoontevorming.

Kortom, zonder ingrijpen zal de individueel rationele adoptie van genAI in domeinen met hoge waarde en sterke modelcollapse leiden tot een fundamentele en blijvende afname van het collectieve welzijn.