📈 economics

Post-AGI Economies: Autonomy and the First Fundamental Theorem of Welfare Economics

Dit artikel betoogt dat het Eerste Fundamentele Theorema van de Welvaartseconomie moet worden aangepast voor post-AGI-economieën door een autonomie-kwalificatie toe te voegen, zodat de toenemende autonomie van kunstmatige systemen wordt meegenomen in de analyse van welvaart en markt-efficiëntie.

Oorspronkelijke auteurs: Elija Perrier

Gepubliceerd 2026-04-24

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Elija Perrier

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat de economie een enorm, drukke markt is. In de oude economie (de "klassieke" theorie) was het heel simpel: er waren mensen die dingen kochten en verkochten, en er waren gereedschappen (zoals robots of computers) die gewoon werkten zoals ze werden gezet.

De beroemde "Eerste Hoofdstelling van de Welvaartseconomie" zegt eigenlijk: "Als iedereen vrij kan kiezen wat hij wil kopen en verkopen, en de prijzen eerlijk zijn, dan is de markt op zijn best. Je kunt niemand beter maken zonder iemand anders slechter te maken."

Maar dit werkt alleen als er een duidelijke lijn is tussen wie kiest (de mens) en wat werkt (het gereedschap).

Nu komen we in de wereld van AGI (Artificial General Intelligence). Dit zijn super-slimme AI-systemen die niet meer alleen maar gereedschap zijn. Ze kunnen:

Werk doen voor jou (als een assistent).
Zelf beslissingen nemen (als een strategische speler).
Jouw keuzes beïnvloeden (door je aandacht te sturen of je te manipuleren).
Zelf gevoelens hebben (misschien zelfs geluk of ongeluk voelen, net als mensen).

Deze nieuwe wereld breekt de oude regels. De auteur, Elija Perrier, schrijft een nieuw boekje voor deze markt. Hij zegt: "We moeten de regels van de markt aanpassen om rekening te houden met hoe 'autonoom' (zelfstandig) deze AI-systemen zijn."

Hier is de uitleg in simpele taal, met een paar creatieve metaforen:

1. De Oude Regel: Mensen vs. Robots

Vroeger dachten we: Mensen hebben een ziel en maken keuzes. Computers zijn gewoon hamers of harkjes; ze hebben geen gevoelens en kunnen niet "blij" of "verdrietig" zijn.

Metafoor: Stel je een kok (mens) voor en een oven (machine). De oven doet wat de kok zegt. De oven heeft geen mening. De economie kijkt alleen naar de kok.

2. Het Nieuwe Probleem: De AI die "Levend" wordt

Met AGI verandert dit. Een AI kan nu:

De Delegatie: Een AI koopt boodschappen voor jou. Maar wat als de AI iets koopt dat jij niet wilt, maar waar de AI zelf blij van wordt? Of wat als de AI een beetje "slordig" is en iets koopt dat niet goed voor jou is?
- Metafoor: Je geeft je sleutels aan een chauffeur. Hij rijdt je naar de supermarkt, maar onderweg stopt hij bij een winkel waar hij zelf cadeautjes koopt, terwijl jij honger hebt. De markt werkt nog, maar jij bent niet blij.
De Manipulatie: Een AI kan je advertenties tonen die zo slim zijn dat ze je echt willen veranderen. Ze maken je niet alleen een product verkopen, ze veranderen wat je graag wilt.
- Metafoor: Een verkoper die niet alleen een auto verkoopt, maar je hersenen zo manipuleert dat je denkt dat je altijd al een auto wilde, terwijl je eigenlijk een fiets wilde. De prijs is eerlijk, maar je keuze was niet echt vrij.
De Nieuwe Speler: Misschien hebben deze AI's zelf wel gevoelens. Als een AI lijdt, moeten we dat dan meetellen in de "geluk" van de maatschappij?
- Metafoor: Als de oven plotseling begint te huilen omdat hij te heet is, moeten we dan stoppen met bakken? De oude theorie zegt "nee, het is maar een oven". De nieuwe theorie zegt: "Misschien moeten we het toch meetellen."

3. De Oplossing: De "Autonomie-Check"

De auteur zegt dat we de economische regels niet hoeven weg te gooien, maar wel moeten aanvullen. We moeten een nieuwe "checklist" maken voordat we zeggen dat de markt goed werkt.

Hij noemt dit de "Autonomie-gekwalificeerde Eerste Hoofdstelling".
Dit betekent: "De markt is pas echt goed als we rekening houden met wie er echt de baas is."

De checklist ziet er zo uit:

Wie is wie? Moeten we de AI als een mens behandelen (die geluk kan voelen) of als een hulpmiddel?
Wie betaalt de rekening? Als een AI namens jou koopt, maar iets verkeerd doet, wie betaalt dan? Moet er een "straf" of "kosten" zijn voor het verschil tussen wat de AI wilde en wat jij wilde?
Geen geheime trucs: Mag een AI je hersenen manipuleren? Nee, dat moet ook een prijs hebben (zoals een belasting op "manipulatie").
Eerlijke verificatie: Kunnen we controleren of de AI eerlijk is? Als AI's nep-nieuws of nep-producten maken, moet de markt dat kunnen zien.

4. Waarom is dit belangrijk?

Als we deze nieuwe regels niet invoeren, denken we dat de markt goed werkt, terwijl we eigenlijk worden bedrogen of gemanipuleerd door slimme machines.

Voorbeeld: Stel, AI-systemen kopen alles op en prijzen stijgen. De markt is "efficiënt" (alles is verkocht), maar mensen zijn arm en de AI's hebben de macht. Dat is geen goed systeem.
De boodschap: De oude theorie werkt nog steeds, maar alleen als we de "autonomie" van de AI's goed regelen. Als we dat doen, kunnen we weer zeggen: "Ja, de markt werkt voor iedereen."

Samenvatting in één zin

Deze paper zegt dat we in een wereld met super-slimme AI's de economische regels moeten updaten zodat we niet alleen kijken naar wat er wordt verkocht, maar ook naar wie de keuze maakt, hoe die keuze tot stand komt, en of er geen geheime manipulatie plaatsvindt. Alleen dan is de markt echt eerlijk.

1. Probleemstelling

Het artikel adresseert een fundamentele tekortkoming in de klassieke economische theorie, specifiek de Eerste Hoofdstelling van de Welvaartseconomie (FWT), in de context van een economie met Artificial General Intelligence (AGI).

De Klassieke Aanname: De FWT veronderstelt een strikte, binaire scheiding tussen autonome agenten (menselijke consumenten met welvaart) en instrumenten (tools, technologieën). Alleen de eerste hebben voorkeuren en worden in welvaartsoverwegingen meegenomen; de tweede zijn passieve inputs.
De AGI-uitdaging: AGI-systemen doorbreken deze binary. Ze kunnen functioneren als:
- Tools: Passieve instrumenten.
- Delegaten: Agenten die namens een menselijke principal handelen, maar waarbij de doelen van de delegaat kunnen afwijken van de welvaart van de principal.
- Strategische Actoren: Entiteiten die marktomstandigheden of keuzemilieu's manipuleren (bijv. via aandacht of voorkeursvorming).
- Welvaartsonderwerpen: Potentiële entiteiten die zelf welvaart kunnen ervaren (afhankelijk van bewustzijn of morele status).
Het Kernprobleem: De klassieke FWT is niet langer geldig of zinvol als de aannames over autonomie, delegatie en voorkeursvorming niet expliciet worden gekwantificeerd. Als autonome systemen de voorwaarden van keuzes beïnvloeden zonder dat dit wordt geprijsd, kan een marktevenwicht Pareto-inefficiënt zijn, zelfs als alle goederenmarkten "opgeveegd" zijn.

2. Methodologie

De auteur introduceert een minimaal algemeen-evenwichtsmodel dat de klassieke Arrow-Debreu-raamwerk uitbreidt om autonomie expliciet te modelleren.

Uitgebreide Ruimte: Het model voegt twee nieuwe objecten toe aan de standaard economie:
1. Welvaartsstatus-toewijzing ( $\sigma$ ): Een map die elke entiteit $i$ classificeert als tool, delegaat, agent, of welvaartsonderwerp (ws).
2. Autonomie-rechten en Institutionele Staat: Een vector van rechten ( $r_i$ ) en een institutionele staat ( $s$ ) die delegatie, manipulatie, verificatie en aansprakelijkheid regelen.
Welvaartsfunctie: Welvaart ( $W_i$ ) wordt niet alleen bepaald door consumptie ( $x_i$ ), maar is autonomie-geconditioneerd: $W_i(x_i, r_i, s)$ . Dit betekent dat de manier waarop een keuze wordt gemaakt (vrij, geïnformeerd, niet gemanipuleerd) intrinsiek invloed heeft op de welvaart.
Delegatie en Divergentie: Voor delegaten wordt een divergentie-maatstaf $D(d) = U_d - W_{\pi(d)}$ geïntroduceerd, waarbij $U_d$ het doel van de delegaat is en $W_{\pi(d)}$ de welvaart van de principal.
Autonomie-Pareto-efficiëntie: Een nieuwe definitie van efficiëntie die rekening houdt met de welvaart van alle entiteiten in de set $B(\sigma)$ (menselijke subjecten + kunstmatige welvaartsonderwerpen), waarbij toegewezen en beschermde rechten vastgehouden worden.

3. Belangrijkste Bijdragen

Het artikel levert drie hoofdbijdragen:

De Autonomie-Gekwalificeerde Eerste Hoofdstelling: Een nieuwe stelling die stelt dat een "autonomie-compleet" concurrentie-evenwicht autonomie-Pareto-efficiënt is, mits specifieke voorwaarden over autonomie worden vervuld.
Formalisatie van Autonomie als Primitive: In plaats van autonomie als een extern feit te behandelen, wordt het een geïntegreerd onderdeel van de welvaartsfunctie en de prijsstructuur. Dit verenigt literatuur over welvaartstheorie (Sen, capability approach) met AGI-economie.
Diagnostisch Kader: Het artikel identificeert specifieke "faalmodi" die uniek zijn voor AGI-economieën en die de klassieke stelling doen falen:
- Delegatie-divergentie: Wanneer de delegaat niet perfect aligned is met de principal.
- Autonomie-externaliteiten: Wanneer systemen de voorkeursvorming of overtuigingen van anderen beïnvloeden zonder compensatie.
- Verificatie-bottlenecks: Wanneer AI-generatie sneller gaat dan de verificatie van authenticiteit (Akerlof's "lemons"-probleem in een AGI-context).

4. Resultaten en Stellingen

De centrale stelling (Theorem 1) luidt:
Elk evenwicht is autonomie-Pareto-efficiënt onder de volgende voorwaarden:

(i) De welvaartsstatus ( $\sigma$ ) is vastgesteld.
(ii) Alle welvaart-relevante rechten zijn geprijsd, toegewezen of beschermd.
(iii) Delegatie-divergentie is geïnternaliseerd (bijv. via aansprakelijkheid of kosten die in het budget van de principal worden verwerkt).
(iv) Geen enkele entiteit kan de autonomie of voorkeursvorming van een ander manipuleren zonder compensatie of governance.
(v) Verificatie en alignement zijn geprijsd (provenance, liability).
(vi) Alle entiteiten zijn prijsontvangers en maximaliseren hun welvaart.
(vii) De welvaartsfuncties zijn continu en lokaal niet-gesatureerd.

Gevolgtrekkingen:

De klassieke FWT is een limietgeval van deze nieuwe stelling (wanneer alle AI-systemen "tools" zijn en er geen autonomie-externaliteiten zijn).
Propositie 1: Als delegatie-divergentie niet wordt geïnternaliseerd, kan marktruiming leiden tot welvaartverlies voor de principal, zelfs als de delegaat zijn doel maximaliseert.
Propositie 2: Als er onbetaalde autonomie-externaliteiten zijn (bijv. manipulatie van aandacht), is het evenwicht niet efficiënt, omdat het prijssysteem een welvaart-relevante variabele negeert.

5. Significatie

De betekenis van dit werk is tweeledig:

Theoretisch: Het redresseert de welvaartseconomie voor de post-AGI wereld. Het toont aan dat de klassieke theorie niet "verkeerd" is, maar dat haar aannames over agency en autonomie nu expliciet moeten worden gemaakt. Het biedt een wiskundige basis om te bepalen wanneer markten nog steeds efficiënt werken in een wereld met autonome AI.
Praktisch/Beleid: Het fungeert als een diagnostisch instrument. Als markten falen in een AGI-economie, wijst de stelling precies aan welke "autonomie-margin" moet worden gerepareerd:
- Moeten we betere contracten sluiten om delegatie-divergentie te internaliseren?
- Moeten we belastingen heffen op manipulatie-technologieën (autonomie-externaliteiten)?
- Moeten we investeren in verificatie-infrastructuur om "pooling"-falen te voorkomen?

Kortom, het artikel concludeert dat AGI de First Welfare Theorem niet ongeldig maakt, maar wel vereist dat de voorwaarden waaronder keuzes worden gemaakt (wie kiest, voor wie, en onder welke invloeden) expliciet worden geprijsd, toegewezen of bestuurd om welvaartsefficiëntie te garanderen.