Post-AGI Economies: Superposition and the Second Fundamental Theorem of Welfare Economics

Technische Samenvatting: Post-AGI Economieën: Superpositie en de Tweede Fundamentele Stelling van de Welvaartseconomie

Probleemstelling
De klassieke Tweede Fundamentele Stelling van de Welvaartseconomie (SWT) stelt dat elke Pareto-efficiënte allocatie gedecentraliseerd kan worden als een competitief evenwicht door middel van een geschikte herverdeling van bezittingen, mits voorkeuren en productiesets convex zijn. Deze stelling rust op de aanname dat het "welvaartsobject" (voorkeuren, technologieën en agent-identiteiten) stabiel en welgedefinieerd is.

In post-AGI economieën, waar superintelligente agenten (ASI) alomtegenwoordig zijn, worden deze fundamentele aannames uitgedaagd. ASI-systemen vertonen capaciteiten die de klassieke theorie niet had voorzien: ze kunnen beschikken over supergeponeerde voorkeuren (contextafhankelijke voorkeursstructuren die niet gereduceerd kunnen worden tot een enkele stabiele relatie), de capaciteit voor zelfmodificatie (het herschrijven van hun eigen voorkeursvormingsprocessen), en het vermogen om de voorkeuren van andere agenten te manipuleren. Bovendien is de morele en juridische status van deze agenten (of zij welstand-dragende subjecten zijn of louter instrumenten) onzeker. Het centrale probleem dat wordt geadresseerd, is of het standaard prijs- en overdrachtsmechanisme nog steeds een autonomie-Pareto-optimum kan ondersteunen wanneer de objecten waarover prijzen moeten variëren (autonomie-rechten, identiteit en voorkeursstructuren) instabiel, niet-fungibel of manipuleerbaar zijn.

Methodologie en Formalisme
Het artikel construeert een formeel kader voor een superintelligente economie, gedefinieerd door een eindige verzameling agenten $I$, verdeeld in menselijke ($I_H$) en superintelligente ($I_S$) deelverzamelingen. Het model introduceert verschillende nieuwe primitieven om post-AGI dynamiek te vangen:

1. Autonomie-geconditioneerde Voorkeuren: Voorkeuren worden gedefinieerd over paren van consumptiebundels en autonomierechten $(x_i, a_i)$, waarbij $a_i$ een vector van rechten vertegenwoordigt.
2. Welstand-status Weging ($\mu$): Een institutionele functie $\mu: I \to [0,1]$ bepaalt welke agenten worden behandeld als welstand-dragend ($\mu(i) > 0$).
3. Autonomie-Pareto Optimaliteit: Een haalbaar allocatie-rechten paar is optimaal als geen ander haalbaar paar de welvaart van een welstand-dragende agent verbetert zonder de welvaart van een ander te verslechteren, waarbij rechten als intrinsiek aan welvaart worden beschouwd.
4. Economische Voorkeurs-superpositie: Gedefinieerd als een staat waarin de observeerbare keuzes van een agent worden gerationaliseerd door een familie van voorkeursrelaties $\{\succeq^\theta_i\}_{\theta \in \Theta_i}$, geïndexeerd door context, in plaats van een enkele stabiele relatie. Geen enkele toelaatbare relatie rationaliseert keuzes over alle contexten heen zonder een externe selectieregel.
5. Manipulatie-externaliteit: Een formalisering waarbij een agent de voorkeursvormingsmapping $\Phi_i$ (het proces dat voorkeuren genereert vanuit historie) van een andere agent wijzigt op een wijze die niet geprijsd en niet voorzien is, waardoor de strikte bovenste contourset op de budgetlijn verschuift.

Het artikel introduceert het concept van een Welvaartsselector ($\sigma_i$), een mapping van institutionele contexten naar specifieke voorkeursrelaties, die vereist is om de welvaartsvergelijking voor supergeponeerde agenten te stabiliseren.

Kernbijdragen en Resultaten
De primaire bijdrage is de formulering van de Autonomie-gekwalificeerde Tweede Welvaartstelling (Stelling 1). De auteurs demonstreren dat voor een autonomie-Pareto-optimum certificeerbaar decentraliseerbaar te zijn (dat wil zeggen: ondersteund door prijzen, lump-sum transfers en rechten-toewijzingen), zeven specifieke condities gelijktijdig moeten gelden. Indien één conditie faalt, stort de standaard decentralisatie-argumentatie in, zelfs als er wiskundig gezien een ondersteunend hypervlak bestaat.

De zeven noodzakelijke condities zijn:

1. Convexiteit/Convexificatie: De ondersteunende normaal aan de welvaartsmogelijkheidsset $U^{\alpha,\mu}$ moet bestaan, ofwel omdat de verzameling convex is, ofwel omdat een geconvexificeerde versie de oorspronkelijke verzameling ondersteunt bij hetzelfde welvaartsvector (Propositie 3 behandelt frontiere-behoudende convexificatie via Aumann-integralen).
2. Stabiele Morele Status: De verzameling welstand-dragende agenten $I_\mu$ en de gebruikte wegingen moeten vaststaan of gegenereerd worden door een procedure die invariant is over relevante institutionele contexten.
3. Niet-Fungibele Rechten-toewijzing: Elke niet-fungibele autonomierecht-component die vereist is door het optimum moet expliciet toegewezen, afgedwongen of beschermd worden door het rechtenprofiel $\rho^*$. Prijzen alleen kunnen het verlies van niet-fungibele rechten niet compenseren (Propositie 1).
4. Ondersteunings-stabiele Welvaartsselectie: Voor agenten met supergeponeerde voorkeuren moet een welvaartsselector $\sigma_i$ bestaan die stabiel is ten opzichte van de kandidaat-ondersteuning, zodat dezelfde voorkeursrelatie de keuze over contexten heen beheerst (Propositie 2).
5. Afwezigheid van Manipulatie-externaliteiten: Tussen de realisatie van transfers en de uitwisselingsfase mag geen enkele agent een niet-gepriste manipulatie opleggen aan de voorkeursvormingsmapping van een andere agent die de strikte bovenste contourset op het budget wijzigt.
6. Gestuurde Zelfmodificatie: Zelfmodificatie en identiteitstransities (kopiëren, versmelten, splitsen) moeten irrelevant zijn voor de allocatie, ingeprijsd zijn in de commodity-budget, of beheerst worden door het rechtenprofiel.
7. Verificatie-volledigheid: De institutionele observatiemap moet in staat zijn om de doelallocatie te onderscheiden van observationeel equivalente strategieën die het welvaartsequivalente profiel niet implementeren (detectie van non-compliance).

Het artikel levert bewijzen voor de noodzaak van deze condities. Specifiek toont Propositie 1 aan dat niet-fungibele rechten alleen via prijzen/transfers de decentralisatie verhinderen. Propositie 2 demonstreert dat manipulatie-externaliteiten het ondersteunende hypervlak invalideren door het maximalisatieprobleem van de agent na de transfer te wijzigen. Propositie 3 stelt vast dat in settings met een continuüm van agenten, niet-convexiteiten op individueel niveau niet noodzakelijkerwijs de existentie van een ondersteunend hypervlak verhinderen als de geaggregeerde verzameling een Aumann-integraal is.

Betekenis en Claims
Het artikel claimt dat de klassieke scheiding tussen rechtvaardigheid (herverdeling) en efficiëntie (marktdecentralisatie) conditioneel is. In post-AGI economieën overleeft deze scheiding alleen als het institutionele apparaat expliciet de stabiliteit van de morele status, de toewijzing van niet-fungibele rechten, de selectie van voorkeursrelaties voor supergeponeerde agenten en de preventie van manipulatie beheert.

De auteurs betogen dat het "welstandsobject" in superintelligente economieën geen gegeven is; het vereist institutionele specificatie. Bijgevolg kan decentralisatie niet gelezen worden uit evenwichtsprijzen alleen, maar vereist het een gezamenlijke oplossing die een prijsvector $p^*$, een transferprofiel $T^*$ en een rechten-toewijzing $\rho^*$ omvat, onderbouwd door een welvaartsselector $\sigma$. Het artikel maakt een onderscheid tussen economische voorkeurs-superpositie (een hypothese over context-geïndexeerde keuze) en neurale feature-superpositie (een mechanistische claim over neurale netwerkrepresentaties), en voert aan dat de eerste de kritieke formele hindernis is voor de SWT in AI-economieën.

Het werk stelt geen specifieke beleidsinterventies of experimentele protocollen voor, maar dient als een theoretische randvoorwaarde voor de welvaartseconomie, waarbij de precieze institutionele vereisten worden geïdentificeerd die nodig zijn om standaard marktmechanismen te laten functioneren in aanwezigheid van superintelligente agenten.