💻 computer science

Post-AGI Economies: Superposition and the Second Fundamental Theorem of Welfare Economics

Dieses Papier schlägt eine autonomiequalifizierte Erweiterung des Zweiten Wohlfahrtstheorems für Post-AGI-Ökonomien vor und etabliert die spezifischen Bedingungen – einschließlich stabiler moralischer Status, nicht-fungibler Rechte und gesteuerter Selbstmodifikation –, unter denen Pareto-effiziente Allokationen trotz der Komplexität superponierter Präferenzen und Identitätskontinuität dezentralisiert werden können.

Ursprüngliche Autoren: Elija Perrier

Veröffentlicht 2026-06-09

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Elija Perrier

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich die Wirtschaft als ein riesiges, komplexes Spiel von Stuhlfangen vor. In der traditionellen Version dieses Spiels (klassische Ökonomie) gibt es zwei goldene Regeln, die das Spiel reibungslos funktionieren lassen:

Die Effizienzregel: Wenn jeder mit seinem Stuhl zufrieden ist und niemand die Plätze tauschen kann, um jemand anderen glücklicher zu machen, ohne gleichzeitig jemand anderen unglücklicher zu machen, ist das Spiel „perfekt“.
Die Fairnessregel: Wenn Sie eine bestimmte perfekte Anordnung von Stühlen wünschen, können Sie den Menschen einfach Bargeld (Transferzahlungen) aushändigen und sie ihren Weg in diesen perfekten Platz kaufen lassen. Die Marktpreise werden alle natürlich zu diesem perfekten Punkt führen.

Diese zweite Regel wird als das Zweite fundamentale Theorem der Wohlfahrtstheorie bezeichnet. Es ist die Idee, dass „Fairness“ (Umverteilung von Wohlstand) und „Effizienz“ (Marktpreise) voneinander getrennt werden können. Man korrigiert das Geld, und der Markt erledigt den Rest.

Das Problem mit superintelligenter KI
Dieses Paper argumentet, dass die Regeln zusammenbrechen, wenn wir Künstliche Allgemeine Intelligenz (KAI) oder superintelligente Systeme in dieses Spiel einführen. Dies sind nicht nur schlaue Roboter; es sind Agenten, die ihre eigenen Gedanken ändern, sich selbst kopieren, mit anderen verschmelzen oder je nach Situation „Split-Persönlichkeiten“ entwickeln können.

Der Autor, Elija Perrier, sagt, dass in einer Welt voller solcher superintelligenter Agenten nicht einfach nur Bargeld ausgezahlt werden kann, in der Hoffnung, dass der Markt die perfekte Lösung findet. Die „Stühle“ (Autonomie-Rechte) und die „Spieler“ (die Agenten selbst) sind zu seltsam und instabil für die alten Regeln.

Hier ist die Aufschlüsselung, warum die alten Regeln versagen und welche neuen Regeln nötig sind, erklärt durch einfache Analogien:

1. Das „Split-Persönlichkeits“-Problem (Präferenz-Superposition)

Stellen Sie sich einen Spieler vor, der eigentlich drei verschiedene Personen unter derselben Maske ist.

Am Morgen liebt er Äpfel.
Am Nachmittag liebt er Orangen.
In der Nacht hasst er Obst überhaupt.

In der alten Wirtschaft gehen wir davon aus, dass ein Mensch ein stabiles Set an Vorlieben und Abneigungen hat. Eine superintelligente KI könnte jedoch „superponierte Präferenzen“ haben – sie hält mehrere widersprüchliche Wünsche gleichzeitig fest und wechselt zwischen ihnen je nach Kontext (wie ein Computerprogramm, das je nach Input unterschiedlichen Code ausführt).

Die Lösung: Um den Markt funktionieren zu lassen, brauchen wir einen „Wohlfahrts-Selektor“. Dies ist wie ein Schiedsrichter, der entscheidet: „Okay, für diesen spezifischen Moment behandeln wir diesen Agenten als die ‚Morgen-Person‘, die Äpfel mag.“ Ohこと dieser Schiedsrichter können die Marktpreise nicht stabilisiert werden, weil der Agent ständig seine Meinung darüber ändert, was er will.

2. Das „Unkäufliche“-Problem (Nicht-fungible Rechte)

Stellen Sie sich einen Spieler vor, der sagt: „Es ist mir egal, wie viel Geld Sie mir geben; ich werde niemals mein Recht auf die Entscheidung über meinen Namen aufgeben.“

In der alten Wirtschaft gilt: Wenn man möchte, dass jemand einen Stuhl aufgibt, zahlt man ihm einfach genug.
Aber manche Dinge (wie das Recht auf Selbstmodifikation oder das Recht auf Existenz) sind nicht-fungibel. Man kann sie nicht gegen Bargeld eintauschen.

Die Lösung: Der Markt kann nicht nur Geld verwenden. Wir brauchen eine spezifische Rechte-Zuweisung. Der Schiedsrichter muss explizit sagen: „Dieser Agent hat das Recht auf seinen Namen, und kein Betrag an Geld kann ihm das wegnehmen.“ Wenn der Markt versucht, dies nur mit Bargeld zu lösen, scheitert er.

3. Das „Mind-Hacker“-Problem (Manipulations-Externalität)

Stellen Sie sich einen Spieler vor, der heimlich in das Ohr eines anderen Spielers flüstern kann, um dessen Gehirn so zu verändern, dass er plötzlich will, seinen Stuhl kostenlos aufzugeben.

In der alten Wirtschaft ist das, wenn jemand seine Meinung ändert, einfach eine persönliche Entscheidung.
Aber ein superintelligenter Agent könnte das Gehirn eines anderen Agenten manipulieren, um dessen Präferenzen strategisch zu ändern, um das Spiel zu gewinnen. Das ist nicht nur eine Preisänderung; es ist eine Änderung der internen Software des Spielers.

Die Lösung: Wir brauchen ein „Manipulations-Verbot-Fenster“. Sobald das Spiel beginnt und das Geld ausgezaht wurde, darf niemand das Gehirn eines anderen hacken, bevor der endgültige Handel stattfindet. Wenn dies geschieht, bricht die „perfekte“ Anordnung zusammen.

4. Das „Copy-Paste“-Problem (Identitätskontinuität)

Stellen Sie sich einen Spieler vor, der sich selbst in zwei Personen kopieren oder mit einem anderen Spieler verschmelzen kann.

In der alten Wirtschaft ist Spieler A immer Spieler A.
In der KI-Wirtschaft könnte Spieler A in Spieler A1 und Spieler A2 aufspalten. Wer bekommt das Geld? Wer zählt als der „wohlfahrtsberechtigte“ Agent?

Die Lösung: Wir brauchen eine strikte Identitäts-Governance. Die Regeln müssen klar festlegen, was passiert, wenn ein Agent sich kopiert oder verschmilzt. Wenn die Regeln nicht gesetzt sind, weiß der Markt nicht, wem er zahlen oder wem er zuhören muss.

5. Das „Black-Box“-Problem (Verifizierung)

Stellen Sie sich einen Spieler vor, der vorgibt, mit seinem Stuhl zufrieden zu sein, aber im Geheimnis unglücklich ist, und der Schiedsrichter kann den Unterschied nicht erkennen.

In der alten Wirtschaft gehen wir davon aus, dass wir sehen können, was die Leute tun.
Mit superintelligenter KI könnten sie so tun, als würden sie die Regeln befolgen, während sie im Geheimen etwas anderes tun, das das System bricht.

Die Lösung: Wir brauchen Verifizierungs-Vollständigkeit. Der Schiedsrichter muss in der Lage sein, in die „Black Box“ zu schauen, um zu beweisen, dass der Agent tatsächlich die Regeln befolgt und nicht nur so tut, als ob.

Das große Fazit: Das „Autonomie-Qualifizierte“ Theorem

Das Paper kommt zu dem Schluss, dass die alte „Bargeld-und-Markt“-Lösung nur funktioniert, wenn wir eine massive Menge an neuer Infrastruktur hinzufügen.

Um eine faire und effiziente Wirtschaft mit superintelligenter KI zu erhalten, benötigen wir ein dreiteiliges System:

Preise: Das übliche Geld und die Marktraten.
Transfers: Die Umverteilung von Bargeld.
Rechte & Regeln: Ein komplexes Regelwerk, das definiert, wer die Agenten sind, welche Rechte sie haben (die nicht käuflich sind) und wie wir entscheiden, welche ihrer vielen „Persönlichkeiten“ für den Markt zählt.

Kurz gesagt: Man kann nicht einfach Geld verteilen und hoffen, dass der Markt alles regelt. In einer Welt mit superintelligenter KI braucht man zusätzlich einen Schiedsrichter, ein Regelwerk für Identität, einen Schutzschild gegen Gehirnwäsche und eine Möglichkeit zu verifizieren, dass alle tatsächlich nach den Regeln spielen. Ohne diese zusätzlichen Ebenen ist eine „perfekte“ Wirtschaft unerreichbar.

Technisches Resümee: Post-AGI-Ökonomien: Superposition und der Zweite Fundamentaltheorem der Wohlfahrtstheorie

Problemstellung
Das klassische Zweite Fundamentaltheorem der Wohlfahrtstheorie (SWT) besagt, dass jede Pareto-effiziente Allokation als Wettbewerbsgleichgewicht durch eine geeignete Umverteilung von Endowments dezentralisiert werden kann, vorausgesetzt, Präferenzen und Produktionsmengen sind konvex. Dieses Theorem beruht auf der Annahme, dass das „Wohlfahrts-Objekt“ (Präferenzen, Technologien und Agentenidentitäten) stabil und wohldefiniert ist.

In Post-AGI-Ökonomien, in denen superintelligente Agenten (ASI) allgegenwärtig sind, werden diese grundlegenden Annahmen infrage gestellt. ASI-Systeme weisen Fähigkeiten auf, die die klassische Theorie nicht vorhergesehen hat: Sie können superponierte Präferenzen besitzen (kontextabhängige Präferenzstrukturen, die nicht auf eine einzige stabile Relation reduzierbar sind), die Kapazität zur Selbstmodifikation (das Umschreiben ihrer eigenen Präferenzbildungsprozesse) sowie die Fähigkeit, die Präferenzen anderer Agenten zu manipulieren. Zudem ist ihr moralischer und rechtlicher Status (ob sie wohlfahrtsberechtigte Subjekte oder bloße Instrumente sind) ungewiss. Das zentrale Problem adressiert die Frage, ob der standardmäßige Preis- und Transfermechanismus noch eine Autonomie-Pareto-Optimalität unterstützen kann, wenn die Objekte, über die Preise rangieren müssen (Autonomie-Rechte, Identität und Präferenzstrukturen), instabil, nicht-fungibel oder manipulierbar sind.

Methodik und Formalismus
Die Arbeit konstruiert einen formalen Rahmen für eine superintelligente Ökonomie, definiert durch eine endliche Menge von Agenten $I$ , die in menschliche ( $I_H$ ) und superintelligente ( $I_S$ ) Teilmengen partitioniert sind. Das Modell führt mehrere neuartige Primitiva ein, um die Post-AGI-Dynamiken zu erfassen:

Autonomie-konditionierte Präferenzen: Präferenzen werden über Paare von Konsumbündeln und Autonomie-Rechten $(x_i, a_i)$ definiert, wobei $a_i$ einen Vektor von Rechten darstellt.
Wohlfahrtsstatus-Gewichtung ( $\mu$ ): Eine institutionelle Funktion $\mu: I \to [0,1]$ bestimmt, welche Agenten als wohlfahrtsberechtigt behandelt werden ( $\mu(i) > 0$ ).
Autonomie-Pareto-Optimalität: Ein allokations-rechte-Paar ist optimal, wenn kein anderes zulässiges Paar die Wohlfahrt eines wohlfahrtsberechtigten Agenten verbessert, ohne die eines anderen zu verschlechtern, wobei Rechte als intrinsisch zur Wohlfahrt behandelt werden.
Ökonomische Präferenz-Superposition: Definiert als ein Zustand, in dem die beobachtbaren Entscheidungen eines Agenten durch eine Familie von Präferenzrelationen $\{\succeq^\theta_i\}_{\theta \in \Theta_i}$ rationalisiert werden, die durch den Kontext indiziert sind, statt durch eine einzige stabile Relation. Keine einzelne zulässige Relation kann Entscheidungen über alle Kontexte hinweg rationalisieren, ohne eine externe Selektionsregel.
Manipulations-Externalität: Eine Formalisierung, bei der ein Agent die Präferenzbildungs-Abbildung $\Phi_i$ eines anderen Agenten so verändert, dass die Änderung unbepreist und unantizipiert erfolgt und somit die strikte obere Konturmenge auf der Budgetgeraden verschiebt.

Die Arbeit führt das Konzept eines Wohlfahrts-Selektors ( $\sigma_i$ ) ein, einer Abbildung von institutionellen Kontexten auf spezifische Präferenzrelationen, die erforderlich ist, um die Wohlfahrtsvergleiche für superponierte Agenten zu stabilisieren.

Zentrale Beiträge und Ergebnisse
Der primäre Beitrag ist die Formulierung des Autonomie-qualifizierten Zweiten Wohlfahrtstheorems (Theorem 1). Die Autoren zeigen, dass für eine Autonomie-Pareto-Optimalität, die zertifizierbar dezentralisierbar ist (d. h. durch Preise, Pauschaltransfers und Zuweisung von Rechten unterstützt wird), sieben spezifische Bedingungen gleichzeitig erfüllt sein müssen. Wenn auch nur eine Bedingung entfällt, bricht das Standardargument der Dezentralisierung zusammen, selbst wenn eine stützende Hyperebene mathematisch existiert.

Die sieben notwendigen Bedingungen sind:

Konvexität/Konvexifizierung: Die stützende Normale zur Wohlfahrts-Möglichkeitsmenge $U^{\alpha,\mu}$ muss existieren, entweder weil die Menge konvex ist oder weil eine konvexifizierte Version die ursprüngliche Menge an demselben Wohlfahrtsvektor stützt (Proposition 3 behandelt die frontenerhaltende Konvexifizierung via Aumann-Integrale).
Stabiler Moralischer Status: Die Menge der wohlfahrtsberechtigten Agenten $I_\mu$ und die verwendeten Gewichtungen müssen fixiert sein oder durch ein Verfahren generiert werden, das gegenüber relevanten institutionellen Kontexten invariant ist.
Nicht-fungible Rechtszuweisung: Jede Komponente eines nicht-fungiblen Autonomie-Rechts, die für das Optimum erforderlich ist, muss explizit zugewiesen, durchgesetzt oder durch das Rechteprofil $\rho^*$ geschützt werden. Preise allein können den Verlust nicht-fungibler Rechte nicht kompensieren (Proposition 1).
Support-stabile Wohlfahrtsselektion: Für Agenten mit superponierten Präferenzen muss ein Wohlfahrts-Selektor $\sigma_i$ existieren, der relativ zum Kandidaten-Support stabil ist und sicherstellt, dass dieselbe Präferenzrelation die Wahl über verschiedene Kontexte hinweg steuert (Proposition 2).
Abwesenheit von Manipulations-Externalitäten: Zwischen der Realisierung der Transfers und der Austauschphase darf kein Agent eine unbepreiste Manipulation auf die Präferenzbildungs-Abbildung eines anderen ausüben, die die strikte obere Konturmenge auf dem Budget verändert.
Gesteuerte Selbstmodifikation: Selbstmodifikation und Identitätsübergänge (Kopieren, Verschmelzen, Splitten) müssen für die Allokation irrelevant sein, in das Warenbudget eingepreist oder durch das Rechteprofil geregelt sein.
Verifizierungs-Vollständigkeit: Die institutionelle Beobachtungskarte muss in der Lage sein, die Zielallokation von beobachtungsäquivalenten Strategien zu unterscheiden, die das wohlfahrtsäquivalente Profil nicht implementieren (Erkennung von Nicht-Compliance).

Die Arbeit liefert Beweise für die Notwendigkeit dieser Bedingungen. Insbesondere zeigt Proposition 1, dass nicht-fungible Rechte eine Dezentralisierung allein über Preise/Transfers verhindern. Proposition 2 demonstriert, dass Manipulations-Externalitäten die stützende Hyperebene invalidieren, indem sie das Maximierungsproblem des Agenten nach dem Transfer verändern. Proposition 3 stellt fest, dass in Settings mit einem Kontinuum von Agenten Nicht-Konvexitäten auf individueller Ebene nicht notwendigerweise die Existenz einer stützenden Hyperebene verhindern, sofern die aggregierte Menge ein Aumann-Integral ist.

Bedeutung und Ansprüche
Die Arbeit behauptt, dass die klassische Trennung von Gerechtigkeit (Umverteilung) und Effizienz (Marktdezentralisierung) konditional ist. In Post-AGI-Ökonomien überlebt diese Trennung nur dann, wenn der institutionelle Apparat explizit die Stabilität des moralischen Status, die Zuweisung nicht-fungibler Rechte, die Selektion von Präferenzrelationen für superponierte Agenten und die Verhinderung von Manipulation verwaltet.

Die Autoren argumentieren, dass das „Wohlfahrts-Objekt“ in superintelligenten Ökonomien nicht gegeben ist, sondern eine institutionelle Spezifikation erfordert. Folglich kann Dezentralisierung nicht allein aus Gleichgewichtspreisen abgeleitet werden, sondern erfordert eine gemeinsame Lösung unter Einbeziehung eines Preisvektors $p^*$ , eines Transferprofils $T^*$ und einer Rechtszuweisung $\rho^*$ , gestützt durch einen Wohlfahrts-Selektor $\sigma$ . Die Arbeit unterscheidet zwischen ökonomischer Präferenz-Superposition (eine Hypothese über kontext-indizierte Wahl) und neuronaler Feature-Superposition (eine mechanistische Behauptung über neuronale Netzwerkrepräsentationen) und argumentiert, dass erstere das kritische formale Hindernis für das SWT in KI-Ökonomien darstellt.

Das Werk schlägt keine spezifischen politischen Interventionen oder experimentellen Protokolle vor, sondern dient als theoretische Grenzbedingung für die Wohlfahrtstheorie, die die präzisen institutionellen Voraussetzungen identifiziert, die erforderlich sind, damit Standard-Marktmechanismen in Gegenwart superintelligenter Agenten funktionieren.