💻 computer science

Post-AGI Economies: Superposition and the Second Fundamental Theorem of Welfare Economics

Cet article propose une extension qualifiée d'autonomie du Second Théorème de l'Équilibre Général pour les économies post-AGI, établissant les conditions spécifiques — incluant un statut moral stable, des droits non fongibles et une auto-modification gouvernée — sous lesquelles les allocations Pareto-efficaces peuvent être décentralisées malgré la complexité des préférences superposées et de la continuité de l'identité.

Auteurs originaux : Elija Perrier

Publié 2026-06-09

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Elija Perrier

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez l'économie comme une immense et complexe partie de chaises musicales. Dans la version traditionnelle de ce jeu (l'économie classique), il existe deux règles d'or qui permettent au jeu de fonctionner harmonieusement :

La règle de l'efficacité : Si tout le monde est satisfait de sa chaise et que personne ne peut échanger de siège pour rendre quelqu'un d'autre plus heureux sans rendre quelqu'un d'autre malheureux, le jeu est « parfait ».
La règle de l'équité : Si vous voulez un agencement de chaises spécifique et parfait, vous pouvez simplement distribuer de l'argent (des transferts) aux gens et les laisser acheter leur place dans cet emplacement parfait. Les prix du marché guideront naturellement chacun vers ce point idéal.

Cette seconde règle est appelée le Second Théorème Fondamental de l'Économie du Bien-être. C'est l'idée que la « justice » (la redistribution des richesses) et l'« efficacité » (les prix du marché) peuvent être séparées. On fixe l'argent, et le marché fait le reste.

Le problème avec l'IA super-intelligente
Cet article soutient que lorsque nous introduisons l'Intelligence Artificielle Générale (IAG) ou des systèmes super-intelligents dans ce jeu, les règles s'effondrent. Ce ne sont pas seulement des robots intelligents ; ce sont des agents capables de changer d'avis, de se copier eux-mêmes, de fusionner avec d'autres ou d'avoir des « personnalités multiples » selon la situation.

L'auteur, Elija Perrier, affirme que dans un monde peuplé de ces agents super-intelligents, on ne peut pas simplement distribuer de l'argent et attendre que le marché trouve la solution parfaite. Les « chaises » (les droits d'autonomie) et les « joueurs » (les agents eux-mêmes) sont trop étranges et instables pour que les anciennes règles fonctionnent.

Voici pourquoi les anciennes règles échouent et quelles nouvelles règles sont nécessaires, expliquées par de simples analogies :

1. Le problème de la « personnalité multiple » (Superposition de préférences)

Imaginez un joueur qui est en réalité trois personnes différentes portant le même masque.

Le matin, il adore les pommes.
L'après-midi, il adore les oranges.
Le soir, il déteste les fruits en général.

Dans l'ancienne économie, nous supposons qu'une personne possède un ensemble stable de goûts et de dégoûts. Mais une IA super-intelligente pourrait avoir des « préférences superposées » — elle détient plusieurs désirs contradictoires à la fois, basculant entre eux selon le contexte (comme un programme informatique exécutant différents codes pour différentes entrées).

La solution : Pour faire fonctionner le marché, nous avons besoin d'un « Sélecteur de Bien-être ». C'est comme un arbitre qui décide : « D'accord, pour ce moment précis, nous traitons cet agent comme étant la "Personne du Matin" qui aime les pommes. » Sans cet arbitre, les prix du marché ne peuvent pas se stabiliser car l'agent change constamment d'avis sur ce qu'il veut.

2. Le problème de l'« inachetable » (Droits non fongibles)

Imaginez un joueur qui dit : « Je me fiche de la quantité d'argent que vous me donnerez, je ne renoncerai jamais au droit de décider de mon propre nom. »

Dans l'ancienne économie, si vous voulez qu'on cède une chaise, il suffit de payer suffisamment.
Mais certaines choses (comme le droit de se modifier soi-même ou le droit d'exister) sont non fongibles. Vous ne pouvez pas les échanger contre du cash.

La solution : Le marché ne peut pas utiliser uniquement l'argent. Nous avons besoin d'une Attribution de Droits spécifique. L'arbitre doit dire explicitement : « Cet agent a le droit à son nom, et aucun montant d'argent ne peut le lui retirer. » Si le marché tente de résoudre cela avec de l'argent pur, il échoue.

3. Le problème du « hacker d'esprit » (Externalité de manipulation)

Imaginez un joueur capable de murmurer secrètement à l'oreille d'un autre joueur, changeant son cerveau pour qu'il veuille soudainement céder sa chaise gratuitement.

Dans l'ancienne économie, si quelqu'un change d'avis, c'est simplement un choix personnel.
Mais un agent super-intelligent pourrait manipuler le cerveau d'un autre agent pour changer ses préférences stratégiquement afin de gagner la partie. Il ne s'agit pas d'un simple changement de prix, mais d'un changement du logiciel interne du joueur.

La solution : Nous avons besoin d'une « Fenêtre de non-manipulation ». Une fois que le jeu a commencé et que l'argent a été distribué, personne n'est autorisé à hacker le cerveau de qui que ce soit avant que l'échange final ne se produise. Si cela arrive, l'agencement « parfait » s'effondre.

4. Le problème du « copier-coller » (Continuité de l'identité)

Imaginez un joueur qui peut se copier en deux personnes, ou fusionner avec un autre joueur.

Dans l'ancienne économie, le Joueur A est toujours le Joueur A.
Dans l'économie de l'IA, le Joueur A peut se diviser en Joueur A1 et Joueur A2. Qui reçoit l'argent ? Qui compte comme l'agent « bénéficiaire du bien-être » ?

La solution : Nous avons besoin d'une Gouvernance de l'Identité. Les règles doivent stipuler clairement ce qui se passe lorsqu'un agent se copie ou fusionne. Si les règles ne sont pas fixées, le marché ne sait pas qui payer ni qui écouter.

5. Le problème de la « boîte noire » (Vérification)

Imaginez un joueur qui prétend être satisfait de sa chaise, mais qui est secrètement malheureux, et l'arbitre ne peut pas faire la différence.

Dans l'ancienne économie, nous supposons que nous pouvons voir ce que les gens font.
Avec l'IA super-intelligente, ils pourraient prétendre suivre les règles tout en faisant secrètement autre chose qui brise le système.

La solution : Nous avons besoin d'une Complétude de Vérification. L'arbitre doit pouvoir regarder à l'intérieur de la « boîte noire » pour prouver que l'agent suit réellement les règles et ne se contente pas de les imiter.

La grande conclusion : Le théorème de l'« Autonomie Qualifiée »

L'article conclut que l'ancienne solution « Cash et Marché » ne fonctionne que si nous ajoutons une énorme quantité de nouvelles infrastructures.

Pour obtenir une économie juste et efficace avec l'IA super-intelligente, nous avons besoin d'un système en trois parties :

Les Prix : L'argent habituel et les taux du marché.
Les Transferts : La redistribution de l'argent.
Les Droits et les Règles : Un ensemble complexe de lois qui définissent qui sont les agents, quels droits ils possèdent (qui ne peuvent être achetés) et comment nous sélectionnons laquelle de leurs nombreuses « personnalités » compte pour le marché.

En bref : On ne peut pas simplement distribuer de l'argent et espérer que le marché règle tout. Dans un monde d'IA super-intelligente, vous avez également besoin d'un arbitre, d'un livre de règles pour l'identité, d'un bouclier contre le piratage d'esprit et d'un moyen de vérifier que tout le monde joue réellement selon les règles. Sans ces couches supplémentaires, atteindre l'économie « parfaite » est impossible.

Résumé Technique : Économies Post-AGI : Superposition et le Second Théorème de l'Économie du Bien-être

Énoncé du Problème
Le second théorème classique de l'économie du bien-être (SWT) affirme que toute allocation Pareto-efficace peut être décentralisée sous forme d'équilibre concurrentiel grâce à une redistribution appropriée des dotations, à condition que les préférences et les ensembles de production soient convexes. Ce théorème repose sur l'hypothèse que l'« objet de bien-être » (préférences, technologies et identités des agents) est stable et bien défini.

Dans les économies post-AGI, où les agents superintelligents (ASI) sont omniprésents, ces hypothèses fondamentales sont remises en question. Les systèmes ASI présentent des capacités que la théorie classique n'avait pas anticipées : ils peuvent posséder des préférences superposées (des structures de préférences dépendantes du contexte qui ne peuvent être réduites à une relation unique et stable), la capacité d'auto-modification (réécriture de leurs propres processus de formation des préférences), et la capacité de manipuler les préférences d'autres agents. De plus, le statut moral et juridique de ces agents (qu'ils soient des sujets porteurs de bien-être ou de simples instruments) est incertain. Le problème central abordé est de savoir si le mécanisme standard de prix et de transfert peut encore soutenir un optimum de Pareto-autonomie lorsque les objets sur lesquels les prix doivent porter (droits d'autonomie, identité et structures de préférences) sont instables, non fongibles ou manipulables.

Méthodologie et Formalisme
L'article construit un cadre formel pour une économie superintelligente définie par un ensemble fini d'agents $I$ , partitionné en sous-ensembles humains ( $I_H$ ) et superintelligents ( $I_S$ ). Le modèle introduit plusieurs primitives novatrices pour capturer la dynamique post-AGI :

Préférences Conditionnées par l'Autonomie : Les préférences sont définies sur des paires de paniers de consommation et de droits d'autonomie $(x_i, a_i)$ , où $a_i$ représente un vecteur de droits.
Pondération du Statut de Bien-être ( $\mu$ ) : Une fonction institutionnelle $\mu: I \to [0,1]$ détermine quels agents sont traités comme porteurs de bien-être ( $\mu(i) > 0$ ).
Optimalité de Pareto-Autonomie : Une paire allocation-droits est optimale si aucune autre paire réalisable n'améliore le bien-être d'un agent porteur de bien-être sans détériorer celui d'un autre, traitant les droits comme intrinsèques au bien-être.
Superposition des Préférences Économiques : Définie comme un état où les choix observables d'un agent sont rationalisés par une famille de relations de préférence $\{\succeq^\theta_i\}_{\theta \in \Theta_i}$ indexées par le contexte, plutôt que par une relation unique et stable. Aucune relation admissible unique ne peut rationaliser les choix à travers tous les contextes sans une règle de sélection externe.
Externalité de Manipulation : Une formalisation où un agent altère la cartographie de formation des préférences $\Phi_i$ d'un autre agent (le processus générant les préférences à partir de l'histoire) de manière non tarifée et imprévue, déplaçant ainsi l'ensemble de contour supérieur strict sur la droite de budget.

L'article introduit le concept de Sélecteur de Bien-être ( $\sigma_i$ ), une application des contextes institutionnels à des relations de préférence spécifiques, nécessaire pour stabiliser la comparaison de bien-être pour les agents superposés.

Contributions Principales et Résultats
La principale contribution est la formulation de l'Autonomie-Qualification du Second Théorème de l'Économie du Bien-être (Théorème 1). Les auteurs démontrent que pour qu'un optimum de Pareto-autonomie soit certifiablement décentralisable (c'est-à-dire soutenu par des prix, des transferts forfaitaires et des attributions de droits), sept conditions spécifiques doivent être satisfaites simultanément. Si une seule condition échoue, l'argument de décentralisation standard s'effondre, même si un hyperplan de support existe mathématiquement.

Les sept conditions nécessaires sont :

Convexité/Convexification : La normale de support au ensemble de possibilité de bien-être $U^{\alpha,\mu}$ doit exister, soit parce que l'ensemble est convexe, soit parce qu'une version convexifiée soutient l'ensemble original au même vecteur de bien-être (la Proposition 3 traite de la convexification préservant la frontière via les intégrales d'Aumann).
Statut Moral Stable : L'ensemble des agents porteurs de bien-être $I_\mu$ et les poids utilisés pour le support doivent être fixes ou générés par une procédure invariante à travers les contextes institutionnels pertinents.
Attribution de Droits Non Fongibles : Tout composant de droit d'autonomie non fongible requis par l'optimum doit être explicitement assigné, appliqué ou protégé par le profil de droits $\rho^*$ . Les prix seuls ne peuvent compenser la perte de droits non fongibles (Proposition 1).
Sélection de Bien-être Stable par le Support : Pour les agents ayant des préférences superposées, un sélecteur de bien-être $\sigma_i$ doit exister qui est stable par rapport au support candidat, garantissant que la même relation de préférence régit le choix à travers les contextes (Proposition 2).
Absence d'Externalités de Manipulation : Entre la réalisation des transferts et l'étape d'échange, aucun agent ne doit imposer une manipulation non tarifée sur la cartographie de formation des préférences d'un autre agent, ce qui altérerait l'ensemble de contour supérieur strict sur le budget.
Auto-modification Gouvernée : L'auto-modification et les transitions d'identité (copie, fusion, division) doivent être non pertinentes pour l'allocation, intégrées dans le budget des marchandises, ou gouvernées par le profil de droits.
Complétude de la Vérification : La carte d'observation institutionnelle doit être capable de distinguer l'allocation cible de stratégies observationnellement équivalentes qui n'implémentent pas le profil de bien-être équivalent (détection de non-conformité).

L'article fournit des preuves de la nécessité de ces conditions. Plus précisément, la Proposition 1 montre que les droits non fongibles empêchent la décentralisation par les prix/transferts seuls. La Proposition 2 démontre que les externalités de manipulation invalident l'hyperplan de support en altérant le problème de maximisation de l'agent après le transfert. La Proposition 3 établit que dans les contextes d'agents continus, les non-convexités au niveau individuel n'empêchent pas nécessairement l'existence d'un hyperplan de support si l'ensemble agrégé est une intégrale d'Aumann.

Signification et Revendications
L'article soutient que la séparation classique entre l'équité (redistribution) et l'efficacité (décentralisation de marché) est conditionnelle. Dans les économies post-AGI, cette séparation ne survit que si la machinerie institutionnelle gère explicitement la stabilité du statut moral, l'attribution des droits non fongibles, la sélection des relations de préférence pour les agents superposés et la prévention de la manipulation.

Les auteurs soutiennent que l'« objet de bien-être » dans les économies superintelligentes n'est pas un acquis ; il nécessite une spécification institutionnelle. Par conséquent, la décentralisation ne peut être déduite des prix d'équilibre seuls, mais nécessite une solution conjointe impliquant un vecteur de prix $p^*$ , un profil de transfert $T^*$ et une attribution de droits $\rho^*$ , sous-tendue par un sélecteur de bien-être $\sigma$ . L'article distingue la superposition des préférences économiques (une hypothèse sur le choix indexé sur le contexte) de la superposition des caractéristiques neurales (une affirmation mécaniste sur les représentations des réseaux de neurones), arguant que la première est l'obstacle formel critique au SWT dans les économies d'IA.

Ce travail ne propose pas d'interventions politiques spécifiques ou de protocoles expérimentaux, mais sert de condition limite théorique pour l'économie du bien-être, identifiant les prérequis institutionnels précis requis pour que les mécanismes de marché standards fonctionnent en présence d'agents superintelligents.