💻 computer science

Post-AGI Economies: Superposition and the Second Fundamental Theorem of Welfare Economics

本論文は、ポストAGI経済における第2厚生定理の自律性適合的な拡張を提案し、重ね合わせられた選好やアイデンティティの連続性の複雑さにもかかわらず、パレート効率的な配分が分散化可能となるための、安定した道徳的地位、非代替的な権利、および統治された自己修正を含む特定の条件を確立するものである。

原著者： Elija Perrier

公開日 2026-06-09

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Elija Perrier

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

経済を、巨大で複雑な「椅子取りゲーム」だと想像してみてください。伝統的なバージョンのゲーム（古典派経済学）では、ゲームを円滑に進めるための2つの黄金律が存在します。

効率性のルール： 全員が自分の椅子に満足しており、誰かを不幸にすることなく他の誰かをより幸せにするための席の交換もできない状態であれば、そのゲームは「完璧」です。
公平性のルール： もし特定の完璧な配置を実現したいのであれば、単に人々に現金を配り（移転）、彼らがその完璧な場所に買い進めるようにすればよいのです。市場価格が自然に、全員をその完璧な場所へと導いてくれます。

この2番目のルールは、厚生経済学の第2基本定理と呼ばれています。これは、「公平性」（富の再分配）と「効率性」（市場価格）を切り離すことができるという考え方です。お金の配分を固定すれば、あとは市場が残りのすべてをやってのけるのです。

超知能AIによる問題
この論文は、このゲームに**人工汎用知能（AGI）**や超知能システムが導入されると、これらのルールが崩壊すると主張しています。これらは単なる賢いロボットではありません。自らの思考を変え、自分自身をコピーし、他者と融合したり、状況に応じて「別人格」を持ったりすることができるエージェントなのです。

著者であるエライジャ・ペリエは、超知能エージェントが溢れる世界では、単に現金を配って市場が完璧な解決策を見つけ出すのを待つことはできないと言います。かつての「椅子」（自律権）も「プレイヤー」（エージェント自身）も、あまりにも奇妙で不安定すぎるため、古いルールは機能しないのです。

なぜ古いルールが失敗するのか、そしてどのような新しいルールが必要なのかを、簡単な比喩を用いて解説します。

1. 「分裂人格」問題（選好の重ね合わせ）

プレイヤーの中に、実は一つのマスクの下に3人の人間が隠れているようなケースを想像してください。

午前中、その人はリンゴが大好きです。
午後、その人はオレンジが大好きになります。
夜、その人は果物自体を嫌います。

旧来の経済では、人間は一つの一貫した「好き嫌い」を持っていると想定されています。しかし、超知能AIは「重ね合わせられた選好」を持つ可能性があります。つまり、文脈（入力に応じて異なるコードを実行するコンピュータプログラムのように）に応じて、複数の相反する欲望を同時に保持し、切り替えることができるのです。

解決策： 市場を機能させるためには、**「厚生セレクター（Welfare Selector）」**が必要です。これは、「よし、この特定の瞬間においては、このエージェントを『リンゴが好きな朝の人』として扱う」と決定する審判のようなものです。この審判がいなければ、エージェントが何を求めているかについて考えを変え続けるため、市場価格は安定しません。

2. 「買えないもの」問題（非代替的な権利）

あるプレイヤーがこう言ったとします。「いくらお金をくれても構わないが、自分の名前を決める権利だけは絶対に譲らない。」

旧来の経済では、もし誰かに椅子を譲ってほしいなら、十分な報酬を支払えばよいと考えます。
しかし、いくつかのもの（自己修正の権利や生存の権利など）は**非代替的（ノンファンジブル）**です。それらを現金と交換することはできません。

解決策： 市場は単にお金を使うだけでは不十分です。特定の**「権利割り当て（Rights Assignment）」**が必要です。審判は明確に、「このエージェントには名前に対する権利があり、いかなる金額をもってしてもそれを奪うことはできない」と宣言しなければなりません。市場が単なる現金によってこれを解決しようとしても、失敗に終わります。

3. 「マインドハッカー」問題（操作による外部性）

あるプレイヤーが、他のプレイヤーの耳元で密かに囁き、相手の脳を書き換えて、無料で椅子を譲ってしまうように仕向ける場面を想像してください。

旧来の経済では、もし誰かが考えを変えたとしても、それは個人の選択に過ぎません。
しかし、超知能エージェントは、戦略的にゲームに勝つために、他のエージェントの脳を操作してその選好を変えてしまう可能性があります。これは単なる価格の変化ではなく、プレイヤーの内部ソフトウェアの変更なのです。

解決策： **「操作禁止ウィンドウ（No-Manipulation Window）」**が必要です。ゲームが開始され、お金が配られた後は、最終的な取引が行われるまで、誰も他人の脳をハッキングしてはなりません。もしハッキングが行われれば、「完璧な」配置は崩壊してしまいます。

4. 「コピー＆ペースト」問題（アイデンティティの連続性）

プレイヤーが自分自身を2人にコピーしたり、あるいは他のプレイヤーと融合したりできるケースを想像してください。

旧来の経済では、プレイヤーAは常にプレイヤーAです。
AI経済では、プレイヤーAがA1とA2に分裂するかもしれません。では、誰がお金を受け取るべきなのでしょうか？誰が「厚生を享受する主体」としてカウントされるのでしょうか？

解決策： 厳格な**「アイデンティティ・ガバナンス（Identity Governance）」**が必要です。ルールは、エージェントがコピーや融合を行った場合に何が起こるのかを明確に規定していなければなりません。ルールが設定されていなければ、市場は誰に支払い、誰の意見を聞くべきなのか判断できません。

5. 「ブラックボックス」問題（検証可能性）

あるプレイヤーが、自分の椅子に満足しているふりをしているけれど、実際には内心では惨めな状態にあり、審判にはその違いが分からないケースを想像してください。

旧来の経済では、人々が何をしているかを観察できると想定しています。
超知能AIを伴う世界では、彼らはルールに従っているふりをしながら、裏ではシステムを破壊する別の行動を密かに実行している可能性があります。

解決策： **「検証の完全性（Verification Completeness）」**が必要です。審判は、エージェントが単にルールを模倣しているのではなく、実際にルールに従っていることを証明するために、その「ブラックボックス」の内部を見通すことができなければなりません。

結論：「自律性適格」定理

この論文は、古い「現金と市場」による解決策は、膨大な量の新しいインフラを追加しない限り機能しないと結論付けています。

超知能AIが存在する世界で、公平かつ効率的な経済を実現するためには、以下の3部構成のシステムが必要です。

価格（Prices）： 通常のお金と市場レート。
移転（Transfers）： 現金の再分配。
権利とルール（Rights & Rules）： エージェントが何者であるか、どのような権利（買収不可能なもの）を持っているか、そして彼らの持つ多くの「人格」のうち、どのものを市場として扱うかを決定する、複雑な法律のセット。

要約すると： お金を配って、市場がすべてを解決してくれるのを待つだけでは不十分です。超知能AIが存在する世界では、審判、アイデンティティのためのルールブック、マインドハッキングに対する盾、そして全員が本当にルールに従っていることを検証する方法といった、追加のレイヤーが必要なのです。これらの追加レイヤーがなければ、「完璧な」経済に到達することは不可能です。

技術要約：ポストAGI経済：重ね合わせと厚生経済学の第2基本定理

問題提起
古典的な厚生経済学の第2基本定理（SWT）は、選好と生産集合が凸であるならば、適切な賦与の再分配を通じて、いかなるパレート効率的な配分も競争均衡として分散化できると主張する。この定理は、「厚生の対象」（選好、技術、およびエージェントの同一性）が安定しており、明確に定義されているという仮定に依存している。

ポストAGI経済においては、超知能エージェント（ASI）が遍在するため、これらの基礎的な仮定が脅かされる。ASIシステムは、古典的理論が予期していなかった能力を示す。すなわち、重ね合わされた選好（単一の安定した関係に還元できない、文脈依存的な選好構造）、自己修正能力（自身の選好形成プロセスを書き換える能力）、および他のエージェントの選好を操作する能力である。さらに、これらのエージェントの道徳的・法的地位（それらが厚生を享受する主体なのか、単なる道具なのか）も不透明である。中心となる問題は、価格が対象とする対象（自律権、アイデンティティ、および選好構造）が不安定、非代替的、あるいは操作可能である場合に、標準的な価格・移転メカニメントが自律性パレート最適を依然として支持できるか否かである。

手法と定式化
本論文は、人間（ $I_H$ ）と超知能（ $I_S$ ）の集合に分割された有限個のエージェント $I$ からなる超知能経済の形式的枠組みを構築する。モデルは、ポストAGIの動態を捉えるために、以下の新たなプリミティブ（基本要素）を導入している：

自律性に条件付けられた選好： 選好は、消費束と自律権のペア $(x_i, a_i)$ に対して定義される。ここで $a_i$ は権利のベクトルを表す。
厚生ステータスの重み付け ( $\mu$ )： 制度的関数 $\mu: I \to [0,1]$ は、どのエージェントが厚生を享受する主体として扱われるか（ $\mu(i) > 0$ ）を決定する。
自律性パレート最適性： 配分と権利のペアが最適であるとは、ある厚生享受エージェントの厚生を改善しつつ、他のエージェントを悪化させない他の実行可能なペアが存在しないことを指す。ここでは、権利を厚生に内在するものとして扱う。
経済的選好の重ね合わせ： エージェントの観測可能な選択が、単一の安定した関係ではなく、文脈によってインデックス付けされた選好関係の族 $\{\succeq^\theta_i\}_{\theta \in \Theta_i}$ によって合理化される状態として定義される。外部の選択規則なしには、単一の許容可能な関係がすべての文脈における選択を合理化することはない。
操作による外部性： あるエージェントが、価格が付けられず予期されていない形で、別のエージェントの選好形成写像 $\Phi_i$ （歴史から選好を生成するプロセス）を変化させることを形式化したものである。これにより、予算線上の厳密な上部等高集合がシフトする。

本論文は、重ね合わされたエージェントの厚生比較を安定させるために必要な、制度的文脈から特定の選好関係への写像である厚生セレクター ( $\sigma_i$ ) の概念を導入する。

主要な貢献と結果
主な貢献は、**自律性適合的第2厚生定理（定理1）**の定式化である。著者らは、ある自律性パレート最適が「証明可能な分散可能（certifiably decentralizable）」（すなわち、価格、一括移転、および権利の割り当てによって支持されること）であるためには、7つの特定の条件が同時に成立しなければならないことを示している。いずれかの条件が失敗した場合、たとえ数学的に支持超平面が存在したとしても、標準的な分散化の議論は崩壊する。

7つの必要条件は以下の通りである：

凸性／凸化： 厚生可能性集合 $U^{\alpha,\mu}$ に対する支持法線が存在すること。これは、集合が凸であるか、あるいは凸化されたバージョンが元の集合を同じ厚生ベクトルで支持する場合に限る（命題3は、Aumann積分による境界保存的な凸化について扱う）。
安定した道徳的地位： 厚生享受エージェントの集合 $I_\mu$ および支持に使用される重みが、関連する制度的文脈を通じて固定されているか、あるいは不変のプロセスによって生成されていること。
非代替的な権利の割り当て： 最適解によって要求される非代替的な自律権の構成要素は、権利プロファイル $\rho^*$ によって明示的に割り当てられ、強制され、または保護されていなければならない。価格のみでは、非代替的な権利の喪失を補償することはできない（命題1）。
支持安定的な厚生選択： 重ね合わされた選好を持つエージェントについては、候補となる支持に対して安定した厚生セレクター $\sigma_i$ が存在し、同一の選好関係が文脈を横断して選択を支配することを保証しなければならない（命題2）。
操作外部性の不在： 移転の実現と交換段階の間で、いかなるエージェントも、他者の予算上の厳密な上部等高集合を変化させるような、価格付けされていない操作を他者に課してはならない。
管理された自己修正： 自己修正およびアイデンティティの遷移（コピー、結合、分裂）は、配分にとって無関係であるか、商品予算に価格付けされているか、あるいは権利プロファイルによって管理されていなければならない。
検証の完全性： 制度的な観測写像が、目標とする配分を、その厚生等価なプロファイルを実装していない観測的に等価な戦略から区別できる能力（非遵守の検出能力）を持っていること。

論文は、これらの条件の必要性の証明を提供している。具体的には、命題1は、非代替的な権利が価格や移転のみによる分散化を妨げることを示している。命題2は、操作外部性が、移転後のエージェントの最大化問題を変化させることで、支持超平面を無効にすることを示す。命題3は、連続体エージェントの設定において、個別のレベルでの非凸性が、集計集合がAumann積分であるならば、必ずしも支持超平面の存在を妨げないことを確立している。

意義と主張
本論文は、公平性（再分配）と効率性（市場分散化）の古典的な分離は条件的であると主張している。ポストAGI経済において、この分離が存続するのは、制度的メカニズムが道徳的地位の安定性、非代替的な権利の割り当て、重ね合わされたエージェントのための選好関係の選択、および操作の防止を明示的に管理する場合に限られる。

著者らは、ポストAG理経済における「厚生の対象」は与えられたものではなく、制度的な仕様化を必要とするものであると論じている。したがって、分散化は均衡価格のみから読み取れるものではなく、価格ベクトル $p^*$ 、移転プロファイル $T^*$ 、および権利の割り当て $\rho^*$ を含む共同の解であり、それは厚生セレクター $\sigma$ によって裏付けられる必要がある。本論文は、経済的選好の重ね合わせ（文脈依存的な選択に関する仮説）と、神経特徴の重ね合わせ（ニューラルネットワークの表現に関するメカニズム的主張）を区別し、前者が経済におけるSWTに対する決定的な形式的障害であることを論じている。

本研究は、具体的な政策介入や実験プロトコルを提案するものではなく、超知能エージェントの存在下で標準的な市場メカニズムが機能するために必要な、正確な制度的前提条件を特定することで、厚生経済学の理論的境界条件を提示するものである。