Post-AGI Economies: Superposition and the Second Fundamental Theorem of Welfare Economics

기술 요약: 포스트 AGI 경제: 중첩과 후생 경제학의 제2 기본 정리

문제 제기
고전적인 후생 경제학의 제2 기본 정리(SWT)는 선호와 생산 집합이 볼록(convex)하다는 전제하에, 적절한 부의 재분배를 통해 임의의 파레토 효율적 배분이 경쟁 균형으로 분산될 수 있다고 단언한다. 이 정리는 "후생 대상"(선호, 기술, 그리고 행위자 정체성)이 안정적이고 명확하게 정의되어 있다는 가정에 의존한다.

초지능 에이전트(ASI)가 보편화된 포스트 AGI 경제에서, 이러한 기초적 가정들은 도전을 받는다. ASI 시스템은 고전 이론이 예상하지 못한 역량을 보여준다. 즉, 이들은 중첩된 선호(단일한 안정적 관계로 환원될 수 없는, 맥락 의존적인 선호 구조)를 가질 수 있으며, 자기 수정(자신의 선호 형성 과정을 재작성하는 능력) 능력을 갖추며, 타 행위자의 선호를 조작할 수 있는 능력을 갖춘다. 또한, 이들 에이전트의 도덕적·법적 지위(이들이 후생을 누리는 주체인지, 아니면 단순한 도구인지)도 불확실하다. 본 논문이 다루는 핵심 문제는, 가격이 책정되어야 할 대상(자율권, 정체성, 선호 구조)이 불안정하거나, 비대체적(non-fungible)이거나, 조작 가능하다면 표준적인 가격 및 이전 메커니즘이 여전히 자율성-파레토 최적(autonomy-Pareto optimum)을 지원할 수 있는지 여부이다.

방법론 및 형식화
본 논문은 인간($I_H$)과 초지능($I_S$) 부분집합으로 분할된 유한한 행위자 집합 $I$로 정의되는 초지능 경제를 위한 공식 프레임워크를 구축한다. 모델은 포스트 AGI의 역동성을 포착하기 위해 다음과 같은 몇 가지 새로운 원시 개념(primitives)을 도입한다:

1. 자율성 조건부 선호: 선호는 소비 번들과 자율권(rights)의 쌍 $(x_i, a_i)$에 대해 정의된다. 여기서 $a_i$는 권리 벡터를 나타낸다.
2. 후생 지위 가중치 ($\mu$): 제도적 함수 $\mu: I \to [0,1]$는 어떤 행위자가 후생을 누리는 주체로 취급될지($\mu(i) > 0$)를 결정한다.
3. 자율성-파레토 최적성: 배분-권리 쌍이 최적이라는 것은, 권리를 후생의 본질적 요소로 취급할 때, 다른 행위자의 후생을 악화시키지 않으면서 어떤 후생 보유 행위자의 후생도 개선하지 않는 다른 가능한 쌍이 존재하지 않음을 의미한다.
4. 경제적 선호 중첩: 행위자의 관찰 가능한 선택이 단일한 안정적 관계가 아니라, 맥락에 따라 인덱싱된 선호 관계의 가족 $\{\succeq^\theta_i\}_{\theta \in \Theta_i}$에 의해 합리화되는 상태로 정의된다. 외부의 선택 규칙 없이는 모든 맥락에 걸쳐 선택을 합리화하는 단일한 허용 가능한 관계가 존재하지 않는다.
5. 조작 외부효과: 한 행위자가 다른 행로의 선호 형성 매핑 $\Phi_i$(역사로부터 선호를 생성하는 과정)를 변경하여, 가격이 책정되지 않고 예측되지 않은 방식으로 예산선의 엄격한 상부 등고선(strict upper contour set)을 이동시키는 현상을 공식화한다.

본 논문은 중첩된 행위자들의 후생 비교를 안정화하기 위해 필요한, 제도적 맥락으로부터 특정 선호 관계로의 매핑인 후생 선택자(Welfare Selector, $\sigma_i$) 개념을 도입한다.

주요 기여 및 결과
본 논문의 주요 기여는 **자율성 자격 제2 후생 정리(정리 1)**의 공식화이다. 저자들은 자율성-파레토 최적이 인증 가능한 분산 가능성(즉, 가격, 일시불 이전, 그리고 권리 할당에 의해 지원됨)을 갖기 위해서는 7가지 특정 조건이 동시에 충족되어야 함을 입증한다. 만약 이 중 하나라도 실패하면, 수학적으로 지지 초평면(supporting hyperplane)이 존재하더라도 표준적인 분산 논거는 붕괴된다.

7가지 필수 조건은 다음과 같다:

1. 볼록성/볼록화(Convexity/Convexification): 후생 가능 집합 $U^{\alpha,\mu}$에 대한 지지 법선이 존재해야 한다. 이는 집합이 볼록하거나, 혹은 볼록화된 버전이 원래 집합을 동일한 후생 벡터에서 지지하기 때문이다(명제 3은 Aumann 적분을 통한 경계 보존적 볼록화를 다룬다).
2. 안정적 도덕적 지위: 후생 보유 행위자 집합 $I_\mu$와 지지에 사용되는 가중치는 고정되어 있거나, 관련 제도적 맥락 전반에 걸쳐 불변하는 절차에 의해 생성되어야 한다.
3. 비대체적 권리 할당: 최적에 필요한 비대체적 자율권 구성 요소는 권리 프로필 $\rho^*$에 의해 명시적으로 할당되거나, 집행되거나, 보호되어야 한다. 가격만으로는 비대체적 권리의 상실을 보상할 수 없다(명제 1).
4. 지지-안정적 후생 선택: 중첩된 선호를 가진 행위자의 경우, 후보 지지(support)에 대해 안정적인 후생 선택자 $\sigma_i$가 존재하여 동일한 선호 관계가 맥락 전반에 걸쳐 선택을 규율해야 한다(명제 2).
5. 조작 외부효과의 부재: 이전(transfer)의 실현과 교환 단계 사이에서, 어떤 행위자도 타인의 선호 형성 매핑에 가격이 책정되지 않은 조작을 가하여 예산상의 엄격한 상부 등고선을 변경해서는 안 된다.
6. 통제된 자기 수정: 자기 수정 및 정체성 전이(복제, 병합, 분할)는 배분에 무관하거나, 상품 예산에 가격이 책정되어 있거나, 혹은 권리 프로필에 의해 통제되어야 한다.
7. 검증 완결성: 제도적 관찰 맵은 대상 배분을 목표와 관찰적으로 동등하지만 목표와 동등한 프로필을 구현하지 않는 전략(비준수 탐지)과 구별할 수 있어야 한다.

본 논문은 이러한 조건들의 필연성에 대한 증명을 제공한다. 특히, 명제 1은 비대체적 권리가 가격/이전만으로는 분산을 방해함을 보여준다. 명제 2는 조작 외부효과가 이전 후 행위자의 극대화 문제를 변화시킴으로써 지지 초평면을 무효화함을 입증한다. 명제 3은 연속체 행위자 설정에서, 개별 수준의 비볼록성이 전체 집합이 Aumann integral인 경우 지지 초평면의 존재를 반드시 막지는 않는다는 것을 확립한다.

의의 및 주장
본 논문은 형평성(재분배)과 효율성(시장 분산)의 고전적 분리가 조건부적임을 주장한다. 포스트 AGI 경제에서 이 분리는 제도적 장치가 도덕적 지위의 안정성, 비대체적 권리의 할당, 중첩된 행위자를 위한 선호 관계의 선택, 그리고 조작 방지를 명시적으로 관리할 때만 생존한다.

저자들은 초지능 경제에서 "후생 대상"은 주어진 것이 아니라 제도적 명세가 필요하다고 주장한다. 결과적으로, 분산은 단순히 균형 가격으로부터 읽어낼 수 있는 것이 아니라, 가격 벡터 $p^*$, 이전 프로필 $T^*$, 그리고 권리 할당 $\rho^*$를 포함하는 공동의 솔루션과 후생 선택자 $\sigma$에 의해 뒷받침되는 결합된 해결책을 요구한다. 본 논문은 경제적 선호 중첩(맥락 인덱스 선택에 대한 가설)과 신경 특징 중첩(신경망 표현에 대한 기계적 주장)을 구분하며, 전자가 AGI 경제에서 SWT에 대한 결정적인 형식적 장애물이라고 주장한다.

본 연구는 구체적인 정책 개입이나 실험적 프로토콜을 제안하는 것이 아니라, 초지능 행위자가 존재하는 상황에서 표준적인 시장 메커니즘이 작동하기 위해 필요한 정확한 제도적 전제 조건을 식별함으로써 후생 경제학의 이론적 경계 조건을 설정하는 데 목적이 있다.