Post-AGI Economies: Superposition and the Second Fundamental Theorem of Welfare Economics

Resumen Técnico: Economías Post-AGI: Superposición y el Segundo Teorema Fundamental del Bienestar

Planteamiento del Problema
El teorema clásico del Segundo Teorema Fundamental del Bienestar (STF) afirma que cualquier asignación Pareto-eficiente puede descentralizarse como un equilibrio competitivo mediante una redistribución adecuada de las dotaciones, siempre que las preferencias y los conjuntos de producción sean convexos. Este teorema depende del supuesto de que el "objeto de bienestar" (preferencias, tecnologías e identidades de los agentes) es estable y está bien definido.

En las economías post-AGI, donde los agentes superinteligentes (ASI) son ubicuos, estos supuestos fundacionales se ven desafiados. Los sistemas ASI exhiben capacidades que la teoría clásica no anticipó: pueden poseer preferencias superpuestas (estructuras de preferencia dependientes del contexto que no pueden reducirse a una única relación estable), la capacidad de automodificación (reescribir sus propios procesos de formación de preferencias) y la capacidad de manipular las preferencias de otros agentes. Además, el estatus moral y legal de estos agentes (si son sujetos portadores de bienestar o meros instrumentos) es incierto. El problema central abordado es si el mecanismo estándar de precios y transferencias aún puede sustentar un óptimo de autonomía-Pareto cuando los objetos sobre los cuales deben oscilar los precios (derechos de autonomía, identidad y estructuras de preferencia) son inestables, no fungibles o manipulables.

Metodología y Formalismo
El artículo construye un marco formal para una economía superinteligente definida por un conjunto finito de agentes $I$, particionado en subconjuntos de humanos ($I_H$) y superinteligentes ($I_S$). El modelo introduce varias primitivas novedosas para capturar la dinámica post-AGI:

1. Preferencias Condicionadas por la Autonomía: Las preferencias se definen sobre pares de cestas de consumo y derechos de autonomía $(x_i, a_i)$, donde $a_i$ representa un vector de derechos.
2. Ponderación del Estatus de Bienestar ($\mu$): Una función institucional $\mu: I \to [0,1]$ determina qué agentes son tratados como portadores de bienestar ($\mu(i) > 0$).
3. Optimalidad de Autonomía-Pareto: Un par asignación-derechos es óptimo si ninguna otra pareja factible mejora el bienestar de un agente portador de bienestar sin empeorar el de otro, tratando los derechos como intrínsecos al bienestar.
4. Superposición de Preferencias Económicas: Definida como un estado donde las elecciones observables de un agente son racionalizadas por una familia de relaciones de preferencia $\{\succeq^\theta_i\}_{\theta \in \Theta_i}$ indexadas por el contexto, en lugar de una única relación estable. Ninguna relación admisible única racionaliza las elecciones en todos los contextos sin una regla de selección externa.
5. Externalidad de Manipulación: Una formalización donde un agente altera el mapeo de formación de preferencias $\Phi_i$ de otro agente (el proceso que genera preferencias a partir de la historia) de una manera no valorada en precios y no anticipada, desplazando el conjunto superior estricto sobre la restricción presupuestaria.

El artículo introduce el concepto de un Selector de Bienestar ($\sigma_i$), un mapeo de contextos institucionales a relaciones de preferencia específicas, requerido para estabilizar la comparación de bienestar para agentes superpuestos.

Contribuciones Clave y Resultados
La principal contribución es la formulación del Segundo Teorema del Bienestar Cualificado por la Autonomía (Teorema 1). Los autores demuestran que, para que un óptimo de autonomía-Pareto sea certificablemente descentralizable (es decir, sustentado por precios, transferencias de suma fija y asignaciones de derechos), siete condiciones específicas deben cumplirse simultáneamente. Si alguna condición falla, el argumento de descentralización estándar colapsa, incluso si un hiperplano de soporte existe matemáticamente.

Las siete condiciones necesarias son:

1. Convexidad/Convexificación: El normal de soporte al conjunto de posibilidad de bienestar $U^{\alpha,\mu}$ debe existir, ya sea porque el conjunto es convexo o porque una versión convexificada sustenta el conjunto original en el mismo vector de bienestar (la Proposición 3 aborda la convexificación preservadora de la frontera mediante integrales de Aumann).
2. Estatus Moral Estable: El conjunto de agentes portadores de bienestar $I_\mu$ y los pesos utilizados para el soporte deben ser fijos o generados por un procedimiento invariante a través de los contextos institucionales relevantes.
3. Asignación de Derechos No Fungibles: Cualquier componente de derecho de autonomía no fungible requerido por el óptimo debe ser explícitamente asignado, aplicado o protegido por el perfil de derechos $\rho^*$. Los precios por sí solos no pueden compensar la pérdida de derechos no fungibles (la Proposición 1).
4. Selección de Bienestar Estable respecto al Soporte: Para agentes con preferencias superpuestas, debe existir un selector de bienestar $\sigma_i$ que sea estable relativo al soporte candidato, asegurando que la misma relación de preferencia gobierne la elección a través de los contextos (la Proposición 2).
5. Ausencia de Externalidades de Manipulación: Entre la realización de las transferencias y la etapa de intercambio, ningún agente puede imponer una manipulación no valorada en precios sobre el mapeo de formación de preferencias de otro, que altere el conjunto superior estricto sobre el presupuesto.
6. Automodificación Gobernada: La automodificación y las transiciones de identidad (copia, fusión, división) deben ser irrelevantes para la asignación, estar integradas en el presupuesto de la mercancía, o ser gobernadas por el perfil de derechos.
7. Completitud de Verificación: El mapa de observación institucional debe ser capaz de distinguir la asignación objetivo de estrategias observacionalmente equivalentes que no implementan el perfil de bienestar equivalente (detección de incumplimiento).

El artículo proporciona pruebas de la necesidad de estas condiciones. Específicamente, la Proposición 1 muestra que los derechos no fungibles impiden la descentralización mediante precios/transferencias por sí solos. La Proposición 2 demuestra que las externalidades de manipulación invalidan el hiperplano de soporte al alterar el problema de maximización del agente tras la transferencia. La Proposición 3 establece que en entornos de agentes de continuo, las no convexidades a nivel individual no necesariamente impiden la existencia de un hiperplano de soporte si el conjunto agregado es una integral de Aumann.

Significado y Reivindicaciones
El artículo sostiene que la separación clásica entre equidad (redistribución) y eficiencia (descentralización de mercado) es condicional. En las economías post-AGI, esta separación sobrevive solo si la maquinaria institucional gestiona explícitamente la estabilidad del estatus moral, la asignación de derechos no fungibles, la selección de relaciones de preferencia para agentes superpuestos y la prevención de la manipulación.

Los autores argumentan que el "objeto de bienestar" en las economías superinteligentes no es algo dado; requiere una especificación institucional. En consecuencia, la descentralización no puede leerse únicamente a partir de los precios de equilibrio, sino que requiere una solución conjunta que involucre un vector de precios $p^*$, un perfil de transferencia $T^*$ y una asignación de derechos $\rho^*$, sustentada por un selector de bienestar $\sigma$. El artículo distingue la superposición de preferencias económicas (una hipótesis sobre la elección indexada por el contexto) de la superposición de características neuronales (una afirmación mecánica sobre las representaciones de redes neuronales), argumentando que la primera es el obstáculo formal crítico para el STF en las economías de IA.

El trabajo no propone intervenciones de política específicas ni protocolos experimentales, sino que sirve como una condición de contorno teórica para la economía del bienestar, identificando los prerrequisitos institucionales precisos requeridos para que los mecanismos de mercado estándar funcionen en presencia de agentes superinteligentes.