Post-AGI Economies: Superposition and the Second Fundamental Theorem of Welfare Economics

Sintesi Tecnica: Economie Post-AGI: Sovrapposizione e il Secondo Teorema Fondamentale del Benessere Economico

Problematica
Il classico Secondo Teorema Fondamentale del Benessere Economico (SWT) afferma che ogni allocazione Pareto-efficiente può essere decentralizzata come equilibrio competitivo attraverso una appropriata redistribuzione delle dotazioni, a condizione che le preferenze e gli insiemi di produzione siano convessi. Questo teorema si basa sull'assunto che l'"oggetto del benessere" (preferenze, tecnologie e identità degli agenti) sia stabile e ben definito.

Nelle economie post-AGI, dove gli agenti superintelligenti (ASI) sono onnipresenti, questi assunti fondamentali vengono messi in discussione. I sistemi ASI esibiscono capacità che la teoria classica non aveva previsto: possono possedere preferenze sovrapposte (strutture di preferenza dipendenti dal contesto che non possono essere ridotte a una singola relazione stabile), la capacità di auto-modificazione (riscrivere i propri processi di formazione delle preferenze) e la capacità di manipolare le preferenze di altri agenti. Inoltre, lo status morale e legale di questi agenti (se siano soggetti portatori di benessere o meri strumenti) è incerto. Il problema centrale affrontato è se il classico meccanismo di prezzo e trasferimento possa ancora sostenere un ottimo di autonomia-Pareto quando gli oggetti su cui i prezzi devono variare (diritti di autonomia, identità e strutture di preferenza) sono instabili, non fungibili o manipolabili.

Metodologia e Formalismo
Il documento costruisce un quadro formale per un'economia superintelligente definita da un insieme finito di agenti $I$, partizionati in sottogruppi umani ($I_H$) e superintelligenti ($I_S$). Il modello introduce diversi nuovi primitivi per catturare le dinamiche post-AGI:

1. Preferenze Condizionate dall'Autonomia: Le preferenze sono definite su coppie di panieri di consumo e diritti di autonomia $(x_i, a_i)$, dove $a_i$ rappresenta un vettore di diritti.
2. Pesatura dello Status di Benessere ($\mu$): Una funzione istituzionale $\mu: I \to [0,1]$ determina quali agenti sono trattati come portatori di benessere ($\mu(i) > 0$).
3. Ottimalità di Autonomia-Pareto: Un'allocazione-diritti fattibile è ottimale se nessun'altra coppia fattibile migliora il benessere di un agente portatore di benessere senza peggiorare quello di un altro, trattando i diritti come intrinseci al benessere.
4. Sovrapposizione delle Preferenze Economiche: Definita come uno stato in cui le scelte osservabili di un agente sono razionalizzate da una famiglia di relazioni di preferenza $\{\succeq^\theta_i\}_{\theta \in \Theta_i}$ indicizzate dal contesto, piuttosto che da una singola relazione stabile. Nessuna singola relazione ammissibile razionalizza le scelte in tutti i contesti senza una regola di selezione esterna.
5. Esternalità di Manipolazione: Una formalizzazione in cui un agente altera la mappatura di formazione delle preferenze $\Phi_i$ di un altro agente (il processo che genera le preferenze dalla storia) in un modo che non è prezzato e non è anticipato, spostando l'insieme superiore stretto sulla linea di bilancio.

Il documento introduce il concetto di un Selettore di Benessere ($\sigma_i$), una mappatura dai contesti istituzionali a specifiche relazioni di preferenza, necessaria per stabilizzare il confronto del benessere per gli agenti con preferenze sovrapposte.

Contributi Chiave e Risultati
Il contributo primario è la formulazione dell'Autonomia-Qualificato Secondo Teorema del Benessere (Teorema 1). Gli autori dimostrano che, affinché un ottimo di autonomia-Pareto sia certificabilmente decentralizzabile (ovvero supportato da prezzi, trasferimenti lump-sum e assegnazione di diritti), sette condizioni specifiche devono verificarsi simultaneamente. Se anche una sola condizione fallisce, l'argomento di decentralizzazione standard crolla, anche se un iperpiano di supporto esiste matematicamente.

Le sette condizioni necessarie sono:

1. Convessità/Convessificazione: La normale di supporto all'insieme delle possibilità di benessere $U^{\alpha,\mu}$ deve esistere, o perché l'insieme è convesso o perché una sua versione convessificata supporta l'insieme originale allo stesso vettore di benessere (il Proposizioni 3 affronta la convessificazione che preserva la frontiera tramite integrali di Aumann).
2. Status Morale Stabile: L'insieme degli agenti portatori di benessere $I_\mu$ e i pesi utilizzati per il supporto devono essere fissi o generati da una procedura invariante rispetto ai contesti istituzionali rilevanti.
3. Assegnazione di Diritti Non Fungibili: Qualsiasi componente di diritto di autonomia non fungibile richiesto dall'ottimo deve essere esplicitamente assegnato, garantito o protetto dal profilo dei diritti $\rho^*$. I prezzi da soli non possono compensare la perdita di diritti non fungibili (Proposizione 1).
4. Selezione del Benessere Stabile rispetto al Supporto: Per gli agenti con preferenze sovrapposte, deve esistere un selettore di benessere $\sigma_i$ che sia stabile rispetto al supporto candidato, garantendo che la stessa relazione di preferenza governi la scelta attraverso i contesti (Proposizione 2).
5. Assenza di Esternalità di Manipolazione: Tra la realizzazione dei trasferimenti e la fase di scambio, nessun agente può imporre una manipolazione non prezzata su un altro agente che alteri la mappatura di formazione delle preferenze, modificando l'insieme superiore stretto sul budget.
6. Auto-Modificazione Governata: L'auto-modificazione e le transizioni di identità (copia, fusione, divisione) devono essere irrilevanti per l'allocazione, incluse nel budget delle commodity, o governate dal profilo dei diritti.
7. Completezza della Verifica: La mappa di osservazione istituzionale deve essere capace di distinguere l'allocazione target da strategie osservativamente equivalenti che non implementano il profilo di benessere equivalente (rilevamento della non conformità).

Il documento fornisce prove della necessità di queste condizioni. Nello specifico, la Proposizione 1 mostra che i diritti non fungibili impediscono la decentralizzazione tramite soli prezzi/trasferimenti. La Proposizione 2 dimostra che le esternalità di manipolazione invalidano l'iperpiano di supporto alterando il problema di massimizzazione dell'agente post-trasferimento. La Proposizione 3 stabilisce che in contesti di agenti continui, le non-convessità a livello individuale non impediscono necessariamente l'esistenza di un iperpiano di supporto se l'insieme aggregato è un integrale di Aumann.

Significatività e Rivendicazioni
Il documento sostiene che la classica separazione tra equità (ridistribuzione) ed efficienza (decentralizzazione del mercato) è condizionata. Nelle economie post-AGI, questa separazione sopravvive solo se l'apparato istituzionale gestisce esplicitamente la stabilità dello status morale, l'assegnazione di diritti non fungibili, la selezione delle relazioni di preferenza per gli agenti con preferenze sovrapposte e la prevenzione della manipolazione.

Gli autori sostengono che l'"oggetto del benessere" in un'economia superintelligente non è un dato di fatto; richiede una specifica istituzionale. Di conseguenza, la decentralizzazione non può essere dedotta solo dai prezzi di equilibrio, ma richiede una soluzione congiunta che coinvolga un vettore di prezzi $p^*$, un profilo di trasferimento $T^*$ e un'assegnazione di diritti $\rho^*$, sostenuti da un selettore di benessere $\sigma$. Il documento distingue la sovrapposizione delle preferenze economiche (un'ipotesi su scelte indicizzate al contesto) dalla sovrapposizione delle caratteristiche neurali (un'affermazione meccanicistica sulle rappresentazioni di reti neurali), sostenendo che la prima è l'ostacolo formale critico per il SWT nelle economie di IA.

Il lavoro non propone interventi politici specifici o protocolli sperimentali, ma funge da condizione limite teorica per l'economia del benessere, identificando i precisi prerequisiti istituzionali necessari affinché i meccanismi di mercato standard possano funzionare in presenza di agenti superintelligenti.