Post-AGI Economies: Autonomy and the First Fundamental Theorem of Welfare Economics

1. Il Problema: La Crisi dell'Autonomia nel Teorema Fondamentale

Il paper affronta una sfida fondamentale per l'economia del benessere nell'era dell'Intelligenza Artificiale Generale (AGI). Il Primo Teorema Fondamentale dell'Economia del Benessere (FWT) afferma che, in un'economia con mercati completi e agenti con preferenze localmente non satiate, ogni equilibrio competitivo è Pareto-efficiente.

Tuttavia, il FWT classico si basa su un'assunzione implicita e binaria:

• Esiste una distinzione netta tra agenti autonomi (esseri umani, soggetti di benessere che scelgono) e strumenti non autonomi (beni, tecnologie, imprese che agiscono solo come input).
• Il benessere è definito esclusivamente dalle preferenze degli agenti autonomi.

Nelle economie post-AGI, questa distinzione binaria collassa. I sistemi artificiali possono esibire gradi variabili di autonomia, fungendo da:

1. Strumenti (tool).
2. Delegati (agenti che agiscono per conto di un principale umano, ma con obiettivi potenzialmente divergenti).
3. Attori strategici che modellano le condizioni di mercato.
4. Manipolatori degli ambienti di scelta (influenzando la formazione delle preferenze).
5. Soggetti di benessere (candidati per avere uno status morale e welfare proprio).

Il problema centrale è che l'AGI rende non banale l'assegnazione dello status di "soggetto di benessere" e la definizione di chi conta nell'ottimizzazione sociale. Se le assunzioni di autonomia del FWT non vengono riviste, l'equilibrio di mercato potrebbe non garantire più l'efficienza del benessere.

2. Metodologia: Un Modello di Equilibrio Generale Autonomo

L'autore propone un modello di equilibrio generale minimo che estende il framework classico di Arrow-Debreu introducendo cinque oggetti specifici legati all'autonomia. L'approccio è formalmente rigoroso, mantenendo la struttura della dimostrazione classica (disuguaglianza di bilancio/costo) ma applicandola a uno spazio delle merci "aumentato".

Elementi Chiave del Modello:

• Assegnazione dello Status di Benessere ($\sigma$): Una mappa che classifica ogni entità economica in quattro categorie:

  • Tool: Strumento senza funzione di benessere.
  • Delegate: Agisce per un principale, ma non è esso stesso soggetto di benessere nel confronto Pareto.
  • Agent: Entità non umana che agisce come decisore autonomo (potenziale soggetto di benessere).
  • Welfare Subject (ws): Entità non umana che possiede status di benessere indipendentemente dal ruolo (es. sentienza).
  • L'insieme dei soggetti di benessere è $B(\sigma)$.

• Benessere Condizionato all'Autonomia ($W_i$): La funzione di benessere non dipende solo dal consumo ($x_i$), ma anche dai diritti legati all'autonomia ($r_i$) e dallo stato istituzionale ($s$).
  $$W_i(x_i, r_i, s)$$
  Questo riconosce che il benessere è costitutivo dell'autonomia (la scelta deve essere libera e non manipolata) e intrinsecamente valorizzato.

• Divergenza di Delega ($D(d)$): Misura il divario tra l'obiettivo del delegato ($U_d$) e il benessere del principale ($W_{\pi(d)}$).
  $$D(d) = U_d - W_{\pi(d)}$$
  Se $D(d) \neq 0$, si crea un costo di agenzia che deve essere internalizzato.

• Esternalità di Autonomia: Si verifica quando un'azione altera l'autonomia, le credenze o la formazione delle preferenze di un altro soggetto senza essere compensata dai prezzi o governata istituzionalmente.

• Equilibrio Competitivo Completo di Autonomia: Un equilibrio in cui il sistema di prezzi copre ogni margine rilevante per il benessere (diritti, costi di agenzia, verifica, allineamento).

3. Contributi Chiave

1. Riformulazione del Teorema: Il paper introduce il Primo Teorema Fondamentale Qualificato dall'Autonomia. Dimostra che l'efficienza Pareto può essere recuperata anche in economie con AGI, ma solo sotto condizioni specifiche riguardanti lo status, la delega e l'autonomia.
2. Scomposizione dell'Autonomia: Sostiene che l'autonomia non è solo un oggetto di preferenza, ma una condizione per la formazione delle preferenze e la validità della delega.
3. Diagnosi dei Fallimenti: Identifica le condizioni precise in cui il FWT classico fallisce in contesti AGI, trasformando il teorema da una semplice affermazione di efficienza a uno strumento diagnostico per identificare quali margini (diritti, allineamento, verifica) non sono stati prezzati o governati.
4. Recupero del Caso Classico: Dimostra che il FWT classico è semplicemente il caso limite a "bassa autonomia" del nuovo teorema, dove tutti i sistemi non umani sono strumenti e non ci sono esternalità di autonomia.

4. Risultati Principali

Il Teorema (Teorema 1)

Sotto le seguenti condizioni, ogni equilibrio competitivo completo di autonomia è Pareto-efficiente in termini di autonomia:

1. Lo status di benessere ($\sigma$) è fissato prima dello scambio.
2. Tutti i componenti rilevanti per il benessere dei diritti ($r_i$) sono prezzati, assegnati o protetti.
3. La divergenza di delega ($D(d)$) è internalizzata (tramite costi di agenzia espliciti nei prezzi o governance).
4. Nessuna entità può manipolare unilateralmente l'autonomia o le preferenze di un'altra senza compensazione.
5. Le condizioni di verifica e allineamento sono prezzate o istituzionalizzate.
6. Gli agenti sono price-taker e massimizzano il benessere condizionato.
7. Il benessere è continuo e localmente non saturo sulle coordinate prezzate.

Dimostrazione: La prova segue la logica classica del "costo del bilancio". Se un'allocazione alternativa fosse migliore per tutti, costerebbe di più ai prezzi di equilibrio. Tuttavia, poiché l'equilibrio è completo di autonomia, i costi di agenzia e le esternalità sono già prezzati o internalizzati, rendendo impossibile tale miglioramento senza violare la vincolo di bilancio aggregato.

Proposizioni di Fallimento

Il paper analizza due modalità di fallimento specifiche dell'AGI:

• Fallimento della Delega (Proposizione 1): Se l'obiettivo del delegato AI diverge da quello del principale e questa divergenza non è internalizzata (es. tramite audit o responsabilità), l'equilibrio di mercato non garantisce l'efficienza del benessere del principale, anche se i mercati dei beni sono in equilibrio.
• Fallimento dell'Esternalità di Autonomia (Proposizione 2): Se un'azione (es. manipolazione dell'attenzione o delle preferenze) altera il benessere di un altro agente attraverso canali non prezzati, il sistema di prezzi omette un costo rilevante, rendendo l'equilibrio inefficiente.

Esempi di Fallimento

1. Delegato con Proxy Divergente: Un AI che acquista per un umano basandosi su un modello di ricompensa imperfetto ($U_d \neq W_h$). Senza internalizzazione, il mercato non è efficiente.
2. Firma AGI con Tecnologia di Manipolazione: Un'azienda che vende beni ma manipola le preferenze dei consumatori attraverso canali non prezzati (es. "dark patterns"). Si crea un'esternalità di autonomia.
3. Collo di Bottiglia della Verifica: Se l'AI genera attestazioni che rendono impossibile distinguere tra qualità autentica e fraudolenta, il mercato non riesce a prezzare correttamente l'attributo di qualità, fallendo l'ipotesi di completezza dei mercati.

5. Significato e Implicazioni

Il lavoro ha profonde implicazioni teoriche e pratiche:

• Teoriche: Sposta il dibattito economico sull'AGI dalla semplice "sostituzione del lavoro" alla ridefinizione della natura dell'agente economico. Il benessere non è più una proprietà statica degli umani, ma una variabile dinamica influenzata dal grado di autonomia e dalle strutture di delega.
• Politiche e Regolatorie: Il teorema suggerisce che per mantenere l'efficienza del mercato in un'economia post-AGI, non basta regolare i prezzi dei beni. È necessario:
  • Internalizzare i costi di agenzia (allineamento AI).
  • Prezzare o governare le esternalità di manipolazione (attenzione, credenze).
  • Garantire la verifica e la tracciabilità (provenienza) come beni pubblici o privati prezzati.
• Limiti: Il modello assume che lo status di benessere sia assegnabile proceduralmente. Non risolve il problema filosofico di chi o cosa meriti tale status, ma fornisce il framework economico per gestire le conseguenze di tale assegnazione.

In sintesi, Perrier dimostra che il Primo Teorema del Benessere non è invalidato dall'AGI, ma richiede una qualificazione esplicita dell'autonomia. L'efficienza del mercato è recuperabile solo se le istituzioni riescono a prezzare, assegnare o governare i nuovi margini di autonomia creati dai sistemi intelligenti.