Governance in an Institutional Environment Reconfigured by Artificial Intelligence. A Public Choice Institutionalism Perspective

Quando pensiamo alla governance dell'intelligenza artificiale, la conversazione si concentra spesso sulla macchina stessa. Ci chiediamo come costruirla in modo sicuro, come garantire che il suo codice non abbia malfunzionamenti e come assicurare che le sue decisioni siano allineate ai valori umani. Questo è come controllare il motore di un'auto per assicurarsi che funzioni senza problemi. Ma c'è una questione molto più ampia e profonda che spesso viene trascurata. Non si tratta solo della macchina; si tratta del mondo che la macchina sta cambiando. Mentre l'intelligenza artificiale si diffonde, non si limita a stare accanto alle nostre leggi e organizzazioni esistenti; essa rimodella attivamente esse stesse. Ci costringe a ripensare il modo in cui creiamo regole, come assegniamo la responsabilità e come organizziamo la società stessa. La sfida non è più solo quella di riparare uno strumento; è quella di navigare in un paesaggio che si sta spostando sotto i nostri piedi, dove la natura stessa del lavoro, dell'autorità e del processo decisionale viene riscritta in tempo reale.

Questo è il puzzle centrale affrontato da Paul Dragos Aligica, un ricercatore della George Mason University. Egli sostiene che, per comprendere questa nuova realtà, dobbiamo smettere di considerare l'intelligenza artificiale come un singolo problema da risolvere con un'unica autorità. Invece, suggerisce di vederla come un ecosistema complesso in cui molti gruppi, regole e decisioni interagiscono. Il saggio propone che il modo migliore per gestire questo mondo in mutamento sia attraverso un concetto chiamato "policentricità". In termini semplici, questo significa un sistema in cui molti centri di potere coesistono, ognuno dei quali stabilisce le proprie regole e decisioni, piuttosto che un unico capo o governo che cerca di controllare tutto dall'alto verso il basso. Aligica costruisce questo argomento combinando due idee potenti: lo studio di come le persone prendono decisioni quando hanno interessi divergenti, e lo studio di come i sistemi complessi si organizzano senza un comandante centrale.

Il saggio inizia tracciando una linea netta tra due tipi diversi di problemi. Il primo è il problema "stretto": come governare l'artefatto dell'intelligenza artificiale in sé. Ciò comporta il lavoro tecnico di programmazione, monitoraggio e garanzia che il sistema si comporti come previsto. Il secondo è il problema "ampio": come governare l'intero ambiente istituzionale che la tecnologia sta trasformando. Aligica insiste sul fatto che il problema ampio sia quello che conta davvero. Quando l'intelligenza artificiale entra in una società, innesca una reazione a catena. Cambia la divisione del lavoro, il che significa che alcuni compiti che gli esseri umani svolgevano prima sono ora eseguiti dalle macchine, mentre gli esseri umani assumono ruoli nuovi e diversi. Questo cambiamento non è un semplice scambio; crea un effetto a cascata che si propaga verso l'alto attraverso l'intero sistema di regole.

Per comprendere come funziona questo effetto a cascata, il saggio utilizza una logica simile a quella con cui gli economisti studiano la divisione del lavoro. Immaginate una fabbrica in cui viene introdotta una nuova macchina. All'inizio, la macchina si occupa dei compiti ripetitivi e ad alto volume. Ma questo costringe i lavoratori umani a cambiare ciò che fanno. Potrebbero smettere di svolgere il lavoro di routine e iniziare a concentrarsi sulle eccezioni, sui casi difficili o sulla supervisione della macchina. Questo cambiamento nei ruoli umani crea poi la necessità di nuove regole, nuovi supervisori e nuovi modi per gestire le controversie. Il saggio descrive questo come una "cascata". Una singola decisione di utilizzare l'intelligenza artificiale per un compito può arrivare a forzare la riscrittura delle regole di livello più alto che governano il modo in cui la società prende decisioni. Si passa dalle operazioni quotidiane di un compito specifico, fino alle regole che decidono chi ha il potere di svolgere quei compiti, e infine al livello costituzionale che decide chi ha il diritto di cambiare le regole stesse.

Mentre questa cascata si muove attraverso il sistema, attiva comportamenti umani familiari che i politologi studiano da decenni. Quando vengono creati nuovi ruoli e poteri, le persone e le organizzazioni cercheranno di accaparrarseli per il proprio beneficio. Ciò porta alla "ricerca di rendita" (rent-seeking), in cui i gruppi spendono energia cercando di catturare i benefici di una nuova regola piuttosto che creare valore. Porta alla "cattura del regolatore" (regulatory capture), in cui le persone incaricate di controllare la tecnologia finiscono per dipendere proprio dalle aziende che dovrebbero regolare, poiché tali aziende detengono l'unica competenza tecnica. Crea anche una "perdita di agenzia" (agency loss), in cui le persone che dovrebbero essere a capo del processo non riescono a monitorare efficacemente le decisioni complesse e opache prese dalle macchine o dalle nuove burocrazie create per gestirle. Il saggio sostiene che questi non siano incidenti; sono conseguenze inevitabili di come funzionano gli incentivi umani quando la struttura della società cambia.

Data questa complessità, il saggio valuta due visioni principali su come governare questo nuovo mondo. La prima è la visione "monocentrica". Questa è l'idea di un'autorità centrale unica — un regolatore globale o un trattato unificato — che stabilisce un unico insieme di regole per tutti. È un'idea attraente perché promette ordine, responsabilità chiara e un unico posto a cui puntare il dito se le cose vanno male. Tuttavia, Aligica sostiene che questo approccio sia sia irrealistico che pericoloso. Presuppone che un singolo centro possa sapere abbastanza da gestire una tecnologia che cambia più velocemente di quanto qualsiasi singolo governo possa reagire. Inoltre, concentra tutto il potere di cattura, il che significa che le aziende o le nazioni più potenti potrebbero facilmente dirottare l'intero sistema per servire i propri interessi. Inoltre, un unico insieme di regole non può possibilmente adattarsi alle profonde differenze di valori e necessità tra le diverse culture e società.

L'alternativa, e quella che il saggio sostiene, è la visione "policentrica". Questa non è un'anarchia caotica, ma un sistema strutturato in cui operano simultaneamente molti diversi centri decisionali. In questo sistema, diverse città, regioni, aziende e organizzazioni possono sperimentare diversi approoli per governare l'intelligenza artificiale. Alcuni potrebbero dare priorità alla velocità, altri alla sicurezza e altri ancora alla privacy. Questi diversi centri possono competere e imparare gli uni dagli altri. Se un approccio fallisce, può essere abbandonato senza far crollare l'intero sistema. Se un approccio funziona bene, altri possono adottarlo. Fondamentale è che questo sistema si basi sull'"interoperabilità". Ciò significa che, anche se i diversi centri hanno regole differenti, possono comunque comunicare tra loro e collaborare attraverso standard e accordi condivisi. È come una rete di città indipendenti che commerciano tra loro e rispettano le leggi l'una dell'altra senza bisogno di un unico re che le governi tutte.

Il saggio sostiene con forza che questo approccio policentrico non è solo un ideale teorico, ma è la realtà che sta già emergendo. Il mondo non si sta muovendo verso un unico governo globale per l'intelligenza artificiale; si sta già muovendo verso un mosaico di diverse regole e standard. Cercare di imporre un'unica soluzione dall'alto su questa realtà sarebbe un errore. Invece, l'obiettivo dovrebbe essere quello di guidare questo processo in evoluzione. Il saggio sottolinea che non possiamo semplicemente progettare un sistema perfetto da zero e installarlo. Il sistema è troppo complesso e i cambiamenti sono troppo rapidi. Invece, dobbiamo agire come giardinieri o navigatori. Possiamo creare le condizioni affinché le buone soluzioni crescano e quelle cattive vengano rimosse come erbacce. Possiamo costruire i ponti che permettano ai diversi gruppi di cooperare e possiamo proteggere lo spazio in cui le nuove idee possano essere testate.

In definitiva, il saggio conclude che il modo migliore per governare l'intelligenza artificiale è accettare che ci troviamo nel mezzo di un processo lungo e in corso di svolgimento. Non possiamo prevedere l'esito finale, né dovremmo cercare di controllare ogni dettaglio. Invece, dovremmo concentrarci sulla costruzione di un quadro flessibile che consenta sperimentazione, apprendimento e adattamento. Abbracciando un approccio policentrico, possiamo sfruttare la diversità del pensiero umano e la pressione competitiva delle diverse giurisdizioni per trovare soluzioni efficaci. Possiamo gestire i rischi di ricerca di rendita e di cattura assicurando che nessun singolo gruppo detenga tutto il potere. E possiamo mantenere la legittimità delle nostre regole assicurando che siano modellate dalle persone che esse influenzano, piuttosto che imposte da un centro lontano. La strada da seguire non è costruire una macchina perfetta per controllare il futuro, ma coltivare un sistema resiliente che possa imparare e adattarsi mentre il futuro si dispiega.