Frontier Technologies, Complex Externalities, and the Evolution of Private Order: Implications for AI Governance

Quando arriva una nuova tecnologia, essa porta con sé la promessa di un beneficio e l'ombra di un rischio. Spesso, la vera natura di quel rischio rimane nascosta finché la tecnologia non viene effettivamente utilizzata nel mondo reale. Questo è particolarmente vero per l'intelligenza artificiale, uno strumento che può rimodellare il modo in cui viviamo, lavoriamo e comunichiamo. Poiché i pericoli sono così complessi e dipendono da situazioni specifiche, è difficile per chiunque, compresi i funzionari governativi, scrivere le regole perfette prima ancora che la tecnologia venga implementata. La domanda centrale che la società si trova ad affrontare non è solo come prevenire esiti negativi, ma come scoprire i modi giusti per gestire questi rischi man mano che ne apprendiamo di più. Ciò comporta la comprensione delle "esternalità", un termine che gli economisti usano per descrivere costi o benefici che influenzano persone che non fanno parte dell'accordo originale. Quando una nuova tecnologia crea problemi per i vicini o per gli estranei, quei problemi sono esternalità. La sfida è che queste esternalità sono spesso così intricate e imprevedibili che nessuna singola autorità può mapparle in anticipo.

Due ricercatori, Ali Palida e Nicholas Thielman, si sono posti l'obiettivo di esplorare un'angolazione diversa di questo problema. Invece di chiedere come il governo debba regolare l'intelligenza artificiale, si sono chiesti come la regolamentazione governativa possa impedire ai gruppi privati di trovare le proprie soluzioni. Essi sostengono che il processo di utilizzo di una nuova tecnologia sia una forma di scoperta. Provando le cose, le persone imparano cosa funziona, cosa fallisce e chi deve essere protetto. Questo processo di apprendimento permette ai gruppi privati — come le compagnie di assicurazioni, i certificatori di sicurezza o persino i vicini che negoziano tra loro — di costruire regole flessibili che si adattino alla situazione specifica. Gli autori suggeriscono che se il governo interviene troppo presto con un divieto severo o una regola rigida, potrebbe bloccare proprio quegli esperimenti necessari per trovare il modo migliore di governare la tecnologia.

Per testare questa idea, i ricercatori hanno esaminato tre esempi storici in cui nuove tecnologie hanno affrontato incertezze simili. Il primo esempio riguarda l'elettricità alla fine del 1800. Quando furono introdotti per la prima volta le luci elettriche e le linee elettriche, queste causarono frequenti incendi, ma nessuno sapeva esattamente quali dispositivi fossero sicuri. Il governo non intervenne immediatamente per stabilire standard di sicurezza. Al posto di ciò, emerse un'organizzazione privata chiamata Underwriters Laboratories. Fondata da compagnie di assicurazioni preoccupate per le perdite causate dagli incendi, questo gruppo iniziò a testare le apparecchiature elettriche e a creare i propri standard di sicurezza. Con il tempo, testando più dispositivi e osservando cosa causava gli incendi, perfezionarono le loro regole. Il loro sistema privato divenne così affidabile che le città adottarono i loro standard nelle leggi e i produttori cercarono la loro approvazione per vendere i prodotti. Gli autori notano che questo sistema funzionò perché era flessibile; poteva cambiare man mano che nuovi pericoli venivano scoperti attraverso l'uso effettivo, piuttosto che rimanere bloccato in regole scritte prima che chiunque conoscesse i rischi.

Il secondo esempio proviene dal mondo della cyber-assicurazione. Mentre i computer e Internet crescevano, gli hacker divennero una minaccia importante, ma la natura di queste minacce cambiava costantemente. Un anno, il rischio principale poteva essere il furto di numeri di carte di credito; l'anno successivo, poteva trattarsi di un ransomware che blocca i record ospedalieri. Poiché i rischi erano così fluidi, i regolatori governativi faticavano a scrivere regole che rimanessero pertinenti. Le compagnie di assicurazioni private, tuttavia, si adattarono rapidamente. Iniziarono a offrire polizze che richiedevano alle aziende di rispettare specifici standard di sicurezza per ottenere la copertura. Se un'azienda non aggiornava la propria sicurezza, l'assicurazione aumentava il prezzo o annullava la polizza. Questo creò un ciclo di feedback: man mano che apparivano nuovi tipi di attacchi, gli assicuratori imparavano dai dati dei sinistri e aggiornavano i loro requisiti. Questo sistema privato permise un costante aggiustamento in tempo reale delle regole di sicurezza, qualcosa che una burocrazia governativa lenta potrebbe faticare a eguagliare.

La terza storia si svolge nei primi giorni della radiodiffusione. Prima che il governo creasse un'agenzia centrale per gestire le frequenze radio, le stazioni interferivano spesso tra loro, creando un mix caotico di segnali. La credenza comune era che questo caos potesse essere risolto solo da un'autorità centrale. Tuttavia, i ricercatori hanno scoperto che, prima dell'intervento del governo, le stazioni radio stavano in realtà negoziando tra loro. Scambiavano frequenze, concordavano orari di trasmissione o acquistavano competitor per evitare interferenze. Questo sistema privato di negoziazione e diritti di proprietà permise all'industria radiofonica di crescere e diventare preziosa. Fu solo in seguito che il governo sostituì questo sistema privato e flessibile con un piano rigido e centralizzato. Gli autori sostengono che questo cambiamento non avvenne perché il sistema privato fosse fallito, ma perché i politici e i potenti broadcaster volevano controllare le preziose onde radio per se stessi. Il risultato fu un sistema meno adattabile e più lento nell'innovare.

Per comprendere la meccanica di questo processo, i ricercatori hanno costruito un semplice modello di come funziona il processo decisionale quando il futuro è ignoto. Nel loro modello, una nuova tecnologia viene utilizzata e i risultati vengono osservati. Questa osservazione insegna qualcosa di nuovo a tutti. Se un gruppo di persone colpite dalla tecnologia può riunirsi e rinegoziare le proprie regole ogni volta che apprende qualcosa di nuovo, può adattare il proprio approccio per adattarlo alla nuova realtà. Possono decidere di smettere di usare la tecnologia se è pericolosa, o cambiare il modo in cui viene usata se è sicura ma necessita di piccoli aggiustamenti. Tuttavia, se un'autorità esterna impone un divieto permanente o una regola fissa che non può essere modificata da accordi privati, il processo di apprendimento si interrompe. Il divieto impedisce l'esperimento che avrebbe rivelato la verità. Anche se il gruppo successivamente scopre che la tecnologia è sicura e vantaggiosa, rimane bloccato con la vecchia regola perché non può negoziare attorno al veto del governo.

I ricercatori hanno scoperto che questo crea due problemi specifici. Primo, un divieto permanente interrompe l'apprendimento necessario per comprendere i rischi. Secondo, anche se il gruppo apprende che un accordo diverso sarebbe migliore per tutti, la regola governativa fissa impedisce loro di apportare tale modifica. Gli autori sottolineano che questo non significa che le regole governative siano sempre cattive. A volte, un divieto è necessario per prevenire un disastro troppo grave da rischiare. Ma lo studio suggerisce che dobbiamo pesare il rischio immediato di un divieto rispetto al costo a lungo termine di interrompere la scoperta di soluzioni migliori e più flessibili. L'obiettivo non è lasciare le tecnologie pericolose completamente libere, ma evitare di bloccare le regole prima di aver avuto la possibilità di imparare cosa funziona.

L'articolo conclude che l'efficace governance per l'intelligenza artificiale potrebbe non essere qualcosa che possiamo progettare perfettamente fin dall'inizio. Al contrario, potrebbe essere qualcosa che emerge mentre utilizziamo la tecnologia e impariamo dai nostri errori. I gruppi privati, attraverso contratti, assicurazioni e certificazioni, sono spesso in grado di apprendere e adattarsi più rapidamente perché hanno un interesse diretto nel risultato. Possono cambiare le loro regole non appena arrivano nuove informazioni. L'intervento governativo, pur essendo talvolta necessario, comporta il rischio di congelare il sistema prima che le regole giuste siano state scoperte. Gli autori suggeriscono che la strada migliore sia quella di lasciare spazio a questa sperimentazione privata, garantendo che non blocchiamo proprio il processo che ci insegnerà come gestire la tecnologia in modo sicuro. La sfida per i decisori politici è proteggere le persone dai danni immediati senza tagliare il percorso verso una governance migliore ed più efficace in futuro.