AI Governance Under Political Constraints: The Case for Ex Post Liability
Questo articolo sostiene che la responsabilità oggettiva ex post sia lo strumento di governance dell'IA più robusto sotto i vincoli politici, poiché evita i fallimenti della cattura e del consenso che affliggono le regolamentazioni ex ante, offrendo al contempo un quadro per classificare gli strumenti complementari e valutare gli sforzi per indebolire la responsabilità civile.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
L'intelligenza artificiale si sta muovendo più velocemente delle regole destinate a guidarla. Mentre questi sistemi diventano più potenti, promettono di risolvere problemi difficili nella medicina e nella scienza, ma portano anche con sé il potenziale per gravi danni, dalla frode diffusa alla perdita del controllo umano su macchine critiche. I governi di tutto il mondo stanno cercando di decidere come gestire questo potere prima che causi danni. La questione centrale non è solo quali regole scrivere, ma come scriverle in modo che funzionino davvero. La sfida è che nessuno concorda esattamente su quanto siano pericolosi questi sistemi, e le persone che li costruiscono hanno molta più influenza sui politici rispetto al pubblico in generale. Questo squilibrio rende difficile approvare leggi rigorose che richiedano alle aziende di dimostrare che la loro tecnologia sia sicura prima di rilasciarla, perché i politici non riescono a concordare su cosa significhi "sicuro" o su quanto rischio sia accettabile.
Un nuovo articolo di Gabriel Weil, un ricercatore dell'Università di Houston, sostiene che il modo migliore per gestire questa incertezza sia smettere di cercare di prevedere il futuro e iniziare a pagare per il passato. Invece di costringere le aziende a ottenere l'approvazione del governo prima di costruire o rilasciare una nuova intelligenza artificiale, il documento suggerisce un sistema in cui le aziende siano ritenute finanziariamente responsabili per qualsiasi danno effettivamente causato dalla loro tecnologia. Questo approccio, noto come "responsabilità ex post", sposta l'onere della sicurezza sugli sviluppatori stessi. Se la tecnologia funziona bene e non causa problemi, le aziende non pagano nulla. Se causa un disastro, devono pagare per il danno. L'analisi di Weil suggerisce che questo metodo sia più robusto contro la pressione politica e meglio adatto alla natura sconosciuta della tecnologia rispetto al tentativo di stabilire regole rigide in anticipo.
Il saggio inizia spiegando perché i metodi usuali di regolamentazione sono probabilmente destinati a fallire nel mondo dell'intelligenza artificiale. Tipicamente, i governi cercano di gestire il rischio stabilendo regole, richiedendo licenze o tassando le aziende per i rischi che creano. Ad esempio, un governo potrebbe dire che un'azienda deve dimostrare che il suo sistema sia sicuro prima che possa essere utilizzato, oppure potrebbe applicare una tassa basata su quanta potenza di calcolo utilizza il sistema. Tuttavia, questi metodi richiedono un accordo chiaro su quanto sia pericolosa la tecnologia. Per stabilire un'aliquota fiscale o una regola di sicurezza, i politici devono prima decidere esattamente quanto danno aspettarsi. Weil sottolinea che gli esperti non concordano su questo. Alcuni credono che il rischio di una catastrofe sia quasi certo, mentre altri pensano che sia trascurabile. Poiché la tecnologia è così nuova e complessa, non esistono dati solidi per risolvere questo dibattito. Senza una comprensione condivisa del rischio, qualsiasi regola o tassa stabilita dai politici sarà probabilmente o troppo debole per fermare un disastro o così rigida da bloccare ogni progresso.
Inoltre, l'articolo sostiene che il processo politico stesso sia sbilanciato contro una regolamentazione efficace. Le persone che subirebbero le conseguenze di un errore commesso da un sistema di intelligenza artificiale sono il pubblico in generale, che è disperso e non organizzato. Le aziende che costruiscono questi sistemi sono poche, ricche e altamente motivate a proteggere i propri interessi. In un sistema politico, i gruppi organizzati con denaro hanno solitamente più influenza rispetto al pubblico diffuso. Se un governo prova a stabilire regole rigorose, queste aziende possono fare lobbying per indebolire le regole o renderle più facili da aggirare. Possono anche usare la loro competenza tecnica per confondere i regolatori, che spesso dipendono dalle aziende stesse per capire come funziona la tecnologia. Ciò crea una situazione in cui le regole finiscono per proteggere le aziende piuttosto che il pubblico.
Weil propone che ritenere le aziende responsabili del danno effettivo che causano eviti queste trappole politiche. Sotto un sistema di responsabilità oggettiva, un'azienda non ha bisogno di ottenere il permesso per costruire un sistema, né deve concordare un livello di rischio specifico con il governo. Inve invece, l'azienda sa semplicemente che se il suo sistema danneggia qualcuno, dovrà pagare. Questo funziona bene anche quando nessuno sa esattamente quanto sia pericolosa la tecnologia. Se la tecnologia si rivela sicura, l'azienda non paga nulla. Se si rivela pericolosa, l'azienda paga per il danno. Ciò crea un potente incentivo affinché l'azienda si occupi di capire come rendere il sistema sicuro autonomamente, poiché sono loro a dover sostenere le spese se le cose vanno male.
L'articolo affronta anche una preoccupazione comune: cosa succede se un disastro è così grande che l'azienda non può permettersi di pagare? Nei casi in cui il danno è troppo grande per essere coperto da una singola azienda, l'autore suggerisce di utilizzare i danni punitivi. Ciò significa che se un'azienda assume un rischio che potrebbe portare a una catastrofe, anche se la catastrofe non si è ancora verificata, potrebbe essere multata pesantemente se si avvicina a causarne una. Questa multa sarebbe calcolata in base al pericolo potenziale creato, non solo al danno effettivamente causato. Ciò assicura che le aziende abbiano comunque un motivo per essere prudenti riguardo ai rischi più grandi, anche se pensano che potrebbero non essere colte. Per gestire il problema delle aziende che non hanno abbastanza denaro per coprire piccoli incidenti, il saggio suggerisce di richiedere loro di stipulare un'assicurazione. Le compagnie di assicurazione agirebbero quindi come regolatori privati, controllando la sicurezza dei sistemi e applicando prezzi più alti per quelli più rischiosi.
L'autore confronta questo approccio con altre idee che si stanno discutendo attualmente, come concedere alle aziende un "porto sicuro" o l'immunità dalle cause legali se seguono determinate regole governative. Il saggio sostiene che questo sia un cattivo affare. Se a un'azienda è permesso evitare di pagare per i danni solo perché ha seguito una lista di controllo, avrà meno motivi per andare oltre i requisiti minimi per rendere i propri sistemi veramente sicuri. Il saggio esamina anche recenti proposte legislative negli Stati Uniti e in Europa che cercano di scambiare la responsabilità con la regolamentazione. Weil trova che nessuna di queste proposte offra un buon valore. Tendono ad indebolire il sistema di ritenere le aziende responsabili senza fornire un'alternativa abbastanza forte per mantenere le persone al sicuro.
Il saggio conclude che, sebbene altri strumenti come i requisiti di trasparenza e la ricerca sulla sicurezza siano utili, essi dovrebbero supportare un sistema di responsabilità, non sostituirlo. Il modo più efficace per governare l'intelligenza artificiale è lasciare che il mercato e i tribunali facciano il lavoro di smistamento dei rischi. Rendendo i produttori responsabili dei danni che causano, il sistema costringe loro a interiorizzare i costi dei propri errori. Questo approccio non richiede ai politici di concordare sul futuro, né dà loro il potere di fermare il progresso arbitrariamente. Semplicemente assicura che coloro che costruiscono la tecnologia siano coloro che sostengono il costo se essa fallisce. In un mondo in cui i rischi sono sconosciuti e la politica è difficile, questo metodo offre la via più affidabile verso la sicurezza.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.