Mapping General-Purpose AI Governance in Twenty AI Middle-Power Jurisdictions
Questo articolo mappa i quadri di governance dell'IA generativa di venti giurisdizioni di potenza media, rivelando che, sebbene convergano ampiamente sulle forme regolatorie nelle principali aree di responsabilità, esse divergono significamente nel potere di applicazione, con la maggior parte che si affida a misure non vincolanti, mandati preesistenti a livello applicativo e capacità osservative piuttosto che imporre obblighi vincolanti agli sviluppatori di modelli.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate un mondo in cui i sistemi di intelligenza artificiale più potenti sono costruiti in soli due luoghi, eppure i loro effetti si propagano in ogni nazione della Terra. Questi sistemi, noti come IA a scopo generale, non sono semplici strumenti progettati per un compito singolo come smistare la posta o riconoscere volti. Al contrario, sono motori vasti e flessibili capaci di apprendere quasi tutto, dal scrivere codice al simulare processi biologici. Poiché sono così adattabili, comportano rischi unici: potrebbero essere utilizzati per creare armi pericolose, lanciare attacchi informatici o comportarsi in modi che gli esseri umani non possono fermare. Sebbene le aziende che costruiscono questi sistemi siano concentrate in pochi paesi, il resto del mondo deve comunque capire come conviverci. Questa è la sfida che affrontano quelli che i ricercatori chiamano "potenze medie dell'IA": nazioni che non costruiscono esse stesse questi modelli all'avanguardia, ma che devono comunque regolamentare il modo in cui vengono utilizzati, venduti o monitorati entro i propri confini.
Un team di ricercatori si è posto l'obiettivo di mappare come venti di queste nazioni stiano affrontando questo problema. Non si sono limitati a guardare dichiarazioni politiche generali o promesse vaghe. Al contrario, hanno scavato nelle leggi effettive, nei regolamenti e nei documenti di orientamento ufficiali per vedere esattamente quali regole siano state scritte. Si sono concentrati su quattro aree specifiche in cui la sicurezza deve essere garantita: verificare i rischi macroscopici prima del rilascio di un sistema, testare e verificare ciò che il sistema è effettivamente capace di fare, vietare usi o capacità pericolose e segnalare incidenti gravi quando si verificano. Leggendo le clausole di centinaia di documenti, hanno costruito un quadro dettagliato del panorama globale della governance dell'IA.
Ciò che hanno scoperto è una storia di forma senza forza. Attraverso le venti nazioni studiate, esiste un chiaro accordo sulla forma delle regole. Quasi tutti i paesi stanno cercando di affrontare le stesse quattro aree di sicurezza. Parlano tutti di valutazione del rischio, test, divieti e segnalazioni. Tuttavia, stanno fallendo nel rendere tali regole vincolanti. I ricercatori hanno scoperto che, sebbene molti paesi abbiano messo per iscritto questi requisiti, pochissimi li hanno trasformati in leggi vincolanti che possano essere effettivamente applicate. Infatti, solo circa il 22 percento delle regole trovate è scritto in legge dura. Il resto sono linee guida, strategie o codici volontari che le aziende possono scegliere di ignorare. Ancora più sorprendente è che, quando i paesi approvano leggi vincolanti, spesso non definiscono cosa sia effettivamente un' "IA a scopo generale". Creano regole per una categoria di tecnologia senza dire chiaramente cosa includa tale categoria. Ciò lascia un vuoto in cui un'azienda potrebbe sostenere che il suo nuovo modello potente non rientra nella definizione e quindi non ha bisogno di seguire le regole.
Il modo in cui queste nazioni applicano le loro regole rivela un altro livello di complessità. La maggior parte delle volte, le regole non sono rivolte alle aziende che costruiscono i modelli di IA. Invece, le leggi prendono di mira le persone che utilizzano i modelli, le piattaforme che li ospitano o le agenzie governative che li acquistano. Questo accade perché i paesi oggetto dello studio non ospitano le aziende che costruiscono le IA più avanzate. Non possono costringere facilmente i costruttori stranieri a modificare il proprio codice o a sottomettersi a ispezioni. Pertanto, cercano di controllare la tecnologia regolamentando il modo in cui viene distribuita nei loro mercati. Ad esempio, un paese potrebbe richiedere a una banca di testare uno strumento di IA prima di usarlo, o a un ospedale di segnalare se un'IA commette un errore. Sebbene questo approccio sia pratico, significa che la rete di sicurezza è spesso tessuta attorno all'applicazione della tecnologia piuttosto che alla tecnologia stessa.
I ricercatori hanno anche esaminato chi si occupa dei controlli. In molti casi, gli enti responsabili del test dell'IA sono gli stessi che sono stati creati per altri scopi, come la regolamentazione finanziaria o la protezione dei dati. Questi enti esistenti sono chiamati a occuparsi della supervisione dell'IA senza avere sempre il potere tecnico specifico per farlo. Inoltre, i nuovi istituti di sicurezza che alcuni paesi hanno costruito per valutare l'IA spesso mancano dell'autorità per bloccare un sistema pericoloso se ne trovano uno. Possono misurare il rischio e pubblicare un rapporto, ma non possono costringere lo sviluppatore a risolvere il problema. È come se un corpo dei vigili del fuoco potesse misurare quanto è calda una costruzione e scrivere un rapporto sul pericolo, ma non avesse il potere di ordinare al proprietario di installare gli irrigatori o di chiudere l'edificio.
Forse il reperto più significativo riguarda la segnalazione degli incidenti. Quando si verifica un danno grave, chi dovrebbe informare le autorità? Lo studio ha scoperto che la metà delle nazioni intervistate non ha alcuna regola che richieda a qualcuno di segnalare un grave incidente legato all'IA. Nei paesi che hanno tali regole, le istruzioni sono spesso incomplete. Una regola potrebbe dire "segnalare un incidente", ma omettere a chi debba essere segnalato, con quale rapidità debba essere fatto o cosa accada se nessuno lo segnala. Senza questi quattro elementi — il destinatario, l'evento scatenante, la scadenza e la conseguenza — una regola di segnalazione è solo un suggerimento. I ricercatori hanno osservato che ciò lascia un punto cieco: se un sistema di IA fallisce in un modo che non causa una violazione immediata dei dati o una perdita finanziaria, potrebbe non essere mai segnalato, anche se il danno a lungo termine è grave.
L'articolo ha anche messo in discussione l'idea che avere più leggi significhi avere una maggiore sicurezza. Alcuni paesi hanno prodotto decine di documenti e linee guida, creando un fitto strato di burocrazia. Eppure, quando i ricercatori hanno esaminato il potere legale dietro tali documenti, hanno scoperto che molti erano non vincolanti. Al contrario, alcuni paesi con meno documenti avevano approvato leggi rigorose ed esecutive. Lo studio ha dimostrato che il numero di regole di un paese è un cattivo indicatore di quanto sia effettivamente sicuro il suo ambiente di IA. Ciò che conta è se le regole sono scritte in modo da poter essere applicate e se raggiungono le persone giuste.
In definitiva, la mappa tracciata da questa ricerca mostra un mondo che sta cercando di rincorrere una tecnologia che si muove più velocemente delle sue leggi. Le venti nazioni hanno concordato sul vocabolario della sicurezza — sanno tutte che devono valutare i rischi, testare i sistemi, vietare i cattivi usi e segnalare gli incidenti. Ma non hanno ancora concordato sulla forza di quelle parole. Le regole sono spesso vaghe, le definizioni mancano e i meccanismi di applicazione sono deboli. I ricercatori suggeriscono che, prima che il mondo possa concordare su un unico insieme di regole internazionali, queste singole nazioni devono colmare le lacune nei propri sistemi. Devono decidere esattamente cosa stanno regolamentando, dare ai loro enti di sicurezza il potere di agire e garantire che, quando qualcosa va storto, qualcuno sia effettivamente ritenuto responsabile. Fino ad allora, la rete di sicurezza globale per l'intelligenza artificiale rimane piena di buchi, tessuta da buone intenzioni ma priva della forza necessaria per sostenere il peso della tecnologia che dovrebbe proteggere.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.