Versioned Governance for Frontier AI: A Software-Engineering-Inspired Approach
Questo articolo propone un framework di governance dell'IA ispirato all'ingegneria del software che affronta il "drift silenzioso" delle politiche normative, sostenendo l'adozione di una versione granulare, log delle modifiche classificati e meccanismi di rollback espliciti per garantire un'evoluzione delle politiche trasparente, verificabile e accettata dai regolatori.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate un mondo in cui le regole che governano i sistemi di intelligenza artificiale avanzata siano scritte in documenti pubblici, proprio come i termini di servizio di un sito web o il manuale di sicurezza di una fabbrica. Questi documenti ci dicono cosa l'IA è autorizzata a fare, cosa deve rifiutarsi di fare e come i suoi creatori promettono di mantenerla sicura. Per le persone che costruiscono questi sistemi, le regole non sono statiche; cambiano costantemente man mano che la tecnologia evolve. Una regola che oggi sembrava sicura potrebbe aver bisogno di essere inasprita domani, o una nuova capacità potrebbe richiedere un permesso del tutto nuovo. Il problema sorge quando questi cambiamenti avvengono senza un registro pubblico e chiaro di ciò che è stato alterato, del perché è stato alterato e di chi avesse l'autorità per apportare la modifica. Questa mancanza di una storia chiara crea una situazione in cui le regole scivolano silenziosamente nel tempo. Un esterno, come un giornalista, un giudice o un'azienda che cerca di utilizzare la tecnologia, non può dire se una frase nel documento sia stata semplicemente perfezionata per una migliore grammatica o se abbia fondamentalmente spostato i confini di ciò che l'IA è autorizzata a fare.
Questo silenzio è pericoloso perché rompe la fiducia necessaria affinché la società possa fare affidamento su questi sistemi. Se un tribunale deve giudicare un evento accaduto l'anno scorso, deve sapere esattamente quali erano le regole in quel momento, non le regole così come esistono oggi. Se un'azienda ha certificato la propria sicurezza basandosi su una politica di sei mesi fa, deve sapere se quella politica significa ancora la stessa cosa. Attualmente, il modo in cui questi documenti vengono aggiornati spesso non riesce a fornire questa chiarezza. I cambiamenti sono reali, ma la loro cronologia è mancante o confusa. Ciò lascia tutti gli esterni che non lavorano nel laboratorio a indovinare la vera natura delle regole che governano la tecnologia che stanno usando o regolamentando.
Un ricercatore di nome Zhixin Xue ha esaminato questo problema e ha proposto una soluzione ispirata al modo in cui gli ingegneri del software gestiscono il codice. Nel mondo della programmazione informatica, quando gli sviluppatori aggiornano un programma, utilizzano un sistema rigoroso per tracciare ogni modifica. Assegnano numeri di versione che dicono agli utenti quanto sia significativa una modifica: un cambiamento del numero maggiore indica un aggiornamento grande e potenzialmente incompatibile; un cambiamento del numero minore indica una nuova funzionalità che funziona ancora con il vecchio sistema; e un numero di patch indica una piccola correzione. Tracciano anche registri dettagliati che spiegano esattamente cosa è cambiato e perché. Xue sostiene che i documenti che governano l'intelligenza artificiale dovrebbero essere trattati con lo stesso livello di disciplina. Invece di pubblicare semplicemente una nuova versione di una politica senza contesto, i laboratori dovrebbero utilizzare un sistema strutturato che classifichi ogni modifica, ne spieghi il motivo e mantenga un registro permanente e immutabile della storia.
Per testare se questo approccio sia necessario e come potrebbe funzionare, Xue ha esaminato cinque grandi insiemi di regole che governano i sistemi di IA di frontiera tra il 2019 e il 2025. Questi includevano le politiche di utilizzo e le specifiche dei modelli di OpenAI, la Politica di Scalabilità Responsabile di Anthropic, l'AI Act dell'Unione Europea e il Framework di Gestione del Rischio del NIST degli Stati Uniti. Il ricercatore ha analizzato come questi documenti siano stati revisionati nel tempo, cercando segni di questo tipo di tracciamento disciplinato. Lo studio ha rilevato che, sebbene alcuni di questi documenti abbiano iniziato a utilizzare numeri di versione e liste datate di modifiche, essi mancano delle parti più critiche del sistema. Nello specifico, i documenti raramente spiegano se una modifica sia un cambiamento importante delle regole o solo un piccolo chiarimento. Inoltre, mancano di un meccanere chiaro per annullare una modifica qualora si rivelasse un errore.
L'analisi ha rivelato un modello che l'autore chiama "scivolamento silenzioso" (silent drift). Negli esempi del mondo reale studiati, i cambiamenti più significativi alle regole sono spesso avvenuti in risposta a eventi esterni improvvisi, come il rilascio pubblico di un nuovo modello di IA più potente. Tuttavia, la documentazione di questi cambiamenti non è stata all'altezza. Gli elenchi di modifiche esistenti erano spesso solo riassunti scritti in linguaggio naturale, che descrivevano cosa era successo ma non classificavano l'importanza del cambiamento. Questo costringe il lettore a indovinare se un cambiamento sia minore o maggiore. Inoltre, nessuno dei cinque strumenti studiati includeva un modo formale per invertire una modifica di policy se questa causava problemi. Mentre le leggi e gli standard dei governi e degli organismi internazionali erano più bravi nel tracciare le proprie versioni rispetto alle aziende private, erano comunque più lenti ad adattarsi e mancavano di meccanismi specifici per annullare le modifiche.
Il documento suggerisce che la soluzione non è inventare leggi o istituzioni interamente nuove, ma adottare un framework specifico e leggero che qualsiasi laboratorio potrebbe usare immediatamente. Questo framework richiederebbe che ogni volta che un documento di policy viene aggiornato, l'autore debba dichiarare il tipo di modifica utilizzando un sistema a quattro livelli: major (maggiore), minor (minore), patch (correzione) o build (costruzione). Un cambiamento "major" sarebbe uno che altera i confini fondamentali di ciò che è permesso o proibito. Un cambiamento "minor" aggiungerebbe nuovi scenari o procedure senza cambiare i principi fondamentali. Una "patch" sarebbe un chiarimento o una correzione che non cambia il significato. Una "build" sarebbe una versione adattata per una specifica regione o gruppo. Insieme a questa classificazione, l'aggiornamento dovrebbe includere un registro dettagliato che spieghi il cambiamento e un piano su come invertirlo, se necessario.
Fondamentalmente, il documento sostiene che il sistema deve trattare l'atto di classificare erroneamente un cambiamento come un evento registrabile. Se un laboratorio afferma che un cambiamento è solo una piccola patch, ma un auditor o un regolatore determina in seguito che si trattava in realtà di un cambiamento importante delle regole, questo errore deve essere registrato pubblicamente. Ciò crea un costo di reputazione per l'occultamento della vera natura dei cambiamenti. Lo studio osserva che, sebbene gli ingegneri del software a volte non seguano perfettamente queste rigide regole di versionamento, la disciplina funziona meglio quando ci sono conseguenze per sbagliare. Rendendo la classificazione dei cambiamenti una dichiarazione pubblica e verificabile, il framework mira a rendere visibile e responsabile lo "scivolamento silenzioso".
Le conclusioni indicano che gli strumenti per risolvere questo problema esistono già nell'industria del software, ma non sono stati pienamente applicati ai documenti che governano l'IA. Il divario non è una mancanza di capacità tecnica, ma una mancanza di incentivi e disciplina. La ricerca conclude che, man mano che i sistemi di IA diventano più potenti e le loro regole cambiano più frequentemente, la necessità di una cronologia chiara e versionata di tali regole diventa essenziale. Senza di essa, le regole che governano questi potenti sistemi rimangono opache e difficili da fidare. Con un approccio strutturato, i cambiamenti possono essere resi trasparenti, permettendo a regolatori, tribunali e al pubblico di capire esattamente come le regole si sono evolute e di ritenere i creatori responsabili delle decisioni che prendono.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.