Qualifying and Quantifying Risk under the EU AI Act
Questo articolo propone un framework in due fasi basato sulla "priorità della gravità" per conciliare l'approccio qualitativo dell'AI Act dell'UE sui diritti fondamentali con la sua definizione quantitativa del rischio, avvertendo al contempo che delegare la quantificazione del rischio ai fornitori potrebbe consentire il "risk hacking" e la sottoclassificazione normativa.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate di essere il sindaco di una città futuristica e frenetica dove i robot sono ovunque. Alcuni robot sono innocui, come un tostapane che impara la tua impostazione preferita per il pane. Altri sono potenti, come un robot giudice o un drone che scansiona i volti nel parco. La grande domanda per ogni leader cittadino è: "Come facciamo a mantenere tutti al sicuro senza fermare le nuove e fantastiche invenzioni?" Questo è il cuore di un campo chiamato regolamentazione del rischio. È l'arte di capire quanto sia probabile che accada qualcosa di brutto (probabilità) e quanto sarebbe terribile se accadesse (gravità). Di solito, i leader cercano di fare un rapido calcolo matematico: moltiplicano la possibilità di un incidente per quanto sia grave l'incidente. Se il numero è piccolo, dicono: "Va bene così!". Ma cosa succede se il "cosa brutto" è qualcosa che non puoi contare facilmente, come perdere la tua privacy o la tua libertà? È qui che le cose si fanno complicate. Se non puoi mettere un cartellino del prezzo a un diritto umano, come fai a fare i conti? Questo è esattamente il puzzle che l'Unione Europea sta affrontando mentre cerca di scrivere le regole per l'Intelligenza Artificiale (IA).
Questo articolo, scritto da ricercatori della Germania e degli Stati Uniti, approfondisce il nuovo "AI Act" dell'UE, una legge massiccia progettata per suddividere i sistemi di IA in tre categorie: "No Go" (vietati), "Alto Rischio" (richiedono regole strette) e "Rischio Minimo" (liberi di procedere). Gli autori notano una strana tensione nella legge. Da un lato, la legge definisce il "rischio" come un'equazione matematica: Probabilità × Gravità. Dall'altro lato, la legge sta cercando di proteggere i "diritti fondamentali" (come la dignità, la privacy e l'equità), che sono solitamente trattati come valori speciali e non quantificabili. Non puoi davvero misurare la "dignità" in dollari o percentuali. Gli autori suggeriscono che, se proviamo a imporre una semplice formula matematica a questi complessi diritti umani, le aziende potrebbero manipolare il sistema. Potrebbero modificare i loro numeri per far sembrare un robot pericoloso sicuro, un trucco che gli autori chiamano "risk hacking" (manipolazione del rischio).
Allora, cosa propongono gli autori? Suggeriscono un nuovo modo di guardare al problema, come una danza in due tempi. Passaggio 1: guardare lo scopo del robot e chiedersi: "Il danno che potrebbe causare è così grave da violare un diritto fondamentale, indipendentemente da quanto spesso accada?". Questo è ciò che chiamano un approccio "severity-first" (la gravità prima di tutto). Pensate a un buttafuori in un club che non si cura di quanto sia probabile una rissa; se la persona tiene in mano una granata (alta gravità), viene bandita immediatamente, anche se non ne ha mai lancata una prima. Passaggio 2: guardare la "matematica" della situazione: quanto è probabile il danno? E quali sono i costi per fermare il robot?
L'articolo sostiene che l'AI Act dell'UE utilizzi già questa logica "severity-first", anche se non lo dice esplicitamente. Ad esempio, la legge vieta certi usi dell'IA (come leggere le emozioni sul posto di lavoro) perché il potenziale danno alla privacy è semplicemente troppo alto, anche se la probabilità che accada è bassa. Gli autori suggeriscono che i regolatori dovrebbero attenersi a questo ordine: controllare prima la gravità, poi preoccuparsi della probabilità. Se lasciamo che le aziende decidano da sole la matematica, potrebbero cercare di sostenere che un evento "catastrofico" a "bassa probabilità" sia in realtà a "basso rischio", il che permetterebbe a un'IA pericolosa di passare inosservata. Mantenendo l'attenzione su quanto grave possa essere il danno per primo, possiamo proteggere i diritti umani pur permettendo alla tecnologia utile di crescere. L'articolo non sostiene di aver risolto ogni problema matematico, ma offre una tabella di marcia chiara per fermare il "risk hacking" e garantire che le regole funzionino davvero per le persone.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.