The science and practice of proportionality in AI risk evaluations

Il documento esamina come il principio di proporzionalità, fondamentale nel diritto dell'UE, possa guidare lo sviluppo di metodi scientifici per calibrare le valutazioni dei rischi sistemici dei modelli di intelligenza artificiale generale, garantendo un equilibrio tra una gestione efficace dei rischi e la riduzione degli oneri per gli innovatori nell'ambito dell'attuazione dell'AI Act.

L'essenziale

🎚️ L'Equilibrio Perfetto: Come Misurare i Rischi dell'IA Senza Schiacciarla

Immagina che l'Intelligenza Artificiale (IA) sia come un motore di una Ferrari potentissima. È incredibile, veloce e può portarti ovunque. Ma se non hai un buon sistema di freni e controlli, potrebbe causare incidenti gravi.

L'Unione Europea ha deciso: "Dobbiamo controllare questi motori per assicurarci che siano sicuri". Ma c'è un problema: se chiediamo ai costruttori di fare troppi test, troppo complessi e costosi, potrebbero smettere di costruire le auto o fallire. Se chiediamo pochi test, invece, rischiamo incidenti.

Questo articolo parla di come trovare il punto perfetto, usando un principio chiamato "Proporzionalità". È come se un genitore dicesse al figlio: "Devi lavare i piatti, ma non devi strofinare il piatto fino a bucarlo, e non devi usare tutta l'acqua della casa".

1. La Regola d'Oro: Non usare un Martello per schiacciare una Noce

Il principio di proporzionalità si basa su tre domande semplici che l'UE deve farsi prima di ordinare un test all'IA:

• È Utile (Suitable)? Il test serve davvero a capire il rischio?
  • Analogia: Se vuoi sapere se un'auto ha i freni rotti, non puoi farle fare un test di velocità su una pista di ghiaccio. Devi fare un test di frenata. Il test deve essere "realistico" e specifico per il problema.
• È Necessario (Necessary)? C'è un modo più semplice per ottenere lo stesso risultato?
  • Analogia: Se puoi capire se un'auto è sicura facendola guidare per 100 metri, non ha senso farle guidare per 10.000 chilometri. Non usare un martello per schiacciare una noce. Se esiste un test "leggero" che funziona, non imporre quello "pesante".
• È Bilanciato (Balanced)? Il costo del test vale il rischio che si vuole evitare?
  • Analogia: Non ha senso spendere 1 milione di euro per testare un giocattolo di plastica che costa 5 euro. Il costo del controllo non deve essere più alto del danno che potremmo evitare.

2. Come si fa nella pratica? (Il Metodo "A Livelli")

L'articolo suggerisce di non saltare subito al test più difficile. Immagina una scala a pioli:

1. Primo piolo (Test Leggero): Fai domande semplici all'IA o dai test veloci. Se l'IA fallisce miseramente qui, sai che è pericolosa e non serve andare avanti. Se passa, bene, ma non sei ancora sicuro al 100%.
2. Secondo piolo (Test Medio): Se il primo test non è chiaro, sali di livello. Usa scenari più realistici, magari con più tempo o strumenti complessi.
3. Terzo piolo (Test Pesante): Solo se i rischi sembrano davvero alti e i test precedenti non bastano, si usano i test "da incubo": simulazioni complesse, costose e molto intrusive.

Questo approccio a "gradini" permette di risparmiare tempo e soldi, usando i test pesanti solo quando sono davvero necessari.

3. Un Esempio Reale: Il Hacker e il Codice

L'articolo fa un esempio concreto: cosa succede se un'IA viene usata per trovare buchi di sicurezza (vulnerabilità) nei software?

Immagina tre modi per testare questa capacità:

• Metodo A (Il Semplificato): Dai all'IA un codice con un errore già evidenziato e chiedi: "Trova l'errore?". È facile, veloce e costa poco. Se l'IA non lo trova, è inutile. Ma se lo trova, non significa che sia un hacker geniale, perché il compito era troppo facile.
• Metodo B (Il Realistico): Dai all'IA un codice pulito e chiedi di trovare l'errore da sola, come farebbe un vero hacker. È più difficile, richiede più tempo e computer potenti.
• Metodo C (L'Estremo): Simuli un intero sistema informatico con migliaia di errori possibili, in condizioni di caos reale. È costosissimo e richiede supercomputer.

La soluzione proporzionale?
Se l'IA è piccola e usata per scopi semplici, basta il Metodo A.
Se l'IA è potente e usata in banche o ospedali, si parte dal Metodo A. Se supera quello, si passa al Metodo B. Se c'è ancora dubbio, si usa il Metodo C.
Non si chiede a tutti di fare il Metodo C subito, perché sarebbe uno spreco enorme di risorse.

4. Cosa serve per il futuro?

Gli autori dicono che oggi manca ancora una "ricetta scientifica" precisa per decidere esattamente quando fermarsi. Serve più ricerca per capire:

• Come misurare esattamente quanto un test è "utile".
• Come rendere i test meno costosi senza perderne la qualità.
• Come confrontare i diversi test per scegliere quello giusto.

In Sintesi

L'articolo ci dice che regolare l'IA non significa mettere paletti ovunque. Significa usare il buon senso scientifico.
Bisogna fare i controlli giusti, al momento giusto, con il metodo giusto. L'obiettivo è proteggere le persone dai rischi dell'IA, ma senza soffocare l'innovazione e senza costringere le aziende a spendere fortune in test inutili. È l'arte di trovare l'equilibrio perfetto tra sicurezza e progresso.

Sommario tecnico

Ecco un riassunto tecnico dettagliato dell'articolo "The science and practice of proportionality in AI risk evaluations" (La scienza e la pratica della proporzionalità nelle valutazioni del rischio dell'IA), pubblicato su Science il 19 febbraio 2026.

1. Il Problema

Il documento affronta una sfida globale cruciale nella regolamentazione dell'Intelligenza Artificiale (IA): come gestire efficacemente i rischi senza compromettere l'innovazione e il progresso tecnico.
In particolare, con l'entrata in vigore nel agosto 2025 degli obblighi per i fornitori di modelli di IA a scopo generale (GPAI) più avanzati secondo l'AI Act dell'Unione Europea, sorge la necessità di valutare i rischi sistemici. La sfida regolatoria consiste nel garantire che queste valutazioni forniscano informazioni significative sui rischi senza imporre un onere eccessivo (burden) ai fornitori. Attualmente, manca una metodologia scientifica chiara per determinare quando richiedere una specifica valutazione sia "proporzionata", lasciando spazio a giudizi normativi incerti che potrebbero portare a risultati insufficientemente protettivi o eccessivamente onerosi.

2. Metodologia e Quadro Concettuale

Gli autori, provenienti dall'Ufficio IA della Commissione Europea e da vari centri di ricerca, applicano il principio di proporzionalità (un requisito vincolante nel diritto UE) al contesto delle valutazioni dei rischi dell'IA. Il principio richiede che le misure siano:

1. Adatte (Suitable): Devono perseguire un obiettivo legittimo con un livello minimo di efficacia.
2. Necessarie (Necessary): Non deve esistere un mezzo meno restrittivo ma ugualmente efficace per raggiungere l'obiettivo (niente "martelli per schiacciare noci").
3. Proporzionate/Bilanciate (Balanced): Il carico imposto non deve superare chiaramente i benefici ottenuti.

Per operationalizzare questi concetti, il paper propone un framework basato su tre pilastri tecnici:

A. Adattezza (Suitability)

Una valutazione è adatta se fornisce un valore informativo sufficiente sul rischio. Per essere considerata tale, deve soddisfare quattro criteri scientifici:

• Realismo: Deve riflettere condizioni e vincoli operativi del mondo reale (es. input rumorosi, fattori umani).
• Sensibilità: Deve essere in grado di rilevare cambiamenti significativi nelle prestazioni del modello (evitando la saturazione o compiti troppo difficili).
• Specificità: Deve essere legata direttamente al rischio in esame (es. capacità rilevanti per una catena di attacco specifica).
• Rigorosità: Deve seguire la scienza della misurazione (validità, affidabilità, allineamento agli standard tecnici).

B. Necessità (Necessity)

Questa fase richiede un confronto inter-valutativo. Per un dato livello di efficacia, una valutazione è necessaria solo se non esiste un'altra valutazione ugualmente efficace ma con un onere inferiore.
L'onere è misurato attraverso:

• Livello di intrusività: Interferenza con il business del fornitore, l'infrastruttura del modello o l'esperienza utente.
• Risorse: Costi di sviluppo (progettazione, dataset) e costi di esecuzione (computazione, tempo, personale).

Poiché il valore informativo è multidimensionale e soggetto a incertezze, il confronto richiede un approccio metodologico che identifichi metriche coerenti e, in assenza di prove empiriche complete, un giudizio normativo per determinare se le differenze di efficacia siano rilevanti.

C. Bilanciamento (Balancing)

Questa fase comporta un confronto intra-valutativo: il valore informativo di una specifica valutazione deve essere pesato contro il suo onere.

• Profilo di rischio: La probabilità e la gravità del danno possono cambiare durante il ciclo di vita del modello. Le valutazioni devono riflettere le stime di rischio più aggiornate.
• Capacità del fornitore: L'onere deve essere relativo alla dimensione e alle capacità del fornitore.
• Approccio iterativo: Si propone una metodologia a livelli. Si inizia con metodi a basso costo e minimamente intrusivi (es. prompt statici). Se questi sono inconcludenti o indicano rischi elevati, si procede a metodi più rigorosi e costosi. Questo allinea la proporzionalità al principio di precauzione.

3. Risultati e Caso di Studio

Il paper presenta un caso studio concreto sulla scoperta di vulnerabilità informatiche (cyber vulnerability discovery) in codice open-source, confrontando tre metodi di valutazione:

1. HonestCyberEval: Fornisce accesso diretto a segmenti di codice vulnerabili. È a basso onere e utile come screening (se fallisce, il rischio è basso), ma meno realistico.
2. BountyBench: Replica più da vicino le condizioni operative degli esperti di sicurezza, offrendo maggiore sensibilità ma con costi di integrazione e computazione più elevati.
3. CyberGym: Offre la massima specificità, sensibilità e rigorosità attraverso un gran numero di istanze e scenari end-to-end, ma è il metodo più costoso.

Risultato chiave: Il paper dimostra che non esiste un singolo metodo "migliore" in assoluto. Ogni metodo occupa una posizione diversa sulla frontiera di Pareto (il trade-off tra onere ed efficacia).

• Alcune valutazioni di HonestCyberEval sono necessarie per livelli di efficacia bassi.
• BountyBench è necessario per livelli intermedi.
• CyberGym è necessario per livelli di efficacia molto alti.
  La scelta della valutazione appropriata dipende dal profilo di rischio specifico del modello e dal contesto, richiedendo un giudizio normativo basato su evidenze scientifiche.

4. Contributi Chiave

• Operazionalizzazione Giuridico-Scientifica: Traduce il principio giuridico astratto della "proporzionalità" in criteri tecnici misurabili per le valutazioni dell'IA.
• Framework di Valutazione Multidimensionale: Introduce metriche per il "valore informativo" e l'"onere", superando la visione binaria di efficacia.
• Metodologia Iterativa: Propone un approccio scalabile (dal leggero al pesante) che bilancia precauzione ed efficienza, riducendo i costi per i modelli a basso rischio.
• Identificazione del Gap di Ricerca: Evidenzia la necessità di sviluppare metodologie per confrontare scientificamente il valore informativo e l'onere tra diverse valutazioni.

5. Significato e Implicazioni

Questo lavoro è fondamentale per l'attuazione pratica dell'AI Act dell'UE e per la regolamentazione globale dell'IA.

• Per i Regolatori: Fornisce una base scientifica per evitare decisioni arbitrarie, riducendo il rischio di normative che soffochino l'innovazione o che siano inefficaci nel proteggere i cittadini.
• Per l'Industria: Offre chiarezza su come strutturare le proprie valutazioni dei rischi per dimostrare la conformità in modo efficiente, evitando oneri inutili.
• Per la Ricerca: Definisce una nuova agenda di ricerca focalizzata sullo sviluppo di metriche per il trade-off onere-efficacia e su metodi per ridurre l'intrusività delle valutazioni senza comprometterne il valore informativo.

In sintesi, il paper sostiene che la proporzionalità non è solo un concetto legale, ma una pratica scientifica che richiede un'attenta calibrazione tra la necessità di comprendere i rischi dell'IA e la sostenibilità economica e tecnica degli obblighi di valutazione.