High-Risk AI Systems and the Problem of Identity in the European AI Act

Sintesi Tecnica: Sistemi di IA ad Alto Rischio e il Problema dell'Identità nel Regolamento Europeo sull'Intelligenza Artificiale

Enunciato del Problema
Il Regolamento dell'Unione Europea sull'Intelligenza Artificiale (AIA) istituisce un regime di governance del ciclo di vita per i sistemi di IA ad alto rischio incentrato sulla valutazione della conformità ex-ante, sul monitoraggio post-immissione sul mercato e sulla riesaminazione in caso di "modifica sostanziale". Questo quadro normativo fa implicitamente affidamento su giudizi di "identità dell'IA": i regolatori e i fornitori devono determinare quando un sistema aggiornato rimane lo "stesso" sistema nel tempo (identità diacronica) e quando istanze contemporanee (ad esempio, copie o varianti) dovrebbero essere trattate come lo stesso sistema per la comparabilità normativa (identità sincronica).

Il documento individua due lacune critiche nella gestione da parte dell'AIA di queste questioni identitarie:

1. Ambiguità Diacronica: Sebbene l'AIA definisca la "modifica sostanziale" come un trigger per la riaccreditazione, manca di un criterio preciso e verificabile per determinare quando un sistema ha cessato di essere la stessa entità, in particolare per quanto riguarda la quantificazione del "funzionamento appropriato" nel tempo.
2. Lacuna Sincronica: L'AIA non fornisce un criterio interno e verificabile per l'identità sincronica dei sistemi di IA ad alto rischio autonomi. Delega ampiamente queste determinazioni a strumenti di armonizzazione settoriale (ad esempio, regolamenti sui dispositivi medici), che spesso fanno affidamento su proxy vaghi come "equivalenza" o "similitudine essenziale". Ciò crea punti ciechi normativi negli appalti, nella responsabilità e nella vigilanza del mercato, dove le autorità devono decidere se le prove di conformità per un'istanza si generalizzano a un'altra.

Metodologia
Il documento adotta un approccio concettuale e di audit piuttosto che uno studio empirico o di implementazione. Utilizza il framework function+ dell'identità degli artefatti (Carrara e Vermaas, 2009; Ferrario, 2025) come lente metafisica per analizzare la logica normativa dell'AIA.

La metodologia prevede:

• Allineamento Metafisico: Mappatura degli obblighi del ciclo di vita dell'AIA (valutazione della conformità, monitoraggio, modifica sostanziale) sui componenti function+: funzione tecnico (scopo previsto), profilo di affidabilità (criteri sensibili al contesto di un funzionamento appropriato) e livello di affidabilità (soddisfazione quantificata del profilo nel tempo).
• Analisi di Casi: Applicazione di questo framework a due casi illustrativi: (1) un sistema di triage clinico sottoposto a riaddestramento e aggiornamenti dei vincoli di equità (sfida diacronica) e (2) due sistemi di controllo biometrico alle frontiere con funzionalità di base identiche ma ottimizzazioni delle prestazioni diverse (sfida sincronica).
• Analisi delle Lacune: Confronto delle disposizioni esplicite dell'AIA con i requisiti del framework function+ per identificare dove la regolamentazione manca di precisione operativa.
• Costruzione del Flusso di Lavoro: Sviluppo di un flusso decisionale minimo (flusso di lavoro di audit) per operationalizzare i giudizi di identità sincronica.

Contributi Chiave
Il documento apporta tre contributi principali:

1. *Allineamento Concettuale tra AIA e function+:* Gli autori dimostrano che la governance del ciclo di vita dell'AIA operationalizza implicitamente la componente diacronica del framework function+.

   • La valutazione della conformità ex-ante fissa la linea di base rilevante per l'identità (scopo previsto e profilo di affidabilità).
   • Il monitoraggio post-immissione sul mercato traccia il livello di affidabilità nel tempo.
   • La modifica sostanziale agisce come condizione di discontinuità legale.
     Il documento chiarisce che, mentre l'AIA fornisce una condizione sufficiente per la riaccreditazione (l'emergere di una modifica sostanziale), il framework function+ fornisce condizioni necessarie e sufficienti per la persistenza, incorporando esplicitamente la quantificazione dei livelli di affidabilità che l'AIA attualmente lascia insufficientemente specificati.

2. Identificazione e Risoluzione della Lacuna dell'Identità Sincronica: Il documento sostiene che l'AIA non fornisce un criterio interno per l'identità sincronica dei sistemi autonomi. Propone il criterio SI_function+ come soluzione: due sistemi sono identici al tempo t se condividono la stessa funzione tecnico, lo stesso profilo di affidabilità e lo stesso livello di affidabilità.

   • Questo criterio ancorà la comparabilità alla funzione prevista e ai requisiti di affidabilità, rendendo le decisioni identitarie ispezionabili in contesti di governance come gli appalti e la responsabilità.
   • Viene proposto un flusso di lavoro di audit minimo (Figura 2), che richiede la giustificazione dell'identità nella fase di valutazione della conformità (scopo/profilo) e il mantenimento dell'identità durante il monitoraggio post-immissione sul mercato (livello al tempo t).

3. Raccomandazioni Rivolte all'Implementazione: Per rendere l'approccio function+ operativamente leggibile all'interno dell'AIA, gli autori propongono:

   • Rapporto Preciso sullo Scopo Previsto: Superare le descrizioni ampie per documentare la tassonomia funzionale dell'IA (funzione tecnico, funzione d'uso, funzione sociale), in particolare per l'IA generativa, inclusi esclusioni esplicite e usi non previsti.
   • Rapporto Standardizzato e Verificabile sull'Affidabilità: Sostituire le affermazioni vaghe di "equivalenza" con una relazione standardizzata sui contratti di affidabilità e sulle funzioni di livello di affidabilità. Gli autori suggeriscono l'uso di funzioni a tratti costanti multidimensionali (ad esempio, mappando accuratezza e sicurezza su "piani" di affidabilità) per aggregare metriche diverse in un indicatore composito. Ciò consente di tollerare fluttuazioni minori in singole dimensioni, attivando la riesaminazione solo quando un sistema supera una soglia verso un piano di affidabilità inferiore.

Risultati e Affermazioni
Il documento non presenta risultati sperimentali o procedure di conformità validate. Invece, i suoi "risultati" sono chiarimenti concettuali e proposte strutturali:

• Affermazione 1: Il meccanismo del ciclo di vita dell'AIA operationalizza implicitamente l'identità diacronica, ma il framework function+ chiarisce questo aspetto collegando esplicitamente lo scopo previsto a un livello di affidabilità quantificabile, rendendo la soglia di "modifica sostanziale" più ispezionabile.
• Affermazione 2: L'AIA lascia una lacuna significativa nell'identità sincronica per i sistemi autonomi. Il framework function+ colma questa lacuna fornendo un criterio verificabile (SI_function+) che collega la funzione prevista e i profili di affidabilità alla comparabilità normativa.
• Output Operativo: Il documento fornisce una "mappa di corrispondenza" (Figura 1) che allinea gli obblighi dell'AIA alle questioni identitarie metafisiche e una "lista di controllo minima di audit" (Tabella 1) per le decisioni di identità sincronica, specificando esattamente quali campi negli artefatti dell'AIA (documentazione tecnica, file di gestione del rischio, piani di monitoraggio) devono essere auditati.

Significato
Il documento si posiziona come una lente concettuale e di audit piuttosto che come una riforma legale prescrittiva. Il suo significato risiede in:

• Fondamento Metafisico: Fornire una base filosofica per la logica del ciclo di vita rilevante per l'identità dell'AIA, andando oltre le sfide etiche per affrontare lo status ontologico dei sistemi di IA nella regolamentazione.
• Verificabilità: Rendere le determinazioni identitarie trasparenti e contestabili. Definendo l'identità attraverso la funzione prevista e i livelli di affidabilità misurabili, il documento permette a regolatori e revisori di giudicare le controversie riguardanti l'identità dei sistemi (ad esempio, negli appalti o nella risposta agli incidenti) con maggiore precisione.
• Preparazione al Futuro: Affrontare le sfide specifiche poste dall'IA generativa e agenziale, dove l'uso previsto è spesso vago e i cambiamenti sono difficili da anticipare, sostenendo una relazione di affidabilità standardizzata e aggregata che possa supportare la comparabilità tra implementazioni e nel tempo.

Gli autori concludono che, sebbene l'AIA sia un passo normativo significativo, la sua efficacia nella governance, nella responsabilità e negli appalti dipende dalla chiarificazione delle condizioni identitarie dei sistemi di IA, un compito per il quale il framework function+ offre una soluzione strutturata e verificabile.