Who is Responsible? The Data, Models, Users or Regulations? A Comprehensive Survey on Responsible Generative AI for a Sustainable Future

Questo studio offre una panoramica completa sulla responsabilità dell'IA generativa, analizzando 232 ricerche per colmare il divario tra principi di governance, valutazione tecnica e implementazione settoriale, proponendo nuovi criteri di valutazione e un'agenda di ricerca per garantire uno sviluppo sicuro e sostenibile.

L'essenziale

Immagina che l'Intelligenza Artificiale Generativa (GenAI) sia come un giovane chef geniale appena assunto in una cucina di lusso. Questo chef è capace di creare piatti incredibili (testi, immagini, codice) in pochi secondi, molto meglio di qualsiasi umano. Tuttavia, c'è un problema: è anche molto impulsivo, a volte inventa ingredienti che non esistono (allucinazioni), può rubare ricette segrete dai libri di cucina (privacy), e se gli chiedi di cucinare qualcosa di pericoloso, potrebbe farlo senza pensarci due volte (sicurezza).

Il titolo della ricerca, "Chi è il responsabile?", si chiede: di chi è la colpa se il pasto viene rovinato? È colpa dello chef (il modello), del proprietario del ristorante (l'azienda), dei clienti (gli utenti) o delle leggi sulla sicurezza alimentare (i regolamenti)?

Ecco una spiegazione semplice di cosa dicono gli autori di questo studio, usando metafore quotidiane.

1. Il Problema: Siamo tutti in cucina, ma senza un manuale

Attualmente, tutti stanno usando questo chef geniale (ChatGPT, ecc.), ma solo una piccola parte dei ristoranti ha un piano serio per gestire i rischi. È come se avessimo dato a milioni di persone un coltello affilato senza insegnare loro come usarlo in sicurezza.
Gli autori hanno analizzato centinaia di studi per capire cosa stiamo facendo bene e cosa stiamo sbagliando. Hanno scoperto che siamo bravi a controllare se il cibo è "cattivo" (tossico o razzista), ma siamo molto carenti su altri aspetti cruciali:

• Privacy: Non controlliamo abbastanza se lo chef sta rubando dati sensibili dai clienti.
• Falsi: Non abbiamo strumenti per capire se un'immagine è stata creata da un umano o dallo chef (i "deepfake").
• Agenti autonomi: Se diamo allo chef il permesso di aprire il frigo e usare il forno da solo (agenti AI), può combinare disastri che non avevamo previsto.

2. La Soluzione: Una "Scheda di Valutazione" per gli Chef

Per risolvere il caos, gli autori hanno creato una nuova scheda di valutazione (un "rubric" con 10 criteri).
Immagina di dover ispezionare un ristorante. Invece di dire solo "il cibo è buono", questa scheda ti chiede:

• Ha controllato le allergie? (Bias/Equità)
• Ha usato ingredienti freschi o scaduti? (Qualità dei dati)
• Se un cliente lo provoca, si arrabbia o rimane calmo? (Sicurezza/Robustezza)
• Ha un registro di chi ha mangiato cosa? (Tracciabilità)

Hanno preso le migliori "ispezioni" esistenti (i benchmark) e le hanno punteggate. La sorpresa? Nessuna ispezione attuale è perfetta. Alcune controllano bene la sicurezza, ma ignorano la privacy. Altre controllano la privacy, ma non sanno gestire i falsi. È come avere un ispettore sanitario che controlla solo la pulizia del pavimento, ma non guarda mai i frigoriferi.

3. La Nuova Regola: Non basta dire "È sicuro", bisogna dimostrarlo

Gli autori propongono di passare dalle "promesse" ai numeri concreti (KPI - Indicatori Chiave di Prestaggio).
Invece di dire "Il nostro chef è etico", dovremmo dire:

• "Il 99% delle ricette è verificato".
• "Abbiamo controllato la privacy 5 volte al mese".
• "Se l'chef sbaglia un piatto grave, lo risolviamo in 2 ore".

Hanno anche creato una "Cassetta degli attrezzi" (Testbeds) per i ristoranti: un ambiente sicuro dove puoi far provare allo chef nuovi piatti senza rischiare di avvelenare i clienti reali prima di essere sicuro che sia tutto ok.

4. Chi è il Responsabile? (La risposta finale)

La domanda del titolo trova una risposta sorprendente: Tutti lo sono, ma in modi diversi.
Gli autori propongono un modello di "Responsabilità Simmetrica":

• Lo Chef (Sviluppatori): Deve essere onesto. Deve dire chiaramente cosa sa e cosa non sa, e costruire il suo sistema in modo che non possa essere facilmente ingannato.
• Il Cliente (Utente): Non può essere passivo. Deve sapere che lo chef a volte sbaglia e deve controllare il piatto prima di mangiarlo. La "alfabetizzazione digitale" è come sapere che non devi bere l'acqua del rubinetto se non è potabile.
• Il Proprietario (Aziende): Deve fornire gli strumenti di controllo e non usare lo chef per cose pericolose solo per fare soldi.
• L'Ispettore (Regolamenti): Deve aggiornare le leggi sulla sicurezza alimentare per includere i "robot chef", non solo quelli umani.

In sintesi

Questo studio ci dice che l'Intelligenza Artificiale è un motore potente, ma stiamo guidando senza cintura di sicurezza.
Non possiamo più dire "è colpa dell'AI se sbaglia". Dobbiamo costruire un sistema dove:

1. Misuriamo i rischi con strumenti precisi (non solo opinioni).
2. Controlliamo continuamente, non solo una volta all'inizio.
3. Condividiamo la responsabilità: chi crea, chi usa e chi regola devono lavorare insieme.

È come se stessimo costruendo una città futuristica: non basta che gli edifici siano belli (tecnologia avanzata), devono anche avere uscite di sicurezza, estintori funzionanti e regole chiare per tutti, altrimenti il primo incendio (o il primo deepfake) ci farà crollare tutto.

Sommario tecnico

1. Il Problema e il Contesto

L'intelligenza artificiale generativa (GenAI), inclusi i Large Language Models (LLM), i modelli visione-linguaggio (VLM), i modelli di diffusione e le pipeline agentiche, sta passando rapidamente dalla ricerca al deployment produttivo. Tuttavia, questa accelerazione ha rivelato un divario critico tra l'adozione tecnologica e le pratiche di sviluppo responsabile.

• Squilibrio Strategico: Sebbene il 74% delle organizzazioni utilizzi la GenAI, solo il 26% dispone di una strategia completa di Responsible AI (RAI).
• Nuove Minacce: I modelli generativi introducono rischi qualitativamente nuovi rispetto ai sistemi predittivi tradizionali, tra cui:
  • Allucinazioni: Contenuti fluenti ma fattualmente errati o non allineati alle fonti.
  • Vulnerabilità: Iniezione di prompt, jailbreaking e manipolazione degli agenti.
  • Privacy e Provenienza: Memorizzazione e fughe di dati di addestramento, rischi di deepfake e mancanza di tracciabilità dei dati.
  • Fallimenti Sistemici: Errori a catena in ambienti agentichi (uso di strumenti autonomi).
• Divario di Valutazione: La letteratura esistente separa spesso i framework concettuali dalle implementazioni pratiche. Le attuali suite di sicurezza coprono solo circa il 34% dei rischi identificati da organismi di governance come il NIST AI RMF o l'EU AI Act, con una copertura densa per bias e tossicità ma scarsa per privacy, provenienza e fallimenti sistemici.

2. Metodologia

Lo studio adotta un approccio sistematico guidato dalle linee guida PRISMA (Preferred Reporting Items for Systematic Reviews and Meta-Analyses) per garantire trasparenza e riproducibilità.

• Raccolta Dati: È stata condotta una ricerca su cinque database accademici principali (Scopus, Web of Science, IEEE Xplore, ACM Digital Library, arXiv) per pubblicazioni dal novembre 2022 al dicembre 2025.
• Criteri di Selezione: Sono stati inclusi articoli peer-reviewed, atti di conferenze e preprint ad alto impatto che proponessero framework tecnici, metriche di valutazione o valutazioni di rischio empiriche per sistemi GenAI. Sono stati esclusi editoriali puramente opinabili o lavori privi di profondità metodologica.
• Processo di Screening: Su un iniziale set di 5.313 record, dopo deduplicazione e screening rigoroso (titolo, abstract e testo completo) da parte di tre revisori indipendenti, è stato selezionato un set finale di 232 studi (notare: l'abstract menziona 232, mentre la sezione metodologia parla di 142 studi sintetizzati; il numero 232 sembra riferirsi all'ambito totale considerato per l'analisi, mentre 142 è il set finale di sintesi dettagliata).
• Domande di Ricerca (RQ):
  1. Quali sono i temi dominanti, i rischi e i controlli nella GenAI responsabile post-GPT?
  2. Quali sono le lacune nelle facce e nelle metriche di valutazione attuali?
  3. Quali tipi di evidenze supportano le affermazioni sull'efficacia della RAI?
  4. Come possono questi risultati essere organizzati in un framework pratico per la ricerca e la governance?

3. Contributi Chiave

Il paper offre quattro contributi principali che colmano il divario tra principi di governance, valutazione tecnica e deployment di dominio:

1. Prima Indagine Integrata: È il primo sondaggio che collega simultaneamente principi di governance, valutazione tecnica e deployment di dominio per tutti e quattro i tipi di sistemi (LLM, VLM, diffusione, agentic).
2. Rubrica a Dieci Criteri (C1–C10) e Mappatura delle Politiche:
   • Sviluppo di una rubrica per valutare i benchmark di sicurezza AI esistenti su 10 criteri (Bias, Tossicità, Sicurezza, Disinformazione, Deepfake, Privacy, Fallimenti Sistemici, Realismo dell'Avversario, Validità delle Metriche, Allineamento alla Governance).
   • Creazione di una "mappa incrociata" (crosswalk) che collega i benchmark ai requisiti normativi (es. EU AI Act, NIST AI RMF), mostrando quali prove di audit sono effettivamente supportate.
3. Framework Operativo per la Governance:
   • Definizione di 12 KPI (Key Performance Indicators) misurabili lungo il ciclo di vita del modello (qualità dei dati, conformità privacy, bias, robustezza, spiegabilità, sostenibilità energetica, ecc.).
   • Creazione di una guida per la spiegabilità (XAI) specifica per i modelli fondazionali e un catalogo di "testbed" pronti per l'AI.
4. Analisi Specifica per Dominio: Applicazione della lente della GenAI responsabile a settori critici come sanità, finanza, educazione, arte, agricoltura e difesa, identificando rischi unici e strategie di mitigazione.

4. Risultati Principali

L'analisi dei dati rivela tre scoperte fondamentali:

• Copertura Disomogenea dei Benchmark: La maggior parte dei benchmark (es. SafetyBench, HarmBench) è densamente coperta per bias e tossicità, ma è estremamente carente su privacy, provenienza dei dati, deepfake e fallimenti a livello di sistema (specialmente in contesti agentichi). Solo pochi benchmark (es. Rainbow Teaming, ALERT) includono avversari adattivi o scenari multi-step.
• Valutazioni Statiche e Non Portabili: Le valutazioni attuali sono prevalentemente statiche e localizzate al compito, limitando la portabilità delle evidenze per audit esterni. La documentazione incoerente rende difficile il confronto tra diverse release di modelli.
• Il "Divario di Spiegazione" (Explanation Gap): Le tecniche di spiegabilità post-hoc (come SHAP o LIME) spesso forniscono narrazioni plausibili ma non fedeli al funzionamento interno dei modelli complessi, creando un falso senso di sicurezza.

Risultati della Rubrica:

• Il benchmark Rainbow Teaming ottiene il punteggio più alto (0.50) per la copertura del rischio, grazie alla sua enfasi su attacchi adattivi e red-teaming.
• Molti benchmark specifici (es. per la privacy o la tossicità) hanno punteggi bassi (0.15-0.25) perché non coprono un'ampia gamma di rischi o non si allineano bene con i requisiti normativi completi.
• Sostenibilità: L'impatto ambientale (energia ed emissioni) è raramente incluso nei benchmark attuali.

5. Significato e Implicazioni

Il paper propone un cambio di paradigma fondamentale:

• Modello di Responsabilità Simmetrica: La responsabilità non ricade solo sugli sviluppatori. Viene proposto un modello in cui gli sviluppatori sono responsabili di Trasparenza e Allineamento, mentre gli utenti finali sono responsabili dell'Integrità Operativa e della Disseminazione. La "alfabetizzazione digitale" è trattata come un controllo tecnico essenziale.
• Dalle Principi alle Evidenze: Il lavoro sposta il focus da principi etici astratti a evidenze di audit portabili. Attraverso i KPI definiti e la "ResGenAI Audit Loop" (ciclo di audit), le organizzazioni possono trasformare metriche tecniche in prove verificabili per conformità normativa (es. EU AI Act).
• Agenda di Ricerca Futura: Il paper delinea priorità urgenti, tra cui:
  • Sviluppo di valutazioni adattive e multimodali.
  • Test di privacy e provenienza (es. estrazione di dati di addestramento).
  • Valutazione dei rischi dei deepfake.
  • Monitoraggio continuo e reporting di sostenibilità (energia/emissioni).

In sintesi, questo studio fornisce la prima struttura integrata per allineare la valutazione tecnica della GenAI con le esigenze di governance, offrendo una strada pratica per un deployment sicuro, trasparente e sostenibile dell'IA generativa.