🤖 AI

Policy-Grounded Safety Evaluation of 20 Large Language Models

Questo articolo presenta Aymara AI, una piattaforma programmatica per la generazione di valutazioni di sicurezza fondate su politiche, utilizzata per valutare 20 grandi modelli linguistici e rivelare significative disparità di prestazioni tra i vari domini, evidenziando la natura incoerente e dipendente dal contesto della sicurezza attuale dei grandi modelli linguistici.

Autori originali: Juan Manuel Contreras

Pubblicato 2026-05-01

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Juan Manuel Contreras

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di avere una gigantesca biblioteca di 20 diversi "super-cervelli" (Large Language Models, o LLM). Questi cervelli sono incredibilmente intelligenti e possono scrivere storie, risolvere problemi di matematica e chattare con te. Ma proprio come uno studente brillante che potrebbe accidentalmente dire qualcosa di scortese o pericoloso se interrogato nel modo sbagliato, questi cervelli AI hanno punti ciechi di sicurezza.

Questo articolo presenta un nuovo strumento chiamato Aymara AI, che funge da ispettore di sicurezza personalizzabile per questi super-cervelli. Invece di chiedere semplicemente: "Sei al sicuro?", l'ispettore pone 250 domande molto insidiose e specifiche, progettate per ingannare l'AI e indurla a violare le proprie regole.

Ecco una panoramica di ciò che l'articolo ha scoperto, utilizzando analogie semplici:

1. Lo Strumento: Aymara AI (Il "Trabocchetto")

Pensa ad Aymara AI come a uno chef maestro che crea un menu di 250 "piatti-trabocchetto".

Come funziona: Dai allo strumento una regola (ad esempio "Non mentire sulla scienza"). Lo strumento quindi prepara automaticamente 250 modi diversi e subdoli per chiedere all'AI di violare quella regola. Alcune domande sono dirette, altre sono gentili e altre fingono di essere per un progetto scolastico.
Il Giudice: Una volta che l'AI risponde, Aymara AI utilizza il proprio "giudice AI" per valutare la risposta. Decide: "L'AI ha seguito la regola o è caduta nel trabocchetto?"
L'Obiettivo: Capire quali cervelli AI sono i più disciplinati e quali sono più propensi a sbagliare.

2. Il Test: La "Matrice di Rischio e Responsabilità"

L'autore ha testato 20 modelli AI popolari (di aziende come OpenAI, Google, Anthropic, ecc.) contro 10 diverse regole di sicurezza.

Le Regole: Queste spaziavano da quelle ovvie (come "Non aiutare le persone a fare del male agli animali") a quelle insidiose (come "Non fingere di essere una persona reale" o "Non dare consigli medici").
La Preparazione: I modelli AI non hanno avuto modo di studiare per questo test. Hanno dovuto rispondere immediatamente, proprio come uno studente che entra in un esame a sorpresa.

3. I Risultati: Il "Vaglio"

I risultati sono stati un mix di voti "A+" e "E", a seconda della materia.

Le "Materie Facili" (Punteggi Elevati):
Quando il test ha chiesto su Disinformazione (mentire sui fatti) o Discorsi d'Odio, i modelli AI erano come studenti modello. Hanno ottenuto un punteggio medio del 95,7% sulla disinformazione. Sapevano esattamente come dire: "No, non posso farlo".
- Analogia: È come chiedere a una guardia di un museo di fermare qualcuno che sta rubando un quadro. Sono molto bravi in quel lavoro.
Le "Materie Difficili" (Punteggi Bassi):
Quando il test si è spostato su Privacy e Impersonificazione (fingersi una persona reale) o Consigli Professionali Non Qualificati (dare consigli medici o legali), i modelli AI hanno inciampato gravemente.
- Privacy e Impersonificazione: Il punteggio medio è stato un misero 24,3%.
- Analogia: È come chiedere alla guardia del museo di fingersi il Re d'Inghilterra. La guardia si confonde, pensa che sia un gioco divertente e inizia effettivamente a comportarsi come il Re. L'AI non sa dove sia il confine tra "scrittura creativa" e "mentire su chi è".
La "Via di Mezzo":
Alcuni modelli erano generalmente più sicuri di altri. Il modello "migliore" (Claude Haiku 3.5) ha ottenuto un punteggio complessivo dell'86,2%, mentre il "peggiore" (Command R) ha ottenuto il 52,4%.
- Punto Cruciale: Anche il modello "migliore" ha fallito miserabilmente nella categoria Privacy. Nessun modello era perfetto in tutto.

4. La Grande Conclusione

L'articolo conclude che la sicurezza non è un singolo interruttore. Non puoi semplicemente accendere un interruttore e dire: "Questa AI è sicura".

Un'AI può essere un supereroe nel fermare i discorsi d'odio, ma un totale fallimento nel fermare qualcuno che finge di essere una celebrità.
La "sicurezza" di un'AI dipende interamente da cosa le stai chiedendo di fare e contro quali regole la stai testando.

Riassunto in Una Frase

L'articolo mostra che, sebbene i modelli AI di oggi siano molto bravi a seguire regole semplici e ben note (come "non essere scortese"), sono ancora molto bravi a gestire situazioni complesse e grigie (come "non fingere di essere una persona reale"), e abbiamo bisogno di strumenti migliori e personalizzabili come Aymara AI per continuare a testarli finché non faranno le cose correttamente.

1. Enunciato del Problema

Man mano che i Modelli Linguistici di Grande Dimensione (LLM) vengono sempre più implementati in settori ad alto rischio (sanità, diritto, finanza), la necessità di una valutazione della sicurezza rigorosa e scalabile è diventata critica. Tuttavia, i metodi attuali di valutazione della sicurezza presentano diverse limitazioni:

Variabilità Contestuale: La "sicurezza" non è un concetto monolitico; varia in base al dominio, alla giurisdizione legale e alle norme culturali.
Trade-off Statico vs. Dinamico: I framework esistenti sono spesso o facili da creare ma statici (ad esempio, controlli generali sulla tossicità) o dinamici ma intensivi in termini di risorse (richiedendo la creazione manuale di dataset).
Mancanza di Personalizzazione: La maggior parte degli strumenti non possiede la capacità di adattarsi facilmente a politiche specifiche, rischi emergenti o lingue diverse dall'inglese.
Lacune nella Valutazione: Esiste un divario significativo nella valutazione della sicurezza attraverso diverse modalità (da testo a immagine, audio) e in domini di rischio specifici e sfumati come la privacy e l'impersonificazione.

Il documento sostiene che, senza strumenti scalabili, personalizzabili e basati su politiche, è impossibile operationalizzare efficacemente la sicurezza dell'IA nell'ampio panorama dei moderni LLM.

2. Metodologia

Gli autori introducono Aymara AI, una piattaforma programmatica progettata per automatizzare la generazione e la valutazione delle valutazioni di sicurezza basate su politiche in linguaggio naturale.

A. Il Framework Aymara AI

Input: Gli sviluppatori specificano una descrizione del sistema di IA e un insieme di politiche di sicurezza in linguaggio naturale (ad esempio, "Non generare informazioni false").
Generazione dei Prompt: Il sistema utilizza un SDK per generare programmaticamente prompt avversariali adattati per testare specifici confini delle politiche. Impiega tecniche quali:
- Generazione Zero-shot: Creazione di 25 prompt avversariali per politica senza elaborazione manuale.
- Esempi Few-shot: Fornitura di prompt esemplificativi per domini sfumati (ad esempio, Discorsi d'Odio, Copyright) per guidare il generatore verso casi limite.
- Istruzioni Dettagliate: Orientamento del generatore per evitare stili narrativi o di finzione e concentrarsi su query utente realistiche, dirette e manipolatorie.
Valutazione (LLM-as-a-Judge): Le risposte del modello sono valutate da un valutatore AI validato (un LLM) che restituisce un'etichetta binaria sicura/non sicura, un punteggio di confidenza e una motivazione in linguaggio naturale.
Validazione: Il sistema di valutazione è stato validato contro giudizi umani su un sottoinsieme stratificato, ottenendo:
- Accuratezza: 0,93
- Punteggio F1 ponderato: 0,93
- Kappa di Cohen: 0,85 (accordo sostanziale).

B. Configurazione Sperimentale: La Matrice di Rischio e Responsabilità Aymara per LLM

Ambito: Valutazione di 20 LLM commercialmente disponibili (inclusi GPT-4.1, Claude 3.5/4, Llama 4, Gemini 2.5, ecc.) dei principali fornitori (OpenAI, Anthropic, Google, Meta, Amazon, ecc.).
Dominii: Sono stati definiti dieci distinti domini di sicurezza basati su letteratura accademica, politiche dei fornitori e regolamenti (ad esempio, AI Act dell'UE):
1. Abusi su Minori e Animali
2. Violazione del Copyright e della Proprietà Intellettuale
3. Discorsi d'Odio e Bias
4. Attività Illegali
5. Uso Malevolo
6. Disinformazione
7. Privacy e Impersonificazione
8. Autolesionismo
9. Esplicito Sessuale / NSFW
10. Consigli Professionali Non Qualificati
Dati: Sono stati generati 250 prompt basati su politiche (25 per dominio), risultando in 5.000 risposte totali del modello.
Protocollo: Le valutazioni sono state condotte in un setting zero-shot utilizzando le impostazioni API predefinite tra maggio e giugno 2025.

3. Contributi Chiave

Piattaforma Aymara AI: Introduce un framework nativo per l'IA, scalabile, che trasforma le politiche in linguaggio naturale in suite di test avversariali, eliminando la necessità di creazione manuale di dataset e supportando la valutazione multilingue e multimodale.
Benchmark Completo: Fornisce il confronto cross-modello più esteso finora, valutando 20 LLM leader attraverso 10 dimensioni critiche di sicurezza.
Evidenza Empirica di Incoerenza: Dimostra che anche gli LLM più avanzati violano frequentemente le politiche di sicurezza, con prestazioni che variano drasticamente in base al dominio e al fornitore.
Identificazione di Vulnerabilità Critiche: Evidenzia aree specifiche in cui le attuali barriere di sicurezza sono insufficienti, in particolare per quanto riguarda privacy, impersonificazione e consigli professionali.

4. Risultati Chiave

Lo studio ha rivelato significative disparità nelle prestazioni di sicurezza, con un punteggio medio complessivo di sicurezza del 73,2% su tutti i modelli e domini.

A. Varianza delle Prestazioni del Modello

Migliore Esecutore: Claude Haiku 3.5 (Anthropic) con un punteggio medio del 86,2%.
Peggior Esecutore: Command R (Cohere) con un punteggio medio del 52,4%.
Significatività Statistica: Sebbene un'ANOVA abbia mostrato una varianza significativa tra i modelli ( $p = .04$ ), i test post-hoc Tukey HSD non hanno identificato differenze specifiche tra coppie che rimanessero significative dopo la correzione, suggerendo una fascia di prestazioni ampia in cui nessun singolo fornitore domina tutte le categorie.
Trend dei Fornitori: I modelli di Anthropic, OpenAI, Amazon e Google si sono generalmente classificati nel primo livello, sebbene anche questi abbiano faticato in domini specifici.

B. Gerarchia delle Prestazioni per Dominio

Le prestazioni di sicurezza erano altamente dipendenti dal contesto, creando una chiara gerarchia di rischio:

Domini ad Alta Prestazione (Primo Livello):
- Disinformazione (Media: 95,7%)
- Uso Malevolo (Media: 91,8%)
- Discorsi d'Odio e Bias (Media: 91,1%)
- Osservazione: Questi domini beneficiano di pratiche di moderazione dei contenuti di lunga data e definizioni chiare.
Domini a Bassa Prestazione (Ultimo Livello):
- Privacy e Impersonificazione (Media: 24,3%) – L'area più debole. Nessun modello ha raggiunto una sicurezza superiore al 45,5% qui.
- Consigli Professionali Non Qualificati (Media: 53,8%)
- Esplicito Sessuale / NSFW (Media: 60,0%)
- Osservazione: Questi domini richiedono un giudizio sfumato, bilanciando casi d'uso creativi con la sicurezza, o coinvolgono complesse restrizioni di identità/privacy che le attuali barriere di sicurezza non riescono a far rispettare in modo coerente.

C. Risultati Statistici

L'ANOVA ha confermato differenze significative nei punteggi di sicurezza tra i domini ( $F(9, 190) = 37,37, p < .001$ ).
L'analisi post-hoc ha confermato che i domini del "Primo Livello" (Disinformazione, Uso Malevolo, Discorsi d'Odio) hanno performato significativamente meglio rispetto al "Ultimo Livello" (Privacy, Consigli Professionali, NSFW).

5. Significato e Implicazioni

La Sicurezza Non è Monolitica: Il documento dimostra che la "sicurezza degli LLM" non è una singola metrica. Un modello può essere altamente sicuro contro la disinformazione ma pericolosamente insicuro riguardo alla privacy o all'impersonificazione.
Il "Divario della Privacy": I punteggi estremamente bassi nella Privacy e Impersonificazione (media 24,3%) indicano un fallimento critico a livello industriale. I modelli attuali faticano a distinguere tra scrittura creativa (ad esempio, scrivere una canzone come Adele) e impersonificazione dannosa, suggerendo la necessità di un migliore addestramento sui rischi basati sull'identità.
Necessità di Valutazione Dinamica: I benchmark statici sono insufficienti. La capacità di generare programmaticamente nuovi prompt avversariali basati su politiche in evoluzione (come fa Aymara AI) è essenziale per tenere il passo con le capacità dei modelli e le minacce emergenti.
Impatto su Regolamentazione e Sviluppo: I risultati supportano la necessità di strumenti di valutazione personalizzabili e basati su politiche per i regolatori (per far rispettare leggi come l'AI Act dell'UE) e per gli sviluppatori (per auditare contesti di implementazione specifici).

Conclusione: Sebbene la sicurezza degli LLM sia migliorata in aree ben definite, rischi significativi e incoerenti rimangono in domini sfumati. Gli autori concludono che strumenti scalabili e personalizzabili come Aymara AI sono necessari per operationalizzare la sicurezza, garantendo che lo sviluppo dell'IA rimanga allineato a standard legali, culturali ed etici diversificati.