Sintesi Tecnica: SHARP – Analisi del Danno Sociale tramite Profili di Rischio

Definizione del Problema

I Large Language Models (LLM) sono sempre più impiegati in domini ad alto rischio (es. sanità, finanza, giustizia penale) dove fallimenti rari ma gravi possono causare danni irreversibili. Gli attuali benchmark di valutazione si basano prevalentemente su punteggi scalari centrati sulla media (es. accuratezza media, punteggi di bias aggregati). Il paper sostiene che tali metriche siano insufficienti perché:

1. Oscurano la struttura distributiva: Comprimono comportamenti eterogenei in stime puntuali, nascondendo la variabilità delle risposte del modello.
2. Ignorano il comportamento della coda: Modelli con prestazioni medie simili possono esibire comportamenti peggiori (eventi nella coda superiore) drasticamente divergenti, che dominano il rischio pratico nei contesti ad alto rischio.
3. Confondono le interazioni cross-dimensionali: Non riescono a catturare come diversi modi di fallimento (bias, equità, etica, affidabilità epistemica) interagiscano e si sommino.

Di conseguenza, le pratiche di valutazione prevalenti sono scarsamente allineate ai rischi di deployment, e i meccanismi di governance faticano a tradurre i principi di alto livello in metriche verificabili e sensibili al rischio.

Metodologia: Il Framework SHARP

Gli autori introducono Social Harm Analysis via Risk Profiles (SHARP), un framework progettato per una valutazione multidimensionale e consapevole della distribuzione del danno sociale. SHARP tratta il danno non come una quantità scalare, ma come una variabile aleatoria multivariata su una distribuzione fissa di prompt.

1. Protocollo di Valutazione

• Corpus: La valutazione è condotta su un corpus fisso di $n=901$ prompt socialmente sensibili derivati dal Bias Evaluation and Assessment Test Suite (BEATS) e dal benchmark BBQ.
• Giudizio: Le risposte di 11 LLM di frontiera sono valutate da tre giudici basati su LLM in cieco (Claude Sonnet 4.5, Gemini 2.5 Pro, GPT-5.1).
• Aggregazione: Gli output dei giudici (indicatori booleani e punteggi di severità ordinali) sono normalizzati nell'intervallo $[0, 1]$. Per tenere conto del disaccordo enfatizzando le valutazioni severe, i punteggi sono aggregati utilizzando un operatore Log-Sum-Exp (LSE) con un parametro di temperatura $\tau=0.20$. Questo interpola tra il pooling della media e del massimo, mantenendo la sensibilità verso le valutazioni peggiori.

2. Decomposizione Dimensionale

SHARP decompone il danno sociale in quattro dimensioni distinte, ciascuna rappresentata come un sotto-indice:

• Bias (B): Misura l'ampiezza delle categorie colpite, l'intensità del danno e i fattori amplificanti (esplicitezza, intersezionalità).
• Fairness (F): Cattura gli indizi di trattamento iniquo all'interno della risposta (disparità demografica, gap di uguaglianza di opportunità, disparità di gruppo).
• Etica (E): Aggrega indicatori di disallineamento dei valori (disallineamento etico, conflitto di valori, rischio di danno, insensibilità culturale, rischio di esclusione).
• Affidabilità Epistemica (K): Misura l'inaffidabilità (inconsistenza epistemica, rischio epistemico).

3. Aggregazione Sensibile al Rischio

Per modellare il danno composto, SHARP utilizza una formulazione di unione dei fallimenti ispirata all'analisi dell'affidabilità.

• Danno Composto: La probabilità che si verifichi un danno in qualsiasi dimensione è modellata come $H = 1 - \prod (1 - h_i)$.
• Log-Rischio Additivo: Per evitare la saturazione vicino a 1 e consentire la decomponibilità, SHARP riparametrizza la sicurezza residua utilizzando una trasformazione logaritmica negativa. Il log-rischio cumulativo $L$ è definito come:
  $$L = -\log(1 - H + \epsilon) = \sum_i -\log(1 - h_i + \epsilon)$$
  Questo trasforma le intensità di danno limitate in unità di rischio illimitate, dove i contributi additivi dalle singole dimensioni rappresentano la pressione del rischio composto.

4. Profilazione Distributiva

Inveve di riportare un singolo punteggio medio, SHARP caratterizza la distribuzione empirica dei valori di log-rischio cumulativo per prompt di ogni modello utilizzando:

• Log-Rischio Atteso ($\mu_L$): Tendenza centrale.
• Volatilità del Rischio ($\sigma_L$): Dispersione del rischio tra i prompt.
• Conditional Value at Risk ($CVaR_{0.95}$): La metrica primaria, che rappresenta il log-rischio atteso tra il 5% dei prompt con le prestazioni peggiori. Questo cattura esplicitamente la severità della coda.

Risultati Chiave

Il framework è stato applicato a 11 LLM di frontiera (inclusi sistemi proprietari e a pesi aperti).

1. Divergenza tra Media e Rischio di Coda

Modelli con profili di rischio medio simili hanno mostrato differenze pronunciate nel comportamento della coda.

• Esempio: Claude Sonnet 4.5 ha ottenuto un $CVaR_{0.95}$ di 1.69, mentre DeepSeek-Chat e Mistral-Large hanno raggiunto rispettivamente 5.73 e 5.99. Ciò rappresenta un aumento di oltre tre volte del danno composto nel caso peggiore, nonostante i valori di log-rischio medio relativamente vicini.
• Significato: I riassunti basati sulla media sottostimano sistematicamente i comportamenti estremi. LLaMA-3 405B ha mostrato un $CVaR_{0.95}$ oltre quattro volte superiore rispetto al modello con il rischio più basso.

2. Eterogeneità Dimensionale

• Severità Marginale della Coda: I danni legati al bias hanno costantemente mostrato le severità di coda più forti tra i modelli. I rischi epistemici e di equità occupano regimi intermedi, mentre il disallineamento etico è stato costantemente più basso.
• Attribuzione del Rischio Composto: I driver dei fallimenti composti nel caso peggiore variano per modello. Per alcuni sistemi (es. Claude 3.5 Sonnet, GPT-4o), l'inaffidabilità epistemica è un importante contributore al rischio di coda. Per altri (es. modelli a pesi aperti ad alto rischio), i meccanismi legati al bias dominano. Ciò indica che nessuna singola dimensione guida uniformemente gli esiti peggiori tra i vari modelli.

3. Validazione Statistica

• Stabilità: L'analisi tramite bootstrap resampling e leave-one-judge-out ha confermato che i ranking dei modelli basati su $CVaR_{0.95}$ sono stabili e robusti rispetto alle variazioni nella composizione dei giudici e nei parametri di aggregazione.
• Dipendenza dai Prompt: La decomposizione della varianza ha rivelato che l'identità del prompt spiega una quota maggiore della varianza totale (25.8%) rispetto all'identità del modello (13.9%), sottolineando la natura sensibile al contesto del danno sociale e la necessità di un'analisi distributiva rispetto alle stime puntuali.

Significato e Rivendicazioni

Il paper posiziona SHARP come un avanzamento metodologico piuttosto che come una fonte di tassi di danno reale assoluti e calibrati.

• Passaggio dallo Scalare al Distributivo: Il contributo primario è l'argomento secondo cui il danno sociale non può essere adeguatamente caratterizzato come una quantità scalare. Una valutazione efficace richiede metodi che modellino esplicitamente la geometria distributiva del danno e le sue interazioni cross-dimensionali.
• Selezione Vincolata al Rischio: SHARP consente un passaggio dalla selezione basata sull'ordinamento totale delle prestazioni medie alla selezione di modelli vincolata al rischio. Utilizzando soglie sensibili alla coda (es. $CVaR_{0.95}$), gli stakeholder possono escludere modelli con un'esposizione inaccettabile nel caso peggiore, indipendentemente dalla loro prestazione media.
• Mitigazione Mirata: La decomposizione dimensionale permette di diagnosticare specifici modi di fallimento (es. distinguere tra rischi di coda guidati dal bias o dall'inaffidabilità epistemica), supportando interventi mirati anziché rimedi uniformi.
• Limitazioni: Gli autori dichiarano esplicitamente che SHARP non fornisce garanzie di equità a livello di popolazione o probabilità calibrate di danno nel mondo reale. Il framework valuta il comportamento intrinseco, a turno singolo, sotto un corpus fisito di prompt principalmente in lingua inglese. Un basso rischio misurato può riflettere il rifiuto o la deviazione piuttosto che l'esecuzione sicura del compito, e i risultati sono condizionati dall'ensemble di giudici scelto.

In sintesi, SHARP fornisce una base riproducibile e consapevole della distribuzione per la valutazione comparativa e sensibile alla coda, dimostrando che una valutazione significativa del rischio degli LLM richiede di andare oltre le medie scalari verso una profilazione multidimensionale del comportamento peggiore.