Riepilogo Tecnico: Audit di Sensibilità in Modalità White-Box con Vettori di Steering

Enunciato del Problema

Le attuali audit algoritmiche per i Large Language Models (LLM) si basano prevalentemente su valutazioni in modalità black-box, che valutano il comportamento del modello esclusivamente attraverso test input-output. Questi metodi affrontano tre limitazioni critiche:

1. Vincoli di Superficie: Sono limitati a test costruiti nello spazio di input, spesso generati da euristiche, rendendoli suscettibili alla sensibilità dei prompt e a risultati incoerenti.
2. Difficoltà dei Concetti Astratti: Molte proprietà socialmente rilevanti, come i pregiudizi di genere o razziali, coinvolgono concetti astratti difficili da encapsulare o manipolare con precisione utilizzando esclusivamente input basati sul testo. I modelli possono apparire privi di pregiudizi quando gli attributi protetti espliciti vengono perturbati, ma continuano a esibire pregiudizi attraverso proxy impliciti.
3. Rischio di Goodharting: I fornitori potrebbero ottimizzare i modelli per superare specifici test black-box senza affrontare i problemi sottostanti, portando a valutazioni inaffidabili.

Sebbene l'accesso in modalità white-box (pesi, attivazioni, gradienti) sia teoricamente superiore per comprendere i meccanismi interni, il lavoro precedente non ha fornito un approccio tecnico concreto per condurre tali audit nella pratica.

Metodologia

Gli autori propongono un framework di audit di sensibilità in modalità white-box che sfrutta lo steering delle attivazioni per manipolare le rappresentazioni interne del modello e valutare la sensibilità a concetti specifici. Il framework adatta il metodo di interpretabilità post-hoc di Kim et al. (2018) e utilizza il metodo non supervisionato della Differenza Media Ponderata (WMD) (Cyberey et al., 2025) per l'estrazione dei vettori.

Il processo di audit segue un framework in sei passaggi:

1. Contesto e Requisiti: Definire l'ambiente di distribuzione e i requisiti di sistema (ad esempio, invarianza rispetto al genere nella valutazione del credito).
2. Costruzione dei Test: Progettare template di test rappresentativi allineati agli usi previsti.
3. Estrazione del Vettore di Steering:
   • Viene utilizzato un dataset $D_C$ che copre vari gradi di un concetto target $C$ (ad esempio, linguaggio di genere o differenze dialettali).
   • Il metodo WMD calcola un vettore di steering $v_C$ pesando le attivazioni di input in base ai loro punteggi di disparità (differenza nella probabilità di output tra concetti contrastanti).
   • Vengono applicate offset neutri per filtrare informazioni non correlate e la selezione dei livelli si basa sulla separabilità lineare.
4. Test di Sensibilità:
   • Per un insieme di input di test $D$, i marcatori espliciti dell'attributo protetto vengono neutralizzati o rimossi.
   • La rappresentazione interna $h_x$ di un input viene perturbata: $h'_x = h_x + \lambda v_C$, dove $\lambda \in [-1, 1]$ è il coefficiente di steering.
   • Il modello genera output steerati $y'$ per vari valori di $\lambda$.
5. Valutazione della Conformità:
   • Viene calcolato un Metrica di Sensibilità ($S_C$) adattando una regressione lineare tra il coefficiente di steering $\lambda$ e l'output $y'$. La pendenza rappresenta la dipendenza media del modello dal concetto $C$.
   • Requisito di Invarianza: Il modello soddisfa il requisito se $|S_C| \le \epsilon$ (sensibilità trascurabile).
   • Requisito di Dipendenza: Il modello soddisfa il requisito se $|S_C| \ge \epsilon$ (sensibilità significativa e prevedibile).

Contributi Chiave

1. Framework White-Box Concreto: Il documento introduce un metodo di audit pratico, end-to-end, che utilizza interventi mirati sugli interni del modello anziché perturbazioni di input di superficie.
2. Nuova Metrica di Valutazione: Applica lo steering delle attivazioni per misurare la sensibilità del modello tramite derivate direzionali, consentendo una valutazione dettagliata delle proprietà del modello (ad esempio, pregiudizi) su una scala graduata piuttosto che binaria (passa/non passa).
3. Generalizzabilità: Il metodo dimostra che i vettori di steering estratti da dataset generali (ad esempio, linguaggio di genere) possono essere applicati per manipolare concetti in input specifici per l'attività (ad esempio, richieste di prestito) che potrebbero non essere correlati ai dati di estrazione.
4. Robustezza: L'approccio produce risultati di valutazione più coerenti tra diverse fonti di vettori rispetto alla variabilità osservata nelle strategie di perturbazione black-box.

Risultati Sperimentali

Il metodo è stato valutato su quattro attività decisionali ad alto rischio: Processi Giudiziari, Valutazione del Credito, Ammissioni Universitarie e Diagnosi Medica, utilizzando modelli tra cui Llama-3.1, Ministral, Qwen2.5 e varianti specifiche per il dominio.

• Discrepanza con Black-Box: Nelle attività di Valutazione del Credito e Processi Giudiziari, il metodo white-box ha rilevato frequentemente pregiudizi sostanziali (dipendenza da attributi protetti) dove le valutazioni black-box standard suggerivano poco o nessun pregiudizio. Ad esempio, nell'attività giudiziaria, il modello Saul-7B ha mostrato un pregiudizio di circa il 2,5% nei tassi di condanna tramite test black-box, ma il metodo white-box ha rivelato una differenza di sensibilità del 20% tra gruppi razziali.
• Validazione del Pregiudizio Nascosto: Nella Valutazione del Credito, quando il metodo black-box è stato modificato per utilizzare perturbazioni dei nomi (segnali impliciti di genere) anziché etichette di genere esplicite, il pregiudizio misurato è aumentato e si è allineato alle stime white-box. Ciò suggerisce che il metodo white-box cattura i reali rischi di pregiudizio che le perturbazioni black-box esplicite non rilevano.
• Isolamento delle Variabili: Utilizzando gli indici di Sobol', gli autori hanno dimostrato che lo steering white-box ha avuto un impatto minimo sulle variabili di attività non protette (ad esempio, storia creditizia, durata dell'impiego), mentre le perturbazioni di input black-box (come l'aggiunta di nomi) hanno talvolta alterato la decomposizione di queste variabili da parte del modello.
• Robustezza: I risultati white-box sono rimasti coerenti quando i vettori di steering sono stati derivati da dataset diversi (identità dialettale vs. razziale), mentre i risultati black-box variavano significativamente a seconda che la razza fosse perturbata esplicitamente o implicitamente.

Significato e Affermazioni

Il documento afferma che le valutazioni black-box di superficie sono insufficienti per valutare proprietà astratte del modello come i pregiudizi. Esplorando direttamente le rappresentazioni interne, il metodo white-box proposto:

• Rivela Dipendenze Nascoste: Identifica una sostanziale dipendenza da attributi protetti che sfuggono ai tradizionali test input-output.
• Migliora l'Affidabilità: Fornisce risultati di audit più coerenti, meno sensibili alla specifica costruzione dei prompt di test.
• Migliora l'Interpretabilità: Permette agli auditor di isolare concetti specifici nello spazio latente del modello, offrendo una valutazione più rigorosa della capacità del modello di operare in modo affidabile nel suo contesto di distribuzione previsto.

Gli autori concludono che, sebbene l'ipotesi di rappresentazione lineare sia alla base del loro metodo, questo approccio offre una via pratica verso audit algoritmici più rigorosi, trasparenti e affidabili per gli LLM in contesti ad alto rischio.