Sequential Fairness Auditing with Limited Output Access

Sintesi Tecnica: Audit di Equità Sequenziale con Accesso Limitato all'Output

Formulazione del Problema
Gli auditor esterni sono sempre più chiamati a valutare i sistemi di IA per la conformità normativa (ad esempio, l'EU AI Act), pur mancando tipicamente dell'accesso ai parametri del modello, ai dati di addestramento o alla documentazione interna. Invece, devono fare affidamento su interazioni basate su query con i sistemi implementati. I metodi esistenti di valutazione dell'equità presuppongono prevalentemente dataset statici e test statistici a campione fisso, che sono poco adatti agli scenari reali in cui le prove devono essere raccolte sequenzialmente sotto rigorosi budget di query.

Questo lavoro affronta la sfida dell'audit di equità sotto un accesso limitato all'output, dove l'auditor osserva solo gli output del modello (decisioni, punteggi o logit) per input selezionati. Il problema centrale è formulato come un problema di test d'ipotesi sequenziale consapevole della tolleranza. A differenza dei tradizionali test di ipotesi nulla puntuale, il contesto normativo definisce la conformità rispetto a una soglia di tolleranza $\delta$. L'auditor mira a determinare se una metrica di equità $g(f)$ soddisfi $g(f) \le \delta$ (conformità) o se $g(f) > \delta$ (violazione), accumulando evidenze sequenzialmente e interrompendo l'attività non appena si ottiene un supporto statistico sufficiente o si esaurisce il budget di query.

Metodologia
Gli autori propongono un framework Sequential Generalized Likelihood Ratio (GLR) progettato per pool di audit finiti e diversi livelli di accesso al modello.

1. Metriche di Equità e Ipotesi: Il framework si rivolge a due metriche primarie:

   • Parità Statistica (SP): $|P(f(X)=1|A=a) - P(f(X)=1|A=b)| \le \delta$.
   • Uguaglianza di Opportunità (EO): $|P(f(X)=1|Y=1, A=a) - P(f(X)=1|Y=1, A=b)| \le \delta$.
     L'ipotesi nulla $H_0$ rappresenta la conformità ($g(f) \le \delta$), mentre l'ipotesi alternativa $H_1$ rappresenta la violazione ($g(f) > \delta$).

2. Regimi di Accesso: La metodologia distingue tra tre livelli di osservabilità:

   • Solo Decisioni (Black-box): L'auditor osserva predizioni binarie $\hat{Y} \in \{0,1\}$. Il modello di verosimiglianza è Bernoulli.
   • Accesso ai Punteggi (Gray-box): L'auditor osserva punteggi di predizione $S(x) \in [0,1]$. Il framework li tratta come audit proxy utilizzando un modello di verosimiglianza Gaussiana per le medie dei punteggi condizionate al gruppo.
   • Accesso ai Logit (Proxy White-box): L'auditor osserva i logit pre-sigmoide $Z(x)$. Similmente ai punteggi, questi vengono utilizzati per audit proxy con un modello di verosimiglianza Gaussiana.

3. Procedura Sequenziale:

   • L'auditor interroga un pool di audit fisso, tenuto separato (o un sottopool filtrato per EO dove $Y=1$), in ordine casuale senza sostituzione.
   • Ad ogni step $t$, viene calcolata una statistica GLR $\Lambda_t$ basata sui dati accumulati.
   • Regole di Arresto: L'audit termina se $\Lambda_t$ attraversa un limite superiore $u$ (rifiuto di $H_0$, violazione rilevata) o un limite inferiore $\ell$ (accettazione di $H_0$, conformità certificata). Se il budget massimo $B$ viene raggiunto senza aver attraversato un limite, l'esito è dichiarato inconcludente.
   • I limiti sono impostati utilizzando approssimazioni di tipo Wald ($u = \log((1-\beta)/\alpha)$, $\ell = \log(\beta/(1-\alpha))$) per tassi di errore nominali $\alpha=0.05$ e $\beta=0.2$.

Contributi Chiave

1. Formulazione Sequenziale: Il documento formalizza l'audit di equità sotto accesso limitato come un problema di decisione statistica sequenziale con esplicite soglie di tolleranza, andando oltre la valutazione batch statica.
2. Protocollo GLR: Sviluppa un protocollo di test GLR sequenziale con regole di arresto operative per vincoli di equità composti, applicabile sia ad audit basati su decisioni che ad audit proxy (punteggi/logit).
3. Analisi Consapevole dell'Accesso: Il lavoro analizza sistematicamente come i diversi regimi di accesso (solo decisioni vs. osservabili più ricchi) influenzino l'efficienza dell'audit, distinguendo tra test esatti basati su decisioni e audit proxy.
4. Insight Empirici: Attraverso esperimenti sui dataset ACS e Adult, gli autori identificano fenomeni pratici nell'auditing sequenziale, inclusi l'impatto della scelta della metrica (SP vs. EO) e l'ambiguità statistica vicino alle soglie normative.

Risultati
Gli esperimenti sono stati condotti su dataset benchmark (ACS e Adult) utilizzando vari modelli di reti neurali (base e con vincoli di equità). Le principali scoperte includono:

• Impatto dei Regimi di Accesso: Informazioni di output più ricche riducono significativamente il numero di query richieste per gli audit di Parità Statistica (SP). Ad esempio, sul dataset ACS, l'accesso ai logit ha ridotto il conteggio medio delle query di circa un fattore tre rispetto all'accesso solo alle decisioni. Tuttavia, per l'Uguaglianza di Opportunità (EO), i benefici di un accesso più ricco non sono uniformi.
• Difficoltà degli Audit EO: Gli audit EO sono intrinsecamente più intensivi in termini di campionamento rispetto agli audit SP. Ciò è attribuito al fatto che l'EO opera su un sottopool condizionato ($Y=1$), che è più piccolo e può avere composizioni di gruppo meno favorevoli per l'accumulo di evidenze. Nei casi vicini alla soglia (ad esempio, EO nel dataset Adult), l'accesso più ricco (punteggi/logit) non ha prodotto costantemente audit più rapidi o conclusivi; molte sessioni sono terminate in modo inconcludente anche con budget di query elevati.
• Trade-off tra Efficienza e Accuratezza: L'auditing sequenziale riduce drasticamente il costo delle query rispetto ai baseline a campione fisso (ad esempio, usando solo ~200 query rispetto a 4000 per SP su Adult). Tuttavia, questa efficienza comporta un compromesso: in scenari critici, vicini alla soglia, gli audit sequenziali possono produrre più esiti inconcludenti o una minore accuratezza decisionale rispetto al testing a campione fisso che utilizza l'intero budget.
• Effetti di Confine: I modelli con gap di equità vicini alla tolleranza normativa $\delta$ producono frequentemente esiti inconcludenti entro budget realistici, evidenziando la difficoltà statistica di distinguere la conformità dalla violazione in tali regimi.

Significatività e Rivendicazioni
Il documento sostiene di fornire un framework statistico pratico per l'auditing di equità sequenziale che riflette i vincoli realistici di implementazione dove gli auditor hanno un accesso limitato. Dimostra che:

• Gli esiti dell'audit di equità dipendono non solo dal modello, ma anche dal protocollo statistico e dal livello di accesso dell'auditor.
• Sebbene gli output più ricchi possano migliorare sostanzialmente l'efficienza dell'audit per certe metriche (come SP), non garantiscono audit più rapidi per tutte le metriche (come EO), specialmente quando le disparità sono vicine alla soglia di tolleranza.
• Il framework proposto operazionalizza il concetto di auditing "consapevole della tolleranza", riconoscendo che piccole disparità possono essere legalmente ammissibili, e fornisce un meccanismo per interrompere la raccolta dati una volta ottenute evidenze sufficienti.

Gli autori segnalano alcune limitazioni, tra cui l'attenzione su gruppi binari e classificazione binaria, l'uso di audit proxy per l'accesso a punteggi/logit (che non forniscono garanzie esatte per i vincoli di decisione netta) e l'uso di calibrazioni per i confini di arresto di tipo operativo piuttosto che esatto per campioni finiti. Suggeriscono che il lavoro futuro potrebbe esplorare setting con più gruppi, strategie di query adattive e sequenze di confidenza.