Sequential Fairness Auditing with Limited Output Access

Resumo Técnico: Auditoria de Equidade Sequencial com Acesso Limitado à Saída

Formulação do Problema
Auditores externos são cada vez mais incumbidos de avaliar sistemas de IA para conformidade regulatória (ex: Lei de IA da UE), mas tipicamente carecem de acesso aos parâmetros do modelo, dados de treinamento ou documentação interna. Em vez disso, devem confiar em interações baseadas em consultas aos sistemas implantados. Os métodos existentes de avaliação de equidade assumem predominantemente conjuntos de dados estáticos e testes estatísticos de amostra fixa, que são mal adequados para cenários do mundo real onde evidências devem ser coletadas sequencialmente sob orçamentos de consulta rigorosos.

Este trabalho aborda o desafio de auditar a equidade sob acesso limitado à saída, onde o auditor observa apenas as saídas do modelo (decisões, pontuações ou logits) para entradas selecionadas. O problema central é formulado como um problema de teste de hipótese sequencial tolerante à margem. Diferente dos tradicionais testes de nulidade pontual, o contexto regulatório define a conformidade em relação a um limiar de tolerância $\delta$. O auditor busca determinar se uma métrica de equidade $g(f)$ satisfaz $g(f) \le \delta$ (conformidade) ou $g(f) > \delta$ (violação) acumulando evidências sequencialmente e interrompendo assim que o suporte estatístico suficiente for obtido ou o orçamento de consulta for esgotado.

Metodologia
Os autores propõem um framework de Razão de Verossimilhança Generalizada (GLR) Sequencial projetado para pools de auditoria finitos e níveis variados de acesso ao modelo.

1. Métricas de Equidade e Hipóteses: O framework visa duas métricas primárias:

   • Paridade Estatística (SP): $|P(f(X)=1|A=a) - P(f(X)=1|A=b)| \le \delta$.
   • Igualdade de Oportunidade (EO): $|P(f(X)=1|Y=1, A=a) - P(f(X)=1|Y=1, A=b)| \le \delta$.
     A hipótese nula $H_0$ representa a conformidade ($g(f) \le \delta$), e a alternativa $H_1$ representa a violação ($g(f) > \delta$).

2. Regimes de Acesso: A metodologia distingue três níveis de observabilidade:

   • Apenas decisão (Black-box): O auditor observa previsões binárias $\hat{Y} \in \{0,1\}$. O modelo de verossimilhança é Bernoulli.
   • Acesso a pontuação (Gray-box): O auditor observa pontuações de predição $S(x) \in [0,1]$. O framework trata estes como auditorias de proxy usando um modelo de verossimilhança Gaussiana para as médias das pontuações condicionais por grupo.
   • Acesso a logit (Proxy White-box): O auditor observa logits pré-sigmoide $Z(x)$. Semelhante às pontuações, são usados para auditorias de proxy com um modelo de verossimilhança Gaussiana.

3. Procedimento Sequencial:

   • O auditor consulta um pool de auditoria fixo e mantido à parte (ou um sub-pool filtrado para EO onde $Y=1$) em uma ordem aleatória sem reposição.
   • Em cada etapa $t$, uma estatística GLR $\Lambda_t$ é computada com base nos dados acumulados.
   • Regras de Parada: A auditoria termina se $\Lambda_t$ cruzar um limite superior $u$ (rejeita $H_0$, violação detectada) ou um limite inferior $\ell$ (aceita $H_0$, conformidade certificada). Se o orçamento máximo $B$ for atingido sem cruzar um limite, o resultado é declarado inconclusivo.
   • Os limites são definidos usando aproximações do tipo Wald ($u = \log((1-\beta)/\alpha)$, $\ell = \log(\beta/(1-\alpha))$) para taxas de erro nominais $\alpha=0.05$ e $\beta=0.2$.

Principais Contribuições

1. Formulação Sequencial: O artigo formaliza a auditoria de equidade sob acesso limitado como um problema de decisão estatística sequencial com limiares de tolerância explícitos, indo além da avaliação em lote estática.
2. Protocolo GLR: Desenvolve um protocolo de teste GLR sequencial com regras de parada operacionais para restrições de equidade compostas, aplicável tanto a auditorias baseadas em decisões quanto a auditorias de proxy (pontuação/logit).
3. Análise Sensível ao Acesso: O trabalho analisa sistematicamente como diferentes regimes de acesso (apenas decisão vs. observáveis mais ricos) afetam a eficiência da auditoria, distinguindo entre testes exatos baseados em decisão e auditorias de proxy.
4. Insights Empíricos: Através de experimentos nos datasets ACS e Adult, os autores identificam fenômenos práticos na auditoria sequencial, incluindo o impacto da escolha da métrica (SP vs. EO) e a ambiguidade estatística próxima aos limiares regulatórios.

Resultos
Experimentos foram conduzidos em datasets de referência (ACS e Adult) utilizando vários modelos de redes neurais (base e com restrição de equidade). As principais descobertas incluem:

• Impacto dos Regimes de Acesso: Informações de saída mais ricas reduzem significamente o número de consultas necessárias para auditorias de Paridade Estatística (SP). Por exemplo, no dataset ACS, o acesso a logits reduziu a contagem média de consultas em cerca de um fator de três comparado ao acesso de apenas decisão. No entanto, para Igualdade de Oportunidade (EO), os benefícios de um acesso mais rico não são uniformes.
• Dificuldade das Auditorias de EO: Auditorias de EO são inerentemente mais intensivas em amostras do que as de SP. Isso é atribuído ao fato de que a EO opera sobre um sub-pool condicional ($Y=1$), que é menor e pode ter composições de grupo menos favoráveis para a acumulação de evidências. Em casos próximos ao limiar (ex: Adult EO), o acesso mais rico (pontuações/logits) não resultou consistentemente em auditorias mais rápidas ou conclusivas; muitas execuções terminaram inconclusivas mesmo com orçamentos de consulta elevados.
• Trade-off Eficiência vs. Precisão: A auditoria sequencial reduz drasticamente o custo de consulta em comparação com baselines de amostra fixa (ex: usando apenas ~200 consultas vs. 4000 para SP no Adult). No entanto, essa eficiência vem com um trade-off: em cenários desafiadores, próximos ao limiar, as auditorias sequenciais podem produzir mais resultados inconclusivos ou menor precisão de decisão em comparação com o teste de amostra fixa que utiliza todo o orçamento.
• Efeitos de Limite: Modelos com lacunas de equidade próximas ao limiar regulatório $\delta$ frequentemente geram resultados inconclusivos dentro de orçamentos realistas, destacando a dificuldade estatística de distinguir conformidade de violação nesses regimes.

Significância e Alegações
O artigo afirma fornecer um framework estatístico prático para auditoria de equidade sequencial que reflete restrições reais de implantação, onde auditores têm acesso limitado. Demonstra que:

• Os resultados da auditoria de equidade dependem não apenas do modelo, mas também do protocolo estatístico e do nível de acesso do auditor.
• Embora saídas mais ricas possam melhorar substancialmente a eficiência da auditoria para certas métricas (como SP), elas não garantem auditorias mais rápidas para todas as métricas (como EO), particularmente quando as disparidades estão próximas do limiar de tolerância.
• O framework proposto operacionaliza o conceito de auditoria "tolerante à margem", reconhecendo que pequenas disparidades podem ser legalmente permitidas, e fornece um mecanismo para interromper a coleta de dados assim que evidência suficiente seja reunida.

Os autores observam limitações, incluindo o foco em grupos binários e classificação binária, o uso de auditorias de proxy para acesso a pontuação/logit (que não fornecem garantias exatas para restrições de decisão rígida) e o uso de calibrações de amostra finita operacionais em vez de exatas para os limites de parada. Eles sugerem que trabalhos futuros poderiam explorar configurações de múltiplos grupos, estratégias de consulta adaptativas e sequências de confiança.