Resumo Técnico: Quão Confiáveis são as Auditorias de Equidade com Dados Não Confiáveis?

Declaração do Problema

As auditorias de equidade são essenciais para a implantação responsável de aprendizado de máquina, mas sua confiabilidade sob ausência de rótulos protegidos (protected-label missingness) permanece mal compreendida. Na prática, atributos demográficos (ex: raça, sexo) são frequentemente ausentes devido à não coleta, recusa do usuário ou inconsistências nos registros. Quando esses rótulos estão ausentes, os auditores não conseguem calcular com precisão as disparidades em nível de grupo ou selecionar métodos de mitigação apropriados.

O desafio central abordado é distinguir entre a instabilidade da auditoria causada pela ausência de dados e a instabilidade inerente ao próprio processo de auditoria (ex: variação de semente para semente, métodos candidatos quase equivalentes e desempate determinístico). Sem uma linha de base para o ruído "comum" da auditoria, uma mudança na recomendação devido à ausência de rótulos pode ser interpretada erroneamente como uma falha crítica do framework de auditoria, em vez de um reflexo da variância estocástica padrão.

Metodologia

Os autores propõem um teste de estresse calibrado por semente para isolar os efeitos da ausência de dados do ruído inerente à auditoria. A metodologia envolve:

1. Configuração Experimental:

   • Tarefas: Quatro tarefas de classificação binária do conjunto de dados ACS/Folktables (Renda, Emprego, Cobertura Pública, Mobilidade).
   • Visões Protegidas: Raça (RAC1P), Sexo (SEX) e sua interseção (RAC1P×SEX).
   • Métodos Candidatos: Minimização de Risco Empírico (ERM), Mistura de Características (Feature Mixing), Reponderação (Reweighing), Mistura de Grupos Protegidos (Protected-Group Mixing) e Otimização de Limiar de Igualdade de Oportunidades (Equalized-Odds Threshold Optimization).
   • Critérios de Seleção: Igualdade de Oportunidades (EO) restrita à acurácia, Paridade Demográfica (DP), Acurácia do Pior Grupo (WGA) e EO Interseccional.

2. Regimes de Ausência de Dados:

   • Oráculo de Rótulo Completo ($r_0$): Todos os rótulos protegidos estão disponíveis.
   • Ausência Completamente ao Acaso (MCAR): Rótulos ocultos nas taxas de 80%, 60%, 50%, 40%, 20%, 10% e 0%.
   • Ausência Não Ao Acaso (MNAR): Correspondente aos alvos específicos de MCAR (50%, 20%, 10%) com acesso assimétrico a rótulos (grupos majoritários retêm maior disponibilidade).
   • Avaliação: Os rótulos são sempre mantidos para a fase de avaliação para garantir que as métricas sejam computadas contra a verdade fundamental (ground truth); a ausência afeta apenas o treinamento e a mitigação de pós-processamento.

3. Mecanismo de Calibração:

   • Nulo de Par de Sementes (Seed-Pair Null): A auditoria é executada novamente com rótulos completos usando sementes aleatórias diferentes ($s, s'$). A frequência de mudanças de recomendação entre essas sementes estabelece uma linha de base de "ruído" da auditoria.
   • Taxa de Inversão Excedente Correspondida ($\Delta_c(r)$): A diferença entre a taxa de inversão observada sob ausência de dados e o nulo de par de sementes. Um $\Delta$ positivo indica que a ausência de dados causa instabilidade além da variância padrão da auditoria.
   • Tela de Regressão Oculta: Verifica se um método melhora a equidade de eixo único (ex: raça ou sexo) enquanto piora os resultados interseccionais (ex: raça×sexo) ou a Acurácia do Pior Grupo (WGA).

4. Validação: Um experimento secundário repete a auditoria usando um aprendiz base de Floresta Aleatória (Random Forest) para testar a robustez contra modelos de maior variância.

Principais Resultados

1. A Ausência de Dados Frequentemente Permanece Abaixo do Nulo da Semente

Ao contrário da intuição de que a ausência de rótulos desestabiliza as auditorias, o estudo descobre que a ausência de dados com disponibilidade positiva geralmente não move a seleção de métodos de mitigação além do piso de semente de rótulos completos.

• Taxas de Inversão Brutas: 37,3% das comparações de rótulos ausentes resultaram em uma seleção de método diferente.
• Linha de Base Nulo de Semente: 53,8% das comparações de pares de sementes de rótulos completos resultaram em uma inversão.
• Achado Calibrado: Após a calibração, a maioria dos regimes de ausência (MCAR e MNAR com >0% de disponibilidade) cai abaixo do piso de ruído da semente. Apenas o endpoint de 0% (sem rótulo) excede o piso da semente (+6,3 pontos percentuais), principalmente devido ao desempate determinístico entre candidatos equivalentes ao ERM.

2. A Composição do Conjunto de Candidatos Importa

A "taxa de inversão" é altamente sensível ao conjunto de candidatos. Quando a auditoria é restrita a {ERM, Reweighing, Threshold Optimization}, a taxa de inversão bruta cai para 33,8% contra um nulo de semente de 39,8%. Isso sugere que a fragilidade aparente é frequentemente um artefato de incluir métodos quase equivalentes que disparam regras de desempate, em vez de uma falha fundamental da lógica da auditoria.

3. A Otimização de Limiar Impulsiona o Dano Interseccional

A falha de confiabilidade mais significativa identificada é a regressão interseccional oculta, onde ganhos de equidade de eixo único mascaram danos em subgrupos.

• Taxa de Regressão Oculta Geral: 69,9% (calibrada contra um nulo de semente de 55,0%).
• Impulsionador: A Otimização de Limiar (Threshold Optimization) é o principal impulsionador, com uma taxa de regressão oculta de 94,2%. Ela frequentemente melhora as métricas de EO de eixo único enquanto causa quedas severas na Acurácia do Pior Grupo (queda mediana de 12,34 pp).
• Outros Métodos: Reweighing e Feature Mixing mostram taxas de regressão oculta mais baixas (29,6% e 36,2%, respectivamente) e permanecem abaixo do nulo da semente quando a otimização de limiar é excluída.

4. Robustez à Variância do Aprendiz Base

A validação com uma Floresta Aleatória (maior variância que a Regressão Logística) confirmou os principais achados:

• As taxas de inversão estritas aumentaram ligeiramente (37,3% para 41,1%), mas a ordenação relativa dos efeitos de ausência permaneceu consistente.
• O padrão de regressão oculta impulsionado pela otimização de limiar persistiu (taxa de 93,5%), confirmando que o modo de falha é específico do método e não do modelo.

Significância e Alegações

O artigo argumenta que a ausência de rótulos protegidos não deve ser tratada como evidência de fragilidade da auditoria sem a devida calibração. Os autores alegam que:

1. Necessidade de Calibração de Nulo de Semente: Análises de sensibilidade brutas (ex: "o método mudou quando os rótulos foram ocultados") são enganosas. As auditorias devem relatar se a mudança excede a variação inerente ao processo de auditoria sob rótulos completos.
2. Relato Contextual: Os relatórios de auditoria devem incluir:
   • Calibração de nulo de semente: Para distinguir efeitos de ausência de dados do ruído.
   • Contexto do conjunto de candidatos: Para considerar artefatos de desempate.
   • Consequências interseccionais: Para detectar regressões ocultas onde ganhos de eixo único escondem danos interseccionais.
3. Modos de Falha Específicos: O estudo identifica a otimização de limiar como um método de alto risco que pode produzir regressões ocultas "acima do nulo", particularmente quando os rótulos são esparsos.
4. Curvas de Disponibilidade Acionáveis: As auditorias devem visualizar como os métodos se comportam através de um espectro de disponibilidade de rótulos, separando mudanças de recomendação da degradação de métricas.

Em resumo, o trabalho fornece um framework de diagnóstico para evitar a interpretação errônea dos efeitos da ausência de dados, enfatizando que muitas instabilidades observadas são artefatos da variância padrão da auditoria ou comportamentos de métodos específicos (como a otimização de limiar), em vez de uma incapacidade geral de auditar sob ausência de dados.