Explanatory Interactive Machine Learning for Bias Mitigation in Visual Gender Classification

Resumo Técnico: Aprendizado Interativo Explicativo para Mitigação de Viés em Classificação Visual de Gênero

1. Problema e Motivação

O viés de dados é uma ocorrência comum em Aprendizado de Máquina (ML), onde modelos aprendem correlações espúrias (falsas) em vez de características reais, levando a decisões incorretas. Em tarefas de classificação visual, como a classificação de gênero, os modelos tendem a depender de estereótipos visuais (ex.: objetos de fundo, roupas, contexto) em vez de analisar o próprio sujeito.

Embora existam métodos algorítmicos para mitigar viés, eles geralmente operam sem interação humana. O Aprendizado Interativo Explicativo (XIL - Explanatory Interactive Learning) surge como uma estratégia promissora, permitindo que os usuários guiem o treinamento do modelo fornecendo feedback não apenas sobre o rótulo, mas sobre as explicações do modelo (quais regiões da imagem o modelo está usando para decidir). O objetivo deste estudo é investigar até que ponto o XIL pode detectar e mitigar o viés de gênero, forçando o modelo a focar em características relevantes.

2. Metodologia

Os autores propõem um sistema que integra feedback humano (simulado) no processo de treinamento através de explicações de IA (XAI).

• Abordagens XIL Investigadas:

  1. CAIPI (Counterfactual Augmentation for Interactive Learning): Gera contra-exemplos sintéticos modificando regiões irrelevantes da imagem (definidas por máscaras de segmentação) enquanto mantém o rótulo original. Isso força o modelo a não depender dessas regiões. O estudo introduz uma sequência fixa de transformações de imagem (inversão, posterização, equalização, jitter de cor, solarização) nas áreas irrelevantes.
  2. RRR (Right for the Right Reasons): Adiciona um termo de perda (loss) à função de treinamento que penaliza o modelo se ele basear suas previsões em regiões consideradas irrelevantes pelo usuário. Combina: perda de resposta correta, perda de "razões corretas" (penalizando gradientes em áreas irrelevantes) e regularização.
  3. Abordagem Híbrida: Combina as duas estratégias anteriores. Primeiro, o conjunto de dados é aumentado com CAIPI; em seguida, o modelo é treinado incorporando a função de perda RRR.

• Métodos de Explicabilidade (XAI):

  • GradCAM: Método post-hoc que gera mapas de calor baseados em gradientes.
  • BLA (Bounded Logit Attention): Um módulo treinável integrado à arquitetura do modelo que produz explicações inerentemente fiéis, aprendidas durante o treinamento.

• Estratégia de Amostragem:

  • Amostragem por Incerteza: Seleciona amostras onde o modelo tem dificuldade (probabilidades próximas entre classes).
  • Amostragem de Alta Confiança: Seleciona amostras onde o modelo já acerta com alta confiança (>90%), mas o usuário pode corrigir o raciocínio.

• Dados e Configuração:

  • Dataset: Subconjunto manual do MS COCO com 1.830 imagens (915 homens, 915 mulheres), utilizando máscaras de segmentação de "pessoa" para definir regiões relevantes (pessoa) e irrelevantes (fundo).
  • Modelos Base: Seis CNNs pré-treinadas (DenseNet121, EfficientNet-B0, GoogLeNet, MobileNet-V2, ResNet50, VGG16). O EfficientNet-B0 foi o foco principal dos resultados.
  • Métricas de Avaliação: Além da acurácia, utilizaram-se métricas baseadas em explicabilidade:
    • DICE Score: Sobreposição entre o mapa de atenção do modelo e a máscara de ground truth.
    • FFP (Foreground Focus Proportion): Proporção de atenção no primeiro plano (pessoa).
    • BFP (Background Focus Proportion): Proporção de atenção no fundo.
    • BSR (Background Saliency Ratio): Razão de saliência atribuída ao fundo.

3. Principais Contribuições

1. Investigação Sistemática do XIL: Análise da capacidade do XIL para mitigar viés de dados em classificadores de imagem, especificamente para gênero.
2. Estratégia Híbrida Proposta: Desenvolvimento de uma abordagem combinando CAIPI (aumento de dados) e RRR (perda auxiliar) para otimizar simultaneamente a precisão e a justiça (fairness).
3. Análise Qualitativa e Quantitativa: Avaliação de como o modelo aprende a focar em regiões relevantes usando métodos post-hoc (GradCAM) e auto-explicáveis (BLA).

4. Resultados Experimentais

Os resultados são apresentados na Tabela I do artigo e discutidos na seção de Resultados:

• Mitigação de Viés e Foco em Regiões Relevantes:
  • O CAIPI demonstrou ser a estratégia mais eficaz para melhorar o foco nas regiões relevantes (aumento do DICE e FFP) e reduzir a atenção ao fundo (redução de BFP e BSR).
  • A abordagem Híbrida também mostrou excelente desempenho, reduzindo significativamente a dependência de características irrelevantes.
  • O RRR isolado teve um efeito menos pronunciado na mitigação de viés em comparação com CAIPI e a abordagem híbrida.
• Acurácia vs. Justiça:
  • Em geral, a mitigação de viés resultou em uma leve queda na acurácia de classificação (custo da transparência).
  • Exceção Notável: O CAIPI com amostragem de incerteza e $k=1$ melhorou a acurácia (de 74,58% para 75,42%), demonstrando que melhorar a qualidade do modelo não necessariamente sacrifica a precisão.
• Impacto da Estratégia de Amostragem:
  • Contrariando o Aprendizado Ativo tradicional, a Amostragem de Alta Confiança superou a Amostragem por Incerteza na maioria dos casos para XIL. Isso sugere que feedback sobre previsões corretas (mas com raciocínio errado) é mais valioso para corrigir o viés.
• Fairness (Justiça):
  • O modelo base tendia a classificar erroneamente mais mulheres do que homens (53,8% vs 46,2%).
  • As abordagens XIL, especialmente CAIPI e Híbrida, conseguiram equilibrar as taxas de erro entre gêneros, promovendo maior justiça.
• Métodos de Explicação:
  • O BLA geralmente produziu resultados de acurácia ligeiramente melhores e explicações mais alinhadas com as preferências do usuário em comparação ao GradCAM.

5. Significado e Conclusão

O estudo conclui que o Aprendizado Interativo Explicativo (XIL) é uma ferramenta poderosa para mitigar viés em classificadores visuais.

• Transparência e Controle: O XIL permite que os usuários corrijam não apenas o "o quê" (rótulo), mas o "porquê" (explicação) das decisões do modelo.
• Eficácia: A combinação de aumento de dados contra-factual (CAIPI) com penalização de perda (RRR) oferece a melhor estratégia para forçar o modelo a aprender características semanticamente relevantes, reduzindo a dependência de estereótipos visuais.
• Limitações e Futuro: O estudo utilizou simulações de feedback humano baseadas em máscaras de segmentação perfeitas. Trabalhos futuros devem testar a interação com usuários reais (que podem fornecer anotações mais rústicas, como caixas delimitadoras) e expandir o escopo para problemas multiclasse e multirrótulo.

Em suma, o trabalho demonstra que a integração de feedback humano sobre explicações pode melhorar a equidade e a robustez de modelos de IA, mesmo que isso às vezes implique um pequeno custo computacional ou de acurácia, com exceções onde a qualidade geral do modelo é aprimorada.