Mitigating Bias in Concept Bottleneck Models for Fair and Interpretable Image Classification

Este artigo propõe três técnicas de mitigação de viés — filtragem top-k de conceitos, remoção de conceitos enviesados e desviés adversarial — para aprimorar a justiça em Modelos de Garrafa de Conceito (CBMs), superando trabalhos anteriores no equilíbrio entre desempenho e equidade na classificação de imagens.

O essencial

🎨 O Pintor, a Receita e o Vício Oculto

Resumo do Artigo: "Mitigando Vieses em Modelos de Gargalo de Conceito para Classificação de Imagens Justa e Interpretável"

Imagine que você tem um pintor muito talentoso (o modelo de Inteligência Artificial) que precisa adivinhar o que está acontecendo em uma foto. O problema é que, às vezes, esse pintor é preconceituoso. Se ele vê uma foto de alguém cozinhando, ele pode assumir que é uma "mãe" apenas porque a pessoa usa um avental, ignorando que pode ser um pai. Isso é o viés: o modelo usa detalhes superficiais (como gênero ou roupas) em vez de focar na ação real.

Os cientistas deste artigo tentaram consertar isso usando uma técnica chamada Modelo de Gargalo de Conceito (CBM). Vamos entender como funciona e como eles o tornaram mais justo.

1. A Ideia Original: O "Tradutor" Humano

Normalmente, os computadores "olham" para milhões de pixels de uma foto de uma vez só. É como tentar entender um livro lendo todas as letras de uma página ao mesmo tempo. É rápido, mas difícil de explicar por que o computador tomou aquela decisão.

O CBM tenta fazer o computador pensar como um humano. Em vez de olhar para os pixels, o modelo primeiro traduz a foto em conceitos simples que nós entendemos.

• Exemplo: Para identificar "cozinhar", o modelo não olha para a pele da pessoa. Ele primeiro identifica conceitos como: "tem uma panela", "tem fogo", "tem um fogão". Só depois, com base nesses conceitos, ele decide: "Ah, é cozinhando!".

A teoria era: se o modelo só olhar para a panela e o fogo, ele não deveria se importar se o cozinheiro é homem ou mulher. Isso tornaria o sistema justo e explicável.

2. O Problema: O "Vazamento" de Segredos

Os pesquisadores descobriram que, mesmo com essa "tradução" para conceitos, o modelo ainda estava trapaceando. Eles chamam isso de Vazamento de Informação.

Imagine que você pediu para o modelo listar os ingredientes de uma receita. Ele lista "farinha" e "ovos" (conceitos bons). Mas, escondido na lista, ele também colocou "um avental de xadrez" (que é mais comum em mulheres) e "um avental de couro" (mais comum em homens).
O modelo aprendeu que, se o conceito "aventais" estiver presente, ele pode adivinhar o gênero da pessoa. Assim, mesmo tentando ser justo, ele continua usando esses "pistas" ocultas para fazer previsões. Isso é o vazamento: o modelo está usando informações que não deveriam importar (gênero) para tomar decisões.

3. As Três Soluções Propostas

Para consertar esse "vazamento" e tornar o pintor realmente justo, os autores testaram três técnicas:

A. O Filtro "Top-K" (A Regra do "Apenas o Essencial")

• A Analogia: Imagine que o modelo gera uma lista de 1.000 conceitos para descrever uma foto. Muitos são irrelevantes ou contêm os "vazamentos" de gênero.
• A Solução: Em vez de usar os 1.000 conceitos, o modelo é forçado a escolher apenas os top 100 (ou 50) mais importantes. É como pedir a um chef: "Use apenas os 5 ingredientes principais desta receita".
• Resultado: Isso força o modelo a focar no que realmente importa (o fogão, a panela) e ignora os detalhes sutis que revelam o gênero. Funciona muito bem e não precisa que alguém rotule manualmente quem é homem ou mulher nos dados.

B. Remover Conceitos Viciados (A "Poda" da Árvore)

• A Analogia: Se você sabe que o conceito "aventais" está causando preconceito, por que não simplesmente cortar essa palavra da lista?
• A Solução: Tentar identificar e apagar conceitos que estão ligados ao gênero (como "sapatilha" ou "gravata").
• Resultado: Surpreendentemente, isso não funcionou muito bem. Por quê? Porque o modelo é esperto. Se você tira o conceito "gravata", ele aprende a usar outro conceito, como "tipo de camisa", para descobrir o gênero de novo. O "vazamento" apenas mudou de lugar.

C. Desbiasamento Adversarial (O "Treinador de Tênis" e o "Jogador")

• A Analogia: Imagine dois jogadores de tênis treinando juntos.
  • Jogador 1 (o Modelo Principal): Tenta adivinhar o que a pessoa está fazendo (ex: "cozinhar").
  • Jogador 2 (o Adversário): Tenta adivinhar o gênero da pessoa, olhando apenas para o que o Jogador 1 viu.
• A Solução: O Jogador 1 é treinado para ser tão bom em "cozinhar" que o Jogador 2 não consegue mais adivinhar o gênero. Se o Jogador 2 consegue adivinhar, o Jogador 1 é punido.
• Resultado: Isso força o Jogador 1 a esconder completamente qualquer pista de gênero, focando apenas na ação. Foi a técnica mais poderosa, reduzindo o preconceito em 28% com quase nenhuma perda de precisão.

4. O Grande Equilíbrio (O "Trilema")

O artigo mostra que existe um equilíbrio difícil entre três coisas:

1. Justiça: Não discriminar ninguém.
2. Interpretabilidade: Conseguir explicar como o modelo pensou.
3. Desempenho: Ter uma alta precisão na resposta.

Se você quer que o modelo seja super preciso, ele precisa de muitos conceitos, o que aumenta o risco de vazamento de informações (menos justo). Se você cortar tudo para ser super justo, o modelo pode ficar confuso e errar mais.

A Conclusão dos Autores:
A melhor estratégia foi usar o Filtro Top-K (para focar no essencial) combinado com o Desbiasamento Adversarial (para "treinar" o modelo a ignorar o gênero).

Isso cria um sistema que é:

• Justo: Não discrimina por gênero.
• Explicável: Você pode ver exatamente quais conceitos (panela, fogo) levaram à decisão.
• Preciso: Continua funcionando muito bem, quase tão bem quanto os modelos "caixa preta" tradicionais.

🏁 Em Resumo

O papel nos ensina que, para criar uma IA justa, não basta apenas mudar os dados. Precisamos mudar como a IA pensa. Ao forçá-la a usar apenas os conceitos mais importantes e "treiná-la" para não conseguir adivinhar características sensíveis (como gênero), conseguimos criar sistemas que são transparentes, explicáveis e, finalmente, mais justos para todos.

Resumo técnico

Título: Mitigação de Viés em Modelos de Gargalo de Conceito (CBMs) para Classificação de Imagens Justa e Interpretável

1. Problema

Sistemas de visão computacional, embora avançados, frequentemente perpetuam e amplificam vieses sociais existentes (como viés de gênero em reconhecimento facial ou associação de profissões a gêneros específicos). O uso de Redes Neurais Profundas (DNNs) padrão torna difícil entender por que um modelo toma certas decisões, dificultando a identificação e correção de vieses.

Os Modelos de Gargalo de Conceito (CBMs) foram propostos como uma solução, mapeando imagens primeiro para conceitos humanos interpretáveis (ex: "pássaro", "asa", "bico") antes de fazer a previsão final. Teoricamente, isso deve mascarar atributos sensíveis (como características faciais). No entanto, o artigo identifica um problema crítico: vazamento de informação. Os conceitos aprendidos pelos CBMs muitas vezes codificam informações ocultas não relacionadas à semântica do conceito, incluindo atributos sensíveis (como gênero), resultando em reduções marginais de viés em conjuntos de dados reais (como o ImSitu).

2. Metodologia

Dataset e Pré-processamento

• Dataset: Utilizou-se o ImSitu, um conjunto de dados de classificação de imagens do mundo real focado em reconhecimento de ações (verbos), com ground truth para atributos sensíveis (gênero dos agentes).
• Filtragem: Imagens com agentes não humanos foram removidas. O dataset final possui 20.792 imagens, com um desequilíbrio de gênero significativo (51,9% masculino no geral, mas até 61,5% em classes específicas).
• Modelo Base: Uma versão modificada do framework Label-free CBM. Em vez de anotação manual de conceitos, utilizou-se GPT-3 para gerar conceitos a partir dos nomes das classes (verbos) e CLIP (Contrastive Language-Image Pre-Training) para inferir a ativação desses conceitos nas imagens.

Arquitetura

1. Codificador de Imagem: CLIP (ViT-B/16) para extrair características.
2. Camada de Gargalo: Mapeamento das imagens para um vetor de ativação de conceitos (N imagens x M conceitos).
3. Classificador: Uma camada totalmente conectada (FC) esparsa que mapeia os conceitos para as classes alvo.

Técnicas de Mitigação de Viés Propostas

Os autores propuseram três técnicas para melhorar a justiça nos CBMs:

1. Redução do Vazamento de Informação (Top-k Filter):

   • Em vez de apenas usar regularização de esparsidade (L1/L2) na camada FC, os autores propõem um filtro Top-k nas ativações dos conceitos.
   • Apenas as k maiores ativações são mantidas; o resto é zerado. Isso simula um modelo mental humano focado em características proeminentes, reduzindo a capacidade do modelo de aprender distribuições ocultas de viés nos conceitos de menor valor.
   • Vantagem: Não requer ground truth de atributos sensíveis durante o treinamento.

2. Remoção de Conceitos Viesados:

   • Tentativa de identificar e remover conceitos que servem como proxies de atributos sensíveis (ex: "gravata" para homens, "blusa" para mulheres).
   • Abordagens testadas: Treinar o CBM para prever gênero e remover conceitos com pesos mais altos, ou usar o LLM para auto-avaliar o viés semântico.
   • Descoberta: A simples remoção durante o treinamento não funcionou bem, pois o modelo aprendia a vazar informações de gênero através de outros conceitos. A remoção eficaz só ocorreu ao zerar as ativações desses conceitos no momento da inferência (test time).

3. Desviesamento Adversarial (Adversarial Debiasing):

   • Aplicação de uma rede adversária na camada FC que tenta prever o atributo sensível (gênero) a partir das saídas do modelo.
   • O objetivo é otimizar o modelo para a tarefa principal (classificação de ação) enquanto minimiza a capacidade do adversário de prever o gênero.
   • Isso força o modelo a aprender representações invariantes ao gênero.

3. Resultados Principais

• Trade-off Justiça-Desempenho: O estudo confirmou que CBMs melhoram a justiça e a interpretabilidade em comparação com DNNs de caixa preta, mas com uma pequena perda de precisão.
• Eficácia das Técnicas:
  • Filtro Top-k: Superou a esparsidade tradicional, oferecendo melhores trade-offs entre justiça e desempenho. Um modelo com k=1000 atingiu desempenho próximo ao DNN com menor amplificação de viés.
  • Remoção de Conceitos: Produziu resultados fracos se aplicada apenas via re-treinamento. A remoção no test time reduziu a amplificação de viés em apenas 0,3% a 0,5%, com perda de precisão de ~0,6%.
  • Desviesamento Adversarial: Foi a técnica mais eficaz. Quando combinado com o filtro Top-k, o modelo (CBM-topk + adversarial) reduziu a amplificação de viés em 28% com uma perda de precisão mínima.
• Comparação: O modelo final superou trabalhos anteriores (como o de [39]) em termos de trade-off justiça-desempenho. O modelo adversarial desviesado atingiu uma amplificação de viés (6,29%) próxima ou melhor que a do modelo CLIP zero-shot original (7,12%), mas com muito maior precisão (42,69% vs 30,74%).

4. Contribuições Chave

1. Identificação do Vazamento de Informação: Demonstração empírica de que conceitos em CBMs vazam informações de atributos sensíveis além de sua semântica, criando um conflito entre desempenho, justiça e interpretabilidade.
2. Novas Técnicas de Mitigação: Introdução do filtro Top-k como uma alternativa superior à esparsidade para reduzir vazamento sem depender de rótulos sensíveis, e a aplicação de desviesamento adversarial em CBMs.
3. Transparência no Processo de Desviesamento: Ao contrário de modelos de caixa preta, os CBMs permitem visualizar como os pesos dos conceitos mudam durante o desviesamento adversarial, fornecendo insights sobre a origem do viés (ex: redução de pesos em conceitos como "escada" ou "teto" para a classe "pintura" quando correlacionados indevidamente a um gênero).

5. Significado e Conclusão

O artigo conclui que, embora os CBMs não sejam perfeitamente transparentes (devido à transformação em espaços de embedding de alta dimensão), eles representam um avanço decisivo para a classificação de imagens justa e interpretável.

A combinação de um filtro Top-k (para limitar a complexidade e o vazamento) com desviesamento adversarial oferece o melhor equilíbrio, permitindo que modelos sejam justos sem sacrificar significativamente a precisão. Além disso, a abordagem de "justiça por ignorância" (não depender de rótulos sensíveis durante o treinamento, usando apenas o filtro Top-k) é particularmente valiosa para cenários do mundo real onde dados sensíveis são escassos, caros ou propensos a erros de anotação. O trabalho destaca que a interpretabilidade não é apenas uma ferramenta de explicação, mas um mecanismo ativo para detectar e corrigir vieses sistêmicos.