Resumo Técnico: CB-SLICE: Descoberta de Fatias de Erro Interpretáveis Baseadas em Conceitos

Declaração do Problema

Modelos de aprendizado profundo frequentemente alcançam desempenho forte em casos médios, mas exibem erros sistemáticos em grupos populacionais específicos, conhecidos como fatias de erro. Identificar esses grupos e suas causas raiz é crítico para depuração e mitigação de viés. No entanto, os Métodos de Descoberta de Fatias de Erro (SDMs) existentes enfrentam uma limitação fundamental: eles geralmente dependem de modelos auxiliares baseados em linguagem (por exemplo, CLIP) para gerar explicações. Consequentemente, essas explicações estão desconectadas do processo de inferência interno do modelo analisado, aproximando a fonte do erro em vez de revelá-la. Essa desconexão leva a explicações que podem ser imprecisas, enganosas ou enviesadas pelo próprio modelo auxiliar. Além disso, os métodos existentes frequentemente falham em explicar por que uma falha ocorre em termos dos conceitos específicos dos quais o modelo depende.

Metodologia: CB-SLICE

Os autores propõem o CB-SLICE, um SDM baseado em conceitos que aproveita Modelos de Gargalo de Conceitos (CBMs) para integrar a descoberta de fatias de erro e a explicação de viés em um único processo consciente do modelo. CBMs são arquiteturas interpretáveis que primeiro preveem conceitos semânticos compreensíveis por humanos (por exemplo, "pele escura", "assimetria") e, em seguida, preveem o rótulo da tarefa final com base nesses conceitos. O CB-SLICE opera em três etapas distintas:

1. Filtragem de Conceitos Propensos a Erros

O método identifica primeiro um subconjunto de conceitos mais prováveis de serem responsáveis por classificações incorretas a jusante.

• Mecanismo: Utiliza a pontuação de Mudança Esperada na Previsão do Alvo (ECTP). Para cada conceito $i$, a pontuação ECTP quantifica a mudança esperada na distribuição da tarefa a jusante ao intervir nesse conceito (definindo seu valor para 0 ou 1).
• Processo: A pontuação ECTP é computada por classe para mitigar desequilíbrios. Os $t_e$ conceitos superiores com as maiores pontuações para cada classe são selecionados para formar o conjunto de conceitos propensos a erros ($C_{err}$). Isso garante que a formação subsequente de fatias foque apenas nos conceitos que impulsionam os erros.

2. Formação de Fatias de Erro

Uma vez identificados os conceitos propensos a erros, o método agrupa amostras de validação errôneas para formar fatias de erro coerentes.

• Representação: Em vez de usar espaços de probabilidade, o CB-SLICE utiliza logits de conceito ($H$) restritos ao conjunto propenso a erros $C_{err}$. Esses logits codificam a confiança do modelo e são bem aproximados por distribuições Gaussianas.
• Agrupamento: Um Modelo de Mistura Gaussiana (GMM) é treinado para agrupar esses logits. A função objetivo combina:
  • Verossimilhança do GMM ($L_{GMM}$): Para garantir coerência semântica.
  • Perdas Auxiliares ($L_{ctrue}$ e $L_{cpred}$): Dois classificadores lineares preveem, respectivamente, rótulos de conceitos verdadeiros e rótulos de conceitos previstos com base nas probabilidades de pertencimento à fatia. Essas perdas incentivam as fatias a agrupar amostras que compartilham os mesmos valores de conceitos verdadeiros e previstos, garantindo que as fatias capturem padrões de erro coerentes no nível de conceitos.
• Saída: Um conjunto de fatias $S = \{S_1, \dots, S_{t_g}\}$.

3. Explicação do Modo de Falha

Para cada fatia descoberta, o método identifica os conceitos específicos responsáveis por sua formação.

• Mecanismo: O método estende a pontuação ECTP para medir a Mudança Esperada na Atribuição de Fatia (ECSA). Ele quantifica como intervir em um conceito específico altera a probabilidade posterior de uma amostra pertencer a uma fatia específica.
• Saída: Os $t_k$ conceitos superiores com as maiores pontuações ECSA são selecionados como conceitos-chave para a fatia. A presença ou ausência desses conceitos é determinada pela média ponderada de suas previsões entre os membros da fatia.

Priorização de Fatias

Para abordar a impraticabilidade de analisar todas as fatias descobertas, o CB-SLICE introduz uma estratégia de priorização baseada em uma Pontuação de Informatividade (SI). Essa pontuação combina:

• Coerência de Previsão Incorreta (MC): A consistência das previsões incorretas da tarefa a jusante dentro de uma fatia.
• Compactação Semântica (SC): O grau em que os membros da fatia estão concentrados no espaço de logits de conceito.
• Fator de Penalidade: Um fator que reduz o peso de fatias muito pequenas para evitar ruído.

Contribuições Principais

1. Estrutura CB-SLICE: Um SDM inovador que vincula palavras-chave explicativas descobertas diretamente à lógica de decisão interna do modelo por meio de CBMs, evitando a desconexão inerente às abordagens baseadas em modelos auxiliares.
2. Identificação de Conceitos Propensos a Erros: Um método principiado usando pontuações ECTP para filtrar conceitos tanto para a formação de fatias quanto para a caracterização do modo de falha.
3. Priorização de Fatias: Uma estratégia para orientar os praticantes em direção às fatias mais informativas para análise direcionada.
4. Validação Empírica: Demonstrou melhorias consistentes sobre baselines de última geração em múltiplos benchmarks.

Resultados Experimentais

Os autores avaliaram o CB-SLICE em quatro conjuntos de dados com fatias de erro conhecidas: Waterbirds, CelebA, MetaShift e MNIST-Sum. Eles compararam o CB-SLICE com baselines incluindo Domino, GEORGE, HiBug2, Spotlight e K-Means.

• Recuperação de Vieses Conhecidos (Precision@10): O CB-SLICE superou consistentemente todas as baselines na recuperação de fatias de erro verdadeiras. Por exemplo, no conjunto de dados Waterbirds com um CBM treinado conjuntamente, o CB-SLICE alcançou um Precision@10 de 0,83, superando significativamente o próximo melhor método (Domino com 0,62).
• Alinhamento do Modo de Falha (MGF): O CB-SLICE produziu fatias com maior Frequência de Grupo Verdadeiro Correspondente (MGF), indicando que as fatias descobertas eram mais homogêneas e capturavam fielmente modos de falha subjacentes específicos.
• Fidelidade da Explicação: A análise qualitativa mostrou que o CB-SLICE forneceu explicações fiéis e fundamentadas no modelo.
  • Exemplo: Em Waterbirds, o CB-SLICE identificou que as classificações incorretas de pássaros terrestres em fundos aquáticos eram impulsionadas por previsões sistemáticas incorretas de conceitos relacionados ao tamanho (por exemplo, "tamanho médio"), e não apenas pelo fundo.
  • Exemplo: Em MNIST-Sum, descobriu um modo de falha onde o dígito "3" era sistematicamente mal lido como "2", uma nuance perdida por baselines baseadas em texto.
• Seleção de Fatias: O artigo demonstra que a convergência da função de perda do CB-SLICE alinha-se com a estabilização das métricas de desempenho, fornecendo um critério principiado para selecionar o número de fatias sem rótulos verdadeiros.

Significado e Alegações

O artigo afirma que o CB-SLICE reformula a descoberta de fatias de erro como um processo consciente do modelo. Ao fundamentar as explicações nas representações que o modelo realmente aprende (logits de conceito), evita as imprecisões e os vieses potenciais introduzidos por modelos auxiliares post-hoc.

Os autores enfatizam que o CB-SLICE distingue entre tipos distintos de falhas:

1. Fatias impulsionadas por previsões de conceitos sistemáticas incorretas (onde o codificador de conceitos $g$ falha).
2. Fatias que surgem de combinações de conceitos raras e corretamente previstas (onde o preditor de rótulos $f$ falha devido à falta de dados de treinamento para interseções específicas de conceitos).

O trabalho posiciona os CBMs como uma base principiada para depuração, oferecendo explicações mais ricas e fiéis das fontes de erro em comparação com os métodos existentes. Os autores observam que a eficácia do método depende da disponibilidade de anotações de conceitos completas e fiéis, uma limitação inerente à própria arquitetura CBM.