Hierarchical Concept Embedding & Pursuit for Interpretable Image Classification

Resumo Técnico: HCEP para Classificação de Imagens Interpretável

1. O Problema

Os modelos de aprendizado de máquina, especialmente em visão computacional, alcançaram desempenho superior ao humano, mas frequentemente carecem de interpretabilidade. Modelos "interpretáveis por design" (que extraem conceitos humanos para tomar decisões) são preferíveis a métodos post-hoc (que explicam modelos de caixa-preta após o treinamento), pois oferecem explicações mais fiéis.

No entanto, os métodos atuais de recuperação de conceitos baseados em codificação esparsa (sparse coding) possuem uma falha crítica: eles tratam os conceitos como um conjunto plano, ignorando a estrutura hierárquica inerente ao conhecimento semântico (ex: um "gato" é um "mamífero", que é um "animal").

• Consequência: Métodos tradicionais podem recuperar conceitos corretos para a previsão, mas gerar explicações inconsistentes com a hierarquia (ex: classificar um gato como "veículo" e "animal" simultaneamente, violando a lógica semântica).
• Objetivo: Desenvolver um framework que incorpore a hierarquia dos conceitos diretamente no processo de recuperação de conceitos para garantir explicações coerentes e fiéis.

2. Metodologia Proposta: HCEP

Os autores propõem o Hierarchical Concept Embedding & Pursuit (HCEP), um framework que induz uma hierarquia no espaço latente e utiliza codificação esparsa hierárquica.

A. Modelagem de Embeddings Hierárquicos (Seção 3)
Os autores definem condições geométricas ideais para que os embeddings de conceitos (vetores) respeitem a hierarquia semântica:

1. Agrupamento Bem Definido (Well-Clustered Synsets):
   • Irmãos (conceitos no mesmo nível, ex: "cachorro" e "gato") devem estar bem separados no espaço vetorial.
   • Filhos devem formar aglomerados ao redor de seus pais.
   • Matematicamente, isso é garantido impondo que os cones que contêm as subárvores de irmãos sejam disjuntos.
2. Ortogonalidade Hierárquica e Estrutura de Simplexo:
   • A diferença vetorial entre um filho e seu pai (o conceito que distingue o filho do pai) deve ser ortogonal ao vetor do pai.
   • As diferenças entre os filhos de um mesmo pai devem formar um simplexo regular.
   • Isso garante que a semântica hierárquica seja preservada e que a recuperação do caminho raiz-folha seja matematicamente identificável.

B. Construção do Dicionário Hierárquico
Em vez de usar embeddings de conceitos brutos, o HCEP constrói um dicionário baseado nas diferenças entre os embeddings de um nó e seu pai:
$$D = \{ a(j) - a(par(j)) \}$$
Onde $a(j)$ é o embedding do conceito e $a(par(j))$ é o embedding do pai.

• Um embedding de imagem é representado como uma combinação linear esparsa desses vetores de diferença ao longo de um único caminho da raiz até a folha.

C. Algoritmo: Hierarchical Orthogonal Matching Pursuit (H-OMP)
Para recuperar os conceitos presentes na imagem, o HCEP modifica o algoritmo clássico OMP (Orthogonal Matching Pursuit):

• Busca em Feixe (Beam Search): Em vez de fazer uma escolha gulosa única em cada passo (que pode levar a erros irreversíveis), o algoritmo mantém um conjunto de hipóteses candidatas (caminhos potenciais) em cada nível da hierarquia.
• Restrição de Estrutura: O algoritmo só expande a busca para os filhos do nó mais profundo explorado em cada hipótese, garantindo que a solução respeite a estrutura de árvore.
• Vantagem Teórica: O H-OMP possui uma região de sucesso (ERC - Exact Recovery Condition) estritamente maior do que o OMP padrão, tornando a recuperação do caminho correto mais robusta, especialmente em presença de ruído.

3. Contribuições Principais

1. Framework Teórico: Estabelecimento de condições geométricas (ortogonalidade, cones disjuntos, simplexo) que garantem a identificabilidade de conceitos hierárquicos em espaços vetoriais.
2. Algoritmo de Recuperação: Desenvolvimento do H-OMP, que utiliza busca em feixe para navegar na hierarquia, superando as limitações de métodos de codificação esparsa "vanilla".
3. Validação Empírica: Demonstração de que os embeddings de modelos pré-treinados (como CLIP) já satisfazem, na prática, as condições de ortogonalidade e agrupamento hierárquico propostas.
4. Flexibilidade: O framework funciona tanto com hierarquias pré-definidas (ex: WordNet/ImageNet) quanto com hierarquias induzidas automaticamente para conjuntos de dados sem estrutura (ex: CIFAR-100).

4. Resultados Experimentais

Os autores avaliaram o HCEP em dados sintéticos e reais (ImageNet, ImageNette, CIFAR-100).

• Precisão e Recall de Conceitos: O HCEP superou consistentemente os baselines (OMP padrão, Concept Bottleneck Models - CBM, Vizinhos Mais Próximos) na recuperação do caminho correto na hierarquia (precisão e recall de suporte).
• Acurácia de Classificação: O modelo manteve uma acurácia de classificação competitiva em relação aos baselines.
• Cenários de Poucos Dados (Few-Shot): Em configurações com poucos exemplos por classe (12-shot, 25-shot), o HCEP demonstrou superioridade significativa, alcançando maior acurácia e melhor recuperação de conceitos do que todos os métodos interpretáveis comparados. Isso destaca a robustez da abordagem hierárquica quando os dados são limitados.
• Generalização: O método funcionou bem com diferentes modelos de visão-linguagem (CLIP e SigLIP).
• Eficiência: A análise de tempo de execução mostrou que o aumento do tamanho do feixe (beam size) melhora a precisão com um custo computacional moderado, especialmente quando paralelizado em GPU.

5. Significado e Impacto

Este trabalho é significativo porque:

• Conecta Geometria e Interpretabilidade: Demonstra que a estrutura geométrica dos embeddings em modelos grandes (LLMs e VLMs) pode ser explorada matematicamente para melhorar a interpretabilidade.
• Solução para Inconsistências: Resolve o problema de explicações contraditórias em modelos interpretáveis, garantindo que a explicação (o conjunto de conceitos) seja logicamente consistente com o conhecimento humano (a hierarquia).
• Eficiência em Dados Limitados: Oferece uma vantagem prática crucial para aplicações do mundo real onde a coleta de grandes volumes de dados rotulados é difícil, provando que a incorporação de conhecimento estrutural (hierarquia) atua como um regularizador poderoso.
• Escalabilidade: Proporciona uma abordagem escalável para classificação interpretável que não requer treinamento pesado de modelos de ponta a ponta, utilizando apenas embeddings pré-treinados e um dicionário construído geometricamente.

Em suma, o HCEP estabelece que incorporar estruturas hierárquicas na codificação esparsa é essencial para criar modelos de classificação de imagens que sejam não apenas precisos, mas também verdadeiramente interpretáveis e confiáveis.