Hierarchical Concept-based Interpretable Models

Este artigo apresenta os Modelos de Incorporação de Conceitos Hierárquicos (HiCEMs), uma nova família de modelos interpretáveis que modelam relações entre conceitos através de estruturas hierárquicas e utilizam o método de "Divisão de Conceitos" para descobrir automaticamente sub-conceitos mais granulares sem necessidade de anotações adicionais, permitindo explicações mais detalhadas e intervenções eficazes no tempo de teste.

O essencial

🧠 O Problema: A "Caixa Preta" e o Dicionário Incompleto

Imagine que você tem um gênio da lâmpada (uma Inteligência Artificial) que é incrível em adivinhar coisas. Se você mostra uma foto de um cachorro, ele diz "Cachorro!". Se mostra um carro, ele diz "Carro!". Mas, se você perguntar: "Por que você disse que é um cachorro?", o gênio fica mudo. Ele não sabe explicar. Ele vê a imagem como um monte de pixels confusos, não como "orelhas", "rabo" ou "pêlo".

Para consertar isso, cientistas criaram modelos que usam conceitos. É como se ensinássemos ao gênio um dicionário de palavras simples antes de ele tentar adivinhar.

• Exemplo: Em vez de mostrar a foto do cachorro direto, primeiro dizemos: "Veja, isso tem 'orelhas pontudas' e 'rabo longo'". Só depois o gênio usa essas pistas para dizer "É um cachorro".

Isso é ótimo, mas tem dois problemas grandes:

1. Falta de Hierarquia: Os modelos atuais tratam "orelhas" e "rabo" como coisas totalmente separadas, sem entender que ambas são partes de um "animal". Eles não veem a estrutura.
2. Custo de Anotação: Para ensinar o gênio, você precisa gastar horas e horas rotulando manualmente cada conceito. "Ah, essa foto tem um cachorro, essa tem um gato, essa tem uma orelha de cachorro...". Isso é caro e demorado.

---

🚀 A Solução: O "Divisor de Conceitos" e a Árvore Familiar

Os autores deste artigo propuseram duas ideias brilhantes para resolver esses problemas: o Concept Splitting (Divisão de Conceitos) e o HiCEM (Modelo de Conceito Hierárquico).

1. O "Divisor de Conceitos" (Concept Splitting)

Imagine que você tem uma caixa de brinquedos misturados e você só sabe que tem "brinquedos de plástico". Você não sabe o que tem dentro.
O método Concept Splitting é como um peneira mágica que olha para dentro da caixa de "brinquedos de plástico" e descobre, sozinha, que existem "carrinhos", "bonecos" e "blocos de montar" escondidos lá dentro.

• Como funciona na prática: O modelo já treinado (o gênio) tem uma "memória" interna onde guarda informações. Mesmo que você só tenha ensinado a palavra "Vegetais", a memória dele já sabe a diferença entre "Cenoura" e "Alface". O método usa uma ferramenta matemática (chamada Sparse Autoencoder) para vasculhar essa memória e encontrar esses detalhes finos que o modelo já sabia, mas que ninguém lhe pediu para nomear explicitamente.
• O Ganho: Você não precisa gastar tempo rotulando "Cenoura" e "Alface" manualmente. O modelo descobre sozinho e cria esses rótulos novos para você.

2. O HiCEM: A Árvore Genealógica dos Conceitos

Agora que temos os conceitos gerais ("Vegetais") e os detalhes descobertos ("Cenoura", "Alface"), precisamos organizá-los.
O HiCEM é como uma árvore genealógica ou um organograma de empresa.

• Antes (Modelos antigos): Tudo era uma lista plana. "Vegetal", "Fruta", "Cenoura", "Alface" estavam todos no mesmo nível, sem conexão.
• Agora (HiCEM): O modelo entende que "Cenoura" e "Alface" são filhos de "Vegetais".
  • Se o modelo diz "Tem Vegetais", ele automaticamente sabe que deve procurar por "Cenoura" ou "Alface".
  • Se você corrigir o modelo dizendo "Isso não é Cenoura", o modelo entende que, embora ainda seja um "Vegetal", a subcategoria mudou.

Isso torna o modelo muito mais inteligente e parecido com a forma como humanos pensam (usando hierarquia e lógica).

---

🛠️ Como isso funciona no mundo real? (O Experimento)

Os autores criaram um "laboratório" chamado PseudoKitchens. Imagine que eles construíram uma cozinha virtual em 3D, super realista, onde podem colocar qualquer ingrediente (frutas, legumes, massas) e saber exatamente onde cada um está.

Eles testaram o sistema assim:

1. Treinamento Básico: Ensinaram o modelo apenas com conceitos grandes, como "Tem Frutas" ou "Tem Legumes".
2. A Mágica (Concept Splitting): O modelo olhou para suas próprias memórias e descobriu: "Ei, quando eu vejo 'Frutas', na verdade estou vendo 'Maçãs' ou 'Peras'".
3. A Árvore (HiCEM): Eles ensinaram o modelo a usar essa hierarquia. Agora, ele pode explicar: "Acho que é uma Salada de Frutas porque vi 'Frutas' e, especificamente, 'Maçãs' e 'Peras'".

O Resultado:

• Precisão: O modelo ficou tão bom quanto os modelos antigos (ou até melhor).
• Explicação: Agora ele pode dar explicações muito mais detalhadas. Em vez de apenas "Tem Legumes", ele diz "Tem Cenoura e Batata".
• Correção Humana: Se você, humano, olhar e dizer: "Ei, isso não é Cenoura, é Beterraba", o modelo entende imediatamente e corrige a resposta final, porque ele entende a relação entre os conceitos.

---

🌟 Resumo em uma Frase

Os autores criaram um sistema que ensina a Inteligência Artificial a organizar seus conhecimentos em uma árvore familiar (do geral para o específico) e descobrir sozinha os detalhes finos que ela já sabia, sem precisar que um humano gastasse horas rotulando cada pequeno detalhe manualmente.

É como transformar um aluno que apenas decora respostas em um professor que entende a lógica, as categorias e os detalhes, e que pode explicar o "porquê" de cada decisão de forma clara e hierárquica.

Resumo técnico

Resumo Técnico: Modelos de Incorporação de Conceitos Hierárquicos (HiCEMs)

1. O Problema

As Redes Neurais Profundas (DNNs) modernas atingem altas taxas de precisão, mas permanecem "caixas-pretas" devido à opacidade de suas representações latentes. Isso dificulta a compreensão, depuração e a remoção de vieses dos modelos.

• Limitações dos Modelos Atuais: Os Concept Embedding Models (CEMs) existentes tentam resolver isso mapeando entradas para representações de conceitos humanos interpretáveis (ex: "tamanho", "cor"). No entanto, eles possuem duas falhas críticas:
  1. Independência de Conceitos: Tratam todos os conceitos como entidades independentes, ignorando relações hierárquicas e interdependências naturais (ex: "contém vegetais" implica a possibilidade de "contém cebola" ou "contém cenoura").
  2. Custo de Anotação: Requerem anotações de conceitos em diferentes granularidades durante o treinamento, o que é caro e limitante para aplicações do mundo real.
  3. Falta de Descoberta de Sub-conceitos: Métodos existentes de descoberta de conceitos geralmente ignoram a estrutura hierárquica entre os conceitos descobertos.

2. Metodologia Proposta

Os autores propõem uma nova família de modelos chamada HiCEMs (Hierarchical Concept Embedding Models), combinada com uma técnica de pré-processamento chamada Concept Splitting.

A. Concept Splitting (Divisão de Conceitos)
Esta é uma metodologia para descobrir automaticamente sub-conceitos mais granulares a partir do espaço de incorporação (embedding) de um CEM pré-treinado, sem necessidade de anotações adicionais.

• Mecanismo: Utiliza Sparse Autoencoders (SAEs) treinados separadamente em embeddings de conceitos onde o conceito pai está ativo e onde está inativo.
• Processo:
  1. Treina-se um CEM inicial e extraem-se os vetores de incorporação dos conceitos.
  2. Divide-se os dados em dois conjuntos baseados na previsão do conceito pai (ativo vs. inativo).
  3. Treina-se SAEs em cada conjunto para aprender características esparsas (sub-conceitos).
  4. As características ativas dos SAEs são convertidas em novos rótulos de sub-conceitos (ex: de "contém vegetais" para "contém cebola" e "contém cenoura").
• Alternativa: O artigo também explora uma abordagem baseada em clustering (usando o framework TURTLE) como alternativa aos SAEs, embora os SAEs sejam preferidos por serem menos computacionalmente custosos e não exigirem etapas de deduplicação.

B. Arquitetura HiCEM
O HiCEM é uma arquitetura projetada para modelar explicitamente as relações hierárquicas entre conceitos e sub-conceitos.

• Estrutura:
  • Para cada conceito de nível superior ($c_i$), o modelo aprende incorporações positivas ($\hat{c}^+_i$) e negativas ($\hat{c}^-_i$).
  • Diferente dos CEMs padrão, essas incorporações passam por módulos de sub-conceitos (positivos e negativos).
  • O módulo de sub-conceitos gera incorporações para os sub-conceitos descobertos e calcula suas probabilidades.
  • A incorporação final do conceito pai é uma mistura ponderada das incorporações dos sub-conceitos, permitindo que o modelo capture a estrutura hierárquica.
• Intervenção: O modelo suporta intervenções em tempo de teste tanto no nível do conceito pai quanto no nível dos sub-conceitos descobertos. Se um especialista corrige um sub-conceito, o modelo atualiza automaticamente a probabilidade do conceito pai e a previsão da tarefa.

3. Principais Contribuições

1. Concept Splitting: Um método inovador para extrair sub-conceitos interpretáveis de embeddings de CEMs pré-treinados usando SAEs, reduzindo drasticamente a necessidade de anotações manuais extensivas.
2. HiCEMs: Uma nova arquitetura de modelos interpretáveis que captura relações hierárquicas entre conceitos, permitindo explicações mais finas e intervenções em múltiplos níveis de granularidade.
3. PseudoKitchens: Introdução de um novo dataset sintético de renderizações 3D fotorrealistas de cozinhas, com anotações de conceitos perfeitas e localização espacial precisa, criado para rigorosamente avaliar modelos baseados em conceitos.
4. Validação Empírica: Demonstração através de experimentos quantitativos, qualitativos e um estudo com usuários de que o método descobre conceitos humanos interpretáveis ausentes no treinamento original.

4. Resultados Experimentais

Os métodos foram avaliados em seis datasets (MNIST-ADD, SHAPES, CUB, AwA2, PseudoKitchens e ImageNet).

• Descoberta de Conceitos (RQ1):
  • O Concept Splitting descobriu sub-conceitos com alta precisão (ROC-AUC > 0.9 em vários datasets).
  • Estudo com Usuários (ImageNet): Usuários confirmaram que os nomes gerados automaticamente para os sub-conceitos eram semanticamente relacionados aos conceitos pais em 67,9% dos casos (vs. 4% no grupo de controle aleatório). Além disso, 54,8% das imagens rotuladas como contendo o sub-conceito eram consistentes com o nome do sub-conceito (vs. 0,9% no controle).
• Precisão da Tarefa e Conceitos (RQ2):
  • Os HiCEMs alcançaram precisão na tarefa e nos conceitos de nível superior comparável aos CEMs originais e a outros baselines (como CBMs e modelos de caixa-preta), sem sacrificar a acurácia ao adicionar interpretabilidade.
• Intervenção (RQ3):
  • A intervenção em sub-conceitos descobertos melhorou a precisão da tarefa em vários datasets.
  • Em datasets como CUB e PseudoKitchens, as intervenções em HiCEMs foram mais eficazes do que em CEMs treinados com os mesmos sub-conceitos, provando que a arquitetura hierárquica é crucial para aproveitar essas intervenções.

5. Significado e Impacto

Este trabalho preenche uma lacuna significativa na modelagem interpretável ao:

• Superar a suposição de independência: Reconhece e modela a natureza hierárquica do raciocínio humano e dos conceitos do mundo real.
• Reduzir o custo de anotação: Permite que modelos de alta precisão sejam treinados com apenas anotações de alto nível (grossas), enquanto a granularidade fina é descoberta automaticamente.
• Melhorar a interação Humano-Máquina: Oferece mecanismos robustos para intervenção em tempo de teste em diferentes níveis de detalhe, permitindo que especialistas corrijam erros específicos (ex: corrigir "contém cebola" em vez de apenas "contém vegetais"), o que pode levar a decisões mais justas e confiáveis.

Em suma, os HiCEMs representam um avanço significativo na direção de modelos de IA que não apenas são precisos, mas também estruturados de maneira a refletir a lógica hierárquica humana, facilitando a confiança e a depuração em aplicações críticas.