Resumo Técnico: Uma Unificação Geométrica da Aprendizagem de Conceitos com Cones de Conceitos

Declaração do Problema

O artigo aborda o desafio de interpretar redes neurais profundas ao unir dois paradigmas dominantes, porém distintos, de aprendizagem de conceitos: Modelos de Gargalo de Conceito (CBMs - Concept Bottleneck Models) e Autoencoders Esparsos (SAEs - Sparse Autoencoders).

• CBMs são métodos supervisionados que impõem interpretabilidade ao alinhar as ativações do modelo com conceitos rotulados por humanos. Embora forneçam uma estrutura semântica explícita, dependem de taxonomias predefinidas que podem ser incompletas ou desalinhadas com as representações internas do modelo.
• SAEs são métodos não supervisionados que descobrem conceitos emergentes ao aprender representações lineares esparsas sobre um dicionário supercompleto. Embora escaláveis, sofrem de não-identificabilidade: muitos dicionários diferentes podem reconstruir ativações com erro semelhante, tornando difícil determinar se os conceitos aprendidos são significativos. Além disso, os SAEs são instáveis, onde pequenas mudanças em hiperparâmetros (esparsidade, tamanho do dicionário) geram decomposições vastamente diferentes.

Atualmente, não há uma maneira fundamentada de comparar essas abordagens supervisionadas e não supervisionadas ou de avaliar se um SAE não supervisionado descobriu conceitos "plausíveis" e relevantes para humanos sem um ground truth completo.

Metodologia: O Framework de Cones de Conceitos

Os autores propõem um framework geométrico unificado baseado em aprendizagem de dicionário e cones de conceitos para analisar ambos os paradigmas.

1. Unificação Geométrica

O artigo postula que tanto CBMs quanto SAEs resolvem o mesmo problema inverso: decompor vetores de ativação em combinações lineares não negativas de direções de conceitos.

• Visão de Aprendizagem de Dicionário: Ambos os métodos aprendem um dicionário (as linhas são direções de conceitos) e códigos (coeficientes).
• Não-negatividade: Ambos impõem códigos não negativos ($c \geq 0$). Nos CBMs, isso é imposto pela função de ativação (ex: sigmoid/ReLU); nos SAEs, é uma restrição explícita.
• Cone de Conceito: O conjunto de todas as ativações representáveis por um dicionário $D$ forma um cone de conceito, definido como o fecho cônico do dicionário:
  $$C_D = \{ v \in \mathbb{R}^d : v = \alpha^\top D, \alpha \in \mathbb{R}^c_+ \}$$
  Esta geometria unifica as duas abordagens: elas diferem não na estrutura que aprendem, mas em como selecionam o cone específico.

2. Ancoragem Parcial via CBMs

Como os SAEs são não-identificáveis, os autores utilizam CBMs como âncoras geométricas parciais. A hipótese central é que uma "boa" decomposição de SAE deve conter as direções de conceitos aprendidas por um CBM dentro de seu próprio cone de conceito. Especificamente, um subconjunto de átomos de SAE deve ser capaz de reconstruir conceitos de CBM via combinações esparsas e não negativas. Isso não requer um alinhamento perfeito um-para-um, mas sim que a estrutura plausível para humanos exista dentro do espaço representacional do SAE.

3. Operacionalização: Métricas

Para quantificar o alinhamento entre o cone do SAE ($C_{SAE}$) e o cone do CBM ($C_{CBM}$), os autores introduzem um conjunto de métricas complementares:

• Cobertura (Coverage): Mede a extensão em que as direções de conceitos do CBM residem dentro do cone do SAE. É calculada resolvendo um problema de reconstrução não negativa esparsa para cada conceito de CBM contra o dicionário do SAE. Alta cobertura implica que o SAE pode representar conceitos de CBM.
• Alinhamento Geométrico ($\rho_{geom}$): Mede a similaridade direcional entre átomos individuais de SAE e conceitos de CBM (usando correlação). Uma versão top-k permite mapeamentos de um-para-muitos ou muitos-para-um.
• Alinhamento de Ativação ($\rho_{act}$): Mede se os conceitos de SAE e CBM ativam em amostras de dados semelhantes, levando em conta diferenças de codificadores e limiares (thresholds).
• Previsibilidade de Regressão ($R^2$): Ajusta um mapa linear de ativações de SAE para ativações de CBM para medir a preservação global de informação.
• Acordo ao Nível de Amostra: Computa precisão, revocação (recall) e F1 scores baseados nos conceitos ativos top-k para cada amostra, mapeando índices de SAE para conceitos de CBM.

Os autores enfatizam que nenhuma métrica isolada é suficiente; por exemplo, uma alta cobertura pode ocorrer com dicionários aleatórios (inflação artificial), enquanto um alto alinhamento geométrico não garante padrões de ativação significativos.

Principais Contribuições

1. Framework Unificado: Demonstra que CBMs e SAEs são instâncias da mesma estrutura geométrica (aprendizagem de um cone no espaço de ativação via aprendizagem de dicionário não negativa).
2. Hipótese de Alinhamento Parcial: Formaliza a ideia de que um SAE é plausível se um subconjunto esparso de seus átomos puder recuperar conceitos de CBM validados independentemente, servindo como um teste de sanidade contra a não-identificabilidade.
3. Métricas Diagnósticas: Introduz um conjunto de métricas (Cobertura, Alinhamento Geométrico/Ativação, $R^2$, Acordo ao Nível de Amostra) e fornece esclarecimentos teóricos sobre o que cada uma mede e suas limitações.
4. Diretrizes Empíricas: Através de extensos benchmarks, identifica os "pontos ideais" (sweet spots) no design de SAEs (esparsidade, fatores de expansão) que melhor recuperam a estrutura relevante para humanos.

Resultados Experimentais

Os autores avaliaram seu framework em backbones de visão (ResNet-50, ViT, DINOv2) treinados no ImageNet e CUB (Caltech-UCSD Birds). Eles compararam várias variantes de SAE (Vanilla, TopK, BatchTopK, JumpReLU, Matching Pursuit, Archetypal).

• Teste de Sanidade: Os SAEs treinados mostraram um alinhamento significativamente melhor com os CBMs do que os SAEs inicializados aleatoriamente. Notavelmente, os SAEs aleatórios exibiram Cobertura artificialmente alta, mas baixo alinhamento e $R^2$, confirmando que a cobertura sozinha é insuficiente e deve ser acompanhada por outras métricas.
• Variantes de SAE: SAEs JumpReLU e Vanilla geralmente alcançaram cobertura superior e alinhamento geométrico competitivo. A análise Archetypal mostrou melhores pontuações de F1.
• Troca de Esparsidade (Sparsity Trade-off): Existe uma tensão entre esparsidade e completude. Uma esparsidade agressiva (poucas unidades ativas) gera alto alinhamento geométrico (protótipos localizados), mas menor cobertura. A esparsidade relaxada melhora a cobertura e a reconstrução, mas dispersa a estrutura. Um regime de esparsidade intermediária (aproximadamente 0,01–0,05% de unidades ativas) proporcionou o melhor equilíbrio.
• Fator de Expansão: Aumentar o tamanho do dicionário (fator de expansão) melhorou a cobertura e o $R^2$ até certo ponto. Um fator de expansão de 2x foi identificado como o ponto ideal; além disso, o alinhamento direcional começou a se difundir.
• Análise por Camada: No ResNet-50, camadas mais profundas (especificamente a Camada 4, após o pooling final) mostraram o alinhamento semântico mais forte com os conceitos de CBM, capturando características de alto nível. As camadas inferiores capturaram atributos de baixo nível (bordas, cores) que se alinham geometricamente, mas carecem de correspondência semântica com a taxonomia do CBM.

Significância e Alegações

O artigo afirma fornecer uma base geométrica fundamentada para avaliar a descoberta de conceitos não supervisionada. Ao tratar os CBMs não como um ground truth, mas como uma "âncora semântica parcial", o trabalho oferece uma alternativa estruturada às práticas existentes para avaliar SAEs.

Os autores argumentam que a interpretabilidade não exige escolher entre supervisão (CBM) e descoberta (SAE). Em vez disso, o caminho a seguir reside em harmonizar os dois: usar conceitos supervisionados para validar e guiar a descoberta não supervisionada dentro de um framework geométrico compartilhado. Esta abordagem permite que pesquisadores identifiquem vieses indutivos (como mecanismos de esparsidade específicos ou razões de expansão) que sistematicamente geram dicionários de conceitos mais plausíveis e alinhados com humanos.

O trabalho conclui que, embora os CBMs não sejam ground truths perfeitos (devido ao viés humano e limites de anotação), eles fornecem um ponto de referência necessário para distinguir decomposições significativas das infinitas possibilidades permitidas pela não-identificabilidade. As métricas propostas servem como ferramentas diagnósticas para navegar nos compromissos entre expressividade e interpretabilidade nas redes neurais modernas.