Conceptualizing Embeddings: Sparse Disentanglement for Vision-Language Models

Resumo Técnico: Embeddings Conceituais: Desemaranhamento Esparsos para Modelos Visão-Linguagem

Declaração do Problema
Modelos visão-linguagem (VLMs) como CLIP, BLIP e CoCa aprendem embeddings compartilhados de alta dimensão poderosos, mas sua estrutura semântica interna permanece opaca. Os métodos existentes de interpretabilidade enfrentam limitações significativas:

• Explicações Locais: Técnicas como mapas de saliência ou métodos de atribuição identificam regiões de entrada relevantes, mas falham em revelar a organização global do espaço de embeddings.
• Alinhamento de Conceitos: Métodos como TCAV ou sondagem linear alinham embeddings com conceitos predefinidos, mas frequentemente assumem que conceitos significativos já são linearmente separáveis dentro da geometria original, limitando a flexibilidade.
• Autoencoders Esparsos (SAEs): Embora SAEs extraiam com sucesso características interpretáveis e monossêmicas ao aprender dicionários supercompletos, eles expandem a dimensionalidade da representação. Essa expansão altera a geometria original do espaço de embeddings, introduz redundância e produz representações com perdas e não invertíveis, tornando difícil relacionar fielmente as explicações ao modelo subjacente.

Os autores hipotetizam que o aparente emaranhamento nas representações de VLMs pode decorrer de desalinhamento de base e não de dimensionalidade insuficiente, sugerindo que a estrutura semântica poderia ser revelada reorganizando o espaço dentro de sua dimensionalidade original.

Metodologia: CEDAR
Os autores propõem o CEDAR (Desemaranhamento de Embedding Conceitual via Rotação Adaptativa), um método post-hoc que aprende uma reparametrização invertível do espaço de embeddings sem aumentar a dimensionalidade.

1. Transformação Invertível: O CEDAR busca um operador linear ortogonal $U$ (parametrizado como $U = \exp(A - A^\top)$) que transforma o embedding original $z$ em um novo espaço $\tilde{z} = U(z - b)$, onde $b$ é o embedding médio. A restrição de ortogonalidade garante que a transformação preserve a geometria e a norma do espaço original ($\|Uz\|_2 = \|z\|_2$) e seja estritamente invertível.
2. Gargalo de Esparsidade: No espaço transformado, um operador top-k ($\Pi_k$) é aplicado para reter apenas as $k$ coordenadas com as maiores magnitudes absolutas, definindo o restante como zero. Isso impõe uma representação esparsa onde a informação semântica está concentrada em um pequeno subconjunto de dimensões.
3. Objetivo de Reconstrução: O modelo é treinado para minimizar o erro de reconstrução entre o embedding original e a versão esparsa mapeada de volta ao espaço original:
   $$\min_U \mathbb{E}_z \left[ \| z - (U^{-1}\Pi_k(U(z - b)) + b) \|_1 \right]$$
   Como $U$ é invertível, o embedding original pode ser fielmente reconstruído, preservando a estrutura geométrica essencial para tarefas como alinhamento texto-imagem.
4. Estratégia de Treinamento: Para lidar com a transição não suave induzida pelo operador top-k, os autores empregam uma abordagem de aprendizado de currículo, começando com reconstruções densas e transitando gradualmente para o regime esparsos alvo. Durante o treinamento, $k$ é amostrado aleatoriamente para melhorar a robustez.
5. Modos de Interpretabilidade:
   • Baseado em Conceitos (estilo CLIP): Eixos individuais no espaço transformado são alinhados com conceitos textuais usando similaridade de cosseno contra um codificador de texto (por exemplo, embeddings de texto do CLIP).
   • Forma Livre (Generativo): Para modelos generativos (por exemplo, BLIP), os embeddings reconstruídos esparsos são passados para o decodificador de texto para gerar descrições em linguagem natural, permitindo explicações ao nível de frase derivadas de um pequeno conjunto de coordenadas ativas.

Principais Contribuições

• Desemaranhamento que Preserva Dimensionalidade: Ao contrário dos SAEs, o CEDAR alcança representações esparsas e desemaranhadas sem expandir a dimensão do embedding, evitando assim distorção geométrica e redundância.
• Invertibilidade: O método garante a reconstrução fiel do embedding original, assegurando que as explicações permaneçam diretamente vinculadas ao espaço de representação do modelo original.
• Framework Unificado: O CEDAR suporta tanto o alinhamento baseado em conceitos (casar neurônios com texto) quanto a geração em forma livre (decodificar vetores esparsos para texto) dentro de um único framework.
• Validação de Hipótese: O trabalho fornece evidências empíricas de que a estrutura semântica em VLMs pode ser descoberta através de uma mudança de base adequada, desafiando a necessidade de expansões supercompletas para interpretabilidade.

Resultados
Os autores avaliam o CEDAR contra variantes de Autoencoder Esparsos (MSAE, TopK, ReLU, BatchTopK) e baselines densos em benchmarks padrão (ImageNet-1K) e por meio de estudos com usuários.

• Compromisso Reconstrução-Esparsidade: O CEDAR alcança um compromisso competitivo entre erro de reconstrução (FVU) e esparsidade (número de características ativas $K$). Em regimes de baixa dimensionalidade, frequentemente requer menos componentes ativos para alcançar fidelidade de reconstrução comparável a outros métodos.
• Preservação Semântica: Métricas como Alinhamento de Vizinho Mais Próximo de Kernel Centralizado (CKNNA) e entropia cruzada de Sondagem Linear (LP) indicam que o CEDAR preserva a estrutura semântica e o desempenho em tarefas downstream comparáveis às baselines mais fortes (por exemplo, BatchTopK) e ao modelo denso.
• Estudo com Usuários:
  • Preferência: Participantes preferiram consistentemente as explicações conceituais do CEDAR sobre as do MSAE, achando-as mais representativas do conteúdo da imagem.
  • Relevância: Os conceitos sugeridos pelo CEDAR foram selecionados como relevantes por avaliadores humanos significativamente mais frequentemente do que os do MSAE.
  • Qualidade da Descrição: Quando usado para gerar legendas via um decodificador de texto, as representações esparsas do CEDAR produziram descrições que "descrevem a imagem" em taxas comparáveis ao modelo denso completo, superando vastamente modelos esparsos sem desemaranhamento.
• Análise Qualitativa: Exemplos visuais mostram o CEDAR identificando conceitos semânticos de alto nível coerentes (por exemplo, "cachorro", "husky", "madeira") e gerando legendas precisas, enquanto as baselines frequentemente recuperavam características ruidosas ou de baixo nível.

Significado e Alegações
O artigo alega que o CEDAR demonstra que o aparente emaranhamento em embeddings modernos de visão-linguagem é largamente resultado de desalinhamento de base e não de falta de dimensionalidade. Ao aprender um sistema de coordenadas global e invertível, o método revela uma estrutura composicional onde fatores semânticos estão concentrados em um pequeno número de dimensões alinhadas aos eixos.

Os autores posicionam o CEDAR como um framework flexível e agnóstico ao modelo que unifica interpretabilidade baseada em conceitos e em forma livre. Eles enfatizam que sua abordagem elimina a necessidade de expansões supercompletas, oferecendo uma maneira mais fiel e eficiente em termos de informação para entender e manipular representações aprendidas. O trabalho sugere que uma reparametrização adequada pode resolver o emaranhamento enquanto preserva a integridade geométrica do modelo original.