Resumo Técnico: Transferência de Interpretabilidade de Linguagem para Visão via Autoencoders Esparsos

1. Declaração do Problema

A interpretabilidade dos Modelos Multimodais Grandes (LMMs) permanece um desafio significativo. Embora os Autoencoders Esparsos (SAEs) tenham decomposto com sucesso características polissêmicas de linguagem em conceitos monossêmicos e interpretáveis dentro de Modelos de Linguagem Grandes (LLMs), aplicar esse sucesso ao domínio visual é impedido por duas limitações primárias:

1. Ambiguidade de Rotulagem: O treinamento de SAEs específicos de domínio em codificadores visuais produz características visuais monossêmicas, mas rotular essas características é difícil. Distinguir se uma característica representa um objeto específico, uma raça ou uma ação é ambíguo. Além disso, SAEs apenas visuais não revelam como as características visuais são interpretadas uma vez que entram no fluxo residual do LLM.
2. Custo Computacional: O ajuste fino de SAEs existentes baseados em LLMs para incorporar informações visuais é proibitivamente caro. Por exemplo, adaptar um modelo como o Gemma Scope requer recursos computacionais massivos e esforços extensivos de re-rotulagem (por exemplo, centenas de milhares de solicitações ao LLM) para contabilizar espaços latentes deslocados.

A questão central abordada é: Os autoencoders esparsos de linguagem podem ser reutilizados para interpretar conceitos visuais sem treinar novos SAEs específicos de visão?

2. Metodologia: Framework VISTA

Os autores propõem o VISTA (Interpretabilidade Visual via Alinhamento de Transferência de SAE), um framework projetado para transferir a interpretabilidade de linguagem para visão dentro de um modelo de linguagem-vision estilo LLaVA. A inovação central é restringir o projetor visual para mapear tokens visuais diretamente no espaço de SAE textual pré-existente e rotulado do LLM.

Arquitetura e Objetivo de Treinamento

• Configuração: O framework utiliza um codificador visual congelado (por exemplo, DINOv2, CLIP) e um LLM congelado. Um projetor linear treinável ($P_\theta$) mapeia tokens visuais ($v$) para o espaço de incorporação do LLM ($e_v$).
• Função de Perda: Diferente do treinamento padrão que minimiza apenas a Entropia Cruzada ($L_{CE}$) no texto alvo, o VISTA introduz uma Função de Perda de Reconstrução de SAE ($L_{SAE}$) auxiliar.
  • Um SAE pré-treinado, treinado no fluxo residual do LLM usando apenas dados de texto, é usado como restrição.
  • A perda minimiza o Erro Quadrático Médio entre os tokens visuais projetados e sua reconstrução pelo SAE de texto: $L_{SAE} = \frac{1}{|M|} \sum_{l \in M} ||SAE_l(e^l_v) - e^l_v||^2_2$.
  • O objetivo total é $L_{total} = L_{CE} + L_{SAE}$.
• Mecanismo: Isso força os tokens visuais a residirem na variedade definida pelos SAEs de texto. Consequentemente, as entradas visuais podem ser interpretadas através de conceitos linguísticos de SAE pré-rotulados com custo computacional adicional negligenciável, contornando a necessidade de treinamento de SAEs específicos de visão.

Navegação de Alta Granularidade

Uma vez alinhados, a manipulação visual torna-se uma operação aritmética dentro da variedade linguística. O framework permite navegação localizada adicionando ou subtraindo direções de decodificador (conceitos) do SAE de texto a posições específicas de tokens visuais ($v_{source}$):

• Remoção: $v_{steered} = v_{source} - \beta \cdot v_{remove}$
• Substituição: $v_{steered} = v_{source} + \alpha \cdot v_{add}$
  Isso permite a remoção ou substituição de objetos específicos na percepção do modelo enquanto preserva o contexto da cena circundante.

3. Contribuições Principais

1. Transferência de Interpretabilidade: A introdução de um objetivo de treinamento que alinha tokens visuais com características de SAE de LLM, facilitando a transferência de interpretabilidade entre modalidades sem o ônus computacional de treinar ou rotular SAEs específicos de visão.
2. Análise de Codificadores: Uma comparação rigorosa de codificadores visuais habilitada pelo VISTA, revelando que o DINOv2 alcança localização espacial superior e estável em relação à arquitetura. Ao contrário de modelos contrastivos como o CLIP, que priorizam resumos globais e sofrem de confusão espacial, o objetivo local-para-global auto-supervisionado do DINOv2 preserva informações locais de alta granularidade necessárias para precisão ao nível de patch.
3. Validação Causal: Demonstração de que intervenções aritméticas em tokens visuais usando direções de SAE de texto produzem mudanças coerentes e localizadas na saída do modelo. Isso fornece evidência causal de que tokens visuais habitam a variedade do SAE de texto.

4. Resultados e Descobertas

Alinhamento e Taxa de Correspondência

• Taxa de Correspondência: As restrições do VISTA levam a um aumento triplo na taxa de correspondência (a precisão com que conceitos textuais ativados correspondem a elementos semânticos na imagem) em comparação com baselines sem restrições.
• Alinhamento Atrasado: O artigo desafia a noção de "alinhamento atrasado" (onde tokens visuais se alinham naturalmente com características de texto apenas em camadas mais profundas). Embora esse fenômeno tenha sido observado em modelos Gemma sem restrições, ele não ocorre universalmente (por exemplo, em LLaMA-3.1-8B). As restrições do VISTA forçam o alinhamento imediato em todas as arquiteturas e camadas.
• Reconstrução e Esparsidade: Com restrições de SAE, tokens visuais alcançam convergência imediata no erro de reconstrução e esparsidade, correspondendo à distribuição de tokens de texto desde a primeira camada, enquanto tokens sem restrições frequentemente permanecem densos e de alto erro ao longo da rede.

Localização Espacial

• DINOv2 vs. CLIP: O DINOv2 demonstra uma Precisão de Localização Espacial (SLA) de 0,927 (com Gemma-2-2B), superando significativamente o CLIP (0,201) e o I-JEPA (0,702).
• Limitações do CLIP: As ativações do CLIP exibem confusão espacial, frequentemente ativando conceitos longe do objeto relevante, tornando a navegação de alta granularidade instável.
• Robustez: O DINOv2 mantém alta precisão de localização em diferentes backbones de LLM (Gemma-2-2B, Gemma-2-9B, LLaMA-3.1-8B), enquanto o desempenho do CLIP varia significativamente e permanece mais baixo.

Desempenho de Navegação

• Ganhos Quantitativos: Aproveitando a precisão do DINOv2, o VISTA alcança uma melhoria de 35% em tarefas de remoção de objetos e uma melhoria de 47% em tarefas de substituição de objetos sobre as melhores baselines apenas visuais (VisionSAE e PatchSAE).
• Resultados Qualitativos: A navegação com DINOv2 permite modificações precisas (por exemplo, mudar um "cão correndo" para um "gato correndo" ou remover um gato de um sofá) enquanto preserva o contexto global da cena. Em contraste, a navegação baseada em CLIP frequentemente resulta em alucinações ou alterações no contexto global.
• Evidência Causal: Comparações controladas confirmam que o VISTA modifica a percepção do modelo de patches visuais específicos em vez de sequestrar a via de geração de linguagem. A navegação apenas de texto ou navegação por prompt falha em preservar a coerência da cena.

Impacto no Desempenho

• Modelos Pequenos: Em modelos menores (por exemplo, Gemma-2-2B), as restrições de SAE induzem uma regressão marginal de precisão em alguns benchmarks, provavelmente devido à capacidade representacional limitada.
• Modelos Grandes: Em arquiteturas maiores (por exemplo, LLaMA-3.1-8B), as restrições de SAE atuam como um regularizador benéfico, melhorando o desempenho na maioria dos benchmarks.
• Robustez OOD: O alinhamento do VISTA generaliza para dados Fora de Distribuição (OOD) (DomainNet), mantendo taxas consistentes de reconstrução, esparsidade e correspondência, indicando que o alinhamento é uma propriedade estrutural e não um artefato do conjunto de treinamento.

5. Significado e Alegações

O artigo afirma que a interpretabilidade é uma propriedade transferível entre modalidades. Ao impor restrições de SAE durante o alinhamento de codificadores de visão a LLMs, o VISTA mapeia tokens visuais para um espaço de características linguísticas pré-existente e rotulado. Isso elimina a necessidade dos custos computacionais e de rotulagem associados ao treinamento de SAEs específicos de visão.

Os autores enfatizam que o sucesso da interpretabilidade localizada e da navegação está intrinsicamente acoplado à fidelidade espacial do backbone de visão. Eles demonstram que o objetivo local do DINOv2 fornece a precisão necessária para essa transferência, superando significativamente modelos contrastivos como o CLIP. Esse paradigma de "transferência de interpretabilidade" oferece um caminho escalável para entender e controlar sistemas multimodais complexos, permitindo intervenções causais de alta granularidade e análise de circuitos de características sem os custos proibitivos de retreinar modelos fundamentais.

O trabalho é validado em múltiplas arquiteturas de LLM (Gemma, LLaMA) e codificadores visuais (CLIP, DINOv2, I-JEPA), com código disponibilizado para apoiar pesquisas futuras sobre interpretabilidade mecânica em sistemas multimodais.