Interpretability-Guided Layer Selection over Subspace Projection: SAEs as Stethoscopes, Not Scalpels, for Raw Task Vector Model Editing

Resumo Técnico: Seleção de Camadas Guiada por Interpretabilidade sobre Projeção em Subespaço

Declaração do Problema
Os Modelos de Linguagem de Grande Escala (LLMs) exigem cada vez mais edição de modelos "cirúrgica" para aprimorar capacidades de domínio específicas sem o custo computacional ou o esquecimento catastrófico associados ao ajuste fino completo. Dois fios de pesquisa principais abordam isso: Aritmética de Tarefas, que trata as diferenças de pesos entre modelos ajustados e modelos base como "vetores de tarefa" aditivos no espaço de pesos, e Interpretabilidade Mecanística (MI), que usa Autoencoders Esparsos (SAEs) para decompor o espaço de ativação em características interpretáveis para intervenção.

A hipótese predominante sugere um pipeline sinérgico: usar SAEs para identificar características relevantes ao domínio e, em seguida, injetar vetores de tarefa apenas através dessas características específicas (projeção em subespaço). Este artigo avalia rigorosamente essa hipótese em tarefas de raciocínio matemático usando Gemma-3-4B-IT e descobre um modo de falha fundamental nessa abordagem.

Metodologia
O artigo contrasta dois pipelines para edição de modelos guiada por SAE (ilustrados na Figura 1):

1. A Abordagem Falha (Projeção SAE):

   • Processo: Vetores de tarefa ($\Delta W$) são projetados no subespaço gerado pelos vetores decodificadores de SAE específicos do domínio antes da injeção.
   • Mecanismo: Isso tenta filtrar modificações no espaço de pesos através de direções no espaço de ativação.
   • Resultado: Isso atua como um gargalo severo de informação, descartando aproximadamente 97% da energia de modificação. Os autores atribuem isso a um desalinhamento geométrico: os vetores decodificadores do SAE abrangem o manifold de ativação (capturando regularidades estatísticas das representações), enquanto os vetores de tarefa existem no espaço de pesos (codificando mudanças computacionais). Projetar modificações do espaço de pesos através de direções do espaço de ativação confunde duas estruturas geométricas distintas, resultando em perda quase total do sinal funcional.

2. A Abordagem Proposta (SAE como Estetoscópio, Não Bisturi):

   • Processo: SAEs são usados estritamente para diagnóstico (seleção de camadas), não para intervenção (filtragem).
   • Etapa 1 (Extração de Vetor de Tarefa): Um vetor de tarefa é extraído via ajuste fino LoRA em um conjunto de dados específico do domínio (ex: Teoria dos Números).
   • Etapa 2 (Seleção de Camadas Guiada por SAE): Um Escores de Especificidade (SP) por camada é calculado. Para cada camada $l$, a pontuação é a especificidade máxima de suas características SAE, onde a especificidade é a razão entre a ativação média em entradas do domínio-alvo versus outros domínios. Camadas com $SP(l) \geq \tau_{SP}$ (ex: 4.0) são selecionadas.
   • Etapa 3 (Injeção Bruta Seletiva): O vetor de tarefa bruto e não filtrado ($\Delta W$) é injetado apenas nas camadas selecionadas, escalado por um parâmetro global $\alpha$. Nenhuma projeção ou mascaramento é aplicado ao próprio vetor.
   • Insight Chave: Isso preserva 100% da energia de modificação enquanto confina as edições a regiões relevantes ao domínio. Os autores observam uma lei de conservação empírica: à medida que o número de camadas selecionadas diminui, o parâmetro de escala ótimo $\alpha$ aumenta proporcionalmente ($n_{camadas} \times \alpha_{otimo} \approx 11.2$).

Resultados Principais
Avaliado no benchmark Minerva Math (7 disciplinas, incluindo Teoria dos Números, Contagem e Probabilidade, Álgebra, etc.) usando Gemma-3-4B-IT:

• Falha da Projeção: O método de projeção SAE (injetar vetores projetados em camadas selecionadas) não produziu melhorias estatisticamente significativas em nenhuma das sete disciplinas de matemática, mesmo ao aumentar a largura da característica SAE de 16K para 262K. Reteve apenas ~2–3,5% da energia de modificação.
• Sucesso da Injeção Bruta: O método proposto (injetar vetores brutos em camadas selecionadas por SAE) melhorou significativamente o desempenho:
  • Teoria dos Números: A precisão aumentou de 29,6% para 39,4% ($z = +3,41, p = 0,0007$).
  • Geral: 5 de 7 disciplinas mostraram melhorias estatisticamente significativas; nenhuma foi significativamente degradada.
  • Comparação: A mesclagem completa de LoRA (aplicar $\Delta W$ a todas as 34 camadas) degradou o desempenho em várias disciplinas devido a interferências.
• Robustez: O método é robusto ao parâmetro de escala $\alpha$ dentro de uma ampla faixa (0,70–1,10) e é totalmente determinístico com precisão float64.

Contribuições Principais

1. Estrutura Metodológica: Propõe "Seleção de Camadas Guiada por SAE com Injeção de Vetor de Tarefa Bruto", demonstrando que SAEs são eficazes para identificar onde editar (diagnóstico), mas ineficazes para filtrar o que injetar (intervenção).
2. Resultado Negativo Substantivo: Documenta que projetar vetores de tarefa em subespaços de características SAE descarta ~97% da energia de modificação e falha em produzir ganhos. Isso é apresentado como a contribuição científica central, desafiando a suposição intuitiva de que a seleção de características no espaço de ativação pode filtrar diretamente atualizações no espaço de pesos.
3. Evidência Empírica de Descompasso Geométrico: Fornece fortes evidências de que as direções SAE no espaço de ativação e os vetores de tarefa no espaço de pesos não são intercambiáveis, apoiando a literatura recente que questiona a confiabilidade dos SAEs como ferramentas de intervenção além da sondagem.
4. Ablação Extensa: Inclui mais de 30 configurações testando larguras de características, limiares de seleção de camadas, fontes de vetores de tarefa e parâmetros de escala.

Significado e Alegações
O artigo afirma que a distinção entre espaço de ativação e espaço de pesos é um "eixo de suporte" do problema de edição de modelos. O significado principal reside em redefinir o papel das ferramentas de interpretabilidade:

• SAEs como Estetoscópios: São valiosos para diagnosticar especialização de domínio ao nível da camada.
• SAEs não são Bisturis: Não devem ser usados para filtrar cirurgicamente modificações no espaço de pesos via projeção.

Os autores concluem que a edição cirúrgica eficaz requer uma separação de papéis: usar SAEs para identificar as camadas-alvo, mas injetar o vetor de tarefa bruto e não filtrado para preservar o sinal funcional. Essa abordagem oferece um framework principiado, sem treinamento (pós-treinamento) e determinístico para aprimorar capacidades de domínio sem esquecimento catastrófico. As descobertas sugerem que a eficácia dessa seleção diagnóstica é contingente à "nitidez" do próprio vetor de tarefa, exigindo dados de treinamento de domínio focados.