Steering LLMs? Actually, Sparse Autoencoders can outperform simple baselines

Resumo Técnico: Direcionamento de LLMs com Autoencoders Esparsos

Problema
Autoencoders Esparsos (SAEs) foram propostos como uma ferramenta para interpretar Grandes Modelos de Linguagem (LLMs) ao descobrir características monossemânticas no fluxo residual, baseando-se na Hipótese da Representação Linear e na hipótese da superposição. Embora as características de um SAE sejam teoricamente capazes de controlar a geração do modelo (direcionamento/steering), benchmarks recentes, como o AxBench (Wu et al., 2025), sugeriram que os SAEs apresentam desempenho significativamente inferior em comparação com baselines simples, como o prompting. Wu et al. (2025) concluíram que "mesmo baselines simples superam os Autoencoders Esparsos" em tarefas de direcionamento. Além disso, trabalhos anteriores (Wang et al., 2025) sugeriram que alta interpretabilidade e utilidade de direcionamento estão fortemente correlacionadas com alta esparsidade (baixo $\ell_0$), uma condição frequentemente atendida por características anotadas em repositórios como o Neuronpedia. Os autores deste artigo argumentam que o baixo desempenho relatado por Wu et al. (2025) pode decorrer de estratégias de rotulagem e seleção de características subótimas, em vez de uma limitação inerente aos SAEs.

Metodologia
O artigo propõe um pipeline supervisionado para rotular e selecionar características de SAE para melhorar o desempenho do direcionamento, contrastando com abordagens anteriores de rotulagem não supervisionadas ou baseadas em LLM.

1. Pipeline de Rotulagem Supervisionada:

   • Fonte de Dados: Os autores utilizam conjuntos de dados do Stack Exchange (ex: academia, biologia, esportes), onde as tags atribuídas pelos usuários servem como rótulos múltiplos de verdade fundamental (ground-truth).
   • Sondas de Características (Feature Probes): Para cada característica de SAE, uma sonda linear é construída calculando a frequência de ativação da característica sobre um conjunto de dados. Uma previsão binária é feita com base no fato de a frequência exceder um limiar $\tau$.
   • Pontuação F1 Calibrada: Para associar características a rótulos, os autores computam uma "F1 calibrada" ($F1^c$). Esta métrica ajusta a pontuação F1 padrão para levar em conta o suporte do rótulo (frequência), evitando o viés para rótulos raros ou comuns. O limiar $\tau$ ideal é selecionado para maximizar esta pontuação.
   • Denoising (Redução de Ruído) e Seleção: Para garantir correspondências de alta qualidade, o pipeline aplica três critérios:
     1. Limiar de Suporte de Rótulo: Filtra rótulos com menos de 50 ocorrências para reduzir a variância.
     2. Proxy de Pontuação de Saída: Utiliza um limiar ($10^{-3}$) baseado na pontuação de saída de Arad et al. (2025) para filtrar características com potencial de direcionamento inerente.
     3. Seleção Top-K: Retém os 50 melhores pares característica-rótulo por categoria.

2. Mecanismo de Direcionamento (Steering):

   • Os autores empregam a abordagem de edição de ativação de Templeton et al. (2024). Durante a inferência, as ativações de características específicas ($z_f$) são fixadas (clamped) em um valor $\alpha$. O erro de reconstrução é preservado, e o vetor latente editado é passado pelo decodificador.
   • Avaliação: O método é avaliado no AxBench, que classifica o texto gerado em fluência, seguimento de instruções e incorporação de conceitos. Os autores otimizam a força de direcionamento $\alpha$ individualmente para cada par característica-rótulo usando validação cruzada, em vez de usar um único valor global.

3. Configuração Experimental:

   • Modelos: Experimentos foram conduzidos no Gemma 2 (9B) usando SAEs do Gemma Scope (largura 131k) inseridos no fluxo residual nas camadas 17 e 32.
   • Baselines: As comparações incluem o baseline "NP random" (características selecionadas aleatoriamente com rótulos do Neuronpedia) e o baseline de direcionamento por prompt de Wu et al. (2025).

Resultos Principais

• Paridade de Desempenho com LoRA: Quando as características são selecionadas e rotuladas via o pipeline supervisionado proposto, os SAEs alcançam um desempenho de direcionamento no benchmark AxBench que é próximo de igualar os baselines de LoRA (Low-Rank Adaptation). Isso supera significativamente os resultados relatados por Wu et al. (2025).
• Validade Causal: O pipeline seleciona características que são surpreendentemente causais de seus rótulos identificados. Mesmo quando o componente de "pontuação de saída" (um proxy para capacidade de direcionamento) é removido do processo de seleção, as características restantes selecionadas pela rotulagem supervisionada ainda demonstram desempenho de direcionamento superior às seleções aleatórias do Neuronpedia.
• Independência de Esparsidade: Contrariando as descobertas de Wang et al. (2025), os autores descobrem que alta esparsidade (baixo $\ell_0$) não é estritamente crucial para um direcionamento bem-sucedido. Tanto os SAEs de baixa quanto os de alta esparsidade no modelo Gemma Scope foram eficazes para tarefas de direcionamento.
• Baseline de Prompting: Embora o método de SAE proposto melhore significativamente em relação às tentativas anteriores de SAE, os autores observam que o prompting simples continua sendo um baseline forte, provavelmente porque os LLMs são explicitamente treinados para seguir instruções.

Significância e Alegações
O artigo serve como uma refutação parcial à afirmação de que os SAEs são ineficazes para direcionamento. Os autores argumentam que os resultados negativos em Wu et al. (2025) não fizeram "justiça total" aos SAEs devido à dependência de rótulos pré-existentes, potencialmente subótimos, e à falta de uma seleção de características supervisionada.

A principal significância reside em demonstrar que:

1. A Rotulagem Importa: O método de rotular características de SAE é crítico. Uma abordagem supervisionada usando métricas calibradas e limiares de suporte produz características com impacto causal genuíno na geração do modelo.
2. Robustez dos SAEs: Os SAEs podem ser competitivos com métodos de ajuste fino de parâmetros eficientes (LoRA) para direcionamento, validando sua utilidade como ferramenta de interpretabilidade.
3. Verdade Fundamental Causal: Em um ambiente de pesquisa, o direcionamento bem-sucedido de uma característica confirma a "verdade fundamental" do rótulo de uma característica, distinguindo-a de artefatos de idiossincrasias de dataset (polissemanticidade) que poderiam induzir ao erro em interpretações baseadas apenas em correlação.

Os autores mantêm um tom modesto, reconhecendo que, embora os SAEs sejam poderosos para pesquisa e compreensão dos internos do modelo, o prompting continua sendo um baseline difícil de superar para aplicações práticas devido à natureza do treinamento de LLMs. Eles também observam que o direcionamento de características envolve "dano controlado" ao modelo, tornando-o menos adequado para ambientes de produção em comparação ao ajuste fino padrão.