How Far Do Auto-Interpretation Labels Generalize: A Controlled Study Across Languages, Scripts, and Rewordings

Resumo Técnico: Até que ponto os rótulos de autointerpretação generalizam?

Definição do Problema
Os autoencoders esparsos (SAEs) tornaram-se uma ferramenta padrão para interpretar modelos de linguagem (LMs) ao decompor ativações densas em características esparsas e interpretáveis por humanos. Como os modelos contêm muito mais características do que o possível de inspecionar manualmente, os praticantes dependem de rótulos de autointerpretação: descrições em linguagem natural geradas por um LLM com base nos exemplos de maior ativação de uma característica.

O problema central abordado é a generalização desses rótulos. Um rótulo que descreve um conceito (ex: "decepção" ou "conteúdo violento") implica que a característica rastreia esse conceito universalmente. No entanto, permanece incerto se uma característica rotulada para um conceito em inglês realmente detecta esse mesmo conceito em diferentes idiomas, escritas e reformulações. Se o comportamento de uma característica for fortemente dependente da forma de superfície específica do dado de entrada (ex: texto em inglês) em vez do conceito semântico subjacente, o rótulo pode ser enganoso para auditoria de segurança ou controle de modelos (model steering) em contextos multilíngues.

Metodologia
Os autores constroem um paradigma de avaliação fatorial controlado usando a digrafia sérvia como banco de testes. O sérvio é escrito nativamente tanto em alfabeto latino quanto cirílico, relacionados por uma transliteração determinística e sem perda. Isso permite que os pesquisadores variem a escrita enquanto mantêm a língua, a redação e o significado constantes.

O estudo utiliza:

• Dataset: 300 sentenças do split devtest do FLORES+, cobrindo registros de notícias, instrucionais e de viagem.
• Variantes: Cada sentença aparece em quatro formas: Inglês (Latim), Sérvio (Latim), Sérvio (Cirílico) e Russo (Cirílico).
• Condições: Para cada variante, três condições são testadas:
  1. Original: A tradução profissional ou sua transliteração.
  2. Paráfrase: Uma reescrita que preserva o sentido com variações na forma de superfície.
  3. Aleatório: Uma sentença não relacionada de comprimento semelhante no mesmo idioma/escrita.
• Modelos & SAEs: A análise primária utiliza o Gemma-3-27B com SAEs Gemma Scope 2 (largura de dicionário de 16k, ativação JumpReLU). Os resultados são validados através de escalas de modelos (1B, 12B) e arquiteturas (Llama-3.1-8B com SAEs Llama Scope).
• Métricas de Avaliação:
  • Sobreposição de Características (Feature Overlap): Medida via similaridade de Jaccard dos conjuntos de características ativas entre camadas para determinar se as características codificam significado abstrato.
  • Falsificação de Autointerpretação: As características são selecionadas se dispararem tanto em originais em inglês quanto em paráfrases em russo (confirmando o rastreamento semântico translinguístico). Seus rótulos auto-gerados (do Neuronpedia, usando Claude Sonnet e Gemini) são então testados contra as versões em sérvio latino e cirílico. Um "erro" (miss) ocorre se uma característica rotulada por conteúdo falhar em ativar no mesmo significado em uma escrita/idioma diferente.

Principais Descobertas

1. As Características de SAE Codificam Significado Abstrato:
   O estudo confirma que as características de SAE genuinamente codificam conteúdo semântico que sobrevive a mudanças de escrita, idioma e redação.

   • Invariância de Escrita: A transliteração entre o sérvio latino e o cirílico preserva um alto grau de sobreposição de características (Jaccard médio de 0,73).
   • Características Semânticas Translinguísticas: Características ativadas pelo mesmo conteúdo em inglês e russo (diferentes em escrita, idioma e redação) mostram sobreposição substancial (pico de Jaccard de 0,57), significativamente superior às linhas de base aleatórias (0,13). Isso prova que características semânticas translinguísticas existem e valem a pena serem rotuladas.

2. Rótulos de Autointerpretação Falham Sistematicamente em Formas Menos Representadas:
   Apesar da existência de características semânticas, os rótulos auto-gerados não preveem com precisão o comportamento das características em todas as formas.

   • Taxas de Erro (Miss Rates): Características rotuladas por conteúdo falham em identificar o mesmo significado em sérvio até 4× mais frequentemente do que dentro do inglês. Por exemplo, na camada 53, a taxa de erro para paráfrases em inglês é de 7,3%, enquanto a taxa média de erro para o sérvio é de 30,1%.
   • Assimetria de Escrita: Mesmo entre as duas escritas sérvias (que são transliterações determinísticas uma da outra), as características falham mais em sérvio cirílico do que em sérvio latino. A razão de erro do cirílico para o latino cresce com a profundidade da rede, atingindo 1,35× na camada final.
   • Correlação com a Distribuição de Treinamento: Essas falhas alinham-se com a cobertura estimada dos dados de treinamento. O inglês é dominante nos corpora de pré-treinamento, o russo é de alto recurso mas menos dominante, e o sérvio (particularmente o cirílico) é raro. A confiabilidade das características do modelo degrada conforme a representação da forma de entrada nos dados de treinamento diminui.

3. Divergência Dependente da Profundidade:
   O hiato na confiabilidade aumenta conforme a profundidade da rede. Enquanto a confiabilidade dentro do mesmo idioma (inglês) melhora ou estabiliza em camadas mais profundas, a confiabilidade translinguística (sérvio) degrada. Isso sugere que as camadas mais profundas podem vincular as representações mais estritamente a formas de entrada específicas em vez de conceitos abstratos.

4. Invisibilidade da Falha:
   Crucialmente, os próprios rótulos de autointerpretação não fornecem qualquer indicação dessas falhas. Um rótulo como "atletas olímpicos" parece preciso com base nas principais ativações da característica (provavelmente exemplos em inglês), mas falha em prever o silêncio da característica sobre o mesmo conceito em sérvio cirílico.

Significância e Alegações
O artigo afirma que os rótulos de autointerpretação devem ser entendidos não como garantias sobre um conceito em geral, mas como alegações sobre o comportamento de uma característica em seus inputs mais bem representados.

• Limitação das Ferramentas Atuais: Praticantes que dependem desses rótulos para auditoria de segurança ou controle de modelos podem ser enganados. Uma característica rotulada para um conceito crítico de segurança pode detectar tal conceito em inglês, mas falhar em disparar em sérvio cirílico, permitindo que conteúdo nocivo passe despercebido.
• Falha Graduada: A falha não é binária (alto recurso vs. baixo recurso), mas graduada, correlacionando-se com a frequência da escrita/idioma específico nos dados de treinamento.
• Contribuição Metodológica: O estudo fornece um conjunto de avaliação fatorial controlado (liberado com o artigo) que isola escrita, idioma, redação e significado, oferecendo um método robusto para trabalhos futuros testarem a generalização de ferramentas de interpretabilidade.

Os autores concluem que, embora os SAEs consigam extrair características semânticas, os atuais pipelines de autointerpretação não acompanham a complexidade da generalização multilíngue, criando um "ponto cego" onde os rótulos são localmente precisos, mas globalmente não confiáveis.