Polysemanticity or Polysemy? Lexical Identity Confounds Superposition Metrics

Título: Polissemia ou Polissemia? Identidade Léxica Confunde Métricas de Superposição

1. O Problema

O fenômeno da polissemia (ou polysemanticity) em Grandes Modelos de Linguagem (LLMs) refere-se à ativação de um único neurônio para múltiplos conceitos aparentemente não relacionados. A explicação predominante na literatura é a hipótese da superposição: como o modelo não possui dimensões suficientes para representar todos os conceitos separadamente, ele "comprime" variáveis no espaço de ativação, armazenando-as como direções quase ortogonais. Ferramentas como Autoencoders Esparsos (SAEs) são treinadas para reverter essa compressão e recuperar características monossêmicas.

No entanto, os autores argumentam que uma parte significativa do que as métricas atuais identificam como superposição pode ser, na verdade, um viés de identidade léxica (lexical confound).

• O Cenário: Um neurônio ativa tanto para "banco financeiro" quanto para "borda de rio" (ambos o termo "bank").
• A Hipótese Alternativa: A sobreposição não ocorre porque o modelo está comprimindo dois conceitos distintos, mas porque o neurônio responde à forma da palavra ("bank") antes que o significado seja desambiguado.
• O Risco: Métricas padrão não conseguem distinguir entre "comprimir conceitos" e "responder à forma da palavra", levando a uma superestimação da superposição e a interpretações incorretas sobre a arquitetura do modelo.

2. Metodologia

Os autores propõem uma abordagem rigorosa para isolar as contribuições da forma da palavra (léxico) versus o significado (semântica) na ativação neuronal.

A. Decomposição Fatorial 2x2

O núcleo da metodologia é um experimento que cruza dois fatores binários para criar quatro condições de comparação:

1. Mesma Palavra / Mesmo Sentido (SL - Same-Lemma): Ex: "bank" (financeiro) vs. "bank" (financeiro). Sobreposição esperada: Léxico + Semântico.
2. Mesma Palavra / Sentido Diferente (PS - Polysemantic): Ex: "bank" (financeiro) vs. "bank" (rio). Sobreposição esperada: Apenas Léxico (o foco do estudo).
3. Palavra Diferente / Mesmo Sentido (SYN - Synonym): Ex: "bank" (financeiro) vs. "institution" (instituição). Sobreposição esperada: Apenas Semântico.
4. Palavra Diferente / Sentido Diferente (CL - Cross-Lemma): Ex: "bank" vs. "plant" (sem relação). Linha de base.

Métrica Chave ($R_{lex}$):
Os autores definem uma razão de contribuição léxica:
$$R_{lex} = \frac{\bar{M}_{PS} - \bar{M}_{SYN}}{\bar{M}_{SL} - \bar{M}_{CL}}$$
Onde $M$ representa a sobreposição (ex: similaridade de cosseno). Se $R_{lex} > 0$, a forma da palavra contribui mais para a sobreposição do que o significado compartilhado.

B. Classificação de Neurônios

Para validar a distinção em nível individual, os neurônios são classificados em:

• Seletivos ao Sentido (Sense-Selective): Ativam fortemente para um sentido específico e pouco para o outro (alto Índice de Seletividade ao Sentido - SSI).
• Cegos ao Sentido (Sense-Blind): Ativam consistentemente para a palavra, independentemente do sentido (baixo SSI).

C. Experimentos Causais e Downstream

• Ablação: Remoção de neurônios seletivos vs. cegos para medir o impacto na precisão de desambiguação e na distribuição de saída (KL divergence).
• Edição de Modelo (ROME): Aplicação de técnicas de edição de conhecimento para verificar se a edição de um sentido afeta o outro (dano colateral).
• Análise de Subespaço: Uso de PCA para identificar um subespaço de "identidade léxica" (LIS) que pode ser removido.

3. Principais Contribuições e Resultados

A. A Forma da Palavra Domina a Sobreposição

Em nove modelos de transformadores (variando de 110M a 70B parâmetros, incluindo GPT-2, BERT, Pythia e LLaMA-2), a condição PS (Mesma Palavra, Sentido Diferente) consistentemente excedeu a condição SYN (Palavra Diferente, Mesmo Sentido).

• Isso significa que compartilhar a forma da palavra gera mais sobreposição neuronal do que compartilhar o significado semântico.
• A razão $R_{lex}$ foi positiva em todas as camadas e modelos, indicando que a identidade léxica é o principal motor da sobreposição observada.

B. Impacto nos Autoencoders Esparsos (SAEs)

O viés léxico propaga-se para os SAEs:

• Entre 18% e 36% das características aprendidas por SAEs para palavras polissêmicas são "cegas ao sentido" (ativam para a forma da palavra, não para o conceito).
• Um exemplo citado é a característica #5132 de um SAE do GPT-2, que foi rotulada automaticamente como "adjetivos intensificadores", mas na verdade dispara para 232 palavras polissêmicas diferentes (ex: "foot", "church", "kick"), indicando que ela detecta a forma da palavra, não um conceito semântico coerente.

C. Estrutura Mecanística Identificável

O viés não é difuso; ele reside em um subespaço compacto (aprox. 20 dimensões, ou $\le 1\%$ do espaço de ativação).

• Remover apenas essas 20 dimensões (Subespaço de Identidade Léxica - LIS) reduz a lacuna entre PS e SYN em 37–51%.
• Isso demonstra que o viés é localizável e removível.

D. Consequências Práticas

1. Desambiguação de Sentido (WSD): Neurônios seletivos ao sentido alcançam 89.8% de precisão, enquanto os cegos ao sentido ficam próximos do acaso (41.9%).
2. Edição de Conhecimento (ROME):
   • Editar usando todos os neurônios ativos causa dano colateral: tentar editar o sentido "rio" de "bank" também altera o sentido "financeiro".
   • Editar apenas os neurônios seletivos ao sentido (filtrando os cegos) torna a edição significativamente mais seletiva (p = 0.002), preservando o sentido não editado.

4. Significado e Implicações

• Reavaliação da Polissemia: Grande parte do que as métricas atuais chamam de "superposição" é, na verdade, "identidade léxica". A compressão de conceitos distintos existe, mas é mascarada pelo sinal da forma da palavra.
• Correção de Métricas: As métricas de polissemia devem ser ajustadas (subtraindo a contribuição léxica estimada via $R_{lex}$ ou projetando fora o subespaço LIS) para medir a verdadeira superposição.
• Melhoria em Ferramentas de Interpretabilidade:
  • Para SAEs: É necessário verificar se as características ativam para a forma da palavra antes de atribuir-lhes significado semântico.
  • Para Edição de Modelos: Práticas de edição devem classificar e isolar neurônios seletivos ao sentido para evitar dano colateral entre sentidos de uma mesma palavra.
• Validação Robusta: Os resultados foram validados em textos modernos (Wikipedia) e em modelos de diferentes arquiteturas e escalas, confirmando que o fenômeno é uma propriedade intrínseca de como os transformadores representam palavras polissêmicas, e não um artefato de dados antigos (SemCor).

Conclusão

O artigo demonstra que a identidade léxica é um fator causal primário na ativação neuronal para palavras polissêmicas, frequentemente superando a sobreposição semântica. Ignorar esse viés leva a uma compreensão errônea da compressão de conceitos em LLMs. A proposta de separar o sinal léxico do semântico oferece ferramentas práticas para melhorar a precisão de métricas de interpretabilidade, a eficácia de editores de modelos e a qualidade das características extraídas por SAEs.