The Anxiety of Influence: Bloom Filters in Transformer Attention Heads

1. O Problema

Os modelos de linguagem baseados em Transformers enfrentam uma questão fundamental em cada posição de uma sequência: "Este token já apareceu antes no contexto?". A resposta a essa pergunta é crucial para tarefas como resolução de coreferência, modulação da surpresa (surprisal) e aprendizado em contexto (in-context learning).

Embora a literatura anterior tenha identificado cabeças de atenção especializadas em padrões específicos (como cabeças de indução ou cabeças de "token anterior"), não havia uma caracterização clara de mecanismos dedicados especificamente ao teste de pertinência de conjuntos (membership testing) de forma probabilística e eficiente em termos de espaço. O artigo propõe que certas cabeças de atenção funcionam como Filtros de Bloom, uma estrutura de dados probabilística clássica que permite testar se um elemento pertence a um conjunto com alta precisão e sem falsos negativos, aceitando uma taxa controlada de falsos positivos.

2. Metodologia

O estudo foi conduzido analisando quatro modelos de linguagem autoregressivos: GPT-2 Small, Medium, Large e Pythia-160M, utilizando a biblioteca TransformerLens.

• Design de Estímulos: Os autores criaram 100 tripletos de frases contendo:
  1. Repetição Exata: Uma palavra aparece duas vezes.
  2. Sem Repetição: Todas as palavras são únicas.
  3. Quase Erro Semântico: A palavra repetida é substituída por um sinônimo (similaridade Wu-Palmer > 0.7).
• Métricas de Identificação:
  • Seletividade: Razão entre a atenção média em repetições exatas e a atenção em tokens únicos.
  • Taxa de Falsos Negativos (Miss Rate): Fração de repetições que não recebem atenção significativa.
  • Razão de Falsos Positivos (FP): Atenção dada a sinônimos em relação às repetições exatas.
• Controles de Confundimento: Para distinguir filtros de Bloom reais de cabeças de atenção genéricas (que apenas atendem a todo o prefixo), os autores realizaram experimentos controlando o comprimento da sequência enquanto variavam o número de tokens únicos. Isso foi crucial para descartar artefatos de comprimento.
• Análise de Capacidade Teórica: Testaram se a taxa de falsos positivos segue a curva teórica de saturação de um Filtro de Bloom ($p \approx (1 - e^{-kn/m})^k$) à medida que o número de tokens únicos ($n$) aumenta.
• Análise de Resolução de Hash: Investigaram se a taxa de falsos positivos decai monotonicamente com a distância de cosseno no espaço de embeddings, indicando um "hash sensível à distância" (Locality-Sensitive Hashing).
• Ablação: Remoção de cabeças (zero e média) para medir o impacto na perplexidade em textos com e sem repetições.

3. Principais Contribuições e Resultados

A. Identificação de Cabeças Filtro de Bloom

O estudo identificou cabeças de atenção que exibem a assinatura comportamental de filtros de Bloom:

• Cabeças Candidatas Iniciais: Em GPT-2 Small, quatro cabeças (L0H1, L0H5, L1H11, L3H0) mostraram alta seletividade (>50x) e baixa taxa de falsos negativos.
• Reclassificação de L3H0: Após controles de confundimento (fixando o comprimento da sequência), a cabeça L3H0 foi reclassificada como uma cabeça de atenção a prefixos (atende a todo o conteúdo anterior, independentemente de repetição), eliminando-a da categoria de teste de pertinência.
• Cabeças Reais: Restaram três cabeças genuínas de teste de pertinência: L0H1, L0H5 e L1H11.

B. Espectro de Estratégias de Pertinência

As três cabeças validadas formam um sistema multi-resolução:

1. L1H11 (Filtro Clássico de Baixa Capacidade): Segue perfeitamente a fórmula teórica de Bloom ($R^2 = 1.0$). Sua taxa de falsos positivos satura rapidamente (cerca de 50 tokens únicos), com uma capacidade estimada de apenas ~5 bits.
2. L0H1 e L0H5 (Filtros de Alta Precisão/Capacidade): Mantêm taxas de falsos positivos extremamente baixas (0–4%) mesmo com até 180 tokens únicos, superando a capacidade teórica de um filtro de Bloom clássico com $d_{head}=64$.
3. Independência: As decisões de falsos positivos entre as cabeças são quase independentes, permitindo que, combinadas, reduzam drasticamente a taxa de erro global.

C. Hash Sensível à Distância (Locality-Sensitive Hashing)

Diferente de filtros de Bloom clássicos que usam hashes aleatórios, as cabeças de atenção usam o mecanismo de produto escalar $QK^T$, que é inerentemente uma operação de similaridade.

• A análise mostrou que a taxa de falsos positivos decai monotonicamente conforme a distância de cosseno entre o token de prova e o token alvo aumenta.
• Isso confirma que o modelo implementa Filtros de Bloom Sensíveis à Distância, onde a "colisão" de hash ocorre com tokens semanticamente próximos, não apenas idênticos.

D. Generalização e Taxonomia

• Generalização: Diferente das "cabeças de token duplicado" anteriores (focadas em nomes), estas cabeças respondem a qualquer tipo de token repetido (substantivos, verbos, adjetivos), com uma generalização 43% maior.
• Independência Taxonômica: Não há sobreposição com cabeças de indução ou cabeças de token anterior. Elas concentram-se nas camadas iniciais (0–1), sugerindo que o teste de pertinência é uma pré-condição para o processamento de padrões mais complexos.
• Validação Naturalística: A assinatura foi confirmada no conjunto de dados WikiText-103, com taxas de seletividade de 15x a 54x.

E. Ablação e Papel Computacional

A ablação revela que, embora especializadas em detecção de repetição, essas cabeças contribuem para o processamento geral de contexto (tanto tokens repetidos quanto novos). Isso sugere que o teste de pertinência coexiste com outras funções computacionais, alinhando-se à hipótese de superposição.

4. Significado e Implicações

• Descoberta de Primitivas Computacionais: O estudo demonstra que o gradiente descendente, otimizando apenas a previsão do próximo token, converge espontaneamente para uma solução de teste de pertinência probabilística que imita estruturas de dados clássicas (Filtros de Bloom) e suas variantes avançadas (Sensíveis à Distância), sem que isso tenha sido explicitamente programado.
• Detecção de Alucinações: Como essas cabeças sinalizam "pertinência", uma forte ativação em um token que não está realmente no contexto (falso positivo estrutural) pode ser usada como um diagnóstico em tempo real de alucinação, sem custo computacional adicional.
• Conexão Literária e Técnica: O título faz uma analogia com "A Ansiedade da Influência" de Harold Bloom. Enquanto a teoria literária fala sobre a "misprision" (leitura errônea criativa do passado), os falsos positivos dos filtros de Bloom representam uma "misprision" estrutural: o modelo trata o novo como familiar. A análise mostra que essa "ansiedade" é proporcional à proximidade funcional (similaridade semântica), não apenas sequencial.
• Design de Arquitetura: Sugere que futuras arquiteturas de Transformers poderiam incorporar módulos de hash ou teste de pertinência explicitamente nas camadas iniciais, liberando capacidade de atenção para outras tarefas.

Conclusão

O artigo estabelece uma nova categoria funcional na taxonomia de cabeças de atenção: os Testadores de Pertinência (Membership Testers). Eles formam um sistema multi-resolução que combina filtros de alta capacidade com filtros de baixa capacidade, utilizando hashing sensível à distância. A reclassificação rigorosa de uma candidata inicial (L3H0) através de controles de confundimento reforça a validade das descobertas, demonstrando que a comunidade de IA precisa adotar padrões experimentais rigorosos semelhantes aos da psicologia experimental para distinguir artefatos de mecanismos reais.