Word Recovery in Large Language Models Enables Character-Level Tokenization Robustness

1. O Problema

Os Grandes Modelos de Linguagem (LLMs) são tradicionalmente treinados e avaliados com esquemas de tokenização canônicos (como BPE - Byte Pair Encoding), onde o texto é pré-processado em subpalavras ou palavras discretas. A visão convencional sugere que essa tokenização é um passo de pré-processamento "com perda", onde informações de nível de caractere são abstraídas.

Portanto, espera-se que desvios dessa tokenização (como entrada em nível de caractere puro, onde as fronteiras das palavras são removidas) degradem severamente o desempenho do modelo. No entanto, estudos recentes mostraram que LLMs exibem uma robustez surpreendente, mantendo desempenho competitivo mesmo com tokenização não canônica. O problema central investigado neste trabalho é: como os LLMs processam internamente essas entradas fragmentadas? Eles raciocinam diretamente sobre caracteres ou reconstruem internamente unidades lexicais de nível superior (palavras/subpalavras) para realizar a computação downstream?

2. Metodologia

Os autores utilizam uma abordagem de interpretabilidade mecânica para investigar os mecanismos internos dos modelos. O estudo foca na tokenização em nível de caractere como um caso extremo de entrada não canônica. A metodologia divide-se em três etapas principais:

• Detecção de Recuperação de Palavras (Word Recovery):

  • Foi desenvolvido um método baseado em decodificação para sondar os estados ocultos (hidden states) do modelo em cada camada.
  • Utilizando a matriz de incorporação de saída do modelo, os autores decodificam os estados ocultos de cada caractere para obter uma distribuição sobre o vocabulário.
  • Define-se uma pontuação de recuperação: a proporção de tokens canônicos únicos que podem ser identificados (recuperados) a partir dos estados ocultos das entradas em nível de caractere.

• Intervenção Causal (Remoção de Subespaço):

  • Para estabelecer a importância funcional, os autores realizam intervenções diretas. Eles identificam a direção no espaço de representação associada a um token recuperado e subtraem essa componente dos estados ocultos (residual stream) correspondentes ao intervalo de caracteres desse token.
  • Isso remove a informação do nível de palavra sem perturbar globalmente o estado do modelo, permitindo medir o impacto causal na tarefa downstream.

• Análise de Atenção (In-Group Attention):

  • Os autores analisam o mecanismo de atenção para entender como a recuperação ocorre.
  • Eles definem "atenção intra-grupo" (in-group attention) como a atenção entre caracteres que pertencem ao mesmo token canônico original.
  • Realizam experimentos de mascaramento (masking), onde a atenção entre caracteres do mesmo grupo é bloqueada em camadas específicas, para testar se essa interação é necessária para a formação das representações de palavras.

3. Principais Contribuições

• Identificação do "Word Recovery": O trabalho define e prova a existência de um processo interno onde LLMs reconstruem ativamente identidades de tokens de nível de palavra a partir de sequências de caracteres.
• Evidência Causal: Demonstra que a recuperação de palavras não é apenas um epifenômeno (um subproduto), mas um mecanismo necessário e causal para o entendimento contextual. A remoção dessas representações leva a uma queda drástica no desempenho.
• Mapeamento da Dinâmica de Camadas: Revela que a recuperação ocorre em padrões específicos dependendo do modelo (alguns recuperam cedo, outros em duas fases), e que a atenção intra-grupo nas camadas iniciais é o motor crítico para essa agregação de informação.

4. Resultados

Os experimentos foram realizados em três modelos (Gemma-2-9B-It, Qwen2.5-7B-Instruct, Llama-3.2-3B-Instruct) e quatro benchmarks de raciocínio (ARC-E, ARC-C, CSQA, OpenbookQA).

• Recuperação Ubíqua: Todos os modelos recuperaram uma fração substancial de tokens canônicos (pontuações de recuperação variando de ~57% a ~96%) a partir de entradas em nível de caractere.
• Correlação com Desempenho:
  • Quando a intervenção de remoção do subespaço de palavras foi aplicada nas camadas iniciais (onde a recuperação começa), o desempenho da tarefa caiu drasticamente.
  • À medida que a intervenção era aplicada em camadas mais profundas (após a recuperação estar consolidada), o impacto no desempenho diminuiu, indicando que as representações recuperadas são consumidas precocemente para o raciocínio.
• Papel Crítico da Atenção Intra-Grupo:
  • O mascaramento da atenção entre caracteres do mesmo grupo nas camadas iniciais reduziu significativamente tanto a pontuação de recuperação quanto a precisão da tarefa.
  • O mascaramento em camadas tardias teve um efeito muito menor.
  • Isso confirma que a agregação de informações de caracteres em representações lexicais ocorre cedo no processo de inferência.

5. Significado e Impacto

Este trabalho oferece uma explicação mecânica para a robustez observada em LLMs frente a tokenizações não canônicas. As descobertas indicam que:

1. Não é raciocínio direto em caracteres: Os modelos não processam texto caractere por caractere até o final; eles primeiro "reconstroem" o vocabulário interno.
2. Resiliência Arquitetural: A capacidade de recuperar palavras sugere que os LLMs mantêm uma "vocabulário interno" flexível, permitindo-lhes lidar com entradas mal formatadas ou segmentadas de forma diferente do treinamento.
3. Implicações para Interpretabilidade: O estudo destaca a importância de analisar a dinâmica de camadas iniciais e os padrões de atenção para entender como modelos de linguagem integram informações de baixo nível (caracteres) em conceitos de alto nível (palavras).

Em suma, o artigo demonstra que a robustez à tokenização não é um acidente, mas o resultado de um mecanismo causal de recuperação de palavras, sustentado por atenção intra-grupo nas camadas iniciais do Transformer.