Resumo Técnico: A Forma da Adição: Estruturas Geométricas da Aritmética em Grandes Modelos de Linguagem

1. Definição do Problema

Apesar de alcançarem alto desempenho em benchmarks de raciocínio matemático complexo (ex: GSM8K, MATH), os Grandes Modelos de Linguagem (LLMs) exibem uma fragilidade surpreendente em primitivas algorítmicas fundamentais, particularmente na aritmética de múltiplos dígitos. Existe um paradoxo central: os modelos frequentemente codificam a informação correta internamente, mas falham ao emiti-la, cometendo frequentemente erros de "erro por um" (off-by-one) à medida que o número de operandos aumenta. Pesquisas anteriores tentaram modelar esses comportamentos via manipulação simbólica ou representações geométricas, mas o mecanismo preciso que liga as geometrias de ativação interna a falhas de saída específicas (como erros de propagação de carry/transporte) permanece elucidado. Além disso, embora sondas leves possam decodificar a verdade fundamental (ground truth) de modelos falhos, a estrutura geométrica que permite que a verdade e a alucinação coexistam dentro de um único vetor de ativação ainda não foi totalmente elucidada.

2. Metodologia

Os autores investigam as representações internas detalhadas de LLMs realizando a adição de 3 termos de inteiros de 10 dígitos. O estudo emprega uma abordagem multifacetada combinando redução de dimensionalidade, sondagem (probing) e intervenção causal:

• Conjunto de Dados e Configuração: Utilizando o modelo Qwen3-4B, os autores construíram um conjunto de dados de 10.000 problemas de adição. Eles extraem vetores de estado oculto ($h_p^{(L)}$) da última camada em cada posição de dígito gerada, focando principalmente em uma posição média representativa ($p=4$).
• Visualização Geométrica: Espaços de ativação de alta dimensão são projetados em 2D usando UMAP (Uniform Manifold Approximation and Projection) com distância de cosseno. A visualização inclui vetores "Âncora" fixos para tokens de dígitos (0–9) para fornecer referência semântica.
• Estrutura de Sondagem (Probing Framework): Sondas leves (regressão logística, MLPs) são treinadas nos estados residuais das ativações para decodificar várias variáveis discretas e contínuas, incluindo Dígito da Verdade Fundamental, Saída do Modelo, Carry de Entrada, Soma Bruta (Raw Sum) e uma variável contínua recém-definida chamada "Potencial de Carry" (Carry Potential).
• Direcionamento Causal (Causal Steering): Para validar as hipóteses geométricas, os autores definem vetores de direcionamento entre centroides estáveis em trajetórias identificadas e intervêm nas ativações para observar mudanças nos tokens gerados.
• Correção em Tempo de Inferência: Um método de verificação de consistência de fluxo duplo é proposto para detectar e corrigir erros, impondo o alinhamento lógico entre os sinais decodificados locais (Soma Bruta) e globais (Potencial de Carry).

3. Principais Descobertas e Contribuições

A. A Trajetória de Soma Bruta Constante (Iso-Raw-Sum Trajectory - IRST)

A principal descoberta geométrica é a Trajetória de Soma Bruta Constante (IRST). Os autores identificam que as representações aritméticas são organizadas em uma estrutura hierárquica:

• Espinha Dorsal Macroscópica: As representações são agrupadas em dez "bacias de dígitos" distintas centradas em âncoras semânticas (0–9).
• Textura Microscópica: Dentro de cada bacia, o espaço é estratificado em fibras paralelas determinadas pelo estado de carry de entrada ($c_p \in \{0, 1, 2\}$).
• Definição de Trajetória: Uma IRST ($T_r$) é uma variedade (manifold) contínua que conecta todos os estados internos que compartilham a mesma soma bruta ($r_p$). Essas trajetórias atuam como "fios" contínuos que perfuram bacias de dígitos adjacentes. Por exemplo, uma trajetória com $r_p=1$ conecta nós estáveis correspondentes aos dígitos de saída 1, 2 e 3 conforme o carry de entrada aumenta.

B. Erros Aritméticos como Deslizamentos Geométricos

Erros aritméticos são caracterizados não como ruído aleatório, mas como Deslizamentos Geométricos (Geometric Slippages).

• Previsões corretas agrupam-se densamente em torno de nós estáveis dentro das bacias de dígitos.
• Erros ocorrem quando os vetores de ativação derivam ao longo de uma IRST para as zonas de transição entre bacias ou fibras.
• Esse desvio se manifesta como erros de "erro por um", onde o modelo confunde estados de carry adjacentes (ex: confundindo $c_p=0$ com $c_p=1$), fazendo com que a representação deslize de uma bacia de dígito para outra adjacente.

C. O Modelo de Quantização Ruidosa

Para explicar a continuidade dessas trajetórias, os autores propõem o Modelo de Quantização Ruidosa:

• Potencial de Carry Contínuo ($\Phi$): O modelo estima internamente um "Potencial de Carry" contínuo, representando o impulso ou momento do sinal de carry derivado do contexto. O carry discreto da verdade fundamental é o piso inteiro deste potencial ($c_p = \lfloor \Phi \rfloor$).
• Falha de Quantização: A estimativa interna do modelo é corrompida por ruído neural ($\epsilon$). Erros ocorrem quando o potencial percebido ($\hat{\Phi} = \Phi + \epsilon$) atravessa um limiar de quantização inteiro.
• Distribuição de Erro em Forma de Banheira (Bathtub Error Distribution): Este mecanismo prevê uma distribuição de erro periódica, onde as taxas de erro aumentam perto de fronteiras inteiras (metastabilidade) e desaparecem em valores de meio-inteiro (platôs robustos). Dados empíricos confirmam este padrão, permitindo a estimativa do nível de ruído cognitivo interno do modelo ($\sigma \approx 0.05$ para adição de 3 termos).

D. Origem Geométrica da Versatilidade de Sondas

O artigo fornece uma explicação geométrica para o motivo pelo qual sondas leves podem decodificar simultaneamente diversos sinais (Verdade Fundamental, Saída do Modelo, Carry) de um único vetor. Esta "versatilidade de sonda" é uma função direta da separabilidade topológica da variedade. A alta separabilidade da Soma Bruta e a natureza estruturada das fibras IRST permitem que as sondas desmembrem sinais latentes coexistentes, mesmo quando a saída final é errônea.

E. Autocorreção em Tempo de Inferência

Validando a retenção de sinais latentes corretos, os autores introduzem um Protocolo de Consistência de Fluxo Duplo:

1. Decodificar o Fluxo de Cálculo Local (Soma Bruta) e o Fluxo de Contexto Global (Potencial de Carry).
2. Verificar se a saída do modelo é consistente com qualquer carry plausível derivado da vizinhança do potencial.
3. Se inconsistente, sobrescrever os logits de saída para projetar o estado de volta para a fibra da variedade correta.
   Este método recupera significativamente o desempenho (ex: aumentando a precisão de tokens de 86,26% para 89,56% no Qwen3-4B), confirmando que o modelo retém componentes matemáticos corretos mesmo quando a seleção do token discreto falha.

4. Resultados

• Visualização: Projeções UMAP revelam uma estrutura hierárquica clara com bacias de dígitos e fibras de carry estratificadas, consistente em diferentes modelos (Qwen3-4B, Qwen3-8B, Gemma-3-4B-IT) e complexidades de tarefa (adição de 3 a 5 termos).
• Modelagem de Erro: O Modelo de Quantização Ruidosa ajusta a distribuição de erro empírica com alta fidelidade ($R^2 \approx 0,80$), prevendo com precisão a natureza periódica dos erros.
• Validação Causal: Experimentos de direcionamento demonstram que mover as representações ao longo da direção da IRST altera causalmente o dígito gerado, com estados adjacentes à fronteira exigindo perturbações menores para inverter do que estados estáveis.
• Eficácia da Correção: A verificação de consistência de fluxo duplo corrige efetivamente deslizamentos geométricos, sendo a maioria dos erros corrigidos casos de "erro por um". Estudos de ablação confirmam que o sinal da soma bruta local permanece robusto mesmo quando a saída está errada, isolando o potencial de carry ruidoso como o principal gargalo.

5. Significância e Alegações

O artigo afirma fornecer uma explicação geométrica mecanística para falhas aritméticas em LLMs, indo além da visão da aritmética como pura manipulação simbólica ou transições de estado discretas.

• Estrutura Unificada: Unifica a observação da versatilidade de sondas e da fragilidade aritmética sob uma única estrutura geométrica onde os erros são drifts contínuos em uma variedade.
• Retenção de Sinal Latente: Demonstra que os LLMs frequentemente mantêm representações contínuas internas corretas (Potencial de Carry) mesmo quando falham em produzir a saída discreta correta, sugerindo que as alucinações em aritmética são frequentemente falhas de quantização, e não falta de conhecimento.
• Universalidade: A geometria IRST e a dinâmica de Quantização Ruidosa são observadas em diferentes arquiteturas e escalas de modelos, sugerindo um mecanismo convergente para a representação aritmética em LLMs de última geração.
• Intervenção Prática: O trabalho valida que intervenções em tempo de inferência baseadas em consistência interna podem recuperar o desempenho, oferecendo um caminho para melhorar a confiabilidade dos LLMs ao estabilizar o mapeamento de pensamentos neurais contínuos para saídas simbólicas discretas.

Os autores mantêm a modéstia, observando que sua evidência atual combina visualização e sondagem em vez de localização completa de circuitos, e que o foco é primariamente na adição. Eles sugerem que modelos baseados em BPE com tokens de múltiplos dígitos podem ter sinais de carry emaranhados, apresentando uma fronteira para pesquisas futuras.