Resumo Técnico: Aritmética no Mundo Real

Declaração do Problema

O artigo investiga o papel algorítmico da geometria de representação em grandes modelos de linguagem (LLMs), focando especificamente em como os modelos raciocinam sobre conceitos cíclicos (por exemplo, meses, dias da semana, horas). Embora trabalhos anteriores tenham estabelecido que LLMs representam esses conceitos usando geometria circular (Engels et al., 2025) e que pequenos transformers treinados em aritmética modular operam sobre bases periódicas (Nanda et al., 2023), uma questão crítica permanece: A estrutura circular da representação de entrada implica um cálculo circular?

Os autores hipotetizam que o Llama-3.1-8B poderia calcular respostas a perguntas como "Que mês é seis meses após agosto?" girando ao longo de uma variedade circular. No entanto, eles descobrem que o modelo não realiza aritmética modular direta dentro do período específico do conceito (por exemplo, módulo 12 para meses). Em vez disso, o modelo utiliza um mecanismo genérico e agnóstico à tarefa de adição em base-10 antes de mapear o resultado de volta ao espaço cíclico.

Metodologia

O estudo emprega uma combinação de análise causal e sondagem geométrica para dissecar os mecanismos internos do Llama-3.1-8B.

1. Abstração Causal via Busca de Alinhamento Distribuído (DAS):

   • Os autores utilizam o DAS (Geiger et al., 2023) para localizar subespaços de baixo rank no fluxo residual que codificam variáveis causais: o conceito de entrada, o deslocamento e o conceito de saída.
   • Eles medem a Precisão de Intervenção de Troca (IIA) para determinar quando e onde essas variáveis são combinadas. Isso envolve corrigir estados ocultos de prompts contrafactuais em prompts originais para ver se a saída do modelo muda de forma previsível.
   • Esta análise isola a camada específica e a posição do token onde o cálculo ocorre.

2. Correção entre Tarefas:

   • Para testar a hipótese de um mecanismo compartilhado, os autores realizam experimentos de "correção" entre tarefas aritméticas padrão ($a+b=$) e tarefas cíclicas (por exemplo, meses).
   • Eles corrigem o fluxo residual de um prompt de adição em um prompt cíclico (e vice-versa) dentro dos subespaços DAS compartilhados para observar se o modelo produz a soma ou o conceito cíclico, respectivamente.

3. Sondagem e Direcionamento de Fourier:

   • Os autores treinam sondas lineares para detectar características de Fourier (representações sinusoidais) com períodos específicos $T \in \{2, 5, 10, 20, 50, 100\}$, conhecidos por representar números em base-10 (Kantamneni & Tegmark, 2025).
   • Eles verificam se essas características, treinadas em adição padrão, estão presentes e são causais em tarefas cíclicas.
   • Eles usam essas sondas para direcionar o estado interno do modelo, forçando a "soma pré-módulo" para um valor contrafactual para ver se a saída se desloca de acordo.

4. Identificação e Ablação de Neurônios:

   • Os autores identificam um conjunto esparsos de neurônios MLP na Camada 18 que escrevem para os subespaços de saída do DAS.
   • Eles analisam os padrões de ativação desses neurônios, particionando-os em clusters com base em sua periodicidade.
   • Eles realizam estudos de ablação (zerando neurônios específicos) para quantificar sua contribuição causal no desempenho do modelo.

Resultados Principais

1. Um Mecanismo Compartilhado de Adição em Base-10

Contrariando a hipótese de cálculo circular, o modelo calcula tarefas cíclicas usando um mecanismo de adição em base-10.

• Processo de Dois Passos: O modelo primeiro calcula a soma das entradas no espaço numérico (por exemplo, $6 + 8 = 14$) e apenas em camadas posteriores mapeia essa soma de volta ao espaço de conceitos cíclicos (por exemplo, $14 \to \text{Fevereiro}$).
• Localização na Camada 18: A análise causal revela que conceitos de entrada e deslocamentos são combinados no MLP da Camada 18 na posição do último token. Crucialmente, a geometria circular do conceito de saída (por exemplo, o "círculo dos dias da semana") não está presente na Camada 18; ela só emerge nas camadas 22–25.
• Correção entre Tarefas: Corrigir de um prompt de adição ($6+8=$) para um prompt cíclico faz com que o modelo produza o conceito cíclico correspondente à soma (por exemplo, Fevereiro). Inversamente, corrigir de um prompt cíclico para um prompt de adição faz com que o modelo produza a soma pré-módulo (por exemplo, 14), mesmo que o modelo falhe em produzir a resposta cíclica correta em uma execução limpa.

2. Características de Fourier e Agnosticismo à Tarefa

O modelo utiliza características de Fourier agnósticas à tarefa para realizar a adição.

• As representações internas respeitam periodicidades padrão em base-10 ($T \in \{2, 5, 10, 20, 50, 100\}$) em vez do período específico do conceito cíclico (por exemplo, 12 para meses ou 7 para dias da semana).
• Sondas de Fourier treinadas em adição padrão direcionam com sucesso tarefas cíclicas, confirmando que as mesmas características geométricas impulsionam o cálculo através de domínios.

3. Circuito de Neurônios Esparsos

Os autores identificam um conjunto esparsos de 28 neurônios MLP na Camada 18 (aproximadamente 0,2% do MLP da camada) que são responsáveis por essa adição.

• Agrupados por Período: Esses neurônios podem ser particionados em clusters disjuntos, onde cada cluster calcula a soma para um período de Fourier específico (por exemplo, um cluster para $T=2$, outro para $T=5$, etc.).
• Mecanismo: Os neurônios operam de forma distribuída. Alguns neurônios exibem padrões de ativação "divididos" (lendo o conceito de entrada via o vetor de porta e o deslocamento via o vetor de subida), enquanto outros são "misturados". Seus vetores de projeção para baixo somam-se a um vetor apontando para o ângulo correto no plano de Fourier, codificando a soma módulo $T$.
• Impacto da Ablação: A ablação zero desses 28 neurônios causa uma queda drástica na precisão (por exemplo, de 95% para 24% para adição), enquanto a ablação de todos os outros neurônios da Camada 18 mantém a maior parte do desempenho.

Significado e Alegações

O artigo afirma fornecer uma compreensão mecânica de como grandes modelos de linguagem realizam aritmética sobre conceitos cíclicos, preenchendo a lacuna entre geometria de representação e cálculo causal.

• Geometria vs. Cálculo: O trabalho demonstra que, embora as representações possam ser circulares, o cálculo subjacente não é necessariamente aritmética modular naquele círculo. Em vez disso, o modelo reutiliza um circuito genérico de adição em base-10, mapeando o resultado para o domínio-alvo apenas após o cálculo estar completo.
• Interação de Métodos: O estudo destaca o poder de combinar abstração causal (para localizar onde a informação é processada) com análise geométrica (para entender como ela é representada). A análise causal localizou o cálculo na Camada 18, enquanto a análise geométrica revelou que o cálculo depende de características de Fourier em base-10 em vez de estruturas circulares específicas da tarefa.
• Circuitos Esparsos: A identificação de um pequeno conjunto reutilizável de neurônios (28 neurônios) que realizam adição em tarefas diversas (meses, dias, horas, números) sugere que os LLMs desenvolvem subcircuitos altamente eficientes e compartilhados para operações aritméticas fundamentais, independentemente do domínio semântico da entrada.

Os autores permanecem modestos quanto à generalização, observando que esses mecanismos específicos foram identificados no Llama-3.1-8B e podem não generalizar para todos os modelos ou todos os tipos de raciocínio cíclico (por exemplo, deslocamentos para trás ou consultas de distância estavam fora do escopo). No entanto, as descobertas oferecem um exemplo concreto de como "aritmética no mundo real" é implementada através da interação de neurônios esparsos e geometria de Fourier.