Resumo Técnico: Dinâmicas Causais-Geométricas Emergentes Através da Profundidade em Modelos de Linguagem de Grande Escala

Declaração do Problema

A pesquisa atual sobre Modelos de Linguagem de Grande Escala (LLMs) bifurca-se em duas abordagens distintas, mas frequentemente desconectadas: análise geométrica e intervenção causal.

• Análises Geométricas caracterizam a evolução das representações de tokens através da profundidade da rede usando métricas como similaridade, dimensionalidade e curvatura. Embora esses estudos revelem variações estruturadas dependentes da profundidade, eles permanecem amplamente correlacionais. Eles descrevem como o contexto é codificado, mas falham em identificar quais características geométricas específicas governam diretamente a distribuição de previsão de saída.
• Intervenções Causais (estudos mecanicistas) perturbam estados internos para observar mudanças na saída. Esses estudos revelaram perfis de eficácia dependentes da profundidade (por exemplo, certas intervenções funcionam melhor em camadas iniciais versus camadas tardias), mas frequentemente carecem de um quadro representacional unificador. Permanece incerto como as representações manipuladas estão organizadas geometricamente ou por que as intervenções têm sucesso em camadas específicas, mas não em outras.

A questão central não resolvida é como a estrutura geométrica das representações internas é reorganizada através da profundidade da rede para moldar causalmente as previsões. Especificamente, a estrutura representacional pode ser descritivamente acessível e linearmente decodificável sem ser causalmente operativa na geração de saídas. Este artigo busca sintetizar essas perspectivas definindo "geometria mecanicista" — geometria representacional cuja estrutura está diretamente ligada ao controle causal sobre a previsão.

Metodologia

Os autores empregam uma abordagem integrada combinando análise geométrica com intervenções causais direcionadas em três LLMs com apenas decodificador: Llama V3.1 8B, Mistral 0.3 7B e Qwen 2.5 7B.

1. Análises de Intervenção

O estudo utiliza três tarefas modulares com espaços de entrada-saída bem definidos: "Meses do ano", "Dias da semana" e "Matemática de relógio". Dois tipos principais de intervenção são aplicados:

• Intervenções Centradas na Entrada: Vetores de direção ($V_L$) são computados com base nas diferenças de centróide entre representações de tokens de entrada específicos (por exemplo, deslocando a representação de "Janeiro" em direção a "Fevereiro"). Esses vetores são adicionados às ativações ocultas dos tokens de entrada em camadas específicas.
• Intervenções Centradas na Saída: Vetores de direção são computados com base nas diferenças de centróide entre as representações ocultas do token final associadas a diferentes saídas previstas. Estes são aplicados à ativação do token final.
• Métrica: A eficácia de uma intervenção é quantificada pela mudança na preferência de logit do modelo entre as previsões original e alvo.

2. Análises de Representação

Para caracterizar a geometria subjacente, os autores analisam representações usando o conjunto de dados WikiText-103, focando em:

• Dimensionalidade: Medida através da Razão de Participação (PR) das ativações da camada oculta para determinar a dimensionalidade efetiva. Comparações são feitas entre "tokens idênticos" (o token final através de diferentes sequências) e "tokens não idênticos" (tokens próximos ao final que variam por sequência).
• Codificação Geométrica: Distâncias euclidianas e angulares em pares entre representações de tokens são correlacionadas com a divergência simétrica de Kullback-Leibler (KL) de suas respectivas distribuições de previsão de saída.
• Intervenções Puras: Para isolar componentes geométricos, os autores realizam "intervenções angulares puras" (normalizando vetores antes de direcionar para preservar apenas a direção) e "intervenções de norma puras" (redimensionando vetores para corresponder às normas médias).

Resultados Principais

1. Uma Transição Nítida ao Longo da Profundidade

Experimentos de intervenção revelam uma estrutura computacional bifásica em todos os modelos testados:

• Fase Inicial (Centrada no Contexto): Aproximadamente os primeiros dois terços das camadas são seletivamente sensíveis a intervenções centradas na entrada. Perturbar tokens de entrada aqui desloca efetivamente as previsões.
• Fase Tardia (Centrada na Previsão): Aproximadamente o último terço das camadas é seletivamente sensível a intervenções centradas na saída. Perturbar a representação do token final aqui desloca efetivamente as previsões.
• Essa transição representa uma mudança de computação de processamento de contexto para computação de formação de previsão.

2. Reorganização da Geometria Representacional

A análise geométrica revela uma reorganização distinta do espaço de representação após o ponto de transição:

• Dimensionalidade: Tokens idênticos mostram uma expansão e subsequente contração da dimensionalidade efetiva em camadas iniciais, estabilizando-se em camadas tardias. Tokens não idênticos exibem perfis de dimensionalidade mais amplos e multi-picados, impulsionados pela identidade do token e pelo contexto.
• Codificação Angular vs. Euclidiana: Na fase centrada na previsão (camadas tardias), emerge um código geométrico de dois componentes:
  • Estrutura Angular: Distâncias angulares entre representações de tokens tornam-se fortemente positivamente correlacionadas com a similaridade de suas distribuições de previsão de saída.
  • Normas: Distâncias euclidianas tornam-se amplamente desacopladas da similaridade de previsão. A divergência entre distâncias euclidianas e angulares indica que as normas dos vetores codificam informações (variação específica de token e contexto) que são ortogonais ao mecanismo de previsão.

3. Validação Causal da Codificação Angular

A hipótese de que a previsão é controlada pela geometria angular em camadas tardias é confirmada através de intervenções puras:

• Intervenções Angulares: Intervenções puramente direcionais no token final são altamente eficazes na fase tardia (centrada na previsão), mas ineficazes na fase inicial.
• Intervenções de Norma: Intervenções puramente baseadas em normas são amplamente ineficazes em todas as camadas e tipos de intervenção.
• Mecanismo: Os autores propõem que na camada final, a distribuição de saída $p \propto \text{Softmax}(W_{out} h_L)$ depende da direção de $h_L$ para valores relativos de logit, enquanto a norma atua meramente como um fator de escala global (temperatura inversa). Assim, modificar a estrutura angular altera diretamente a identidade da previsão.

Contribuições Principais

1. Síntese de Perspectivas: O artigo unifica abordagens geométricas e causais, demonstrando que, embora a estrutura geométrica exista em toda a rede, apenas aspectos específicos (organização angular em camadas tardias) são causalmente relevantes para a previsão.
2. Identificação de uma Arquitetura Bifásica: Estabelece uma dissociação funcional clara onde camadas iniciais processam contexto e camadas tardias formam previsões, marcada por uma transição nítida na eficácia da intervenção.
3. Geometria Mecanicista da Previsão: Identifica um código geométrico específico em camadas tardias onde a estrutura angular parametriza a similaridade distribucional do próximo token, enquanto as normas de representação carregam informações desacopladas da previsão.
4. Refutação da Decodabilidade como Causalidade: O trabalho demonstra que a mera presença de estrutura semântica decodificável (separabilidade linear) não implica relevância causal para previsão, desafiando suposições na literatura de intervenção anterior.

Significado e Alegações

Os autores afirmam que suas descobertas fornecem uma explicação mecanicista de como os LLMs transformam contexto em previsão. O significado reside em:

• Reconciliação de Achados Enigmáticos: Explica por que as intervenções são dependentes da profundidade e por que a similaridade angular correlaciona-se com a relação semântica apenas em contextos específicos (camadas tardias).
• Implicações para Controle: O artigo argumenta que a função por camada não pode ser entendida ou efetivamente intervencionada isoladamente. O controle eficaz requer mirar na estrutura dinâmica global emergente, especificamente a geometria angular de camadas tardias. Intervenções que visam características facilmente decodificáveis (que podem ser baseadas em normas ou em camadas iniciais) podem falhar em generalizar ou exercer apenas controle indireto.
• Insights Arquiteturais: Os resultados sugerem que esquemas de normalização (como RMSNorm) podem criar condições favoráveis para codificação angular, onde a direção se torna um sinal mais confiável do que a magnitude para previsão.

Os autores permanecem modestos, observando que essas descobertas são baseadas em tarefas modulares específicas e famílias de modelos, e que a relação entre a geometria de contexto de camadas iniciais e o surgimento de códigos angulares de camadas tardias permanece uma questão em aberto. Eles não propõem novas intervenções de segurança ou estratégias de implantação, focando, em vez disso, em melhorar a compreensão científica da computação de LLMs.