Resumo Técnico: Rastreamento da Densidade Computacional em LLMs

Declaração do Problema

Modelos de Linguagem de Grande Escala (LLMs) baseados em Transformer operam como grafos computacionais profundos e amplos, envolvendo bilhões de parâmetros e operações. No entanto, permanece incerto se esses modelos utilizam sua capacidade total para cada entrada ou se recorrem a sub-redes significativamente mais esparsas. Questões abertas-chave incluem:

• A computação efetiva necessária para uma previsão fiel está uniformemente distribuída, ou consiste em subgrafos distintos densos e esparsos?
• A quantidade de computação efetiva depende de propriedades específicas da entrada?
• Como podemos quantificar com precisão a pegada computacional necessária para reconstruir a distribuição de saída de um modelo?

Abordar essas questões é crítico tanto para a eficiência prática (poda, roteamento, destilação) quanto para a compreensão teórica (interpretabilidade mecânica, reconciliação das visões simbólicas versus distribuídas da linguagem e medição da complexidade linguística).

Metodologia: O s-Trace

Os autores introduzem o s-Trace, um método para estimar eficientemente o subgrafo de tamanho $s$ que melhor aproxima a distribuição de saída de um modelo completo.

1. Formulação do Grafo

O LLM é modelado como um grafo acíclico direcionado $G=(V, E)$ onde:

• Nós ($V$): Representam estados intermediários de tokens em cada camada.
• Arestas ($E$): Representam operações que afetam o fluxo de informação, decompostas em:
  • Arestas de Atenção: Contribuições de cabeças de atenção específicas movendo vetores entre tokens de origem e de destino.
  • Arestas MLP: Atualizações provenientes de Perceptrons de Múltiplas Camadas.
  • Arestas Residuais: Conexões de identidade que carregam estados de camadas anteriores.
    Essa formulação permite granularidade por token, distinguindo contribuições individuais de cabeças de atenção em vez de agregá-las.

2. Definição do Trace

O s-Trace ($T_s$) é definido como o subgrafo ótimo de tamanho $s$ (onde tamanho é o número de arestas) que minimiza a distância entre a distribuição de saída do modelo completo $P(t_{n+1}|t)$ e a previsão restrita do subgrafo $\hat{P}_{T_s}(t_{n+1}|t)$. A métrica de distância utilizada é a Distância de Variação Total (TV), escolhida por sua natureza limitada e foco nos modos de probabilidade dominantes em vez de caudas de baixa probabilidade.

3. Extração do Trace

Dada a intratabilidade de encontrar o subgrafo ótimo em modelos grandes (7B–14B parâmetros), os autores empregam uma estratégia de busca gulosa "best-first" sem treinamento:

• Pontuação de Importância: As arestas são pontuadas com base na norma L1 de seus vetores de atualização, normalizada por nó de destino para garantir comparação justa.
• Travessia: Começando pelo nó do token final na última camada, o algoritmo adiciona iterativamente a aresta disponível mais importante e seus nós conectados até que o orçamento $s$ seja atingido.

4. Configuração Experimental

• Modelos: 10 LLMs de 7 famílias do HuggingFace, variando de 7B a 14B parâmetros (por exemplo, Llama-3, Mistral, Qwen, OLMo, Phi-4).
• Dados: 5.000 sequências do Wikitext (média de 40 palavras).
• Granularidade: Traces foram extraídos em 26 níveis de tamanho, de $10^{-5}$ a $10^0$ (modelo completo).

Resultados Principais

1. Duas Fases Distintas de Computação

A análise do erro de reconstrução versus tamanho do trace revela duas fases consistentes em todos os modelos:

• Fase de Construção ($s \in [10^{-4}, 10^{-2}]$): Caracterizada por um decaimento íngreme e não linear no erro de reconstrução. Durante esta fase, emerge um Núcleo Mínimo em aproximadamente $s \approx 10^{-3}$ (0,1% do modelo completo). Este núcleo é suficiente para recuperar os 1% superiores da massa de probabilidade (o token mais provável) e é altamente estável entre as entradas.
• Fase de Refinamento ($s > 10^{-2}$): Além do núcleo mínimo, o erro diminui lentamente. Esta fase requer um aumento de uma ordem de magnitude no tamanho do trace para recuperar a massa de probabilidade restante (por exemplo, mover de 40% para 90% de cobertura). A utilidade marginal das arestas adicionadas é baixa, sugerindo a integração de informações sutis.

2. Composição Estrutural do Trace

• Distribuição por Camada: O núcleo mínimo é predominantemente composto por nós de camadas iniciais (camadas iniciais e médio-iniciais), que constituem ~80% das arestas em $s=10^{-3}$. À medida que o trace entra na fase de refinamento, camadas posteriores dominam cada vez mais as arestas adicionadas.
• Distribuição de Componentes:
  • No modelo completo, as arestas de atenção compõem >99% das arestas possíveis.
  • No núcleo mínimo, a distribuição é surpreendentemente equilibrada: ~30% residual, ~20% MLP e ~50% arestas de atenção.
  • A fase de refinamento é caracterizada por um aumento acentuado na proporção de arestas de atenção, indicando seu papel específico no ajuste fino da distribuição de saída.

3. Esparsidade Dependente da Entrada

A densidade computacional (medida pela área sob a curva de erro-verso-tamanho) correlaciona-se com propriedades da entrada:

• Incerteza do Modelo: Há uma correlação positiva entre densidade computacional e a entropia de Shannon da saída do modelo. Entradas de alta entropia (incertas) requerem traces maiores (mais computação) para alcançar baixo erro de reconstrução.
• Frequência de Tokens: Há uma correlação negativa entre a frequência do token previsto e a densidade computacional. Tokens frequentes (estatísticas superficiais) são reconstruídos por traces mais esparsos, enquanto tokens raros requerem subgrafos mais densos.
• Consistência Inter-Modelo: Esses padrões são notavelmente consistentes entre diferentes arquiteturas e escalas de modelos, sugerindo que a alocação de recursos é impulsionada por propriedades intrínsecas da entrada e não por detalhes arquitetônicos.

Significado e Afirmações

O artigo afirma fornecer um método geral para quantificar a computação efetiva de LLMs, revelando uma organização modular consistente:

1. Núcleo Inicial Esparsos: Um pequeno subgrafo estável de operações de camadas iniciais fornece uma previsão aproximada suficiente para identificar o token mais provável.
2. Refinamento Densificado Tardio: Camadas subsequentes realizam uma computação mais densa e distribuída para refinar essa previsão, capturando toda a riqueza da distribuição de saída.

Implicações para Interpretabilidade:

• Escala de Circuitos: O núcleo mínimo (~0,1% do modelo) representa um limite inferior para a descoberta de circuitos "fiéis"; circuitos menores que este podem falhar em capturar dinâmicas essenciais.
• A Distribuição Importa: Avaliar subgrafos apenas no sucesso binário de tarefas (por exemplo, precisão top-1) é insuficiente; a preservação da distribuição de saída completa é crucial.
• Além da Hiper-Esparsidade: A interpretabilidade mecânica não deve se restringir à descoberta de circuitos hiper-esparsos, mas também deve analisar fases de processamento denso e distribuído.

Implicações para a Ciência Cognitiva:

• Complexidade Linguística: A densidade computacional poderia servir como uma nova métrica para complexidade linguística, pois escala com a dificuldade da entrada (incerteza e raridade).
• Processamento Eficiente: A descoberta de que LLMs recrutam menos recursos para palavras frequentes alinha-se com teorias de processamento de linguagem humana eficiente.
• Simbólico versus Distribuído: A existência de um núcleo esparsos de camadas iniciais que lida com estatísticas básicas (assemelhando-se a regras simbólicas), seguido por refinamento distribuído, oferece uma possível reconciliação entre as visões simbólicas e distribuídas da competência linguística.

Os autores mantêm que essas descobertas são específicas à arquitetura transformer e a dados em inglês, observando que a identificação de traces depende do método de extração escolhido (busca gulosa baseada na norma L1). Eles posicionam este trabalho como um passo inicial em direção à caracterização das dinâmicas internas de LLMs além da simples identificação de circuitos.