Representational Curvature Modulates Behavioral Uncertainty in Large Language Models

Resumo Técnico: A Curvatura Representacional Modula a Incerteza Comportamental em Grandes Modelos de Linguagem (LLMs)

1. O Problema

O estudo investiga a relação entre a geometria das representações internas de modelos de linguagem autoregressivos e o seu comportamento de saída (incerteza na previsão do próximo token). Baseando-se na hipótese do "endireçamento temporal" (temporal straightening), os autores partem do pressuposto de que os modelos aprendem a organizar as trajetórias de representação de sequências de entrada em padrões geométricos previsíveis (mais lineares) para facilitar a extrapolação e a previsão do próximo estado. Embora se saiba que as trajetórias se tornam mais retas conforme avançam pelas camadas, ainda não estava claro se essa geometria possui uma função prática na modulação da incerteza do modelo.

2. Metodologia

Os pesquisadores utilizaram dois modelos de referência: GPT-2 XL e Pythia-2.8B, além de treinarem um modelo GPT-2 Small do zero para experimentos de regularização. A metodologia foi dividida em quatro frentes:

• Métrica de Curvatura Contextual ($C_p^k$): Definida como a medida angular entre vetores de diferença adjacentes na trajetória da representação (no residual stream) ao longo de uma janela de contexto. Uma curvatura alta indica uma mudança brusca de direção na representação; uma curvatura baixa indica uma trajetória mais reta.
• Métrica de Entropia ($H$): Utilizada para quantificar a incerteza do modelo sobre o próximo token. Uma entropia alta indica incerteza (distribuição de probabilidade espalhada), enquanto uma baixa indica confiança (distribuição concentrada).
• Experimentos de Perturbação: Para testar a causalidade, os autores aplicaram modificações nos estados ocultos em diferentes subespaços geométricos:
  1. Full-space (espaço total);
  2. Random-subspace (subespaço aleatório);
  3. Activation-subspace (direções principais de variação dos dados);
  4. Trajectory-subspace (alinhado à trajetória do próprio exemplo);
  5. Planar-subspace (o plano mais restrito definido pelos últimos vetores de deslocamento).
• Regularização de Curvatura: Durante o treinamento de um modelo GPT-2 Small, introduziram uma função de perda auxiliar para penalizar (tornar a trajetória "emaranhada") ou incentivar (tornar a trajetória "destrançada"/reta) a curvatura média.

3. Principais Contribuições e Resultados

O estudo apresenta três evidências fundamentais que conectam a geometria à incerteza:

• Correlação Curvatura-Entropia: Demonstrou-se que a curvatura contextual é um preditor significativo da entropia do próximo token. Essa relação é mais forte nas camadas intermediárias da rede, que são justamente as camadas onde a trajetória da representação atinge seu nível mínimo de curvatura.
• Dependência Seletiva de Trajetória: Os experimentos de perturbação revelaram que a entropia só é modulada de forma confiável quando as mudanças na representação ocorrem em subespaços alinhados à trajetória (especialmente no planar-subspace). Perturbações em direções aleatórias ou apenas baseadas na variância dos dados não afetaram a incerteza, provando que a curvatura da trajetória é uma característica funcional e não apenas um subproduto estatístico.
• Efeito da Regularização no Treinamento: Modelos treinados com o objetivo de "destrançar" as trajetórias (menor curvatura) apresentaram uma redução na entropia (maior confiança) sem degradar a perda de validação (validation loss). Inversamente, modelos "emaranhados" mostraram maior entropia.

4. Significância

Este trabalho é significativo por fornecer uma ponte mecânica entre a geometria representacional e o comportamento observável de LLMs. Ele valida a hipótese de que o "endireçamento temporal" não é apenas uma característica estrutural, mas uma solução funcional para o objetivo de previsão de próximo token.

As implicações incluem:

1. Interpretabilidade Mecanística: Sugere que o controle do comportamento do modelo (como sua incerteza ou confiança) pode ser feito manipulando a geometria temporal das representações, e não apenas estados isolados de um único token.
2. Otimização de Modelos: Abre caminho para o uso de perdas auxiliares baseadas em geometria para melhorar a calibração e a confiabilidade dos modelos durante o pré-treinamento.
3. Compreensão de Camadas: Reforça a ideia de que as camadas intermediárias dos Transformers são o núcleo computacional onde a estrutura da informação é organizada para permitir a extrapolação preditiva.