Resumo Técnico: Subespaço Funcional em Modelos de Linguagem de Grande Escala

Declaração do Problema

Embora os Modelos de Linguagem de Grande Escala (LLMs) tenham demonstrado notáveis "habilidades emergentes", como a Aprendizagem em Contexto (ICL), os mecanismos subjacentes que habilitam essas capacidades permanecem pouco compreendidos. Pesquisas anteriores estabeleceram que conceitos de alto nível são codificados como direções lineares em espaços de ativação e que as geometrias de embeddings de palavras carregam significado semântico. No entanto, não está claro como os LLMs generalizam para novas tarefas sem ajuste fino ou como acumulam evidências a partir de exemplos em contexto para gerar respostas corretas. A falta de compreensão sobre esses mecanismos operacionais impede a capacidade de diagnosticar e reparar adequadamente os LLMs, particularmente antes de sua implantação em domínios críticos para a segurança. Este artigo investiga se os LLMs utilizam subespaços específicos e álgebra vetorial para resolver tarefas de ICL.

Metodologia

Os autores propõem uma hipótese de que os LLMs projetam tokens de entrada em subespaços funcionais onde as tarefas podem ser resolvidas via álgebra vetorial simples. Para testar isso, eles analisaram os fluxos residuais e os módulos funcionais (Atenção Auto-Atentiva e Redes Feed-Forward) de seis LLMs pré-treinados publicamente disponíveis: GPT-J-6B, Meta-Llama-3.1-8B, OLMo-2-0325-32B, Pythia-12B, Gemma-3-27b-it e GPT-NEOX-20B.

O desenho experimental envolveu as seguintes etapas:

1. Geração de Tarefas: Os autores geraram 200 prompts de ICL para seis tarefas distintas: antônimos, sinônimos, pares país-capital, traduções inglês-francês, pares empresa-produto e pares pessoa-esporte. Cada prompt continha cinco pares de exemplos e uma única consulta de teste.
2. Coleta de Dados: Fluxos residuais foram coletados de todos os tokens em todas as camadas do transformador à medida que os modelos processavam esses prompts.
3. Redução de Dimensionalidade: Análise de Componentes Principais (PCA) foi aplicada aos fluxos residuais para identificar potenciais subespaços de baixa dimensão. Os autores avaliaram a variância explicada cumulativa dos 30 principais componentes.
4. Análise de Regressão Linear: Para determinar se as tarefas de ICL poderiam ser modeladas como operações vetoriais, os autores realizaram regressão linear nos componentes principais. Eles testaram se os tokens de resposta ($\vec{a}$) poderiam ser descritos como uma função linear dos tokens de consulta ($\vec{q}$) e dos tokens separadores ($\vec{s}$) de acordo com a equação $\vec{a} = \alpha\vec{q} + \beta\vec{s} + \gamma$. A qualidade desse ajuste foi medida usando o coeficiente de determinação ($R^2$).
5. Correlação com Tomada de Decisão: Para avaliar a relevância funcional desses subespaços, os autores compararam as projeções de tokens nos componentes principais de melhor desempenho entre casos em que o LLM fez previsões corretas versus incorretas, utilizando testes t para avaliar a significância estatística.

Principais Contribuições e Resultados

1. Existência de Subespaços Funcionais

A análise dos fluxos residuais revelou que 40% a 90% da variabilidade nas ativações dos modelos poderia ser explicada por apenas 30 componentes principais, apesar da alta dimensionalidade dos modelos (por exemplo, $d \approx 5000$). Isso sugere que os LLMs operam dentro de subespaços de baixa dimensão durante tarefas de ICL.

2. ICL como Álgebra Vetorial

O estudo encontrou que os tokens de resposta são bem aproximados por combinações lineares de tokens de consulta e separadores dentro de subespaços específicos.

• Valores Altos de $R^2$: Em todos os seis modelos e tarefas, componentes principais específicos exibiram valores altos de $R^2$ (aproximando-se de 1), indicando que a relação entre entradas e saídas nesses subespaços é amplamente linear.
• Progressão de Camadas: A qualidade do ajuste linear ($R^2$) tendeu a ser baixa nas camadas iniciais e aumentou nas camadas posteriores, sugerindo que as camadas iniciais transformam gradualmente as ativações em subespaços onde o ICL pode ser resolvido via operações vetoriais simples.
• Consistência: Os componentes principais com alto $R^2$ foram consistentes entre as camadas, implicando que direções específicas codificam conceitos específicos da tarefa (por exemplo, "antônimo" ou "capital").

3. Acumulação de Evidências e Agrupamento

A análise teórica sugeriu que as Redes Feed-Forward (FFNs) atuam como memórias associativas armazenando respostas potenciais, enquanto as camadas de Atenção Auto-Atentiva (SA) selecionam a previsão correta com base no contexto. Os autores hipotetizaram que interseções de respostas potenciais permitem que evidências se acumulem ao longo de bases de subespaços específicos.

• Agrupamento de Tokens: Visualizações de tokens em subespaços 3D (spanidos pelos 3 principais componentes) mostraram que tokens de consulta, separadores e respostas formaram clusters distintos e bem separados com base em seu tipo de token.
• Correlação com Precisão: Crucialmente, as projeções de tokens nos componentes de melhor desempenho foram significativamente diferentes ($p < 0.05$) dependendo se o modelo gerou uma resposta correta ou incorreta. Essa correlação manteve-se em múltiplas camadas intermediárias e tardias, sugerindo que esses subespaços estão diretamente envolvidos no processo de tomada de decisão do modelo.

Significado e Alegações

O artigo alega que os LLMs criam nativamente subespaços para acumular evidências a partir de exemplos em contexto e resolver tarefas usando álgebra vetorial dentro desses subespaços. Os autores postulam que:

• Mecanismo de Generalização: A capacidade de realizar ICL depende de projetar tokens de entrada em subespaços onde a geometria dos dados corresponde diretamente à tarefa desejada (por exemplo, inverter uma direção para antônimos).
• Habilidades Emergentes: Embora as tarefas de ICL sejam mais simples do que tarefas gerais de codificação ou raciocínio, o mecanismo de extrair informações da tarefa e aplicá-las via operações vetoriais é fundamental para como os LLMs têm sucesso em tarefas mais complexas.
• Potencial Diagnóstico: Se os LLMs dependem desses subespaços funcionais para tomada de decisão, esses subespaços poderiam servir como base para diagnosticar o comportamento do modelo e criar vetores de direção para intervir ou reparar as saídas do modelo, particularmente em aplicações críticas para a segurança.

Os autores mantêm um tom modesto, reconhecendo que sua análise teórica depende de condições idealizadas e que identificar tais subespaços em tarefas de linguagem geral mais complexas pode ser desafiador devido a interações intrincadas de tokens. No entanto, eles argumentam que as descobertas fornecem um vínculo concreto entre a hipótese de representação linear e os mecanismos operacionais da aprendizagem em contexto.