Sparse Autoencoders Map Brain-LLM Alignment onto Cortical Semantic Topography

Resumo Técnico: Autoencoders Esparsos Mapeiam o Alinhamento Cérebro–LLM sobre a Topografia Semântica Cortical

Declaração do Problema
Uma descoberta robusta na neurolinguística computacional é que as camadas intermediárias de Modelos de Linguagem de Grande Escala (LLMs) preveem melhor as respostas cerebrais humanas à linguagem, formando uma relação em "U invertido" ao longo da profundidade do modelo. No entanto, a razão mecânica para esse alinhamento permanece inexplicada. Teorias existentes propõem três explicações não mutuamente exclusivas: (1) Processamento preditivo, onde camadas intermediárias geram erros de previsão semelhantes aos do cérebro; (2) Descoberta de características, onde camadas intermediárias contêm as representações semânticas mais ricas antes da especialização das camadas tardias; e (3) Artefatos geométricos, onde camadas intermediárias possuem representações de maior dimensão e linearmente decodificáveis. Trabalhos anteriores estabeleceram que o conteúdo semântico domina o alinhamento cerebral em nível agregado, mas carecem da granularidade para determinar quais características semânticas específicas impulsionam o alinhamento e onde no córtex elas se mapeiam.

Metodologia
Os autores conectam a interpretabilidade mecânica e a codificação neural decompondo representações de LLMs em características interpretáveis usando Autoencoders Esparsos (SAEs).

1. Decomposição do Modelo: SAEs foram treinados em cada quarta camada do GPT-2 XL (1,5B parâmetros) e do Llama-3.1-8B (8B parâmetros), extraindo 16.000–32.000 características por camada. Os modelos foram treinados em 500M de tokens com reconstrução $R^2 \geq 0,95$.
2. Categorização de Características: Um protocolo de duas passagens categorizou características em cinco tipos: Semânticas, Sintáticas, Léxicas, Predição e Outras.
   • Passagem 1: Classificação automatizada via GPT-4.
   • Passagem 2: Validação humana por dois estudantes de pós-graduação ($\kappa$ de Cohen = 0,81).
3. Dados Neurais e Codificação: O estudo utilizou o conjunto de dados fMRI UTS (8 falantes nativos de inglês, 27 histórias naturalistas). Modelos de regressão ridge voxel a voxel foram ajustados para prever respostas fMRI a partir de subconjuntos de características. A partição de variância foi usada para isolar contribuições únicas contra baselines aleatórias combinadas por contagem e variância.
4. Predição A Priori da Topografia: Para evitar correspondência de padrões post-hoc, os autores derivaram cinco subcategorias semânticas (Concretude/Animacidade, Estrutura de Evento, Afeto/Emoção, Social/Mental, Espacial/Localizacional) e suas regiões corticais preditas a priori pela interseção de achados de três programas independentes de neurociência: Binder et al. (2009), Huth et al. (2016) e Deniz et al. (2019).
5. Validação:
   • Teste de Convergência: Correlação de posto de Spearman e testes de sobreposição hipergeométrica compararam o mapeamento observado de características SAE para região contra as predições a priori.
   • Causal/Comportamental: Patching de ativação (ablação) e Modelos Lineares Mistos Generalizados (GLMMs) em conjuntos de dados de tempo de leitura (Natural Stories, Provo Corpus) foram usados para validar o papel causal e a relevância comportamental das características semânticas.

Principais Contribuições

1. Decomposição em Nível de Característica da Vantagem da Camada Intermediária: O estudo demonstra que apenas características semânticas recuperam 94% do desempenho de codificação de pico ($r=0,285$) alcançado pelas ativações totalmente reconstruídas pelo SAE, superando substancialmente baselines aleatórias combinadas por variância ($p<0,001, d=1,31$). Isso confirma que o conteúdo semântico, e não a estrutura sintática ou dimensionalidade geométrica, é o principal motor do alinhamento cérebro–LLM.
2. Validação Formal da Topografia Semântica Cortical: O artigo fornece a primeira evidência de que características descobertas por SAEs recapitulam a organização semântica cortical conhecida em uma granularidade inacessível a métodos anteriores. Um teste formal de convergência confirmou que o mapeamento observado de cinco subcategorias semânticas para cinco regiões cerebrais corresponde significativamente às predições a priori derivadas da literatura independente de neurociência (Spearman $\rho=0,72, p<0,001$; Hipergeométrico $p=0,007$).
3. Evidências Comportamentais e Causais:
   • Tempos de Leitura: Características semânticas SAE preveem tempos de leitura humanos além de controles léxicos e normas semânticas padrão em nível de palavra ($\Delta \log Lik = 38,4, p<0,001$).
   • Patching de Ativação: Ablar características semânticas na camada de pico (L24 para GPT-2 XL) causou uma queda significativa no desempenho de codificação ($\Delta r^2 = -0,14$), fornecendo evidências consistentes com um papel causal para essas características.
4. Generalização: As descobertas generalizam-se através de idiomas (inglês, chinês, francês) e modelos (GPT-2 XL, Llama-3.1-8B).

Resultados

• Camadas Intermediárias: Ambos os modelos exibiram um perfil em U invertido, atingindo o pico em L20–24 para GPT-2 XL e L12–16 para Llama-3.1-8B.
• Dominância Semântica: Características semânticas explicaram 88% da variância neural capturada pelo modelo. Características léxicas contribuíram com variância única negligenciável ($\Delta R^2 \approx 0,000$), apesar de serem uma parte significativa das características de camadas iniciais.
• Alinhamento Topográfico: Subcategorias específicas mapearam-se para regiões específicas conforme predito:
  • Concretude/Animacidade $\rightarrow$ Córtex temporal posterior e Giro angular.
  • Afeto/Emoção $\rightarrow$ Córtex temporal anterior e dmPFC.
  • Social/Mental $\rightarrow$ Córtex frontal inferior e Córtex temporal anterior.
  • Espacial $\rightarrow$ Giro angular.
• Erro de Predição: Uma análise exploratória sugeriu que o cérebro pode também codificar conteúdo semântico inesperado (erros de predição), pois combinar semântica bruta com erros de predição melhorou o desempenho de codificação ($\Delta r = +0,018, p<0,01$).
• Comparação com Normas: Características SAE superaram normas semânticas simples em nível de palavra (ex.: concretude, valência) tanto no desempenho de codificação ($r=0,285$ vs. $0,194$) quanto na convergência topográfica ($\rho=0,72$ vs. $0,31$), destacando a importância de representações contextuais e de alta granularidade.

Significado e Alegações
O artigo afirma transformar a questão do alinhamento cérebro–LLM de "se" a semântica impulsiona a relação para "quais características semânticas específicas impulsionam o alinhamento onde no cérebro".

• Insight Mecanístico: Os autores argumentam que a vantagem da camada intermediária reflete um pico em riqueza semântica antes que o modelo se especialize para o objetivo de treinamento (previsão do próximo token) em camadas posteriores.
• Convergência Neurocientífica: Os resultados suportam a arquitetura hub-and-spoke da memória semântica, mostrando que LLMs descobrem espontaneamente uma topografia cortical que converge com a neuroanatomia humana.
• Avance Metodológico: Ao aplicar SAEs a dados neurais, o estudo vai além de medidas agregadas para fornecer uma conta em nível de característica que liga representações computacionais a mecanismos neurobiológicos específicos. Os autores posicionam isso como uma única conta em nível de característica que abrange duas regularidades empíricas previamente desconectadas: a vantagem da camada intermediária e a organização semântica cortical.

Limitações Reconhecidas pelos Autores
O artigo nota várias limitações, incluindo:

• O uso do GPT-4 para rotulagem de características pode introduzir vieses compartilhados (mitigados por validação humana e verificações cruzadas entre LLMs).
• A ablação média é uma intervenção grosseira para alegações causais.
• A resolução fMRI ($\sim2$s) confunde semântica em nível de palavra e composicional.
• O estudo é uma verificação de generalização em três idiomas (todos com início de cabeça) em vez de uma prova abrangente transcultural.
• A análise de erro de predição é um proxy simplificado para codificação preditiva hierárquica completa.