Resumo Técnico: NeuroCogMap Revela a Organização Cognitiva de Grandes Modelos de Linguagem

Declaração do Problema

Embora os Grandes Modelos de Linguagem (LLMs) exibam comportos amplos de natureza cognitiva, sua organização cognitiva interna permanece opaca. As abordagens atuais de interpretabilidade são fragmentadas: avaliações comportamentais revelam o que os modelos podem fazer, mas não como as funções são implementadas; estudos mecanísticos identificam neurônios ou circuitos isolados, mas carecem de coerência sistêmica; e análises representacionais revelam estruturas semânticas amplas sem vinculá-las a unidades funcionais específicas ou à organização hierárquica. Existe uma lacuna crítica na compreensão de como componentes distribuídos em LLMs formam unidades funcionais coerentes, interagem através de níveis de abstração e sustentam capacidades de ordem superior, além de como falham durante comportamentos patológicos (ex: alucinação, viés, falha de recusa). Além disso, não está claro se essas estruturas artificiais podem fornecer insights testáveis sobre a cognição biológica ou melhorar a predição de respostas neurais humanas.

Metodologia: O Framework NeuroCogMap

Os autores introduzem o NeuroCogMap, um framework inspirado em princípios da neurociência cognitiva (parcelamento funcional, mapeamento representacional, abstração hierárquica) para mapear a estrutura cognitiva interna de LLMs. O framework opera através de quatro estágios interligados:

1. Construção do Atlas Funcional (Parcelas):

   • Extração de Características: Ativações de Autoencoders Esparsos (SAEs) são extraídas dos fluxos residuais de LLMs (Gemma2-2B, Gemma2-9B-IT, Llama-3.1-8B) através de diversos datasets. Os SAEs são usados para decompor ativações de neurônios polissemânticos em direções de características separáveis e interpretáveis.
   • Agrupamento (Clustering): As características dos SAEs são agrupadas com base em seus perfis de resposta evocados por tarefas e distribuição de camadas. A granularidade ideal é determinada por uma pontuação conjunta que equilibra qualidade de agrupamento, qualidade da descrição funcional e não redundância, resultando em 270 parcelas funcionais.
   • Anotação: Cada parcela recebe uma descrição funcional em linguagem natural (ex: "Análise de Contradição", "Recuperação de Conhecimento Geográfico") baseada em exemplos de alta ativação e extração de palavras-chave.

2. Atlas Cognitivo e Mapeamento de Capacidades:

   • Inventário de Capacidades: Um espaço curado de 45 capacidades cognitivas (ex: robustez, raciocínio, segurança) é estabelecido a partir da literatura.
   • Vinculação: As parcelas são vinculadas às capacidades usando três fluxos de evidência: correlações de ativação evocadas por tarefas, efeitos de intervenção causal (direcionamento de ativações de parcelas) e consistência semântica entre as descrições das parcelas e as definições das capacidades.

3. Hierarquia Cognitiva:

   • As capacidades são organizadas em uma hierarquia de quatro camadas inspirada na taxonomia de Bloom: Percepção, Representação, Abstração e Aplicação.
   • O framework valida essa hierarquia demonstrando que as parcelas dentro de uma camada são semanticamente mais similares à descrição de sua camada do que a outras, e que capacidades de nível inferior servem como pré-requisitos para o raciocínio de ordem superior.

4. Conectoma Estrutural:

   • Conexões direcionadas entre parcelas são estimadas com base nas relações entre camadas de suas características SAE constituintes, criando um conectoma estrutural ao nível do modelo para analisar coordenação e disrupção.

Principais Resultados

1. Emergência de Unidades Cognitivas Estáveis e Interpretáveis

O NeuroCogMap identifica que a atividade interna de LLMs forma unidades funcionalmente significativas e estáveis, em vez de clusters arbitrários.

• Estabilidade: O atlas de 270 parcelas mostra alta coerência semântica interna (similaridade dentro da parcela > similaridade entre parcelas) e consistência parcial entre modelos em diferentes arquiteturas de LLM.
• Interpretabilidade: Descrições funcionais derivadas de perfis de ativação predizem com sucesso o ranking de ativação das parcelas em dados não vistos, superando baselines baseados em neurônios ou apenas palavras-chave.
• Causalidade: Intervenções direcionadas (steering) em parcelas específicas alteram os outputs do modelo em direções consistentes com suas funções atribuídas, confirmando os elos causais entre parcelas e comportamento.

2. Análise Sistêmica de Patologias

O NeuroCogMap revela que falhas de modelos não são erros uniformes, mas disrupções distintas em sistemas cognitivos específicos:

• Alucinação:
  • No TruthfulQA, as alucinações derivam de uma falha no controle avaliativo de ordem superior (ex: redução da ativação de "Verificação de Veracidade" e "Checagem de Fato Binário") sobre a recuperação enganosa.
  • No NQ-Open, as alucinações surgem de uma coordenação fragmentada entre sistemas de recuperação factual (ex: enfraquecimento do acoplamento entre "Conhecimento Geográfico" e "Núcleo de Recuperação de Fatos").
  • Detecção e Mitigação: Assinaturas derivadas dessas disrupções permitem a detecção de alucinações (AUROC de até 0.840) e intervenção direcionada, melhorando significamente a precisão factual ao suprimir parcelas de recuperação sobre-recrutadas e potencializar parcelas avaliativas sub-recrutadas.
• Falha de Recusa:
  • Falhas de recusa (conformidade com instruções prejudiciais) refletem um deslocamento dos sistemas de controle/monitoramento (ex: "Avaliação Legal-Moral") para sistemas de execução procedimental (ex: "Planejamento de Ação").
  • O direcionamento guiado pelo NeuroCogMap melhora substancialmente a precisão da recusa (ex: de 38.3% para 98.6% no AdvBench para Gemma2-2B).

3. Alinhamento com a Função Cortical Humana

O framework estabelece uma correspondência funcional entre a organização de LLMs e a atividade cerebral humana:

• Predição Neural: As ativações das parcelas do NeuroCogMap predizem as respostas BOLD do córtex humano durante a escuta de histórias naturalísticas (dataset LeBel) com maior precisão ($r=0.407$) do que embeddings padrão (BERT, Word2Vec) ou estados ocultos genéricos de LLM.
• Localização: A vantagem de predição é localizada em córtex de associação de ordem superior (redes de Modo Padrão, Controle Frontoparietal, Salicência), especificamente em regiões envolvidas em recuperação semântica e integração de contexto.
• Correspondência Funcional: As parcelas de LLM que melhor predizem uma parcela cortical humana compartilham descrições funcionais semelhantes (ex: "Recuperação de Memória Episódica" em LLMs alinha-se com regiões de memória do modo padrão humano). A Análise de Similaridade Representacional (RSA) confirma que a geometria interna das parcelas alinhadas do LLM preserva a estrutura das redes corticais humanas.

4. Orientação para a Descoberta de Modelos Cognitivos

O NeuroCogMap expõe estratégias latentes em LLMs que podem refinar modelos cognitivos clássicos:

• Ajuste Comportamental: Assinaturas do NeuroCogMap predizem quão bem um LLM simula o comportamento humano em diversas tarefas cognitivas (ex: tomada de decisão de dois passos, escolha intertemporal).
• Refinamento de Modelo: Ao analisar as assinaturas internas de LLMs que melhor se ajustam aos dados humanos, os autores identificaram mecanismos latentes (ex: arbitragem dinâmica, perseveração sensível ao histórico, alternância de política do tipo regra). Incorporar esses mecanismos em um Modelo de Sistemas Duplos clássico melhorou significamente seu ajuste aos dados comportamentais humanos retidos (menor AIC) comparado a modelos refinados usando apenas traços comportamentais.

Significância e Alegações

O artigo afirma estabelecer o NeuroCogMap como um framework de nível de sistema que preenche a lacuna entre a interpretabilidade mecânica local e a análise comportamental de alto nível em LLMs. Suas principais contribuições são:

1. Um Novo Nível Explicativo: Define uma escala "mesoscópica" de organização funcional (parcelas e capacidades) que é suficientemente grosseira para revelar regularidades entre modelos, mas específica o suficiente para suportar intervenção causal e interpretação comportamental.
2. Intervenção Guiada por Mecanismo: Demonstra que patologias de modelos (alucinação, falha de recusa) podem ser diagnosticadas e mitigadas visando disrupções específicas na arquitetura cognitiva interna, indo além do filtragem de saída.
3. Relevância Biológica sem Equivalência: Fornece uma base estruturada para relacionar sistemas artificiais à cognição humana. O framework mostra que LLMs podem servir como sistemas experimentais para gerar hipóteses sobre organização cognitiva, validadas contra dados neurais e comportamentais humanos, sem alegar que LLMs são réplicas mecanísticas do cérebro.
4. Avanço da Ciência Cognitiva: Oferece um caminho para refinar modelos cognitivos clássicos (ex: teorias de tomada de decisão) ao aproveitar a "caixa preta" dos LLMs para descobrir estratégias latentes que explicam o comportamento humano de forma mais precisa.

Os autores posicionam este trabalho como um passo em direção a uma "neurociência cognitiva da inteligência artificial", onde a organização cognitiva se torna um objeto experimentalmente tratável tanto em sistemas artificiais quanto biológicos.