Artificial Aphasias in Lesioned Language Models

Resumo Técnico: Afasias Artificiais em Modelos de Linguagem Lesionados

Problema e Motivação
Neuropsicólogos têm há muito tempo utilizado danos cerebrais naturalmente ocorrentes (afasias) para mapear a organização funcional da linguagem humana, vinculando regiões cerebrais específicas a perfis de sintomas distintos. Concurrentemente, pesquisadores em interpretabilidade mecânica intervêm em modelos de linguagem (LMs) — frequentemente silenciando pesos ou ativações — para estudar correspondências emergentes entre estrutura e função. No entanto, essas duas comunidades têm operado amplamente de forma independente. Embora trabalhos recentes tenham tentado induzir subtipos de afasia humana (por exemplo, Broca, Wernicke) em LMs por meio de lesionamento, esses estudos frequentemente dependem de rótulos categóricos grosseiros que podem obscurecer heterogeneidade substancial nos padrões de sintomas.

Este artigo introduz uma técnica inspirada na afasia para caracterizar a organização funcional emergente de LMs de forma mais granular. Os autores argumentam que, em vez de mapear LMs para categorias clínicas amplas, os pesquisadores devem perfilar distribuições detalhadas de sintomas para compreender como componentes específicos do modelo contribuem para falhas no processamento da linguagem. O estudo visa determinar se LMs lesionados exibem organizações funcionais semelhantes às humanas ou se seus modos de falha são distintos, restringindo assim hipóteses sobre por que os sintomas de afasia humana se organizam como o fazem.

Metodologia
Os autores induzem "afasias artificiais" por meio do "lesionamento" (zeragem) de matrizes de parâmetros específicas em arquiteturas Transformer apenas decodificador. A configuração experimental envolve:

• Modelos: Cinco variantes de modelo com ~1 bilhão de parâmetros em três famílias: Llama 3.2, Gemma 3 e OLMo 2.
• Alvos de Lesionamento: Sete componentes específicos são visados em todas as camadas: as matrizes Query (Q), Key (K), Value (V) e Output (O) do mecanismo de atenção, e as matrizes Gate, Up e Down da rede feed-forward (FFN).
• Severidade: Lesionamentos são aplicados em cinco níveis de severidade ($s \in \{0, 0.25, 0.50, 0.75, 1.0\}$), onde $s$ representa a fração esperada de pesos zerados.
• Avaliação: As saídas são pontuadas usando o Text Aphasia Battery (TAB), um benchmark especificamente projetado para LMs baseados apenas em texto. O TAB atribui 21 sintomas binários em cinco categorias: Semântica, Sintática, Fluência, Fonológica e Outros (incluindo loops de repetição, estereotipias e respostas fora do tópico).
• Comparação: O estudo compara 112.426 saídas pontuadas de LMs lesionados contra 6.000 produções do corpus AphasiaBank (abrangendo vários subtipos de afasia humana e controles).
• Análise Estatística: Os autores empregam métodos não paramétricos, incluindo reamostragem por bootstrap ao nível da condição, testes de inversão de sinal emparelhados e testes de permutação, para avaliar diferenças nos perfis de sintomas entre componentes e em relação às linhas de base humanas.

Principais Resultados

1. Perfis Funcionais Distintos para Atenção vs. FFN: Lesionamentos em mecanismos de atenção e redes feed-forward produzem perfis de sintomas sistematicamente diferentes.

   • Lesionamentos em FFN: Deslocam as saídas para conteúdo vago ("Significado incerto"), strings curtas ou formulaicas, respostas fora do tópico e loops de repetição. Eles aumentam desproporcionalmente os sintomas nas categorias Semântica e "Outros".
   • Lesionamentos em Atenção: Prejudicam desproporcionalmente aspectos fonológicos e de fluência (por exemplo, parafasias fonêmicas, fala hesitante).
   • Subestrutura: Dentro da atenção, Q/K e V/O formam coortes distintas com efeitos semelhantes. Dentro do FFN, lesionamentos em Down causam a maior carga de sintomas, enquanto lesionamentos em Gate frequentemente reduzem as saídas a apenas pontuação ou palavras funcionais repetidas.

2. Localização de Sintomas Dependente da Profundidade: A camada na qual ocorre um lesionamento molda significativamente o perfil de sintomas.

   • Camadas Iniciais: Lesionamentos em camadas iniciais causam desproporcionalmente déficits semânticos e sintáticos.
   • Camadas Tardias-Médias: Lesionamentos em camadas posteriores resultam em taxas mais altas de déficits fonológicos e de fluência.
   • Necessidade vs. Conteúdo: Isso contrasta com estudos de decodificação cerebral que frequentemente encontram alinhamento em camadas médias a tardias; aqui, as camadas iniciais parecem mais causalmente necessárias para a função central, enquanto as camadas posteriores lidam com refinamentos mais granulares.

3. Divergência da Afasia Humana: Embora alguns lesionamentos em LMs produzam perfis de sintomas descritivamente mais próximos de certos subtipos de afasia humana do que outros, existem diferenças qualitativas fundamentais:

   • Composição de Sintomas: Humanos exibem taxas mais altas de sintomas semânticos e sintáticos, enquanto LMs lesionados superproduzem sintomas da categoria "Outros" (loops de repetição, texto fora do tópico).
   • Carga de Sintomas: Humanos geralmente apresentam cargas de sintomas totais mais altas do que LMs lesionados.
   • Coocorrência: A afasia humana mostra padrões densos de coocorrência de sintomas (por exemplo, síndromes específicas), enquanto LMs mostram estruturas de coocorrência menos claras.
   • Conclusão: O artigo conclui que, embora haja alguma estrutura compartilhada, a organização funcional emergente de LMs Transformer é qualitativamente distinta do cérebro humano. Os sintomas de afasia parecem ser propriedades contingentes dos detalhes específicos de aprendizado e processamento do cérebro humano, e não uma consequência invariante de domínio do processamento de linguagem interrompido.

Significância e Alegações
O artigo faz quatro contribuições primárias:

1. Prova de Conceito: Estabelece uma "neuropsicologia" para LMs usando o TAB para perfilar modos de falha detalhados, em vez de depender de rótulos diagnósticos grosseiros.
2. Diferenciação Funcional: Identifica diferenças funcionais confiáveis entre mecanismos de atenção e FFN em múltiplas arquiteturas de modelo.
3. Efeitos de Profundidade: Revela que déficits semânticos e sintáticos são localizáveis de forma confiável em camadas mais iniciais, enquanto déficits fonológicos e de fluência emergem em camadas posteriores.
4. Nuance sobre Convergência: Refina alegações anteriores de convergência entre afasias em LM e humanas. Embora existam algumas semelhanças superficiais, o artigo argumenta que os padrões detalhados de sintomas sugerem que as síndromes de afasia humana não são inerentes à estrutura da linguagem em si, mas são específicas da implementação biológica do processamento da linguagem.

Os autores afirmam explicitamente que não alegam que LMs possuam afasia clínica. Em vez disso, utilizam o quadro clínico como um sistema de coordenadas para estudar a função emergente. Os resultados sugerem que, embora lesionamentos em LMs possam produzir falhas clinicamente legíveis, a organização subjacente difere significativamente do cérebro humano, advertindo contra a equiparação direta de componentes de transformer com regiões cerebrais humanas.