Quantifying the cross-linguistic effects of syncretism on agreement attraction

Resumo Técnico: Quantificação dos efeitos interlinguísticos do sincretismo na atração de concordância

Enunciado do Problema
A atração de concordância ocorre quando um verbo concorre erroneamente com um substantivo interveniente (o atrator) em vez de seu núcleo gramatical. Pesquisas psicolinguísticas, particularmente no âmbito da estrutura de recuperação baseada em pistas (Wagers et al., 2009; Dillon et al., 2013), sugerem que o sincretismo morfológico — onde características sintáticas distintas compartilham a mesma morfologia explícita — modula esses erros. Em línguas como inglês, alemão e russo, atratores sincreticos (por exemplo, formas acusativas idênticas às nominativas) aumentam as taxas de atração em comparação com os não sincreticos. No entanto, esse padrão não é universal; turco e armênio não apresentam tal modulação, e o francês exibe um padrão inverso. Atualmente, não há uma explicação principista que justifique por que o sincretismo afeta a atração de concordância de maneira diferente entre as línguas.

Metodologia
Os autores utilizam Modelos de Linguagem de Grande Escala (LLMs) como um proxy de processamento uniformemente interlinguístico para investigar essa variação em quatro línguas: inglês, alemão, russo e turco. Eles extraem duas medidas principais dos LLMs para servir como proxies para a dificuldade de processamento humano e a competição de recuperação na memória:

1. Surprisal: Calculado usando modelos autoregressivos (estilo GPT-2) para medir a probabilidade negativa logarítmica do verbo dado seu contexto. Um surprisal menor em sentenças agramaticais indica que o modelo foi "desviado" pelo atrator, espelhando erros de atração humanos.
2. Entropia de Atenção: Calculada usando modelos bidirecionais (estilo BERT) para medir a dispersão da atenção da posição do verbo para os possíveis controladores de concordância. Uma entropia maior em direção a um atrator interveniente sugere maior competição de recuperação.

Para garantir relevância sintática, os autores empregaram técnicas de sondagem para identificar cabeças e camadas específicas de atenção que melhor rastreiam as dependências sujeito-verbo para cada língua, em vez de agregar todas as camadas. Eles ajustaram modelos mistos de efeitos bayesianos para comparar condições que variam por Gramaticalidade (gramatical vs. agramatical), Número do Atrator (singular vs. plural) e Sincretismo (sincretico vs. não sincretico). A métrica chave é a interação entre esses fatores, especificamente se o efeito de atração (diferença entre atratores plurais e singulares) é modulado pelo sincretismo.

Principais Resultados
O estudo replica achados comportamentais em três das quatro línguas, com graus variados de sucesso:

• Inglês e Alemão: As medidas derivadas de LLMs replicam com sucesso o achado comportamental de que o sincretismo amplifica a atração de concordância. Em ambas as línguas, a diferença no surprisal e na entropia de atenção entre atratores plurais e singulares é significativamente maior em condições sincreticas do que em condições não sincreticas.
• Turco: Os resultados alinham-se com dados comportamentais que mostram nenhuma modulação pelo sincretismo. Os LLMs mostram um efeito geral de atração (atrativos plurais reduzem o surprisal), mas esse efeito não é significativamente diferente entre condições sincreticas e não sincreticas.
• Russo: Os achados são mistos. Os LLMs capturam o efeito de atração padrão em condições acusativas (sincreticas). No entanto, eles não conseguem reproduzir totalmente o efeito de atração "invertido" comportamental observado em condições genitivas, onde atratores singulares (sincreticos com o plural nominativo) causam mais interferência do que atratores plurais. Os LLMs mostram uma inversão muito mais fraca ou inexistente, sugerindo que eles dependem mais fortemente do contexto sintático para desambiguar formas que os humanos encontram morfologicamente similares.

Principais Contribuições

• Quantificação Interlinguística: O artigo fornece a primeira quantificação computacional dos efeitos do sincretismo na atração de concordância em quatro línguas tipologicamente diversas usando uma metodologia unificada.
• Validação de LLMs como Proxies: Demonstra que o surprisal e a entropia de atenção derivados de LLMs podem servir como proxies válidos para fenômenos humanos de atração de concordância, replicando com sucesso a presença ou ausência de modulação por sincretismo em inglês, alemão e turco.
• Identificação de Limitações do Modelo: O estudo destaca uma divergência específica no russo, onde os LLMs parecem menos suscetíveis a sobreposições morfológicas "espúrias" (pseudo-plurais) do que os compreendedores humanos, sugerindo uma diferença na forma como humanos e modelos ponderam pistas morfológicas versus estrutura sintática.

Significado e Afirmações
Os autores afirmam que este trabalho estabelece uma base para pesquisas futuras sobre como a codificação morfológica influencia a recuperação da memória. Eles argumentam que, embora os LLMs sejam sensíveis aos mesmos sincretismos que impulsionam erros de atração humanos, os mecanismos subjacentes podem diferir. Especificamente, os resultados sugerem que as línguas diferem sistematicamente na medida em que atribuem peso a pistas morfológicas versus outros fatores (como ordem das palavras ou sintaxe) para estabelecer dependências de concordância. O artigo postula que os efeitos do sincretismo são mais fortes em línguas onde as distinções morfológicas são poucas, mas altamente informativas (por exemplo, inglês, alemão) ou onde o caso codifica conjuntos densos de características (por exemplo, russo), ao passo que, em línguas aglutinantes com morfologia transparente (por exemplo, turco), tanto falantes quanto modelos dependem menos de sobreposições sincreticas específicas, resultando em efeitos nulos. Os autores afirmam explicitamente que suas descobertas ainda não fornecem uma explicação principista completa para a variação interlinguística, mas oferecem uma estrutura computacional para investigar ainda mais essas dependências.