Quantifying the cross-linguistic effects of syncretism on agreement attraction

Riepilogo Tecnico: Quantificazione degli effetti translinguistici del sincretismo sull'attrazione di concordanza

Enunciato del Problema
L'attrazione di concordanza si verifica quando un verbo concorda erroneamente con un sostantivo interveniente (l'attrattore) anziché con il suo capo grammaticale. La ricerca psicolinguistica, in particolare nell'ambito del quadro di recupero basato su indizi (Wagers et al., 2009; Dillon et al., 2013), suggerisce che il sincretismo morfologico—dove distinti tratti sintattici condividono la stessa morfologia esplicita—modula tali errori. In lingue come l'inglese, il tedesco e il russo, gli attrattori sincretici (ad esempio, forme accusative identiche al nominativo) aumentano i tassi di attrazione rispetto a quelli non sincretici. Tuttavia, questo pattern non è universale; il turco e l'armeno non mostrano tale modulazione, mentre il francese esibisce un pattern inverso. Attualmente, non esiste una spiegazione fondata che chiarisca perché il sincretismo influisca diversamente sull'attrazione di concordanza nelle varie lingue.

Metodologia
Gli autori utilizzano i Modelli Linguistici di Grande Dimensione (LLM) come proxy di elaborazione uniforme a livello translinguistico per investigare questa variazione in quattro lingue: inglese, tedesco, russo e turco. Estraggono due misure principali dagli LLM per fungere da proxy per la difficoltà di elaborazione umana e la competizione nel recupero dalla memoria:

1. Sorpresa (Surprisal): Calcolata utilizzando modelli autoregressivi (stile GPT-2) per misurare la probabilità logaritmica negativa del verbo dato il suo contesto. Una sorpresa inferiore nelle frasi non grammaticali indica che il modello viene "traviato" dall'attrattore, rispecchiando gli errori di attrazione umani.
2. Entropia dell'Attenzione: Calcolata utilizzando modelli bidirezionali (stile BERT) per misurare la dispersione dell'attenzione dalla posizione del verbo verso i potenziali controllori di concordanza. Un'entropia più elevata verso un attrattore interveniente suggerisce una maggiore competizione nel recupero.

Per garantire la rilevanza sintattica, gli autori hanno impiegato tecniche di sondaggio (probing) per identificare specifiche teste e livelli di attenzione che tracciano meglio le dipendenze soggetto-verbo per ciascuna lingua, piuttosto che aggregare su tutti i livelli. Hanno adattato modelli misti bayesiani per confrontare condizioni che variano per Grammaticalità (grammaticale vs. non grammaticale), Numero dell'Attrattore (singolare vs. plurale) e Sincretismo (sincretico vs. non sincretico). La metrica chiave è l'interazione tra questi fattori, specificamente se l'effetto di attrazione (differenza tra attrattori plurali e singolari) è modulato dal sincretismo.

Risultati Chiave
Lo studio replica i risultati comportamentali in tre delle quattro lingue, con diversi gradi di successo:

• Inglese e Tedesco: Le misure derivate dagli LLM replicano con successo il risultato comportamentale secondo cui il sincretismo amplifica l'attrazione di concordanza. In entrambe le lingue, la differenza nella sorpresa e nell'entropia dell'attenzione tra attrattori plurali e singolari è significativamente maggiore nelle condizioni sincretiche rispetto a quelle non sincretiche.
• Turco: I risultati sono in linea con i dati comportamentali che mostrano nessuna modulazione da parte del sincretismo. Gli LLM mostrano un effetto di attrazione generale (gli attrattori plurali riducono la sorpresa), ma questo effetto non è significativamente diverso tra le condizioni sincretiche e non sincretiche.
• Russo: I risultati sono misti. Gli LLM catturano l'effetto di attrazione standard nelle condizioni accusative (sincretiche). Tuttavia, non riescono a riprodurre completamente l'effetto di attrazione "invertito" comportamentale osservato nelle condizioni genitive, dove gli attrattori singolari (sincretici con il plurale nominativo) causano più interferenza rispetto agli attrattori plurali. Gli LLM mostrano un'inversione molto più debole o inesistente, suggerendo che fanno affidamento più pesantemente sul contesto sintattico per disambiguare forme che gli esseri umani trovano morfologicamente simili.

Contributi Chiave

• Quantificazione Translinguistica: Il documento fornisce la prima quantificazione computazionale degli effetti del sincretismo sull'attrazione di concordanza in quattro lingue tipologicamente diverse utilizzando una metodologia unificata.
• Validazione degli LLM come Proxy: Dimostra che la sorpresa e l'entropia dell'attenzione derivate dagli LLM possono fungere da proxy validi per i fenomeni umani di attrazione di concordanza, replicando con successo la presenza o l'assenza di modulazione del sincretismo in inglese, tedesco e turco.
• Identificazione dei Limiti del Modello: Lo studio evidenzia una specifica divergenza nel russo, dove gli LLM sembrano meno suscettibili alle sovrapposizioni morfologiche "spurie" (pseudo-plurali) rispetto ai comprensori umani, suggerendo una differenza nel modo in cui esseri umani e modelli ponderano gli indizi morfologici rispetto alla struttura sintattica.

Significato e Affermazioni
Gli autori affermano che questo lavoro stabilisce una linea di base per la ricerca futura su come la codifica morfologica influenzi il recupero dalla memoria. Sostengono che, sebbene gli LLM siano sensibili agli stessi sincretismi che guidano gli errori di attrazione umani, i meccanismi sottostanti potrebbero differire. Nello specifico, i risultati suggeriscono che le lingue differiscono sistematicamente nel peso che attribuiscono agli indizi morfologici rispetto ad altri fattori (come l'ordine delle parole o la sintassi) per stabilire le dipendenze di concordanza. Il documento ipotizza che gli effetti del sincretismo siano più forti nelle lingue in cui le distinzioni morfologiche sono poche ma altamente informative (ad esempio, inglese, tedesco) o dove il caso codifica pacchetti di tratti densi (ad esempio, russo), mentre nelle lingue agglutinanti con morfologia trasparente (ad esempio, turco), sia i parlanti che i modelli fanno meno affidamento su specifiche sovrapposizioni sincretiche, risultando in effetti nulli. Gli autori dichiarano esplicitamente che i loro risultati non forniscono ancora una spiegazione completa e fondata della variazione translinguistica, ma offrono un quadro computazionale per investigare ulteriormente queste dipendenze.