Riepilogo Tecnico: Meccanismi di Mescolamento nel Recupero di Entità in Contesto

Enunciato del Problema

I modelli linguistici (LM) eccellono nel ragionamento in contesto, una capacità fondamentalmente dipendente dalla possibilità di legare entità correlate all'interno di un testo (ad esempio, legare "Anna" a "torta" in "Anna ama la torta") e successivamente recuperarle sulla base di una query (ad esempio, rispondere a "Chi ama la torta?"). Sebbene ricerche precedenti abbiano stabilito che i LM utilizzano un meccanismo posizionale — recuperando entità in base al loro indice nella sequenza del contesto — questa visione è stata in gran parte derivata da studi che coinvolgevano brevi elenchi di gruppi di entità (ad esempio, $n=2$ o $3$).

Il problema centrale affrontato in questo lavoro è l'affidabilità di tale meccanismo posizionale in contesti più complessi e realistici. All'aumentare del numero di gruppi di entità legati, i LM faticano a ragionare su contesti lunghi, esibendo fenomeni come l'effetto "perso nel mezzo". Gli autori indagano se il meccanismo posizionale si generalizzi a sequenze più lunghe o se i LM adottino strategie alternative per mantenere l'accuratezza del recupero.

Metodologia

Gli autori impiegano tecniche di interpretabilità meccanicistica, in particolare interventi di scambio, per sondare la struttura causale interna dei LM.

1. Configurazione del Compito: Lo studio utilizza compiti di ragionamento in contesto basati su modelli, che coinvolgono "Gruppi di Entità" (tuple di entità che ricoprono ruoli specifici, ad esempio Nome + Cibo). Al modello viene chiesto di recuperare un'entità target basandosi su un'entità query all'interno di un gruppo specifico.
2. Progettazione Controfattuale: Per distinguere tra ipotesi concorrenti, gli autori costruiscono dataset accoppiati di input originali e controfattuali. Queste coppie sono progettate in modo tale che tre meccanismi ipotizzati — Posizionale, Lessicale e Riflessivo — predirebbero output distinti se venisse eseguito un intervento di scambio sulle rispettive variabili intermedie.
   • Meccanismo Posizionale ($P$): Recupera l'entità all'indice del gruppo della query controfattuale.
   • Meccanismo Lessicale ($L$): Recupera l'entità legata all'entità query controfattuale (ad esempio, se la query cambia da "Tim" ad "Anna", recupera ciò che "Anna" ama).
   • Meccanismo Riflessivo ($R$): Recupera l'entità target tramite un puntatore diretto originante dall'entità target stessa, dereferenziato attraverso la query.
3. Protocollo di Intervento: Gli autori eseguono interventi di scambio sul flusso residuo dell'ultimo token a specifici livelli ($\ell$) identificati come il punto immediatamente precedente al recupero. Incollano il vettore del flusso residuo dalla esecuzione controfattuale nell'esecuzione originale e osservano la distribuzione del token successivo risultante.
4. Modellazione Causale: Viene sviluppato un modello causale ($M$) per simulare il comportamento del LM. Questo modello combina i tre meccanismi come una miscela ponderata:
   • Il termine posizionale è modellato come una distribuzione gaussiana centrata sull'indice della query, con varianza dipendente dall'indice.
   • I termini lessicale e riflessivo sono modellati come distribuzioni one-hot.
   • Il modello è addestrato per prevedere la distribuzione dei logit del LM utilizzando la Divergenza Jensen–Shannon (JSD) come metrica di perdita.
5. Ambito di Applicazione: Gli esperimenti coprono nove modelli appartenenti a tre famiglie (Llama, Gemma, Qwen) che variano da 2B a 72B parametri, valutati su dieci compiti di legame distinti.

Contributi Chiave

1. Identificazione di Tre Meccanismi Distinti

Il documento sfida la visione prevalente secondo cui il recupero è esclusivamente posizionale. Dimostra che i LM impiegano una miscela di tre meccanismi:

• Posizionale: Efficace per le entità all'inizio e alla fine del contesto, ma diventa rumoroso e diffuso per le posizioni centrali all'aumentare del numero di gruppi ($n$).
• Lessicale: Recupera il corrispettivo legato dell'entità query (ad esempio, "torta" $\to$ "Anna"). Questo meccanismo fornisce un segnale netto, one-hot.
• Riflessivo: Utilizza un puntatore diretto dall'entità target a se stessa, che viene recuperato tramite la query. Questo è particolarmente cruciale quando il target appare prima della query in una clausola (ad esempio, "Tim ama il tè" $\to$ "Chi ama il tè?"), uno scenario in cui la copia lessicale è architetturalmente difficile per i modelli autoregressivi.

2. Il Pattern di Affidabilità a "U"

Attraverso estesi esperimenti di intervento, gli autori scoprono un pattern coerente:

• Prime e Ultime Posizioni: Il recupero è dominato dal meccanismo posizionale, che è altamente concentrato e affidabile.
• Posizioni Centrali: Il segnale posizionale si degrada significativamente. Per compensare, i LM fanno affidamento pesantemente sui meccanismi lessicale e riflessivo, che forniscono segnali più netti per disambiguare l'entità corretta.
• Interazione: I meccanismi esibiscono una "sinergia competitiva". Quando gli indici coincidono, i segnali si amplificano; quando divergono, si sopprimono a vicenda.

3. Modello Causale della Previsione del Token Successivo

Gli autori costruiscono un modello causale che combina questi tre meccanismi. Questo modello raggiunge un accordo del 95% (misurato dalla Similarità Jensen–Shannon) con le effettive distribuzioni dei token successivi dei LM attraverso vari compiti e dimensioni dei modelli. Al contrario, i modelli che si basano esclusivamente sul meccanismo posizionale (la visione prevalente) ottengono punteggi significativamente più bassi (~45%), performando peggio di una baseline uniforme in alcune configurazioni.

4. Generalizzazione a Input Naturalistici

Lo studio convalida che questi risultati valgono in contesti più naturalistici dove i gruppi di entità sono intercalati con testo "riempitivo" (frasi aperte). Sebbene l'aggiunta di token riempitivi aumenti il rumore e indebolisca leggermente il meccanismo lessicale, la dipendenza fondamentale dalla miscela a tre meccanismi persiste, offrendo una spiegazione meccanicistica per l'effetto "perso nel mezzo".

Risultati

• Prevalenza dei Meccanismi: Nelle posizioni centrali di contesti lunghi, il meccanismo posizionale rappresenta solo circa il 20% del comportamento del modello, mentre i meccanismi lessicale e riflessivo diventano i principali driver del recupero corretto.
• Robustezza del Modello: Il pattern di mescolamento è coerente tra le famiglie di modelli (Llama, Gemma, Qwen) e le scale (da 2B a 72B parametri).
• Validazione Riflessiva: Attraverso specifici disegni controfattuali in cui la risposta controfattuale non esiste nel contesto originale, gli autori dimostrano l'esistenza di un meccanismo di puntatore riflessivo distinto dal token della risposta stessa.
• Studi di Ablazione: Rimuovere un singolo meccanismo dal modello causale degrada significativamente le prestazioni, confermando che tutti e tre sono necessari per un'astruzione accurata del comportamento del LM.

Significato e Affermazioni

Il documento afferma di stabilire un quadro più completo di come i LM leghino e recuperino entità in contesto. Superando la visione posizionale semplicistica, gli autori forniscono una spiegazione meccanicistica sia dei punti di forza (recupero robusto tramite segnali multipli) che delle fragilità (rumore nelle posizioni centrali che porta a errori "persi nel mezzo") dei LLM in contesti lunghi.

Il lavoro suggerisce che il fenomeno "perso nel mezzo" non è semplicemente un fallimento dell'attenzione, ma una specifica degradazione del segnale posizionale, che viene compensata solo parzialmente dai meccanismi lessicale e riflessivo. Gli autori rilasciano il loro codice e i dati per facilitare ulteriori ricerche sui meccanismi causali del ragionamento in contesto.