On the Persistent Effects of Lexicality in Large Language Mod

Sintesi Tecnica: Sull'effetto persistente della lessicalità nei Large Language Models

Problema
I Large Language Models (LLM) sono sempre più utilizzati come motori di embedding general-purpose per il recupero (retrieval), il clustering e la valutazione. Un'ipotesi prevalente nel campo è che, man mano che le rappresentazioni progrediscono attraverso la profondità del modello, esse transitino da strutture lessicali locali a una semantica astratta a livello di sequenza. Tuttavia, questo articolo sostiene che tale ipotesi sia fragile. L'evidenza empirica suggerisce che la sovrapposizione lessicale persista spesso nelle geometrie degli embedding, causando la conflazione tra similitudine della forma superficiale ed equivalenza semantica. Questa "influenza lessicale" degrada le prestazioni dei task a valle che si affidano a rappresentazioni basate sul significato, come il recupero di documenti e l'editing del modello, causando una priorità del modello verso i token condivisi rispetto al contenuto semantico. Gli autori osservano che la relazione tra questa influenza lessicale e il contenuto semantico, e la sua propagazione attraverso la profondità del modello e i regimi di addestramento, rimane scarsamente compresa.

Metodologia
Gli autori investigano l'evoluzione delle rappresentazioni lessicali e semantiche attraverso la profondità del modello utilizzando un approccio multifocale che coinvolge stress test avversari, probing per livello (layer-wise probing) e analisi informazionale-teorica.

1. Stress Test Avversari: Lo studio impiega stress test basati su triplette utilizzando i dataset CounterFact e SugarCrepe++ (SCPP). Ogni tripletta consiste di un ancora ($a$), una parafrasi che preserva il significato ($p$) e un distruttore lessicale ($d$) che condivide una significativa sovrapposizione di token con l'ancora ma differisce semanticamente. Il successo è definito come la capacità del modello di posizionare l'ancora più vicina alla parafrasi che al distruttore. Questo metric quantifica il tasso di fallimento guidato dalla sovrapposizione lessicale.
2. Probing per Livello (Layer-wise Probing):
   • Decodificabilità Lessicale: Sono addestrati probe lineari sugli stati nascosti per predire l'identità del token di input. Ciò misura l'accessibilità lineare delle informazioni sulla forma superficiale ad ogni livello.
   • Fedeltà Semantica: Gli embedding di frase di ogni livello sono valutati sul Massive Text Embedding Benchmark (MTEB) utilizzando head leggeri standard per valutare la performance semantica senza il fine-tuning specifico del task del backbone.
3. Analisi Informazionale-Teorica: Gli autori analizzano l'entropia del prompt attraverso i livelli per caratterizzare la dinamica di compressione e decompressione dell'informazione, relazionando questi cambiamenti ai comportamenti lessicali e semantici osservati.
4. Casi di Studio a Valle (Downstream): L'impatto dell'influenza lessicale è esaminato in due scenari pratici: la valutazione della sintesi astrattiva (utilizzando BERTScore e BARTScore) e l'editing fattuale del modello (utilizzando AlphaEdit).

Risultati Chiave

• Persistenza dell'Influenza Lessicale: L'influenza lessicale non è confinata ai livelli superficiali; persiste attraverso l'intera profondità dei modelli, inclusi quelli addestrati specificamente per la similitudine semantica (modelli di embedding). Sebbene l'instruction tuning e il metric learning migliorino la qualità complessiva degli embedding, essi non eliminano la suscettibilità agli avversari di sovrapposizione lessicale.
• La Valle di Mezzo-Profondità (Mid-Depth Valley): Si osserva una "valle" costante nei livelli intermedi (circa il 40–60% della profondità del modello). In questa regione:
  • La Decodificabilità Lessicale è al suo minimo (l'identità del token è meno linearmente recuperabile).
  • La Fedeltà Semantica ristagna o degrada attraverso i compiti di classificazione, recupero e similitudine testuale semantica.
  • I Tassi di Fallimento Lessicale raggiungono il picco, indicando che le rappresentazioni sono scarse sia per la forma superficiale che per il significato.
• Progressione Non Monotona: La transizione da rappresentazioni lessicali a semantiche non è una progressione fluida e monotona. La decodificabilità dell'identità del token fluttua, e la performance semantica si recupera solo nei livelli successivi, spesso dopo il bottleneck a bassa entropia.
• Allineamento Informazionale-Teorico: La valle di medio-profondità si allinea con un bottleneck a bassa entropia e la fase di immediata ri-espansione. Contrariamente ad alcune ipotesi precedenti secondo cui il bottleneck a bassa entropia ospitere le rappresentazioni più forti, gli autori trovano che la performance semantica sia più debole qui. Una geometria più forte e sensibile al significato emerge più tardi durante la fase di ri-espansione.
• Implicazioni a Valle:
  • Sintesi (Summarization): La sovrapposizione lessicale causa ai metric di valutazione come BERTScore di classificare erroneamente i non-riassunti (distruttori) con un punteggio più alto rispetto alle sintesi d'oro, anche quando i distruttori mancano di coerenza semantica.
  • Editing del Modello: Gli aggiornamenti mirati a fatti specifici si generalizzano in modo sproporzionato a prompt che sono lessicalmente simili ma semanticamente non correlati. Questo "skew lessicale" compromette la località delle modifiche, causando cambiamenti non intenzionali nel comportamento del modello per i distruttori che condividono token superficiali con il prompt dell'edit.

Significatività e Rivendicazioni
L'articolo sostiene che l'influenza lessicale sia una proprietà fondamentale e persistente delle rappresentazioni degli LLM che sopravvive a vari regimi di addestramento, inclusi il pre-training, l'instruction tuning e il contrastive learning. Gli autori sostengono che l'euristica standard di utilizzare gli embedding dell'ultimo livello o di assumere una pulita transizione lessicale-semantica sia insufficiente.

La significatività primaria risiede nel dimostrare che:

1. Il bias lessicale è robusto: Persiste anche nei modelli esplicitamente addestrati per minimizzarlo, suggerendo che i paradigmi di addestramento attuali riducono ma non eliminano le scorciatoie lessicali.
2. Le rappresentazioni dei livelli intermedi sono transizionali: I livelli intermedi rappresentano un regime in cui sia i segnali lessicali che quelli semantici sono deboli, sfidando la visione che i livelli intermedi siano uniformemente ottimali per l'estrazione di feature.
3. Valutazione ed Editing sono vulnerabili: Le applicazioni pratiche che si affidano alla geometria degli embedding sono sistematicamente influenzate dalla sovrapposizione della forma superficiale, portando a punteggi di similitudine mal calibrati e a un editing del modello con località compromessa.

Gli autori concludono che gli stress test controllati lessicalmente dovrebbero diventare uno standard diagnostico per l'apprendimento delle rappresentazioni, i metric automatici e le interazioni con i modelli, per garantire la robustezza contro i fallimenti semantici guidati dalla sovrapposizione. Propongono come lavoro futuro l'analisi del regime di transizione di medio-profondità utilizzando trasformazioni non lineari per comprendere la struttura che si forma lì e prevenire gli errori guidati dalla sovrapposizione.