Sintesi Tecnica: Rivedere la Sistematicità nella Negazione nell'Era dell'In-Context Learning

Definizione del Problema

Nonostante le capacità dei Large Language Models (LLM), la comprensione della negazione rimane una sfida significativa. Sebbene i modelli spesso ottengano buone prestazioni su specifici benchmark, la loro capacità di generalizzare sistematicamente — comprendendo un insieme illimitato di espressioni strutturate da un insieme finito di primitivi — è discutibile. Le valutazioni precedenti si sono concentrate ampiamente sulla sistematicità comportamentale (prestazioni su input non visti durante l'addestramento), fallendo spesso nel distinguere tra una genuina comprensione composizionale e correlazioni spurie o memorizzazione.

Inoltre, sebbene la sistematicità rappresentazionale (la codifica interna della struttura composizionale) sia teoricamente cruciale per la generalizzazione sistematica, essa è stata esplorata insufficientemente nel contesto dell'In-Context Learning (ICL). La maggior parte dei lavori precedenti sull'analisi rappresentazionale si è concentrata su modelli pre-addestrati come BERT, lasciando scarsamente esplorata la sistematicità degli LLM basati su ICL. Questo articolo affronta il divario analizzando sia la sistematicità comportamentale che quella rappresentazionale riguardo alla comprensione della negazione negli LLM.

Metodologia

Lo studio impiega un approccio a doppia prospettiva:

1. Analisi della Sistematicità Comportamentale

Gli autori valutano gli LLM in un contesto di apprendimento few-shot per determinare se i modelli possano riconoscere le espressioni di negazione e i loro ambiti (scope) in frasi contenenti combinazioni di parole non presenti nelle dimostrazioni.

• Task:
  • Estrazione del Segnale di Negazione (Negation Cue Extraction): Identificare l'espressione di negazione (es. "non").
  • Risoluzione della Negazione (Negation Resolution): Predire l'ambito della negazione (la parte della frase influenzata dal segnale).
  • Baseline: Predizione dell'antonimo (usata per verificare se i vettori di funzione possano essere costruiti per task più semplici).
• Formati di Output: Per testare la robustezza, il task di risoluzione della negazione è stato valutato attraverso quattro formati distinti:
  • EXTRACT: Output della sequenza di token all'interno dell'ambito.
  • BRACKET: Racchiudere l'ambito tra parentesi quadre.
  • LAST-WORD: Output dell'ultimo token dell'ambito.
  • NER: Un task di etichettatura delle sequenze (0 per esterno all'ambito, 1 per interno all'ambito).
• Modelli: GPT-J-6B e Qwen3-4B.
• Dataset: Un sottoinsieme del SFU Review Corpus, filtrato per frasi con segnali di negazione e relativi ambiti, garantendo che i set di training, development e test contengano combinazioni di parole distinte.

2. Analisi della Sistematicità Rappresentazionale

Gli autori indagano se i meccanismi interni degli LLM codifichino il compito della comprensione della negazione come una rappresentazione vettoriale robusta e riutilizzabile.

• Vettori di Funzione (Function Vectors): Vettori densi estratti dalle attivazioni nascoste del modello (specificamente da un sottoinsieme di teste di attenzione identificati tramite analisi di mediazione causale) che riassumono la mappatura input-output dimostrata dagli esempi in-context.
• Vettori di Task (Task Vectors): Vettori estratti direttamente dalle attivazioni dello stream residuo di una posizione di token designata come rappresentativa del task.
• Intervento: Questi vettori vengono iniettati nel modello durante l'inferenza (contesti zero-shot) per vedere se possono indurre il comportamento del target senza dimostrazioni esplicite.
• Valutazione: Lo studio misura l'accuratezza top-1 zero-shot ottenuta quando questi vettori vengono applicati ai modelli, concentrandosi specificamente su esempi di test in cui i modelli hanno operato correttamente in un setting a 10-shot (per isolare l'effetto del vettore dalla capacità generale del modello).

Risultati Chiave

Sistematicità Comportamentale

• Estrazione del Segnale di Negazione: Entrambi i modelli hanno raggiunto un'accuratezza comparabile al task di predizione dell'antonimo (circa 62–64%), suggerendo che possono apprendere parzialmente a identificare i segnali di negazione dalle dimostrazioni. Tuttavia, la prestazione non è stata perfetta, indicando una mancanza di completa capacità sistematica.
• Risoluzione della Negazione: Le prestazioni sono variate significativamente in base al formato di output. I modelli hanno faticato notevolmente con il formato NER (0% di accuratezza per entrambi i modelli nel setting a 10-shot) e con il formato LAST-WORD. Il formato EXTRACT ha prodotto risultati migliori (fino al 76% per Qwen3-4B), ma nel complesso i modelli non sono riusciti a ottenere una prestazione perfetta attraverso i vari formati, suggerendo difficoltà nel generalizzare il concetto di "ambito" attraverso diverse strutture di output.

Sistematicità Rappresentazionale

• Estrazione del Segnale di Negazione: I vettori di funzione (applicati nei livelli intermedi) e i vettori di task (applicati nei livelli tardivi) hanno indotto con successo la prestazione del task in contesti zero-shot, raggiungendo un'alta accuratezza (90% per GPT-J-6B, 80% per Qwen3-4B). Ciò indica che il compito di identificare i segnali di negazione può essere codificato in modo robusto come un vettore di funzione.
• Risoluzione della Negazione: Al contrario, i vettori di funzione e di task hanno avuto un effetto significativamente più debole sui task di risoluzione della negazione (0–50% di accuratezza). Sebbene ci sia stato un leggero effetto di steering per i formati EXTRACT e LAST-WORD in GPT-J-6B, i vettori generalmente non sono riusciti a indurre il task in modo robusto.
• Confronto tra Vettori: I vettori di task sono apparsi più efficaci dei vettori di funzione per i task di risoluzione della negazione, particolarmente nei livelli successivi.

Significato e Rivendicazioni

L'articolo sostiene che, sebbene gli LLM possano apprendere a riconoscere i segnali di negazione attraverso l'in-context learning, essi faticano a raggiungere una perfetta sistematicità comportamentale, specialmente quando il formato di output cambia. Più criticamente, l'analisi rappresentazionale rivela una divergenza nel modo in cui questi compiti vengono codificati internamente:

1. Estrazione del Segnale vs. Riconoscimento dell'Ambito: I modelli possono formare vettori di funzione robusti per estrarre i segnali di negazione, similmente a compiti più semplici come la predizione dell'antonimo. Tuttavia, costruire vettori di funzione per il riconoscimento dell'ambito della negazione è significativamente più complesso.
2. Limitazioni dell'ICL: La difficoltà nel formare vettori robusti per la risoluzione dell'ambito suggerisce che gli LLM potrebbero non possedere le rappresentazioni strutturate interne necessarie per l'inferenza sistematica riguardo all'ambito della negazione, anche quando possono produrre output corretti in specifici contesti few-shot.
3. Contributo Metodologico: Lo studio evidenzia la necessità di andare oltre i benchmark comportamentali verso analisi rappresentazionali (utilizzando vettori di funzione/task) per valutare realmente se gli LLM abbiano acquisito i principi sottostanti della generalizzazione sistematica.

Gli autori concludono che, sebbene gli LLM mostrino una certa capacità di comportamento sistematico nei task di negazione, l'incapacità di costruire robustamente vettori di funzione per la risoluzione dell'ambito punta a un limite fondamentale nella loro sistematicità rappresentazionale per questo specifico fenomeno linguistico.