🤖 machine learning

When Correct Demonstrations Hurt: Rethinking the Role of Exemplars in In-Context Learning

Questo articolo sfida l'assunto secondo cui le dimostrazioni corrette facilitano sempre l'apprendimento in contesto, rivelando che perturbazioni che preservano il compito possono degradare le prestazioni attraverso uno "spostamento dell'evidenza contestuale", dimostrando che l'utilità degli esempi dipende da come influenzano l'inferenza contestuale piuttosto che dalla mera correttezza.

Autori originali: Chenghao Qiu, Chunli Peng, Yufeng Yang, Kuan-Hao Huang, Yi Zhou

Pubblicato 2026-05-27

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Chenghao Qiu, Chunli Peng, Yufeng Yang, Kuan-Hao Huang, Yi Zhou

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

L'idea principale: Essere "giusti" non è sempre "utile"

Immagina di cercare di insegnare a un robot come ordinare il bucato. Gli mostri alcuni esempi:

Esempio 1: Un calzino rosso va nel mucchio "Rosso".
Esempio 2: Una camicia blu va nel mucchio "Blu".

Il robot impara rapidamente. Questo è chiamato Apprendimento in Contesto (ICL). Il robot guarda gli esempi che gli dai (le "dimostrazioni") e indovina come gestire il nuovo oggetto che gli hai appena passato.

La convinzione comune è stata: "Finché gli esempi che mostro al robot sono fattualmente corretti, il robot imparerà meglio."

Questo documento dimostra che tale convinzione è errata.

Gli autori hanno scoperto uno strano fenomeno: puoi dare al robot esempi che sono 100% fattualmente corretti, ma se cambi come quegli esempi appaiono o suonano, il robot potrebbe confondersi e performare peggio rispetto a se non gli avessi dato alcun esempio.

L'esperimento: Il trucco "Conservativo del Compito"

Per testare questo, i ricercatori non hanno ingannato il robot con risposte sbagliate. Invece, hanno giocato a "stesso compito, storia diversa". Hanno chiamato questo Perturbazione Conservativa del Compito.

Pensaci come a insegnare a qualcuno a guidare.

Il modo standard: Gli mostri un video di un'auto che si ferma a un semaforo rosso. (Esempio corretto).
Il modo "perturbato": Gli mostri un video di un'auto diversa che si ferma a un semaforo rosso, ma questa volta l'auto è una cabriolet giallo brillante, il tempo è soleggiato e il conducente indossa un cappello. L'azione (fermarsi a un semaforo rosso) è ancora corretta. La regola non è cambiata.

Tuttavia, i ricercatori hanno scoperto che se mostri al robot troppe di queste esempi "dall'aspetto diverso ma corretti", il robot inizia a confondersi su quale sia la vera regola. Inizia a pensare: "Oh, forse la regola riguarda le cabriolet gialli con il tempo soleggiato", invece di "Fermati ai semafori rossi".

Il concetto fondamentale: "Spostamento dell'Evidenza Contestuale"

Il documento introduce un termine sofisticato per questa confusione: Spostamento dell'Evidenza Contestuale.

Immagina che il robot sia un detective che cerca di risolvere un mistero. Gli esempi che gli dai sono "indizi".

Indizi puliti: Tutti gli indizi si assomigliano e puntano chiaramente allo stesso sospetto.
Indizi perturbati: Gli indizi sono ancora tecnicamente veri, ma sembrano molto diversi tra loro. Alcuni sono scritti con inchiostro rosso, altri con inchiostro blu; alcuni sono storie lunghe, altri sono brevi note.

Anche se ogni indizio è vero, la miscela di indizi cambia. Il detective (il robot) inizia a concentrarsi sui dettagli sbagliati (come il colore dell'inchiostro) invece che sul crimine principale. La "prova" che il robot usa per prendere una decisione si è spostata, anche se i fatti non sono cambiati.

Cosa hanno scoperto

I ricercatori hanno testato questo su tre tipi di compiti:

Analisi del Sentimento: Decidere se una recensione di un film è positiva o negativa.
Ragionamento Logico: Risolvere enigmi come "Se A è vero, e A implica B, è B vero?"
Problemi Matematici in forma di testo: Risolvere semplici storie matematiche.

I Risultati:

I robot piccoli ne risentono di più: Modelli più piccoli e meno potenti (come un modello da 7 miliardi di parametri) si sono confusi molto quando gli esempi avevano un aspetto diverso. La loro accuratezza è diminuita significativamente.
I robot grandi sono più resistenti: Modelli più grandi e intelligenti (come modelli da 70 miliardi di parametri) erano molto meglio nell'ignorare il "rumore" e attenersi alla regola reale. Non si sono confusi quanto gli altri.
Più confusione = Risultati peggiori: Più esempi "dall'aspetto diverso" aggiungevano, peggio performavano i robot piccoli. In alcuni casi, il robot ha fatto peggio con questi esempi "corretti" rispetto a se gli avessero dato nessun esempio.

Una semplice analogia: La playlist musicale

Immagina di cercare di insegnare a un DJ a suonare musica "Pop Energico".

Esempi standard: Gli dai una playlist di 10 canzoni pop energetiche. Impara perfettamente il vibe.
Esempi perturbati: Gli dai 10 canzoni che sono ancora pop energetiche, ma cambi la copertina, i nomi degli album e l'ordine delle tracce. La musica è dello stesso genere, ma il "pacchetto" è strano.

Se dai al DJ un mix di canzoni standard e canzoni con un packaging strano, un DJ alle prime armi potrebbe confondersi e iniziare a suonare jazz lento perché si concentra sulle copertine strane invece che sul ritmo. Un DJ esperto (il modello grande) ignorerebbe semplicemente le copertine e suonerebbe la musica giusta.

La conclusione

Il documento conclude che quando cerchiamo di insegnare ai modelli AI usando esempi, non dovremmo chiederci solo: "Questo esempio è corretto?"

Dobbiamo anche chiederci: "Questo esempio si adatta allo schema degli altri esempi?"

Se gli esempi sono tutti "corretti" ma sembrano troppo diversi tra loro, possono effettivamente danneggiare la capacità dell'AI di imparare. L'AI ha bisogno di un "vibe" o un "contesto" coerente per capire le regole, non solo di un mucchio di dati fattualmente veri ma stilisticamente caotici.

In breve: La correttezza è necessaria, ma non è sufficiente. Il modo in cui presenti le informazioni corrette conta tanto quanto le informazioni stesse.

Riepilogo Tecnico: Quando le Dimostrazioni Corrette Danneggiano: Ripensare il Ruolo degli Esempi nell'Apprendimento in Contesto

Enunciato del Problema
L'apprendimento in contesto (ICL) consente ai grandi modelli linguistici (LLM) di adattarsi a nuovi compiti condizionandosi su un piccolo insieme di dimostrazioni input-output senza aggiornare i parametri. Un'intuizione prevalente suggerisce che le dimostrazioni siano benefiche perché forniscono esempi corretti della mappatura del compito target. Tuttavia, questo lavoro identifica un fenomeno controintuitivo: la correttezza degli esempi non garantisce la loro utilità. Gli autori dimostrano che le dimostrazioni possono essere individualmente valide secondo la definizione del compito (cioè la coppia input-output soddisfa la mappatura del compito) e tuttavia degradare le prestazioni dell'ICL quando utilizzate come evidenze contestuali. Questo "divario tra correttezza e utilità" nasce dal fatto che il modello non apprende semplicemente una mappatura da singole coppie, ma inferisce un compito latente, un regime di input e una regola decisionale dal mix di tutti gli esempi forniti.

Metodologia: Perturbazioni che Preservano il Compito
Per isolare la distinzione tra correttezza e utilità, gli autori introducono le perturbazioni che preservano il compito. Questo framework prevede la modifica del lato input degli esempi in contesto, mantenendo rigorosamente la definizione del compito, il formato del prompt e l'ordine delle dimostrazioni. Crucialmente, ogni esempio perturbato è accoppiato con il target indotto dalla stessa mappatura del compito $g_T$ , garantendo che la dimostrazione rimanga "corretta" in isolamento.

Il framework comprende due regimi:

Perturbazioni di Aggiornamento dell'Etichetta: Le semantica rilevanti per il compito sono alterate e il target è ricalcolato secondo la mappatura del compito (ad esempio, cambiare una frase di sentiment da positiva a negativa e aggiornare l'etichetta).
Perturbazioni Rigorose che Preservano il Target: Il target originale rimane valido, ma l'input è modificato per includere distrazioni o riordinamenti (ad esempio, aggiungere fatti numerici irrilevanti a un problema di matematica o inserire premesse distraenti nel ragionamento logico).

Gli autori definiscono il rapporto di perturbazione $\rho$ come la proporzione di esempi sostituiti da queste varianti che preservano il compito. Formalizzano il conseguente modo di fallimento come spostamento dell'evidenza contestuale: le perturbazioni alterano il mix effettivo di evidenze che il modello utilizza per l'inferenza, spostando il contesto decisionale inferito dal modello anche se la mappatura sottostante del compito rimane invariata.

Contributi Chiave

Identificazione del Divario tra Correttezza e Utilità: Il documento stabilisce che una dimostrazione può soddisfare la condizione di correttezza ( $y_i = g_T(x_i)$ ) pur avendo un'utilità negativa (aumentando il rischio su query pulite) a causa della sua interazione con il contesto più ampio.
Framework Metodologico: L'introduzione delle perturbazioni che preservano il compito come intervento controllato. A differenza di studi avversariali precedenti che alterano le etichette o le semantica del compito, questo metodo preserva la mappatura del compito per testare specificamente come gli spostamenti nella distribuzione degli input influenzino l'ICL.
Formalizzazione Teorica: Il concetto di spostamento dell'evidenza contestuale è formalizzato, mostrando come le perturbazioni cambino il mix effettivo di evidenze ( $m_\theta$ ) utilizzato per l'inferenza contestuale, separando così il rapporto di perturbazione nominale dal peso effettivo che il modello assegna all'evidenza perturbata.

Risultati Sperimentali
Gli autori hanno valutato modelli istruiti con pesi aperti (Llama-2, Llama-3.1, Qwen2.5/3.5, Gemma-4) su tre domini: classificazione del sentiment (SST-2), ragionamento logico (ProverQA) e problemi matematici verbali (PROBLEMATHIC).

Degradazione delle Prestazioni: Su tutti i compiti, l'aumento del rapporto di perturbazione $\rho$ ha degradato sostanzialmente le prestazioni dell'ICL. In alcuni casi (ad esempio SST-2 con modelli più piccoli), le prestazioni sono scese al di sotto delle baseline zero-shot.
Sensibilità alla Scala del Modello: La degradazione è stata fortemente dipendente dalla scala. I modelli più piccoli (ad esempio 7B–14B) hanno mostrato una vulnerabilità significativa, mentre i modelli più grandi (ad esempio 70B+) sono rimasti relativamente stabili. Ad esempio, su SST-2, l'accuratezza di Llama-2-7B è scesa dal 96,4% al 56,9% con il 100% di perturbazione, mentre Llama-3.1-70B è rimasta vicina al 100%.
Difficoltà del Compito: Compiti più difficili (ad esempio ragionamento logico complesso o problemi matematici) hanno mostrato una maggiore sensibilità alle perturbazioni, in particolare per i modelli più piccoli.
Effetti Posizionali: Le perturbazioni posizionate vicino alla query (perturbazioni finali) sono state sproporzionatamente dannose per i modelli più piccoli, che hanno mostrato una forte sensibilità alla recenza. L'analisi delle mappe di attenzione ha rivelato che i modelli più grandi sono stati in grado di riassegnare meglio l'attenzione agli esempi iniziali e puliti, mitigando lo spostamento dell'evidenza.
Esperimenti di Controllo: Sostituire gli esempi con affermazioni fattuali irrilevanti per il compito ha causato solo una lieve degradazione, confermando che il danno deriva da evidenze valide per il compito ma spostate distribuzionalmente, piuttosto che da una generica interruzione del prompt o da un fallimento nel riconoscimento del compito.

Significato e Affermazioni
Il documento sostiene che un ICL robusto richiede di valutare non solo se le dimostrazioni sono corrette, ma anche come influenzano l'inferenza contestuale. Gli autori affermano che l'efficacia di un insieme di dimostrazioni dipende dalla sua composizione globale e dal mix di evidenze risultante, non solo dalla qualità dei singoli esempi.

Lo studio conclude che la "correttezza" di un esempio è una proprietà locale, mentre l'"utilità" è dipendente dal contesto. Di conseguenza, le pipeline ICL standard che selezionano gli esempi basandosi esclusivamente sulla correttezza o sulla similarità possono introdurre involontariamente evidenze contestuali dannose. Gli autori collocano il loro lavoro come un'astrazione esplicativa (spostamento dell'evidenza contestuale) piuttosto che come un resoconto meccanico completo, notando limitazioni come il focus sull'ICL basato solo su testo e sulle perturbazioni controllate. Suggeriscono che i lavori futuri dovrebbero esplorare meccanismi di difesa che selezionano o ponderano le dimostrazioni in base all'utilità piuttosto che alla sola correttezza.