Riepilogo Tecnico: Un modello linguistico può apprendere fatti continuamente nei suoi pesi?

Definizione del Problema

L'apprendimento continuo mira a consentire ai modelli linguistici (LM) di acquisire nuovi fatti dopo l'addestramento iniziale e di mantenerli attraverso aggiornamenti successivi, scrivendo efficacemente la conoscenza direttamente nei pesi del modello. Sebbene l'apprendimento basato sul contesto (in-context learning) permetta l'uso immediato dei fatti, esso è transitorio. La domanda centrale affrontata da questo lavoro è se l'apprendimento continuo basato sui pesi possa supportare l'accumulo di conoscenza utilizzabile. Nello specifico, il documento indaga tre requisiti critici per una scrittura efficace:

1. Creazione: Ogni scrittura crea conoscenza che sia utilizzabile oltre la semplice recitazione?
2. Preservazione: Le capacità generali sopravvivono all'accumulo di aggiornamenti?
3. Raggiungibilità: I fatti precedenti possono rimanere raggiungibili dopo scritture successive?

Osservazioni precedenti suggeriscono che il fine-tuning apprenda i fatti lentamente, spesso fallisca nel ragionamento multi-hop o nelle inversioni rispetto all'uso in-context e soffra di deriva distributiva. Tuttavia, mancava un resoconto unificato sul perché alcune scritture producano conoscenza utilizzabile, perché alcune sopravvivano e sulla natura dei fatti "dimenticati".

Metodologia

Lo studio utilizza modelli Qwen3-4B (con varianti LoRA adapter e full fine-tuning) e un framework di valutazione controllato che coinvolge 247 fatti inventati su entità inesistenti (ad es., "Zorvathine è un metallo che fonde quando viene raffreddato sotto i −10°C"). Questi fatti contraddicono i priori del modello per garantire che le risposte si basino sulla nuova conoscenza.

Design della Valutazione

• Cinque Tipi di Domande: Per distinguere tra recitazione e uso genuino, i fatti sono testati tramite:
  1. Richiamo (Recall): Espressione diretta del fatto.
  2. Parafrasi: Riformulazione del fatto.
  3. Applicazione: Uso a un singolo step del fatto.
  4. Composizione: Combinazione del fatto con la conoscenza del mondo non esplicitata.
  5. Controfattuale: Scelta del fatto scritto rispetto al default del modello.
• Ancore (Anchors): Le prestazioni sono misurate rispetto a un pavimento (modello originale senza il fatto) e un soffitto (modello originale con il fatto nel prompt).
• Politica di Valutazione Duplice: Le risposte sono valutate sotto una politica rigorosa (che richiede la conclusione specifica) e una politica leniente (che accredita i fatti che implicano la conclusione). La differenza, definita gap di implicazione (entailment gap), misura il divario tra "recitazione e uso".
• Protocollo Continuo: I modelli subiscono scritture sequenziali (da 20 a 100 fatti) in cui gli adapter vengono uniti dopo ogni fatto. La ritenzione è misurata rivalutando i fatti precedenti dopo le scritture successive.

Condizioni Sperimentali

Lo studio varia:

• Ampiezza dei Dati di Addestramento: "Bare-statement" (fatto in formulazioni triviali) rispetto a "Study" (24 parafrasi diverse, Q&A, implicazioni e contrasti).
• Obiettivi: Supervised Fine-Tuning (SFT), Offline Context Distillation, e Online Context Distillation (Forward/Reverse KL).
• Metodi di Aggiornamento: LoRA rispetto a Full Fine-Tuning.
• Insegnanti (Teachers): Modello originale congelato rispetto a modello accumulato (mobile) per la distillazione.

Contributi Chiave e Risultati

1. L'ampiezza dei dati di addestramento determina l'utilizzabilità della conoscenza

L'ampiezza dei dati di addestramento è il fattore causale primario nella creazione di conoscenza utilizzabile.

• Recitazione vs Uso: L'addestramento "bare-statement" produce un alto richiamo (97% di recall) ma fallisce nell'applicazione e nei controfattuali (21–23% di accuratezza). Lascia un ampio gap di implicazione (27,4 punti), indicando che il modello memorizza l'enunciato ma non può derivare conclusioni.
• Effetto dei Dati Ampi: L'addestramento "Study" (diverse riformulazioni) riduce il gap di implicazione a 5,4 punti senza mostrare esplicitamente le conclusioni. Migliora significativamente l'applicazione (+21 punti), la composizione (+18 punti) e l'uso controfattuale (+29 punti) rispetto all'addestramento bare-statement.
• Indipendenza dalla Scala: Questo effetto è costante attraverso le scale dei modelli (4B e 8B) e i metodi di aggiornamento (LoRA e Full FT).

2. Il tipo di conoscenza predice la sopravvivenza nella scrittura continua

La natura della conoscenza scritta determina il suo tasso di sopravvivenza sotto aggiornamenti sequenziali.

• Disparità di Ritenzione: Dopo 20 scritture sequenziali, i fatti scritti tramite addestramento bare-statement mantengono solo l'1% di accuratezza, mentre i fatti addestrati con lo "Study" mantengono il 46%.
• Correlazione: Esiste una forte correlazione negativa ($\rho = -0,526$) tra il gap di implicazione iniziale e la ritenzione; i metodi che creano conoscenza utilizzabile (basso gap) sopravvivono meglio.
• Plateau a Lungo Termine: Anche con l'addestramento "Study", la ritenzione si stabilizza a un plateau del 25–28% dopo 100 scritture, indicando che sebbene i dati ampi aiutino, non risolvono interamente il problema della raggiungibilità.

3. L'oblio distrugge l'accesso, non lo stoccaggio

Il documento dimostra che l' "oblio" è un fallimento del recupero (accesso) piuttosto che dell'eradicazione della traccia memorizzata.

• Persistenza dello Stoccaggio: I checkpoint ricostruiti mostrano che i fatti "dimenticati" (quelli che falliscono tutte le domande) mantengono il 57–67% dell'incremento della log-probabilità prodotto dalla loro scrittura originale.
• Cattura dell'Indirizzo (Address Capture): Nelle condizioni bare-statement, il 70% delle risposte errate ai fatti dimenticati contiene il contenuto del fatto scritto più recentemente. Ciò suggerisce che le scritture successive reindirizzano l' "indirizzo" (il routing della query) verso nuovi contenuti, sovrascrivendo il percorso verso il vecchio fatto.
• Recupero del Contesto: Quando l'enunciato di un fatto dimenticato viene fornito nel prompt, l'accuratezza recupera al 77–78% (condizione study), provando che il contenuto è ancora presente ma irraggiungibile tramite il meccanismo di query interno del modello.
• Fallimento dell'Uso Congiunto: Due fatti scritti individualmente utilizzabili non possono essere usati in modo affidabile insieme (32% di accuratezza) perché il modello manca di un meccanismo di auto-recupero per accedervi simultaneamente, a differenza di quando entrambi sono nel prompt (91% di accuratezza).

4. Capacità Generali e Deriva Distributiva

La perdita di capacità generale è fortemente correlata alla deriva distributiva dal modello originale.

• Correlazione KL: Il danno alle capacità correla fortemente con la divergenza KL dal modello originale ($\rho = 0,83$ a $0,946$).
• Insegnante Congelato: Distillare contro un modello originale congelato preserva le capacità generali (costo quasi nullo) e mantiene meglio i fatti rispetto alla distillazione contro un modello mobile e accumulato.
• Penalità di Deriva: L'aggiunta di una penalità KL al base corrente migliora la ritenzione e la capacità, ma non riduce la divergenza KL misurata dal modello originale, suggerendo che la penalità previene il collasso degenerativo piuttosto che invertire la deriva.

5. L'interferenza è causata dalle Scritture in Entrata

I test causali isolano la fonte dell'interferenza.

• In entrata vs Stoccato: Il metodo della scrittura in entrata determina la ritenzione. Le scritture in entrata basate su "Study" migliorano la ritenzione di 37,6 punti rispetto alle scritture bare-statement, indipendentemente da come era stato memorizzato il fatto precedente.
• Fallimento del Controllo Locale: I predittori linearizzati possono prevedere l'effetto immediato di un aggiornamento ($\rho = 0,795$) ma falliscono nel prevedere l'oblio a lungo termine ($\rho = -0,258$). Gli interventi locali (proiezione del gradiente, activation patching) non sono riusciti a migliorare significativamente la ritenzione.

Significato e Rivendicazioni

Il documento conclude che l'apprendimento continuo nei pesi è attualmente insufficiente per i fatti che devono essere composti o che devono sopravvivere a numerose scritture successive.

• La Natura dei Pesi "Chiavata su Domanda" (Question-Keyed): La conoscenza scritta è "chiavata su domanda", il che significa che è raggiungibile solo tramite le domande specifiche utilizzate durante l'addestramento. Il modello manca di un "indirizzo" o handle generale per recuperare i fatti su richiesta. Le scritture successive reindirizzano queste chiavi di domanda verso nuovi contenuti.
• Il Contesto come Canale Affidabile: Sebbene i dati ampi possano creare conoscenza utilizzabile e gli insegnanti congelati possano preservare le capacità generali, nessun intervento testato garantisce che i fatti precedenti rimangano raggiungibili. Pertanto, il contesto rimane il canale affidabile per i fatti che richiedono composizione o ritenzione a lungo termine.
• Guida Pratica: Per massimizzare l'utilità degli aggiornamenti basati sui pesi, i professionisti dovrebbero utilizzare dati di addestramento ampi (diverse riformulazioni) e distillare contro un modello originale congelato. Tuttavia, per una conoscenza robusta e composibile, i fatti dovrebbero essere mantenuti nel contesto o in sistemi di recupero esterni, piuttosto che fare affidamento esclusivamente sugli aggiornamenti dei pesi.

Il lavoro inquadra l'oblio catastrofico non come cancellazione dei dati, ma come una perdita di percorsi di accesso, dove l' "indirizzo" di un fatto viene catturato da aggiornamenti successivi. Evidenzia un limite fondamentale nell'attuale apprendimento continuo basato sui pesi: la capacità di memorizzare contenuti non equivale alla capacità di creare un indirizzo persistente e recuperabile per tale contenuto.