Latent Knowledge as a Predictor of Fact Acquisition in Fine-Tuned Large Language Models

Sintesi Tecnica: La Conoscenza Latente come Predittore dell'Acquisizione di Fatti nei Large Language Models sottoposti a Fine-Tuning

Problema
I modelli linguistici di grandi dimensioni (LLM) codificano i fatti biomedici con una forza non uniforme durante il pretraining, spesso rispecchiando la distribuzione a "coda lunga" dei loro corpora di addestramento. Mentre alcuni fatti sono codificati ma inaccessibili sotto una decodifica deterministica (definiti "conoscenza latente"), altri sono minimamente rappresentati. La ricerca attuale spesso tratta l'acquisizione di fatti durante il fine-tuning come un esito binario (appreso o non appreso), fallendo nel quantificare la velocità di acquisizione, le dinamiche di generalizzazione ai fatti non visti o i meccanismi di degradazione della conoscenza. Inoltre, rimane poco chiaro come le rappresentazioni derivanti dal pretraining, specificamente la conoscenza latente, influenzino l'efficienza del fine-tuning nell'iniettare fatti strutturati di ontologia (coppie termine–identificatore) negli LLM.

Metodologia
Gli autori hanno impiegato un framework di analisi della sopravvivenza per modellare l'acquisizione di fatti come un processo di "tempo-all'evento", trattando l'epoca di fine-tuning come tempo e la prima occorrenza di un output di identificatore corretto come l'evento.

• Modello e Dati: Lo studio ha utilizzato il modello Llama-3.1-8B-Instruct. Due ontologie biomediche hanno servito come banchi di prova strutturati: l'Human Phenotype Ontology (HPO) e la Gene Ontology (GO).
  • HPO: Sono state utilizzate 800 coppie termine–identificatore come dati di addestramento (termini visti).
  • GO: 800 coppie sono state suddivise in 400 di addestramento (viste) e 400 trattenute (non viste) per valutare la generalizzazione.
• Rilevamento della Conoscenza Latente: La conoscenza latente è stata identificata tramite decodifica stocastica (campionamento a temperatura 1.0). Un termine possedeva conoscenza latente se almeno uno dei 50 campioni stocastici produceva l'identificatore corretto prima del fine-tuning.
• Protocollo di Fine-Tuning: Il modello è stato sottoposto a fine-tuning per 20 epoche utilizzando Low-Rank Adaptation (LoRA). Per HPO, tutte le 800 coppie sono state addestrate. Per GO, sono state addestrate solo le 400 coppie viste, mentre le 400 coppie non viste sono state valutate per la generalizzazione.
• Framework Analitico:
  • Acquisizione/Generalizzazione: Modellata utilizzando stimatori di Kaplan–Meier per generare curve di accumulo ($F(t)$) e curve di velocità ($V(t)$).
  • Predittori: Modelli a rischi proporzionali di Cox sono stati utilizzati per quantificare l'impatto delle covariate sulle velocità di acquisizione. Le covariate includevano lo stato di conoscenza latente, la frequenza dell'identificatore in PubMed Central (PMC), la frequenza del termine in PMC e il numero di annotazioni curate.
  • Degradazione: Analizzata tracciando i termini che erano corretti al baseline (epoca 0) ma sono diventati errati durante l'addestramento.

Contributi Chiave

1. Framework Basato sul Tasso: Il documento introduce un approccio di analisi della sopravvivenza per caratterizzare l'apprendimento dei fatti, andando oltre le metriche di accuratezza binaria per quantificare la velocità di acquisizione, il tempo di convergenza e il rischio di degradazione.
2. La Conoscenza Latente come Predittore Primario: Lo studio stabilisce che la conoscenza latente (informazione presente nei pesi ma inaccessibile deterministicamente) è il più forte predittore della velocità di acquisizione dei fatti e del successo della generalizzazione.
3. Dinamiche Asimmetriche del Fine-Tuning: Il lavoro delinea tre risultati distinti del fine-tuning:
   • Memorizzazione: Acquisizione rapida di fatti visti, fortemente dipendente dalla conoscenza latente.
   • Generalizzazione: Rara (5,8% in questo studio) ma prevedibile generalizzazione a fatti non visti, che avviene quasi esclusivamente quando esiste conoscenza latente.
   • Degradazione: La perdita di fatti precedentemente corretti, che è significativamente mitigata solo dall'esposizione continua durante l'addestramento, non dalla conoscenza latente.

Risultati

• Velocità di Acquisizione: Al baseline, il modello ricordava correttamente il 2,8% delle coppie HPO. Dopo 20 epoche, il 71,9% era stato acquisito. I termini con conoscenza latente sono stati acquisiti significativamente più velocemente (tempo medio 2,9 epoche) rispetto a quelli senza (11,4 epoche). La conoscenza latente ha aumentato l'hazard ratio (HR) di acquisizione di 2,6 ($p < 0,001$).
• Effetto Dose-Risposta: È stata osservata una relazione graduata; i termini con conoscenza latente "alta" (accuratezza stocastica $\ge$ 10%) hanno raggiunto la convergenza prima e con velocità di picco più elevate rispetto a quelli con conoscenza latente "moderata".
• Generalizzazione: La generalizzazione ai termini GO non visti è stata insolita (5,8% di 379 termini). Tuttavia, la conoscenza latente è stata il predittore dominante, aumentando l'hazard di generalizzazione di un fattore di 13,67 ($p < 0,005$). Anche la frequenza dell'identificatore in PMC ha predetto positivamente la generalizzazione (HR = 3,39).
• Degradazione: Dei 43 termini GO corretti al baseline, il 55,8% è degradato durante l'addestramento. La degradazione è stata significativamente più probabile per i termini non visti rispetto a quelli visti (HR = 0,10 per i termini visti, indicando un effetto protettivo dell'addestramento). Significativamente, la conoscenza latente non ha protetto contro la degradazione per i fatti che erano già corretti.

Significatività e Rivendicazioni
Il documento sostiene che la struttura derivante dal pretraining, specificamente la conoscenza latente, modella fondamentalmente l'efficienza del fine-tuning. Si ipotizza che la conoscenza latente restringa lo spazio di ricerca effettivo del modello, permettendo al fine-tuning di regolare le associazioni deboli esistenti piuttosto che scoprire nuove assoczioni da zero. Di conseguenza, il fine-tuning è più efficiente per iniettare fatti di ontologia dove il modello possiede già una "semi-conoscenza".

Gli autori concludono che questo framework offre un metodo rigoroso per:

1. Identificare i "deserti di ontologia" (termini senza conoscenza latente) dove il fine-tuning è probabilmente inefficiente dal punto di vista dei dati.
2. Predire quali fatti non visti sono suscettibili di generalizzazione.
3. Progettare curricula che diano priorità al rinforzo dei fatti clinicamente importanti per prevenire l'oblio catastrofico, poiché la resistenza alla degradazione dipende dall'esposizione all'addestramento piuttosto che dalla salienza del pretraining.

Lo studio sottolinea che queste scoperte sono specifiche per le curve di apprendimento osservate e non pretendono di spiegare i cambiamenti meccanicistici interni (ad esempio, la ridistribuzione dei logit) che guidano questi cambiamenti, suggerendo che il lavoro futuro debba integrare l'analisi meccanicistica con questo framework basato sul tasso.