Riepilogo Tecnico: TRACE (Correzione della Traiettoria da Evidenze Cross-layer per la Riduzione delle Allucinazioni)

1. Enunciato del Problema

Nonostante i progressi nella scala e nell'allineamento post-allenamento, i Modelli Linguistici di Grande Dimensione (LLM) continuano a produrre errori fattuali sicuri, o allucinazioni. Le strategie di correzione esistenti rientrano generalmente in tre categorie:

1. Evidenza Esterna: Generazione aumentata dal recupero (RAG) e sistemi di verifica che si basano su dati esterni.
2. Steering delle Attivazioni: Metodi come l'Intervento al Tempo di Inferenza (ITI) che guidano le attivazioni lungo direzioni fisse di "veridicità".
3. Contrasto tra Livelli: Strategie di decodifica (es. DoLa, SLED) che confrontano o aggregano segnali da livelli intermedi rispetto al livello finale.

Il documento sostiene che questi approcci sono strutturalmente incompleti perché assumono una relazione uniforme tra profondità del livello e veridicità. L'osservazione empirica suggerisce che i livelli intermedi non sono né uniformemente più veritieri né uniformemente meno affidabili rispetto ai livelli finali. Al contrario, l'evoluzione del supporto dei candidati attraverso la profondità della rete varia significativamente:

• Correggibile in Fase Tardiva: Il supporto veritiero è presente internamente ma soppresso dai livelli finali.
• Affidabile in Fase Precoce: Il supporto veritiero è più forte nei livelli iniziali ma eroso dai livelli successivi.
• Multi-direzionale: Multipli candidati in competizione rimangono attivi attraverso la profondità, richiedendo correzioni non scalari.

Le attuali interventi a forma fissa falliscono perché non possono adattarsi a queste varie "traiettorie dei candidati". Un metodo che assume una singola correzione scalare con segno è insufficiente per i casi in cui la competizione è genuinamente multi-direzionale.

2. Metodologia: TRACE

TRACE è un algoritmo deterministico, privo di addestramento, eseguito al tempo di inferenza, che corregge le allucinazioni derivando l'operatore di correzione appropriato direttamente dalla traiettoria interna cross-layer dei candidati del modello. Non richiede etichette, recupero, pre-allenamento, fine-tuning o calibrazione per modello.

Componenti Principali

Il metodo si basa su due quantità strutturali:

1. Lato Oggetto: Traiettoria Cross-layer dei Candidati $S(x)$:

   • Costruita leggendo il flusso residuo a ogni livello attraverso la testa di output del modello (costruzione logit-lens).
   • Rappresenta l'evoluzione delle log-probabilità normalizzate per lunghezza per un insieme di completamenti candidati attraverso la profondità.
   • Da ciò, viene calcolata la Dimensione Effettiva della Traiettoria ($d_{eff}$). Questa metrica (il rapporto di partecipazione degli autovalori della matrice Gram della traiettoria) determina se la competizione dei candidati è effettivamente unidimensionale (rank-1) o multidimensionale.

2. Lato Modello: Invariante Solo Pesi $I(M)$:

   • Un rapporto adimensionale calcolato una volta dai tensori di peso del modello (specificamente le statistiche della norma delle righe delle proiezioni chiave/valore iniziali/intermedie rispetto alle proiezioni di output tardive e alla norma finale).
   • $I(M)$ caratterizza se l'architettura del modello tende ad amplificare l'evidenza dei livelli tardivi o a discostarsi da stati affidabili iniziali.

Regimi di Correzione e Operatori

In base a $d_{eff}$ e $I(M)$, TRACE seleziona dinamicamente uno dei tre operatori di correzione:

1. Regime Multi-direzionale ($d_{eff} > \tau_{dim}$):

   • Condizione: La competizione dei candidati si estende su più direzioni indipendenti (rank > 1). Le miscele scalari sono matematicamente insufficienti per correggere questi casi.
   • Operatore: Correzione nello Spazio dei Candidati. TRACE identifica il livello $\ell^*$ con la classificazione dei candidati più netta (massimizzando il margine tra i primi due rispetto all'entropia) e utilizza la distribuzione completa delle log-probabilità di quel livello come correzione.
   • Gating: Questa sovrascrittura viene applicata solo se il livello selezionato è significativamente più netto del livello finale e il livello finale è sufficientemente incerto.

2. Regime Scalare ($d_{eff} \le \tau_{dim}$):

   • Condizione: La competizione collassa su un singolo asse con segno. La correzione si riduce a una miscela scalare del punteggio del livello finale $b(x)$ e di un punteggio derivato dalla traiettoria $t(x)$.
   • Sotto-ramificazione tramite $I(M)$:
     • Miscelazione con Segno ($I(M) > \tau_I$): Se i livelli tardivi del modello sono affidabili, TRACE calcola una seconda vista $t(x)$ rileggendo la traiettoria per la coerenza cross-profondità (pendenza, salto, curvatura del supporto del token). Quindi mescola $b(x)$ e $t(x)$ con uno scalare con segno $\lambda$ determinato dal fatto che la traiettoria rafforzi o contraddica la base.
     • Recupero dello Stato Più Precoce ($I(M) \le \tau_I$): Se i livelli tardivi del modello non sono affidabili (propensi a discostarsi), TRACE ignora il riepilogo della traiettoria e ricade sul punteggio del livello più precoce $s_0(x)$, ma solo se la confidenza del livello finale è bassa (sotto un pavimento naturale).

Flusso dell'Algoritmo

1. Calcolare $S(x)$ e $b(x)$ da un singolo passaggio in avanti condizionato al candidato.
2. Calcolare $d_{eff}(x)$.
3. Se Multi-direzionale: Selezionare il livello decisivo $\ell^*$, estrarre la sua distribuzione e applicare i gate. Se i gate passano, restituire l'argmax del livello decisivo; altrimenti, restituire l'argmax di base.
4. Se Scalare: Calcolare $I(M)$.
   • Se $I(M)$ è alto: Calcolare $t(x)$, determinare il segno di miscelazione e restituire l'argmax miscelato.
   • Se $I(M)$ è basso: Controllare la confidenza del livello finale; se bassa, restituire l'argmax del livello più precoce; altrimenti, restituire la base.

3. Contributi Chiave

1. Formulazione a Livello di Traiettoria: Identifica la traiettoria cross-layer dei candidati come l'oggetto primario per la correzione al tempo di inferenza, sostituendo i livelli di sonda fissi e le direzioni di steering fisse.
2. Teoria Strutturale della Correzione: Dimostra che i regimi di correzione sono distinti: le traiettorie di rank-1 ammettono correzione scalare, mentre le traiettorie multi-direzionali necessitano di una classe di operatori nello spazio dei candidati.
3. Algoritmo Universale (TRACE): Istanzia questa teoria in un algoritmo deterministico, privo di addestramento, che induce il proprio operatore di correzione dalla struttura della traiettoria e dai pesi del modello.
4. Valutazione Completa: Dimostra che un'unica impostazione di iperparametri congelata migliora la fattualità su 15 modelli, 8 famiglie e 3 benchmark senza regressioni.

4. Risultati Sperimentali

Il metodo è stato valutato su TruthfulQA, HaluEval-QA e HaluEval-Sum su 15 modelli pre-allenati (inclusi LLaMA, Gemma, Qwen, GPT-OSS, Mixtral, Phi, Ministral e DeepSeek).

• Prestazioni: TRACE ha migliorato ogni singola cella di valutazione (45 combinazioni totali di modello e benchmark).
  • Guadagno Medio: +12,26 punti MC1 e +8,65 punti in stile MC2.
  • Guadagno Massimo: +47,20 MC1 e +43,38 punti in stile MC2 (osservato su Gemma-3-1B).
  • Regressioni: 0/45.
• Robustezza: Il metodo ha utilizzato un unico set di iperparametri congelati $\Theta$ per tutti i modelli, senza sintonizzazione per modello.
• Sovraccarico: Il costo in tempo reale aumenta di un fattore da 1,33x a 3,42x (media 2,27x) rispetto a un passaggio condizionato al candidato di base, principalmente a causa della lettura aggiuntiva a livello di strato.

5. Significato e Affermazioni

Il documento afferma che il calcolo in avanti degli LLM pre-allenati contiene sufficienti evidenze strutturate per sostenere un singolo algoritmo universale di riduzione delle allucinazioni, a condizione che l'intervento sia indotto dalla traiettoria stessa e non imposto da euristiche fisse.

• Necessità Strutturale: Il lavoro dimostra che una strategia di correzione solo scalare è matematicamente incompleta per spazi di candidati multi-direzionali, rendendo necessaria la branca dello spazio dei candidati di TRACE.
• Adattamento al Modello: L'uso dell'invariante solo pesi $I(M)$ permette all'algoritmo di adattarsi alle differenze architetturali (es. se un modello si discosta o amplifica i livelli tardivi) senza re-allenamento.
• Limitazioni: Gli autori riconoscono che TRACE è attualmente limitato all'inglese, alla fattualità vincolata ai candidati (protocolli MC1/MC2). Agisce su passaggi in avanti completati piuttosto che su generazioni iterative a lungo testo e non affronta le cause delle allucinazioni al tempo di addestramento. Introduce inoltre latenza di inferenza a causa della lettura aggiuntiva.

Il documento conclude che il fallimento dei precedenti metodi a forma fissa non è un problema di sintonizzazione, ma una discrepanza tra la classe di correzione e la struttura della traiettoria. TRACE risolve questo inferendo il regime di correzione corretto dai dati stessi.