Sintesi Tecnica: HALT (Hallucination Assessment via Log-probs as Time series)

1. Definizione del Problema

I Large Language Models (LLM) producono frequentemente allucinazioni — output che contengono informazioni verificabilmente false o non supportate. Ciò rappresenta una barriera significativa al dispiegamento degli LLM in domini critici per la sicurezza. I metodi di rilevamento esistenti affrontano limiti distinti:

• Approcci white-box richiedono l'accesso agli stati interni del modello (attivazioni nascoste, mappe di attenzione), il che è impossibile per le API proprietarie e a codice chiuso.
• Approcci black-box basati sul testo spesso si affidano a recupero esterno, chiamate API aggiuntive o LLM ausiliari per giudicare la coerenza. Questi introducono latenza, costi e il rischio che il modello "giudice" stesso allucini o introduca bias di dominio.
• Approcci basati sull'incertezza spesso si affidano a statistiche aggregate (ad es., media della confidenza, entropia complessiva) che possono non catturare la dinamica temporale degli errori di calibrazione del modello.

Gli autori sostengono che, sebbene le probabilità grezze dei token da sole non siano indicatori affidabili di veridicità a causa dei bias di calibrazione, l'evoluzione temporale di queste probabilità contiene segnali stabili di incertezza. La domanda centrale della ricerca è: È possibile rilevare le allucinazioni modellando solo la sequenza delle log-probabilità dei token senza analizzare il testo generato o consultare riferimenti esterni?

2. Metodologia

2.1. Paradigma Centrale: Log-probs come Serie Temporali

HALT tratta la sequenza delle log-probabilità dei primi-$k$ token come un problema di classificazione di serie temporali. Invece di collassare le probabilità in statistiche riassuntive, il metodo preserva la sequenza ordinata della fiducia del modello ad ogni step di decodifica.

Rappresentazione dell'Input:
Per una risposta di lunghezza $T$, il modello estrae le prime 20 log-probabilità ($\ell_t \in \mathbb{R}^{20}$) ad ogni istante temporale $t$. Queste vengono concatenate con cinque feature ingegnerizzate per formare un vettore di feature arricchito $\tilde{\ell}_t$:

1. Average Log-Probability: Un surrogato della nitidezza della distribuzione.
2. Rank Proxy: Un rango limitato del token selezionato all'interno dei primi 20, che cattura scelte non greedy o atipiche.
3. Overall Entropy ($H_{overall}$): Incertezza sul token selezionato e sulle alternative.
4. Alternatives-only Entropy ($H_{alts}$): Disaccordo tra i candidati concorrenti.
5. Temporal Change in Decision Entropy ($\Delta H_{dec}$): Cattura transizioni brusche nella certezza tra il token selezionato e la migliore alternativa.

L'input finale è una serie temporale $\tilde{\ell}_{1:T} \in \mathbb{R}^{T \times 25}$.

2.2. Architettura

Il modello impiega una Gated Recurrent Unit (GRU) bidirezionale leggera con 5 milioni di parametri.

• Encoder: Una GRU bidirezionale multi-strato elabora la sequenza per catturare pattern temporali sia in direzione forward che backward.
• Pooling: Un meccanismo di Top-$q$ pooling (dove $q=0.15$) aggrega gli stati nascosti. Esso media i timestep più salienti (quelli con le norme degli stati nascosti più grandi), concentrandosi sui momenti di bruschi cambiamenti di fiducia piuttosto che diluire i segnali attraverso tutti i token.
• Output: Uno strato lineare produce un singolo logit per la classificazione binaria (allucinata vs fedele), addestrato con perdita di cross-entropy binaria.

2.3. Ipotesi Chiave

Gli autori propongono quattro ipotesi validate nello studio:

1. Bias Specifico del Modello: Ogni LLM possiede una funzione di bias di calibrazione deterministica che governa le sue probabilità top-$k$.
2. Apprendibilità: Una GRU può apprendere di approssimare questa dinamica indotta dal bias, associando specifici pattern temporali alle allucinazioni.
3. Non-Trasferibilità: I detector addestrati sulle log-probs di un modello non si trasferiscono in modo affidabile a un'architettura di modello differente a causa dei diversi bias di calibrazione.
4. Generalizzazione del Task: All'interno di un singolo modello, un detector addestrato su una famiglia di task si generalizza ad altre perché il bias di calibrazione sottostante è coerente tra i task.

3. Benchmark: HUB (Hallucination detection Unified Benchmark)

Per valutare il metodo, gli autori introducono HUB, un benchmark completo che abbraccia 10 capacità degli LLM:

• Orientati al ragionamento: Algoritmico, Common Sense, Matematico, Ragionamento Simbolico e Generazione di Codice.
• Generali: Chat, Data-to-Text, Question Answering, Summarization e World Knowledge.

HUB estende i dataset precedenti (FAVA, RAGTruth, HaluEval) e integra CriticBench per includere le allucinazioni logiche (passaggi di ragionamento difettosi che portano a risposte errate o correttamente ottenute per fortuna) insieme alle allucinazioni fattuali. Il dataset è diviso in set di training, validazione e test, con l'addestramento limitato a Chat, Data-to-Text e QA per testare rigorosamente la generalizzazione out-of-distribution sui task di ragionamento.

4. Risultati

4.1. Performance su HUB

HALT supera significativamente i baseline esistenti:

• Efficienza: HALT è 30 volte più piccolo del detector Lettuce (un encoder ModernBERT-base fine-tuned) e ottiene un incremento di velocità di 60 volte.
• Accuratezza: HALT raggiunge i migliori punteggi di Macro-F1 su 7 cluster su 10.
  • HALT-L (addestrato su LLaMA 3.1-8B) ottiene un Macro-F1 complessivo di 67.01, superando Lettuce (64.00) e i baseline di statistiche aggregate (ad es., $H_{overall}$ a 32.86).
  • Eccelle particolarmente nei compiti di ragionamento (Algoritmico, Common Sense, Simbolico) dove i segnali di calibrazione a livello di sequenza sono più predittivi rispetto agli euristici a livello di testo.

4.2. Trasferibilità e Generalizzazione

• Cross-Task: HALT dimostra una forte generalizzazione tra diverse famiglie di task all'interno dello stesso modello, supportando l'ipotesi che il bias di calibrazione sia indipendente dal task.
• Cross-Model: Come previsto, le performance calano significativamente quando un modello addestrato sulle log-probs di LLaMA viene applicato alle log-probs di Qwen (e viceversa), confermando che le dinamiche di calibrazione sono specifiche del modello e non direttamente trasferibili tra architetture.
• Robustezza: HALT rimane competitivo su benchmark esterni (FAVA, RAGTruth) nonostante non sia stato ottimizzato specificamente per essi.

5. Significato e Contributi

Il paper rivendica i seguenti contributi e significatività:

• Nuovo Paradigma Black-Box: HALT introduce un metodo di rilevamento che si basa esclusivamente sulle log-probabilità dei token, evitando la necessità di analisi del testo superficiale, validatori esterni o accesso ai modelli interni. Questo lo rende unicamente applicabile alle API proprietarie.
• Dinamiche Temporali rispetto alle Metriche Statiche: Il lavoro dimostra che trattare le log-probabilità come una serie temporale permette di catturare pattern di incertezza (ad es., picchi improvvisi di entropia, inversioni di rango) che le statistiche aggregate perdono.
• Framework Unificato: Integrando i fallimenti del ragionamento logico nella definizione di allucinazione, HUB fornisce una visione più ampia della non-fedeltà semantica, andando oltre la semplice verifica fattuale.
• Efficienza Pratica: Il metodo offre un'alternativa altamente efficiente ai grandi encoder, consentendo il rilevamento delle allucinazioni in tempo reale con un overhead trascurabile, poiché richiede solo lo stream di log-probabilità spesso già disponibile durante la generazione.

Gli autori concludono che, sebbene HALT non sia legato a un singolo modello, esso apprende dinamiche di incertezza trasferibili che si generalizzano tra i task all'interno di un modello, stabilendo una nuova modalità per analizzare l'incertezza del modello senza richiedere l'accesso ai pesi o a dati esterni.