Riepilogo Tecnico: Allucinazione come Anomalia tramite Circuiti Probabilistici

Enunciato del Problema

I Large Language Models (LLM) soffrono di allucinazioni, generando output fluenti ma fattualmente errati. Sebbene i metodi esistenti di rilevamento (monitoraggio dell'incertezza) e di correzione (ingegneria delle rappresentazioni) mostrino promesse individualmente, la loro combinazione rivela una limitazione fondamentale denominata Asimmetria Rilevamento-Correzione. Le attuali tecniche di correzione applicano spesso vettori di guida indiscriminatamente a ogni token. Questa modifica continua degli stati latenti spinge le attivazioni fuori dal manifold pre-addestrato del modello, degradando la fluidità e corrompendo generazioni originariamente corrette. L'articolo sostiene che una correzione non regolata può corrompere tra il 26% e il 90% delle generazioni fattuali, rendendo necessario un framework che disaccoppi il rilevamento dalla correzione per preservare l'integrità delle output fattuali.

Metodologia

Gli autori propongono un framework a due stadi: PCNET per il rilevamento di anomalie trattabile e PC-LDCD per una correzione regolata e preservante il manifold.

1. PCNET: Rilevamento di Anomalie Latenti Trattabile

PCNET è un Circuito Probabilistico (PC) addestrato come stimatore di densità su una proiezione a bassa dimensionalità del flusso residuo dell'LLM.

• Architettura: Lo stato nascosto finale dell'LLM ($h \in \mathbb{R}^{D_{LLM}}$) viene proiettato tramite un collo di bottiglia a Multi-Layer Perceptron (MLP) in uno spazio latente compatto ($z \in \mathbb{R}^{D_{PC}}$). PCNET modella la distribuzione di probabilità congiunta $P(z)$ su questo spazio.
• Struttura: Il circuito è un Grafo Aciclico Diretto (DAG) composto da nodi di Input, Somma e Prodotto. A differenza dei PC standard, i nodi di Input utilizzano una mistura eterogenea di distribuzioni Gaussiana, Laplace e Student-T per catturare la geometria complessa e a code pesanti delle rappresentazioni degli LLM.
• Addestramento: PCNET e il collo di bottiglia di proiezione sono ottimizzati congiuntamente utilizzando un obiettivo composito: un termine generativo (Log-Verosimiglianza Negativa sugli stati fattuali) e un termine marginale contrastivo (spingendo gli stati allucinati in regioni a bassa densità). L'LLM di base rimane congelato.
• Inferenza: PCNET calcola la Log-Verosimiglianza Negativa (NLL) esatta di uno stato latente in un singolo passaggio in avanti, senza campionamento o verificatori esterni. Un NLL elevato indica un'anomalia geometrica, segnalando una deviazione dal "manifold fattuale".

2. PC-LDCD: Correzione Preservante il Manifold

PC-LDCD (Probabilistic Circuit Latent Density Contrastive Decoding) utilizza PCNET come un cancello dinamico per intervenire solo quando necessario.

• Gating Dinamico: Ad ogni passo di decodifica, viene calcolato l'NLL dello stato corrente. Se l'NLL supera una soglia calibrata $\tau$, viene attivata un'intervento. Se lo stato è considerato fattuale (basso NLL), la decodifica standard procede invariata, preservando il comportamento del modello di base.
• Lookahead Discreto: Quando viene rilevata un'anomalia, il sistema sospende la decodifica standard. Esegue una ricerca di lookahead con $k$ candidati nello spazio discreto dei token. Il token ottimale viene selezionato massimizzando una log-probabilità penalizzata:
  $$\text{Score}_{LDCD}(c_i) = \log P_{LM}(c_i | x_{<t}) - \beta_t \cdot \text{SNLL}(f_\phi(h(c_i)_{t+1}))$$
  Qui, $\beta_t$ è un parametro di forza dinamico basato sul punteggio di anomalia, e $\text{SNLL}$ è l'NLL dello stato futuro ipotetico. Questo approccio contrappone la fiducia generativa alla log-densità esatta del manifold appreso, intervenendo solo per impedire alla traiettoria di approfondirsi in regioni allucinate.

Contributi Chiave

1. Indagine Empirica sull'Asimmetria Rilevamento-Correzione: L'articolo dimostra sistematicamente che l'ingegneria delle rappresentazioni non regolata corrompe le generazioni fattuali, stabilendo la necessità matematica di interventi regolati.
2. Rilevamento di Anomalie Latenti Trattabile (PCNET): Gli autori introducono PCNET, dimostrando che la stima di densità esatta su un manifold latente addestrato in modo contrastivo identifica le allucinazioni con un AUROC allo stato dell'arte su modelli e benchmark diversificati, senza campionamento o modifiche dei pesi.
3. Correzione Preservante il Manifold (PC-LDCD): La strategia di decodifica regolata dalla densità proposta ottiene il tasso di corruzione più basso e il tasso di preservazione più alto tra i metodi valutati, correggendo con successo le allucinazioni lasciando intatte le generazioni corrette.

Risultati Sperimentali

Il framework è stato valutato su quattro LLM (da 1B a 8B parametri) e quattro benchmark (CoQA, SQuAD v2.0, TriviaQA e TruthfulQA).

• Prestazioni di Rilevamento: PCNET ha raggiunto un rilevamento di allucinazioni quasi perfetto su CoQA, SQuAD v2.0 e TriviaQA, con punteggi AUROC fino al 99%. Ha superato significativamente le linee di base come Token-NLL, Semantic Entropy Probes (SEP) e HaloScope, in particolare su benchmark intensivi di conoscenza e avversari.
• Efficacia della Correzione:
  • Preservazione: PC-LDCD ha ridotto il tasso medio di corruzione delle generazioni fattuali al 53.7% e ha raggiunto un tasso di preservazione del 79.3%, superando significativamente le linee di base non regolate.
  • Veridicità: Su TruthfulQA, PC-LDCD ha ottenuto i punteggi True+Info, MC2 e MC3 più alti in tre modelli su quattro. Ha notevolmente migliorato MC2 e MC3 (metriche che misurano l'incertezza calibrata su multiple completamenti veritieri), suggerendo che produce distribuzioni di output più robustamente veritiere piuttosto che spostare semplicemente la fiducia su una singola risposta.
  • QA Standard: Su benchmark standard di QA, PC-LDCD è rimasto competitivo, pareggiando o seguendo da vicino le migliori linee di base (ad esempio, ottenendo SQuAD EM 0.87 su Mistral-7B).
• Efficienza: Il metodo non richiede recupero esterno o aggiornamenti dei pesi. Studi di ablazione hanno mostrato che prestazioni di rilevamento quasi ottimali sono ottenibili con soli 100 campioni di addestramento e una dimensione di proiezione di 128.

Significato e Affermazioni

L'articolo afferma che inquadrando le allucinazioni come anomalie geometriche su un manifold fattuale e utilizzando Circuiti Probabilistici per la stima di densità esatta, è possibile risolvere la tensione tra rilevamento e correzione. Il significato primario risiede nel meccanismo di gating: instradando le correzioni esclusivamente nello spazio discreto dei token solo quando la geometria latente devia, il metodo evita il "collasso semantico" causato da una modifica continua indiscriminata.

Gli autori posizionano il loro lavoro come un passo verso il dispiegamento affidabile degli LLM in domini ad alto rischio, offrendo un segnale di incertezza principiato a passaggio singolo che non si basa sull'eccessiva fiducia delle probabilità dei token o sul sovraccarico computazionale del campionamento multipass. Riconoscono le limitazioni, inclusa la necessità di un piccolo set di calibrazione di stati etichettati e l'attuale portata di valutazione limitata a modelli fino a 8B parametri, lasciando aperta la questione della separazione geometrica in modelli più grandi.