Riepilogo Tecnico: NoisyCoconut: Consenso Controfattuale tramite Ragionamento nello Spazio Latente

Enunciato del Problema

I Large Language Models (LLM) sono sempre più implementati in ambienti ad alto rischio, tuttavia mancano di meccanismi intrinseci per segnalare l'incertezza, producendo spesso output sicuri ma errati (allucinazioni). Sebbene la predizione selettiva – che consente ai modelli di astenersi dal rispondere quando incerti – sia una strategia consolidata per migliorare l'affidabilità nei compiti di classificazione, è difficile applicarla agli LLM generativi. Le probabilità a livello di token riflettono spesso l'incertezza linguistica piuttosto che la correttezza fattuale, e i metodi esistenti di inferenza (ad esempio, la coerenza automatica tramite campionamento dei token) sono limitati alla diversità presente nella distribuzione superficiale dei token. Inoltre, i metodi di ragionamento nello spazio latente che operano direttamente sugli stati nascosti continui richiedono tipicamente addestramenti specializzati e mancano di meccanismi integrati di stima della confidenza.

Metodologia

Il documento introduce NoisyCoconut, un metodo senza addestramento, eseguito in fase di inferenza, che migliora l'affidabilità degli LLM manipolando le rappresentazioni interne nello spazio latente continuo. Basandosi sul framework Continuous Chain-of-Thought (Coconut) (Hao et al., 2025), che abilita il ragionamento alimentando l'ultimo stato nascosto come embedding di input successivo, NoisyCoconut si discosta concentrandosi sulla valutazione della confidenza piuttosto che sull'addestramento di modelli a ragionare nello spazio latente.

Il meccanismo centrale prevede l'iniezione controllata di rumore nelle traiettorie latenti di un modello pre-addestrato:

1. Iniezione di Rumore: Per una data query di input, il metodo genera molteplici percorsi di ragionamento ($K$) iniettando rumore Gaussiano indipendente ($\eta_t$) negli stati nascosti durante il passaggio in avanti. La scala del rumore $\sigma_t$ decade esponenzialmente nel tempo ed è scalata adattivamente in base alla norma dello stato nascosto per garantire una divergenza significativa mantenendo la coerenza.
2. Esplorazione dei Percorsi: Questa perturbazione induce una ramificazione in traiettorie di ragionamento alternative all'interno dello spazio rappresentazionale continuo, esplorando efficacemente diverse regioni dello spazio delle soluzioni senza generare token intermedi.
3. Aggregazione e Astensione: Gli output dei $K$ percorsi vengono aggregati. Il sistema adotta una strategia di voto di maggioranza per determinare un output di consenso. Crucialmente, il sistema può astenersi (denotato come $\perp$) se l'accordo tra i percorsi scende al di sotto di una soglia specifica (ad esempio, richiedendo un accordo unanime 5/5).
4. Segnale di Confidenza: Il grado di accordo tra i percorsi perturbati dal rumore funge da proxy per la confidenza della previsione. Un alto accordo indica che il modello si trova in un "bacino attrattore" stabile dove la soluzione è robusta alla perturbazione, mentre un basso accordo suggerisce instabilità rappresentazionale e alta incertezza.

Contributi Chiave

Gli autori apportano quattro contributi principali:

1. Framework NoisyCoconut: Un metodo innovativo senza addestramento, eseguito in fase di inferenza, che genera percorsi di ragionamento diversificati tramite iniezione controllata di rumore nello spazio latente continuo, abilitando una stima della confidenza basata sull'accordo direttamente sugli stati nascosti.
2. Validazione dell'Accordo dei Percorsi: Dimostrazione empirica che l'accordo tra i percorsi fornisce un proxy affidabile per la confidenza della previsione, consentendo efficaci compromessi tra copertura e accuratezza.
3. Caratterizzazione della Relazione Rumore-Accuratezza: Analisi che mostra un pattern di degradazione sigmoidale coerente nell'accuratezza del modello all'aumentare delle scale di rumore, confermando che l'iniezione di rumore produce effetti prevedibili e sfruttabili su diverse architetture.
4. Prestazioni sui Benchmark: Evidenza che NoisyCoconut ottiene compromessi significativi tra copertura e accuratezza su tre benchmark di ragionamento (GSM8K, GSM-Symbolic, MMLU) e cinque modelli linguistici distinti (inclusi varianti di Qwen, Llama, Mixtral e DeepSeek) senza richiedere accesso ai dati di addestramento o modifiche ai parametri.

Risultati

Gli esperimenti condotti su cinque modelli linguistici e tre benchmark producono le seguenti scoperte:

• Riduzione degli Errori: L'accordo unanime (5/5) tra percorsi perturbati dal rumore riduce i tassi di errore da una linea di base del 40–70% a meno del 15%.
• Alta Accuratezza tramite Astensione: Astenendosi selettivamente dalle previsioni a bassa confidenza (dove l'accordo tra i percorsi è basso), i modelli raggiungono un'accuratezza superiore al 95% nei compiti di ragionamento matematico (ad esempio, GSM8K). Ad esempio, il modello DeepSeek-R1-Distill-Qwen-7B è passato da una linea di base del 62,0% al 95,2% alla soglia di accordo unanime, sebbene con una copertura ridotta (31,4%).
• Effetto Equalizzante: I modelli di base più deboli mostrano i maggiori miglioramenti assoluti di accuratezza sotto il filtro ad alto accordo, suggerendo che NoisyCoconut può aiutare i modelli più deboli ad avvicinarsi all'affidabilità dei loro corrispettivi più forti nel sottoinsieme di domande in cui mostrano alta confidenza.
• Sensibilità al Rumore: Una valutazione sistematica ha rivelato un decadimento sigmoidale coerente nell'accuratezza all'aumentare delle scale di rumore, con adattamenti $R^2 \ge 0,94$ su tutti i modelli, indicando una transizione di fase nel comportamento del modello da ragionamento robusto a prestazioni quasi casuali.

Significato e Affermazioni

Il documento afferma che NoisyCoconut fornisce una via pratica per migliorare l'affidabilità degli LLM senza il costo computazionale del retraining o del fine-tuning. Estendendo la stima della confidenza basata sull'accordo allo spazio latente, il metodo sfrutta lo spazio rappresentazionale continuo per scoprire un'incertezza non visibile nelle distribuzioni a livello di token.

Gli autori ipotizzano che la correlazione tra accordo dei percorsi e correttezza suggerisca che l'incertezza negli LLM è visibile nello spazio latente. Quando le perturbazioni di rumore portano a percorsi divergenti, è probabile che il modello stia operando in una regione di instabilità rappresentazionale; al contrario, la convergenza verso la stessa risposta indica una soluzione stabile e robusta alla perturbazione. Questo approccio consente l'implementazione degli LLM in settori regolamentati dove accuratezza e auditabilità sono critiche, offrendo un meccanismo per scambiare la copertura con un'accuratezza ad alta confidenza.

Il documento riconosce le limitazioni, inclusa la necessità di accedere agli stati interni del modello (limitando l'applicabilità ai modelli open-weight), l'attuale focus su compiti con risposte discrete o ben definite e il sovraccarico computazionale della generazione di percorsi multipli. Tuttavia, li inquadra come opportunità per lavori futuri riguardanti la scalatura adattiva del rumore, l'aggregazione semantica per la generazione open-ended e l'integrazione con il decoding speculativo per ridurre i costi.