Sintesi Tecnica: Formalizzare i Pensieri Latenti: Quattro Assiomi della Rappresentazione del Pensiero negli LLM

Definizione del Problema

Il campo del ragionamento nei Large Language Models (LLM) si sta spostando sempre più dai token discreti della Chain-of-Thought (CoT) verso rappresentazioni latenti continue (ad esempio, Soft Thinking, Latent Thinking) per migliorare l'efficienza e la capacità di ragionamento. Tuttavia, la valutazione di queste "rappresentazioni di pensiero continue" è fondamentalmente fallace. Le metodologie attuali si affidano quasi esclusivamente all'accuratezza dei task a valle (ad esempio, i tassi di superamento dei benchmark) per giudicare la qualità della rappresentazione. Questo approccio confonde la qualità della rappresentazione interna con la capacità complessiva del modello di decodificare o elaborare tale rappresentazione. Di conseguenza, i fallimenti rappresentazionali sono mascherati dall'accuratezza a valle; un modello può ottenere punteggi elevati nei benchmark pur avendo i propri "pensieri" interni che non riescono a codificare fedelmente i passaggi di ragionamento necessari o a distinguere tra istanze distinte dello stesso task.

Si riscontra una mancanza di:

1. Una definizione principesca di quali proprietà funzionali debba possedere una valida rappresentazione del pensiero.
2. Un protocollo di valutazione intrinseco che misuri la qualità della rappresentazione indipendentemente dall'accuratezza del task a valle.
3. Una chiara comprensione dello stato attuale dei metodi candidati, dati i rapporti secondo cui i token di ragionamento latente sono spesso superflui per le predizioni o non riescono a implementare ricerche strutturate nello spazio latente.

Metodologia

Gli autori propongono un framework di valutazione assiomatico che caratterizza le rappresentazioni del pensiero basandosi su quattro proprietà funzionali, definite indipendentemente da qualsiasi processo di decodifica a valle. Il framework tratta la rappresentazione del pensiero ($T$) come uno stato funzionale latente che media la trasformazione da uno spazio di input ($X$) a uno spazio semantico di output ($S$).

I Quattro Assiomi

Il framework definisce quattro assiomi, ciascuno con una corrispondente misura quantitativa calcolata direttamente sul modello sorgente senza riaddestramento:

1. Causalità: $T$ deve sostituire funzionalmente il prefisso di ragionamento esplicito ($y_{pre}$) all'interno del grafo computazionale del modello.

   • Metrica: Errore di Sostituzione KL. Misurato sostituendo gli embedding dei token di $y_{pre}$ con il progetto $T$ e calcolando la divergenza di Kullback-Leibler (KL) tra la distribuzione di continuazione originale $P(y_{suf} | y_{pre})$ e la distribuzione intervenuta $P(y_{suf} | T)$. Valori più bassi indicano una migliore causalità.

2. Minimalità: $T$ deve comprimere l'input mantenendo la massima rilevanza rispetto alla distribuzione di output, aderendo al principio del Collo di Bottiglia dell'Informazione (Information Bottleneck). Deve filtrare le variabili di disturbo (contesto irrilevante) presenti nell'input.

   • Metrica: Gap di Minimalità ($\Delta_{IB}$). Un surrogato della cross-entropy per il lagrangiano dell'Information Bottleneck a $\beta=2$. È calcolato come $\Delta_{IB} = CE(X | Y, T) - CE(Y | T)$. Valori più alti indicano una rappresentazione che è sufficiente per l'output ma aggiunge minima informazione residua sull'input oltre a quanto già fornito dall'output.

3. Separabilità: $T$ deve possedere una struttura topologica sufficiente per distinguere tra distribuzioni di output semanticamente non equivalenti. Deve essere in grado di differenziare tra due domande distinte all'interno dello stesso task (fine-grained) e tra task differenti (coarse-grained).

   • Metrica: Accuratezza del Discriminatore. Un discriminatore binario addestrabile viene addestrato per allineare $T$ con una sequenza di output candidata. L'accuratezza è misurata su coppie dello stesso task (fine-grained) e coppie di task diversi (coarse-grained).

4. Stabilità: $T$ deve essere invariante alle variazioni lessicali superficiali (parafrasi) e robusta alla stocasticità del campionamento (collasso del modo). Deve codificare i parametri della distribuzione semantica $P(S|x)$ piuttosto che una singola realizzazione.

   • Metrica: Punteggio di Consistenza Distribuzionale (DCS). L'AUROC di un probe che predice se gli output del beam di una domanda spaziano su più classi di equivalenza semantica (entropia semantica $H_x > 0$).

Setup Sperimentale

• Candidati: Lo studio esamina diverse rappresentazioni candidate, inclusi gli stati nascosti dell'ultimo token di input (Last Input Token - LIT), il Soft Thinking (con e senza rumore Gumbel) e il Latent Thinking, attraverso vari "budget di pensiero" (da 1 a 128 step).
• Modelli: Cinque LLM open-weight che coprono diverse architetture e paradigmi di addestramento: Llama-3.1-8B, Llama-3.3-70B (Dense/Instruct), DeepSeek-R1-Distill-Qwen-32B (Reasoning-distill), Skywork-OR1-32B (Native RL) e GPT-OSS-20B (Sparse MoE).
• Task: 23 task di ragionamento dal dataset Big Bench Extra Hard (BBEH), che coprono ragionamento spaziale, QA fattuale, puzzle logici e altro.
• Protocollo: Le valutazioni sono eseguite sul modello sorgente utilizzando un backbone congelato da 1B per il probing, garantendo che le metriche siano scollate dalla dimensione del modello sorgente e dalle sue prestazioni a valle.

Risultati Chiave

L'applicazione di questo protocollo intrinseco rivela un "collasso rappresentazionale" che l'accuratezza dei benchmark a valle non riesce a rilevare:

1. Nessun Candidato Soddisfa Tutti gli Assiomi: Nessuna delle rappresentazioni candidate valutate soddisfa simultaneamente Causalità, Minimalità, Separabilità e Stabilità.
2. Fallimento della Separabilità (Identità per Singola Domanda): Sebbene le rappresentazioni distinguano in modo affidabile tra diversi task (accuratezza cross-task vicina alla saturazione), esse falliscono nel distinguere tra diverse istanze dello stesso task (accuratezza same-task). Quasi tutti i candidati (eccetto gli Output Embeddings) performano al livello o vicino al baseline casuale per la discriminazione same-task. Ciò indica che le rappresentazioni latenti perdono l'identità specifica delle singole domande, facendo collassare percorsi di ragionamento distinti in vettori indistinguibili.
3. Competitività degli Embedding di Input: L'embedding del prompt di input stesso è competitivo con, e spesso superiore ai, candidati rappresentazioni del pensiero lungo tutti e quattro gli assi. Ciò suggerisce che le attuali rappresentazioni latenti codificano poca informazione oltre a quella già presente nell'embedding di input.
4. Fallimento Strutturale: Il pattern di fallimento è coerente tra le famiglie di modelli dense, distillati per il ragionamento e addestrati con RL. Aumentare il numero di step di pensiero (ad esempio, in Soft Thinking o Latent Thinking) non risolve il collasso; in alcuni casi, le prestazioni degradano all'aumentare del numero di step.
5. Causalità vs Input: Nessuna rappresentazione del pensiero fornisce costantemente più informazione causale rispetto all'embedding di input da sola. Sostituire il prefisso di ragionamento con $T$ produce una distribuzione di continuazione indistinguibile dal sostituire tale prefisso con l'embedding di input, implicando che $T$ non aggiunge alcun segnale causale unico.

Significato e Rivendicazioni

Il paper sostiene di fornire un mezzo principato per sviluppare e sottoporre a audit le rappresentazioni del pensiero candidate come oggetti di studio, valutati per ciò che un LLM codifica riguardo a un problema piuttosto che per la qualità del ragionamento a valle di qualsiasi catena.

• Risoluzione Diagnostica: Il framework permette ai ricercatori di attribuire i cambiamenti nell'accuratezza a valle a specifiche proprietà rappresentazionali (ad esempio, un calo nella Separabilità) piuttosto che ad aggregatezza dei punteggi dei benchmark che oscurano la causa radice.
• Target di Ottimizzazione: Le quattro misure forniscono target di ottimizzazione espliciti e quantificabili per la ricerca futura, andando oltre i proxy euristici come i budget di token o l'imitazione della CoT esplicita.
• Intuizione Strutturale: I risultati suggeriscono che il divario tra gli attuali metodi di ragionamento latente e l'ideale pensiero funzionale è strutturale, non semplicemente una funzione della dimensione del modello o di specifici procedure di addestramento (come RL o distillazione). L'attuale generazione di rappresentazioni latenti fallisce nell'implementare la ricerca strutturata e specifica per istanza richiesta per un ragionamento robusto.

Gli autori posizionano questo framework come ortogonale alla valutazione dei benchmark di ragionamento, offrendo uno strato di analisi necessario per comprendere la meccanica interna dei modelli di ragionamento prima che possano essere migliorati in modo affidabile. Il codice e la pipeline di valutazione sono resi pubblici per facilitare l'audit e lo sviluppo.