Riepilogo Tecnico: Diagnosi dei Fallimenti nel Ragionamento a Più Passaggi negli LLM a Scatola Nera tramite Attribuzione di Confidenza Passo-Passo

1. Enunciato del Problema

I Large Language Models (LLM) hanno dimostrato prestazioni elevate nei compiti di ragionamento generando soluzioni passo-passo (ad esempio, Chain-of-Thought). Tuttavia, diagnosticare dove fallisce una traccia di ragionamento a più passaggi rimane una sfida significativa. Gli approcci esistenti rientrano in due categorie: classificatori supervisionati che richiedono costose annotazioni umane, o metodi "LLM come giudice" che ereditano bias e incoerenze. Inoltre, i metodi standard di Stima della Confidenza (CE) operano tipicamente solo a livello della risposta finale, fornendo segnali di affidabilità grossolani che non riescono a individuare passaggi errati specifici.

Una sfida critica nell'estendere la CE al contesto passo-passo è distinguere tra variabilità legittima (soluzioni corrette che differiscono per ordine, espressione o dettaglio) e errori di ragionamento reali. I percorsi di ragionamento corretto convergono spesso su specifici "invarianti logici" (stati intermedi critici), mentre gli errori rappresentano deviazioni da questo consenso. Il lavoro affronta la necessità di un'Attribuzione di Confidenza Passo-Passo (SCA): un framework per LLM a sorgente chiusa (scatola nera) che assegna punteggi di confidenza a singoli passaggi di ragionamento utilizzando esclusivamente le tracce generate e le etichette di correttezza della risposta finale, senza richiedere accesso interno al modello o annotazioni a livello di passaggio.

2. Metodologia

Gli autori propongono un framework basato sul principio del Collo di Bottiglia dell'Informazione (IB). L'intuizione fondamentale è comprimere la traiettoria di ragionamento in ingresso scartando le variazioni non essenziali, pur mantenendo l'informazione massima sul pattern di ragionamento corretto sottostante.

Il framework definisce l'ingresso $X$ come una traiettoria di ragionamento, la rappresentazione compressa $Z$ come una traiettoria con pesi di confidenza sui suoi passaggi, e l'obiettivo $Y$ come il segnale di correttezza. L'obiettivo è minimizzare $I(X; Z) - \beta I(Z; Y)$, incoraggiando la selezione di un sottoinsieme sparso di passaggi altamente rilevanti per la correttezza.

Il lavoro introduce due istanze complementari di questo principio:

A. IB Non Parametrico per la Confidenza Passo-Passo (NIBS)

NIBS è un approccio senza addestramento e in forma chiusa. Assume che i passaggi che appaiono costantemente nelle soluzioni corrette siano i più informativi.

• Meccanismo: Aggrega multiple tracce di soluzione dalle soluzioni corrette per formare "ancore di consenso".
• Punteggio: Per un dato passaggio in una traiettoria, la confidenza è calcolata misurando la sua similarità semantica con i passaggi nell'insieme delle traiettorie corrette.
• Implementazione: Utilizza funzioni di similarità semantica (ad esempio, similarità coseno di embedding di frasi o NLI di implicazione) e strategie di aggregazione (massimo o media) per calcolare i punteggi senza apprendimento parametrico.

B. IB Grafico per la Confidenza Passo-Passo (GIBS)

GIBS affronta il limite di NIBS nel ignorare le dipendenze strutturali tra i passaggi.

• Rappresentazione: Le tracce di ragionamento sono modellate come grafi diretti in cui i nodi rappresentano risultati intermedi e gli archi rappresentano operazioni logiche o sottodomande.
• Costruzione del Consenso: Un grafo di consenso ($G_{MC}$) è costruito aggregando i Sottografi Comuni Massimi (MCS) tra i grafi candidati e i grafi delle soluzioni corrette.
• Apprendimento: GIBS apprende una maschera differenziabile $p_\theta$ per selezionare un sottografo $G^*$ che si allinea alla struttura di consenso.
• Ottimizzazione: L'obiettivo IB è approssimato utilizzando un approccio variazionale:
  • Compressione: Minimizzata tramite la divergenza KL tra la maschera prevista e un prior sparso (incoraggiando una selezione simile a quella binaria).
  • Rilevanza: Massimizzata minimizzando la Cross-Entropy tra la maschera prevista e la maschera di consenso derivata dalle soluzioni corrette.
• Architettura: Il modello utilizza un encoder BERT per le caratteristiche semantiche dei passaggi e una Graph Convolutional Network (GCN) per il contesto strutturale per prevedere probabilità di selezione soft.

3. Contributi Chiave

1. Framework SCA: L'introduzione dell'Attribuzione di Confidenza Passo-Passo, il primo framework progettato specificamente per LLM a scatola nera per fornire segnali di affidabilità a livello di passaggio, granulari, utilizzando solo tracce generate ed etichette della risposta finale.
2. Formulazione Basata su IB: L'applicazione del principio del Collo di Bottiglia dell'Informazione alle tracce di ragionamento, formalizzando il compromesso tra la compressione della variabilità di output e il mantenimento degli invarianti logici.
3. Due Metodi Novelli:
   • NIBS: Un metodo non parametrico, senza addestramento, che sfrutta il consenso semantico.
   • GIBS: Un metodo basato su grafi, apprendibile, che cattura dipendenze strutturali e variabilità logica attraverso la selezione di sottografi.
4. Utilità Diagnostica e Correttiva: Dimostrazione che i segnali di confidenza a livello di passaggio non solo diagnosticano errori, ma guidano efficacemente l'autocorrezione, superando il feedback a livello di risposta.

4. Risultati Sperimentali

I metodi sono stati valutati su tre benchmark: GSM8K (problemi matematici verbali), Math (matematica di livello competitivo) e MoreHopQA (QA multi-hop), utilizzando tre LLM (Llama-3.1-8B, Phi-4-Reasoning, DeepSeek-R1-Distill-Qwen-32B).

• Accuratezza (RQ1): GIBS ha costantemente superato forti baseline a scatola bianca (ad esempio, Entropia dei Token, Probabilità della Sequenza) e metodi adattati a scatola nera. Su MoreHopQA, GIBS ha raggiunto un AUROC di 0.8084 su DeepSeek, significativamente più alto delle baseline. Le varianti NIBS hanno inoltre ottenuto prestazioni competitive senza addestramento, dimostrando la robustezza dell'allineamento al consenso.
• Autocorrezione (RQ2): L'uso della confidenza a livello di passaggio per guidare l'autocorrezione ha migliorato il tasso di successo della correzione fino al 13.5% rispetto all'uso del solo feedback a livello di risposta. Ciò è stato particolarmente efficace per modelli di ragionamento più forti che potevano utilizzare segnali di errore localizzati.
• Ablazione e Robustezza (RQ3):
  • La rimozione dell'encoder degli archi o dell'encoder del grafo in GIBS ha portato a un calo significativo delle prestazioni, confermando la necessità di segnali strutturali sia locali che globali.
  • Generalizzazione Senza Etichette: Il framework rimane efficace in contesti senza etichette quando si utilizza "Auto-Consistenza" (tracce pseudo-corrette votate a maggioranza) per costruire ancore di consenso, sebbene le prestazioni siano correlate alla qualità delle pseudo-etichette.
  • Cambio di Dominio: GIBS addestrato su MoreHopQA (testuale) si è generalizzato bene al dataset Math senza ri-addestramento, superando NIBS e le baseline a scatola bianca, suggerendo che la modellazione basata su grafi cattura pattern di ragionamento astratti meno legati al vocabolario specifico del dominio.

5. Significato e Affermazioni

Il lavoro afferma che SCA fornisce un meccanismo scalabile e affidabile per l'audit degli LLM a scatola nera senza richiedere accesso interno o costose annotazioni umane. Distinguendo tra variabilità legittima ed errori reali attraverso la lente degli invarianti logici, il framework abilita:

• Diagnosi Granulare: Identificazione dei passaggi specifici responsabili dei fallimenti nel ragionamento.
• Affidabilità Migliorata: Guida dei modelli all'autocorrezione evidenziando passaggi a bassa confidenza, migliorando così l'accuratezza della risposta finale.
• Generalizzabilità: L'approccio è robusto tra diversi formati di ragionamento (matematica vs testuale) e architetture di modelli.

Gli autori posizionano questo lavoro come un "aiuto all'audit per la supervisione umana" piuttosto che una sostituzione del giudizio umano, mirando a migliorare l'interpretabilità e l'affidabilità del ragionamento degli LLM in scenari di decisione ad alto rischio.