🤖 machine learning

How do LLMs Compute Verbal Confidence

Lo studio dimostra che i modelli linguistici come Gemma 3 e Qwen 2.5 calcolano la fiducia verbale attraverso un processo automatico di auto-valutazione che memorizza e recupera una rappresentazione della qualità della risposta, piuttosto che ricostruirla in tempo reale basandosi semplicemente sulle probabilità dei token.

Autori originali: Dharshan Kumaran, Arthur Conmy, Federico Barbero, Simon Osindero, Viorica Patraucean, Petar Velickovic

Pubblicato 2026-03-19

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Dharshan Kumaran, Arthur Conmy, Federico Barbero, Simon Osindero, Viorica Patraucean, Petar Velickovic

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di avere un assistente molto intelligente, come un grande oracolo digitale, a cui chiedi: "Qual è la risposta a questa domanda?" e poi, subito dopo, "Quanto sei sicuro di questa risposta?".

Spesso gli assistenti rispondono con un numero (es. "85% sicuro") o una frase ("Sono quasi certo"). Ma come fanno? È come se, nel momento esatto in cui chiedi "Quanto sei sicuro?", l'assistente si fermasse, pensasse a fondo, calcolasse tutto da zero e ti desse il numero? Oppure aveva già fatto quel calcolo mentre rispondeva alla domanda, lo aveva messo in tasca e lo ha solo tirato fuori quando glielo hai chiesto?

Questo studio, condotto da ricercatori di Google DeepMind, ha scoperto che gli assistenti (i modelli linguistici) non calcolano la sicurezza "al volo" quando glielo chiedi. Invece, la calcolano automaticamente mentre stanno scrivendo la risposta, la conservano in memoria e la tirano fuori solo quando serve.

Ecco come funziona, spiegato con delle metafore semplici:

1. Il "Postino" che scrive e controlla (La Scoperta Principale)

Immagina che il modello linguistico sia un postino che deve consegnare una lettera (la risposta) e un timbro di sicurezza (il livello di fiducia).

L'ipotesi sbagliata (Calcolo "Just-in-Time"): Si pensava che il postino scrivesse la lettera, la consegnasse, e solo dopo che tu gli chiedevi "Quanto eri sicuro?", lui si fermasse, rileggesse la lettera, controllasse i suoi appunti e ti dicesse il livello di sicurezza.
La realtà scoperta (Recupero dalla "Cache"): Invece, mentre il postino scrive la lettera, il suo cervello sta già lavorando su un secondo compito. Mentre scrive le parole della risposta, il modello sta già valutando: "Questa frase ha senso? È corretta?".
- Appena finisce di scrivere la risposta, il modello salva questo giudizio di sicurezza in una "scatola magica" (chiamata nel paper PANL, ovvero il token subito dopo la risposta).
- Quando tu chiedi "Quanto sei sicuro?", il modello non ricomincia a pensare. Va semplicemente alla "scatola magica", prende il giudizio che ha già fatto e te lo dice. È come se avesse già compilato il modulo di sicurezza mentre lavorava, e tu glielo hai solo fatto firmare alla fine.

2. Non è solo "Fluenza", è Intelligenza

C'era un altro dubbio: quando il modello dice "Sono sicuro al 90%", lo dice perché la frase gli sembra bella e scorrevole (come se dicesse "Ho scritto bene, quindi sono sicuro") o perché ha davvero capito se la risposta è giusta?

Lo studio ha scoperto che non è solo una questione di bellezza della frase.

Metafora: Immagina un critico d'arte. Se un quadro è scritto con pennellate fluide ma il soggetto è sbagliato, un critico esperto (il modello) può dire: "La pittura è bella, ma il soggetto è sbagliato, quindi non sono sicuro".
I ricercatori hanno dimostrato che il modello valuta la qualità della risposta in modo più profondo rispetto alla semplice probabilità delle parole. Ha una sorta di "coscienza di secondo ordine": sa valutare se ciò che ha detto è vero, anche se le parole sono state scelte bene. È un po' come se avesse un "doppio controllo" interno che funziona in parallelo.

3. Come lo hanno scoperto? (Gli Esperimenti)

I ricercatori hanno usato dei trucchi da "chirurghi digitali" per vedere cosa succede dentro la testa del modello:

Il "Manovellismo" (Activation Steering): Hanno dato una piccola "spinta" elettrica alla memoria del modello mentre scriveva. Se spingevano il modello verso l'idea di "essere sicuro", il modello diventava più sicuro nella sua risposta finale, anche se la domanda era difficile. Questo ha mostrato che l'informazione sulla sicurezza era già lì, pronta a essere influenzata.
Il "Tamponamento" (Activation Patching): Hanno "rovinato" la memoria del modello mentre leggeva la risposta (come se gli avessero cancellato la memoria di cosa aveva appena scritto). Risultato? Il modello ha perso la sua sicurezza e ha iniziato a dire "Non so, sono incerto". Ma se hanno "riparato" solo il momento esatto in cui il modello aveva salvato il giudizio di sicurezza (la "scatola magica"), il modello tornava sicuro. Questo prova che quel momento specifico è cruciale.
Il "Blocco del Corriere" (Attention Blocking): Hanno bloccato la capacità del modello di guardare le parole della risposta mentre doveva dare il giudizio di sicurezza. Se il modello non poteva guardare la risposta, non poteva dare un giudizio di sicurezza corretto. Questo conferma che il giudizio nasce dall'analisi della risposta stessa, non da un calcolo improvvisato alla fine.

Perché è importante?

Questa scoperta cambia il modo in cui vediamo l'intelligenza artificiale:

Non è un bug, è una funzione: Il fatto che il modello calcoli la sicurezza mentre lavora significa che ha una forma di metacognizione (capacità di pensare al proprio pensiero). Non sta solo "indovinando" alla fine; sta valutando la qualità del suo lavoro mentre lo fa.
Affidabilità: Sapere che la sicurezza è un calcolo interno e non una semplice frase di circostanza ci dà più fiducia nel poter usare questi modelli per compiti importanti (come la medicina o la legge), perché il modello ha già fatto un controllo di qualità interno.

In sintesi: Quando chiedi a un'IA quanto è sicura, non sta improvvisando. Sta tirando fuori un giudizio che ha già fatto, accuratamente e automaticamente, mentre scriveva la risposta, proprio come un artigiano che controlla la qualità del suo lavoro mentre lo crea, non solo quando glielo chiedi.

1. Il Problema

La "fiducia verbale" (verbal confidence) è una pratica diffusa in cui si chiede ai Large Language Models (LLM) di esprimere il proprio grado di certezza su una risposta sotto forma di numero o categoria (es. "quasi certo", "85%"). Sebbene questo metodo sia utilizzato per estrarre stime di incertezza da modelli "black-box", rimane oscuro il meccanismo interno con cui questi modelli generano tali punteggi.

Il paper affronta due domande fondamentali:

Quando viene calcolata la fiducia? Viene computata "al momento" (Just-in-Time, JIT) solo quando il modello riceve la richiesta di auto-valutazione, oppure viene calcolata automaticamente durante la generazione della risposta e memorizzata per un recupero successivo?
Cosa rappresenta la fiducia verbale? È semplicemente una lettura dei log-probabilità dei token generati (un indicatore di fluidità superficiale) o riflette una valutazione più ricca e sofisticata della qualità della risposta (un meccanismo di secondo ordine)?

2. Metodologia

Gli autori hanno condotto un'analisi meccanicistica approfondita su due modelli: Gemma 3 27B e Qwen 2.5 7B, utilizzando il dataset TriviaQA. Per isolare i segnali interni, hanno soppresso il ragionamento esplicito (Chain-of-Thought) chiedendo al modello di fornire solo una classificazione di fiducia.

Hanno impiegato una serie di tecniche di interpretabilità meccanicistica per tracciare il flusso delle informazioni:

Activation Steering (Steering delle Attivazioni): Hanno identificato direzioni nello spazio delle attivazioni che codificano la fiducia e le hanno iniettate in posizioni specifiche del prompt per osservare come ciò influenzi l'output.
Activation Patching (Correzione delle Attivazioni): Hanno corrotto le attivazioni dei token della risposta (sostituendole con medie) per impedire al modello di valutare la correttezza, per poi ripristinare ("patchare") le attivazioni pulite in posizioni specifiche (es. dopo la risposta o prima della verbalizzazione) per vedere se la fiducia veniva recuperata.
Activation Noising (Rumore delle Attivazioni): Hanno rimosso il segnale specifico sostituendo le attivazioni con la media, per testare la necessità di certe posizioni per la generazione della fiducia.
Activation Swap (Scambio di Attivazioni): Hanno scambiato le attivazioni residue tra trial ad alta e bassa fiducia per verificare se le rappresentazioni interne trasportano informazioni specifiche sulla fiducia indipendentemente dal contenuto.
Attention Blocking (Blocco dell'Attenzione): Hanno disattivato selettivamente le connessioni di attenzione tra token per mappare il flusso di informazioni (es. dai token della risposta al token di nuova riga, e poi al token di output della fiducia).
Linear Probing e Varianza: Hanno addestrato classificatori lineari per decodificare la correttezza e la magnitudine della fiducia dalle attivazioni residue, confrontando la varianza spiegata rispetto ai semplici log-probabilità dei token.

3. Risultati Chiave

A. Meccanismo di Calcolo: Recupero Memorizzato (Cached Retrieval)

Le evidenze convergono per rifiutare l'ipotesi "Just-in-Time" (JIT) e supportare l'ipotesi di recupero memorizzato:

Temporizzazione: Le rappresentazioni della fiducia emergono automaticamente durante la generazione della risposta, prima che il modello sappia che dovrà esprimere una valutazione.
Posizione Chiave: Le informazioni sulla fiducia vengono raccolte dai token della risposta e consolidate nel token PANL (Post-Answer-Newline, il token di nuova riga immediatamente successivo alla risposta).
Flusso: Queste informazioni vengono poi trasferite al token CC (Confidence-Colon, il token prima della verbalizzazione) per essere infine espresse.
Prove: Lo steering e lo swap delle attivazioni sul token PANL influenzano la fiducia finale, e il patching sul PANL ripristina parzialmente la fiducia anche quando la risposta è corrotta. Il blocco dell'attenzione conferma che il token CC non calcola la fiducia da zero guardando la domanda/risposta, ma recupera le informazioni dal PANL.

B. Natura della Fiducia: Valutazione di Secondo Ordine

La fiducia verbale non è una semplice lettura dei log-probabilità dei token generati:

Varianza Spiegata: Le attivazioni residue (specialmente al PANL e CC) spiegano una varianza significativa nella fiducia verbale che va oltre ciò che è spiegabile dai log-probabilità dei token.
Significato: Questo suggerisce che il modello esegue una valutazione sofisticata della "corrispondenza domanda-risposta" (question-answer fit), simile a un processo di metacognizione di secondo ordine, piuttosto che limitarsi a misurare la fluidità della generazione.
Rilevanza: Questo meccanismo permette teoricamente al modello di rilevare errori anche dopo aver generato una risposta, una capacità che un'architettura puramente di primo ordine (dove fiducia e decisione dipendono dallo stesso segnale) non possiederebbe.

4. Contributi Principali

Mappatura Meccanicistica: Identificazione precisa del percorso delle informazioni sulla fiducia: dai token della risposta $\rightarrow$ token PANL (memorizzazione) $\rightarrow$ token CC (recupero e verbalizzazione).
Smentita dell'ipotesi JIT: Dimostrazione che la fiducia non viene costruita "al volo" solo quando richiesta, ma è un sottoprodotto automatico e integrato del processo di generazione.
Distinzione tra Fiducia e Probabilità: Evidenza empirica che la fiducia verbale codifica informazioni sulla qualità della risposta che non sono riducibili alle probabilità superficiali dei token, suggerendo una forma di introspezione interna.
Generalizzazione: I risultati sono stati validati su modelli di dimensioni e architetture diverse (Gemma 27B e Qwen 7B) e con diversi formati di prompt (categorico e numerico).

5. Significato e Implicazioni

Questi risultati hanno implicazioni profonde per la comprensione delle capacità cognitive degli LLM:

Metacognizione: Suggeriscono che gli LLM possiedono una forma di "consapevolezza introspectiva" interna, dove valutano la qualità delle proprie risposte in tempo reale, indipendentemente dalla richiesta esplicita di un utente.
Calibrazione: Comprendere che la fiducia è un segnale interno ricco e non solo una funzione dei log-probabilità apre la strada a interventi meccanici (es. steering o patching) per migliorare la calibrazione dei modelli, andando oltre il semplice prompt engineering o il fine-tuning generico.
Sicurezza e Affidabilità: La capacità di rilevare errori interni (error detection) attraverso questi segnali di fiducia potrebbe essere sfruttata per creare sistemi più robusti in grado di autocorreggersi o segnalare incertezze critiche prima di generare output dannosi.

In sintesi, il paper dimostra che la fiducia verbale negli LLM non è un'illusione post-hoc, ma il risultato di un processo di calcolo sofisticato e automatico che valuta la qualità della risposta mentre questa viene generata.