Asking Is Not Enough: Protocol Sensitivity in LLM Confidence Calibration

Problema
La calibrazione della confidenza dei Large Language Model (LLM) è fondamentale per un deployment sicuro in ambiti ad alto rischio. Le valutazioni attuali confrontano tipicamente due segnali: i punteggi di probabilità dei token (derivati dai logit interni del modello) e la confidenza verbalizzata (dove il modello riporta esplicitamente una probabilità nel testo). Sebbene lavori precedenti abbiano stabilito che la confidenza verbalizzata è sensibile ai metodi di elicita-zione tramite prompt, questo articolo sostiene che il confronto tra confidenza verbalizzata e basata sui token sia anch'esso altamente sensibile a "scelte di misurazione" che vengono spesso lasciate implicite. Nello specifico, la quantità misurata dipende da: (1) quale stringa di risposta riceve il punteggio di probabilità dei token (auto-generata vs. fornita), (2) come tale punteggio viene letto dai token di risposta (es. primo token vs. media dello span), e (3) il contesto di condizionamento sotto il quale viene misurata la probabilità (query nuda vs. prefisso del prompt utilizzato per la verbalizzazione). Gli autori ipotizzano che, senza una specifica esplicita del protocollo, i gap di calibrazione osservati possano riflettere artefatti di misurazione piuttosto che proprietà intrinseche del modello o guadagni di allineamento.

Metodologia
Gli autori conducono un'analisi di sensibilità controllata su quattro benchmark di QA (TriviaQA, SciQ, TruthfulQA, MMLU) utilizzando tre famiglie di modelli base/Instruct open da 7–8B (Llama-3-8B, Mistral-7B-v0.3, Qwen2.5-7B), con controlli di robustezza su varianti Qwen2.5 più grandi (14B, 32B, 72B).

Lo studio mantiene fissa l'elicitazione della confidenza verbalizzata (un singolo template di prompt continuo da 0.0 a 1.0) mentre varia sistematicamente gli "assi del protocollo" che definiscono il confronto basato sui token:

1. Provenienza della Risposta: Confronto tra la confidenza elicita su risposte auto-generate e risposte fornite (gold, errate plausibili ed errate di tipo errato).
2. Risposta Valutata: Confronto tra le probabilità dei token assegnate alla risposta generata dal modello e a un riferimento gold forzato dal docente (teacher-forced).
3. Lettura del Token: Confronto tra la media geometrica dello span di risposta ($T_1$) e la probabilità del primo token di risposta ($T_2$).
4. Contesto di Condizionamento: Confronto tra le probabilità dei token misurate sotto una query nuda e sotto il prefisso del prompt verbalizzato.
5. Stimatore: Confronto tra l'Errore di Calibrazione Atteso (ECE) standard a 10 bin e stimatori privi di bin (KDE-ECE, KS-Cal, ECE Smussato).

La metrica primaria è il gap di calibrazione firmato $g = \text{ECE}(c_{\text{verb}}) - \text{ECE}(c_{\text{tok}})$, dove valori negativi indicano che la confidenza verbalizzata è meglio calibrata.

Contributi Chiave

1. Sensibilità del Protocollo con Elicitazione Fissa: Gli autori dimostrano che, anche con un prompt di confidenza verbalizzata fisso, il confronto tra segnali verbalizzati e basati sui token è instabile. Il contesto di condizionamento e le scelte di lettura del token modificano materialmente il gap ECE osservato, spesso invertendone il segno. Al contrario, cambiare lo stimatore ECE ha un effetto trascurabile.
2. Provenienza della Risposta e Plausibilità: Lo studio rivela che la confidenza verbalizzata traccia la plausibilità e la provenienza della risposta piuttosto che la correttezza in sé. Quando vengono fornite risposte errate superficialmente plausibili, i modelli assegnano livelli di confidenza quasi identici a quelli per le risposte gold fornite, rifiutando chiaramente le discrepanze di tipo errato.
3. Checklist di Reporting: Il documento propone una checklist di reporting per i confronti tra segnali di confidenza che copre provenienza dell'elicitazione, risposta valutata, lettura della probabilità dei token e contesto di condizionamento, per garantire riproducibilità e interpretabilità della misurazione.

Risultati

• Instabilità del Gap di Calibrazione: Sotto il protocollo predefinito "risposta generata, contesto nudo", i modelli Instruct mostrano una quasi parità tra confidenza verbalizzata e basata sui token (gap medio $g_A \approx -0.029$), contraddicendo le affermazioni di grandi guadagni di calibrazione per la confidenza verbalizzata. Tuttavia, spostare il contesto di condizionamento (misurare la probabilità dei token sotto il prefisso verbalizzato) sposta il gap di $\approx -0.090$ sui modelli Instruct, invertendo frequentemente il segno del gap.
• Entità degli Effetti del Protocollo: L'entità dello spostamento causato dal contesto di condizionamento (spostamento assoluto medio 0.28) è paragonabile alla variazione causata dal cambio di famiglia di modelli (0.37) o di dataset (0.17). Anche la lettura del token induce spostamenti significativi (0.11), mentre la scelta dello stimatore induce spostamenti minimi (0.01).
• Sensibilità alla Provenienza: Nelle analisi con risposte fornite, la differenza di confidenza tra risposte gold fornite e risposte errate plausibili è marginale ($\approx +0.021$), mentre la differenza per le risposte errate di tipo errato è ampia. Ciò suggerisce che la confidenza verbalizzata riflette la plausibilità del testo fornito piuttosto che una stima di correttezza ground-truth.
• Robustezza: Questi risultati valgono su diverse scale di modelli (fino a 72B), diverse scale di prompt (interi 0–100) e varie metriche di calibrazione (Brier, NLL, AUROC).

Significato e Affermazioni
Il documento sostiene che né la confidenza verbalizzata né la probabilità dei token dovrebbero essere trattati come una lettura diretta e priva di contesto dell'incertezza del modello. Al contrario, entrambi sono misurazioni comportamentali la cui interpretazione è inestricabilmente legata al protocollo di misurazione. Gli autori affermano che le affermazioni scalari sul miglioramento dell'incertezza auto-dichiarata grazie all'allineamento, o sulla superiorità della confidenza verbalizzata rispetto alle probabilità dei token, hanno significato solo quando la specifica configurazione di misurazione (provenienza della risposta, metodo di lettura, contesto di condizionamento) è esplicitamente specificata. Lo studio funge da analisi cautelativa, esortando la comunità a trattare i confronti di calibrazione come analisi di sensibilità dipendenti dal protocollo piuttosto che come decomposizioni causali delle capacità del modello.