Asking Is Not Enough: Protocol Sensitivity in LLM Confidence Calibration

Problema
A calibração da confiança de Modelos de Linguagem de Grande Escala (LLM) é crítica para a implantação segura em domínios de alto risco. As avaliações atuais comparam tipicamente dois sinais: pontuações de probabilidade de token (derivadas dos logits internos do modelo) e confiança verbalizada (onde o modelo relata explicitamente uma probabilidade em texto). Embora trabalhos anteriores tenham estabelecido que a confiança verbalizada é sensível aos métodos de elicitação de prompts, este artigo argumenta que a comparação entre confiança verbalizada e baseada em tokens também é altamente sensível a "escolhas de medição" que frequentemente permanecem implícitas. Especificamente, a quantidade sendo medida depende de: (1) qual string de resposta recebe a pontuação de probabilidade de token (auto-gerada vs. fornecida), (2) como essa pontuação é lida a partir dos tokens de resposta (por exemplo, primeiro token vs. média do intervalo) e (3) o contexto de condicionamento sob o qual a probabilidade é medida (consulta nua vs. prefixo de prompt usado para verbalização). Os autores postulam que, sem especificação explícita do protocolo, as lacunas de calibração observadas podem refletir artefatos de medição em vez de propriedades intrínsecas do modelo ou ganhos de alinhamento.

Metodologia
Os autores realizam uma análise de sensibilidade controlada em quatro benchmarks de QA (TriviaQA, SciQ, TruthfulQA, MMLU) usando três famílias de modelos base/Instruct abertos de 7–8B (Llama-3-8B, Mistral-7B-v0.3, Qwen2.5-7B), com verificações de robustez em variantes maiores do Qwen2.5 (14B, 32B, 72B).

O estudo mantém fixa a elicitação de confiança verbalizada (um único modelo de prompt contínuo de 0,0 a 1,0) enquanto varia sistematicamente os "eixos de protocolo" que definem a comparação de probabilidade de token:

1. Procedência da Resposta: Comparando confiança elicita em respostas auto-geradas versus respostas fornecidas (ouro, erradas plausíveis e erradas de tipo diferente).
2. Resposta Pontuada: Comparando probabilidades de token atribuídas à resposta gerada pelo modelo versus uma referência dourada forçada por professor.
3. Leitura de Token: Comparando a média geométrica do intervalo de resposta ($T_1$) versus a probabilidade do primeiro token de resposta ($T_2$).
4. Contexto de Condicionamento: Comparando probabilidades de token medidas sob uma consulta nua versus sob o prefixo de prompt verbalizado.
5. Estimador: Comparando o Erro de Calibração Esperado (ECE) padrão de 10 bins contra estimadores livres de bins (KDE-ECE, KS-Cal, ECE Suavizado).

A métrica principal é a lacuna de calibração assinada $g = \text{ECE}(c_{\text{verb}}) - \text{ECE}(c_{\text{tok}})$, onde valores negativos indicam que a confiança verbalizada está melhor calibrada.

Principais Contribuições

1. Sensibilidade do Protocolo com Elicitação Fixa: Os autores demonstram que, mesmo com um prompt de confiança verbalizada fixo, a comparação entre sinais verbais e de tokens é instável. O contexto de condicionamento e as escolhas de leitura de token alteram materialmente a lacuna de ECE observada, frequentemente invertendo seu sinal. Em contraste, mudar o estimador de ECE tem efeito negligenciável.
2. Procedência e Plausibilidade da Resposta: O estudo revela que a confiança verbalizada rastreia a plausibilidade e a procedência da resposta, e não apenas a correção. Quando fornecidas com respostas erradas plausíveis superficialmente, os modelos atribuem níveis de confiança quase idênticos aos das respostas douradas fornecidas, rejeitando claramente incompatibilidades de tipo diferente.
3. Lista de Verificação de Relatórios: O artigo propõe uma lista de verificação de relatórios para comparações de sinais de confiança cobrindo procedência de elicitação, resposta pontuada, leitura de probabilidade de token e contexto de condicionamento para garantir reprodutibilidade e interpretabilidade da medição.

Resultados

• Instabilidade da Lacuna de Calibração: Sob o protocolo padrão "resposta gerada, contexto nua", os modelos Instruct mostram quase paridade entre confiança verbalizada e de tokens (lacuna média $g_A \approx -0,029$), contradizendo alegações de grandes ganhos de calibração para confiança verbalizada. No entanto, mudar o contexto de condicionamento (medindo probabilidade de token sob o prefixo verbalizado) desloca a lacuna em $\approx -0,090$ em modelos Instruct, frequentemente invertendo o sinal da lacuna.
• Magnitude dos Efeitos de Protocolo: A magnitude do deslocamento causado pelo contexto de condicionamento (deslocamento absoluto médio 0,28) é comparável à variação causada pela mudança da família de modelos (0,37) ou do conjunto de dados (0,17). A leitura de token também induz deslocamentos significativos (0,11), enquanto a escolha do estimador induz deslocamentos mínimos (0,01).
• Sensibilidade à Procedência: Nas análises de respostas fornecidas, a diferença de confiança entre respostas douradas fornecidas e respostas erradas plausíveis é marginal ($\approx +0,021$), enquanto a diferença para respostas erradas de tipo diferente é grande. Isso sugere que a confiança verbalizada reflete a plausibilidade do texto fornecido, e não uma estimativa de correção da verdade fundamental.
• Robustez: Essas descobertas mantêm-se em diferentes escalas de modelo (até 72B), diferentes escalas de prompt (inteiro 0–100) e várias métricas de calibração (Brier, NLL, AUROC).

Significado e Alegações
O artigo argumenta que nem a confiança verbalizada nem a probabilidade de token devem ser tratadas como uma leitura direta e livre de contexto da incerteza do modelo. Em vez disso, ambos são medições comportamentais cuja interpretação está intrinsecamente ligada ao protocolo de medição. Os autores afirmam que alegações escalares sobre o alinhamento melhorar a incerteza auto-relatada, ou a superioridade da confiança verbalizada sobre probabilidades de token, só são significativas quando a configuração específica de medição (procedência da resposta, método de leitura, contexto de condicionamento) é explicitamente especificada. O estudo serve como uma análise cautelosa, alertando a comunidade para tratar comparações de calibração como análises de sensibilidade dependentes de protocolo, em vez de decomposições causais das capacidades do modelo.