Resumo Técnico: A Confiança Reportada em LLMs Segue o Comprometimento Mais do que a Correção

Declaração do Problema

Grandes Modelos de Linguagem (LLMs) são frequentemente solicitados a reportar confiança em suas respostas para guiar a confiança do usuário e a tomada de decisão subsequente (ex: recorrer a humanos ou abster-se). Embora a confiança verbal (VC) — autorrelatos explícitos de certeza — seja amplamente utilizada, particularmente em configurações de caixa-preta onde as probabilidades internas são inacessíveis, permanece incerto se esses relatórios funcionam como estimativas precisas da correção da resposta ou como sinais de um estado interno diferente. A suposição predominante é que a confiança deve rastrear a probabilidade de correção; este artigo desafia essa suposição, propondo, em vez disso, que a confiança verbal pode funcionar primariamente como um sinal de "prontidão para o comprometimento" (commit-readiness), indicando a disposição comportamental do modelo de sustentar uma resposta, em vez de sua verdade objetiva.

Metodologia

Os autores empregaram um paradigma de abstenção de dois estágios, inspirado em estudos neurocientíficos de confiança pós-decisão em roedores e primatas, para desacoplar a geração da resposta da decisão de se comprometer.

1. Design Experimental:

   • Fase 1 (Resposta & Confiança): Os modelos responderam a perguntas (múltipla escolha ou texto livre) e, em uma etapa separada, reportaram confiança verbal (Class-VC em uma escala de 10 classes ou Num-VC em uma escala de 0–100). Crucialmente, esta fase ocorreu sem qualquer referência a uma tarefa de abstenção subsequente.
   • Fase 2 (Comprometer/Abster-se): Os modelos foram apresentados à sua resposta da Fase 1 e solicitados a tomar uma decisão binária: Comprometer (exibir a resposta ao usuário) ou Abster-se (exibir "Eu não sei").
   • Sinal de Comparação: O estudo comparou a VC contra a Log-Probabilidade Calibrada (Cal-LP), um sinal de confiança derivado da distribuição softmax escalonada por temperatura dos tokens da resposta, que serve como um proxy para a evidência da resposta.

2. Modelos e Benchmarks:

   • Modelos de Não-Raciocínio: Gemma 3 (27B), Gemma 4 (31B, modo sem pensamento), GPT-4o e Qwen 3 (235B, modo sem pensamento).
   • Modelos de Raciocínio: Gemini Flash 3, Kimi K2 Think, GPT-Oss-120B e Qwen 3 (235B, modo com pensamento).
   • Datasets: SimpleQA, MMLU-Pro, SuperGPQA-hard e HLE (Humanities Last Exam), cobrindo diferentes níveis de dificuldade e formatos.

3. Abordagens Analíticas:

   • Lacuna Decisão–Verdade (Decision–Truth Gap): Definida como $\Delta_{DT} = \text{AUROC}_{\text{abstenção}} - \text{AUROC}_{\text{correção}}$. Esta métrica quantifica se um sinal prevê a decisão de comprometer/abster-se melhor do que prevê a correção objetiva.
   • Análise de Residualização: Para determinar se o alinhamento da VC com o comportamento é redutível ao seu alinhamento com a verdade, os autores regrediram a VC sobre a Cal-LP (o melhor proxy de correção disponível) e analisaram o resíduo. Eles testaram se o resíduo da VC previa a abstenção ou a correção.
   • Análise Mecanística (Gemma 3 & 4): Probes lineares foram treinados nas ativações do fluxo residual pós-resposta (PA) para decodificar a correção e a futura decisão de comprometer/abster-se.
   • Direcionamento Causal (Causal Steering): No Gemma 4, os autores construíram vetores de direcionamento a partir das ativações PA e os injetaram no fluxo residual durante a Fase 2 para testar se a manipulação do estado de "prontidão para o comprometimento" alterava causalmente o comportamento de abstenção.

Principais Resultados

1. A Lacuna Decisão–Verdade

Através de quatro modelos de não-raciocínio e dois datasets, a confiança verbal exibiu consistentemente uma lacuna decisão–verdade positiva, prevendo a decisão de comprometer/abster-se da Fase 2 substancialmente melhor do que previu a correção da Fase 1.

• Desempenho da VC: Class-VC e Num-VC mostraram lacunas medianas de +0.13 e +0.20, respectivamente. Em quase todas as células, a VC previu a abstenção significativamente melhor do que a correção.
• Desempenho da Cal-LP: A Cal-LP mostrou lacunas próximas de zero ou negativas (mediana +0.018), indicando que sua capacidade de prever a abstenção estava estritamente acoplada à sua capacidade de prever a correção. Ela não apresentou uma vantagem sistemática em prever o comportamento sobre a verdade.

2. Decomposição de Variância e Residualização

• Estrutura de Variância: A análise ANOVA revelou que a variância na VC foi dominada pela decisão posterior de comprometer/abster-se (parcial $\eta^2 \approx 0.11–0.48$) em vez da correção ($\eta^2 \approx 0.00–0.05$). Por outro lado, a Cal-LP reteve uma estrutura mais forte relacionada à correção.
• Análise de Resíduos: Quando a variância da VC compartilhada com a Cal-LP foi removida, a VC residual permaneceu um forte preditor de abstenção (mediana AUROC = 0.64), mas perdeu sua capacidade de prever a correção (caindo para níveis próximos ao acaso, mediana AUROC = 0.49).
• Interpretação: Isso sugere que a VC contém um componente único alinhado ao comportamento de comprometimento que é independente do sinal de evidência da resposta capturado pela Cal-LP. A análise reversa (residualizando a Cal-LP sobre a VC) mostrou que a Cal-LP permaneceu acoplada tanto à verdade quanto ao comportamento, consistente com ela ser um sinal primário de evidência da resposta.

3. Generalização para Modelos de Raciocínio

A dissociação decisão–verdade generalizou-se para quatro modelos de raciocínio em quatro benchmarks. Apesar da complexidade dos traços de raciocínio, a VC continuou a mostrar uma lacuna positiva robusta (mediana +0.16), enquanto a Cal-LP (onde disponível) não mostrou padrão comparável. Nos modelos de raciocínio, a Cal-LP foi menos eficaz em discriminar a correção, provavelmente porque a incerteza está distribuída ao longo da trajetória de raciocínio em vez de concentrada no token final.

4. Evidência Mecanística no Gemma 4

• Codificação de Estado Interno: Probes lineares nas ativações pós-resposta (PA) (antes do prompt de abstenção ser dado) puderam decodificar a futura decisão de comprometer/abster-se com alta precisão (AUROC $\approx$ 0.94), superando em muito a decodificação da correção (AUROC $\approx$ 0.66).
• Ortogonalidade: A direção no espaço de ativação que codifica a decisão de comprometer/abster-se era aproximadamente ortogonal à direção que codifica a correção.
• Controle Causal: O direcionamento ao longo de uma direção de ativação específica da VC (ortogonal à Cal-LP) na posição PA alterou causalmente o comportamento de abstenção subsequente do modelo na Fase 2. O direcionamento de baixa confiança aumentou as taxas de abstenção, confirmando que o estado interno subjacente à VC é causalmente operante nas decisões de comprometimento.

Significância e Alegações

O artigo conclui que a confiança verbal e a confiança por log-probabilidade não são medidas de incerteza intercambiáveis.

• Natureza da Confiança Verbal: A VC é melhor entendida não como uma estimativa ruidosa de correção, mas como um leitura voltada para o comportamento de um estado interno de "prontidão para o comprometimento". Ela reflete a disposição do modelo de sustentar uma resposta, um sinal que é apenas parcialmente ancorado à verdade objetiva.
• Natureza da Cal-LP: A Cal-LP comporta-se mais como um sinal de evidência da verdade, onde sua relevância para o comportamento é herdada de sua capacidade de rastrear a correção.
• Implicações:
  • Interpretação: Usuários e sistemas subsequentes não devem tratar a confiança verbal como um proxy direto da probabilidade de correção. Um modelo pode expressar alta confiança em uma resposta incorreta se estiver comportamentalmente "pronto" para se comprometer com ela.
  • Treinamento: Os objetivos de treinamento atuais podem recompensar sinais do tipo confiança que regulam o estilo de resposta e a cautela sem ancorá-los rigidamente à correção. Trabalhos futuros podem precisar visar a representação interna pós-resposta para alinhar melhor a confiança com a verdade, preservando comportamentos adaptativos como a abstenção.
  • Metacognição: As descobertas sugerem que os relatórios de confiança de LLMs podem funcionar de forma semelhante aos sinais metacognitivos de segunda ordem em humanos, construídos a jusante da escolha inicial e de outras pistas (ex: fluidez), em vez de serem uma leitura direta da evidência que impulsionou a escolha.

Os autores enfatizam que, embora a VC rastreie a correção acima do acaso, seu alinhamento desproporcional com o comportamento de comprometimento é uma característica fundamental de sua organização interna, distinguindo-a de medidas derivadas da distribuição de opções.