Resumo Técnico: Calibração Não é Suficiente: Avaliação da Estimativa de Confiança Sob Variações Linguísticas

Declaração do Problema

A Estimativa de Confiança (EC) é crítica para estabelecer a confiança do usuário em Modelos de Linguagem de Grande Escala (LLMs), particularmente em domínios de alto risco como medicina e direito. Os paradigmas de avaliação atuais focam principalmente na calibração (o alinhamento entre a confiança declarada e a precisão real, medido por métricas como ECE e pontuação Brier) e na discriminação (a capacidade de classificar respostas corretas acima das incorretas, medido por AUROC).

No entanto, essas métricas existentes ignoram uma propriedade fundamental da linguagem: a variabilidade. Expressões em linguagem natural podem variar significativamente na forma superficial (escolha de palavras, formulação) enquanto retêm significado semântico idêntico, ou, inversamente, variar ligeiramente na redação enquanto representam significados completamente diferentes. Os métodos existentes de EC são frequentemente avaliados sob condições estáticas, falhando em avaliar se as pontuações de confiança permanecem consistentes sob perturbações de prompts semanticamente equivalentes ou se se ajustam adequadamente quando o significado semântico de uma resposta muda. Um método pode ser bem calibrado em média, mas produzir pontuações de confiança flutuantes para entradas semanticamente idênticas, ou falhar em distinguir entre respostas semanticamente distintas, levando a comportamentos não confiáveis em aplicações do mundo real onde engenharia de prompts e variações de respostas são comuns.

Metodologia

Os autores propõem um novo quadro de avaliação baseado em três propriedades complementares que abordam especificamente a variação linguística. Essas métricas não exigem rótulos de correção de verdade fundamental, confiando em vez disso em múltiplas respostas geradas sob diferentes condições.

1. Métricas Propostas

• Robustez a Perturbações de Prompt (P-RB): Mede se um método de EC produz a mesma pontuação de confiança quando o prompt de entrada é alterado (por exemplo, instruções ou formulações diferentes) enquanto a resposta gerada permanece constante. Isso isola a variância do prompt do ruído de geração.
• Estabilidade entre Respostas Semanticamente Equivalentes (A-STB): Avalia se o método de EC atribui pontuações de confiança consistentes a diferentes respostas geradas que são semanticamente equivalentes (por exemplo, "Lente côncava" vs. "Côncava").
• Sensibilidade a Respostas Semanticamente Diferentes (A-SST): Mede se o método de EC atribui pontuações de confiança distintas quando o significado da resposta muda. Um método sensível deve detectar mudanças semânticas mesmo que a forma superficial seja similar.

2. Configuração Experimental

• Modelos: 11 LLMs de cinco famílias principais (Mistral, Llama 3, Qwen 2.5, OLMo 2, GPT-4o) variando de 7B a 123B parâmetros.
• Conjuntos de Dados: Quatro benchmarks de QA de resposta aberta (Natural Questions, SciQ, TriviaQA, PopQA) com 1.000 amostras de teste cada.
• Métodos de EC: 10 métodos diversos categorizados em:
  • Baseados em Logits: Probabilidade da Sequência, Probabilidades Reforçadas, Escalonamento de Platt, P(True).
  • Linguísticos: Confiança Verbalizada.
  • Auxiliares: Calib-1 (classificador treinado).
  • Estados Internos: Pontuação de Atenção, Pontuação Oculta, SAPLMA, P(IK).
• Procedimento:
  • Robustez: Decodificação gulosa com 10 variações de prompts semanticamente equivalentes.
  • Estabilidade/Sensibilidade: Decodificação estocástica (temperatura 0,7) para gerar 10 respostas amostradas por prompt. A equivalência semântica é determinada usando um LLM como juiz (GPT-4o).

Principais Resultados

1. Independência de Métricas Tradicionais

As métricas propostas (P-RB, A-STB, A-SST) são amplamente independentes das métricas tradicionais de calibração e discriminação (ECE, Brier, AUROC). A análise de correlação (Kendall's $\tau$) mostra correlações fracas (por exemplo, $\tau=0,26$ entre Sensibilidade e AUROC), indicando que as novas métricas capturam aspectos previamente ignorados da qualidade da confiança.

2. Desempenho dos Métodos de EC

• Alta Robustez e Estabilidade: A maioria dos métodos de EC alcança pontuações altas em robustez e estabilidade, sugerindo que são geralmente consistentes quando prompts ou respostas semanticamente equivalentes variam.
• Falta Crítica de Sensibilidade: A descoberta mais significativa é que quase todos os métodos lutam com sensibilidade. Eles falham em ajustar as pontuações de confiança quando o significado da resposta muda.
  • Métodos que dependem de informações do lado da geração (por exemplo, P(True), SAPLMA, Probabilidade da Sequência) mostram maior sensibilidade.
  • Métodos que dependem exclusivamente de informações do lado da pergunta ou tokens finais da pergunta (por exemplo, P(IK)) são quase completamente insensíveis a mudanças na resposta (A-SST $\approx$ 0).
  • Métodos de escalonamento post-hoc (por exemplo, Escalonamento de Platt) tendem a comprimir diferenças de confiança, reduzindo ainda mais a sensibilidade.

3. Leis de Escala

Embora modelos maiores geralmente mostrem calibração aprimorada, a melhoria nas métricas propostas (robustez, estabilidade, sensibilidade) com a escala do modelo é leve e inconsistente. A escala por si só não resolve o problema de sensibilidade, sugerindo que o tamanho do modelo não é um proxy suficiente para lidar com a variação linguística na estimativa de confiança.

4. Nenhum Método Universalmente Melhor

Nenhum método único de EC supera os outros em todas as métricas e conjuntos de dados. Por exemplo, P(IK) alcança o melhor Mean Reciprocal Rank (MRR) geral, mas desempenha mal em robustez e sensibilidade. Isso destaca uma compensação: métodos otimizados para calibração frequentemente carecem de sensibilidade, e vice-versa.

Significado e Alegações

O artigo argumenta que a calibração não é suficiente para avaliar estimadores de confiança em aplicações do mundo real. Os autores afirmam:

1. Limitações Ignoradas: As avaliações atuais falham em detectar que os métodos de EC frequentemente produzem pontuações de confiança não confiáveis sob variações linguísticas, especificamente falhando em distinguir entre respostas semanticamente diferentes.
2. Orientação para Aplicação: A escolha de um método de EC deve ser específica da aplicação.
   • Sistemas de QA voltados para o usuário podem priorizar a robustez para manter um comportamento consistente sob variações de prompts.
   • Ranqueamento de múltiplos candidatos ou configurações de LLM como juiz exigem sensibilidade para distinguir efetivamente entre respostas concorrentes.
   • Ambientes controlados com prompts fixos ainda podem depender de métricas tradicionais de calibração.
3. Direção Futura: A falta de sensibilidade observada sugere que os métodos de EC devem aproveitar melhor as informações do lado da geração (por exemplo, o texto gerado completo ou estados intermediários) em vez de depender exclusivamente de representações baseadas em prompts ou tokens de pergunta.

Os autores concluem que seu quadro fornece uma lente necessária e complementar para avaliar a EC, expondo limitações que as métricas tradicionais ignoram e oferecendo orientação prática para a seleção de estimadores com base em necessidades específicas de implantação.