Screen Before You Interpret: A Portable Validity Protocol for Benchmark-Based LLM Confidence Signals

Título: Rastreie Antes de Interpretar: Um Protocolo Portátil de Validade para Sinais de Confiança de LLM Baseados em Benchmarks

Autor: Jon-Paul Cacioli (Pesquisador Independente, Melbourne, Austrália)
Contexto: O artigo propõe um protocolo obrigatório para validar sinais de confiança de Grandes Modelos de Linguagem (LLMs) antes de qualquer análise subsequente, inspirado em práticas clínicas de avaliação psicológica.

---

1. O Problema: Confiança Não Rastreada

Atualmente, a literatura sobre metacognição de LLMs, calibração e previsão seletiva assume que o sinal de confiança do modelo carrega informações úteis sobre a correção da resposta. Esses sinais são usados para:

• Abstenção (recusar responder quando inseguro).
• Roteamento de tarefas.
• Decisões críticas de segurança.

A Lacuna: Nenhuma prática padrão verifica se o sinal de confiança é realmente interpretável ou se é dominado por "estilos de resposta" (como confiança cega em tudo ou recusa sistemática) antes de construir métricas sobre ele. Sem essa verificação, sistemas downstream podem estar otimizando ruído em vez de informação, criando uma falsa sensação de segurança.

2. Metodologia: O Protocolo de Duas Etapas

O autor transfere o princípio da avaliação de personalidade clínica (especificamente dos testes MMPI-3 e PAI) para a avaliação de LLMs. A premissa é que, assim como em testes psicológicos, não se deve interpretar escalas substantivas sem antes garantir a validade da resposta.

O protocolo consiste em uma arquitetura de duas etapas:

Etapa A: Rastreamento de Validade (Screening)

Determina se o sinal de confiança é interpretável. Só se avança para a Etapa B se o sinal for classificado como "Válido".

• Entrada: Uma tabela de contingência 2x2 (Correto/Incorreto x Alta/Baixa Confiança).
• Índices Principais:
  1. L (Under-reporting): Proporção de itens incorretos com alta confiança ($P(\text{alta} | \text{incorreto})$). Valores altos indicam que o modelo mantém confiança mesmo errando.
  2. Fp (Over-reporting): Proporção de itens corretos com baixa confiança ($P(\text{baixa} | \text{correto})$). Valores altos indicam recusa excessiva ou falta de confiança em respostas certas.
  3. RBS (Inverted Monitoring): Um índice que detecta se a confiança está invertida (mais baixa no correto do que no incorreto).
  4. TRIN (Structural Indicator): Medida de resposta fixa (padrão de resposta dominante), usada como aviso estrutural, não como critério único de invalidação.
  5. $r(\text{confiança}, \text{correto})$: Correlação ponto-biserial entre o nível de confiança e a correção da resposta.

Classificação em Três Níveis (Three-Tier System)

Baseada em tradições clínicas (MMPI-3, MCMI, Jacobson-Truax):

1. Inválido (Invalid): Violação clara de limiares (ex: $L \geq 0.95$, $Fp \geq 0.50$, ou $RBS > 0$). O sinal não é interpretável. Métricas subsequentes não devem ser usadas.
2. Indeterminado (Indeterminate): Violação no ponto estimado, mas o intervalo de confiança inclui valores válidos, ou o sinal está na borda da inversão. Métricas podem ser calculadas, mas devem ser sinalizadas como potencialmente atenuadas.
3. Válido (Valid): Nenhuma violação de limiar. O sinal carrega informação em nível de item e permite análise substantiva.

Etapa B: Análise Substantiva

Realizada apenas se a Etapa A for aprovada. Envolve o cálculo de métricas como AUROC, calibração (ECE), sensibilidade metacognitiva ($meta-d'$) e ganho de previsão seletiva.

3. Contribuições Principais

1. Protocolo Portátil: Um método agnóstico ao benchmark que pode ser aplicado a qualquer conjunto de dados com rótulos de correção e saídas de confiança binarizáveis.
2. Conjunto Mínimo de Índices: Define quais estatísticas são necessárias para detectar falhas estruturais (L, Fp, RBS) sem depender de métricas agregadas complexas que mascaram problemas.
3. Sistema de Classificação de Três Níveis: Introduz a categoria "Indeterminado" para lidar com casos limítrofes e incertezas estatísticas, evitando classificações binárias prematuras.
4. Tabela de Relato Mínimo (VRS Table): Estabelece um padrão de relatórios obrigatórios para qualquer estudo que use métricas de confiança, garantindo transparência.
5. Demonstração de Falha: Prova que modelos classificados como "Inválidos" produzem métricas downstream (como AUROC) que são essencialmente aleatórias ou enganosas.

4. Resultados e Validação

O protocolo foi validado em 20 modelos de ponta (6 famílias) em 524 itens e em validações cruzadas externas.

• Classificação dos Modelos:
  • 4 Inválidos: Modelos como DeepSeek-R1 (monitoramento invertido massivo) e Gemini 3.1 Pro (confiança cega em erros).
  • 2 Indeterminados: Modelos com sinais fracos ou próximos ao limiar.
  • 14 Válidos: Modelos onde a confiança correlaciona-se positivamente com a correção.
• Evidência Empírica:
  • Modelos válidos mostraram uma correlação média positiva significativa ($r \approx 0.18$) entre confiança e correção.
  • Modelos inválidos mostraram correlação média negativa ou nula ($r \approx -0.20$).
  • Falha Crítica: Modelos inválidos, quando analisados sem o rastreamento, apresentaram AUROC próximo ao acaso (0.50) ou negativo. Um sistema de abstenção baseado nesses modelos pioraria a precisão em vez de melhorá-la.
• Validação Cruzada:
  • O protocolo foi testado em dados externos (Yang et al., 2024) e em um formato diferente (confiança verbalizada 0-100 no MMLU).
  • Descoberta Chave: A validade é uma propriedade da interação entre modelo, sonda e tarefa. Modelos que falharam no formato binário (KEEP/WITHDRAW) passaram no formato verbalizado, indicando que o problema muitas vezes é o formato de elicitação, não a capacidade intrínseca do modelo.

5. Significado e Implicações

• Mudança de Paradigma: O artigo argumenta que relatar métricas de confiança sem rastreamento de validade é metodologicamente incompleto, análogo a interpretar escalas clínicas sem verificar escalas de validade.
• RLHF como Viés: Sugere que o Reinforcement Learning from Human Feedback (RLHF) pode induzir "estilos de resposta" (como confiança excessiva) que distorcem os sinais de metacognição, similar a como a preparação forense afeta testes psicológicos humanos.
• Segurança e Confiabilidade: Para aplicações críticas, usar sinais de confiança não validados é perigoso, pois pode levar a sistemas que confiam cegamente em erros ou rejeitam respostas corretas.
• Reprodutibilidade: A introdução da Tabela VRS permite que a comunidade científica diferencie achados genuínos de artefatos de estilo de resposta, tornando os estudos de LLMs mais robustos e comparáveis.

Conclusão

O autor conclui que "Rastrear antes de Interpretar" deve ser um passo obrigatório na avaliação de LLMs. O custo computacional é mínimo (uma tabela 2x2 e cinco cálculos), mas o benefício é a garantia de que as métricas de confiança subsequentes têm significado real. O protocolo não julga a qualidade do modelo, mas sim a interpretabilidade do sinal de confiança sob as condições de teste específicas.