Concurrent Criterion Validation of a Validity Screen for LLM Confidence Signals via Selective Prediction

1. O Problema

O artigo aborda uma lacuna crítica na aplicação de modelos de Linguagem (LLMs) em cenários de produção: a falta de validação de sinais de confiança (confidence signals) antes do seu uso em sistemas de decisão.

• Contexto: Estudos anteriores (Cacioli, 2026d, 2026e) desenvolveram um protocolo de triagem psicométrica para classificar a validade dos dados de confiança de LLMs em três categorias: Inválido, Indeterminado ou Válido, baseando-se em índices clínicos (semelhantes a escalas do PAI/MMPI-3).
• A Lacuna: A limitação principal desses estudos anteriores era a ausência de um critério de implantação. Não havia sido demonstrado se essa classificação psicométrica previa, de fato, o desempenho operacional do modelo em tarefas reais, especificamente na predição seletiva (selective prediction).
• Risco: Se um sistema de implantação usar a confiança de um modelo "inválido" para decidir quando abster-se de responder (abstention) ou encaminhar tarefas, o sistema pode falhar catastróficamente, rejeitando respostas corretas ou aceitando erros.

2. Metodologia

O estudo realiza uma validação de critério concorrente utilizando o mesmo conjunto de dados do estudo de derivação, mas com uma análise focada em métricas de desempenho de implantação.

• Dados e Modelos:
  • Amostra: 20 modelos LLM de ponta de 7 famílias (Anthropic, OpenAI, Google, Qwen, DeepSeek, Zhipu).
  • Dataset: 524 itens distribuídos em 6 trilhas cognitivas (Metacognição, Cognição Social, Atenção, etc.), totalizando 10.480 observações.
  • Provas: Respostas binárias de "MANTER/RETIRAR" (KEEP/WITHDRAW) e "APOSTAR/NÃO APOSTAR" (BET/NO BET).
• Protocolo de Triagem:
  • O script validity_screen.py classifica os modelos em três níveis baseados em índices como L (taxa de retenção), Fp (falso positivo), RBS (resposta de viés de resposta) e a correlação entre confiança e correção (r).
• Métrica de Critério (Desempenho):
  • Predição Seletiva: O estudo testa se o modelo consegue melhorar sua precisão ao reter apenas os itens de maior confiança.
  • Métricas Principais:
    • AUROC Tipo 2: Capacidade de discriminar respostas corretas das incorretas com base na confiança (0.5 = acaso; <0.5 = invertido).
    • Ganho Seletivo: Aumento de precisão em diferentes níveis de cobertura (ex: reter apenas 70% ou 50% dos itens).
    • Curvas de Risco-Cobertura: Precisão em função da cobertura.
• Análises Estatísticas:
  • Comparação de grupos (ANOVA, Mann-Whitney U).
  • Validação cruzada split-half (1.000 divisões aleatórias dos dados para testar a generalização dentro da amostra).
  • Análise de correlação e variância explicada ($\eta^2$).

3. Principais Contribuições

1. Ponte entre Psicometria e ML: Estabelece a primeira ligação de validade de constructo entre índices psicométricos clínicos e métricas de aprendizado de máquina de implantação. Demonstra que a metodologia clínica transfere-se para validar sinais de confiança de IA.
2. Validação de Critério Concorrente: Prova que a classificação de "Válido/Inválido" prevê diretamente o sucesso ou fracasso na predição seletiva.
3. Diagnóstico de Falhas: Identifica modos de falha distintos para modelos inválidos (ex: inversão catastrófica vs. confiança cega/blanket confidence), permitindo diagnósticos mecanísticos que métricas agregadas (como apenas AUROC baixo) não fornecem.
4. Protocolo de Triagem Operacional: Oferece um método barato e interpretável para verificar se um modelo é seguro para uso em sistemas de abstenção antes da implantação.

4. Resultados Chave

• Correlação entre Classificação e Desempenho:

  • Modelos Válidos (n=14): Apresentaram AUROC médio de .624 (todos acima do acaso). Mostraram ganho positivo na precisão ao reduzir a cobertura (ex: +3.1 pontos percentuais a 70% de cobertura).
  • Modelos Inválidos (n=3): Apresentaram AUROC médio de .357 (abaixo do acaso, indicando inversão).
    • DeepSeek-R1: Inversão catastrófica. Ao selecionar os itens mais confiáveis, a precisão caiu de 85.3% para 11.3% em 10% de cobertura. O modelo estava "confiante" em erros.
    • Gemini 3.1 Pro e Qwen 80B Think: "Confiança Cega" (Blanket Confidence). Retinham quase tudo (96-99%), sem discriminação útil.
  • Modelos Indeterminados (n=3): AUROC médio de .554. Sinais fracos ou ambíguos, não suficientes para classificação definitiva, mas não necessariamente invertidos.

• Estatísticas de Diferença de Grupo:

  • A diferença entre os grupos Válidos e Inválidos é grande e significativa: d de Cohen = 2.81, $p = .002$.
  • A classificação de três níveis explica 47.0% da variância ($\eta^2 = .470$) no desempenho de discriminação (AUROC).
  • A ordem é monotônica: Inválido (.357) < Indeterminado (.554) < Válido (.624).

• Validação Cruzada (Split-Half):

  • Mesmo dividindo os dados ao meio (treinar na metade, testar na outra), a diferença de efeito permaneceu robusta (mediana $d = 1.77$), com 100% das iterações mostrando $d > 0$.

• Estabilidade por Domínio:

  • A validade opera também no nível de domínio específico. A correlação entre a sensibilidade do item por trilha e o AUROC foi forte ($\rho = .788$). No entanto, modelos válidos no agregado podem falhar em domínios específicos (ex: Sonnet 4.6 teve desempenho abaixo do acaso em "Regulação Prospectiva").

5. Significado e Implicações

• Segurança em Implantação: O estudo demonstra que confiar cegamente na confiança verbalizada de um LLM para sistemas críticos (como saúde ou segurança) é perigoso sem uma triagem prévia. Modelos "Inválidos" podem piorar o desempenho do sistema se usados para abstenção.
• Interpretação de Métricas: Um AUROC de 0.52 pode parecer "quase acaso", mas sem o contexto da triagem, não revela se o modelo está invertido (perigoso) ou apenas neutro. A triagem adiciona a camada de diagnóstico necessária.
• Limitações Reconhecidas:
  • A validação é concorrente (mesmo dataset), não prospectiva em novos benchmarks (ex: MMLU, GSM8K).
  • A amostra é pequena (20 modelos) e agrupada por famílias, limitando inferências estatísticas complexas sobre arquitetura.
  • Sensível ao design da prova (provas binárias podem não capturar nuances em modelos de alta precisão).
• Recomendação Prática: Antes de implantar um sistema que usa confiança para tomada de decisão, deve-se executar a triagem de validade. Se o modelo for classificado como "Inválido", a confiança não deve ser usada para abstenção. Se for "Indeterminado", deve ser tratado com cautela extrema.

Em resumo, o artigo valida que os índices psicométricos propostos são preditores robustos do comportamento operacional de LLMs em tarefas de predição seletiva, fornecendo uma ferramenta essencial para a governança e segurança de IA.