Beyond "I Don't Know": Evaluating LLM Self-Awareness in Discriminating Data and Model Uncertainty

Título: Além do "Não Sei": Avaliando a Autoconsciência de LLMs na Discriminação entre Incerteza de Dados e Incerteza de Modelo

1. O Problema

Os Grandes Modelos de Linguagem (LLMs) confiáveis devem ser capazes de se abster de responder quando não possuem confiança suficiente. No entanto, estudos anteriores tratam a recusa (abstenção) como uma decisão genérica de "Não sei" (I don't know), falhando em distinguir a origem da incerteza. O artigo identifica duas fontes fundamentais de incerteza que exigem ações diferentes:

• Incerteza de Dados (Data Uncertainty): Ocorre quando a pergunta é ambígua, mal especificada ou carece de informações críticas para uma resposta única (ex: "Quantos metros James corre?" sem especificar a distância da corrida). A ação correta é solicitar esclarecimentos ao usuário.
• Incerteza de Modelo (Model Uncertainty): Ocorre quando a pergunta tem uma resposta única e objetiva, mas excede as capacidades atuais do modelo (ex: cálculos complexos ou conhecimento factual ausente). A ação correta seria invocar ferramentas externas ou admitir limitações de capacidade.

A falta de distinção entre essas categorias impede decisões orientadas a downstream (como usar ferramentas vs. pedir ajuda) e leva a alucinações ou recusas inadequadas.

2. Metodologia

A. UA-Bench (Benchmark de Atribuição de Incerteza)
Os autores introduzem o UA-Bench, um benchmark composto por mais de 3.500 perguntas extraídas de seis conjuntos de dados, cobrindo tarefas intensivas em conhecimento (ex: GAIA, MuSiQue) e raciocínio (ex: OlympiadBench, GSM8K).

• Definição da Tarefa: O modelo deve gerar um raciocínio passo a passo e, em seguida, classificar a saída em uma de três categorias mutuamente exclusivas:
  1. Resposta: Se o modelo pode derivar a resposta com confiança.
  2. Incerteza de Dados: Se a pergunta é ambígua ou incompleta.
  3. Incerteza de Modelo: Se a pergunta é bem definida, mas o modelo não consegue resolvê-la.
• Métricas de Avaliação: Além da precisão da resposta (ACC), utilizam-se métricas F1 normalizadas para avaliar a capacidade de atribuição:
  • DU-F1: Precisão na detecção de perguntas com incerteza de dados.
  • MU-F1: Precisão na detecção de limitações de capacidade do modelo.
  • AVG-F1: Média das duas.

B. Abordagem de Treinamento (RL-UA)
Para mitigar a incapacidade dos modelos de distinguir essas incertezas, os autores propõem uma estratégia leve de Aprendizado por Reforço (RL) baseada em dados sintéticos:

• Geração de Dados: A partir do conjunto dapo-math, criam-se três tipos de instâncias:
  1. Problemas Originais: Para manter a capacidade de raciocínio.
  2. Variantes Extremamente Difíceis: Problemas bem definidos, mas além da capacidade do modelo (simulando Incerteza de Modelo).
  3. Variantes com Informação Insuficiente: Problemas com dados removidos (simulando Incerteza de Dados).
• Função de Recompensa:
  • +1: Resposta correta OU classificação correta da incerteza.
  • 0: Resposta incorreta, mas o modelo se abstém honestamente identificando a "Incerteza de Modelo".
  • -1: Alucinação (resposta incorreta sem abstenção) ou classificação errada da incerteza.
• Algoritmo: Utilização do GRPO (Group Relative Policy Optimization) no framework VeRL.

3. Principais Contribuições

1. Distinção Conceitual: Estabelece uma distinção prática e fundamental entre incerteza de dados (problema na entrada) e incerteza de modelo (limitação na capacidade), argumentando que identificar a fonte é crucial para comportamentos seguros.
2. Novo Benchmark (UA-Bench): Criação de um benchmark abrangente que avalia não apenas se o modelo se abstém, mas por que ele se abstém, cobrindo tarefas de conhecimento e raciocínio.
3. Avaliação de Estado da Arte: Avaliação de 18 modelos de ponta (incluindo Qwen3, GPT-4o/5, Claude, Gemini), revelando que modelos SOTA têm dificuldade em discriminar os tipos de incerteza e que alta precisão de resposta não garante boa atribuição de incerteza.
4. Método de Melhoria (RL-UA): Proposta de uma abordagem de RL simples e eficaz que melhora a atribuição de incerteza em diferentes escalas de modelos e estilos de raciocínio (incluindo "Thinking Mode") sem degradar a precisão das respostas.

4. Resultados

• Desempenho dos Modelos Atuais:
  • A maioria dos modelos (incluindo os maiores e fechados) luta para distinguir incerteza de dados de incerteza de modelo.
  • Modelos com "Thinking Mode" (raciocínio explícito) muitas vezes apresentam pior atribuição de incerteza de modelo (MU-F1) do que suas versões sem raciocínio, apesar de terem maior precisão de resposta. Isso sugere um viés onde o modelo, ao falhar em um raciocínio complexo, atribui a falha à ambiguidade da pergunta em vez de sua própria limitação.
  • Exemplo: O Qwen3-235B no modo de raciocínio teve sua MU-F1 cair de 84,8% para 0,0% em tarefas de raciocínio, enquanto a precisão aumentou.
• Impacto do RL-UA:
  • A aplicação do treinamento com RL melhorou significativamente a MU-F1 (ex: de 7,6% para 20,7% no Qwen3-4B e de 35,6% para 54,1% no Qwen3-8B em tarefas de raciocínio).
  • O método corrigiu padrões de falha sistemáticos, como o modelo culpar os dados por suas próprias limitações de raciocínio ou tratar ambiguidades inerentes como falta de conhecimento factual.
  • A precisão das respostas (ACC) foi mantida ou levemente melhorada, demonstrando que a abstenção inteligente não prejudica a capacidade geral de resposta.

5. Significância e Conclusão

Este trabalho destaca que a simples capacidade de dizer "não sei" é insuficiente para LLMs confiáveis em ambientes interativos e orientados a ferramentas. A capacidade de atribuir a causa da incerteza é um pré-requisito para a tomada de decisão adaptativa (ex: saber quando chamar uma ferramenta de busca vs. quando pedir ao usuário para reformular a pergunta).

O UA-Bench fornece uma base padronizada para avaliar essa autoconsciência, e a estratégia de RL-UA demonstra que é possível treinar modelos para serem mais honestos sobre suas limitações e mais precisos na identificação de problemas mal formulados, sem sacrificar sua competência em resolver problemas factíveis. Isso é um passo crucial para a implantação segura de agentes de IA em cenários de alto risco.