Resumo Técnico: HALLUHARD: Um Benchmark de Alucinação Difícil de Múltiplos Turnos

Declaração do Problema

Os Grandes Modelos de Linguagem (LLMs) continuam a gerar afirmações factuais plausíveis, mas não fundamentadas, um modo de falha conhecido como alucinação. Este problema é particularmente agudo em diálogos de múltiplos turnos e de código aberto, onde o contexto se acumula e erros precoces podem gerar um efeito cascata. Os benchmarks existentes frequentemente falham em capturar essa complexidade porque dependem de:

1. Domínios saturados: Tarefas de QA de formato curto ou classificação onde ferramentas de recuperação alcançam facilmente pontuações próximas da perfeição.
2. Formatos simplificados: Prompts de turno único que divergem do uso no mundo real.
3. Verificação limitada: Juízes que dependem de snippets de busca (ex: snippets do Google Search via APIs como Serper), perdendo detalhes enterrados em PDFs, tabelas ou seções específicas não capturadas por snippets.
4. Definições ambíguas: Confundir alucinação com falhas de seguimento de instrução ou erros de raciocínio.

Os autores argumentam que as avaliações atuais não testam suficientemente os modelos em conhecimentos de nicho e de alto risco ou na capacidade de verificar conteúdo contra fontes citadas em um cenário de múltiplos turnos.

Metodologia

1. O Benchmark HALLUHARD

Os autores introduzem o HALLUHARD, um benchmark composto por 950 perguntas semente em quatro domínios de alto risco onde o conhecimento de nicho é prevalente:

• Casos Jurídicos: Derivados de questões jurídicas verificadas (ex: SCALR, Rule QA) e materiais do Exame da Ordem da Califórnia.
• Perguntas de Pesquisa: Baseadas em abstracts do ArXiv, divididas entre artigos "de nicho" (5–30 citações) e "conhecidos" (>1000 citações), com um corte de 2023.
• Diretrizes Médicas: Extraídas de diretrizes públicas (ex: NICE) disponíveis antes de 2023.
• Codificação: Focada em quatro linguagens (Python, Scala, R, Elixir), testando para alucinações de instalação, importação e chamada de função.

Design de Múltiplos Turnos:
Para simular interações realistas, um "LLM Usuário" gera perguntas de acompanhamento naturais baseadas no histórico da conversa. O modelo alvo deve responder a esses turnos fornecendo citações inline para todas as asserções factuais. Esta configuração permite a avaliação da propagação de erros através dos turnos.

2. O Pipeline de Verificação (O Juiz)

O artigo propõe um pipeline de julgamento modular e inovador que melhora métodos existentes como o SAFE (Search-Augmented Factuality Evaluator):

• Extração de Alegações: Um LLM extrai alegações atômicas verificáveis da resposta do assistente.
• Recuperação de Evidência Iterativa: Ao contrário do SAFE, que usa um número fixo de chamadas de busca, este pipeline usa um planejador LLM para decidir quando a evidência é suficiente. Ele invoca a API Serper, mas vai além, buscando e analisando fontes de texto completo, incluindo PDFs, para verificar a fundamentação do conteúdo.
• Seleção de Contexto: HTMLs e PDFs recuperados são processados, e blocos de texto relevantes são selecionados via modelos de embedding para formar um pacote de evidências.
• Julgamento: O sistema avalia dois modos distintos de falha:
  • Fundamentação de Referência: A fonte citada existe e corresponde aos metadados da citação?
  • Fundamentação de Conteúdo: A fonte citada realmente suporta a alegação específica feita?
• Avaliação de Codificação: Para tarefas de codificação, onde citações são raras, o juiz avalia toda a resposta em busca de comandos de instalação, imports ou chamadas de função alucinados.

3. Configuração Experimental

O benchmark foi avaliado através de um conjunto diversificado de modelos proprietários de fronteira e de pesos abertos (ex: família GPT-5, Claude-4.5, Gemini-3, DeepSeek, Kimi, GLM-4.7). As avaliações incluíram configurações com e sem ferramentas de busca na web (WS). A taxa de alucinação ($H$) é calculada como a razão entre as alegações alucinadas e o total de alegações verificáveis extraídas.

Principais Resultados

1. Alucinações Persistentes em Modelos de Fronteira

Mesmo as configurações mais fortes exibem taxas de alucinação substanciais:

• Claude-Opus-4.5 com Busca na Web: ~30.2% de taxa de alucinação.
• GPT-5.2-thinking com Busca na Web: ~38.2% de taxa de alucinação.
• Sem Busca na Web: As taxas são significativamente maiores, frequentemente excedendo 60% para os principais modelos.
  Isso indica que a integração da busca na web não resolve totalmente a alucinação, particularmente para a fundamentação de conteúdo.

2. Fatores que Influenciam a Alucinação

• Posição do Turno: As taxas de alucinação geralmente aumentam em turnos posteriores para tarefas jurídicas, de pesquisa e médicas. Os autores atribuem isso ao "autocondicionamento", onde os modelos se condicionam em seus próprios erros anteriores (ex: repetindo citações incorretas). Por outro giác, as alucinações de codificação diminuem em turnos posteriores à medida que as tarefas se tornam mais focadas.
• Capacidade do Modelo: Modelos maiores (ex: GPT-5 vs. GPT-5-nano, Opus vs. Haiku) consistentemente alucinam menos.
• Esforço de Raciocínio: Habilitar modos de "pensamento" (thinking) reduz as alucinações em comparação com modos não-pensantes. No entanto, simplesmente aumentar o esforço de raciocínio não garante ganhos adicionais; em alguns casos, modelos de raciocínio produzem respostas mais longas e detalhadas que introduzem mais oportunidades de erro.
• Domínio e Tipo de Conhecimento:
  • Conteúdo vs. Referência: Erros de fundamentação de conteúdo (afirmar que uma fonte diz algo que ela não diz) são muito mais comuns do que erros de referência (citar uma fonte inexistente).
  • Conhecimento de Nicho: Os modelos têm grande dificuldade com fatos de nicho (ex: artigos obscuros, arte local), mas são mais propensos a se absterem diante de itens completamente fabricados.

3. Desempenho do Juiz

O juiz proposto alcança alta concordância com anotadores humanos (87.9% em fundamentação de conteúdo vs. 84.9% para OpenAI-WS e 81.8% para SAFE). A capacidade de processar PDFs de texto completo é identificada como um diferencial crítico, permitindo que o juiz detecte alucinações que juízes baseados em snippets perdem.

Significância e Alegações

O artigo afirma fornecer o primeiro benchmark projetado especificamente para geração de múltiplos turnos e de código aberto com um pipeline de avaliação verificável e passível de checagem de citações. Sua significância reside em:

1. Expor Limitações: Demonstrar que mesmo os modelos de ponta com busca na web falham em fundamentar o conteúdo de forma confiável em domínios de nicho e alto risco.
2. Refinar a Avaliação: Destacar que a verificação baseada em snippets é insuficiente para uma checagem de fatos rigorosa e que a recuperação de texto completo é necessária para uma avaliação precisa.
3. Compreender a Dinâmica do Erro: Revelar que as alucinações não são estáticas, mas evoluem com os turnos de conversa e são fortemente influenciadas pelo tipo de conhecimento (nicho vs. fabricado) e pelas capacidades de raciocínio do modelo.

Os autores concluem que, embora o pensamento eficaz e a busca na web ajudem, o desafio fundamental de fundamentar alegações detalhadas em conhecimento de nicho permanece, necessitando de uma melhor consciência de incerteza dos modelos e mecanismos de verificação mais robustos.