Resumo Técnico: Repensando a Avaliação para Detecção de Alucinações em LLMs

Declaração do Problema

Modelos de Linguagem de Grande Escala (LLMs) frequentemente geram conteúdo não fiel, fabricado ou inconsistente, conhecido como alucinações. Embora esforços significativos tenham sido dedicados à detecção dessas alucinações e à criação de conjuntos de dados de referência (Benchmarks de Detecção de Alucinações ou HDBs), os autores identificam lacunas críticas na literatura atual. Especificamente, os benchmarks existentes frequentemente falham em refletir cenários de uso do mundo real, particularmente aqueles envolvendo Geração Aumentada por Recuperação (RAG) com contextos longos. Além disso, muitos benchmarks dependem de alucinações não orgânicas (injetadas) ou carecem de ruído de rótulo realista, levando a uma superestimação do desempenho dos detectores e à falha em testar a resistência dos modelos contra os dados ruidosos prevalentes em aplicações do mundo real.

Metodologia

1. Requisitos para HDBs

Os autores estabelecem primeiro um conjunto de sete propriedades desejáveis (requisitos) que um benchmark eficaz de detecção de alucinações deve exibir:

• D1. Alucinações Orgânicas: O conteúdo deve ser gerado naturalmente por LLMs, não injetado manualmente ou solicitado para alucinar.
• D2. Rótulos de Teste Verificados por Humanos: Os rótulos de avaliação devem ser confiáveis, idealmente verificados por múltiplos anotadores humanos especialistas.
• D3. Tarefas de Contexto Longo: Os benchmarks devem cobrir tarefas de alta demanda e intensivas em conhecimento (como RAG) onde o contexto é longo e as alucinações são difíceis de identificar para humanos.
• D4. Rótulos de Treinamento Realistas: Os dados de treinamento devem incluir ruído de rótulo realista (tanto dependente de amostra quanto independente de amostra) para refletir supervisão fraca ou anotação humana imperfeita.
• D5. Tipos Abrangentes de Alucinação: Cobertura de alucinações tanto intrínsecas (inconsistentes com o contexto) quanto extrínsecas (inverificáveis pelo contexto).
• D6. Diversidade de LLMs: As gerações devem vir de múltiplos LLMs modernos para garantir o rastreamento imparcial do progresso.
• D7. Múltiplos Domínios: Os dados devem abranger domínios diversos para testar a generalização.

2. Revisão Crítica de Benchmarks Existentes

Os autores analisam 24 HDBs existentes contra esses requisitos. Eles constatam que nenhum benchmark existente satisfaz todas as sete propriedades. As lacunas principais identificadas incluem:

• Uma grave falta de benchmarks baseados em RAG com contextos longos.
• A ausência de ruído de rótulo realista em conjuntos de treinamento, apesar da prevalência de rótulos ruidosos no aprendizado supervisionado do mundo real.
• Muitos benchmarks dependem de alucinações não orgânicas (por exemplo, alucinações solicitadas), que são mais fáceis de detectar do que as orgânicas.

3. O Benchmark TRIVIA+

Para abordar essas lacunas, os autores introduzem o TRIVIA+, um novo HDB baseado em RAG.

• Construção de Dados: O conjunto de dados utiliza prompts de conjuntos de dados estabelecidos (TRIVIAQA, NaturalQuestions, MS-MARCO, CovidQA, DROP). Um LLM comercial SOTA (>150B parâmetros) e modelos de código aberto (Gemma-7b, Mixtral-8x7b) geram as respostas.
• Filtragem Orgânica: Para enriquecer a proporção de alucinações verdadeiras sem alterar a natureza orgânica do texto, os autores filtram por baixa sobreposição ROUGE (<0,1) entre a resposta gerada e a verdade fundamental.
• Processo de Anotação:
  • Rótulos: Os anotadores classificam as sentenças como 'Suportada', 'Contraditada', 'Não Mencionada' ou 'Suplementar'. Estes mapeiam para rótulos binários 'Fiel' ou 'Não Fiel'.
  • Confiabilidade: Um processo de votação em múltiplos estágios (até 6 anotadores por amostra) garante rótulos de teste de alta qualidade.
  • Geração de Ruído: Para o treinamento, os autores geram quatro conjuntos de rótulos ruidosos:
    1. Supervisão Fraca (WS): Rótulos de um LLM como Juiz.
    2. Trabalhador Dissidente (DW): Simulando lacunas no treinamento de anotadores usando rótulos de anotadores específicos que discordam.
    3. Rótulo Dissidente (DL): Simulando controle de qualidade imperfeito substituindo aleatoriamente rótulos por outros discordantes.
    4. Inversão Aleatória (RF): Inversão aleatória de rótulos (ruído independente de amostra).

4. Configuração Experimental

Os autores avaliam detectores populares de última geração no TRIVIA+ e em outros HDBs baseados em RAG (HaluEval, RAGTruth, Dolly).

• Detectores Testados:
  • Não Supervisionados: SelfCheckGPT (usando GPT-4-mini e Claude-Sonnet-3.5), LLM como Juiz.
  • Supervisionados: Few-shot (FS), Otimizado por Prompt (PO) e Ajuste Fino Supervisionado (SFT) do Mistral-7B-Instruct.
• Análise de Ruído: Os experimentos investigam o impacto de rótulos ruidosos tanto no treinamento (usando conjuntos de treinamento ruidosos) quanto na avaliação (usando conjuntos de teste ruidosos).

Resultados Principais

1. Desempenho em Benchmarks Orgânicos vs. Não Orgânicos

• Não Orgânico (HaluEval): Os detectores performam excepcionalmente bem, com SFT alcançando uma pontuação F1 de 0,996. Os autores atribuem isso à separabilidade das alucinações solicitadas.
• Orgânico (TRIVIA+, RAGTruth): O desempenho cai significativamente. No TRIVIA+, a melhor pontuação F1 é 0,694 (LLM como Juiz), e o SFT alcança apenas 0,663. Isso indica uma grande lacuna entre as capacidades atuais e o teto de desempenho para alucinações orgânicas baseadas em RAG.

2. A Competitividade do LLM como Juiz

Contrariando a literatura anterior que sugere que métodos supervisionados superam abordagens zero-shot, os autores constatam que uma linha de base simples de LLM como Juiz performa competitivamente com, e às vezes melhor do que, modelos ajustados finamente supervisionados em benchmarks orgânicos.

3. Impacto do Ruído de Rótulo

• Viés de Avaliação: Quando os detectores são avaliados em rótulos de teste ruidosos (por exemplo, rótulos WS), as métricas de desempenho podem ser tendenciosamente otimistas (por exemplo, o F1 do SFT aparece como 0,708 em rótulos WS versus 0,663 em rótulos limpos).
• Obstáculo ao Treinamento: Rótulos de treinamento ruidosos dificultam significativamente os detectores supervisionados, particularmente aqueles que usam ajuste fino global (SFT). O desempenho do SFT cai de 0,663 (limpo) para ~0,63–0,64 com rótulos ruidosos. Em contraste, métodos locais como Few-Shot (FS) e Otimizado por Prompt (PO) mostram maior robustez ao ruído de treinamento.
• Ruído Dependente de Amostra: O ruído dependente de amostra (DW, DL) é mais prejudicial ao desempenho de detecção do que o ruído aleatório (RF).

4. Desafios de Contexto Longo

• Comprimento do Contexto: Os detectores degradam-se abruptamente em contextos longos (>5K caracteres). No TRIVIA+, as pontuações F1 caem de 0,09 a 0,23 para contextos longos em comparação com os curtos.
• Limitações Estruturais: Detectores baseados em atenção (como ReDeEP) enfrentam restrições de memória; 14–22% das amostras do TRIVIA+ não puderam ser processadas devido a limites de comprimento de sequência em hardware padrão.

Significado e Afirmações

O artigo afirma que suas descobertas e o benchmark proposto TRIVIA+ motivarão e fomentarão a pesquisa necessária na detecção de alucinações para tarefas baseadas em RAG. O significado reside em:

1. Expor a Lacuna: Demonstrar que os detectores atuais deixam "amplo espaço" para alcançar os tetos de desempenho em tarefas RAG realistas e orgânicas.
2. Padrões de Benchmarking: Fornecer um framework rigoroso (os sete requisitos) para avaliar futuros benchmarks, destacando que os existentes frequentemente falham em atender critérios essenciais como geração orgânica e verificação humana.
3. Consciência de Ruído: Estabelecer que o ruído de rótulo realista é um fator crítico que prejudica o desempenho de detecção, instando a comunidade a adotar técnicas de aprendizado robustas (Aprendizado com Rótulos Ruidosos) para este domínio.
4. Realidade de Contexto Longo: Destacar os desafios específicos impostos por tarefas RAG de contexto longo, que estão atualmente sub-representadas na literatura, mas centrais para a implantação moderna de LLMs.

Os autores concluem que trabalhos futuros devem focar no desenvolvimento de detectores generalizáveis entre domínios e benchmarks equipados com ruído realista para refletir melhor os desafios de implantar LLMs em domínios sensíveis do mundo real.