Resumo Técnico: Verificar quando Incerteza: Além da Autoconsistência na Detecção de Alucinações em Caixa Preta

Declaração do Problema

Grandes Modelos de Linguagem (LLMs) frequentemente produzem alucinações — conteúdo plausível, mas factualmente incorreto — o que compromete sua confiabilidade em aplicações sensíveis. Detectar essas alucinações em configurações de caixa preta (onde apenas os outputs do modelo são acessíveis, não os estados internos ou logits) é um desafio crítico. As abordagens existentes baseiam-se primariamente na autoconsistência: a intuição de que um modelo gerando uma resposta correta produzirá respostas mutuamente implicantes quando amostradas estocasticamente, enquanto as alucinações resultam em outputs inconsistentes. No entanto, permanece incerto se os métodos de autoconsistência atingiram seu teto de desempenho dado o limite de informações disponíveis em cenários de caixa preta, e como melhorar a detecção sem incorrer em custos computacionais proibitivos.

Metodologia

1. Analisando o Teto da Autoconsistência

Os autores primeiro formalizam os métodos de autoconsistência existentes (ex: Entropia Semântica, Distância Média Pareada, métricas baseadas em Autovalores) como funções $f$ aplicadas a uma matriz de autoentendimento $P^{self}$. Para determinar o limite de desempenho teórico deste paradigma, eles treinam Redes Neurais Convolucionais em Grafos (GCNs) para aproximar a função ótima $f$ que mapeia $P^{self}$ para o rótulo de alucinação da verdade fundamental (ground-truth).

• Descoberta: Resultados empíricos em múltiplos LLMs (Llama-2, Llama-3, Mixtral) e conjuntos de dados (SQuAD, TriviaQA) mostram que os métodos existentes já performam quase tão bem quanto este oráculo supervisionado. Isso sugere que ganhos adicionais dentro do paradigma de apenas autoconsistência são limitados.

2. Introduzindo a Consistência entre Modelos (Cross-Model Consistency)

Para ultrapassar o teto da autoconsistência, o artigo propõe incorporar um modelo verificador ($M_v$) para verificar a consistência entre o modelo alvo ($M_t$) e o verificador.

• Mecanismo: Uma matriz de cross-entendimento $P^{cross}$ é construída comparando amostras de $M_t$ e $M_v$.
• Insight Teórico: Mesmo que o verificador seja mais fraco que o modelo alvo, o acordo ou desacordo entre os dois fornece informações que a autoconsistência sozinha não consegue capturar.
• Combinação Linear: Os autores demonstram que uma simples média ponderada das métricas de autoconsistência e cross-consistência, $(1-\lambda)MPD(P^{self}) + \lambda MPD(P^{cross})$, pode alcançar um desempenho muito próximo ao teto teórico derivado do oráculo GCN.

3. Algoritmo de Detecção em Dois Estágios Consciente de Orçamento

Reconhecendo que consultar um verificador para cada pergunta introduz um overhead computacional significativo (especialmente se o verificador for um modelo grande), os autores propõem um algoritmo adaptativo de dois estágios:

1. Estágio 1 (Autoconsistência): Computa o escore de autoconsistência ($s_{self}$).
   • Se $s_{self}$ estiver abaixo de um limite inferior $t_1$, classifica como Não Alucinação.
   • Se $s_{self}$ estiver acima de um limite superior $t^*$, classifica como Alucinação.
   • Se $s_{self}$ cair na área intermediária de "incerteza" ($t_1 < s_{self} < t^*$), prossegue para o Estágio 2.
2. Estágio 2 (Cross-Consistência): Para o subconjunto ambíguo, amostra respostas do verificador, computa o escore de cross-consistência ($s_{cross}$) e aplica um limite $t_2$ para realizar a classificação final.

Interpretação Geométrica: Os autores interpretam este processo no espaço de Embeddings de Média de Kernel. A autoconsistência corresponde à norma do embedding médio do modelo alvo ($\|\mu_t\|$), enquanto a cross-consistência corresponde ao produto escalar entre os embeddings do alvo e do verificador ($\langle \mu_t, \mu_v \rangle$). O processo de dois estágios filtra efetivamente as amostras com base na norma de $\mu_t$ e usa o verificador para definir um hiperplano separador para a região incerta.

Seleção de Limites (Thresholds): Os limites $t_1$ e $t_2$ são selecionados usando um conjunto de validação para maximizar a probabilidade de detecção para uma determinada taxa de falso positivo. O artigo fornece um teorema (Teorema 5.1) garantindo que este procedimento de seleção generaliza bem para dados de teste.

Resultados Principais

• Teto de Desempenho: Métodos de autoconsistência existentes estão próximos do teto de desempenho para detecção em caixa preta sem um verificador.
• Eficácia do Verificador: A introdução de um verificador melhora significamente o desempenho do teto aproximado (medido por AUROC e AURAC), mesmo quando o verificador é menor ou mais fraco que o modelo alvo.
• Trade-off Custo-Desempenho: O algoritmo de dois estágios proposto alcança alto desempenho de detecção com custo computacional mínimo.
  • Experimentos mostram que as curvas de desempenho são convexas, o que significa que uma pequena fração de chamadas ao verificador gera a maior parte do ganho de desempenho.
  • Especificamente, o método pode reduzir os custos computacionais em 13,5%–28% mantendo 95% do ganho de desempenho máximo em comparação com a consulta ao verificador para todas as perguntas.
• Robustez: A abordagem performa bem através de 20 pares de alvo-verificador testados e diversos datasets (SQuAD, TriviaQA, Natural Questions). Os limites aprendidos em um conjunto de perguntas transferem-se efetivamente para diferentes perguntas.

Significância e Alegações

O artigo afirma oferecer uma solução prática para o trade-off entre precisão de detecção de alucinação e orçamento computacional em configurações de caixa preta.

• Além da Autoconsistência: Estabelece que, embora a autoconsistência esteja próxima de seu limite, a consistência entre modelos (cross-model consistency) é o próximo passo necessário e eficaz.
• Eficiência: A principal contribuição é o mecanismo de dois estágios consciente de orçamento, que alterna dinamicamente entre autoconsistência e cross-consistência. Isso permite que sistemas mantenham alta confiabilidade sem o custo proibitivo de rodar um segundo modelo grande para cada query.
• Fundamentação Teórica: Ao fornecer uma interpretação geométrica via embeddings de média de kernel, o trabalho oferece insights teóricos mais profundos sobre por que a detecção baseada em consistência funciona e como a incerteza pode ser formalmente caracterizada.
• Escopo: Os autores focam explicitamente em benchmarks de Resposta a Perguntas (QA) como um ambiente controlado para estudar sinais de consistência, observando que estender isso para geração de texto longo permanece desafiador devido à ambiguidade da equivalência semântica em textos de formato aberto.

O trabalho conclui que, embora um conjunto de validação seja atualmente necessário para ajustar os limites, o framework proposto é agnóstico à tarefa em relação à distribuição das relações de entailment e poderia potencialmente ser adaptado para outros cenários de geração onde a equivalência semântica pode ser avaliada.