Harnessing Reasoning Trajectories for Hallucination Detection via Answer-agreement Representation Shaping

Resumo Técnico: Aproveitamento de Trajetórias de Raciocínio para Detecção de Alucinações via Modelagem de Representação de Concordância de Respostas

Declaração do Problema
Modelos de Grande Raciocínio (LRMs) geram longas e coerentes trajetórias de raciocínio antes de produzir uma resposta final. Embora essas trajetórias ofereçam sinais ricos, elas frequentemente obscurecem a detecção de alucinações ao nível da resposta. Sondar diretamente os estados ocultos ao longo de toda a trajetória ou utilizar o texto da trajetória para detecção é frágil; os detectores tendem a superajustar-se a padrões estilísticos superficiais no processo de raciocínio, em vez de capturar a validade da resposta final. Além disso, métodos existentes frequentemente dependem de amostragem custosa em tempo de teste (por exemplo, gerar múltiplas respostas para medir consistência) ou exigem anotações humanas para treinar classificadores. O desafio central é destilar um sinal estável, centrado na resposta, a partir da trajetória de raciocínio que seja robusto a variações na forma superficial e indicativo de risco de alucinação, sem incorrer em altos custos de inferência.

Metodologia: Modelagem de Representação de Concordância de Respostas (ARS)
Os autores propõem a ARS, um framework que aprende representações de resposta condicionadas à trajetória e favoráveis à detecção, codificando explicitamente a estabilidade da resposta através de intervenções latentes. O método opera em duas etapas principais:

1. Intervenção Latente para Respostas Contrafactuais:
   Em vez de perturbar o texto da trajetória de raciocínio (o que pode interromper a coerência ou introduzir pistas espúrias), a ARS intervém diretamente no estado latente do modelo. Especificamente, ela visa o embedding de fronteira da trajetória ($h$), definido como o estado oculto do último token da trajetória de raciocínio na penúltima camada do LRM.

   • Vetores de pequena perturbação ($\delta$) são amostrados de uma distribuição (por exemplo, Gaussiana isotrópica) e adicionados a $h$ para criar um estado modificado $\tilde{h} = h + \delta$.
   • O modelo continua a decodificação a partir de $\tilde{h}$ para gerar uma resposta contrafactual ($\tilde{a}$).
   • Este processo é repetido $M$ vezes para gerar um conjunto de respostas contrafactuais.

2. Modelagem de Representação de Concordância de Respostas:
   O framework constrói pares de treinamento baseados na concordância entre a resposta original ($a$) e as respostas contrafactuais ($\tilde{a}$).

   • Pares Positivos: Respostas contrafactuais que concordam com a resposta original ($Agr(a, \tilde{a}) = 1$).
   • Pares Negativos: Respostas contrafactuais que discordam da resposta original ($Agr(a, \tilde{a}) = 0$).
   • Uma função de mapeamento leve $g_\phi$ é treinada para transformar os embeddings de resposta padrão ($u$) em embeddings modelados ($z$). O objetivo é uma perda contrastiva que aproxima os embeddings concordantes do âncora e afasta os embeddings discordantes.
   • Crucialmente, os parâmetros do LRM base ($\theta$) permanecem congelados; apenas o cabeçalho leve $g_\phi$ é treinado. Este processo não requer rótulos de alucinação de verdade fundamental, confiando exclusivamente na consistência interna das próprias gerações do modelo.

Principais Contribuições

• Primeiro Framework para Modelagem de Trajetória: A ARS é apresentada como o primeiro framework a utilizar principialmente trajetórias de raciocínio para moldar representações de resposta para detecção de alucinações em LRMs, utilizando perturbações latentes na fronteira da trajetória para induzir respostas contrafactuais.
• Objetivo Impulsionado por Concordância: O artigo introduz um objetivo que organiza embeddings de resposta com base em se pequenas mudanças internas preservam a resposta, evitando a dependência de perturbações de texto frágeis ou anotações humanas.
• Análise Teórica e Empírica: Os autores fornecem uma proposição teórica (Proposição 4.2) que liga a probabilidade de separação-por-concordância dos embeddings modelados ao limite superior do erro de detecção de alucinações. Empiricamente, demonstram que a estabilidade da resposta (medida pela consistência contrafactual) é preditiva da veracidade.

Resultados
Experimentos foram conduzidos em quatro conjuntos de dados (TruthfulQA, TriviaQA, GSM8K, MATH-500) utilizando múltiplas famílias de LRMs (Qwen3-8B/14B, variantes DeepSeek-R1-Distill).

• Ganhos de Desempenho: A ARS supera consistentemente bases fortes, incluindo métodos baseados em incerteza (Perplexidade, Entropia Semântica), métodos baseados em consistência (Semelhança Léxica, SelfCKGPT) e detectores específicos de LRM (RHD, RACE, G-Detector).
  • No TruthfulQA com Qwen3-8B, a ARS alcançou um AUROC de 86,64% (usando CCS como detector downstream), uma melhoria substancial sobre a base de embeddings de LRM padrão (66,85%) e outros métodos mais avançados (por exemplo, TSV em 77,08%).
  • Ganhos semelhantes foram observados em todos os conjuntos de dados e tamanhos de modelo, com melhorias variando de 10% a 20% sobre embeddings padrão.
• Generalização: As representações modeladas transferem-se efetivamente entre conjuntos de dados (por exemplo, treinamento em GSM8K e teste em TriviaQA) e escalam para modelos maiores (14B parâmetros).
• Eficiência: Ao contrário de bases baseadas em amostragem que exigem múltiplas passagens para frente em tempo de inferência, a ARS requer apenas uma única geração em tempo de teste. A sobrecarga de treinamento é mínima (por exemplo, ~649 segundos para o conjunto de treinamento do TruthfulQA).

Significado e Alegações
O artigo afirma que a ARS aborda uma falha crítica de confiabilidade em LRMs onde trajetórias de raciocínio fluentes podem mascarar erros factuais. Ao moldar representações para refletir estabilidade da resposta sob perturbações latentes, a ARS expõe os estados internos "frágeis" associados a alucinações. Os autores enfatizam que a ARS é um componente de detecção e não uma garantia de veracidade, destinada a ser acoplada a outras salvaguardas. O trabalho fornece insights sobre a geometria da alucinação em modelos de raciocínio, sugerindo que respostas alucinadas frequentemente residem em regiões do espaço latente com margens de estabilidade baixas, o que pode ser efetivamente exposto através da modelagem de concordância de respostas sem supervisão humana.