Anchored Confabulation: Partial Evidence Non-Monotonically Amplifies Confident Hallucination in LLMs

1. Declaração do Problema

Sistemas de Geração Aumentada por Recuperação (RAG) enfrentam um desafio crítico de roteamento: decidir quando usar uma recuperação vetorial simples e barata (VanillaRAG) versus uma recuperação baseada em grafos estruturada e cara (GraphRAG).

• O Status Quo: Os métodos de roteamento existentes (por exemplo, Adaptive-RAG) operam pré-geração, tomando decisões baseadas exclusivamente em características da consulta (por exemplo, complexidade, contagem de entidades). Eles assumem que baixa confiança na resposta gerada sinaliza a necessidade de uma recuperação melhor.
• A Questão Central: Os autores identificam uma falha de calibração anteriormente desconhecida em Modelos de Linguagem de Grande Porte (LLMs) chamada Confabulação Ancorada. Em tarefas de raciocínio multi-hop, fornecer um fato intermediário parcial (uma "âncora") pode paradoxalmente aumentar a confiança do modelo em uma resposta errada antes que a evidência completa elimine o erro.
• A Consequência: O roteamento padrão baseado em incerteza (escalar em caso de baixa confiança) falha catastróficamente nessas consultas. O modelo torna-se mais confiante quando está errado, levando a "alucinações confiantes" que roteadores pré-geração não conseguem detectar.

2. Fenômeno Chave: Confiança na Alucinação Paramétrica (PHC)

O artigo define Confiança na Alucinação Paramétrica (PHC) como uma métrica onde a AUC de prever uma "escalação de oráculo" (necessidade de GraphRAG) baseada na confiança do modelo é > 0,5.

• Inversão de Sinal: Em cenários padrão, alta confiança correlaciona-se com correção. Em cenários de PHC (especificamente consultas de ponte de 3 hops), alta confiança correlaciona-se com incorreção.
• O Mecanismo: Quando um LLM recebe um fato intermediário confirmado (uma "âncora dourada") em uma cadeia de múltiplos passos, ele usa sua memória paramétrica para preencher fluentemente e com confiança os passos restantes ausentes. Essa âncora parcial compromete o modelo para uma conclusão específica, confiante, mas potencialmente fabricada.

3. Metodologia e Estrutura Teórica

A. Intervenção Causal e Evidência

Os autores estabeleceram a PHC através de seis linhas de evidência, incluindo uma intervenção causal controlada no dataset MuSiQue (consultas de 3 hops, N=160):

1. Injeção Causal: Eles injetaram fatos intermediários dourados nos prompts enquanto mantinham os rótulos de oráculo fixos.
   • k=0 (Sem dicas): PHC = 0,613 (Inversão significativa).
   • k=1 (Um fato): PHC dispara para 0,656 (Amplificação máxima). O modelo torna-se mais confiante em sua resposta errada.
   • k=3 (Quase-oráculo): PHC cai para 0,536 (Sem inversão significativa). A evidência completa suprime a alucinação.
2. Lei do Limiar de Ancoragem: Os autores derivaram uma lei preditiva: $k^*(n) = \lfloor n/3 \rfloor$.
   • Para cadeias de 3 hops, o limiar é $k=1$ (33% da cadeia). Este é o "ponto ideal" onde um fato ancora o modelo o suficiente para fabricar o restante com confiança.
   • Para cadeias de 2 hops, $k^*=0$; nenhum pico de amplificação ocorre porque a cadeia é muito curta para sustentar uma fabricação confiante sem evidência completa.
   • Para cadeias de 4 hops, o pico é mais fraco ($k^*=1$, mas 25% de cobertura é insuficiente).
3. Escalonamento de Capacidade: A PHC escala com a capacidade do modelo. Modelos mais fortes (por exemplo, Claude Opus, Sonnet) exibem PHC mais alta (alucinações mais confiantes) do que modelos mais fracos (por exemplo, Haiku, Llama-3-8B).

B. Provas Teóricas

• Teorema 1 (Dominância Pós-Geração): Usando a Desigualdade de Processamento de Dados (DPI), os autores provam que qualquer sinal pós-geração $U(Q, A)$ contém mais informações sobre a necessidade de escalar do que qualquer classificador pré-geração $g(Q)$. Roteadores pré-geração não podem acessar o "sinal de inversão de ponte" porque a inversão só se manifesta após o modelo tentar gerar a resposta.
• Teorema 2 (Roteamento Gated por Regeração): Os ganhos de roteamento são limitados pela qualidade do passo de re-geração. Se a re-geração (após a escalada) for pobre, as melhorias de roteamento rendem retornos decrescentes.

C. Solução Proposta: LR+DirectGR

Os autores propõem um sistema de duas partes para explorar a PHC:

1. LearnedRouter: Um classificador pós-geração treinado em apenas N=200 exemplos. Ele usa um termo de interação de características conf × hop para aprender que, para consultas de alto hop, alta confiança deve acionar a escalada (invertendo a lógica padrão).
2. DirectGR (GraphRAG Direto): Em vez de extrair sub-questões (o que perde contexto), o sistema escala a questão original completa diretamente para o pipeline GraphRAG. Isso evita a "perda de extração de sub-questão" identificada como um grande gargalo.

4. Resultados Chave

Métricas de Desempenho

• Fechamento da Lacuna do Oráculo: O sistema LR+DirectGR fecha 81,1% da lacuna do oráculo (Macro F1 = 0,426) em quatro benchmarks (HotpotQA, MuSiQue, NQ, 2Wiki).
• Comparação com Baselines:
  • Supera a melhor baseline de roteamento pré-geração (HybridRouter) em +35,9 pontos no fechamento da lacuna do oráculo.
  • Consegue isso com 50x menos rótulos de treinamento (200 vs. 10.000) e sem Aprendizado por Reforço (RL) ou ajuste fino.
  • No custo correspondente (taxa de escalada de 32%), o LR+DirectGR alcança um Macro F1 de 0,324 contra 0,295 do HybridRouter.

Descobertas Específicas

• Especificidade da Profundidade de Hop: O efeito de inversão é estritamente não monotônico. Ele atinge o pico em consultas de 3 hops. Consultas de 2 hops não mostram inversão significativa, e 4 hops mostram um efeito mais fraco.
• Mitigação: Um prompt de "Humildade Epistêmica" (dizendo ao modelo que faltam fatos) reduziu com sucesso o pico de PHC em $\Delta = -0,118$, provando que o fenômeno é suprimível meta-cognitivamente.
• Vulnerabilidade de RAG Iterativo: O artigo demonstra que sistemas RAG iterativos (como IRCoT) caem sistematicamente na "zona de amplificação" em sua primeira etapa de recuperação para consultas de 3 hops, levando a raciocínios intermediários confiantes e errados que corrompem os passos subsequentes.

5. Significado e Contribuições

1. Descoberta da Confabulação Ancorada: O artigo identifica uma falha de calibração fundamental e não monotônica em LLMs onde evidência parcial aumenta a alucinação confiante. Isso desafia a suposição de que "mais evidência sempre reduz a incerteza".
2. Lei Preditiva: A Lei do Limiar de Ancoragem ($k^* = \lfloor n/3 \rfloor$) fornece uma estrutura quantitativa para prever quando LLMs alucinarão com confiança com base no comprimento da cadeia e na densidade de evidências.
3. Superioridade do Roteamento Pós-Geração: Prova formalmente e valida empiricamente que o roteamento pós-geração (usando a resposta gerada como sinal) domina estritamente o roteamento pré-geração para tarefas multi-hop, especificamente porque pode detectar o estado "confiante errado".
4. Implantação Eficiente e sem Treinamento: O sistema proposto LR+DirectGR alcança desempenho de roteamento state-of-the-art sem ajuste fino ou RL, usando um número mínimo de exemplos rotulados. Oferece um blueprint prático para implantar sistemas RAG robustos que se adaptam dinamicamente às capacidades do modelo e à complexidade da consulta.
5. Implicações para Sistemas Iterativos: As descobertas sugerem que os pipelines RAG iterativos atuais (IRCoT, FLARE) podem ser estruturalmente falhos para consultas de 3 hops, pois inadvertidamente acionam o mecanismo de amplificação de ancoragem.

Em resumo, este artigo reestrutura o problema de roteamento RAG de uma tarefa de classificação de complexidade de consulta para uma tarefa de detecção pós-geração consciente de calibração, aproveitando um fenômeno recém-descoberto onde os LLMs estão mais confiantes quando estão mais errados.