Self-Correcting RAG: Enhancing Faithfulness via MMKP Context Selection and NLI-Guided MCTS

Resumo Técnico: Self-Correcting RAG

1. O Problema

Os modelos de Linguagem de Grande Escala (LLMs) aumentados por recuperação (RAG) estendem significativamente o conhecimento dos modelos, mas enfrentam dois desafios críticos ao lidar com tarefas de raciocínio complexo:

1. Baixa Utilização de Contexto: Métodos tradicionais de recuperação (como Top-K baseado em relevância) frequentemente selecionam documentos redundantes ou que se sobrepõem semanticamente, desperdiçando o orçamento limitado de tokens e excluindo informações cruciais.
2. Alucinações Frequentes: Mesmo com contexto recuperado, os LLMs tendem a gerar respostas que contradizem as evidências recuperadas ou inventam fatos, especialmente em tarefas de raciocínio multi-hop (que exigem conectar informações de múltiplos documentos).

O artigo argumenta que a geração linear e gananciosa (greedy) é insuficiente para problemas de otimização combinatória estrita e raciocínio lógico, onde erros iniciais se propagam rapidamente.

2. Metodologia

Os autores propõem o Self-Correcting RAG, um framework unificado que reformula a recuperação e a geração como problemas de otimização e planejamento de caminhos. O sistema opera em duas fases distintas:

Fase I: Seleção de Contexto Otimizada via MMKP (Input)
Em vez de simplesmente escolher os Top-K documentos mais relevantes, o sistema formaliza a seleção de contexto como um Problema da Mochila Multidimensional Multi-escolha (MMKP).

• Agrupamento Semântico: Os documentos recuperados são agrupados em clusters baseados em similaridade semântica.
• Restrições: O modelo deve selecionar um subconjunto de documentos que maximize a densidade de informação (utilidade) sob restrições multidimensionais:
  • Orçamento de Tokens: Limite físico de tamanho do contexto.
  • Orçamento de Redundância: Penalidade por selecionar documentos semanticamente muito similares.
• Objetivo: Garantir que, dentro do limite de tokens, o contexto seja o mais diverso e informativo possível, eliminando redundâncias e mantendo evidências complementares essenciais para o raciocínio multi-hop.
• Solução: Como o MMKP é NP-difícil, o artigo utiliza um algoritmo de Programação Dinâmica com poda de Pareto para encontrar uma solução aproximada eficiente.

Fase II: Geração Guiada por MCTS e NLI (Output)
Para garantir a fidelidade (faithfulness) da resposta gerada, o sistema utiliza uma estratégia de Cálculo no Tempo de Inferência (Test-Time Compute) baseada em Monte Carlo Tree Search (MCTS).

• Formulação MDP: O processo de geração é modelado como um Processo de Decisão de Markov (MDP), onde o agente pode gerar texto ou buscar mais evidências.
• Função de Recompensa NLI: Um modelo de Inferência de Linguagem Natural (NLI) atua como uma função de recompensa densa. Ele avalia se as sentenças geradas são entailment (implicação), neutral ou contraditórias em relação às evidências recuperadas.
• Mecanismo de Correção:
  • Se o NLI detectar uma contradição, o caminho de raciocínio recebe uma penalidade severa (recompensa negativa) e é podado.
  • O MCTS explora dinamicamente múltiplos caminhos de raciocínio, retrocedendo (backtracking) de alucinações e explorando trajetórias que são logicamente consistentes com o contexto recuperado.

3. Principais Contribuições

1. Selecionador de Contexto Baseado em MMKP: A primeira formalização da seleção de documentos como um problema de mochila combinatória, maximizando a densidade de informação e minimizando a redundância sob orçamentos estritos, superando estratégias de ranking ganancioso.
2. Gerador MCTS Guiado por NLI: Um mecanismo que utiliza o poder de cálculo no tempo de inferência para validar a fidelidade das respostas em tempo real, penalizando ativamente contradições lógicas com o contexto.
3. Framework Unificado: Uma abordagem que integra otimização de entrada (recuperação) e busca estruturada de saída (geração) para resolver tarefas de raciocínio complexo.

4. Resultados Experimentais

O método foi avaliado em seis conjuntos de dados desafiadores, cobrindo QA simples, QA multi-hop e verificação de fatos com ruído:

• Desempenho Geral: O Self-Correcting RAG superou baselines fortes (incluindo Naive RAG, Self-RAG, CRAG e IRCoT) em todas as métricas principais (Exact Match e F1).
• Raciocínio Complexo: A melhoria foi mais pronunciada em tarefas multi-hop (ex: MuSiQue, 2WikiMultiHopQA), onde o método superou o estado da arte anterior (CRAG) em 4,5 pontos absolutos no EM.
• Robustez ao Ruído: No conjunto de dados MultiHop-RAG (projetado para testar resistência a contextos irrelevantes), o método demonstrou superioridade ao filtrar documentos "isca" (red herrings) que confundem modelos tradicionais.
• Redução de Alucinações: A taxa de contradição caiu drasticamente (para 0,04) e a precisão de atribuição (Attribution Precision) aumentou para 0,85, indicando que as respostas são fortemente fundamentadas nas evidências.
• Qualidade de Recuperação: O seletor MMKP alcançou um Recall@5 médio de 72,0%, superando significativamente métodos tradicionais e de diversidade gananciosa (MMR).

5. Significado e Conclusão

O trabalho demonstra que tratar a recuperação e a geração como problemas de otimização combinatória e planejamento de busca, respectivamente, é crucial para tarefas de raciocínio complexo.

• Inovação: Move-se além da simples recuperação de "o que é relevante" para "qual combinação de documentos maximiza a informação útil".
• Fidelidade: O uso de NLI como guia de recompensa no MCTS oferece um mecanismo robusto para corrigir alucinações antes que a resposta final seja emitida.
• Limitações: O principal trade-off é o aumento da latência e do custo computacional devido à natureza iterativa da busca MCTS e à verificação NLI, o que pode limitar aplicações em tempo real de ultra-baixa latência.

Em suma, o Self-Correcting RAG estabelece um novo padrão para sistemas RAG robustos, provando que a combinação de seleção de contexto otimizada e busca estruturada de raciocínio é essencial para reduzir alucinações e melhorar a precisão em cenários de conhecimento intensivo.