Self-Correcting RAG: Enhancing Faithfulness via MMKP Context Selection and NLI-Guided MCTS

Resumen Técnico: Self-Correcting RAG

1. El Problema

Los Modelos de Lenguaje Grandes (LLM) potenciados por Generación Aumentada por Recuperación (RAG) han extendido significativamente sus límites de conocimiento. Sin embargo, al enfrentar tareas de razonamiento complejo (como preguntas de múltiples saltos o verificación de hechos), estos sistemas enfrentan dos desafíos críticos:

• Baja utilización del contexto: Los métodos tradicionales de recuperación (como la selección Top-K basada en relevancia) a menudo seleccionan documentos redundantes o superpuestos, agotando el presupuesto de tokens sin aportar información densa o diversa.
• Alucinaciones frecuentes: Los LLMs tienden a generar respuestas plausibles pero fácticamente incorrectas, especialmente cuando la información recuperada es insuficiente o ambigua. Los enfoques de generación lineal (greedy) carecen de mecanismos de "mirada hacia adelante" (lookahead) para corregir errores en etapas tempranas del razonamiento.

2. Metodología Propuesta

El artículo presenta Self-Correcting RAG, un marco unificado que reformula la recuperación y la generación como problemas de optimización restringida y planificación de trayectorias, respectivamente. El sistema opera en dos fases principales:

Fase I: Selección de Contexto Óptima mediante MMKP
En lugar de una recuperación Top-K simple, el sistema formaliza la selección de documentos como un Problema de la Mochila Multidimensional de Múltiples Elecciones (MMKP).

• Agrupación Semántica: Los fragmentos de documentos recuperados se agrupan en clústeres semánticos.
• Optimización: El objetivo es seleccionar un subconjunto de documentos que maximice la densidad de información bajo restricciones multidimensionales (presupuesto de tokens y penalización por redundancia).
• Mecanismo: Se impone una restricción de "múltiples elecciones" (seleccionar como máximo un representante por clúster semántico) para garantizar la diversidad y eliminar la redundancia. Se utilizan algoritmos de programación dinámica con poda de Pareto para resolver este problema NP-duro de manera eficiente.

Fase II: Generación Guiada por Razonamiento mediante MCTS y NLI
Para abordar las alucinaciones en la salida, el sistema emplea una estrategia de Cálculo en Tiempo de Inferencia (Test-Time Compute) basada en una Búsqueda en Árbol Monte Carlo (MCTS).

• Formulación MDP: El proceso de generación se modela como un Proceso de Decisión de Markov (MDP). En cada paso, el modelo puede generar una continuación o solicitar nueva recuperación de evidencia.
• Función de Recompensa NLI: Se utiliza un modelo de Inferencia de Lenguaje Natural (NLI) como función de recompensa densa. Este modelo evalúa la relación lógica entre las oraciones generadas y la evidencia recuperada.
  • Si la generación contradice la evidencia, se aplica una penalización severa.
  • Si hay implicación (entailment), se otorga una recompensa positiva.
• Exploración: El algoritmo MCTS explora múltiples trayectorias de razonamiento, podando aquellas que conducen a contradicciones y retrocediendo (backtracking) para explorar caminos alternativos que sean fieles al contexto.

3. Contribuciones Clave

1. Selector de Contexto Basado en MMKP: Es la primera vez que la selección de contexto se formaliza como un problema de mochila de múltiples elecciones. Esto maximiza la cobertura de información y minimiza la redundancia bajo un presupuesto estricto de tokens, superando a las estrategias de clasificación greedy.
2. Generador MCTS Guiado por NLI: Introduce un mecanismo de búsqueda en tiempo de ejecución que utiliza la inferencia lógica (NLI) como señal de recompensa para penalizar activamente las contradicciones, asegurando que las respuestas sean fieles al contexto recuperado.
3. Marco Unificado: Combina la optimización combinatoria en la entrada con la búsqueda estructurada en la salida, abordando simultáneamente la calidad de la recuperación y la fiabilidad de la generación.

4. Resultados Experimentales

El método se evaluó en seis conjuntos de datos diversos, incluyendo preguntas de un solo salto, preguntas de múltiples saltos (MuSiQue, 2WikiMultiHopQA, HotpotQA) y verificación de hechos con ruido (MultiHop-RAG).

• Rendimiento General: Self-Correcting RAG superó a los baselines más fuertes (incluyendo Self-RAG, CRAG, IRCoT y RAG estándar) en la mayoría de las métricas.
  • Logró un Exact Match (EM) promedio de 37.1 y un F1 promedio de 45.8.
  • En tareas de razonamiento complejo (MuSiQue), superó a CRAG en un 4.5% absoluto de mejora en EM.
• Robustez al Ruido: En el dataset MultiHop-RAG (diseñado para probar la resistencia a contextos irrelevantes), el método alcanzó un EM de 35.3, superando significativamente a los métodos de selección avanzada como Filco (29.8).
• Calidad de Recuperación: El selector MMKP logró un Recall@5 promedio del 72.0%, superando al RAG+MMR (63.3%) y a los métodos Top-K tradicionales.
• Reducción de Alucinaciones: La tasa de contradicción (Contradiction Rate) se redujo drásticamente a 0.04, y la precisión de atribución (Attribution Precision) aumentó a 0.85, demostrando una alta fidelidad a la evidencia.

5. Significado e Impacto

Este trabajo es significativo porque:

• Cambia el paradigma de RAG: Pasa de una recuperación lineal y una generación pasiva a un proceso de optimización combinatoria y búsqueda activa.
• Valida el "Cálculo en Tiempo de Inferencia": Demuestra que invertir recursos computacionales adicionales durante la inferencia (mediante MCTS) es crucial para resolver problemas de razonamiento complejo y reducir alucinaciones en LLMs.
• Aborda la redundancia: Proporciona una solución matemática rigurosa al problema de la redundancia en la recuperación, un cuello de botella común en sistemas RAG que limita la ventana de contexto efectiva.

Limitaciones: El enfoque introduce una mayor latencia de inferencia debido a la naturaleza iterativa de la búsqueda MCTS y la verificación NLI, lo que podría dificultar su aplicación en escenarios que requieren respuestas en tiempo real de ultra-baja latencia. Además, la robustez depende de la calidad del modelo NLI utilizado para la verificación.

En conclusión, Self-Correcting RAG establece un nuevo estándar para la fiabilidad en sistemas de generación aumentada por recuperación, demostrando que la integración de optimización matemática y búsqueda lógica puede mitigar efectivamente las alucinaciones en tareas de razonamiento complejo.