Towards Dependable Retrieval-Augmented Generation Using Factual Confidence Prediction

Resumen Técnico: Hacia la Generación Aumentada por Recuperación Confiable Mediante la Predicción de Confianza Factual

Enunciado del Problema
La Generación Aumentada por Recuperación (RAG) se ha convertido en un estándar para dotar a los Modelos de Lenguaje Grande (LLM) de conocimiento específico de dominio. Sin embargo, persiste una vulnerabilidad crítica: no existe garantía inherente de que el contexto recuperado mediante búsqueda por similitud respalde realmente los hechos generados, ni de que el LLM no alucine información a pesar de la presencia de contexto relevante. Los métodos actuales de garantía de seguridad a menudo dependen de mejoras heurísticas o modificaciones específicas de componentes, careciendo de un protocolo general, agnóstico a la arquitectura, para proporcionar garantías certificables para el flujo de trabajo de RAG. El desafío central consiste en asociar medidas de confianza significativas tanto con el proceso de recuperación (garantizando la fidelidad de la fuente) como con el proceso de generación (garantizando la factualidad en relación con el contexto recuperado).

Metodología
Los autores proponen un protocolo de certificación en dos etapas, agnóstico a la arquitectura, que opera sin modificar los componentes subyacentes del recuperador o del LLM.

1. Estimación de Confianza en la Recuperación (Bloque 1):

   • Enfoque: Los autores aplican la Predicción Conformal (CP) al proceso de recuperación para seleccionar únicamente aquellos fragmentos de documento con una probabilidad estadísticamente garantizada de originarse en la fuente correcta.
   • Mecanismo: Utilizando un conjunto de calibración de tripletes pregunta-referencia-respuesta, el sistema calcula un umbral de no conformidad basado en puntuaciones de recuperación y una métrica de similitud (RougeL). Se establece un umbral $s_{thres}$ para distinguir fragmentos correctos de incorrectos.
   • Garantía: Bajo el supuesto de intercambiabilidad de muestras, este método proporciona una garantía estadística (controlada por la tasa de error $\alpha$) de que el conjunto de fragmentos "de confianza" incluye el fragmento de la fuente verdadera.
   • Diagnósticos: Los autores introducen dos métricas, $m_1$ (existencia binaria de un fragmento de confianza) y $m_2$ (proporción de fragmentos de confianza), para diagnosticar si una combinación específica de recuperador-conjunto de datos satisface el supuesto de intercambiabilidad requerido para que se cumpla la CP.

2. Estimación de Confianza en la Respuesta (Bloque 2):

   • Enfoque: Para detectar alucinaciones en la respuesta final, los autores utilizan un clasificador de factualidad basado en atención.
   • Mecanismo: El sistema extrae valores de atención intermedios del LLM durante la generación. Específicamente, calcula razones de retroceso por fragmento (CW LR), que miden la atención promedio que el modelo presta a fragmentos de contexto recuperados específicos en relación con la atención total prestada al contexto y a la salida generada.
   • Clasificador: Se entrena una unidad simple de regresión logística sobre estas razones de retroceso para predecir una puntuación de factualidad. Crucialmente, los autores excluyen la atención de los prompts del sistema y de la pregunta del usuario del vector de características para evitar que el clasificador aprenda sesgos específicos del dominio (por ejemplo, "las preguntas de finanzas son más difíciles") en lugar de un fundamento factual.

Contribuciones Clave

• Flujo de trabajo RAG Certificable: Un flujo de trabajo novedoso que integra la predicción conformal para la recuperación y la detección basada en atención para la generación, proporcionando métricas de confianza separadas para cada etapa.
• Métricas Diagnósticas: La introducción de las métricas $m_1$ y $m_2$ para evaluar la idoneidad de una configuración RAG. El documento demuestra que si estas métricas indican un rendimiento deficiente del recuperador (violando la intercambiabilidad), las garantías estadísticas de la CP fallan y la filtración de fragmentos puede degradar la calidad de la respuesta.
• Detección Refinada de Alucinaciones: Una demostración de que, si bien los modelos de atención de contexto completo (incluyendo prompts) pueden lograr un mayor AUROC en validación cruzada, las razones de retroceso por fragmento proporcionan un fundamento factual más fiable al excluir fuentes de atención no relacionadas con la recuperación que podrían inducir a error al clasificador.

Resultados
La metodología fue evaluada en el conjunto de datos Natural Questions (NQ) y la colección Ragbench (RB) (12 conjuntos de datos diversos) utilizando Llama-3-8B-Instruct y recuperación BM25.

• Confianza en la Recuperación:

  • En conjuntos de datos donde el recuperador funciona bien (por ejemplo, NQ, RB-cuad), la métrica $m_1$ se alinea con la expectativa teórica de $1-\alpha$, validando el supuesto de intercambiabilidad.
  • En conjuntos de datos con tareas de recuperación difíciles (por ejemplo, RB-finqa, RB-tatqa), $m_1$ desciende significativamente, indicando que los fragmentos correctos no aparecen en los top-K. En estos casos, aplicar la filtración basada en CP degradó la consistencia de la respuesta hasta en un 10%, confirmando que las garantías estadísticas no se sostienen cuando el recuperador falla en encontrar la fuente.
  • Para recuperadores fuertes, la filtración de fragmentos no de confianza mejoró la consistencia de la respuesta hasta en un 6%.

• Confianza en la Respuesta:

  • El clasificador de razones de retroceso por fragmento alcanzó un AUROC de prueba máximo del 77% en validación cruzada dentro del mismo grupo.
  • La validación cruzada entre diferentes grupos de conjuntos de datos mostró caídas de rendimiento de hasta un 16%, destacando el desafío de la generalización.
  • Las comparaciones mostraron que las razones de retroceso de Contexto Completo (FC) (incluyendo prompts) arrojaron AUROCs más altos (hasta el 82%), pero se consideraron menos fiables para el fundamento factual debido a posibles sesgos derivados de patrones de prompts. Se prefiere el enfoque Propuesto de Fragmento (CW) para sistemas confiables, a pesar de un AUROC ligeramente inferior.

Significado y Afirmaciones
El documento afirma establecer una base para sistemas RAG certificados adecuados para aplicaciones industriales críticas para la seguridad. Su significado principal radica en el cambio de la robustez heurística a la certificación estadística. Los autores enfatizan que su enfoque no es una "bala de plata" para todas las configuraciones RAG; más bien, proporciona un marco diagnóstico. El documento establece explícitamente que la validez de las garantías de confianza en la recuperación depende de la intercambiabilidad de las muestras, lo cual es contingente a la capacidad del recuperador para exponer fragmentos correctos. Por lo tanto, las métricas propuestas ($m_1, m_2$) son prerrequisitos esenciales para determinar si una configuración RAG específica es adecuada para su despliegue con estas garantías de confianza. El trabajo tiene como objetivo guiar el desarrollo de aplicaciones RAG confiables identificando dónde es débil el flujo de trabajo (recuperación frente a generación) y ofreciendo medidas cuantificables de confianza.