Beyond Black-Box Interventions: Latent Probing for Faithful Retrieval-Augmented Generation

1. El Problema: Falta de Fidelidad Contextual en RAG

Los sistemas de Generación Aumentada por Recuperación (RAG) tienen como objetivo mejorar la precisión factual de los Grandes Modelos de Lenguaje (LLM) integrando conocimiento externo. Sin embargo, enfrentan un desafío crítico: la fidelidad contextual.

• Fenómeno: Cuando el contexto recuperado contiene ruido (información irrelevante) o conflictos (información que contradice el conocimiento paramétrico interno del modelo), el sistema suele fallar.
• Comportamiento del Modelo: En lugar de priorizar la evidencia externa, el LLM tiende a:
  1. Ignorar el contexto y recurrir a su memoria paramétrica (conocimiento pre-entrenado).
  2. Generar respuestas incoherentes o híbridas que mezclan hechos contradictorios.
• Limitaciones de los Métodos Actuales: Las soluciones existentes (prompts especializados, calibración de decodificación, optimización de preferencias) actúan como intervenciones de "caja negra".
  • No comprenden los mecanismos internos del modelo.
  • Carecen de un mecanismo fiable para diagnosticar por qué ocurren los conflictos.
  • Son frágiles, dependen de grandes cantidades de datos y no son generalizables a nuevas formas de contradicción.

2. Metodología: Análisis del Espacio Latente y ProbeRAG

Los autores proponen un cambio de paradigma: en lugar de intervenir externamente, analizan y guían el proceso de razonamiento interno del modelo.

A. Descubrimientos Clave (Análisis Preliminar)

Mediante un análisis del espacio latente (estados ocultos) de los modelos, se identificaron dos hallazgos fundamentales:

1. Separabilidad Lineal: Los estados de conocimiento alineado (contexto que coincide con el modelo) y conflictivo (contexto que contradice al modelo) forman dos clusters linealmente separables en el espacio latente del modelo. Esto permite detectar conflictos mediante una sonda simple.
2. Entropía y Ruido: El ruido contextual aumenta sistemáticamente la entropía de estas representaciones latentes, oscureciendo la señal de conflicto y dificultando la detección.

B. El Framework: ProbeRAG

Basado en estos hallazgos, proponen ProbeRAG, un marco de trabajo de tres etapas que opera desde dentro del modelo:

1. Poda de Conocimiento de Alta Granularidad (Fine-Grained Knowledge Pruning):

   • Descompone el contexto recuperado en declaraciones de conocimiento atómicas e independientes (frases completas).
   • Filtra el conocimiento irrelevante calculando la similitud semántica con la consulta (query), reduciendo así el ruido que aumenta la entropía latente.

2. Sondeo de Conflicto Latente (Latent Conflict Probing):

   • Utiliza una sonda ligera (un clasificador MLP) entrenada en el espacio latente del modelo.
   • La sonda toma el estado oculto de cada declaración de conocimiento filtrada y predice si está en conflicto con el conocimiento paramétrico del modelo.
   • Las declaraciones identificadas como conflictivas se marcan explícitamente con tokens especiales (<conflict> y </conflict>).

3. Atención Consciente del Conflicto (Conflict-Aware Attention):

   • Se fine-tunea el modelo (usando LoRA) con una función de pérdida de guía de atención auxiliar.
   • Esta pérdida penaliza al modelo si no presta suficiente atención a los tokens marcados como conflicto durante la generación.
   • El objetivo es enseñar al modelo a priorizar activamente la evidencia externa conflictiva sobre su memoria interna.

3. Contribuciones Clave

1. Análisis de Mecanismos Internos: Se demuestra que los conflictos de conocimiento tienen una representación geométrica distintiva (separabilidad lineal) en el espacio latente de los LLM, lo que permite su detección causal en lugar de correlacional.
2. Framework ProbeRAG: Un sistema novedoso que integra la poda de contexto, la detección de conflictos mediante sondas latentes y la regulación de la atención mediante fine-tuning, sin alterar el conocimiento intrínseco del modelo.
3. Rendimiento Superior: Validación exhaustiva que demuestra que ProbeRAG supera a los métodos basados en prompts, decodificación y optimización de preferencias en múltiples benchmarks.

4. Resultados Experimentales

El modelo fue evaluado en varios conjuntos de datos (FaithEval, ConFiQA, SQuAD) y con diferentes arquitecturas de modelos (LLaMA-3.1-8B, Qwen3-8B, Mistral-7B).

• Rendimiento General: ProbeRAG alcanzó el estado del arte (SOTA) en todas las configuraciones.
  • En FaithEval con LLaMA-3.1-8B, superó al mejor baseline (CANOE) en un +3% en F1 y +8% en Exact Match (EM).
  • En la tarea de ConFiQA (MC - Múltiples Conflictos), logró puntuaciones de F1 superiores al 89%, superando a los baselines en un rango de 3% a 10%.
• Estudios de Ablación:
  • La eliminación de la Sonda de Conflicto Latente causó la caída más drástica en el rendimiento, confirmando que la detección precisa del conflicto es el componente más crítico.
  • La Atención Consciente del Conflicto es esencial; sin ella, incluso con conflictos detectados, el modelo tiende a ignorarlos debido a su sesgo paramétrico.
• Análisis de Atención: Las visualizaciones de los mapas de calor de atención muestran que, tras el entrenamiento, el modelo asigna significativamente más peso a los tokens marcados como conflicto, validando el mecanismo de guía.

5. Significado e Impacto

• Cambio de Paradigma: El trabajo mueve la investigación de RAG de intervenciones externas (caja negra) a la guía interna (caja gris/blanca), aprovechando la estructura geométrica del espacio latente del modelo.
• Robustez: Al no depender de prompts frágiles o recompensas complejas, ProbeRAG ofrece una solución más robusta y generalizable para manejar conflictos de conocimiento, un problema fundamental en la implementación de RAG en el mundo real.
• Eficiencia vs. Calidad: Aunque introduce pasos adicionales (descomposición y sondeo) que aumentan el costo computacional, la mejora sustancial en la fidelidad y la reducción de alucinaciones justifican el costo, especialmente en aplicaciones críticas donde la precisión factual es vital.

En resumen, ProbeRAG demuestra que entender y manipular las representaciones internas de los LLM es la clave para lograr una generación aumentada por recuperación verdaderamente fiel y confiable.