How Retrieved Context Shapes Internal Representations in RAG

Resumen Técnico: Cómo el Contexto Recuperado Moldea las Representaciones Internas en RAG

1. Problema y Motivación

La Generación Aumentada por Recuperación (RAG) mejora los Modelos de Lenguaje Grandes (LLMs) al condicionar la generación en documentos externos recuperados. Sin embargo, en escenarios reales, el conjunto de documentos recuperados a menudo es una mezcla heterogénea de información relevante, documentos semánticamente similares pero engañosos (distractores) y ruido irrelevante.

Aunque trabajos anteriores han analizado el comportamiento de salida de los RAG (precisión, alucinaciones), existe una brecha de conocimiento sobre cómo estos diferentes tipos de contexto moldean las representaciones internas (estados ocultos) del modelo. No está claro si los cambios en la salida se deben a una integración efectiva de la evidencia, a la supresión de conocimientos paramétricos o a una respuesta deliberada de incertidumbre. Este trabajo busca llenar ese vacío analizando el RAG a través de la lente de las representaciones latentes.

2. Metodología

Los autores proponen un marco experimental riguroso para analizar las representaciones internas bajo condiciones controladas:

• Configuración Experimental:
  • Modelos: Se utilizaron tres LLMs de diferentes tamaños: Gemma3-27B, Llama4-17B y Qwen3-Next-80B.
  • Datos: Cuatro conjuntos de datos de preguntas y respuestas (Trivia QA, NQ, Pop QA, Strategy QA).
  • Recuperación: Se empleó la base de datos MassiveDS (1.4 billones de tokens) y el algoritmo Contriever para recuperar los 20 mejores documentos por consulta.
• Categorización de Documentos:
  • Relevantes: Contienen la respuesta o información de apoyo directa.
  • Distractores: Alta similitud semántica con la consulta pero sin información útil (o engañosa).
  • Aleatorios: Baja similitud semántica y sin información útil.
• Escenarios de Análisis:
  1. Documento Único: Se analiza el impacto de un solo documento (relevante, distractor, aleatorio o ninguno) sobre el estado oculto.
  2. Múltiples Documentos: Se evalúa cómo un documento relevante interactúa con documentos distractores o aleatorios en el mismo contexto.
• Métricas de Análisis:
  • Se examinan los estados ocultos del último token del prompt a través de todas las capas del transformador.
  • Se utiliza Análisis de Componentes Principales (PCA) para visualizar la geometría de las representaciones.
  • Se realizan probes lineales para cuantificar la separabilidad entre diferentes tipos de contexto.
  • Se compara el comportamiento de modelos instruidos (instruction-tuned) frente a sus versiones base.

3. Hallazgos Clave (Resultados)

El estudio revela cinco observaciones fundamentales sobre la dinámica interna de los RAG:

1. Documentos Aleatorios Causan Grandes Desviaciones (Drift): Contrario a la intuición, los documentos aleatorios provocan un desplazamiento significativo en las representaciones internas respecto a la línea base (solo consulta). Esta desviación está fuertemente correlacionada con el comportamiento de abstención (el modelo se niega a responder). Los modelos instruidos son mucho más propensos a abstenerse ante contexto no informativo que los modelos base.
2. Documentos Relevantes Preservan la Geometría: Los documentos relevantes causan cambios mínimos en las representaciones internas. Actúan principalmente como señales de confirmación que refuerzan el conocimiento paramétrico existente, especialmente en consultas fáciles. En consultas difíciles, a menudo no logran alterar suficientemente la representación interna para superar el conocimiento interno insuficiente.
3. Estabilidad en Entornos Multidocumento: La presencia de un solo documento relevante es suficiente para "anclar" las representaciones internas, manteniéndolas estables incluso en presencia de múltiples documentos distractores o aleatorios. Esto demuestra que los LLMs pueden priorizar selectivamente la evidencia informativa y suprimir el ruido si existe una base fiable.
4. Procesamiento por Capas (Detección Temprana vs. Integración Tardía):
   • Capas Tempranas: El modelo distingue rápidamente entre documentos aleatorios (ruido) y otros tipos.
   • Capas Tardías: Las representaciones de documentos relevantes y distractores permanecen entrelazadas hasta capas profundas, indicando que es difícil para el modelo separar el ruido "difícil" de la evidencia genuina. Además, en las capas finales, las representaciones con documentos relevantes convergen hacia las representaciones sin documentos, sugiriendo que el conocimiento paramétrico domina al final del proceso, limitando el impacto de la evidencia externa en consultas difíciles.
5. Impacto del Ajuste por Instrucción: El ajuste por instrucción amplifica la tendencia a abstenerse ante contexto irrelevante, pero también suprime la dependencia del conocimiento paramétrico cuando hay ruido, lo que puede debilitar la usabilidad del RAG en ciertos escenarios.

4. Contribuciones Principales

1. Marco de Análisis: Propone un marco sistemático y controlado para estudiar cómo los LLMs procesan internamente el contexto recuperado, más allá de las métricas de salida.
2. Patrones de Representación: Descubre patrones previamente no explorados, como la gran desviación causada por el ruido aleatorio y la naturaleza de "confirmación" de los documentos relevantes.
3. Explicaciones Mecánicas: Conecta las dinámicas internas (desviación de representación, dominancia de capas) con comportamientos observables (abstención, alucinación, sesgo de confirmación).
4. Insights para Diseño: Ofrece guías prácticas para la ingeniería de sistemas RAG, sugiriendo cuándo el filtrado agresivo de documentos es innecesario y cómo abordar las consultas difíciles.

5. Significado e Implicaciones

Este trabajo cambia la perspectiva del RAG de un enfoque puramente basado en resultados a uno basado en mecanismos internos:

• Robustez: Sugiere que aumentar el ancho de la recuperación (recuperar más documentos) puede ser beneficioso siempre que haya una alta probabilidad de incluir al menos un documento relevante, ya que el modelo puede suprimir el ruido internamente.
• Limitaciones en Consultas Difíciles: Revela que el RAG actual tiene limitaciones inherentes en consultas difíciles porque las capas finales del modelo tienden a favorecer el conocimiento interno sobre la evidencia externa, incluso cuando esta última es necesaria.
• Diseño Futuro: Señala la necesidad de intervenciones arquitectónicas o de entrenamiento (como modificar estrategias de decodificación o crear subespacios sensibles a la recuperación) para mejorar la integración de evidencia externa en consultas complejas donde el conocimiento paramétrico es insuficiente.

En conclusión, el estudio demuestra que los LLMs tienen mecanismos internos sofisticados para detectar y manejar el ruido, pero también revela sesgos estructurales que limitan la efectividad del RAG en escenarios de alta dificultad, proporcionando una base sólida para el desarrollo de sistemas de generación más fiables.