Open-Source Reproduction and Explainability Analysis of Corrective Retrieval Augmented Generation

Este trabajo presenta una reproducción de código abierto del sistema CRAG, que reemplaza sus componentes propietarios por alternativas libres y demuestra un rendimiento comparable, además de ofrecer el primer análisis explicativo que revela que su evaluador depende principalmente de la alineación de entidades nombradas en lugar de la similitud semántica.

Lo esencial

Imagina que tienes un genio muy inteligente (una Inteligencia Artificial) que puede responder cualquier pregunta, pero a veces, cuando no sabe la respuesta, inventa cosas con total seguridad. A esto los expertos le llaman "alucinación".

Para evitar que el genio invente, los científicos crearon un sistema llamado CRAG (Generación Aumentada por Recuperación Correctiva). La idea es sencilla: antes de que el genio responda, un inspector revisa la información que encuentra en internet. Si la información es buena, el genio la usa. Si es mala, el sistema busca en Google para encontrar algo mejor.

El problema es que el sistema original de CRAG era como un coche de lujo con piezas secretas: usaba herramientas de pago (como la API de Google) y modelos de IA que nadie podía ver ni modificar. Esto hacía imposible que otros investigadores lo copiaran o mejoraran.

Aquí es donde entra este nuevo trabajo, que podemos resumir en tres partes clave:

1. El "Reparador" de Código Abierto (Reproducción)

El autor, Surya, decidió reconstruir todo el coche con piezas que cualquiera puede comprar gratis.

• El Genio: Cambió el modelo original (LLaMA-2) por otro llamado Phi-3, que es pequeño, rápido y gratuito.
• La Búsqueda: En lugar de pagar por Google, usó Wikipedia como su motor de búsqueda. Imagina que en lugar de llamar a un detective privado caro, le pides a la biblioteca pública que busque los libros.
• El Resultado: ¡Funciona casi igual de bien! El sistema de "piezas gratis" obtuvo resultados muy similares al original de "lujo". Esto demuestra que no necesitas millones de dólares para tener un sistema inteligente y seguro.

2. El Detective de Etiquetas (Análisis de Explicabilidad)

Aquí es donde la cosa se pone interesante. El equipo usó una herramienta llamada SHAP (que actúa como una lupa mágica) para ver cómo pensaba el "inspector" (el evaluador de documentos).

¿Qué descubrieron?
El inspector no era tan inteligente como pensábamos. No leía la significado de las frases (semántica). En realidad, era un detective de nombres propios.

• El truco: Si la pregunta era "¿Qué hace Juan Pérez?" y el documento decía "Juan Pérez es médico", el inspector decía: "¡Perfecto! ¡Coinciden los nombres!".
• El fallo: Si la pregunta era sobre una película (ej. "¿Quién dirigió Titanic?") y el documento hablaba del barco, el inspector se confundía. Como no veía el nombre "Titanic" en el contexto correcto, pensaba que la información era basura, aunque la información fuera correcta.
• La metáfora: Es como un guardia de seguridad en un club que solo deja pasar a la gente si llevan un nombre específico en la etiqueta. Si alguien lleva un nombre diferente, aunque sea un invitado VIP, el guardia lo echa.

3. Los Problemas en la Vida Real (Errores)

Gracias a esta "lupa", encontraron dónde fallaba el sistema:

• El problema de la ciencia: El sistema fue entrenado principalmente con preguntas sobre personas (biografías). Cuando le preguntaron cosas de ciencia (como en el examen ARC), el inspector se bloqueó. Decía "No estoy seguro" (Ambiguo) el 88% de las veces, porque no encontraba nombres de personas que coincidieran.
• El problema de la religión: Hubo un caso curioso donde el inspector decía "¡Esta información es perfecta!" (Correcto), pero la respuesta era totalmente falsa. El sistema se había confiado demasiado en que el tema era "religión", pero no verificó el dato concreto.

En Resumen

Este trabajo es como decir: "No necesitas un Ferrari para ganar la carrera; un buen coche con piezas de repuesto gratuitas también puede llegar a la meta".

Además, nos enseñaron una lección importante: La inteligencia artificial a veces es muy literal. El sistema de este estudio no entendía el sentido de las cosas, solo buscaba que las etiquetas (nombres) coincidieran. Para que estos sistemas sean realmente útiles en el futuro, necesitamos entrenarlos para que entiendan el contexto y no solo busquen coincidencias de nombres, especialmente en temas difíciles como la ciencia o el arte.

¿El resultado final? Ahora tenemos un sistema abierto, gratuito y transparente que funciona bien, y sabemos exactamente dónde y por qué falla, lo que nos ayuda a mejorarlo.

Resumen técnico

Aquí tienes un resumen técnico detallado del artículo en español, estructurado según los componentes solicitados:

Resumen Técnico: Reproducción de Código Abierto y Análisis de Explicabilidad de la Generación Aumentada por Recuperación Correctiva (CRAG)

1. El Problema

Los Modelos de Lenguaje Grandes (LLM) son propensos a alucinaciones (generar contenido factualmente incorrecto). La Generación Aumentada por Recuperación (RAG) intenta mitigar esto utilizando documentos externos, pero asume erróneamente que los documentos recuperados son siempre relevantes. La Generación Aumentada por Recuperación Correctiva (CRAG) aborda esto introduciendo un evaluador que decide si los documentos son correctos, incorrectos o ambiguos, activando búsquedas web si es necesario.

Sin embargo, la implementación original de CRAG presenta barreras significativas para la reproducibilidad científica:

• Depende de componentes propietarios y de pago (API de búsqueda de Google).
• Utiliza pesos de modelos cerrados (LLaMA-2 fine-tuned).
• Emplea llamadas a APIs obsoletas (OpenAI).
  Esto impide que otros investigadores repliquen o mejoren el sistema sin recursos sustanciales.

2. Metodología

El trabajo presenta una reproducción completa de código abierto del sistema CRAG, reemplazando todos los componentes propietarios con alternativas gratuitas y de código abierto:

• Componentes Sustituidos:

  • Generador: Se reemplazó LLaMA-2-7B por Phi-3-mini-4k-instruct (3.8B parámetros), un modelo instruido de alto rendimiento y acceso libre.
  • Búsqueda Web: La API de Google (pago) fue sustituida por una pipeline de recuperación multi-etapa basada en Wikipedia (API gratuita). Esta incluye extracción de entidades clave mediante regex y cuatro estrategias de fallback (búsqueda directa, sufijos tipados, API de Wikipedia y resolución de páginas de desambiguación).
  • Evaluador de Recuperación: Se mantuvo el modelo T5-large fine-tuned original, ya que sus pesos son accesibles, pero se sometió a un nuevo análisis de explicabilidad.
  • Extracción de Palabras Clave: Se reemplazó GPT-3.5 Turbo por extracción basada en reglas.

• Mecanismo de Acción:
  El evaluador T5 asigna una puntuación de relevancia $[-1, 1]$ a cada par pregunta-documento. Según umbrales ($\tau^+ = 0.59$, $\tau^- = -0.99$), se activan tres acciones:

  1. Correcto: Refinar documentos internos.
  2. Incorrecto: Descartar documentos y buscar en la web (Wikipedia).
  3. Ambiguo: Combinar conocimiento interno y externo.

• Análisis de Explicabilidad (SHAP):
  Se aplicó SHAP (SHapley Additive exPlanations) al evaluador T5 para analizar las atribuciones a nivel de token, determinando qué características del texto impulsan las decisiones de puntuación.

3. Contribuciones Clave

1. Reproducción Open-Source: Demostración de que un pipeline completamente gratuito (Wikipedia + Phi-3) puede igualar el rendimiento del sistema original propietario.
2. Pipeline de Recuperación de Wikipedia: Desarrollo de un sistema de búsqueda en cinco etapas que logra una tasa de acierto del 82.3% en preguntas ambiguas de PopQA y 99% en ARC-Challenge.
3. Primer Análisis de Explicabilidad de CRAG: Uso de SHAP para revelar que el evaluador T5 no funciona principalmente como un juez de relevancia semántica, sino como un detector de alineación de entidades nombradas.
4. Identificación de Modos de Fallo: Descubrimiento de limitaciones críticas en la transferencia de dominio, específicamente en preguntas de ciencias y tipos de entidades fuera de distribución (títulos de películas, géneros musicales).

4. Resultados

Las evaluaciones se realizaron en dos conjuntos de datos: PopQA (preguntas de dominio abierto) y ARC-Challenge (preguntas de ciencias).

• Rendimiento en PopQA:

  • La reproducción Open-Source alcanzó un 54.4% de precisión, muy cercano al sistema original (54.9%) a pesar de usar un generador diferente.
  • El mecanismo de corrección es el motor principal del rendimiento, no la capacidad específica del generador.
  • Análisis por Acción: La acción "Correcto" logra un 78.1% de precisión, mientras que la acción "Ambiguo" sin búsqueda web cae al 19.3%, subiendo al 23.0% con la búsqueda en Wikipedia.

• Rendimiento en ARC-Challenge:

  • El sistema Open-Source alcanzó un 85.2%, superando al RAG estándar (84.8%).
  • Problema de Transferencia: El evaluador T5 clasificó el 88.3% de las preguntas de ciencias como "Ambiguas". Esto se debe a que el modelo fue entrenado principalmente en preguntas de entidades biográficas y no reconoce bien la relevancia en dominios científicos donde faltan entidades nombradas específicas.

• Hallazgos de Explicabilidad (SHAP):

  • Las puntuaciones "Correcto" se impulsan fuertemente por la alineación de nombres de entidades (ej. "Henry" en la pregunta coincide con "Henry" en el documento).
  • Las puntuaciones "Incorrecto" se deben principalmente a la ausencia de la entidad nombrada, no a la falta de contenido semántico.
  • Las entidades fuera de distribución (ej. "Titanic") reciben puntuaciones negativas incluso si el documento es factualmente correcto, debido a la falta de representación en los datos de entrenamiento.

5. Significado e Implicaciones

Este trabajo es fundamental por varias razones:

• Democratización de la Investigación: Elimina las barreras de entrada (costos de API y modelos cerrados) para investigar sistemas RAG avanzados, permitiendo que más investigadores construyan sobre CRAG.
• Transparencia del Modelo: Revela una debilidad estructural en los evaluadores de recuperación basados en T5: su dependencia excesiva de la coincidencia de entidades nombradas en lugar de la comprensión semántica profunda. Esto explica por qué fallan en dominios como la ciencia o el entretenimiento.
• Direcciones Futuras: Sugiere que para mejorar CRAG, es necesario:
  1. Fine-tuning del evaluador con datos más diversos (no solo entidades biográficas).
  2. Mejorar las estrategias de búsqueda externa para cubrir casos donde Wikipedia es insuficiente.
  3. Validar estadísticamente los hallazgos de SHAP con muestras más grandes.

En conclusión, el estudio valida que la corrección de RAG es efectiva y reproducible con herramientas gratuitas, pero advierte que la calidad del evaluador de recuperación es crítica y actualmente está sesgada hacia la alineación de entidades, limitando su generalización a otros dominios.