Rule-Based Explanations for Retrieval-Augmented LLM Systems

Título: Explicaciones Basadas en Reglas para Sistemas LLM Mejorados con Recuperación (RAG)

1. El Problema

Los Grandes Modelos de Lenguaje (LLM) potenciados por Generación Mejorada con Recuperación (RAG) permiten que los sistemas incorporen fuentes de información dinámicas y arbitrarias en tiempo de inferencia. Si bien esto mejora el control sobre los datos, complica la procedencia de la información (el origen de la respuesta generada).

• Limitaciones de los métodos actuales: Las técnicas existentes de Inteligencia Artificial Explicable (XAI) para RAG, como la atribución de características (que asigna puntuaciones de importancia) o las explicaciones contrafactuales (que muestran qué pasaría si se elimina una fuente), presentan deficiencias. La atribución no es "accionable" (no permite un recurso claro) y las explicaciones contrafactuales pueden ser abrumadoras debido a la gran cantidad de variaciones mínimas posibles.
• La brecha: No existía un marco para generar reglas "si-entonces" exactas que expliquen cómo la presencia o ausencia de fuentes específicas de RAG determina consistentemente un resultado de salida (por ejemplo, "si se recupera el documento X, el LLM siempre rechaza la solicitud").

2. Metodología

Los autores proponen un nuevo marco formal para explicar sistemas RAG de caja negra mediante reglas basadas en la ablación de características (retener u omitir fuentes de entrada).

• Formulación de la Regla:

  • Antecedente: Se define en términos de la presencia (reglas de retención) o ausencia (reglas de omisión) de un subconjunto de fuentes recuperadas ($s'$).
  • Consecuente: Una condición de salida definida por el usuario (ej. "respuesta incorrecta", "alucinación", "sesgo"), evaluada mediante una función de predicado $O$.
  • Validez: Una regla es válida si, para todas las combinaciones posibles de fuentes que incluyen (o excluyen) el subconjunto $s'$, el modelo produce consistentemente el resultado deseado. Esto garantiza una confianza del 100%.

• Algoritmos de Minería de Reglas:
  Para encontrar estas reglas sin probar exhaustivamente todas las $2^{|s|}$ combinaciones (lo cual es computacionalmente inviable), se diseñaron dos algoritmos inspirados en la minería de reglas de asociación (tipo Apriori), pero adaptados al espacio de búsqueda de predicciones de modelos:

  1. Mono Rule Miner: Busca un solo tipo de regla (retención u omisión) en un solo pase. Utiliza una búsqueda en amplitud (BFS) de arriba hacia abajo con programación dinámica (caché de validez) y terminación temprana. Si un subconjunto es inválido, todos sus descendientes (subconjuntos más pequeños) se podan automáticamente.
  2. Dual Rule Miner: Busca simultáneamente ambos tipos de reglas (retención y omisión) en un solo pase. Utiliza una representación de máscara para interpretar cada subconjunto de dos maneras opuestas. Aunque sacrifica algo de la eficiencia de poda del algoritmo Mono, evita duplicar el trabajo de ejecutar dos pasadas separadas.

• Estructura de Datos: El espacio de búsqueda se modela como un retículo (lattice) del conjunto potencia de las fuentes, donde los nodos representan subconjuntos de fuentes y las aristas representan relaciones de subconjunto/superset.

3. Contribuciones Clave

1. Primera formulación de reglas para RAG: Presentan el primer marco para explicar LLMs RAG mediante reglas que vinculan la presencia/ausencia de fuentes con resultados de salida específicos.
2. Algoritmos de búsqueda eficientes: Desarrollan algoritmos de minería que aprovechan la monotonicidad de la validez de las reglas para podar el espacio de búsqueda, reduciendo drásticamente el número de llamadas de inferencia necesarias en comparación con un enfoque de fuerza bruta.
3. Evaluación exhaustiva: Demuestran la utilidad y eficiencia de su enfoque mediante estudios de caso cualitativos (salud, seguridad de IA) y evaluaciones cuantitativas a gran escala.

4. Resultados Experimentales

Los autores evaluaron sus algoritmos utilizando el conjunto de datos HotpotQA (preguntas de razonamiento multi-paso) y escenarios sintéticos, comparando modelos comerciales (GPT-5, Gemini, Claude).

• Eficiencia y Poda:

  • Los algoritmos propuestos (Mono y Dual) lograron podar hasta un 70-75% de los nodos del retículo en comparación con un enfoque ingenuo que evalúa todas las combinaciones.
  • El algoritmo Dual es más eficiente que ejecutar dos pasadas de Mono cuando se buscan ambos tipos de reglas, especialmente para conjuntos de fuentes más pequeños.
  • Se estableció que $|s| = 10$ (10 fuentes) es un límite superior manejable para estos algoritmos en la práctica, permitiendo encontrar todas las reglas en minutos.

• Robustez:

  • A pesar de la estocasticidad inherente de los LLMs (variabilidad en las respuestas), el uso de votación mayoritaria sobre múltiples muestras permitió generar reglas exactas con alta precisión y recall.
  • El "LLM como juez" (usado para evaluar si una respuesta cumple el predicado) mostró una precisión del 98.89% y un recall del 100% en la validación de consistencia semántica.

• Casos de Estudio:

  • Salud: Identificaron que la combinación de dos documentos específicos (aunque individualmente inofensivos) hacía que el LLM recomendara tratamientos inseguros para el COVID persistente, permitiendo a los curadores de datos corregir el problema.
  • Seguridad (Red Teaming): En un escenario de seguridad, el algoritmo identificó rápidamente una combinación específica de dos fuentes adversarias que permitían inyectar instrucciones maliciosas en un sistema RAG, demostrando la capacidad de detectar vulnerabilidades de interacción compleja.

5. Significado e Impacto

Este trabajo es fundamental para la explicabilidad de sistemas de IA avanzados por varias razones:

• Accionabilidad: A diferencia de las atribuciones de características, las reglas "si-entonces" ofrecen acciones claras (ej. "eliminar el documento X de la base de datos") para corregir comportamientos indeseados.
• Garantía de Validez: Al exigir una confianza del 100% (reglas exactas), se evitan explicaciones engañosas o aproximadas, lo cual es crucial en dominios sensibles como la medicina o la seguridad.
• Escalabilidad: Demuestran que es posible analizar la procedencia de datos en sistemas RAG complejos de manera computacionalmente viable, proporcionando una herramienta para auditores, desarrolladores y responsables políticos para entender y mitigar riesgos en LLMs.

En resumen, el artículo presenta una solución teórica y práctica robusta para "abrir la caja negra" de los sistemas RAG, transformando la comprensión de cómo las fuentes de información influyen en las decisiones de los LLMs en reglas lógicas verificables.