Resumen Técnico: Propagación de la Incertidumbre Bayesiana en Pipelines de RAG Agénticos

Planteamiento del Problema

La integración de Modelos de Lenguaje de Gran Escala (LLMs) en flujos de trabajo industriales, tales como la programación de mantenimiento de Energía Eólica Marina (OSW), requiere mecanismos fiables para estimar cuándo los procesos de razonamiento multietapa pueden fallar. Si bien la Generación Aumentada por Recuperación (RAG) y las Arquitecturas de Multi-Agentes (MAAs) mejoran la interpretabilidad al fundamentar las respuestas en el conocimiento recuperado, no modelan explícitamente cómo se propaga la incertidumbre a través de las etapas secuenciales de razonamiento. En los sistemas de RAG agénticos, la incertidumbre introducida durante la planificación, la recuperación o la evaluación puede derivar en un "colapso del razonamiento", deriva semántica y respuestas finales poco fiables. Los modelos actuales de "caja negra" ofrecen una visión limitada del razonamiento detrás de los resultados, lo que crea la necesidad de métodos de monitoreo ligeros en tiempo de ejecución capaces de cuantificar la confianza a lo largo de todo el proceso de toma de decisiones.

Metodología

Los autores proponen un marco de RAG agéntico consciente de la incertidumbre que modela el sistema como un proceso de decisión secuencial (conceptualmente, un Proceso de Decisión de Markov Parcialmente Observable). La metodología consta de tres componentes principales:

1. Generación de Señales de Incertidumbre

El pipeline consta de tres agentes: Planificador (Planner), Evaluador (Evaluator) y Generador (Generator). Cada etapa produce señales de incertidumbre específicas:

• Entropía a nivel de Token (Entropía Naive): Derivada de la distribución de probabilidad softmax de los tokens generados. El sistema calcula la log-probabilidad de la secuencia, la normaliza por longitud y la transforma en una característica de confianza ($q_i$). Se utiliza para parametrizar las probabilidades a priori en la Red Bayesiana.
• Divergencia Semántica: Para abordar la "deriva semántica", donde las consultas de búsqueda de un agente se desvían del requisito de información original, el sistema mide la distancia entre la distribución de salida comprometida y una distribución de salida remuestreada en un espacio de embeddings proyectado. Esto utiliza la distancia de Wasserstein (análoga a la Información Mutua Puntual en el marco UProp) para cuantificar la Incertidumbre Intrínseca (IU) en cada nodo.
• Autoevaluación del Generador ($P(True)$): Al Agente Generador se le solicita responder a una pregunta binaria ("¿Está seguro de que la respuesta proporcionada es correcta?") después de producir una respuesta. La probabilidad asignada al token afirmativo sirve como una estimación de incertidumbre supervisada e in-context.

2. Propagación de la Red Bayesiana (BN)

Estas señales se propagan a través de una Red Bayesiana (BN) para estimar la incertidumbre del sistema:

• Estructura: El flujo de trabajo se modela como un Grafo Acíclico Dirigido (DAG) donde los nodos representan al Planificador, el Evaluador y el Generador.
• Lógica: La red utiliza una puerta OR determinista para el nodo "Global" (Overall). Esto implica que si cualquier nodo individual en el pipeline es considerado un "FALLO" (la incertidumbre supera el umbral de 0.5), el sistema global es marcado como "FALLO".
• Inferencia: La BN actualiza las probabilidades posteriores a medida que se introduce nueva evidencia (puntuaciones de incertidumbre), permitiendo la identificación de qué etapas específicas contribuyen más a la incertidumbre del sistema.

3. Configuración Experimental

El marco fue evaluado como prueba de concepto en dos benchmarks de preguntas de múltiples saltos (multi-hop): StrategyQA y HotpotQA.

• Modelos: GPT-3.5-Turbo y GPT-4.1-Nano.
• Métricas: El rendimiento se evaluó mediante el Área Bajo la Curva ROC (AUROC) para discriminación, el Área Bajo la Curva de Precisión-Rechazo (AUARC) para predicción selectiva, el Error de Calibración Esperada (ECE) y el Brier Score para calibración.
• Línea Base: Los resultados se compararon con el marco UProp.

Contribuciones Clave

1. Arquitectura: Una arquitectura de monitoreo ligera donde los agentes Planificador, Evaluador y Generador producen señales de incertidumbre complementarias (divergencia semántica y autoevaluación) durante el razonamiento de múltiples etapas.
2. Modelo de Propagación: Un modelo basado en Redes Bayesianas que agrega la incertidumbre de los nodos en una estimación de confianza del sistema interpretable, capaz de identificar puntos de fallo.
3. Evaluación Empírica: Un estudio comparativo que demuestra las fortalezas y limitaciones de la propagación bayesiana a través de diferentes complejidades de razonamiento y tamaños de modelos, utilizando métricas estándar de cuantificación de incertidumbre.

Resultados

El estudio arrojó resultados contrastantes dependiendo de la complejidad del benchmark:

• HotpotQA (Alta Complejidad): La propagación bayesiana resultó altamente efectiva. La incertidumbre se acumuló a través de múltiples etapas de razonamiento, y la BN Global logró un rendimiento competitivo o superior en comparación con los nodos individuales y la línea base UProp. El sistema demostró una mejora en la discriminación (AUROC) y la calibración (ECE, Brier Score) a medida que aumentaba la dificultad de la tarea.
• StrategyQA (Menor Complejidad): El enfoque mostró limitaciones. La señal de autoevaluación del Generador fue el indicador individual más fuerte, mientras que las señales del Planificador y el Evaluador funcionaron cerca de un nivel aleatorio. En consecuencia, la puerta OR determinista propagó ruido de los nodos ascendentes no fiables, causando que la BN Global tuviera un rendimiento inferior al del Generador por sí solo en algunas métricas (por ejemplo, AUROC para GPT-3.5-Turbo).
• Calibración vs. Discriminación: La puerta OR determinista introdujo un sesgo conservador, lo que llevó a una sobreestimación de la probabilidad de fallo en StrategyQA (pobre calibración), pero potencialmente ventajoso para la toma de decisiones basada en el riesgo. En HotpotQA, la calibración mejoró significamente, lo que sugiere que el marco es más adecuado para tareas donde la incertidumbre realmente se acumula.

Significado y Reivindicaciones

El artículo posiciona la propagación de la incertidumbre bayesiana como un mecanismo prometedor pero preliminar para monitorear sistemas de RAG agénticos.

• Hallazgo Principal: El método es más efectivo cuando la incertidumbre se acumula naturalmente a través de múltiples etapas de razonismo (como se vio en HotpotQA). En tales escenarios, la combinación de señales proporciona un valor predictivo que va más allá de las estimaciones de los nodos individuales.
• Limitaciones Reconocidas: Los autores señalan explícitamente que el marco actual está limitado por la puerta OR determinista, que no puede reducir el peso de los nodos ascendentes no fiables (por ejemplo, el Planificador en StrategyQA), y por la calibración conservadora de la señal $P(True)$.
• Dirección Futura: El estudio no pretende una implementación industrial inmediata. En su lugar, lo enmarca como una prueba de concepto que requiere validación futura en dominios industriales específicos, como el soporte de decisiones de mantenimiento de Energía Eólica Marina (OSW), utilizando corpus de recuperación específicos del dominio en lugar de benchmarks de propósito general. Los autores sugieren que el trabajo futuro debería centrarse en estructuras bayesianas adaptativas (por ejemplo, puertas noisy-OR) y técnicas de calibración mejoradas para abordar las limitaciones identificadas.