Dual-Confidence Contrastive Decoding for Retrieval-Augmented Generation

Resumen Técnico: Decodificación Contrastiva de Doble Confianza para la Generación Aumentada por Recuperación

Planteamiento del Problema
Los sistemas de Generación Aumentada por Recuperación (RAG) operan cada vez más en entornos de múltiples documentos donde el conjunto de evidencia recuperada contiene información conflictiva, obsoleta, ruidosa o irrelevante. Aunque los métodos de decodificación contrastiva (CD) existentes resuelven eficazmente los conflictos entre la memoria paramétrica interna de un modelo y el contexto recuperado, fallan ampliamente al abordar los conflictos intra-contextuales. En el RAG de múltiples documentos, el modelo no solo debe elegir el siguiente token, sino también seleccionar la fuente de evidencia correcta entre varios documentos recuperados, algunos de los cuales pueden respaldar afirmaciones contradictorias. Los enfoques de CD estándar suelen tratar el conjunto de documentos como un único contexto, sin distinguir entre los documentos que son suficientes para responder a una consulta y aquellos que no lo son, ni tienen en cuenta la confianza de las predicciones a nivel de token dentro de flujos específicos condicionados por documentos.

Metodología: Decodificación Contrastiva de Doble Confianza (DCCD)
Los autores proponen DCCD, una estrategia de decodificación sin entrenamiento diseñada para resolver conflictos intra-contextuales integrando dos señales de confianza distintas:

1. Confianza a Nivel de Documento ($q_i$): Esta métrica estima si un documento recuperado específico $d_i$ contiene información suficiente para responder a la consulta $x$. Se calcula mediante un prompt de "sonda de soporte" que plantea al modelo una pregunta binaria de sí/no ("¿Contiene este documento información suficiente para responder a la pregunta?"). La puntuación se deriva de la masa de probabilidad de los tokens de verbalización de "sí" en relación con los de "no". Esta puntuación se calcula una vez por cada par pregunta-documento antes de comenzar la decodificación.
2. Confianza a Nivel de Token ($c_{i,t}$): Esta métrica estima la nitidez de la predicción del siguiente token del modelo condicionada a un documento específico $d_i$ en el paso de decodificación $t$. Siguiendo el marco de incertidumbre de Dirichlet, el modelo mapea los top-$k$ logits del flujo condicionado por el documento a parámetros de concentración de Dirichlet. Se calcula la entropía esperada de la distribución categórica inducida y se normaliza; la confianza se define como $1 - \text{entropía normalizada}$. Esta puntuación se recalcula en cada paso de decodificación.

Mecanismo de Decodificación
En cada paso de decodificación $t$, DCCD agrega estas señales en una puntuación de doble confianza $s_{i,t} = q_i + c_{i,t}$. El método selecciona:

• Un flujo positivo ($i^+_t$) correspondiente al documento con la mayor puntuación de doble confianza.
• Un flujo negativo ($i^-_t$) correspondiente al documento con la menor puntuación de doble confianza.

El término contrastivo $\epsilon_t$ se escala dinámicamente mediante el margen entre estas puntuaciones ($\epsilon_t = s_{i^+_t,t} - s_{i^-_t,t}$). La distribución de logits final $z_t$ se calcula anclando la generación en los logits de contexto completo ($z^{full}_t$) y añadiendo la diferencia escalada entre los logits del documento positivo y el negativo:
$$z_t = z^{full}_t + \epsilon_t (z^{i^+_t}_t - z^{i^-_t}_t)$$
Este enfoque amplifica la evidencia de la fuente más confiable mientras suprime alternativas conflictivas o no respaldadas, sin requerir el ajuste fino del modelo.

Benchmark: DRQA
Para evaluar este escenario, los autores introducen DRQA (Deep Research Question Answering), un benchmark de conflictos fácticos derivado de escenarios de investigación profunda empresarial. A diferencia de los benchmarks de QA de dominio abierto estándar que dependen del conocimiento público, DRQA utiliza hechos sintéticos y específicos de la empresa (por ejemplo, métricas internas de la compañía, perfiles de usuario) que no son recuperables de la memoria interna del modelo. Cada consulta se empareja con un conjunto recuperado que contiene:

• Un documento correcto.
• Documentos de desinformación (plausibles pero fácticamente incorrectos).
• Documentos temporales (históricamente exactos pero actualmente obsoletos).
• Documentos de ruido (temáticamente relevantes pero imposibles de responder).

Este diseño obliga a los modelos a depender enteramente de la recuperación y la resolución de conflictos en lugar del conocimiento paramétrico.

Resultados Experimentales
Los autores evaluaron DCCD frente a la decodificación estándar de contexto completo y varios baselines de decodificación contrastiva (CAD, ADACAD, DVD, COCOA) en DRQA y benchmarks estándar de QA multi-documento (Natural Questions, TriviaQA, PopQA, RetrievalQA) utilizando modelos de lenguaje pequeños ajustados por instrucciones (Qwen3.5-2B/9B, Phi-3-medium).

• Rendimiento: DCCD logró el mejor rendimiento promedio en casi todas las configuraciones. Las ganancias fueron más pronunciadas en DRQA, donde la tarea requiere resolver conflictos internos entre la evidencia recuperada.
• Estudios de Ablación: Eliminar la confianza a nivel de documento causó la mayor degradación del rendimiento (por ejemplo, una caída de ~6.34% en DRQA @5), lo que indica que la nitidez a nivel de token por sí sola es insuficiente cuando los documentos engañosos aún pueden generar predicciones locales confiables. Por el contrario, usar solo la confianza a nivel de documento fue estable pero menos efectivo a medida que aumentaba el número de distractores, lo que destaca el valor complementario de la confianza a nivel de token.
• Eficiencia: Aunque DCCD incurre en mayores costos de inferencia debido a múltiples pasadas hacia adelante (un flujo de contexto completo más $n$ flujos condicionados por documentos), la sobrecarga es lineal con el número de documentos recuperados y se amortiza mediante la sonda de nivel de documento.

Significancia y Reivindicaciones
El artículo afirma que DCCD demuestra la importancia crítica de una decodificación con control de confianza consciente de la fuente cuando la evidencia recuperada es internamente conflictiva. Al distinguir explícitamente entre la suficiencia de una fuente (nivel de documento) y la certeza de la generación desde esa fuente (nivel de token), DCCD proporciona un mecanismo robusto para resolver conflictos intra-contextuales sin entrenamiento. Los autores posicionan a DRQA como un benchmark necesario para evaluar sistemas RAG en entornos empresariales donde los hechos son privados, heterogéneos y propensos al conflicto, una capacidad que ha sido poco explorada en trabajos previos. Los resultados sugieren que un RAG de múltiples documentos eficaz requiere no solo recuperar evidencia, sino también controlar dinámicamente la generación basándose en la fiabilidad y claridad de las fuentes de evidencia específicas.