Resumen Técnico: DIVERGE – Generación Aumentada por Recuperación Mejorada por la Diversidad para la Búsqueda de Información de Carácter Abierto

1. Declaración del Problema

Los sistemas actuales de Generación Aumentada por Recuperación (RAG) están diseñados predominantemente bajo el supuesto de que cada consulta tiene una única respuesta fácticamente correcta. Este paradigma conduce al colapso de conocimiento en escenarios de búsqueda de información de carácter abierto (por ejemplo, lluvia de ideas, soporte para la toma de decisiones o exploración de perspectivas alternativas), donde existen múltiples respuestas plausibles.

El artículo identifica tres desafíos específicos que impiden que los sistemas RAG estándar generen salidas diversas:

• C1: Sesgo de Respuesta Única: Los paradigmas RAG fomentan la generación excesivamente confiada, causando que los modelos prioricen un subconjunto estrecho y de alta confianza de los contextos recuperados mientras ignoran información alternativa pero plausible.
• C2: Falta de Preservación de la Diversidad: Los mecanismos existentes carecen de estrategias de largo alcance para preservar la diversidad a través de múltiples generaciones. En consecuencia, incluso con contextos recuperados diversos, el modelo produce salidas altamente similares y homogeneizadas debido a las tendencias inherentes de los Modelos de Lenguaje Extensos (LLM).
• C3: Limitada Aplicabilidad Práctica: Muchas técnicas de mejora de la diversidad de vanguardia dependen del acceso a los logits a nivel de token o de hiperparámetros de decodificación específicos (por ejemplo, temperatura, top-p), los cuales no están disponibles o están restringidos en los LLM de código cerrado de frontera (por ejemplo, GPT-5, o3).

Además, el artículo señala que simplemente aumentar la diversidad de la recuperación (por ejemplo, mediante el reordenamiento o re-ranking) no se traduce en generaciones diversas, y los métodos basados en prompts existentes a menudo logran la diversidad a costa de una degradación significativa de la calidad.

2. Metodología: El Marco de Trabajo DIVERGE

Los autores proponen DIVERGE (Generación Aumentada por Recuperación Mejorada por la Diversidad), un marco de trabajo de RAG agéntico y "plug-and-play" diseñado para modelar explícitamente diversos puntos de vista manteniendo la calidad de la respuesta. DIVERGE opera como un proceso iterativo sin requerir acceso a los logits de los tokens, lo que lo hace compatible con cualquier base de LLM, incluyendo modelos de código cerrado.

El marco consta de tres componentes principales:

A. Generación de Puntos de Vista Guiada por Reflexión

Para mitigar el sesgo de respuesta única (C1), DIVERGE trata las características latentes del modelo como "puntos de vista".

1. Inicialización: El sistema genera una respuesta RAG inicial y la resume para extraer los puntos de vista existentes.
2. Reflexión: En iteraciones posteriores, el LLM reflexiona sobre el conjunto de puntos de vista explorados previamente.
3. Identificación de Nuevos Puntos de Vista: El modelo identifica un nuevo punto de vista insuficientemente cubierto que ofrece una perspectiva distinta sobre la consulta original, asegurando que el proceso de generación no colapse en una única postura dominante.

B. Recuperación Consciente de los Puntos de Vista

Para abordar la falta de fundamentación fáctica de los puntos de vista hipotéticos (C2), DIVERGE integra un mecanismo de recuperación que consulta la web abierta en busca de evidencia específica para el punto de vista identificado.

• Generación de Consultas: El LLM genera una consulta condicionada al nuevo punto de vista.
• Reordenamiento (Re-ranking) Consciente de la Diversidad: El recuperador emplea una formulación extendida de Relevancia Marginal Máxima (MMR). Este califica los documentos basándose en:
  1. La relevancia respecto a la consulta condicionada al punto de vista actual.
  2. La diversidad relativa a los documentos recuperados en iteraciones anteriores (memoria).
  3. La diversidad relativa a los documentos seleccionados dentro de la iteración actual.
     Esto asegura que la evidencia recuperada respalde el punto de vista específico evitando la redundancia con la información explorada previamente.

C. Generación y Refinamiento Condicionados al Punto de Vista

Para cerrar la brecha entre un punto de vista específico y la intención original del usuario, DIVERGE emplea un proceso de generación de dos pasos:

1. Generación Condicionada: El LLM genera una respuesta condicionada explícitamente tanto a la consulta original como al punto de vista objetivo.
2. Refinamiento: La respuesta generada se refina para asegurar que permanezca lógicamente coherente, fácticamente precisa y que aborde directamente la consulta original del usuario, evitando desviaciones excesivas mientras se mantiene la diversidad introducida por el punto de vista.

3. Métricas de Evaluación

Reconociendo que las métricas estándar que dependen de respuestas de verdad fundamental (ground-truth) no son adecuadas para tareas de carácter abierto, los autores introducen una novedosa suite de evaluación centrada en el compromiso entre diversidad y calidad (diversity–quality trade-off):

• Diversidad Semántica ($D_{sem}$): Mide la variación en el significado a través de las respuestas utilizando la distancia de coseno por pares entre los embeddings de las respuestas.
• Diversidad de Puntos de Vista ($D_{view}$): Descompone las respuestas en afirmaciones atómicas (puntos de vista) y mide la fracción de afirmaciones mutuamente no superpuestas a través del conjunto de respuestas. Esto captura la diversidad intra-respuesta que las métricas semánticas podrían pasar por alto.
• Puntuación de Calidad: Evaluada mediante un paradigma de LLM-como-Juez (LLM-as-a-Judge), evaluando la precisión fáctica, el soporte de evidencia, la consistencia interna y la relevancia de la pregunta.
• Puntuación Armónica Unificada de Diversidad-Calidad ($U_{Q}$): Una media armónica de las puntuaciones de diversidad y calidad normalizadas, que proporciona una métrica única para comparar el rendimiento del compromiso entre ambas.

4. Resultados Experimentales

El marco fue evaluado en Infinity-Chat, un benchmark de consultas de carácter abierto sin verdad fundamental. Los experimentos utilizaron modelos GPT-5-mini y GPT-5.1.

• Desempeño: DIVERGE alcanzó la Puntuación Unificada más alta en todos los métodos y configuraciones de modelos.
• Ganancias en Diversidad: En comparación con el muestreo independiente (prompting directo), DIVERGE mejoró la diversidad semántica en aproximadamente 2.5× y la diversidad de puntos de vista en 1.6×.
• Preservación de la Calidad: A diferencia de las líneas base basadas en prompts (por ejemplo, Muestreo Verbalizado) que sufrieron una degradación sustancial de la calidad, DIVERGE mantuvo una calidad de respuesta comparable, con solo una disminución marginal (~0.04) en la puntuación de calidad.
• Comparación con Líneas Base: El RAG estándar y las estrategias simples de mejora de la diversidad (por ejemplo, permutación de contexto, multi-consulta) no lograron aumentar significamente la diversidad y a menudo resultaron en puntuaciones unificadas más bajas.

5. Significado y Reivindicaciones

El artículo sostiene que DIVERGE aborda una limitación sistemática en los sistemas actuales basados en LLM: la incapacidad de aprovechar contextos recuperados diversos para la búsqueda de información de carácter abierto.

• Mitigación de la Homogeneización: Al modelar explícitamente la diversidad a través de la reflexión y el refinamiento iterativo, DIVERGE demuestra que es posible superar las tendencias de homogeneización de los LLM de frontera sin necesidad de reentrenamiento o acceso a los estados internos del modelo (logits).
• Aplicabilidad Práctica: El marco está diseñado como una solución "plug-and-play" compatible con modelos de código cerrado, lo que lo hace inmediatamente aplicable a escenarios de despliegue en el mundo real donde los controles de decodificación están restringidos.
• Impacto Ético y Social: Los autores argumentan que promover la diversidad en las respuestas de la IA ayuda a mitigar el riesgo de salidas homogeneizadas que sobre-representan puntos de vista sociales o culturales dominantes, apoyando así un acceso a la información más justo e inclusivo y fomentando la creatividad humana.

El trabajo concliza que el modelado explícito de la diversidad es un camino viable para equilibrar los objetivos, a menudo contrapuestos, de variedad de respuesta y fiabilidad fáctica en los sistemas RAG de carácter abierto.