Resumen Técnico: ¿Aclarar, Abstenerse o Responder? Estrategias en Conversación con Generación Aumentada por Creencias

Declaración del Problema

Los Modelos de Lenguaje Grandes (LLM) definen una distribución probabilística sobre el texto, que sirve como representación de la incertidumbre o "creencia". Aunque la investigación existente aprovecha esta distribución para tareas específicas como la decodificación (por ejemplo, Riesgo Bayesiano Mínimo) o la predicción selectiva (por ejemplo, detectar alucinaciones mediante entropía semántica), estos enfoques generalmente requieren intervenciones manuales, decodificadores externos o ajuste fino. Crucialmente, los LLM estándar carecen de un mecanismo para "introspeccionar" o explotar directamente su propia incertidumbre probabilística durante la generación. La evidencia empírica sugiere que, sin una guía explícita, los LLM rara vez aclaran entradas ambiguas o se abstienen de responder cuando están inciertos; en su lugar, optan por respuestas directas, ignorando a menudo la ambigüedad de la entrada o inconsistencias factuales internas. Esto conduce a alucinaciones o respuestas incorrectas en configuraciones de Respuesta a Preguntas (QA) ambiguas de múltiples turnos.

Metodología: Generación Aumentada por Creencias (BAG)

Los autores proponen la Generación Aumentada por Creencias (BAG), un marco libre de entrenamiento que fundamenta a los LLM en su propio estado de creencia para habilitar estrategias conversacionales más ricas: responder directamente, pedir aclaración o abstenerse.

Mecanismo Central

BAG opera como un proceso de dos etapas:

1. Construcción del Estado de Creencia: Dada una entrada $x$, el modelo genera $K$ muestras ($Y^{(1)}, \dots, Y^{(K)}$) mediante muestreo de Monte-Carlo. A diferencia de los métodos que reducen estas muestras a una sola métrica (por ejemplo, entropía o votación mayoritaria), BAG retiene el conjunto completo de $K$ respuestas textuales como el estado de creencia $B_\theta(x)$. Este estado captura no solo la diversidad de respuestas plausibles, sino también pistas lingüísticas como matices, negativas o variaciones contextuales.
2. Razonamiento de Estrategia: Se le solicita al modelo que analice la pregunta original del usuario y las $K$ respuestas candidatas (el estado de creencia). Se le instruye para analizar este estado y seleccionar una de tres estrategias:
   • Respuesta Directa: Si el estado de creencia muestra alta consistencia (baja incertidumbre) respecto a la respuesta.
   • Aclaración: Si el estado de creencia contiene respuestas semánticamente distintas pero plausibles que corresponden a diferentes interpretaciones de la pregunta (incertidumbre/ambigüedad de los datos).
   • Abstención: Si el estado de creencia contiene hechos contradictorios que indican una falta de conocimiento (incertidumbre epistémica/alucinación) donde no existe ninguna aclaración útil.

Variantes de Prompt

Los autores exploran tres variantes de prompt (BAG1, BAG2, BAG3) con instrucciones de complejidad creciente:

• BAG1: Verificación básica de consistencia.
• BAG2: Incorpora lenguaje específico de incertidumbre y distingue entre ambigüedad (aclarar) y alucinación (abstenerse).
• BAG3: Requiere que el modelo agrupe las generaciones por significado, interprete los grupos y luego decida sobre una estrategia.
• BAG+: Una extensión donde, si el modelo elige aclarar, simula una respuesta del usuario (usando un LLM auxiliar) y reevalúa el estado de creencia para decidir sobre una respuesta final o una abstención adicional.

Contribuciones Clave

1. Acceso Directo a Estados de Creencia: El artículo introduce un método para alimentar la representación textual cruda de la incertidumbre de un modelo directamente en el prompt, permitiendo que el modelo razone sobre su propia distribución sin herramientas externas ni entrenamiento.
2. Selección de Estrategia: A diferencia de trabajos anteriores centrados en seleccionar una sola generación o matizar una afirmación, BAG permite que el modelo elija dinámicamente entre responder, aclarar o abstenerse basándose en la naturaleza de su incertidumbre.
3. Aplicabilidad Libre de Entrenamiento: El enfoque no requiere ajuste fino, datos externos ni acceso a los pesos del modelo, lo que lo hace aplicable tanto a modelos abiertos como cerrados.
4. Análisis Empírico de Enrutamiento: El estudio proporciona una descomposición detallada de cómo los modelos enrutan las preguntas a diferentes estrategias y evalúa la fidelidad de estas decisiones con la entropía subyacente del estado de creencia.

Resultados

Se realizaron experimentos en el conjunto de datos AmbigQA (1.832 preguntas ambiguas) en seis modelos (OLMo2/3, Qwen3, Gemini-2.5-Flash).

• Mejoras de Rendimiento: BAG mejora significativamente la precisión de QA en comparación con la generación directa estándar y las líneas base solo de prompt (Generación Aumentada por Estrategia, SAG). En muchos casos, BAG+ supera incluso al "oráculo de desambiguación" (que proporciona la intención correcta), demostrando que el modelo puede identificar con éxito cuándo carece de conocimiento factual y abstenerse en lugar de adivinar.
• Fidelidad: Las decisiones estratégicas de BAG son más fieles a la entropía del estado de creencia interno del modelo que las de SAG. A medida que aumenta la entropía del estado de creencia, los modelos BAG eligen cada vez más aclarar o abstenerse, mientras que SAG y la generación directa rara vez lo hacen.
• Descomposición de Estrategias: Las ganancias de precisión se impulsan por diferentes mecanismos dependiendo del modelo. Por ejemplo, para los modelos Qwen, la mejora se impulsa principalmente por la estrategia de abstención (evitando alucinaciones), mientras que para Gemini, las contribuciones de la aclaración y la respuesta directa son más equilibradas.
• Desafíos en la Desvinculación: Aunque BAG mejora el rendimiento, distinguir entre la variación de interpretación (que requiere aclaración) y la variación de alucinación (que requiere abstención) sigue siendo un desafío. Los modelos a veces generan "ambigüedad percibida" para explicar inconsistencias factuales, lo que lleva a preguntas de aclaración que pueden confundir a los usuarios.
• Compensaciones de Brevedad: El uso de prompts que inducen brevedad reduce significativamente los costos de tokens (hasta 10 veces), pero puede eliminar las pistas contextuales necesarias para que el modelo detecte la ambigüedad, afectando ligeramente la precisión.

Significado y Afirmaciones

El artículo afirma que BAG representa un paso hacia interacciones LLM más robustas y honestas al permitir que los modelos aprovechen su propia incertidumbre probabilística para guiar el flujo conversacional. Los autores enfatizan que:

• Los LLM estándar optan por responder incluso cuando están inciertos; BAG corrige esto haciendo explícita y accionable la incertidumbre.
• La capacidad de abstenerse basándose en estados de creencia internos es crucial para la QA factual, ya que muchos errores provienen de una falta de conocimiento en lugar de ambigüedad en la entrada.
• Aunque el método es efectivo, la distinción entre ambigüedad y alucinación en el estado de creencia aún no es perfecta, y el trabajo futuro debe centrarse en mejorar la calidad de los estados de creencia y refinar la lógica de enrutamiento.
• El enfoque es una solución práctica e inmediata para mejorar la fiabilidad de la QA sin el costo de reentrenamiento, aunque incurre en un costo computacional de $K$ muestras más el prompt de razonamiento.

Los autores concluyen que, aunque BAG mejora la precisión y la fidelidad, la "desvinculación" de cuándo aclarar frente a cuándo abstenerse sigue siendo un desafío abierto, particularmente dado que los estados de creencia reflejan las salidas plausibles del modelo en lugar de la verdad fundamental garantizada.