Resumen Técnico: Sobre Puntuaciones de Confianza Verbalizadas para Modelos de Lenguaje Grandes (LLMs)

Declaración del Problema

La creciente integración de Modelos de Lenguaje Grandes (LLMs) en la vida cotidiana ha creado una necesidad crítica de mecanismos de confiabilidad. A diferencia de los motores de búsqueda tradicionales o los foros de preguntas y respuestas que utilizan votación humana o clasificación por relevancia para indicar fiabilidad, las respuestas de los LLM a menudo carecen de indicadores de confianza inherentes. La confianza ciega en estos sistemas conlleva riesgos, lo que hace necesaria la implementación de métodos robustos de Cuantificación de Incertidumbre (UQ).

Los enfoques de UQ existentes suelen basarse en:

1. Conocimiento Interno: Muestrear múltiples respuestas para medir la consistencia o utilizar los logits internos de los tokens. Estos métodos a menudo fallan en ser agnósticos al modelo (los logits son inaccesibles en modelos de caja negra) o incurren en una sobrecarga computacional elevada (muestreo).
2. Conocimiento Externo: Utilizar modelos proxy o bases de conocimiento. Estos a menudo carecen de generalización a través de diferentes prompts y tareas.

El artículo investiga las puntuaciones de confianza verbalizadas, un método donde se solicita al LLM que genere explícitamente una puntuación de confianza junto con su respuesta. Aunque este enfoque es agnóstico al prompt, agnóstico al modelo e incurre en una sobrecarga baja, su fiabilidad es objeto de debate. Estudios anteriores han reportado resultados contradictorios sobre la calibración de estas puntuaciones, sugiriendo que el método de redacción del prompt puede ser el factor decisivo.

Metodología

Los autores realizan un análisis empírico exhaustivo para determinar cómo las características del conjunto de datos, la capacidad del modelo y la ingeniería de prompts afectan la fiabilidad de las puntuaciones de confianza verbalizadas.

Configuración Experimental

• Conjuntos de datos: 10 conjuntos de datos diversos (por ejemplo, ARC, MMLU, TruthfulQA, CommonsenseQA) que cubren diversos dominios (ciencia, lógica, sentido común social) y niveles de dificultad. La evaluación se restringe a preguntas objetivas de libro cerrado y respuesta cerrada para asegurar que se pueda determinar la corrección de la verdad fundamental.
• Modelos: 11 LLM que van desde modelos de código abierto diminutos (por ejemplo, Gemma 2B, Llama 3 8B) hasta modelos grandes (por ejemplo, Llama 3 70B, Qwen 110B, GPT-4o).
• Métodos de Prompt: 17 variaciones de prompt distintas categorizadas por:
  • Rango de Puntuación: Porcentajes (0-100), decimales (0-1), letras discretas (A-E) o etiquetas de texto.
  • Formulación de la Puntuación: Solicitar "confianza" frente a "probabilidad de corrección".
  • Descripción Avanzada: Instruir explícitamente al modelo a considerar la incertidumbre del prompt, la dificultad de la tarea y la disponibilidad de conocimiento.
  • Prompting de pocos ejemplos (Few-Shot): Proporcionar 1 o 5 ejemplos de pares de respuesta-confianza.
  • Complejidad: Variaciones que incluyen Cadena de Pensamiento (CoT) o clasificación de múltiples suposiciones.

Métricas de Evaluación

La fiabilidad de las puntuaciones se evalúa utilizando tres criterios de alto nivel:

1. Calibración: Medida mediante el Error de Calibración Esperado (ECE) y el SmoothECE (smECE). Una puntuación calibrada $C$ implica $P(\text{correcto} | C=c) = c$.
2. Informatividad: Medida por la varianza y el número de valores distintos en las puntuaciones de confianza predichas. Un modelo que siempre genera la misma puntuación no es informativo.
3. Significatividad: Medida por la divergencia de Kullback-Leibler (KL) entre la distribución de confianza de un conjunto de datos específico y la distribución global. Esto evalúa si el modelo ajusta su confianza basándose en la dificultad de la tarea.

Resultados Clave

1. Dependencia de la Estrategia de Prompting

El estudio confirma que la fiabilidad de las puntuaciones de confianza verbalizadas no es intrínseca al modelo, sino que depende en gran medida de cómo se le pregunta al modelo.

• Resolución de Discrepancias: El artículo resuelve la literatura contradictoria (por ejemplo, Tian et al. vs. Xiong et al.) mostrando que diferentes formulaciones de prompt producen resultados de calibración muy dispares.
• Modelos Pequeños vs. Grandes:
  • LLM Pequeños: Se benefician más de formulaciones de prompt simples. Los métodos complejos como el prompting de pocos ejemplos o la clasificación de múltiples suposiciones degradan significativamente la fiabilidad. La formulación de "puntuación de probabilidad" (solicitar una probabilidad de 0-1) proporcionó la mejor mejora.
  • LLM Grandes: Se benefician de métodos de prompt complejos. La combinación de formulación de probabilidad, descripciones avanzadas (mencionando explícitamente fuentes de incertidumbre) y ejemplos de pocos ejemplos produjo los mejores resultados.

2. Rendimiento de Calibración

• Sobreconfianza: La mayoría de los modelos exhiben sobreconfianza, manteniendo puntuaciones de confianza altas incluso cuando la precisión disminuye en conjuntos de datos difíciles.
• Capacidad del Modelo: Aunque la precisión aumenta con el tamaño del modelo, las mejoras en la calibración son impulsadas principalmente por el aumento de la precisión en lugar de una reducción de la sobreconfianza.
• Mejor Rendimiento: Para LLM grandes, el método "combo" (formulación de probabilidad + descripción avanzada + ejemplos de pocos ejemplos) logró una desviación promedio del 7% respecto a la precisión empírica (ECE $\approx$ 0.07), representando una mejora cualitativa significativa en el comportamiento de calibración.

3. Informatividad y Significatividad

• Los prompts simples a menudo resultan en una baja varianza (informatividad), con modelos agrupándose alrededor de una alta confianza.
• Los prompts complejos para modelos grandes incentivaron con éxito la generación de puntuaciones de confianza diversas que reflejaron mejor la dificultad del conjunto de datos subyacente (mayor significatividad).

Contribuciones Clave

1. Descomposición Intuitiva de la Incertidumbre: Los autores proponen una descomposición de la incertidumbre de los LLM en incertidumbre de Entrada, Modelo y Salida, centrándose específicamente en la incertidumbre de salida respecto a la corrección objetiva.
2. Especificación Precisa de la Fiabilidad: El artículo define y evalúa la fiabilidad a través de una tríada de métricas: Calibración, Informatividad y Significatividad, yendo más allá de las comprobaciones simples de precisión.
3. Perspectivas Empíricas: El estudio proporciona un análisis granular de cómo interactúan la dificultad del conjunto de datos, la capacidad del modelo y técnicas específicas de ingeniería de prompts para determinar la calidad de la confianza verbalizada.
4. Código Abierto: El código de evaluación y las plantillas de prompts están disponibles públicamente para facilitar futuras investigaciones.

Significado y Afirmaciones

El artículo argumenta que las puntuaciones de confianza verbalizadas representan un método prometedor, simple y versátil para la cuantificación de la incertidumbre que satisface los requisitos de ser agnóstico al prompt, agnóstico al modelo y de baja sobrecarga.

Sin embargo, los autores mantienen una postura modesta con respecto al estado actual de la tecnología:

• No es una Bala de Plata: La fiabilidad de estas puntuaciones está actualmente "muy influenciada por la forma de preguntar". Aún no son totalmente fiables para su implementación en el mundo real sin una ingeniería de prompts cuidadosa.
• Potencial Futuro: Los autores sugieren que, aunque los LLM pueden aprender a expresar puntuaciones de confianza diversas y significativas mediante prompts simples, lograr una calibración completa y autoconciencia puede requerir avances adicionales en la optimización de prompts, la ingeniería guiada por LLM o el ajuste fino.
• Limitación del Alcance: El trabajo actual se limita a la corrección objetiva. No aborda preguntas subjetivas o tareas de generación abierta donde la "corrección" está mal definida.

En conclusión, el artículo establece que la confianza verbalizada es un camino viable hacia adelante para la confiabilidad de los LLM, siempre que la estrategia de prompting se adapte cuidadosamente al tamaño específico del modelo y a la complejidad de la tarea.