Resumen Técnico: Evaluación y Calibración de la Confianza de los LLM en Preguntas con Múltiples Respuestas Correctas

Declaración del Problema

La calibración de la confianza es crítica para la fiabilidad de los Modelos de Lenguaje de Gran Escala (LLM), asegurando que la confianza expresada por un modelo se alinee con su rendimiento predictivo real. Aunque los métodos de calibración sin entrenamiento existentes han sido ampliamente estudiados para el cuestionario de respuesta única (QA), este artículo identifica un modo de fallo crítico cuando se aplican a preguntas con múltiples respuestas válidas.

El problema central es la división de la masa de probabilidad. En entornos de respuesta única, la consistencia de la respuesta (el acuerdo entre las salidas muestreadas) es un indicador fiable de la confianza; si un modelo "conoce" la respuesta, las salidas convergen. Sin embargo, en entornos de múltiples respuestas, un modelo puede generar múltiples respuestas igualmente correctas pero textualmente distintas (por ejemplo, "Ibuprofeno" y "Acetaminofén" para un medicamento para el dolor de cabeza). Los métodos basados en la consistencia existentes interpretan esta diversidad natural como incertidumbre o desacuerdo, lo que conduce a una subestimación sistemática de la confianza. En consecuencia, los modelos son marcados como poco fiables a pesar de ser fácticamente correctos, causando una descalibración severa. Este fenómeno es particularmente agudo en modelos más grandes (por ejemplo, de más de 70B parámetros) que poseen una cobertura de conocimiento más amplia y, por lo tanto, generan una mayor variedad de respuestas correctas.

Metodología

1. El Benchmark MACE

Para estudiar sistemáticamente este fenómeno, los autores introducen MACE (Multi-Answer Confidence Estimation), un benchmark que comprende 12,000 preguntas fácticas a través de seis dominios: Premios Honoríficos, Cargos Políticos, Afiliación Regional, Conceptos Matemáticos, Ríos Naturales y Cultura Lingüística.

• Construcción: Las preguntas se generan a partir de tripletas de Wikidata utilizando plantillas controladas.
• Control de Cardinalidad: El benchmark categoriza explícitamente las preguntas según el número de respuestas correctas: 1, 2, 4 o 6 respuestas correctas (denotado como 1a, 2a, 4a, 6a).
• Control de Calidad: Un riguroso proceso de filtrado que incluye filtrado heurístico (popularidad y validez) y verificación manual por parte de expertos en el dominio asegura conjuntos de verdades fundamentales exhaustivos y correctos, abordando las limitaciones de los benchmarks existentes que carecen de una verdad fundamental exhaustiva o de una cardinalidad controlada.

2. Evaluación Experimental

Los autores evaluaron 15 métodos de calibración representativos en cuatro familias de LLM (LLaMA, Qwen, DeepSeek y GPT) que van desde 7B hasta 72B de parámetros.

• Métodos Probados:
  • Turno único: Probabilidades a nivel de token (Entropía, Perplejidad), confianza verbalizada (Verb) y métodos basados en la consistencia (Consistencia, Entropía Semántica).
  • Doble turno: Métodos de autoevaluación (PTrue, Self-Ask) donde el modelo verifica su propia respuesta en una segunda pasada.
• Métricas: Precisión (Accuracy) y AUROC (Área bajo la curva de la característica operativa del receptor) para medir la calidad de la estimación de la confianza.

3. Solución Propuesta: Agregación de Confianza Semántica (SCA)

Para abordar la descalibración causada por la división de la masa de probabilidad, los autores proponen la Agregación de Confianza Semántica (SCA).

• Idea Central: En lugar de depender de la respuesta más confiable o penalizar la diversidad, SCA agrega la confianza de todas las respuestas válidas de alta probabilidad.
• Mecanismo:
  1. Muestrear múltiples respuestas ($N$) para una pregunta.
  2. Agrupar las respuestas basándose en la similitud semántica.
  3. Calcular la confianza de cada grupo ($C_m$) sumando las probabilidades de generación a nivel de token de todas las respuestas dentro de ese grupo: $P(C_m) = \sum_{s \in C_m} p(s)$.
  4. Filtrar los grupos de baja probabilidad (ruido) utilizando un umbral $\tau$ (aunque los experimentos muestran que $\tau=0$ suele ser suficiente).
  5. La puntuación de confianza final es la suma de las probabilidades de los grupos válidos restantes: $Conf_{SCA} = \sum_{C_m \in C_{valid}} P(C_m)$.
• Ventaja: Este enfoque trata la diversidad de las respuestas correctas como una característica en lugar de un error, preservando puntuaciones de confianza altas incluso cuando el modelo distribuye su masa de probabilidad a través de múltiples grupos semánticos válidos.

Resultados Clave

1. La Paradoja de la Confianza-Precisión

Los experimentos revelan una tendencia contraintuitiva: a medida que aumenta el número de respuestas correctas (de 1a a 6a), la precisión de la QA mejora (las preguntas se vuelven empíricamente más fáciles), pero la confianza estimada disminuye consistentemente en casi todos los métodos existentes.

• Impacto en Modelos Más Grandes: Los modelos más grandes (por ejemplo, LLaMA-70B) sufren una degradación de confianza más severa que los modelos más pequeños (por ejemplo, LLaMA-8B). Esto se atribuye a la "cobertura de conocimiento": los modelos más grandes internalizan más conocimiento y, por lo tanto, generan un rango más amplio de respuestas válidas, causando una mayor división de la masa de probabilidad y menores puntuaciones de consistencia.

2. Fallo de los Métodos Existentes

En entornos de respuestas mixtas (combinando preguntas con 1, 2, 4 y 6 respuestas), los métodos de calibración de vanguardia (SOTA) colapsan.

• Los métodos basados en la consistencia (por ejemplo, Entropía Semántica, Consistencia) caen significativamente en AUROC porque malinterpretan la diversidad de respuestas como incertidumbre.
• Los métodos de doble turno (por ejemplo, PTrue) muestran una mayor estabilidad al desacoplar la verificación de la generación, pero aun así no logran superar al SCA propuesto en el rendimiento general de la calibración.

3. Rendimiento de SCA

SCA logra un rendimiento de calibración de vanguardia (SOTA) en entornos de respuestas mixtas, manteniendo al mismo tiempo un fuerte rendimiento en preguntas de respuesta única.

• En el modelo LLaMA-3.1-70B-Instruct, SCA (con $\tau=0$) alcanzó un AUROC de 76.7 en el entorno totalmente mixto ([1,2,4,6]), superando al siguiente mejor baseline (Perplexity con 73.8).
• SCA es robusto al umbral $\tau$ y no requiere agrupamiento o filtrado complejo para ser efectivo; simplemente sumar las probabilidades a nivel de token a través de todas las respuestas muestreadas a menudo produce resultados óptimos.
• El método se generaliza a través de escalas de modelos (7B a 72B) y familias (Qwen, LLaMA).

Significación y Reivindicaciones

El artículo afirma avanzar en la calibración de la confianza desde el restrictivo entorno de QA de respuesta única hacia un escenario más general y realista que involucra números mixtos de respuestas fundamentales.

• Contribución del Benchmark: MACE llena un vacío crítico en la literatura al proporcionar el primer benchmark con verdad fundamental exhaustiva, preguntas de múltiples respuestas y cardinalidad de respuesta controlada, permitiendo el diagnóstico de la división de la masa de probabilidad.
• Perspectiva Metodológica: El trabajo demuestra que la inconsistencia de la respuesta no implica necesariamente una baja confianza; en contextos de múltiples respuestas, a menudo refleja la capacidad del modelo para acceder a un conjunto más amplio de conocimiento válido.
• Impacto Práctico: Al proponer SCA, los autores proporcionan un método sin entrenamiento y computacionalmente eficiente que evita la "crisis de confianza" donde las respuestas correctas y diversas son incorrectamente penalizadas como no fiables. Esto es esencial para desplegar LLM en aplicaciones del mundo real donde las preguntas suelen tener múltiples soluciones válidas.

Los autores mantienen la modestia respecto a las limitaciones, señalando que su benchmark utiliza plantillas de prompts formulaicas para controlar la dificultad, lo que sacrifica la diversidad naturalista, y que la evaluación actual está restringida al inglés de respuestas fácticas cortas. Identifican la extensión a contextos multilingües y generación de formato largo como un trabajo futuro necesario.