🤖 machine learning

Improved Confidence Estimates for Black-Box Large Language Models

Este artículo propone un método de baja sobrecarga que mejora la cuantificación de la incertidumbre para modelos de lenguaje de gran tamaño de caja negra mediante el entrenamiento de clasificadores simples para predecir la corrección de las respuestas utilizando puntuaciones de confianza existentes y la corrección de consultas similares de un conjunto de datos objetivo.

Autores originales: Sokhna Diarra Mbacke, Mouloud Belbahri, Gabriel Loaiza-Ganem

Publicado 2026-08-21

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Sokhna Diarra Mbacke, Mouloud Belbahri, Gabriel Loaiza-Ganem

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Los modelos de lenguaje de gran tamaño se han convertido en herramientas poderosas para la escritura, la programación y la resolución de preguntas, pero conllevan un riesgo oculto: a veces inventan hechos con absoluta certeza. Este fenómeno, a menudo llamado alucinación, crea una barrera significativa para el uso de estos sistemas en campos de alto riesgo como la atención médica o la investigación científica, donde una respuesta errónea puede tener consecuencias graves. Para resolver esto, los investigadores han intentado durante mucho tiempo construir sistemas que puedan decirnos cuánto confiar en una respuesta específica. El objetivo es asignar una puntuación a cada respuesta que indique su fiabilidad. Actualmente, existen muchos métodos para generar estas puntuaciones, que van desde pedir al modelo que califique su propia confianza hasta analizar cuánto varían sus respuestas cuando se le hace la misma pregunta de diferentes maneras. Sin embargo, estas puntuaciones existentes suelen operar de forma aislada, tratando cada nueva pregunta como si fuera la primera vez que el modelo la ve, sin observar cómo se ha desempeñado el modelo en preguntas similares en el pasado.

Un equipo de investigadores de Layer 6 AI y TD Insurance ha propuesto un enfoque diferente que trata la confianza no como una propiedad fija del modelo, sino como un patrón que puede aprenderse. Argumentan que, si bien los métodos existentes generan puntuaciones de incertidumbre brutas sin necesidad de datos previos, las aplicaciones del mundo real casi siempre involucran un conjunto de datos de preguntas y respuestas que ya han sido verificadas en cuanto a su corrección. Los investigadores se dieron cuenta de que estos datos etiquetados son un recurso vasto y desaprovechado. En lugar de intentar inventar una nueva forma de medir la incertidumbre desde cero, construyeron un sistema simple que toma las puntuaciones existentes y las combina con información sobre cómo respondió el modelo a preguntas similares en el pasado. Al entrenar un programa informático estándar para reconocer la relación entre estos inputs y la corrección real de las respuestas, crearon un nuevo método que supera consistentemente a las puntuaciones originales por sí solas.

El núcleo de su trabajo consiste en un proceso de dos pasos que imita cómo un experto humano podría verificar una nueva afirmación. Primero, el sistema toma una nueva pregunta y la respuesta que proporciona el modelo de lenguaje de gran tamaño. Luego, calcula las puntuaciones de incertidumbre estándar que el modelo u otras herramientas producirían normalmente. A continuación, el sistema busca en una biblioteca de referencia de preguntas respondidas anteriormente para encontrar aquellas que son más similares a la nueva pregunta. Comprueba si el modelo acertó o falló en esas preguntas similares en el pasado y mide qué tan cerca están de la pregunta actual. Estos detalles —las puntuaciones estándar, el historial de preguntas similares y el desempeño pasado del modelo en ellas— se introducen en un clasificador simple. Este clasificador aprende a predecir si la nueva respuesta es correcta, traduciendo efectivamente las señales de incertididad bruta en una probabilidad calibrada de verdad.

Los investigadores probaron este método en varios conjuntos de datos diferentes, incluyendo evaluaciones de razonamiento de sentido común, hechos científicos y preguntas de conocimiento general, utilizando varios tamaños de modelos de lenguaje. Compararon su nuevo sistema contra los mejores métodos existentes, incluyendo aquellos que piden al modelo que exprese su confianza y aquellos que generan muchas variaciones de una respuesta para comprobar la consistencia. Los resultados mostraron que su enfoque proporcionaba consistentemente predicciones más precisas de corrección. En casi todas las pruebas, el nuevo método fue mejor para distinguir entre respuestas correctas e incorrectas que las puntuaciones originales por sí solas. Además, el sistema produjo probabilidades bien calibradas, lo que significa que cuando predecía que una respuesta tenía un 80 por ciento de probabilidad de ser correcta, era correcta aproximadamente el 80 por ciento de las veces. Esta calibración es crucial para la toma de decisiones, ya que permite a los usuarios confiar en los números que el sistema proporciona.

Uno de los hallazgos más significativos fue que el método funcionó bien incluso cuando dependía de muy poca información adicional. En algunas pruebas, el sistema utilizó solo una única respuesta del modelo y un historial de preguntas similares, sin necesidad de que el modelo generara múltiples variaciones de la respuesta. Esto mantuvo el costo computacional bajo, haciendo que el método fuera práctico para el uso en el mundo real donde la velocidad y la eficiencia importan. Los investigadores también descubrieron que la mejor manera de combinar estas señales dependía de la tarea específica, lo que sugiere que un enfoque flexible que pueda adaptarse a diferentes tipos de preguntas es superior a una solución de talla única. Al tratar la estimación de la confianza como un problema de aprendizaje en lugar de un cálculo fijo, el equipo demostró que se puede utilizar los datos existentes para mejorar significativamente la seguridad y la fiabilidad de los modelos de lenguaje de gran tamaño sin requerir acceso a su funcionamiento interno o un reentrenamiento costoso.

El estudio concluye que, si bien las puntuaciones de incertidumbre iniciales generadas por las herramientas actuales son útiles, no son la última palabra sobre la fiabilidad. Al aprovechar el hecho simple de que los modelos tienden a desempeñarse de manera consistente en tipos de preguntas similares, un marco de aprendizaje supervisado puede refinar estas puntuaciones para convertirlas en estimaciones mucho más confiables. Esto no reemplaza la necesidad de buenas métricas de incertidumbre, sino que las mejora, convirtiendo los datos brutos en información accionable. El trabajo sugiere que el camino hacia una inteligencia artificial más segura no reside solo en construir mejores modelos, sino en construir mejores formas de entender e interpretar las respuestas que esos modelos dan.

Resumen Técnico: Estimaciones de Confianza Mejoradas para Modelos de Lenguaje de Gran Escala de Caja Negra

Declaración del Problema

El despliegue seguro de Modelos de Lenguaje de Gran Escala (LLM) en entornos de alto riesgo (por ejemplo, atención médica, investigación científica) se ve obstaculizado por su susceptibilidad a las alucinaciones. Aunque la Cuantificación de la Incertidumbre (UQ) tiene como objetivo evaluar la fiabilidad de los resultados del modelo, los métodos existentes enfrentan limitaciones significativas:

Limitación de Zero-Shot: La mayoría de los métodos actuales de UQ (puntuación heurística o verbalización de confianza) operan de manera zero-shot, generando puntuaciones de incertidumbre sin aprovechar los datos de evaluación etiquetados disponibles.
Falta de Calibración: Las puntuaciones existentes suelen correlacionarse con la corrección, pero no logran proporcionar probabilidades calibradas. Por ejemplo, la confianza verbalizada ( $P_{true}$ ) es frecuentemente excesivamente optimista, y las puntuaciones heurísticas (por ejemplo, la entropía semántica) son valores abstractos en lugar de estimaciones de probabilidad directa.
Brecha en la Toma de Decisiones: Las puntuaciones heurísticas están diseñadas principalmente para la abstención (retener una respuesta si se alcanza un umbral). Sin embargo, los autores argumentan que la estimación de la confianza —proporcionar una probabilidad calibrada de corrección— es superior para la toma de decisiones descendente, ya que permite a los sistemas maximizar la utilidad esperada dentro de marcos teóricos de decisión.

El problema central abordado es cómo transformar las puntuaciones de incertidumbre zero-shot existentes, a menudo no calibradas, en estimaciones de confianza robustas y calibradas mediante el aprovechamiento de los conjuntos de datos etiquetados que son requisitos estándar para la evaluación de modelos.

Metodología

Los autores proponen un marco de aprendizaje supervisado que trata las puntuaciones de UQ existentes como características en lugar de salidas finales. El método no requiere acceso de caja blanca al LLM ni generaciones adicionales del modelo más allá de lo que requieren las puntuaciones base.

1. Partición de Datos

El conjunto de datos etiquetado disponible $\mathcal{D}$ se particiona en:

Conjunto de Entrenamiento ( $\mathcal{D}_{train}$ ): Utilizado para ajustar el clasificador de confianza.
Conjunto de Referencia ( $\mathcal{D}_{ref}$ ): Utilizado para construir características auxiliares resumiendo el rendimiento histórico del LLM en consultas similares.

2. Ingeniería de Características

Para un par consulta-respuesta dado $(q, r)$ , el vector de características $X(q, r)$ se construye a partir de dos componentes:

Puntuaciones de Incertidumbre Base ( $S$ ): Una colección de $c$ puntuaciones preexistentes (por ejemplo, $P_{true}$ verbalizada, entropía semántica, aproximación Laplaciana). Estas son tratadas como entradas puras.
Características Basadas en Vecindad ( $f_{ref}$ ): Para capturar patrones empíricos locales, el método recupera los $k$ $k$ -vecinos más cercanos de $q$ $q$ del conjunto de referencia utilizando la similitud de coseno en un espacio de incrustación (embedding). De estos vecinos, se extraen las siguientes estadísticas:
- El vector de etiquetas de corrección ( $y_i$ ) de los vecinos.
- La media empírica ( $\mu_y$ ) y la desviación estándar ( $\sigma_y$ ) de la corrección de los vecinos.
- El vector de similitudes de coseno entre $q$ y sus vecinos.
- La media empírica ( $\mu_{sim}$ ) y la desviación estándar ( $\sigma_{sim}$ ) de estas similitudes.

El vector de características final es $X(q, r) = (S(q, r), f_{ref}(q))$ .

3. Clasificación Supervisada

El problema se plantea como una tarea de clasificación binaria para predecir la probabilidad de corrección $Y=1$ .

Selección de Modelo: Los autores emplean un enfoque de Auto-ML para seleccionar el clasificador óptimo para una tarea específica. Los candidatos incluyen la regresión logística con regularización $\ell_1$ y los Bosques Aleatorios (Random Forests).
Entrenamiento: Los modelos se entrenan para minimizar la pérdida de entropía cruzada en $\mathcal{D}_{train}$ .
Calibración: Se aplica un paso de escalado de temperatura post-hoc para asegurar que las probabilidades de salida estén bien calibradas (minimizando el Error de Calibración Esperado, ECE).

4. Inferencia

En el tiempo de inferencia, el proceso implica:

Calcular las puntuaciones base $S(q, r)$ .
Recuperar los $k$ -vecinos más cercanos de $\mathcal{D}_{ref}$ .
Evaluar el clasificador entrenado $f_\theta$ sobre el vector de características combinado.
La sobrecarga computacional es insignificante en comparación con el costo de generar las respuestas del LLM.

Contribuciones Clave

Cambio de Paradigma: El artículo argumenta que la UQ para los LLM debe tratarse como un problema de aprendizaje supervisado que aprovecha los datos etiquetados disponibles, yendo más allá del paradigma zero-shot.
Marco de Propósito General: El método actúa como un "envoltorio" (wrapper) que puede agregar y refinar cualquier puntuación de incertidumbre existente (heurística o verbalizada) en una estimación de confianza calibrada sin modificar el LLM subyacente.
Estadísticas de Vecindad: La introducción de características de vecindad (estadísticas de corrección y similitud de un conjunto de referencia) proporciona una forma novedosa de incorporar evidencia empírica de la fiabilidad del modelo en la predicción.
Aprendiz Adaptativo a la Tarea: Los autores demuestran que el modelo de clasificación óptimo depende de la tarea, lo que requiere un enfoque de Auto-ML para seleccionar entre modelos lineales y no lineales basados en la distribución de los datos.

Resultados Experimentales

El marco fue evaluado a través de cuatro conjuntos de datos (CommonSense QA, Natural Questions, SciQ, SimpleQA) y tres variantes de modelos GPT-4.1 (flagship, mini, nano), así como el modelo de código abierto LLaMA4Maverick.

Rendimiento: El método Auto-ML propuesto superó consistentemente a todos los baselines en el Área Bajo la Curva Característica de Operación del Receptor (AUROC). Logró el AUROC más alto en casi todos los escenarios, con una sola excepción menor donde la diferencia fue insignificante.
Calibración: El método produjo un Error de Calibración Esperado (ECE) significativamente menor en comparación con la confianza verbalizada pura ( $P_{true}$ ) y a menudo superó a las versiones con escalado de temperatura ($ts$- $P_{true}$ ).
Estudios de Ablación:
- Sin Características Semánticas: Incluso excluyendo puntuaciones de incertidumbre semántica complejas (dependiendo solo de $P_{true}$ y estadísticas de vecindad), el método mantuvo un rendimiento competitivo con un menor costo computacional.
- Familia de Modelos: El enfoque se generalizó bien a modelos de código abierto (LLaMA4Maverick), confirmando su aplicabilidad más allá de las APIs de caja negra.
Comparación con Baselines: El método superó significativamente a APRICOT (un enfoque de clasificador similar) y a varias puntuaciones heurísticas basadas en la semántica (entropía semántica, Laplaciana, entropía de kernel), particularmente en conjuntos de datos de opción múltiple donde los métodos semánticos tuvieron dificultades.

Significado y Reivindicaciones

El artículo sostiene que los datos de evaluación etiquetados son un recurso significativo, aunque desaprovechado, para mejorar las estimaciones de incertidumbre de los LLM. Los autores afirman que:

Fiabilidad: Al ir más allá de las heurísticas zero-shot, se pueden producir consistentemente estimaciones de confianza más precisas y calibradas.
Eficiencia: El método introduce una sobrecarga computacional mínima, lo que lo convierte en una "mejora económica y sencilla" para aplicaciones del mundo real.
Flexibilidad: Sirve como un mecanismo general para transformar puntuaciones heurísticas en probabilidades listas para la toma de decisiones, cerrando la brecha entre las métricas de incertidumbre abstractas y la toma de decisiones práctica.
Dirección Futura: Aunque el presente trabajo se centra en la corrección binaria, los autores sugieren que este paradigma podría extenderse a la clasificación multiclase (por ejemplo, distinguir entre respuestas "parcialmente correctas" y "excelentes") para refinar aún más la seguridad del despliegue de los LLM.

Los autores mantienen una postura modesta, reconociendo que su enfoque requiere entrenar clasificadores específicos de la tarea y depende de la calidad y el tamaño del conjunto de referencia para una recuperación efectiva, aunque argumentan que estos son requisitos estándar en los ciclos de vida de desarrollo de modelos prácticos.