Resumen Técnico: ECUASn – Una Familia de Métricas para la Evaluación Fundamentada de Sistemas Aumentados con Incertidumbre

Declaración del Problema

En la toma de decisiones automatizada de alto riesgo, los usuarios (humanos o sistemas aguas abajo) requieren acceso a la incertidumbre predictiva para decidir si aceptar o rechazar la salida de un sistema basándose en compensaciones de costos específicas de la aplicación. Estos sistemas, denominados Sistemas Aumentados con Incertidumbre (UA), generan tanto una predicción candidata como una puntuación de incertidumbre.

La literatura actual evalúa los sistemas UA utilizando métricas desconectadas:

1. Calidad de la Predicción: Medida mediante precisión o tasa de error.
2. Calidad de la Incertidumbre: Medida mediante métricas de clasificación binaria (por ejemplo, AUC, ECE, puntuación Brier) que tratan la incertidumbre como un predictor de respuestas incorrectas.
3. Métricas Integradas: Enfoques como el Área bajo la Curva de Riesgo-Cobertura (AURC) integran estos aspectos mediante el barrido de un umbral de rechazo.

Los autores argumentan que estos enfoques son inadecuados. Las métricas separadas no reflejan el valor proporcionado al usuario que toma una decisión final. Además, AURC y sus variantes son invariantes a transformaciones monótonas de la puntuación de incertidumbre; recompensan la clasificación pero no penalizan incertidumbres mal calibradas (sobre o subestimadas) siempre que se preserve el orden relativo. Esto es un defecto crítico para sistemas donde la incertidumbre debe interpretarse como una probabilidad de corrección. Adicionalmente, los métodos existentes a menudo requieren fijar un costo de rechazo específico ($\gamma$) durante el desarrollo, el cual puede no ser conocido o puede variar entre usuarios e instancias.

Metodología

El artículo propone ECUASn (Costo Esperado para Sistemas Aumentados con Incertidumbre), una familia de métricas fundamentada en la teoría de decisión bayesiana.

1. Fundamento Teórico de la Decisión

Los autores definen un sistema UA como una función $f^{UA}: \mathcal{X} \to \tilde{\mathcal{D}} \times \mathbb{R}_{\ge 0}$, que genera una respuesta candidata $\tilde{d}$ y una puntuación de incertidumbre $u$. La decisión final $d$ es ya sea $\tilde{d}$ o un rechazo $d_r$.

Se define una función de costo $C_\gamma(y, d)$ basada en un costo de rechazo $\gamma$:
$$C_\gamma(y, d) = \begin{cases} \tilde{C}(y, d) & \text{si } d \in \tilde{\mathcal{D}} \\ \gamma & \text{si } d = d_r \end{cases}$$
donde $\tilde{C}$ es el costo de la respuesta candidata dada la verdad fundamental $y$.

2. Derivación de Reglas de Puntuación Propias (PSR)

Para evitar fijar $\gamma$, los autores construyen una métrica que recompensa a los sistemas que producen incertidumbres interpretables probabilísticamente.

• Decisión Bayesiana: Para una función de costo dada y una distribución condicional $q$ sobre clases, la decisión óptima minimiza el costo esperado. El costo esperado de la decisión óptima, denotado $u_{\tilde{C}}(q)$, sirve como la incertidumbre teórica.
• Regla de Puntuación Propia (PSR): Al evaluar la función de costo en la decisión Bayesiana, se deriva una nueva función de costo $C^*_\gamma(y, q)$. Esta función es una Regla de Puntuación Propia, lo que significa que se minimiza en expectativa cuando la distribución predicha coincide con la distribución verdadera. Esta propiedad asegura que la métrica recompense probabilidades bien calibradas, a diferencia de AURC.

3. La Familia ECUASn

Para crear una métrica independiente de un costo de rechazo específico, los autores integran la PSR $C^*_\gamma$ sobre un rango de costos de rechazo posibles $\gamma$, ponderada por una función $w(\gamma)$.
$$C^*_w(y, q) = \int_{0}^{u_M} w(\gamma) C^*_\gamma(y, q) d\gamma$$
Los autores parametrizan la función de peso como $w_n(\gamma) \propto \gamma^{n-1}$, resultando en la métrica ECUASn. El parámetro $n$ controla la compensación:

• $n=0$: Penaliza fuertemente las predicciones incorrectas realizadas con alta confianza (se requiere alta incertidumbre para el rechazo). Esto se recomienda para escenarios de alto riesgo.
• $n \to \infty$: La métrica degenera hacia la tasa de error estándar 0-1, volviéndose menos sensible a la calidad de la puntuación de incertidumbre en sí misma.

4. Aplicación a Sistemas Generativos

Para modelos generativos, el concepto de "corrección" se define sobre clases de equivalencia semántica en lugar de coincidencias exactas de cadenas. Los autores argumentan que, para una toma de decisiones óptima, la incertidumbre debe computarse sobre la distribución de estas clases de equivalencia, y no sobre secuencias de tokens individuales. Esto proporciona una justificación teórica para hallazgos empíricos que indican que la entropía semántica produce mejores puntuaciones de incertidumbre. En la práctica, para tareas generativas, se asume que el número de clases $K$ tiende a infinito.

Contribuciones Clave

1. Sustitución Fundamentada de Métricas: Introducción de ECUASn, una familia de métricas fundamentada en la teoría de decisión que reemplaza a AURC. A diferencia de AURC, ECUASn recompensa incertidumbres que son interpretables probabilísticamente (reglas de puntuación propias) mientras permanece agnóstica a un costo de rechazo específico.
2. Perspectiva Teórica sobre la Incertidumbre Generativa: Una explicación teórica de por qué las puntuaciones de incertidumbre derivadas de clases de equivalencia semántica (en lugar de predicciones individuales) son superiores para sistemas generativos. Esto se deriva directamente de la construcción del costo de decisión Bayesiana.
3. Compensación Parametrizada: La introducción del parámetro $n$, que permite a los practicantes ajustar la métrica según el perfil de riesgo específico de su aplicación (por ejemplo, $n=0$ para escenarios de rechazo de alto riesgo).

Resultados Empíricos

Los autores evaluaron ECUASn en diversos conjuntos de datos de clasificación y generación:

• Clasificación: Experimentos en conjuntos de datos de lenguaje (AGNews, SST-2), voz (SITW, FVCAUS) e imagen (CIFAR-10/100).
  • Impacto de la Calibración: Las métricas ECUASn (particularmente para $n$ bajo) detectaron con éxito mejoras en la calidad del sistema debido a la calibración post-hoc, mientras que AURC a menudo permaneció sin cambios porque es invariante a transformaciones monótonas que preservan la clasificación.
  • Línea Base Ingenua: ECUASn identificó correctamente sistemas que, a pesar de tener buenas puntuaciones de calibración (como CE o puntuación Brier en la distribución $q$), funcionaron peor que un sistema ingenuo basado en priors al considerar la salida combinada de predicción e incertidumbre.
• Generación (TriviaQA y MMLU): Experimentos utilizando varios LLM (Qwen, Ministral, Gemini) y tres métodos de elicitaación de confianza (Posterior de Secuencia, Es Verdadero, Verbalizado).
  • Discrepancia de Métricas: La clasificación de los métodos de elicitaación de confianza varió significativamente dependiendo de la métrica utilizada. Por ejemplo, el método "Verbalizado" a menudo tuvo la mejor tasa de error (ER) pero una mala calibración, lo que llevó a puntuaciones ECUASn altas (peor rendimiento) en comparación con "Posterior de Secuencia".
  • Sensibilidad a la Verdad Fundamental: Los autores curaron manualmente un subconjunto de TriviaQA (455 muestras) para corregir errores en el etiquetado automático de equivalencia semántica. Demostraron que la evaluación automática puede alterar drásticamente las clasificaciones de los sistemas, destacando la necesidad de protocolos de evaluación cuidadosos.

Significado y Afirmaciones

El artículo afirma que ECUASn proporciona una evaluación integral de los sistemas UA al integrar el impacto tanto de las predicciones incorrectas como de las incertidumbres imperfectas en un solo valor.

• Alineación con la Teoría de la Decisión: Las métricas están diseñadas para reflejar la utilidad real del sistema para un usuario que toma decisiones bajo incertidumbre, en lugar de simplemente medir propiedades estadísticas de la salida.
• Sensibilidad a la Calibración: Al recompensar la interpretabilidad probabilística, ECUASn aborda una limitación importante de AURC, que no logra distinguir entre incertidumbres bien calibradas y mal calibradas si se preserva la clasificación.
• Utilidad Práctica: El marco permite a los usuarios seleccionar un valor de $n$ apropiado para su tolerancia al riesgo, convirtiéndolo en una herramienta flexible para evaluar sistemas en entornos de alto riesgo donde el costo de un falso positivo (aceptar una respuesta incorrecta) es severo.

Los autores concluyen que, aunque ECUASn asume que el usuario opera bajo un marco de teoría de la decisión (minimizando el costo esperado), ofrece una alternativa más robusta y fundamentada a las prácticas actuales de evaluación para sistemas aumentados con incertidumbre.