🤖 machine learning

Evaluating Epistemic Uncertainty: Beyond OOD Detection and Active Learning

Este artículo propone un marco de teoría de la decisión para evaluar la incertidumbre epistémica basado en la minimización del arrepentimiento en lugar de las tareas de aproximación tradicionales, demostrando que las métricas de correlación estándar no logran predecir la utilidad operativa y revelando discrepancias significativas entre las clasificaciones de los métodos de incertidumbre de la teoría de la decisión y las de las tareas de aproximación.

Autores originales: Jakub Paplhám, Willem Waegeman, Eyke Hüllermeier, Vojtěch Franc

Publicado 2026-07-17

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Jakub Paplhám, Willem Waegeman, Eyke Hüllermeier, Vojtěch Franc

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que eres el capitán de una nave espacial navegando a través de una nebulosa caótica. La computadora de tu nave es increíblemente inteligente, pero necesita reportarte dos tipos distintos de "incertidumbre". El primero es la incertidumbre aleatoria: es la "niebla de guerra"; el ruido en los sensores, la estática en la radio, el hecho de que la propia nebulosa es simplemente desordenada e impredecible. No importa qué tan buena sea tu computadora, ese ruido siempre estará ahí; es el caos irreducible del universo. La segunda es la incertidumbre epistémica: es la "ignorancia" de la computadora. Es la sensación que tiene la computadora cuando observa una región del espacio que nunca ha visto y piensa: "No tengo idea de qué hay ahí fuera porque no he estudiado esta región todavía". Este tipo de incertidumbre es reducible; si la computadora aprende más, este temor desaparece.

Durante mucho tiempo, los científicos que intentaban construir una mejor IA se obsesionaron con enseñar a las computadoras a distinguir entre la "niebla" y su propia "ignorancia". ¿Por qué? Porque si una computadora sabe que es ignorante, puede decir: "No lo sé, no me preguntes", y así evitar un error peligroso. Pero aquí está la parte difícil: ¿cómo pruebas si una computadora es realmente buena detectando su propia ignorancia? Tradicionalmente, los investigadores han utilizado dos "pruebas de proximidad" principales. Una es la detección de datos fuera de distribución (OOD), que pregunta: "¿Puedes notar cuando estás viendo algo totalmente extraño que nunca habías visto?". La otra es el Aprendizaje Activo, que pregunta: "Si pudieras elegir una nueva pieza de datos para estudiar, ¿cuál te enseñaría más?". La gran pregunta es: ¿estos tests realmente nos dicen si una computadora es buena detectando su propia ignorancia, o solo están probando algo completamente distinto?

Este artículo, titulado "Evaluating Epistemic Uncertainty: Beyond OOD Detection and Active Learning", argumenta que hemos estado jugando el juego equivocado. Los autores, un equipo de investigadores de universidades de Praga, Gante y Múnich, descubrieron que la "respuesta perfecta" matemática para detectar datos extraños (OOD) o para elegir el mejor material de estudio (Aprendizaje Activo) es en realidad completamente diferente de la "respuesta perfecta" para detectar la ignorancia (Regret/Arrepentimiento).

Para entender esto, imagina que eres un profesor calificando a un estudiante.

La prueba OOD es como preguntarle al profesor: "¿Puedes notar si esta pregunta fue escrita por un alienígena?". La respuesta perfecta depende solo de cómo se ve la pregunta, no de si el estudiante sabe la respuesta.
La prueba de Aprendizaje Activo es como preguntar: "¿Qué pregunta deberíamos hacer a continuación para ayudar al estudiante a aprender más?". La respuesta perfecta depende de cuánto mejorará el conocimiento futuro del estudiante.
La prueba de Regret (Epistemic Uncertainty) es preguntar: "Para esta pregunta específica en este momento, ¿qué tan probable es que el estudiante se equivoque porque simplemente no conoce el material?".

El artículo demuestra matemáticamente que estas tres "respuestas perfectas" a menudo apuntan a lugares completamente diferentes. Una computadora puede ser increíble detectando preguntas alienígenas (OOD), pero terrible en saber cuándo está a punto de fallar en un problema matemático específico (Regret). De hecho, los autores construyeron un mundo de "sandbox" unidimensional simple (inspirado en una función llamada función de Rossellini) para mostrar que la mejor estrategia para la detección de OOD podría indicarte que rechaces una región específica del espacio, mientras que la mejor estrategia para minimizar el regret te diría que aceptes esa misma región. Son fundamentalmente desalineadas.

Debido a este desajuste, los autores argumentan que usar la detección de OOD o el Aprendizaje Activo como una "proximidad" para juzgar qué tan bien una modelo entiende su propia ignorancia es erróneo. Muestran que los métodos que ocupan el puesto #1 en pruebas OOD pueden ocupar el puesto #10 en pruebas de regret, y viceversa. Por ejemplo, en sus pruebas con el conjunto de datos CIFAR-10H (una colección de imágenes con muchas opiniones humanas sobre lo que son), un método llamado "Redes Evidenciales" fue terrible detectando datos extraños (OOD), pero fue el mejor de todos identificando cuándo era ignorante y propenso a cometer un error. Por el contrario, los "Ensembles Profundos" (Deep Ensembles) fueron excelentes detectando datos extraños, pero fallaron en minimizar el regret.

El artículo también aborda una idea popular en el campo llamada "desentrelazamiento" (disentanglement). Recientemente, algunos investigadores argumentaron que si el puntaje de "niebla" de una computadora y su puntaje de "ignorancia" están altamente correlacionados (suben y bajan juntos), la computadora ha fallado en separar ambos conceptos. Los autores desafían esto. Muestran que, incluso si los puntajes están altamente correlacionados, la computadora aún podría tomar decisiones perfectas. En lugar de solo verificar si los puntajes están correlacionados, proponen una prueba más práctica: el Pareto-gap.

Piensa en el Pareto-gap como un "mapa de decisiones". Imagina un gráfico 3D donde puedes intercambiar cuántas preguntas respondes (Cobertura), cuántos errores cometes (Riesgo) y cuánta "ignorancia" evitas (Regret). La computadora "perfecta" dibuja una curva suave e ideal en este mapa. Los autores miden qué tan cerca está la curva de una computadora real de esa línea perfecta. Descubrieron que los métodos con alta correlación entre sus puntajes (que algunos pensaban que eran malos) podían, de hecho, dibujar curvas muy cerca de la línea perfecta, lo que significa que eran operativamente útiles.

En resumen, los autores demuestan que no podemos simplemente observar qué tan bien una modelo detecta datos extraños o elige temas de estudio para ver si entiende su propia ignorancia. Proporcionan un nuevo marco que trata la incertidumbre como una herramienta para tomar mejores decisiones, mostrando que las formas antiguas de probarla nos están llevando a menudo a las conclusiones equivocadas sobre qué modelos de IA son realmente seguros y confiables. Sus hallazgos se basan en pruebas matemáticas rigurosas y extensos benchmarks en conjuntos de datos del mundo real con anotaciones humanas densas, sugiriendo que el campo necesita dejar de depender de estos tests de proximidad convenientes pero engañosos y comenzar a medir la incertidumbre basándose en el regret real que ayuda a evitar.

Resumen Técnico: Evaluación de la Incertidumbre Epistémica más allá de la Detección de OOD y el Aprendizaje Activo

Declaración del Problema
La evaluación actual de la incertidumbre epistémica (ignorancia del modelo) depende fuertemente de tareas sustitutas como la detección de fuera de la distribución (OOD, por sus siglas en inglés) y el Aprendizaje Activo. Sin embargo, los autores argumentan que las estrategias de decisión bayesianas óptimas para estas tareas sustitutas no se alinean matemáticamente con las puntuaciones utilizadas para cuantificar la incertidumbre epistémica para el despliegue. Específicamente, la detección de OOD optimiza los cocientes de verosimilitud de entrada independientemente de la pérdida predictiva, mientras que el Aprendizaje Activo optimiza la reducción global del error, mientras que la incertidumbre epistémica en un contexto de despliegue se define como el error reducible local (regret/arrepentimiento). Este desajuste teórico conduce a una situación en la que los métodos con altas clasificaciones en tareas de proximidad pueden desempeñarse deficientemente cuando se evalúan en su utilidad operativa real: la minimización del arrepentimiento. Además, la literatura reciente critica la disentambulación de la incertidumbre basada en altas correlaciones de rango entre los componentes aleatorios y epistémicos aprendidos, una métrica que los autores argumentan que no captura la utilidad funcional.

Metodología
El artículo propone un marco unificado para evaluar la incertidumbre epistémica midiendo directamente su capacidad para identificar el arrepentimiento, en lugar de depender de tareas sustitutas.

Unificación Teórica: Los autores unifican la clasificación selectiva estándar (incertidumbre total) y la opción de rechazo epistémica en un único marco de optimización restringida. Formulan la predicción selectiva como un problema de optimización sobre la cobertura ( $\rho$ ), el riesgo esperado ($Ri$) y el arrepentimiento ($Re$).
Prueba del Selector Óptimo: Demuestran (Teorema 1) que el selector óptimo para cualquier combinación de estas restricciones es una combinación convexa umbralizada de las incertidumbres aleatoria ( $A^*$ ) y epistémica ( $E^*$ ) de la verdad fundamental. La puntuación óptima toma la forma $(1-\lambda)A^* + \lambda E^*$ , donde $\lambda \in [1/2, 1]$ .
Métrica Diagnóstica (Brecha de Pareto): En lugar de depender de la correlación de rango para evaluar la disentambulación, los autores proponen medir la distancia entre la superficie alcanzable de un método en el espacio (Cobertura, Riesgo, Arrepentimiento) y la superficie de Pareto-óptima teórica ( $S^*$ ). Esta distancia, denominada "brecha de Pareto" (Pareto-gap), sirve como diagnóstico de si los componentes aprendidos contienen conjuntamente la información necesaria para las decisiones de despliegue óptimas.
Evaluación Comparativa Empírica: Para evitar la incomputabilidad del verdadero arrepentimiento en entornos estándar de etiqueta única, los autores utilizan conjuntos de datos con anotaciones humanas densas (por ejemplo, CIFAR-10H, APPA-REAL, la suite DCIC) para aproximar la verdadera distribución generadora de datos $p^*(y|x)$ . Esto permite el cálculo exacto del predictor bayesiano óptimo y el verdadero arrepentimiento frecuentista. Evalúan métodos estándar de cuantificación de la incertidumbre (MC-Dropout, Deep Ensembles, DDU, Redes Evidenciales) frente a estas verdades fundamentales y los comparan con los resultados de tareas de proximidad (detección de OOD, Aprendizaje Activo).

Contribuciones Clave

Desalineación Teórica: El artículo demuestra que los evaluadores bayesianos óptimos para la detección de OOD, el Aprendizaje Activo (BALD, EER) y la minimización del arrepentimiento en el rechazo apuntan a regiones fundamentalmente diferentes del espacio de entrada. Un método optimizado para un criterio puede fallar bajo otro.
Marco Unificado: Los autores proporcionan una prueba matemática de que la regla de decisión óptima para minimizar el exceso de riesgo bajo restricciones de cobertura es siempre un umbral en una combinación convexa de las incertidumbres aleatoria y epistémica.
Nuevo Diagnóstico: Desafían la dependencia de la correlación de rango para evaluar la disentambulación de la incertidumbre. Muestran que una alta correlación no indica necesariamente un fallo de separación si los componentes aún pueden formar una frontera de decisión óptima mediante una combinación lineal. Introducen la brecha de Pareto como una métrica operativamente más relevante.
Evidencia Empírica: A través de una evaluación exhaustiva en conjuntos de datos con distribuciones anotadas por humanos, los autores muestran que las clasificaciones basadas en la teoría de la decisión (basadas en el arrepentimiento) a menudo discrepan sustancialmente con las clasificaciones de las tareas de proximidad (OOD o Aprendizaje Activo). Notablemente, observan inversiones de rango por pares donde los métodos mejor clasificados en OOD o Aprendizaje Activo son los peor clasificados en arrepentimiento, y viceversa.

Resultos

Inversiones de Rango: En el conjunto de datos CIFAR-10H, las Redes Evidenciales lograron la mejor utilidad epistémica pura (menor AuReC) y la menor brecha de Pareto, a pesar de desempeñarse pobremente en las pruebas de detección de OOD y Aprendizaje Activo. Por el contrario, Deep Ensembles y DDU, que dominaron la detección de OOD, se desempeñaron deficientemente en el aislamiento del error reducible (arrepentimiento).
Correlación vs. Utilidad: En CIFAR-10H, las Redes Evidenciales exhibieron una correlación de rango casi perfecta ( $\rho_S = 0.999$ ) entre sus componentes aleatorios y epistémicos aprendidos. Las métricas tradicionales clasificarían esto como un fallo de disentambulación. Sin embargo, estos mismos componentes lograron la menor distancia al óptimo teórico (brecha de Pareto = 0.0379), demostrando que una alta correlación no impide la utilidad operativa.
Correlación de la Verdad Fundamental: Los autores también notaron que incluso las incertidumbres aleatorias y epistémicas de la verdad fundamental ( $A^*, E^*$ ) pueden exhibir una alta correlación de rango (hasta 0.882 en CIFAR-10H), lo que sugiere que una alta correlación en los componentes aprendidos puede reflejar el proceso generador de datos en lugar de un fallo metodológico.

Significancia
El artículo sostiene que la dependencia del campo en la detección de OOD y el Aprendizaje Activo como sustitutos de la incertidumbre epistémica es teóricamente errónea y conduce a conclusiones engañosas sobre qué estimadores de incertidumbre son útiles para el despliegue. Al desplazar el enfoque de la evaluación hacia la capacidad de minimizar el arrepentimiento e introducir la brecha de Pareto como un diagnóstico para la utilidad operativa conjunta, los autores proporcionan una base más rigurosa para evaluar la cuantificación de la incertidumbre. Argumentan que los investigadores deben definir explícitamente la acción derivada (por ejemplo, abstenerse de realizar predicciones riesgosas) en lugar de confiar en nociones ambiguas de ignorancia o tareas sustitutas que optimizan objetivos matemáticos diferentes. El trabajo destaca que las métricas de evaluación estándar pueden seleccionar modelos que son subóptimos para el objetivo real de reducir el error reducible en el despliegue del mundo real.

Resumen Técnico: Evaluación de la Incertidumbre Epistémica más allá de la Detección de OOD y el Aprendizaje Activo

Más como este