Resumen Técnico: CB-SLICE: Descubrimiento de Rebanadas de Error Interpretables Basadas en Conceptos

Declaración del Problema

Los modelos de aprendizaje profundo a menudo logran un rendimiento sólido en casos promedio, pero exhiben errores sistemáticos en grupos específicos de la población, conocidos como rebanadas de error. Identificar estos grupos y sus causas raíz es fundamental para la depuración y la mitigación de sesgos. Sin embargo, los Métodos de Descubrimiento de Rebanadas de Error (SDM) existentes enfrentan una limitación fundamental: generalmente dependen de modelos auxiliares basados en lenguaje (por ejemplo, CLIP) para generar explicaciones. En consecuencia, estas explicaciones están desconectadas del proceso de inferencia interno del modelo analizado, aproximando la fuente del error en lugar de revelarla. Esta desconexión conduce a explicaciones que pueden ser inexactas, engañosas o sesgadas por el propio modelo auxiliar. Además, los métodos existentes a menudo no logran explicar por qué ocurre un fallo en términos de los conceptos específicos en los que se basa el modelo.

Metodología: CB-SLICE

Los autores proponen CB-SLICE, un SDM basado en conceptos que aprovecha los Modelos de Cuello de Botella de Conceptos (CBM) para integrar el descubrimiento de rebanadas de error y la explicación de sesgos en un único proceso consciente del modelo. Los CBM son arquitecturas interpretables que primero predicen conceptos semánticos comprensibles para humanos (por ejemplo, "piel oscura", "asimetría") y luego predicen la etiqueta final de la tarea basándose en estos conceptos. CB-SLICE opera en tres pasos distintos:

1. Filtrado de Conceptos Propensos a Errores

El método identifica primero un subconjunto de conceptos más probablemente responsables de las clasificaciones incorrectas aguas abajo.

• Mecanismo: Utiliza la puntuación de Cambio Esperado en la Predicción de la Tarea (ECTP). Para cada concepto $i$, la puntuación ECTP cuantifica el cambio esperado en la distribución de la tarea aguas abajo al intervenir en ese concepto (estableciendo su valor en 0 o 1).
• Proceso: La puntuación ECTP se calcula por clase para mitigar el desequilibrio. Se seleccionan los $t_e$ conceptos superiores con las puntuaciones más altas para cada clase para formar el conjunto de conceptos propensos a errores ($C_{err}$). Esto asegura que la formación de rebanadas subsiguiente se centre solo en los conceptos que impulsan los errores.

2. Formación de Rebanadas de Error

Una vez identificados los conceptos propensos a errores, el método agrupa las muestras de validación erróneas para formar rebanadas de error coherentes.

• Representación: En lugar de utilizar espacios de probabilidad, CB-SLICE utiliza logits de conceptos ($H$) restringidos al conjunto propenso a errores $C_{err}$. Estos logits codifican la confianza del modelo y se aproximan bien mediante distribuciones gaussianas.
• Agrupamiento: Se entrena un Modelo de Mezcla Gaussiana (GMM) para agrupar estos logits. La función objetivo combina:
  • Verosimilitud GMM ($L_{GMM}$): Para asegurar la coherencia semántica.
  • Pérdidas Auxiliares ($L_{ctrue}$ y $L_{cpred}$): Dos clasificadores lineales predicen las etiquetas de conceptos de verdad fundamental y las etiquetas de conceptos predichas, respectivamente, basándose en las probabilidades de pertenencia a la rebanada. Estas pérdidas incentivan que las rebanadas agrupen muestras que comparten los mismos valores de conceptos verdaderos y predichos, asegurando que las rebanadas capturen patrones de error coherentes a nivel de concepto.
• Salida: Un conjunto de rebanadas $S = \{S_1, \dots, S_{t_g}\}$.

3. Explicación del Modo de Fallo

Para cada rebanada descubierta, el método identifica los conceptos específicos responsables de su formación.

• Mecanismo: El método extiende la puntuación ECTP para medir el Cambio Esperado en la Asignación de Rebanada (ECSA). Cuantifica cómo la intervención en un concepto específico cambia la probabilidad posterior de que una muestra pertenezca a una rebanada específica.
• Salida: Los $t_k$ conceptos superiores con las puntuaciones ECSA más altas se seleccionan como conceptos clave para la rebanada. La presencia o ausencia de estos conceptos se determina mediante el promedio ponderado de sus predicciones entre los miembros de la rebanada.

Priorización de Rebanadas

Para abordar la imposibilidad de analizar todas las rebanadas descubiertas, CB-SLICE introduce una estrategia de priorización basada en una Puntuación de Informatividad (SI). Esta puntuación combina:

• Coherencia de Malas Predicciones (MC): La consistencia de las malas predicciones de la tarea aguas abajo dentro de una rebanada.
• Compacidad Semántica (SC): El grado en que los miembros de la rebanada están concentrados en el espacio de logits de conceptos.
• Factor de Penalización: Un factor que reduce el peso de las rebanadas muy pequeñas para evitar el ruido.

Contribuciones Clave

1. Marco CB-SLICE: Un SDM novedoso que vincula las palabras clave explicativas descubiertas directamente con la lógica de decisión interna del modelo a través de CBM, evitando la desconexión inherente a los enfoques basados en modelos auxiliares.
2. Identificación de Conceptos Propensos a Errores: Un método principiado que utiliza puntuaciones ECTP para filtrar conceptos tanto para la formación de rebanadas como para la caracterización del modo de fallo.
3. Priorización de Rebanadas: Una estrategia para guiar a los profesionales hacia las rebanadas más informativas para un análisis dirigido.
4. Validación Empírica: Demostró mejoras consistentes sobre las líneas base más avanzadas en múltiples puntos de referencia.

Resultados Experimentales

Los autores evaluaron CB-SLICE en cuatro conjuntos de datos con rebanadas de error conocidas: Waterbirds, CelebA, MetaShift y MNIST-Sum. Compararon CB-SLICE con líneas base que incluyen Domino, GEORGE, HiBug2, Spotlight y K-Means.

• Recuperación de Sesgos Conocidos (Precisión@10): CB-SLICE superó consistentemente a todas las líneas base en la recuperación de rebanadas de error de verdad fundamental. Por ejemplo, en el conjunto de datos Waterbirds con un CBM entrenado conjuntamente, CB-SLICE logró una Precisión@10 de 0.83, superando significativamente al siguiente mejor método (Domino con 0.62).
• Alineación del Modo de Fallo (MGF): CB-SLICE produjo rebanadas con una Mayor Frecuencia de Grupo de Verdad Fundamental Emparejada (MGF), lo que indica que las rebanadas descubiertas eran más homogéneas y capturaban fielmente modos de fallo subyacentes específicos.
• Fidelidad de la Explicación: El análisis cualitativo mostró que CB-SLICE proporcionó explicaciones fieles y fundamentadas en el modelo.
  • Ejemplo: En Waterbirds, CB-SLICE identificó que las clasificaciones incorrectas de aves terrestres en fondos de agua fueron impulsadas por predicciones sistemáticas incorrectas de conceptos relacionados con el tamaño (por ejemplo, "tamaño mediano"), en lugar de solo el fondo.
  • Ejemplo: En MNIST-Sum, descubrió un modo de fallo donde el dígito "3" se leía sistemáticamente como "2", un matiz pasado por alto por las líneas base basadas en texto.
• Selección de Rebanadas: El artículo demuestra que la convergencia de la función de pérdida de CB-SLICE se alinea con la estabilización de las métricas de rendimiento, proporcionando un criterio principiado para seleccionar el número de rebanadas sin etiquetas de verdad fundamental.

Significado y Afirmaciones

El artículo afirma que CB-SLICE replantea el descubrimiento de rebanadas de error como un proceso consciente del modelo. Al fundamentar las explicaciones en las representaciones que el modelo realmente aprende (logits de conceptos), evita las inexactitudes y los sesgos potenciales introducidos por modelos auxiliares a posteriori.

Los autores enfatizan que CB-SLICE distingue entre tipos de fallos distintos:

1. Rebanadas impulsadas por predicciones de conceptos sistemáticamente incorrectas (donde falla el codificador de conceptos $g$).
2. Rebanadas que surgen de combinaciones de conceptos raras y correctamente predichas (donde falla el predictor de etiquetas $f$ debido a la falta de datos de entrenamiento para intersecciones específicas de conceptos).

El trabajo posiciona a los CBM como una base principada para la depuración, ofreciendo explicaciones más ricas y fieles de las fuentes de error en comparación con los métodos existentes. Los autores señalan que la efectividad del método depende de la disponibilidad de anotaciones de conceptos completas y fieles, una limitación inherente a la propia arquitectura CBM.