Enhancing Visual Feature Attribution via Weighted Integrated Gradients

Declaración del Problema

Los Gradientes Integrados (IG) son un método fundamental para la atribución de características en la IA Explicable (XAI), particularmente para la visión computacional. Sin embargo, su eficacia depende en gran medida de la elección de una imagen de referencia (baseline). En tareas de visión de alta dimensionalidad, no existe un baseline universalmente "neutro"; las opciones comunes (por ejemplo, negro, blanco o ruido aleatorio) suelen generar explicaciones inconsistentes o ruidosas.

Para mitigar esto, los Gradientes Esperados (EG) promedian las atribuciones de IG sobre múltiples baselines. Aunque EG reduce la sensibilidad a la elección de un único baseline, depende de una limitación crítica: asigna pesos uniformes a todos los baselines, asumiendo implícitamente que todos son igualmente informativos. Los autores argumentan que, en modelos de visión complejos, los baselines varían significamente en su relevancia para un input específico. El promedio uniforme puede permitir que los baselines de baja calidad o ruidosos diluyan la atribución final, lo que conduce a explicaciones inestables y menos fieles.

Metodología: Gradientes Integrados Ponderados (WG)

El artículo propone los Gradientes Integrados Ponderados (WG), una extensión fundamentada de IG que asigna pesos dependientes del input a diferentes baselines basándose en su idoneidad para explicar un input específico.

1. Medida de Aptitud No Supervisada ($D_\alpha$):
WG introduce un criterio no supervisado para evaluar la idoneidad del baseline sin requerir anotaciones manuales o conocimiento del dominio. Define una puntuación de "aptitud" (fitness) basada en la perturbación:

• Definición: $D_\alpha$ es el número mínimo de características que deben enmascararse para reducir la puntuación de salida del modelo al $\alpha\%$ de su valor original.
• Lógica: Un baseline con un $D_\alpha$ menor se considera más "apto" porque es necesario eliminar menos características para impactar significativamente la confianza del modelo. Esto implica que el baseline resalta eficazmente las características influyentes.
• Ponderación: El peso $w_k$ para el $k$-ésimo baseline es inversamente proporcional a su puntuación de aptitud ($w_k \propto 1/D_\alpha$). Los baselines que producen explicaciones más fieles (menor $D_\alpha$) reciben pesos más altos.

2. Computación Eficiente (Algoritmo 1):
Calcular $D_\alpha$ mediante una búsqueda exhaustiva es computacionalmente prohibitivo ($O(n)$). Los autores proponen una estrategia de búsqueda binaria que aprovecha la monotonicidad de la reducción de la puntuación tras la eliminación de características. Al enmascarar iterativamente las características basadas en puntuaciones de importancia (por ejemplo, atribuciones de IG), el algoritmo logra una complejidad temporal de $O(\log n)$ por baseline.

3. Justificación Teórica:

• Propiedades Axiomáticas: WG preserva los axios centrales de IG (Invarianza de Implementación y Sensibilidad) y satisface una propiedad de completitud generalizada.
• Análisis Probabilístico: Bajo el supuesto de una Monotonicidad de Relevancia–Aptitud de Proxy Esperada (es decir, que los baselines con mejores puntuaciones de aptitud tienden a colocar más masa de probabilidad en las características verdaderamente relevantes), los autores demuestran que WG aumenta la relevancia esperada de la atribución agregada en comparación con el promedio uniforme (EG).
• Garantías de Muestra Finita: El artículo proporciona un teorema que muestra que, cuando WG logra un margen de relevancia positivo sobre el promedio de la relevancia de EG, la fracción de relevancia empírica se concentra por encima del promedio de EG a una tasa exponencial.

Contribuciones Clave

1. Formulación: Los autores reformulan la selección de baselines en IG como un problema de ponderación dependiente del input, yendo más allá de la suposición uniforme de EG.
2. Mecanismo: Proponen una medida de aptitud no supervisada basada en la perturbación ($D_\alpha$) para estimar la utilidad del baseline y derivar pesos adaptativos.
3. Análisis: Proporcionan un análisis teórico que muestra que, bajo supuestos de monotonicidad específicos, la agregación ponderada por aptitud produce una mayor masa de relevancia esperada que el promedio uniforme.
4. Evaluación Empírica: Evalúan WG a través de diversas arquitecturas (Convolucionales y Transformers) en conjuntos de datos estándar (ImageNet, COCO), reportando tanto las ganancias de fidelidad de la atribución como la sobrecarga computacional.

Resultados Experimentales

Los autores evaluaron WG frente a EG utilizando siete modelos de backbone (DenseNet121, MobileNetV2, ResNet50/101, VGG16/19, y ViT-B/16).

• Métricas:
  • AUC de Eliminación (Menor es mejor): Mide qué tan rápido cae la confianza del modelo cuando se eliminan las características con mayor atribución. WG superó consistentemente a EG, con mejoras relativas que oscilan entre el 19.36% y el 36.01% entre los modelos.
  • AUC de Solapamiento (Mayor es mejor): Una métrica supervisada que mide la alineación espacial con las máscaras de segmentación de la verdad de campo (ground-truth). WG mostró mejoras que oscilan entre el 5.69% y el 18.55%.
• Calidad Visual: El análisis cualitativo (mapas de saliencia) indica que WG produce atribuciones más nítidas y enfocadas en los objetos principales en comparación con EG.
• Compromiso (Trade-off): Los autores señalan explícitamente que WG incurre en un costo computacional adicional debido al paso de evaluación de la aptitud (aproximadamente 5.7 veces más lento que EG en sus mediciones).

Significancia y Reivindicaciones

El artículo posiciona a WG no como una alternativa más rápida a EG, sino como un compromiso entre atribución y fidelidad. Su principal significancia radica en:

• Fiabilidad: Al reducir adaptativamente el peso de los baselines de baja calidad, WG asegura atribuciones más fiables sin necesidad de una curación manual de baselines.
• Enfoque Basado en Principios: Ofrece un mecanismo basado en datos para abordar el "problema del baseline" en la atribución basada en rutas, yendo más allá de la suposición de que todos los baselines contribuyen por igual.
• Aplicabilidad: El método es particularmente adecuado para entornos donde la mejora en la calidad de la explicación justifica el tiempo de ejecución adicional, mejorando la utilidad de la XAI en aplicaciones críticas de visión.

Los autores mantienen un tono modesto respecto a sus afirmaciones teóricas, reconociendo que las garantías probabilísticas dependen de un supuesto de "proxy esperado", y que la monotonicidad de la relevancia-aptitud es verificada empíricamente pero no está garantizada para cada instancia de input individual. Concluyen que WG es un paso hacia explicaciones más claras y fiables para los sistemas de aprendizaje profundo, siempre que la sobrecarga computacional sea aceptable para el caso de uso específico.