Consistent Evidence, Robust Recognition: Faithful Attribution Regularization under Geometric Transformations

Resumen Técnico: Evidencia Consistente, Reconocimiento Robusto

Planteamiento del Problema
Los métodos de atribución se utilizan ampliamente para identificar la evidencia de entrada que subyace en las predicciones de las redes neuronales profundas. Sin embargo, su potencial para mejorar activamente el comportamiento del modelo permanece poco explorado. Un problema crítico es la inconsistencia de la atribución bajo transformaciones geométricas que preservan la etiqueta (por ejemplo, volteo o rotación). Si bien la clase predicha puede permanecer sin cambios, el modelo a menudo desplaza su dependencia de la evidencia del objeto original hacia regiones diferentes o irrelevantes. Esto indica una sensibilidad a las transformaciones geométricas que socava la robustez.

Los enfoques existentes para la regularización de la atribución suelen depender de objetivos de consistencia autosupervisados derivados de mapas basados en gradientes (por ejemplo, Grad-CAM). Una limitación fundamental de estos métodos es la fidelidad (faithfulness): los mapas basados en gradientes no siempre reflejan con precisión la evidencia que impulsa la decisión del modelo. En consecuencia, al alinear estos mapas se asegura la consistencia en la salida de la explicación, pero no se garantiza la consistencia en el proceso de decisión subyacente. Un modelo puede lograr la consistencia a nivel de explicación y, aun así, seguir dependiendo de una evidencia sensible a las transformaciones. El desafío central abordado por este trabajo es cómo convertir la atribución fiel y vinculada a la decisión en una señal de entrenamiento efectiva para imponer una dependencia de evidencia consistente sin anotaciones humanas.

Metodología
Los autores proponen un marco de regularización de atribución sin anotaciones basado en la búsqueda submodular sobre regiones de la imagen. El método opera en dos etapas:

1. Etapa de Consulta (Generación de Supervisión):
   En lugar de utilizar mapas de calor basados en gradientes, el marco emplea un método de atribución basado en búsqueda (específicamente LIMA) para extraer evidencia compacta y discriminativa de la clase. El proceso selecciona de forma codiciosa (greedy) las regiones de la imagen que maximizan una función de puntuación submodular, la cual combina métricas de consistencia, confianza y colaboración. La búsqueda termina cuando se alcanza un umbral de consistencia.

   • Filtrado: Solo se conservan las muestras que están clasificadas correctamente, tienen alta confianza y resultan en un área de atribución compacta. Esto asegura que la señal de supervisión se derive de un comportamiento del modelo fiable.
   • Secuencia de Supervisión: Para las muestras conservadas, la secuencia ordenada de las regiones seleccionadas y la condición de parada constituyen la "supervisión derivada de la búsqueda".

2. Etapa de Entrenamiento (Pérdida de Clasificación Submodular):
   Para regularizar el modelo, el marco alinea la trayectoria de búsqueda de atribución de una imagen transformada con la trayectoria espacialmente correspondiente de la imagen original. Debido a que el proceso de búsqueda es discreto y secuencial, se requiere un sustituto diferenciable. Los autores introducen la Pérdida de Clasificación Submodular (Submodular Ranking Loss), compuesta por dos términos:

   • Pérdida de Selección-Clasificación ($L_{SelR}$): En cada paso de la búsqueda codiciosa en la imagen transformada, este término impone que la región objetivo espacialmente correspondiente (de la secuencia original) clasifique por encima de todos los candidatos no objetivos restantes.
   • Pérdida de Selección-Truncamiento ($L_{SelT}$): Este término fomenta que la evidencia acumulada de la trayectoria transformada satisfaga el mismo criterio de parada que la secuencia de consulta original en el paso terminal objetivo.

El objetivo total combina la pérdida de clasificación estándar con la Pérdida de Clasificación Submodular, ponderada por un hiperparámetro $\lambda$. El marco se implementa con optimizaciones como espacios de búsqueda restringidos y regularización dispersa para gestionar la carga computacional.

Contribuciones Clave

1. Prerrequisito de Atribución Fiel: El trabajo formula la regularización de la atribución alrededor del principio de que la supervisión debe representar fielmente la evidencia que subyace a la predicción, yendo más allá de la simple consistencia de los mapas.
2. Marco sin Anotaciones: Un nuevo marco que deriva secuencias de supervisión compactas a partir de búsquedas submodulares filtradas, eliminando la necesidad de anotaciones de relevancia proporcionadas por humanos.
3. Pérdida de Clasificación Submodular: Una función de pérdida diferenciable que alinea la selección de candidatos a lo largo de trayectorias transformadas e impone criterios de parada, proporcionando un sustituto para el proceso de selección de evidencia, que de otro modo sería discreto.
4. Validación Empírica: Experimentos extensos que demuestran una mejora en la estabilidad y fidelidad de la atribución, junto con una mayor robustez ante entradas transformadas, con un impacto mínimo en la precisión de imágenes limpias.

Resultados Experimentales
El método fue evaluado en ImageNet-100 e ImageNet-1K utilizando arquitecturas ViT-B/16, ViT-L/16, ResNet-50 y ConvNeXt-B.

• Calidad de la Atribución (ImageNet-100, ViT-B/16):
  • La estabilidad de la atribución aumentó de 0.14 a 0.27.
  • La puntuación de Inserción (Insertion) mejoró en un 52.1%.
  • La puntuación de Eliminación (Deletion) se redujo en un 62.2%.
  • La precisión de clasificación cayó solo 0.28 puntos porcentuales.
• Robustez (ImageNet-1K):
  • La precisión media de la entrada transformada mejoró en 0.55 (ResNet-50) y 0.33 (ConvNeXt-B) puntos porcentuales.
  • La reducción de la precisión en imágenes limpias fue limitada a 0.30 puntos.
• Eficiencia: El método logra un rendimiento de entrenamiento comparable a CGC y más rápido que CLIP-AFT, con requerimientos de memoria GPU significativamente menores que los métodos de gradiente de segundo orden.

Significancia y Reivindicaciones
El artículo afirma que la atribución fiel promueve una dependencia de evidencia consistente sin comprometer materialmente el rendimiento predictivo. Al desplazar el enfoque de alinear mapas de gradientes potencialmente infieles hacia la alineación del proceso real de selección de evidencia derivado de la búsqueda submodular, el método aborda la causa raíz de la sensibilidad a las transformaciones. Los resultados sugieren que imponer la equivariancia en la evidencia relevante para la decisión, en lugar de solo en la salida de la explicación, conduce a modelos más robustos que dependen de evidencia espacialmente correspondiente a través de transformaciones geométricas. Los autores señalan que el código se publicará próximamente para facilitar la investigación futura.