Resumen Técnico: DAVE – Atribución consciente de la distribución mediante la descomposición del gradiente de ViT

1. Planteamiento del problema

Los Vision Transformers (ViTs) han alcanzado un rendimiento de vanguardia en visión por computador, pero presentan desafíos significativos para la IA explicable (XAI). A diferencia de las Redes Neuronales Convolucionales (CNNs), los ViTs procesan imágenes como secuencias de tokens de parches utilizando mecanismos de atención. Esta arquitectura introduce artefactos específicos en los mapas de atribución:

• Artefactos estructurados: Las explicaciones basadas en gradientes y atención suelen exhibir patrones de rejilla o artefactos de "rejilla de parches" inducidos por la tokenización y el enrutamiento de la atención.
• Inestabilidad: Los métodos existentes producen frecuentemente atribuciones a nivel de píxel inestables o se ven obligados a depender de explicaciones de nivel de parche más gruesas que carecen de evidencia visual de grano fino.
• Sensibilidad: Los métodos estándar basados en gradientes capturan tanto la transformación efectiva de entrada-salida como la variación del operador con respecto a la entrada. Esta última suele amplificar componentes de alta frecuencia y localmente inestables, lo que genera explicaciones ruidosas.

El artículo postula que obtener mapas de atribución estables, de alta resolución y consistentes con la clase para los ViTs sigue siendo un desafío abierto, lo que requiere un método capaz de desenredar las características semánticas reales del ruido inducido por la arquitectura.

2. Metodología: DAVE

Los autores proponen DAVE (Atribución consciente de la distribución mediante la descomposición del gradiente de ViT), un marco matemáticamente fundamentado que descompone el gradiente de entrada para aislar la transformación efectiva y estable del modelo.

2.1. Descomposición estructurada del gradiente

La contribución teórica central es la descomposición de la derivada de la capa. Los autores modelan las capas de ViT como mapas de operadores valorados diferenciables $L(X)$ seguidos de un sesgo (bias). Se demuestra que la derivada de una capa $F(X)$ consta de dos términos distintos (Ecuación 3):

1. Transformación efectiva ($L(X)$): La acción directa de la capa sobre su entrada, condicionada por la entrada. Esto representa el mapeo estable utilizado para la predicción.
2. Variación del operador: La derivada del operador $L(X)$ con respecto a la entrada. Este término captura cómo cambian los mecanismos internos ante pequeñas perturbaciones y se identifica como la fuente de la inestabilidad de alta frecuencia y los artefactos.

DAVE descarta el término de variación del operador, reteniendo únicamente la transformación efectiva como la señal de atribución base.

2.2. Filtrado equivariante

Para abordar los patrones inducidos por la arquitectura (como los artefactos de rejilla de los embeddings de parches) que son estables a través de las entradas pero no informativos para predicciones específicas, DAVE aplica un operador inspirado en Reynolds.

• Criterio de equivariancia: El método asume que los mapas de atribución deben transformarse de manera consistente bajo pequeñas transformaciones espaciales (por ejemplo, rotaciones, desplazamientos) de la entrada.
• Filtrado: Al promediar la transformación efectiva sobre un vecindario local de transformaciones espaciales (muestreadas de una medida de probabilidad $\nu$), DAVE suprime los componentes que violan la equivariancia local. Esto aísla las señales de atribución que varían consistentemente con el contenido semántico de la entrada.

2.3. Estabilización de paso bajo (Low-Pass)

Para suprimir aún más los artefactos de alta frecuencia, DAVE aplica una operación de filtrado de paso bajo. Esto se logra tomando la esperanza de la transformación efectiva equivariante bajo pequeñas perturbaciones gaussianas ($\epsilon$).

• Matemáticamente, esto es equivalente a convolucionar la transformación equivariante con un núcleo de suavizado $K$ (Ecuación 7).
• A diferencia de SmoothGrad (que promedia gradientes brutos), DAVE promedia la transformación efectiva, estabilizando así la atribución sin reintroducir los artefactos de la variación del operador descartados.

2.4. Mapa de atribución final

El mapa de atribución final de DAVE se calcula aplicando la transformación efectiva consciente de la distribución a la entrada mediante la multiplicación elemento a elemento:
$$\text{DAVE}(X) = \tilde{W}^{eq}_L(X) \odot X$$
donde $\tilde{W}^{eq}_L(X)$ es la esperanza del operador efectivo transformado sobre las transformaciones espaciales y el ruido.

3. Contribuciones clave

1. Marco matemático: Una descomposición estructurada del gradiente de entrada que separa la transformación efectiva de entrada-salida de la variación del operador, proporcionando una base teórica para una atribución estable de ViT.
2. Algoritmo DAVE: Una implementación práctica para Vision Transformers que aprovecha las propiedades arquitectónicas para suprimir los artefactos de parches y de atención, produciendo atribuciones a nivel de píxel estables y de alta resolución.
3. Versatilidad: Demostración de que el método funciona eficazmente tanto en modelos de fundamentos totalmente supervisados (ej. DeiT, ViT) como autosupervisados (ej. DINO), así como en arquitecturas inherentemente interpretables (redes B-cos).

4. Resultados experimentales

Los autores evaluaron DAVE en ImageNet-1k utilizando backbones estándar de ViT (ViT-B/16, DeiT-B/16, DeiT-III-B/16, DINO ViT-B/16) y modelos B-cos.

4.1. Rendimiento de localización

• Juego de apuntado de rejilla (GridPG): DAVE superó a todos los baselines (incluyendo I×G, Integrated Gradients, SmoothGrad, LeGrad, AttnLRP y Chefer-LRP).
  • En DeiT-III-B/16, DAVE alcanzó el 65.76%, una mejora de +11.92 puntos porcentuales sobre el mejor método competidor.
  • En DeiT-B/16, alcanzó el 63.52% (+8.05 p.p. de mejora).
• Juego de apuntado de energía (EnergyPG): DAVE logró las puntuaciones más altas en DeiT-B/16 (82.23%) y DeiT-III-B/16 (82.43%), y mejoró significativamente en DINO-B/16 (83.38%).
• Modelos B-cos: DAVE mejoró las explicaciones inherentes de las redes B-cos, logrando una mejora de +9.14 p.p. en EnergyPG en B-cos-ViT.

4.2. Fidelidad (Eliminación de píxeles)

• Utilizando curvas de eliminación de píxeles (eliminando píxeles de menos a más importantes), DAVE exhibió las curvas más planas, lo que indica que la confianza en la predicción del modelo se mantuvo estable durante más tiempo a medida que se eliminaban los píxeles. Esto sugiere que las atribuciones de DAVE son más consistentes con el proceso real de toma de decisiones del modelo en comparación con métodos previos.

4.3. Análisis cualitativo

• Las comparaciones visuales mostraron que DAVE produce mapas más nítidos y alineados con los objetos con un ruido de fondo reducido.
• A diferencia de los baselines (ej. SmoothGrad, IntGrad) que a menudo mostraban respuestas difusas o artefactos de rejilla de parches, DAVE destacó consistentemente características semánticamente significativas (ej. contornos, partes distintivas) a través de varias variantes de ViT.

5. Significado y afirmaciones

El artículo afirma que DAVE aborda la brecha crítica en la explicabilidad de los ViT al proporcionar un mecanismo para producir mapas de atribución estables, de alta resolución y consistentes con la clase.

• Fiabilidad: Al aislar la transformación efectiva y suprimir la variación del operador y los artefactos inducidos por la arquitectura, DAVE ofrece un mecanismo más fiable para auditar modelos de visión de alta capacidad.
• Aplicabilidad: El método se presenta como una herramienta para que los profesionales identifiquen sesgos del modelo, depuren clasificaciones erróneas y mejoren la colaboración humano-IA al proporcionar evidencia visual que se alinea con la percepción humana.
• Modestia: Los autores reconocen que el operador de promedio introduce una mayor carga computacional en comparación con los métodos de gradiente bruto. Sugieren que el trabajo futuro podría centrarse en un muestreo más eficiente o en la selección automática de grupos de transformación para reducir este coste.

En resumen, DAVE proporciona un enfoque matemáticamente riguroso para desenredar la "señal" de la predicción de un ViT del "ruido" de su implementación arquitectónica, resultando en explicaciones que son tanto espacialmente precisas como robustas.