Attribution via Distributional Paths for Information Revelation

Resumen Técnico: Atribución mediante Trayectorias Distribucionales para la Revelación de Información

Planteamiento del Problema
Los métodos de atribución de características buscan explicar las predicciones de un modelo asignando puntuaciones de importancia a las características de entrada. Dos enfoques dominantes, SHAP (Shapley Additive exPlanations) e Integrated Gradients (IG), satisfacen la propiedad de completitud, asegurando que las atribuciones sumen el cambio en la salida del modelo entre un estado de referencia y la entrada. Sin embargo, ambos presentan limitaciones distintas:

• SHAP depende de operaciones de revelación de características discretas y combinatorias. Trata las características como totalmente desconocidas o totalmente observadas, creando una intervención discontinua que carece de una revelación de información gradual.
• IG define una trayectoria continua en el espacio de entrada (por ejemplo, una línea recta desde una línea base hasta la entrada). Este enfoque evalúa el modelo puntualmente a lo largo de una trayectoria que puede atravesar regiones semánticamente insignificantes del espacio de entrada. En consecuencia, IG es susceptible a "artefactos de trayectoria", como las "sombras", donde las características encontradas temprano en la trayectoria (cerca de la línea base) influyen desproporcionadamente en la atribución de la entrada final, incluso si esas características son irrelevantes para la predicción específica.

El problema central es que los métodos de trayectoria estándar integran la respuesta bruta del modelo en puntos específicos del espacio de entrada sin controlar la resolución o la incertidumbre con la que se consultan las características.

Metodología: Reveal-IG
Los autores proponen Reveal-IG, un método que eleva el marco de atribución por trayectoria del espacio de entrada al espacio de distribuciones de sondas estructuradas. En lugar de recorrer una trayectoria de valores de entrada brutos, Reveal-IG recorre una trayectoria de distribuciones de probabilidad que se concentran progresivamente alrededor de la entrada de interés ($x^\star$).

1. Formulación de la Trayectoria Distribucional:
   El método define una trayectoria a través de un espacio de distribuciones de sonda $q_\theta(z | x^\star)$, parametrizadas por $\theta$. La cantidad que se descompone es la respuesta esperada del modelo:
   $$G(\theta; x^\star) = \mathbb{E}_{z \sim q_\theta(\cdot|x^\star)}[f(z)]$$
   La atribución se obtiene integrando los gradientes de la respuesta esperada a lo largo de la trayectoria de las distribuciones:
   $$\Delta G = \int_S \nabla_\theta \mathbb{E}_{z \sim q_\theta(z|x^\star)}[f(z)] \cdot d\theta$$
   Esto conserva la propiedad de completitud de las integrales de trayectoria, pero la aplica a la respuesta esperada en lugar de a la salida bruta.

2. Diseño de la Sonda:

• Datos de Imágenes: La sonda es una distribución Gaussiana factorizada sobre los canales de los píxeles. La trayectoria comienza en una referencia amplia (alta incertidumbre, ej. $\mu=0, \sigma=1$) y termina en una sonda concentrada alrededor de la imagen observada. La varianza del punto final ($\sigma_{final}$) puede fijarse o elegirse de forma adaptativa basándose en la escala de ruido donde la lógica objetivo del modelo permanece estable.
• Datos Tabulares: Dado que la interpolación lineal en el espacio tabular suele ser semánticamente inválida, la sonda se define sobre distribuciones marginales empíricas de los datos de entrenamiento. Un núcleo de similitud controlado por temperatura transiciona la distribución desde la marginal empírica hacia una distribución concentrada alrededor del valor observado de la característica $x^\star_i$. La trayectoria se define mediante la disminución de la temperatura, revelando la información de la característica de manera gradual.

3. Estimación de Gradientes:
   Los gradientes se toman con respecto a los parámetros de la sonda $\theta$, no a los valores de entrada.

• Para modelos diferenciables y sondas Gaussianas, el truco de reparametrización ($z = \mu + \sigma\epsilon$) permite una estimación eficiente de gradientes mediante diferenciación automática.
• Para modelos no diferenciables (ej. ensambles de árboles) o datos tabulares con sondas empíricas, el método utiliza un estimador de caja negra. Muestrea valores de características del conjunto de entrenamiento y los pondera según la distribución de la sonda, permitiendo la estimación de gradientes sin requerir la diferenciabilidad del modelo.

Contribuciones Clave

• Integración de Trayectoria Elevada: El artículo introduce un marco donde la integral de trayectoria se realiza sobre un espacio de distribuciones estructuradas en lugar de puntos de entrada brutos. Esto permite controlar la "resolución" a la que se consultan las características.
• Revelación Continua de Información: Reveal-IG proporciona un análogo continuo a la revelación discreta de características de SHAP, reemplazando la inclusión abrupta de características por una trayectoria diferenciable desde sondas de alta incertidumbre hacia sondas concentradas.
• Adaptabilidad al Dominio: El marco se instancia tanto para clasificación de imágenes (usando sondas Gaussianas) como para regresión tabular (usando sondas marginales empíricas), demostrando que la visión "elevada" proporciona un lenguaje común para la atribución en domos con diferentes estructuras geométricas.
• Mitigación de Artefactos: Al promediar las respuestas del modelo sobre distribuciones amplias en las etapas tempranas de la trayectoria, el método diluye la influencia de estructuras distantes o adyacentes a la línea base que típicamente causan los artefactos de "sombra" en el IG estándar.

Resultados Experimentales

• Diagnósticos Sintéticos: En experimentos controlados en 2D, Reveal-IG evita los artefactos de "sombra" observados en IG (donde la atribución está influenciada por características alejadas del punto de interés) y el sesgo estructural alineado con los ejes visto en SHAP. Produce campos de atribución que interpolan entre los extremos de SHAP e IG a medida que cambia la granularidad de la trayectoria de revelación.
• Clasificación de Imágenes (ImageNet): Evaluado en ResNet-50 y ViT-B/16, Reveal-IG alcanza un rendimiento de vanguardia o cercano a la vanguardia.
  • Supera significativamente a los modelos de referencia en métricas que utilizan el signo de las atribuciones (ej. Inserción/Eliminación de Evidencia Positiva y Sensibilidad-n), indicando una mejor distinción entre características que apoyan versus las que suprimen la clase objetivo.
  • Se mantiene competitivo en métricas basadas en magnitud (ej. RMA), aunque métodos como Blur-IG e IDG son competidores fuertes en tareas de saliencia sin signo.
  • El análisis de la acumulación de atribución a lo largo de la trayectoria muestra que Reveal-IG asigna la mayor parte de la atribución tardíamente en la trayectoria (a medida que la sonda se concentra), mientras que IG asigna gran parte de su atribución temprano, cerca de la línea base.
• Regresión Tabular: Evaluado en los conjuntos de datos Bike Sharing, California Housing y Wine Quality.
  • Reveal-IG es consistentemente fuerte en métricas de inserción direccional (consistencia de signo de atribución) y sensibilidad-máxima (estabilidad).
  • Aunque KernelSHAP y la ablación de características son competitivos en métricas de suficiencia/comprensividad (métricas nativas de los métodos basados en perturbación), Reveal-IG ofrece un compromiso favorable, proporcionando un rendimiento nativo de perturbación con una estabilidad significativamente mayor y un camino más natural para datos tabulares que evita interpolaciones lineales arbitrarias.

Significancia y Reivindicaciones
El artículo afirma que Reveal-IG redefine la atribución por trayectoria como un problema de suavizado. Mientras que métodos como Blur-IG suavizan el espacio de entrada (de grueso a fino), Reveal-IG suaviza la respuesta del modelo integrando las predicciones sobre distribuciones con decreciente incertidumbre.

Los autores argumentan que la elección del espacio de la trayectoria determina qué partes del comportamiento de entrada-salida del modelo se incorporan a la explicación. Al pasar del espacio de entrada al espacio de distribución, Reveal-IG permite:

1. Resolución Controlada: La capacidad de consultar el modelo a diversas escalas de información.
2. Sondas Específicas del Dominio: La flexibilidad de definir sondas que respeten la estructura de los datos (ej. marginales empíricas para datos tabulares) sin forzar interpolaciones geométricas arbitrarias.
3. Robustez: Una reducción de los artefactos dependientes de la trayectoria, lo que conduce a atribuciones más estables y semánticamente significativas, particularmente en lo que respecta al signo de la importancia de la característica.

El artículo reconoce limitaciones, incluyendo un mayor costo computacional (aproximadamente 7 veces más lento que IG para imágenes y hasta 1000 veces para datos tabulares debido al muestreo de Monte Carlo) y la suposición de distribuciones factorizadas que ignora las correlaciones entre características. Sin embargo, postula que este intercambio genera un marco de atribución más robusto e interpretable, particularmente para tareas donde el signo de la atribución es crítico.