Resumen Técnico: H-Sets

1. El Problema: Limitaciones de la Atribución de Características

La mayoría de los métodos actuales de atribución de características (como Integrated Gradients) se centran en los efectos marginales, es decir, calculan la importancia de cada píxel o característica de forma aislada. Sin embargo, en la clasificación de imágenes, el significado semántico suele surgir de interacciones de características: grupos de píxeles que, trabajando juntos, influyen en la predicción de una manera no aditiva.

Los métodos existentes para detectar estas interacciones enfrentan tres problemas principales:

• Escala: Son computacionalmente intratables para imágenes de alta resolución.
• Granularidad: Suelen ser demasiado gruesos (basados solo en superpíxeles).
• Axiomas: Muchos fallan en cumplir principios fundamentales de la teoría de juegos y la interpretabilidad (como la completitud o la sensibilidad).

2. Metodología: El Marco H-Sets

H-Sets propone un marco de dos etapas para descubrir y atribuir interacciones de características de orden superior de manera semánticamente coherente.

Etapa 1: Detección de Interacciones (Interaction Detection)

En lugar de buscar combinaciones aleatorias, el método utiliza la matriz Hessiana (derivadas de segundo orden) para identificar dependencias locales entre pares de características.

• Detección de pares: Se identifican pares de características $(x_i, x_j)$ cuya interacción es fuerte según un umbral $\mu$ en la Hessiana.
• Expansión recursiva: Utilizando una estrategia de búsqueda en anchura (breadth-first), los pares detectados se fusionan en conjuntos más grandes hasta alcanzar un límite de tamaño $\nu$.
• Prior espacial (SAM): Para asegurar que los conjuntos sean visualmente coherentes (y no solo ruido estadístico), se utiliza el modelo Segment Anything (SAM) como un "prior" espacial. Esto guía la agrupación para que las interacciones ocurran dentro de regiones semánticas consistentes.
• Suavizado de ReLU: Para permitir la diferenciación de segundo orden, se utiliza una aproximación suave de la función ReLU que evita el ruido en la Hessiana.

Etapa 2: Atribución de Conjuntos (Interaction Attribution)

Una vez identificados los conjuntos de interacción, se debe asignar un valor de importancia escalar a cada uno. Para ello, introducen IDG-Vis (Integrated Directional Gradients for Vision):

• Teoría de Juegos Cooperativos: Utilizan los dividendos de Harsanyi para descomponer la contribución total de un conjunto de características, aislando el efecto único de la interacción y eliminando los efectos individuales.
• Gradientes Direccionales Integrados: Se calcula la integral de los gradientes direccionales a lo largo de un camino lineal desde una imagen de referencia (baseline) hasta la imagen de entrada. Esto mitiga problemas de saturación de gradientes.

3. Contribuciones Clave

1. Descubrimiento basado en la curvatura: El uso de la Hessiana permite capturar interacciones no aditivas que los métodos basados solo en gradientes de primer orden ignoran.
2. IDG-Vis: Una extensión del método IDG (originalmente para texto) adaptada al dominio de la visión, que permite la atribución a nivel de conjunto.
3. Cumplimiento Axiomático: El método satisface axiomas críticos de la teoría de juegos (no negatividad, normalidad, monotonicidad, superaditividad) y de la atribución (completitud aproximada, sensibilidad, invariancia de implementación, linealidad y simetría).

4. Resultados Experimentales

El método fue evaluado en modelos (VGG, ResNet, DenseNet, MobileNet) y datasets (ImageNet y CUB) utilizando métricas de Sparsity (comprensibilidad) y Faithfulness (fidelidad al modelo).

• Fidelidad (Faithfulness): H-Sets superó consistentemente a todos los métodos de la competencia (incluyendo MOXI y Archipelago) en la métrica ROAD, demostrando que sus mapas de calor reflejan mejor el proceso de decisión real del modelo.
• Parsimonia (Sparsity): Logró mapas de importancia mucho más limpios y concentrados en regiones semánticas, evitando el ruido disperso típico de Integrated Gradients.
• Robustez: Los experimentos de ablación demostraron que el método es robusto a la elección de hiperparámetros ($\mu$ y $\nu$) y que el uso de SAM mejora la fidelidad sin sesgar el modelo hacia características no semánticas (probado con el dataset DecoyMNIST).

5. Significado e Impacto

La importancia de H-Sets radica en su capacidad para ofrecer explicaciones que los humanos pueden entender (regiones coherentes) y que los ingenieros pueden confiar (fieles al modelo). Al pasar de "qué píxeles son importantes" a "qué grupos de características interactúan para decidir", H-Sets acerca la interpretabilidad de la IA a la forma en que los humanos percibimos el mundo visual: mediante conceptos y objetos, no mediante puntos aislados.