Resumen Técnico: Escalar Modelos de Visión No Mejora Consistentemente la Calidad de las Explicaciones Basadas en Localización

Declaración del Problema

A medida que los modelos de inteligencia artificial se escalan cada vez más para mejorar la precisión predictiva, sigue sin estar claro si aumentar la profundidad del modelo y el número de parámetros mejora la calidad de las explicaciones post-hoc. En dominios críticos para la seguridad, como la atención médica y las finanzas, la transparencia es primordial; sin embargo, las redes neuronales profundas (CNN y Transformadores de Visión) a menudo funcionan como "cajas negras". Una suposición predominante sugiere que los modelos más grandes aprenden características con una estructura semántica más sólida, lo que potencialmente genera explicaciones que se alinean mejor con las interpretaciones humanas. Este estudio desafía esa suposición al investigar si escalar la profundidad arquitectónica y el número de parámetros conduce consistentemente a explicaciones visuales de mayor calidad, específicamente en lo que respecta a su capacidad para localizar regiones relevantes de la imagen.

Metodología

Los autores realizaron una evaluación empírica exhaustiva que involucró 11 modelos de visión por computadora de tres familias distintas: ResNet, DenseNet y Transformadores de Visión (ViT). Los modelos variaban en profundidad y complejidad, desde ResNet-18 hasta ResNet-101, DenseNet-121 hasta DenseNet-201, y ViT-B/16 hasta ViT-L/16. El estudio incluyó tanto modelos entrenados desde cero como aquellos que utilizaban pesos preentrenados (ImageNet-1k, CheXpert, ImageNet-21k).

Conjuntos de Datos:
Los experimentos se realizaron en tres conjuntos de datos con máscaras de segmentación de verdad fundamental:

1. COVID-QU-Ex: Radiografías de tórax para la detección de COVID-19.
2. Oxford-IIIT Pet: Imágenes de animales para la localización de objetos.
3. Chest X Pneumothorax: Radiografías de tórax para la detección de neumotórax.

Métodos de IA Explicable (XAI):
Se aplicaron cinco métodos de explicación post-hoc para generar mapas de saliencia:

• Mapas de Saliencia
• GradientSHAP
• Gradientes Integrados
• Permutación de Características
• Grad-CAM (adaptado para ViT)

Métricas de Evaluación:
La calidad de la explicación se cuantificó midiendo la alineación entre los mapas de atribución generados y las máscaras de verdad fundamental utilizando dos métricas:

1. Precisión de la Jerarquía de Relevancia (RRA): Mide la fracción de los píxeles de atribución de mayor rango que caen dentro de la máscara de verdad fundamental.
2. Precisión de Doble Polaridad (DPP): Una métrica novedosa propuesta por los autores. A diferencia de las evaluaciones que solo consideran la magnitud, DPP mide explícitamente la precisión espacial de las atribuciones positivas (evidencia de apoyo dentro de la máscara) y las atribuciones negativas (contraevidencia fuera de la máscara). Penaliza las atribuciones contradictorias o el ruido de fondo.

Análisis Estadístico:
El estudio empleó pruebas H de Kruskal-Wallis y pruebas U de Mann-Whitney con corrección de Benjamini-Hochberg para evaluar la significancia estadística a través de las escalas de los modelos y los regímenes de preentrenamiento. La fidelidad se evaluó adicionalmente mediante comprobaciones de sanidad que involucraban la aleatorización de pesos a nivel de capa y la permutación de píxeles de entrada.

Contribuciones Clave

1. Evaluación Sistemática de la Escala: Los autores examinaron la relación entre la complejidad del modelo (número de parámetros) y el rendimiento de clasificación en 11 arquitecturas y tres conjuntos de datos.
2. Cuantificación de los Efectos del Preentrenamiento: El estudio cuantificó cómo el preentrenamiento influye en la calidad de las explicaciones de XAI, comparando modelos entrenados desde cero con sus contrapartes preentrenadas.
3. Introducción de la Precisión de Doble Polaridad (DPP): El artículo introduce DPP para abordar las limitaciones en las métricas existentes al evaluar la precisión espacial de las atribuciones positivas y negativas, asegurando que las explicaciones sean penalizadas por el ruido de fondo contradictorio.
4. Evidencia Empírica de Divergencia: El estudio proporciona evidencia de que el rendimiento predictivo y la calidad de la explicación pueden divergir, señalando escenarios donde los modelos logran alta precisión pero una precisión de localización cercana a cero.

Resultados

Escala del Modelo y Calidad de la Explicación:
En todos los conjuntos de datos y métodos XAI, aumentar la profundidad arquitectónica y el número de parámetros no mejoró consistentemente la calidad de la explicación.

• En las comparaciones estadísticas, los modelos más grandes (por ejemplo, ResNet-101, DenseNet-201, ViT-L/16) no superaron sistemáticamente a las variantes más pequeñas (por ejemplo, ResNet-18, DenseNet-121, ViT-B/16).
• En los casos donde se encontraron diferencias significativas, los modelos más pequeños igualaron o superaron el rendimiento de los modelos más grandes en el 34% de las comparaciones, mientras que el modelo más grande logró la puntuación más alta solo en el 12%.
• Los tamaños del efecto para las diferencias relacionadas con la escala fueron típicamente insignificantes a pequeños.

Impacto del Preentrenamiento:
El preentrenamiento generalmente mejoró el rendimiento predictivo, pero no aumentó consistentemente las puntuaciones de localización (RRA o DPP).

• Aunque los modelos preentrenados mostraron una mayor dependencia de los pesos aprendidos (indicado por una mayor degradación bajo la aleatorización de capas) y una mayor sensibilidad a la estructura de entrada, esto no se tradujo en una ganancia sistemática en las métricas de localización.
• En muchas comparaciones significativas, los modelos entrenados desde cero rindieron tan bien o mejor que los modelos preentrenados.

Rendimiento Predictivo vs. Calidad de la Explicación:
Un hallazgo crítico fue el desacoplamiento de la precisión y la interpretabilidad. En el conjunto de datos Chest X Pneumothorax, los modelos lograron un rendimiento de clasificación razonable (AUC ~0.77–0.87) mientras producían puntuaciones de localización cercanas a cero. Esto sugiere que se puede lograr una alta precisión confiando en correlaciones espurias o artefactos de adquisición en lugar de las regiones anatómicas anotadas.

Comprobaciones de Sanidad:

• Aleatorización de Capas: Los modelos más profundos y, especialmente, los preentrenados mostraron una mayor degradación cuando se aleatorizaron los pesos, lo que indica una mayor dependencia de los parámetros aprendidos en lugar de solo la estructura de la red.
• Aleatorización de Entrada: La mayoría de los métodos basados en gradientes mostraron baja sensibilidad al desorden de píxeles, aunque Grad-CAM exhibió cambios más grandes. Los modelos preentrenados generalmente mostraron una mayor sensibilidad a los cambios en la estructura de entrada en comparación con los modelos entrenados desde cero.

Significado y Afirmaciones

El artículo concluye que los modelos más grandes no proporcionan de manera fiable explicaciones de mayor calidad. La suposición de que escalar los modelos mejora inherentemente la alineación semántica de los mapas de saliencia no está respaldada por los datos. En cambio, los modelos más pequeños a menudo proporcionan explicaciones que se alinean tan bien o mejor que sus contrapartes más profundas.

Los autores argumentan que la explicabilidad debe evaluarse explícitamente durante la selección del modelo, particularmente para implementaciones sensibles a la seguridad. Confiar únicamente en la precisión predictiva es insuficiente, ya que los modelos pueden lograr un alto rendimiento mientras fallan en localizar las regiones de interés previstas. La introducción de la Precisión de Doble Polaridad (DPP) ofrece una manera más rigurosa de evaluar estas explicaciones al tener en cuenta tanto la evidencia de apoyo como la contraevidencia.

El estudio enfatiza que los procedimientos de selección de modelos deben considerar los costos computacionales y los requisitos operativos junto con el rendimiento, ya que los modelos más pequeños pueden ofrecer una calidad de explicación comparable con demandas de recursos significativamente menores. Los hallazgos sugieren que en entornos sobreparametrizados, la precisión predictiva y la interpretabilidad pueden divergir, lo que hace necesaria una evaluación explícita de la fidelidad de la explicación en lugar de asumir que mejora con la escala.