A High-Resolution Landscape Dataset for Concept-Based XAI With Application to Species Distribution Models

Título: Un Dataset de Paisaje de Alta Resolución para XAI Basado en Conceptos con Aplicación en Modelos de Distribución de Especies

1. El Problema

Los Modelos de Distribución de Especies (SDM, por sus siglas en inglés) son herramientas fundamentales para la conservación y la gestión de especies invasoras. Tradicionalmente, estos modelos buscan un doble objetivo: lograr un rendimiento predictivo robusto y proporcionar conocimientos ecológicos sobre los factores que impulsan la distribución de las especies.
Sin embargo, la adopción de algoritmos de aprendizaje profundo (Deep Learning) y datos de teledetección de alta dimensión ha mejorado la precisión predictiva, pero ha creado una "caja negra" que dificulta la extracción de conocimientos ecológicos. A diferencia de los modelos tradicionales donde la importancia de las características es directa, las redes neuronales aprenden características abstractas en millones de parámetros. Las técnicas actuales de Inteligencia Artificial Explicable (XAI), como LIME o SHAP, operan a nivel de píxel, lo cual es difícil de interpretar para ecólogos y no ofrece explicaciones globales de alto nivel basadas en conceptos semánticos (ej. "bosque", "carretera", "humedal"). Además, no existía un dataset dedicado de conceptos de paisaje para aplicar métodos de XAI basados en conceptos a los SDMs.

2. Metodología

Los autores proponen un marco de trabajo que integra un nuevo dataset de conceptos con la metodología Robust TCAV (Testing with Concept Activation Vectors) para explicar SDMs basados en Deep Learning.

• Dataset de Conceptos de Alta Resolución:

  • Se creó un dataset público derivado de imágenes multiespectrales y LiDAR obtenidas mediante drones (Trinity F90+ con sensores MicaSense y Qube240) en cinco sitios de estudio en Francia.
  • Resolución: 8 cm/píxel (multiespectral) y 10 cm/píxel (modelos de elevación).
  • Contenido: Incluye 653 parches etiquetados manualmente que representan 15 conceptos de paisaje (ej. setos, árboles aislados, bosques, cuerpos de agua lineales y superficiales, humedales, carreteras, edificios, cultivos orgánicos y convencionales, pastizales).
  • Además, se incluyeron 1,450 parches aleatorios como referencia.
  • Los parches son de 512x512 píxeles con 7 bandas (5 espectrales + 2 de elevación).

• Datos de Distribución de Especies:

  • Se utilizaron dos taxones de insectos acuáticos: Plecoptera y Trichoptera.
  • Las etiquetas (Presencia/Ausencia) se obtuvieron mediante trampas adhesivas en los mismos sitios de estudio.
  • Se generaron parches de entrenamiento centrados en las trampas.

• Arquitecturas de Modelos (SDMs):
  Se entrenaron tres modelos distintos para clasificar la presencia/ausencia de las especies:

  1. CerberusCNN: Una arquitectura CNN personalizada con tres ramas paralelas para capturar características espaciales a múltiples escalas.
  2. ARN-50: Una versión adaptada de ResNet-50, modificada para aceptar entradas de 7 canales.
  3. PicoViT: Una versión ligera de Vision Transformer (ViT) adaptada al tamaño del dataset.

• Aplicación de Robust TCAV:

  • Se aplicó Robust TCAV para cuantificar la influencia de los 15 conceptos de paisaje en las predicciones del modelo.
  • Se calculó el Vector de Activación de Conceptos (CAV) como la diferencia entre las activaciones medias de los parches de un concepto específico y los parches aleatorios.
  • Se evaluó la sensibilidad de las predicciones a cada concepto, generando puntuaciones TCAV que indican si un concepto influye positiva (>0.5) o negativamente (<0.5) en la clase objetivo.

3. Contribuciones Clave

1. Nuevo Dataset Abierto: Publicación del primer dataset de conceptos de paisaje de alta resolución (653 parches + 1450 aleatorios) diseñado específicamente para XAI en ecología, derivado de datos de drones multiespectrales y LiDAR.
2. Implementación Pionera de XAI Conceptual en SDMs: Primera aplicación de Robust TCAV a Modelos de Distribución de Especies, permitiendo explicar predicciones de Deep Learning mediante conceptos ecológicos interpretables en lugar de píxeles.
3. Modelos de Alta Resolución: Desarrollo y entrenamiento de tres arquitecturas de Deep Learning (dos CNN y un Transformer) optimizadas para datos de drones de alta resolución.
4. Validación Ecológica: Demostración de que las explicaciones generadas por el modelo coinciden con el conocimiento experto de los ecólogos, validando la lógica interna de los modelos de "caja negra".

4. Resultados

• Rendimiento Predictivo:

  • Los modelos CNN (CerberusCNN y ARN-50) superaron al Transformer (PicoViT).
  • CerberusCNN obtuvo los mejores resultados sin pre-entrenamiento (AUC de 0.88 para Plecoptera y 0.79 para Trichoptera).
  • ARN-50 con pesos pre-entrenados (ImageNet) logró el mejor rendimiento global para Plecoptera (AUC 0.90).
  • PicoViT mostró inestabilidad, especialmente para Trichoptera (AUC 0.66), sugiriendo que las relaciones locales de píxeles son más informativas que las dependencias de largo alcance en este contexto.

• Interpretabilidad (Robust TCAV):

  • Coherencia Ecológica: Los modelos identificaron consistentemente que los conceptos naturales (bosques, humedales, setos, pastizales permanentes) influyen positivamente en la Presencia de las especies (puntuaciones TCAV > 0.85 en CNN).
  • Impacto Antrópico: Los conceptos de cultivos (trigo, maíz) y infraestructuras (carreteras, edificios) mostraron una influencia negativa en la presencia de las especies, alineándose con la literatura sobre el impacto de la agricultura intensiva.
  • Hallazgos Nuanceados:
    • Las prácticas orgánicas obtuvieron puntuaciones de influencia positiva ligeramente superiores a las convencionales, aunque ambas fueron negativas en comparación con los hábitats naturales, sugiriendo que la escala del paisaje sigue siendo crítica.
    • Se observó una asociación inesperada entre carreteras/edificios y la presencia de Trichoptera en ciertos modelos, lo que generó nuevas hipótesis ecológicas para investigar.
  • Inconsistencias: El modelo PicoViT generó puntuaciones cercanas a cero para la mayoría de los conceptos, demostrando que los modelos con bajo rendimiento predictivo proporcionan explicaciones ecológicas sin sentido.

5. Significado e Impacto

Este trabajo cierra la brecha entre el alto rendimiento predictivo de los modelos de Deep Learning y la necesidad de interpretabilidad ecológica.

• Para la Ciencia Ecológica: Proporciona una herramienta para validar modelos de "caja negra" contra el conocimiento experto y descubrir nuevas asociaciones ecológicas que podrían pasar desapercibidas.
• Para la Gestión y Política: Las explicaciones a nivel de concepto (ej. "la presencia de humedales es el factor clave") son mucho más accionables para gestores del territorio y responsables políticos que los mapas de importancia de píxeles.
• Recurso Comunitario: El dataset y el código son de acceso público, fomentando la adopción de XAI basada en conceptos en la comunidad de modelado de distribución de especies y ecología del paisaje.

En conclusión, el estudio demuestra que es posible reconciliar la precisión predictiva con la interpretabilidad ecológica mediante el uso de datos de drones de alta resolución y técnicas avanzadas de XAI, ofreciendo un nuevo paradigma para la conservación de la biodiversidad.