A High-Resolution Landscape Dataset for Concept-Based XAI With Application to Species Distribution Models

1. Il Problema

I Modelli di Distribuzione delle Specie (SDM) sono strumenti fondamentali per la conservazione e la gestione delle specie invasive. Tradizionalmente, questi modelli devono bilanciare due obiettivi: prestazioni predittive robuste e fornire intuizioni ecologiche sui fattori che guidano la distribuzione.
Tuttavia, l'adozione di algoritmi di Deep Learning (DL) ha migliorato la precisione predittiva rispetto ai modelli tradizionali, ma ha reso estremamente difficile l'estrazione di conoscenze ecologiche. I modelli DL apprendono caratteristiche astratte attraverso milioni di parametri, rendendoli "scatole nere".
Le tecniche di Explainable AI (XAI) esistenti (come LIME o SHAP) operano spesso a livello di pixel, il che è difficile da interpretare per gli ecologi che necessitano di spiegazioni globali basate su concetti di alto livello (es. "siepe", "zona umida", "coltura cerealicola"). Attualmente, manca un dataset dedicato di concetti del paesaggio per applicare metodi XAI basati sui concetti agli SDM.

2. Metodologia

Gli autori propongono un approccio integrato che combina la creazione di un nuovo dataset, l'addestramento di modelli avanzati e l'applicazione di una tecnica XAI specifica.

A. Creazione del Dataset di Concetti del Paesaggio

È stato creato un dataset open-access derivato da immagini multispettrali e LiDAR acquisite tramite droni (risoluzione 8 cm/pixel).

• Concetti: Sono stati selezionati 15 concetti ecologici rilevanti (es. siepi, alberi isolati, boschi, corpi idrici lineari/superficiali, zone umide, strade, edifici, vari tipi di colture e pascoli).
• Dati: Il dataset include 653 patch di concetti specifici e 1.450 patch di riferimento casuale, estratte da cinque siti di studio in Francia.
• Modalità: Le patch sono composte da 7 canali (5 bande multispettrali + 2 modelli di elevazione derivati dal LiDAR).

B. Modelli di Distribuzione (SDM)

Sono stati addestrati tre modelli di Deep Learning per prevedere la presenza/assenza di due insetti acquatici (Plecoptera e Trichoptera):

1. CerberusCNN: Un'architettura CNN personalizzata con tre rami paralleli per catturare caratteristiche spaziali a diverse scale.
2. ARN-50 (Adapted ResNet-50): Una ResNet-50 modificata per accettare input a 7 canali e addestrata sia da zero che con pesi pre-addestrati su ImageNet.
3. PicoViT: Una versione ridotta di Vision Transformer (ViT) adattata per gestire dataset di dimensioni limitate.

C. Spiegabilità Basata sui Concetti (Robust TCAV)

Per interpretare i modelli, è stata applicata la metodologia Robust TCAV (Testing with Concept Activation Vectors).

• Funzionamento: Il metodo calcola un vettore di attivazione del concetto (CAV) nello spazio latente del modello, confrontando le attivazioni delle patch di un concetto specifico con quelle di patch casuali.
• Punteggio TCAV: Quantifica quanto una predizione è allineata con un determinato concetto. Un punteggio > 0.5 indica influenza positiva, < 0.5 influenza negativa.
• Robustezza: Viene utilizzata una versione "Robust" che calcola la differenza media delle attivazioni invece del vettore normale all'iperpiano, riducendo la sensibilità al rumore.

3. Contributi Chiave

1. Nuovo Dataset: Rilascio del primo dataset ad alta risoluzione specifico per concetti del paesaggio, derivato da dati drone (multispettrali + LiDAR), essenziale per l'XAI negli SDM.
2. Implementazione Pionieristica: Prima applicazione dei metodi XAI basati sui concetti (Robust TCAV) ai Modelli di Distribuzione delle Specie.
3. Modelli Comparativi: Sviluppo e valutazione di tre architetture diverse (CNN e Transformer) ottimizzate per dati di telerilevamento ad alta risoluzione.
4. Validazione Ecologica: Dimostrazione che l'XAI basato sui concetti può validare la logica dei modelli rispetto alla conoscenza esperta e generare nuove ipotesi ecologiche.

4. Risultati

Prestazioni Predittive

• I modelli CNN (CerberusCNN e ARN-50) hanno ottenuto prestazioni superiori rispetto al Vision Transformer (PicoViT).
• ARN-50 pre-addestrato ha ottenuto i risultati migliori per Plecoptera (AUC 0.90) e risultati solidi per Trichoptera (AUC 0.75).
• PicoViT si è rivelato inaffidabile per Trichoptera (AUC 0.66), suggerendo che per questo tipo di dati, le relazioni locali (vicinanza dei pixel) sono più informative delle dipendenze a lunga distanza tipiche dei Transformer.

Risultati XAI (Robust TCAV)

• Coerenza Ecologica: Per entrambe le specie, i concetti naturali (boschi, zone umide, pascoli permanenti, alberi isolati) hanno mostrato un'influenza positiva significativa sulla classe "Presenza" (punteggi TCAV > 0.85 per Plecoptera).
• Impatto Antropico: Le caratteristiche antropiche (strade, edifici, colture) hanno influenzato negativamente la "Presenza" di Plecoptera, coerentemente con la letteratura scientifica.
• Scoperte Non Banali:
  • Per Trichoptera, alcuni modelli hanno mostrato una correlazione positiva con strade e edifici, un risultato controintuitivo che merita ulteriori indagini ecologiche.
  • Le colture biologiche sono state classificate con un impatto leggermente meno negativo rispetto a quelle convenzionali, ma entrambe hanno influenzato negativamente la presenza, suggerendo che le pratiche a livello di parcella potrebbero essere compromesse dal degrado a livello di paesaggio.
• Limiti: Il modello PicoViT ha prodotto punteggi TCAV vicini allo zero, dimostrando che modelli predittivi inaffidabili generano intuizioni ecologiche prive di significato. Inoltre, i corpi idrici superficiali non sono stati sempre riconosciuti come fattori primari, probabilmente a causa delle difficoltà del LiDAR nel rilevare l'acqua sotto la vegetazione.

5. Significato e Implicazioni

Questo lavoro rappresenta un passo avanti cruciale per l'intersezione tra Intelligenza Artificiale ed Ecologia:

• Ponte tra AI ed Ecologi: Permette agli ecologi di collaborare definendo concetti di alto livello senza bisogno di essere esperti di Machine Learning, rendendo i modelli "scatola nera" interpretabili.
• Supporto alle Politiche: Fornisce informazioni a livello di paesaggio utili per la pianificazione delle politiche di conservazione e la gestione del territorio, identificando quali elementi del paesaggio favoriscono o ostacolano la biodiversità.
• Riproducibilità: La disponibilità pubblica del dataset, del codice e dei modelli favorisce la riproducibilità e l'adozione di tecniche XAI nella comunità degli SDM.

In sintesi, il paper dimostra che è possibile riconciliare l'alta accuratezza predittiva del Deep Learning con la necessità di trasparenza ecologica, fornendo uno strumento robusto per la gestione sostenibile della biodiversità.