Non-identifiability of Explanations from Model Behavior in Deep Networks of Image Authenticity Judgments

1. Il Problema

L'articolo affronta una questione fondamentale nell'intersezione tra Intelligenza Artificiale e Neuroscienze Cognitive: la non-identificabilità delle spiegazioni.
Sebbene le reti neurali profonde (DNN) siano in grado di predire con successo i giudizi umani (ad esempio, sull'autenticità di un'immagine), un'alta accuratezza predittiva non garantisce che il modello utilizzi le stesse informazioni o meccanismi cognitivi degli esseri umani. Inoltre, le spiegazioni post-hoc (come le mappe di attribuzione o "heatmap") generate da questi modelli per giustificare le loro previsioni non sono necessariamente robuste o stabili.
Il problema centrale è: le spiegazioni generate da modelli che predicono bene il comportamento umano sono affidabili come prove dei meccanismi cognitivi sottostanti? Gli autori ipotizzano che, a causa dell'effetto "Rashomon" (modelli diversi con prestazioni simili che forniscono spiegazioni diverse), le spiegazioni di un singolo modello potrebbero essere fuorvianti per la psicologia umana.

2. Metodologia

Lo studio è stato condotto utilizzando il dataset AIGCIQA2023, che contiene 2.400 immagini generate da AI con valutazioni umane su tre dimensioni: Qualità, Autenticità e Corrispondenza. Per focalizzarsi sull'autenticità, gli autori hanno escluso immagini non realistiche per design (es. illustrazioni), mantenendo un set di 1.367 immagini.

Architetture e Addestramento

Sono stati testati diversi backbones pre-addestrati (frozen) con un "testa di regressione" leggera addestrata per predire i punteggi di autenticità umani (Mean Opinion Score):

• Architetture supervisionate: VGG-16, VGG-19, ResNet-152, DenseNet-161, EfficientNetB3.
• Architettura self-supervised: Barlow Twins.
• Protocollo: Per ogni architettura sono stati addestrati 10 varianti indipendenti (diversi seed casuali e split dei dati) per valutare la stabilità.

Analisi della Variance

Gli autori hanno utilizzato l'analisi di correlazione parziale per distinguere se i modelli predicono l'autenticità basandosi su:

1. Variance specifica dell'autenticità.
2. Variance condivisa con la "Qualità" dell'immagine (poiché qualità e autenticità sono fortemente correlate nel dataset).

Metodi di Spiegazione (Explainability)

Sono stati generati mappe di attribuzione utilizzando tre metodi distinti:

1. Grad-CAM: Basato sui gradienti.
2. MPM (Multi-scale Pixel Masking): Basato sulla perturbazione (oscuramento di patch di pixel).
3. LIME: Basato su modelli surrogati locali su superpixel (SLIC).

Metriche di Coerenza

L'analisi si è concentrata su due livelli di coerenza:

• Coerenza intra-architettura: Quanto sono simili le mappe di attribuzione tra le 10 varianti della stessa architettura (diversi seed)?
• Coerenza inter-architettura: Quanto sono simili le mappe di attribuzione tra architetture diverse (es. VGG vs ResNet)?
• Ensemble: Sono stati creati modelli ensemble (Bagging e Stacking) per aggregare le previsioni e le spiegazioni di tutte le architetture.

3. Risultati Chiave

Prestazioni Predittive e Variance

• I modelli hanno raggiunto circa l'80% del "noise ceiling" umano (correlazione PLCC ~0.63 per i migliori modelli).
• Scoperta critica: I modelli VGG hanno raggiunto buone prestazioni predittive basandosi quasi esclusivamente sulla qualità dell'immagine (sfocatura, artefatti, contrasto) piuttosto che su segnali specifici di autenticità. Quando la qualità è stata "parzializzata" (rimossa statisticamente), la correlazione residua tra le previsioni VGG e l'autenticità umana è crollata a zero.
• Modelli come Barlow Twins e EfficientNetB3 hanno invece catturato una variance specifica dell'autenticità, sebbene limitata.

Coerenza delle Spiegazioni

• Coerenza Intra-architettura: Le spiegazioni erano generalmente stabili all'interno della stessa architettura (diversi seed), specialmente per EfficientNetB3 e Barlow Twins. Interessantemente, le immagini giudicate più autentiche dagli umani tendevano a produrre mappe di attribuzione più coerenti tra i diversi seed.
• Coerenza Inter-architettura (Il risultato principale): L'accordo tra architetture diverse era generalmente debole. Anche quando due modelli avevano prestazioni predittive simili, le loro mappe di attribuzione evidenziavano regioni diverse dell'immagine.
  • Le architetture VGG producevano mappe sistematicamente diverse rispetto alle altre, coerentemente con il fatto che si basavano su criteri di qualità diversi.
  • L'effetto Rashomon è stato confermato: modelli performanti ma diversi forniscono spiegazioni divergenti.

Ensemble

• I modelli Ensemble (Bagging e Stacking) hanno superato tutti i singoli modelli in termini di accuratezza predittiva (PLCC ~0.73).
• È stato possibile generare mappe di attribuzione a livello di immagine per gli ensemble (usando MPM), che mostravano una segregazione spaziale degli elementi associati all'autenticità percepita. Tuttavia, LIME non è risultato un buon surrogato per spiegare gli ensemble in questo contesto.

4. Contributi Principali

1. Dimostrazione della Non-Identificabilità: Fornisce evidenze empiriche che, nel dominio del giudizio di autenticità, il successo predittivo di un modello non implica che le sue spiegazioni riflettano i meccanismi cognitivi umani. La diversità delle spiegazioni tra modelli performanti rende difficile isolare i "cues" psicologici reali.
2. Distinzione tra Qualità e Autenticità: Sottolinea il rischio che i modelli apprendano proxy correlati (come la qualità tecnica) invece del concetto target (autenticità), un problema che le semplici metriche di accuratezza non rivelano.
3. Validazione della Coerenza come Criterio: Propone che la coerenza delle spiegazioni (sia intra- che inter-architettura) sia un prerequisito necessario, sebbene non sufficiente, per l'uso di DNN come modelli psicologici.
4. Soluzione tramite Ensemble: Suggerisce che l'uso di ensemble possa migliorare sia la predizione che la generazione di spiegazioni a livello di immagine, offrendo una via d'uscita all'effetto Rashomon quando non c'è consenso tra le singole architetture.

5. Significato e Implicazioni

Il lavoro ha profonde implicazioni per le scienze cognitive e l'IA spiegabile (XAI):

• Avvertenza per la Ricerca Cognitiva: Le spiegazioni post-hoc generate da modelli che predicono bene il comportamento umano non dovrebbero essere considerate prove solide dei meccanismi cognitivi sottostanti. Se modelli diversi "vedono" cose diverse per arrivare alla stessa conclusione, non è possibile affermare con certezza quale spiegazione corrisponda al processo umano.
• Limiti dell'IA Forense: Nel contesto della rilevazione di deepfake o immagini sintetiche, affidarsi a un singolo modello e alle sue heatmap per capire perché un'immagine è falsa è rischioso, poiché il modello potrebbe basarsi su artefatti tecnici (qualità) piuttosto che su incongruenze semantiche o strutturali.
• Nuovo Framework di Valutazione: Gli autori propongono di separare la valutazione della "accuratezza predittiva" dalla "coerenza delle spiegazioni", suggerendo che la ricerca futura dovrebbe puntare su ensemble o su metodi che forzano il consenso tra modelli diversi per ottenere spiegazioni psicologicamente rilevanti.

In sintesi, il paper conclude che, allo stato attuale, il successo predittivo da solo non è sufficiente per trattare un'architettura DNN come un modello esplicativo della percezione umana dell'autenticità, a causa della mancanza di identificabilità univoca delle spiegazioni.