Interpretable-Aware Privacy Preserving Framework for Deepfake Detection using Federated ResNet and Explainable AI Techniques

Sintesi Tecnica: Framework di Rilevamento dei Deepfake con Consapevolezza dell'Interpretabilità e Protezione della Privacy tramite ResNet Federata e Tecniche di Intelligenza Artificiale Spiegabile

Problematica
Il rapido avanzamento dell'intelligenza artificiale generativa ha facilitato la creazione di immagini e video deepfake altamente realistici, ponendo significative minacce alla sicurezza digitale, alla privacy personale e alla fiducia sociale. Sebbene il deep learning (DL) abbia migliorato le capacità di rilevamento, gli approcci tradizionali si affidano ad architetture centralizzate che richiedono l'aggregazione di grandi volumi di dati d'immagine sensibili su un singolo server. Questa centralizzazione crea vulnerabilità riguardanti la privacy dei dati, la proprietà e la conformità normativa. Inoltre, i sistemi di rilevamento esistenti spesso mancano di trasparenza, operando come "black box" che forniscono output di classificazione senza spiegare il ragionamento dietro le proprie decisioni. La sfida consiste nello sviluppare un sistema di rilevamento che garantisca simultaneamente la privacy dei dati, gestisca distribuzioni di dati eterogenee tra i dispositivi e fornisca intuizioni interpretabili sulle proprie previsioni.

Metodologia
Il framework proposto affronta queste sfide integrando l'Apprendimento Federato (FL), una rete neurale convoluzionale (CNN) leggera e tecniche di Intelligenza Artificiale Spiegabile (XAI).

1. Architettura di Apprendimento Federato: Invece di centralizzare i dati grezzi, il sistema impiega un approccio di addestramento distribuito in cui i modelli vengono addestrati localmente sui dispositivi client. Solo gli aggiornamenti del modello (pesi) vengono trasmessi a un server centrale per l'aggregazione, garantendo che i dati d'immagine sensibili non lascino mai l'ambiente locale.
2. Architettura del Modello (ResNet-18): Il modello di rilevamento centrale utilizza ResNet-18. Questa architettura è stata selezionata per il suo equilibrio tra efficienza computazionale e capacità di estrazione delle caratteristiche. Le connessioni residue permettono al modello di addestrarsi in modo costante e di catturare sottili artefatti visivi (ad es., miscelazione innaturale, inconsistenze di texture) necessari per il rilevamento dei deepfake senza l'eccessivo carico computazionale di reti più profonde.
3. Strategia di Ottimizzazione (FedProx): Per affrontare il problema dei dati non identicamente distribuiti (Non-IID) tra i client, che può causare divergenza e instabilità del modello, il framework incorpora l'algoritmo FedProx. FedProx modifica la funzione di perdita locale aggiungendo un termine prossimale che vincola gli aggiornamenti del modello locale a rimanere vicini ai parametri del modello globale. Questa regolarizzazione migliora la stabilità della convergenza in ambienti eterogenei.
4. Generazione di Decisioni Spiegabili: Per migliorare la trasparenza, il framework include un modulo di analisi forense. Durante l'inferenza, il sistema genera previsioni accompagnate da spiegazioni visive. Ciò comporta:
   • Rilevamento dei Bordi: Calcolo delle magnitudo del gradiente per evidenziare le inconsistenze strutturali e le transizioni nette spesso presenti nelle regioni manipolate.
   • Analisi del Rumore Residuo: Sottrazione di una versione smussata (con sfocatura Gaussiana) dell'immagine dall'originale per isolare pattern di rumore ad alta frequenza e artefatti sintetici invisibili all'occhio umano.
   • Visualizzazione: Combinazione delle caratteristiche di bordo e di rumore in una mappa di spiegazione sovrapposta all'immagine originale per giustificare visivamente la classificazione.

Contributi Chiave

• Framework di Protezione della Privacy: Lo studio introduce un sistema unificato che consente il rilevamento collaborativo dei deepfake senza richiedere la condivisione dei dati d'immagine grezzi, affrontando così critiche preoccupazioni relative alla privacy e alla regolamentazione.
• Addestramento Federato Stabile: Integrando FedProx con ResNet-18, il lavoro dimostra un metodo per mantenere la stabilità dell'addestramento e la convergenza del modello nonostante le sfide delle distribuzioni di dati Non-IID comuni negli ambienti federati reali.
• Interpretabilità: Il framework va oltre la semplice classificazione incorporando l'analisi delle caratteristiche forensi (mappe di bordo e residui), fornendo agli utenti prove visive del motivo per cui un'immagine viene classificata come reale o falsa.
• Architettura Efficiente: La selezione di ResNet-18 assicura che il sistema rimanga computazionalmente fattibile per gli ambienti distribuiti, catturando efficacementamente le caratteristiche specifiche dei deepfake.

Risultati Sperimentali
Il framework è stato valutato utilizzando il dataset FaceForensics++, un benchmark standard contenente video reali e manipolati attraverso quattro tipi di manipolazione: DeepFakes, Face2Face, FaceSwap e Neural Textures. Gli esperimenti sono stati condotti su una NVIDIA GeForce 4 GB GPU con un tasso di apprendimento di 0.001 e una dimensione del batch di 48.

I risultati quantitativi indicano prestazioni elevate:

• Accuratezza: 97,20%
• Precisione: 96,30%
• Richiamo (Recall): 96,72%
• F1-Score: 96,90%

L'analisi della matrice di confusione ha rivelato che il modello ha classificato correttamente la maggior parte dei campioni, con errori concentrati solo in alcune classi specifiche. L'analisi della precisione (visualizzata tramite grafici radar) ha mostrato prestazioni costanti tra i diversi tipi di manipolazione, indicando che il modello non è distorto verso classi specifiche. Il processo di addestramento ha richiesto circa 4 minuti, con un tempo medio di inferenza di 12 secondi per immagine non vista.

Significatività e Rivendicazioni
Gli autori affermano che questo studio dimostra una via percorribile verso un rilevamento dei deepfake sicuro, che preserva la privacy e che sia interpretabile. Unificando l'Apprendimento Federato, le CNN e la spiegabilità, il framework aumenta la trasparenza e la fiducia dell'utente, elementi essenziali per l'implementazione nel mondo reale. Il lavoro sostiene di aver bilanciato con successo la necessità di un'elevata accuratezza di rilevamento con i vincoli della privacy dei dati e dell'efficienza computazionale, rendendolo adatto ad ambienti in cui i dati non possono essere condivisi centralmente. L'integrazione di FedProx è evidenziata come un fattore critico per garantire la robustezza del sistema contro l'eterogeneità dei dati, mentre la componente di visualizzazione forense risponde alla crescente necessità di trasparenza nei sistemi decisionali automatizzati.