IncreFA: Breaking the Static Wall of Generative Model Attribution

1. Il Problema: L'Obsolescenza dell'Attribuzione Statica

L'attribuzione delle immagini generate dall'IA (identificare quale modello specifico ha creato un'immagine) sta diventando un "bersaglio mobile". Con l'emergere quasi mensile di nuovi modelli di diffusione, avversari e autoregressivi, i metodi esistenti (basati su watermark, classificazione o inversione) diventano rapidamente obsoleti non appena vengono rilasciati nuovi generatori.

I limiti principali dei metodi attuali sono:

• Assunzione di Set Chiuso: La maggior parte dei pipeline assume un insieme fisso di generatori noti durante l'addestramento.
• Mancanza di Adattabilità: Non riescono ad apprendere continuamente nuovi modelli senza dimenticare quelli precedenti (problema del catastrophic forgetting).
• Ignoranza della Struttura Gerarchica: I modelli generativi non sono classi indipendenti; condividono un'ascendenza architetturale (es. diverse versioni di Stable Diffusion o varianti di GAN) che crea distribuzioni di caratteristiche sovrapposte, rendendo difficile separare le invarianti di "famiglia" dalle idiosincrasie specifiche del modello.
• Scarsa Rilevazione Open-Set: Faticano a distinguere immagini provenienti da generatori mai visti prima (unseen) da quelle dei generatori noti.

2. Metodologia: Il Framework IncreFA

Il paper propone IncreFA, un framework che ridefinisce l'attribuzione come un problema di apprendimento incrementale strutturato. L'obiettivo è adattare il sistema continuamente all'emergere di nuovi modelli mantenendo la capacità di riconoscere quelli precedenti e rilevare quelli sconosciuti.

IncreFA si basa su due meccanismi complementari che sfruttano la struttura gerarchica dei modelli generativi:

A. Vincoli Gerarchici (Hierarchical Constraints)

Invece di trattare ogni modello come una classe isolata, IncreFA organizza lo spazio latente in una gerarchia:

• Livello Fine (Modello): Ogni modello specifico ha un proprio vettore prototipo.
• Livello Grezzo (Famiglia): I modelli appartenenti alla stessa famiglia (es. "Diffusion", "GAN", "AR") condividono uno spazio sottomesso comune.
• Priors Ortogonali Apprendibili: Il sistema impara dei priors (ancore) ortogonali per separare le famiglie tra loro, pur permettendo la condivisione di conoscenze all'interno della stessa famiglia. Questo disaccoppia le invarianti di famiglia dalle peculiarità del singolo modello, riducendo il "drift" delle rappresentazioni durante l'aggiornamento incrementale.

B. Banca di Memoria Latente (Latent Memory Bank)

Per evitare il dimenticamento e simulare scenari open-set:

• Memoria Compatta: Invece di memorizzare immagini grezze (che richiederebbe molta memoria e potrebbe violare la privacy), il sistema memorizza le caratteristiche latenti compresse estratte da un encoder pre-addestrato (es. CLIP).
• Replay e Mixing: Durante l'addestramento di un nuovo task, il sistema riproduce campioni latenti dai task precedenti.
• Simulazione Open-Set (Random Mixing): Il sistema genera campioni "pseudo-non visti" mescolando casualmente coppie di vettori latenti da classi diverse. Questi campioni si posizionano nelle regioni a bassa densità vicino ai confini decisionali, aiutando il modello a calibrare la soglia di confidenza per rilevare correttamente le immagini provenienti da generatori sconosciuti.

Funzionamento Complessivo

Il modello utilizza un encoder visivo congelato (es. ViT-B/16) per estrarre caratteristiche stabili. Un head di proiezione leggero mappa queste caratteristiche nello spazio latente strutturato. L'obiettivo di ottimizzazione combina:

1. Perdita di classificazione standard.
2. Vincoli di ortogonalità fine e regolarizzazione a livello di famiglia.
3. Perdita di replay per la memoria a lungo termine.
4. Calibrazione open-set per penalizzare l'eccessiva confidenza su campioni non visti.

3. Contributi Chiave

1. Ridefinizione del Problema: Sposta l'attenzione dall'attribuzione statica a un processo di apprendimento incrementale strutturato, allineandosi all'evoluzione reale dei modelli generativi.
2. Nuovo Benchmark (IABench): Ha costruito il primo benchmark per l'attribuzione incrementale, coprendo 28 modelli generativi rilasciati tra il 2022 e il 2025 (inclusi GAN, Diffusion e modelli Autoregressivi), con una divisione temporale dei dati per simulare l'evoluzione reale.
3. Architettura Ibrida: L'integrazione di vincoli gerarchici (per gestire l'ascendenza dei modelli) e memoria latente con mixing (per la robustezza open-set) supera i limiti dei metodi di class-incremental learning (CIL) tradizionali.
4. Efficienza: L'uso di una memoria latente invece di immagini grezze riduce il consumo di memoria di oltre due ordini di grandezza, rendendo il sistema scalabile.

4. Risultati Sperimentali

Le sperimentazioni sono state condotte su IABench con due protocolli:

• EP1 (Attribuzione Incrementale): Simula l'arrivo sequenziale di nuovi modelli.
• EP2 (Attribuzione Statica): Valuta le prestazioni superiori in un setting chiuso.

Prestazioni Principali:

• Accuratezza di Attribuzione: IncreFA raggiunge un'accuratezza media del 95.93% nel setting statico e mantiene un'alta stabilità (78.80%) nell'ultimo task incrementale, superando significativamente i metodi SOTA come ICaRL, DGR, MOS e approcci basati su prompt (L2P, DualPrompt).
• Rilevazione Open-Set: Il sistema ottiene un tasso di rilevazione delle immagini "non viste" (Unseen Detection) del 98.93%, dimostrando un'eccezionale capacità di distinguere nuovi generatori da quelli noti.
• Robustezza: Le visualizzazioni t-SNE mostrano che, a differenza delle baseline che soffrono di mescolamento delle caratteristiche (latent mixing) dopo pochi task, IncreFA mantiene una struttura gerarchica stabile e ben separata.

5. Significato e Impatto

IncreFA rappresenta un cambio di paradigma fondamentale nel campo della forense digitale:

• Sostenibilità a Lungo Termine: Offre una soluzione praticabile per un mondo in cui i modelli generativi cambiano rapidamente, eliminando la necessità di ri-addestrare da zero ogni volta che esce un nuovo modello.
• Sicurezza e Accountability: Fornisce uno strumento affidabile per tracciare l'origine dei contenuti sintetici, cruciale per combattere la disinformazione, il furto di copyright e la manipolazione dei media.
• Generalizzazione: La capacità di gestire sia l'aggiornamento incrementale che la rilevazione di modelli sconosciuti rende questo approccio ideale per scenari reali "open-world", dove non è possibile conoscere a priori tutti i futuri generatori di immagini.

In sintesi, IncreFA rompe il "muro statico" dell'attribuzione attuale, proponendo un sistema che evolve strutturalmente insieme ai modelli che deve tracciare, garantendo precisione e adattabilità nel tempo.