Beyond Binary Out-of-Distribution Detection: Characterizing Distributional Shifts with Multi-Statistic Diffusion Trajectories

Riassunto Tecnico: DISC (Diffusion-based Statistical Characterization)

1. Il Problema: Il limite della rilevazione binaria

La maggior parte dei metodi attuali per il rilevamento di dati Out-of-Distribution (OOD) si limita a una classificazione binaria: un dato è "in-distribution" (ID) o "out-of-distribution" (OOD). Questi metodi comprimono l'evidenza di una deviazione statistica in un singolo score scalare (es. probabilità softmax, energia, o distanza di Mahalanobis).

Il paper identifica un limite fondamentale: la riduzione dimensionale. Gli score scalari collassano diverse tipologie di shift (es. corruzioni covariate come il rumore vs. shift semantici come nuove classi) in un unico valore. Questo rende impossibile distinguere la natura dello shift. Il lavoro dimostra teoricamente (tramite un teorema di non-identificabilità) che qualsiasi test basato su un singolo test statistic $\phi(x)$ non può distinguere tra diverse distribuzioni alternative $Q_1$ e $Q_2$ se queste producono la stessa distribuzione marginale dello score.

2. Metodologia: Il framework DISC

Per superare questo limite, gli autori introducono DISC, che sostituisce lo score scalare con un vettore di embedding multi-statistico ad alta dimensione. La metodologia si basa sui modelli generativi di diffusione (DDPM).

Il concetto chiave: Invece di guardare un singolo punto, DISC analizza l'intera traiettoria di denoising del modello di diffusione. Il processo di diffusione decompone la generazione dei dati attraverso molteplici livelli di rumore ($\sigma$), permettendo di catturare sia strutture semantiche globali che dettagli statistici fini.

Costruzione dell'embedding:
Per ogni livello di rumore $\sigma_i$, DISC calcola un insieme di metriche complementari che misurano la discrepanza tra l'input rumoroso $x_{\sigma}$ e la sua ricostruzione denoised $\hat{x}_{\sigma}$:

• Fideltà dei pixel: Mean Squared Error (MSE).
• Qualità percettiva: Learned Perceptual Image Patch Similarity (LPIPS).
• Integrità strutturale: Structural Similarity Index (SSIM).
• Complessità locale: Local Complexity (LC).
• Statistiche di texture e frequenza: Istogrammi di Local Binary Patterns (LBP) e trasformate wavelet (DTCWT) per catturare pattern che le metriche basate su reti neurali potrebbero ignorare (evitando i "blind spots").

L'aggregazione di queste metriche attraverso tutti i timestep della diffusione produce il vettore $s(x) \in \mathbb{R}^{NM}$, che funge da firma statistica completa del campione.

3. Contributi Chiave

1. Superamento del paradigma binario: Passaggio dalla semplice rilevazione alla caratterizzazione del tipo di shift.
2. Fondazione Teorica: Dimostrazione che i metodi scalari sono intrinsecamente incapaci di distinguere tipi di OOD diversi.
3. Nuovo Framework (DISC): Utilizzo delle traiettorie di diffusione per estrarre feature multi-dimensionali e multi-livello.
4. Versatilità Modale: Applicazione efficace sia a dati immagini che a dati tabulari (dove DISC utilizza la coerenza del ranking delle feature invece delle metriche visive).

4. Risultati Sperimentali

Gli esperimenti sono condotti su benchmark standard (CIFAR-10, ImageNet) e dataset tabulari (ADBench).

• Rilevazione OOD (AUROC): DISC eguaglia o supera i migliori rilevatori allo stato dell'arte (come Mahalanobis o metodi basati su energia) nel compito classico di distinguere ID da OOD.
• Classificazione del tipo di OOD: Questo è il risultato più significativo. Mentre i metodi scalari falliscono nel distinguere tra, ad esempio, un'immagine ruotata e un'immagine di una nuova classe, DISC mostra un'accuratezza molto più elevata sia in modalità non supervisionata (K-means) che supervisionata (MLP).
• Dati Tabulari: DISC supera i metodi basati su ricostruzione (come DDPM-MSE) e i classici algoritmi di anomaly detection (come Isolation Forest), dimostrando che la coerenza strutturale della traiettoria di diffusione è un segnale potente anche in spazi non visivi.

5. Significato e Conclusioni

Il lavoro di Jaziri et al. sposta l'obiettivo della ricerca OOD dalla semplice "sicurezza" (scartare dati anomali) alla "comprensione" (capire perché i dati sono anomali).

Implicazioni pratiche:

• Se lo shift è una corruzione (es. sensore sporco), il sistema può tentare una de-noising o una calibrazione.
• Se lo shift è semantico (es. nuove classi), il sistema può attivare processi di continual learning per apprendere i nuovi concetti.

Sebbene DISC comporti un costo computazionale maggiore rispetto ai metodi scalari (a causa delle molteplici iterazioni di denoising), gli autori sostengono che questo overhead sia giustificato dalla capacità di fornire un contesto decisionale molto più ricco e granulare.