Single-Step Reconstruction-Free Anomaly Detection and Segmentation via Diffusion Models

1. Il Problema

L'articolo affronta le sfide critiche nell'rilevamento di anomalie non supervisionato (unsupervised anomaly detection) e nella segmentazione, un compito cruciale per il controllo qualità industriale (es. manifattura additiva, ispezione di tessuti, componenti elettronici).

Sebbene i modelli generativi, in particolare i Diffusion Models, abbiano superato GAN e VAE nella qualità delle immagini, gli approcci attuali basati sulla ricostruzione presentano tre limitazioni fondamentali:

1. Costo Computazionale Elevato: Il processo di ricostruzione richiede centinaia di passaggi di campionamento inverso (iterativi), rendendo impossibile l'implementazione in tempo reale.
2. Perdita di Pattern Complessi: Per immagini con pattern complessi o sottili, l'immagine ricostruita potrebbe corrispondere a un pattern normale diverso dall'originale, portando a falsi negativi o a una localizzazione errata.
3. Scelta del Livello di Rumore: Determinare il livello di rumore intermedio ottimale per avviare il processo inverso è difficile e dipende dall'applicazione, richiedendo spesso conoscenze a priori sulle anomalie (inaccettabile in setting non supervisionati).

2. Metodologia: RADAR

Gli autori propongono RADAR (Reconstruction-free Anomaly Detection with Attention-based diffusion models in Real-time), un paradigma innovativo che elimina la fase di ricostruzione dell'immagine.

Concetto Chiave

Invece di ricostruire l'immagine "normale" partendo da un'immagine corrotta, RADAR utilizza direttamente la mappa del rumore predetto dal modello di diffusione come segnale di anomalia.

• Principio Teorico: Durante l'addestramento su dati normali, il modello impara a predire il rumore gaussiano aggiunto nel processo di diffusione. Su dati normali, la predizione del rumore segue una distribuzione gaussiana coerente. Su dati anomali, la predizione del rumore devia significativamente da questa distribuzione.

Fasi dell'Algoritmo

1. Addestramento Patch-based:
   • Il modello (un U-Net basato su Diffusion) viene addestrato esclusivamente su dati normali.
   • Per gestire scenari con pochi dati (tipici nell'industria), le immagini di addestramento vengono divise in patch sovrapposte (es. 28x28 pixel). Questo aumenta esponenzialmente la dimensione del dataset di addestramento, riduce l'overfitting e abbassa drasticamente l'uso di memoria GPU (fino a 400 volte meno rispetto all'addestramento su immagini intere).
2. Generazione in Un Solo Passo (Single-Step):
   • In fase di inferenza, l'immagine di test subisce un solo passo di diffusione forward (aggiunta di una piccola quantità di rumore).
   • Il modello predice il rumore per questo singolo passo. Non viene eseguita alcuna ricostruzione iterativa.
3. Estrazione delle Caratteristiche:
   • La mappa del rumore predetta viene elaborata:
     • Viene applicato un filtro di sfocatura (blur) per uniformare le regioni normali.
     • Viene applicato un operatore Sobel per evidenziare i bordi delle anomalie.
     • Vengono calcolate due metriche: la norma L2 globale (per l'anomalia globale) e la norma L2 massima in una finestra scorrevole (per l'anomalia locale).
4. Classificazione:
   • Le feature estratte vengono inserite in un classificatore One-Class (Isolation Forest) per determinare se l'immagine è anomala.
   • Per la segmentazione a livello di pixel, la mappa del rumore elaborata viene utilizzata per generare mappe di calore delle anomalie.

3. Contributi Chiave

• Paradigma "Reconstruction-Free": Il primo approccio che utilizza i Diffusion Models per generare direttamente mappe di anomalia senza ricostruire l'immagine, giustificato teoricamente attraverso le catene di Markov di diffusione.
• Efficienza in Tempo Reale: Eliminando i passaggi iterativi di campionamento inverso, il metodo diventa adatto per applicazioni industriali in tempo reale.
• Strategia Patch-based: Riduce l'uso di memoria GPU di 400 volte e migliora la generalizzazione su dataset piccoli, sebbene aumenti il tempo di addestramento (mitigabile riducendo gli epoch).
• Miglioramento delle Prestazioni: Supera i modelli basati sulla ricostruzione e i metodi statistici tradizionali, specialmente su pattern sottili o complessi.

4. Risultati Sperimentali

Il metodo è stato valutato su due dataset reali:

1. Materiali Stampati in 3D (FFF): Immagini con pattern periodici (angoli di deposizione 45° e 135°).
2. MVTec-AD (Classe "Tile"): Immagini con pattern stocastici e altamente variabili.

Metriche Principali (F1 Score):

• Dataset 3D Prints: RADAR ottiene un F1 Score di 0.85, superando significativamente il secondo miglior modello (B&A, 0.72) e i modelli di diffusione basati sulla ricostruzione (es. DiffusionAD con 0.27).
• Dataset Tile: RADAR ottiene un F1 Score di 0.67, risultando il migliore in assoluto, superando AnoDDPM (0.60) e i metodi statistici.

Vantaggi Osservati:

• I modelli basati sulla ricostruzione hanno fallito sul dataset 3D Prints perché le anomalie sottili venivano "ricostruite" erroneamente come normali.
• RADAR ha dimostrato una maggiore precisione nella localizzazione dei pixel anomali, preservando le caratteristiche originali dell'immagine senza degradarle tramite passaggi di diffusione multipli.

5. Significato e Impatto

Questo lavoro rappresenta un cambio di paradigma significativo nell'uso dei Diffusion Models per il controllo qualità industriale:

• Superamento del collo di bottiglia computazionale: Rende fattibile l'uso di modelli complessi di diffusione su linee di produzione reali dove la latenza è critica.
• Robustezza: Dimostra che non è necessario ricostruire l'immagine per rilevare anomalie; la deviazione nella predizione del rumore è un indicatore sufficiente e più preciso.
• Applicabilità Industriale: La capacità di funzionare con piccoli dataset (grazie alle patch) e di operare in tempo reale lo rende ideale per settori come la manifattura additiva, l'ispezione di tessuti e la produzione di semiconduttori.

In sintesi, RADAR offre una soluzione più veloce, più precisa e computazionalmente efficiente rispetto allo stato dell'arte attuale, aprendo la strada all'adozione massiva dei Diffusion Models nell'industria 4.0.