💻 computer science

Multi-AD: Cross-Domain Unsupervised Anomaly Detection for Medical and Industrial Applications

Il documento propone Multi-AD, un framework di rilevamento delle anomalie non supervisionato cross-domain che integra blocchi squeeze-and-excitation, distillazione della conoscenza e una rete discriminatrice per raggiungere prestazioni allo stato dell'arte nel rilevamento di anomalie sottili attraverso diversi dataset di imaging medico e industriale.

Autori originali: Wahyu Rahmaniar, Kenji Suzuki

Pubblicato 2026-02-06

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Wahyu Rahmaniar, Kenji Suzuki

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di essere un ispettore del controllo qualità in una fabbrica, o un medico che osserva una radiografia. Il tuo compito è individuare qualcosa di sbagliato — un piccolo graffio su un pezzo di metallo o un piccolo tumore in una scansione cerebrale. Il problema è che le cose "sbagliate" sono rare. Hai migliaia di immagini di oggetti perfetti e normali, ma solo una manciata di quelli guasti. Addestrare un computer per individuare quelli guasti è difficile perché non hai abbastanza esempi da mostrargli.

Questo articolo presenta un nuovo programma per computer chiamato Multi-AD che risolve questo problema. Invece di mostrare al computer esempi di cose "rotte", insegna al computer a diventare un esperto di ciò che è "perfetto". Poi, utilizza un trucco astuto per individuare qualsiasi cosa non si adatti a quel modello perfetto.

Ecco come funziona Multi-AD, suddiviso in concetti semplici:

1. L' "Insegnante" e lo "Studente" (Distillazione della Conoscenza)

Immagina un maestro chef (l'Insegnante) che sa esattamente come dovrebbe apparire, gustare e consistere una torta perfetta. Il maestro chef non ha mai visto una torta bruciata perché pratica solo con ingredienti perfetti. Ora, immagina uno studente chef (lo Studente) che sta cercando di imparare.

In Multi-AD, l' "Insegnante" è un potente modello per computer che ha studiato migliaia di scansioni mediche e foto industriali perfette. Conosce il modello "normale" a fondo. Lo "Studente" è un modello più piccolo e veloce che cerca di copiare il cervello dell'Insegnante.

Il Trucco: Lo Studente non cerca solo di memorizzare le immagini; cerca di imitare il processo di pensiero dell'Insegnante. Quando l'Insegnante guarda una scansione di un fegato normale, lo Studente impara a vederla allo stesso modo.
Il Risultato: Quando lo Studente vede un'immagine con un difetto (come un tumore o un graffio), si confonde. Pensa: "Aspetta, questo non assomiglia a ciò che il mio Insegnante mi ha insegnato!". Questa confusione è il campanello d'allarme che dice: "Qualcosa non va qui".

2. Il "Referente" (Il Discriminatore)

Per assicurarsi che lo Studente stia davvero imparando e non stia solo tirando a indovinare, c'è un terzo personaggio: un rigoroso Referente (chiamato Discriminatore).

Il compito del Referente è giocare a un gioco di "Vero o Falso". Osserva le caratteristiche che l'Insegnante vede e le caratteristiche che lo Studente produce.
Se lo Studente sta facendo un buon lavoro, il Referente non riesce a distinguere tra la visione dell'Insegnante e la visione dello Studente.
Se lo Studente vede qualcosa di strano (un'anomalia), le sue caratteristiche sembreranno "false" al Referente. Il Referente allora grida: "Questo non è normale!". Questo costringe lo Studente a diventare ancora più bravo a individuare le differenze.

3. Gli "Occhi Super" (Blocchi Squeeze-and-Excitation)

A volte, il difetto è minuscolo, come una crepa sottile in una vite o una piccola macchia sulla retina. Una normale fotocamera potrebbe mancarlo. Multi-AD utilizza una lente speciale chiamata blocchi Squeeze-and-Excitation (SE).

Pensa a questo come a un riflettore in una stanza buia. Il computer sta guardando un'immagine enorme con migliaia di dettagli. I blocchi SE agiscono come un riflettore che dice: "Ignora il rumore di fondo; concentrati solo su questo specifico canale di informazione". Aiuta il computer a ignorare le cose irrilevanti e a concentrarsi sui piccoli e sottili indizi che indicano un problema.

4. Vedere il Quadro Generale e i Piccoli Dettagli (Fusione Multi-Scala)

Le anomalie possono avere tutte le dimensioni. Un pezzo di una macchina rotto potrebbe avere un'ammaccatura enorme (grande scala) o un piccolo graffio (piccola scala).

Multi-AD non guarda l'immagine in un solo modo. La osserva attraverso quattro diversi "livelli di zoom" contemporaneamente:

Zoom 1: Guarda le texture fini (come la venatura del legno).
Zoom 2 & 3: Guarda le forme e le strutture locali.
Zoom 4: Guarda l'intera immagine per vedere grandi distorsioni.

Quindi combina tutte queste viste in una mappa finale. È come avere una squadra di quattro detective: uno che cerca impronte digitali, uno che cerca impronte di piedi, uno che cerca vetri rotti e uno che osserva l'intera scena del crimine. Tutti condividono i propri appunti per creare una singola, perfetta mappa di dove si trova il problema.

Cosa hanno testato?

Gli autori hanno testato questo sistema in due mondi molto diversi:

Medicina: Hanno utilizzato scansioni cerebrali (MRI), scansioni del fegato (CT) e scansioni oculari (OCT). Volevano vedere se poteva trovare tumori o malattie.
Industria: Hanno utilizzato il famoso dataset "MVTec AD", che include foto di texture (come tappeti e pelle) e oggetti (come bottiglie, viti e pillole) con vari difetti come graffi, ammaccature o parti mancanti.

I Risultati

L'articolo sostiene che Multi-AD sia il migliore nel suo lavoro rispetto ad altri metodi all'avanguardia.

In Medicina: Ha identificato correttamente le immagini anormali l'81,4% delle volte e ha individuato l'esatta posizione del problema il 97,0% delle volte.
Nell'Industria: È stato ancora migliore, identificando i prodotti difettosi il 99,6% delle volte e localizzando l'esatto difetto il 98,4% delle volte.

L'articolo conclude che, combinando l'apprendimento "Insegnante-Studente", il gioco del "Referente" e gli "Occhi Super", Multi-AD può trovare problemi nascosti sia in ambito medico che in quello industriale senza dover essere mostrati esempi di cosa sia "rotto" in precedenza. Funziona perché conosce così bene il "perfetto" che qualsiasi cosa sia meno che perfetta risalta immediatamente.

Sintesi Tecnica: Multi-AD per l'Anomalia Unsupervised Cross-Domain

Definizione del Problema

Il rilevamento delle anomalie (AD - Anomaly Detection) è fondamentale per la diagnosi precoce delle malattie in medicina e per il rilevamento dei difetti nella produzione industriale. Tuttavia, un collo di bottiglia primario è la scarsità di dati etichettati relativi alle anomalie. I casi anomali sono intrinsecamente rari e l'acquisizione di dati etichettati — particolarmente nell'imaging medico — è laboriosa, costosa e soggetta a variabilità inter-osservatore. Sebbene l'apprendimento auto-supervisionato (SSL - Self-Supervised Learning) sia emerso come una soluzione addestrando su dati "normali" non etichettati, le sue prestazioni spesso degradano in scenari con dati di addestramento limitati o alta variabilità intra-classe (ad esempio, diverse strutture anatomiche o ambienti industriali complessi). Inoltre, gli approoli esistenti di Distillazione della Conoscenza (KD - Knowledge Distillation) sono frequentemente limitati ad applicazioni a dominio singolo e mancano di robustezza nel trasferimento cross-modality o cross-domain.

Metodologia: Framework Multi-AD

Gli autori propongono Multi-AD, un framework di reti neurali convoluzionali (CNN) progettato per un robusto rilevamento delle anomalie non supervisionato sia in ambito medico che industriale. Il metodo integra l'apprendimento di caratteristiche agnostiche rispetto al dominio con l'adattamento specifico del dominio tramite un'architettura Teacher-Student (T-S) potenziata da tre componenti principali:

1. Backbone Potenziato con Squeeze-and-Excitation (SE)

Il backbone è un'architettura WideResNet-50 modificata che incorpora:

Convoluzioni Dilatate: Applicate attraverso quattro stadi residui con tassi di dilatazione progressivamente crescenti ( $r=1, 2, 4, 8$ ) per espandere il campo recettivo preservando la risoluzione spaziale. Ciò consente al modello di catturare sia i dettagli locali (es. microfessure) che il contesto globale (es. distorsioni strutturali).
Blocchi Squeeze-and-Excitation (SE): Integrati in ogni stadio residuo per eseguire la ricalibrazione delle caratteristiche per canale. Questo meccanismo calcola le statistiche per canale tramite global average pooling e utilizza strati completamente connessi per generare fattori di scala, consentendo alla rete di enfatizzare le caratteristiche informative e sopprimere quelle irrilevanti.
Fusione di Caratteristiche Multi-scala: Uno strato convoluzionale fonde le caratteristiche degli strati inferiori e superiori per combinare dettagli fini con informazioni semantiche di alto livello.

2. Distillazione della Conoscenza (KD) con Allineamento delle Caratteristiche

Il framework impiega un'architettura T-S in cui un modello Teacher (T) pre-addestrato (congelato) trasferisce la conoscenza a un modello Student (S) addestrabile.

Regime di Addestramento: Il modello è addestrato esclusivamente su dati normali (privi di anomalie).
Allineamento delle Caratteristiche: Il modello S è addestrato per imitare le rappresentazioni delle caratteristiche del modello T. Le caratteristiche degli strati critici di entrambi i modelli sono L2-normalizzate.
Funzione di Perdita: Una perdita del generatore di caratteristiche ( $\mathcal{L}_G$ ) minimizza la distanza euclidea (tramite similarità del coseno) tra i vettori di attivazione normalizzati dei modelli T e S attraverso molteplici strati. Ciò assicura che il modello S apprenda la distribuzione intrinseca dei dati normali.

3. Rete Discriminatore (D) e Addestramento Avversario

Per perfezionare ulteriormente la distinzione tra dati normali e anomali, viene introdotto un network Discriminatore (D):

Architettura: Una rete convoluzionale che elabora le mappe di caratteristiche per produrre un punteggio di probabilità che indichi se l'input è "reale" (caratteristiche del modello T) o "falso" (caratteristiche del modello S).
Obiettivo Avversario: Il network D è ottimizzato per distinguere le caratteristiche di T dalle caratteristiche di S utilizzando la perdita Binary Cross-Entropy (BCE). Viceversa, il modello S è addestrato con un termine avversario ( $\mathcal{L}_{adv}$ ) per ingannare il network D, costringendo il modello S a produrre mappe di caratteristiche indistinguibili dalla distribuzione normale del modello T.
Perdita Totale: La perdita totale del modello S combina l'allineamento delle caratteristiche e i termini avversari: $\mathcal{L}_S = \mathcal{L}_G + \lambda \mathcal{L}_{adv}$ .

4. Fusione delle Caratteristiche Multi-scala Potenziata dalla Convoluzione (MFF)

Durante l'inferenza, le mappe di anomalia vengono generate calcolando la dissimilarità del coseno pixel-per-pixel tra le caratteristiche di T e S attraverso molteplici strati ( $M_1$ a $M_4$ ).

Raffinamento: A differenza della semplice sommatoria, la proposta MFF applica una convoluzione 1×1, Batch Normalization e ReLU a ciascuna mappa di anomalia di scala prima della fusione. Questo passaggio raffina le mappe di caratteristiche per affrontare le variazioni di scala e il disallineamento spaziale.
Aggregazione: Le mappe raffinate vengono combinate tramite interpolazione bilineare e levigate con un filtro Gaussiano per prodare la mappa di anomalia finale. Il punteggio di anomalia a livello di immagine è derivato dalla risposta massima di questa mappa.

Contributi Chiave

Il documento delinea quattro contributi primari:

Framework Cross-Domain: Un framework di AD unificato che disaccoppia l'apprendimento delle caratteristiche agnostiche rispetto al dominio (condivise) e quelle specifiche del dominio (adattive), dimostrando generalizzazione attraverso dataset medici (MRI, CT, OCT) e industriali.
MFF Potenziata dalla Convoluzione: Un modulo innovativo che migliora la localizzazione di sia piccole che grandi anomalie raffinando le caratteristiche multi-scala prima della fusione.
Discriminatore Adattivo: L'integrazione di network D con meccanismi di attenzione adattiva per consentire una precisa localizzazione delle anomalie attraverso diverse modalità di imaging.
Localizzazione Precisa: La fornitura di mappe di anomalia accurate per localizzare malattie e difetti di prodotto, validata attraverso estesi esperimenti.

Risultati Sperimentali

Multi-AD è stato valutato su tre dataset medici (BraTS2021 per MRI cerebrali, RESC per OCT retinica e BTCV/LiTs per CT epatiche) e sul benchmark industriale MVTec AD.

Prestazioni Mediche: Multi-AD ha raggiunto una media di AUROC a livello di Immagine dell'81,4% e AUROC a livello di Pixel del 97,0%, superando i modelli allo stato dell'arte inclusi PaDiM, PatchCore, SimpleNet, STFPM, RD4AD e MKD.
Prestazioni Industriali: Su MVTec AD, il modello ha raggiunto una media di AUROC a livello di Immagine del 99,6% e AUROC a livello di Pixel del 98,4%, superando costantemente i metodi basati su clustering e ricostruzione.
Studi di Ablazione:
- La rimozione del Blocco SE ha ridotto l'AUROC a livello di pixel, confermando il suo ruolo nel focalizzarsi sulle caratteristiche informative.
- La rimozione del Discriminatore (D) ha degradato significativamente le prestazioni (ad esempio, l'AUROC a livello di pixel medico è sceso dal 97,0% al 93,2%), evidenziando l'importanza del raffinamento avversario.
- La rimozione di MFF ha portato a una diminuzione notevole dell'accuratezza di localizzazione, validando la necessità del raffinamento convoluzionale per la fusione multi-scala.

Significato e Rivendicazioni

Gli autori affermano che Multi-AD offre una soluzione robusta per applicazioni reali dove i dati etichettati sulle anomalie sono scarsi. Sfruttando la KD e l'addestramento avversario, il modello apprende efficacementamente la distribuzione dei dati normali e rileva deviazioni sottili senza richiedere etichette di anomalia durante l'addestramento.

Il documento sottolinea che la capacità di Multi-AD di generare mappe di calore delle anomalie nitide e focalizzate con minimi falsi positivi lo rende superiore ai metodi basati su clustering (che spesso producono mappe ampie e non focalizzate) e ai metodi basati sulla ricostruzione (che faticano con texture complesse). La dimostrata capacità di generalizzazione cross-domain di Multi-AD suggerisce che può essere implementato in diversi contesti medici e industriali senza un ulteriore addestramento esteso, rispondendo a una necessità critica di sistemi di rilevamento delle anomalie scalabili e affidabili. Tuttavia, gli autori notano con modestia che l'integrazione di MFF e dei network avversari aumenta la complessità computazionale, il che potrebbe porre sfide per l'implementazione in tempo reale in ambienti con risorse limitate.