LiZAD: A Lightweight Zero-Shot Anomaly Detection Framework for Industrial Manufacturing

Sintesi Tecnica: LiZAD – Un framework di rilevamento delle anomalie zero-shot leggero

Problema
Nella moderna produzione industriale ad alto throughput, le configurazioni dei prodotti e le caratteristiche visive cambiano frequentemente. Il tradizionale rilevamento delle anomalie supervisionato richiede una vasta raccolta e annotazione di dati per ogni nuovo scenario, il che è spesso costoso e impraticabile. Sebbene il Rilevamento delle Anomalie Zero-Shot (ZSAD) offra una soluzione rilevando difetti in categorie non viste senza dati di addestramento specifici per il target, gli approcci ZSAD esistenti affrontano un collo di bottiglia critico: sono computazionalmente intensivi. Basati su backbone visivo-linguistici di grandi dimensioni, questi modelli richiedono un'elevata potenza di calcolo e di memoria, rendendoli inadatti per l'implementazione su dispositivi edge con risorse limitate o su linee di produzione in tempo reale dove la velocità di inferenza è fondamentale.

Metodologia
Gli autori propongono LiZAD, un framework leggero progettato specificamente per lo ZSAD in tempo reale su dispositivi edge. L'architettura affronta il compromesso tra efficienza computazionale e localizzazione fine attraverso tre componenti principali:

1. Backbone Visivo (DINOv3): Invece dei classici encoder visivi di tipo CLIP, ottimizzati per l'allineamento semantico globale, LiZAD utilizza DINOv3 (nello specifico la variante compatta ViT-S/16). Questa scelta è dettata dalla capacità di DINOv3 di fornire caratteristiche visive dense e spazialmente consapevoli, cruciali per una precisa localizzazione delle anomalie a livello di pixel. Il modello utilizza un encoder congelato per estrarre token globali ed embedding a livello di patch.
2. Encoder Testuale (MobileCLIP2): Per il ramo testuale, il framework impiega MobileCLIP2, un'architettura progettata per l'esecuzione a bassa latenza su hardware edge. Utilizza un design convoluzione-transformer altamente ottimizzato e un addestramento rinforzato multi-modale per estrarre embedding testuali espressivi con un ingombro di memoria minimo.
3. Spazio Latente Condiviso e Proiezione: Poiché gli encoder visivi e testuali operano in spazi dimensionali differenti e non sono addestrati congiuntamente, LiZAD introduce teste di proiezione lineare leggere e addestrabili. Queste teste mappano gli embedding delle patch visive, i token globali e gli embedding testuali in uno spazio latente condiviso.
   • Prompting: Il sistema utilizza template standard ("un'immagine di un {stato} {oggetto}") per generare embedding testuali normali e anormali.
   • Scoring: I punteggi di anomalia sono calcolati tramite la similarità del coseno tra le patch visive proiettate e gli embedding testuali normali/anormali. Una funzione softmax converte queste similarità in probabilità di anomalia.
   • Regolarizzazione: Viene aggiunto un regolarizzatore del contesto globale basato sul token globale proiettato per stabilizzare lo spazio degli embedding e calibrare le direzioni oltre la supervisione sparsa a livello di patch.
   • Output: La mappa di anomalia risultante viene sottoposta a upsampling tramite interpolazione bilineare per generare una mappa termica delle anomalie densa a livello di pixel.

Contributi Chiave

• Primo ZSAD leggero per l'Edge: LiZAD è presentato come il primo framework ZSAD veloce, leggero e accurato, costruito esplicitamente per l'implementazione nel mondo reale su dispositivi con risorse limitate.
• Efficienza Architetturale: Accoppiando DINOv3 con MobileCLIP2 e utilizzando solo teste di proiezione leggere per l'addestramento (mantenendo congelati gli encoder), il framework riduce drasticamente l'overhead computazionale.
• Validazione nel Mondo Reale: Il framework è stato implementato con successo su dispositivi edge NVIDIA Jetson NX e Jetson AGX e testato su una linea di produzione reale presso l'Industrial Computer Engineering Laboratory (ICE Lab) dell'Università di Verona.

Risultati Sperimentali
Gli autori hanno valutato LiZAD rispetto a sei modelli state-of-the-art di ZSAD (CLIP, WinCLIP, APRILGAN, AnomalyCLIP, AdaCLIP, Bayes-PFL) su quattro dataset industriali: VisA, BTAD, MPDD e MVTec-AD.

• Guadagni di Efficienza:
  • Memoria: Ridotta mediamente del 61,5% (scendendo a 1,01 GB).
  • Parametri: Ridotti del 74,6% (scendendo a 97,44 milioni di parametri).
  • Latenza: Ha ottenuto un'accelerazione di 3,02× (riduzione del 69,9% nella latenza di inferenza) rispetto alla media dei modelli concorrenti. Su Jetson NX, ha raggiunto 754,6 ms per campione; su Jetson AGX, 554,4 ms.
• Compromesso sulle Prestazioni: Nonostante le significative riduzioni di complessità, LiZAD mantiene prestazioni di rilevamento competitive.
  • Ha raggiunto un AUROC medio per pixel dell'88,05%.
  • Ciò rappresenta un calo di soli 6,4% rispetto al miglior modello state-of-the-art testato attraverso i dataset.
  • Nello specifico, è rimasto entro l'1,3% dal miglior risultato su VisA e il 5,2% su MVTec-AD.
• Risultati Qualitativi: I confronti visivi dimostrano che LiZAD produce risposte di anomalia nitide e concentrate attraverso diverse texture e pattern di difetto, confermando le sue robuste capacità di localizzazione.

Significatività
Il paper afferma che LiZAD riesce a colmare il divario tra l'elevata accuratezza del rilevamento delle anomalie zero-shot e i rigorosi requisiti di tempo reale e di risorse limitate tipici degli ambienti industriali. Dimostrando che è possibile ottenere riduzioni sostanziali di memoria e parametri con un impatto minimo sull'accuratezza di localizzazione, il framework abilita l'implementazione di sistemi avanzati di rilevamento delle anomalie su piattaforme edge dove i precedenti modelli pesanti erano impraticabili. Il test riuscito su una linea di produzione reale sottolinea il suo potenziale per un'immediata applicazione industriale.