ADOPD: Reference-Privileged On-Policy Distillation for MLLM-Based Industrial Anomaly Detection

Sintesi Tecnica: ADOPD per l'Anomaly Detection Industriale

Problematica
L'Anomaly Detection Industriale (IAD) richiede l'identificazione di deviazioni fini dai modelli visivi normali. Sebbene i Modelli Linguistici Multimodali Grandi (MLLM) offrano interfacce promettenti per il riconoscimento open-set e il ragionamento spiegabile, le loro rappresentazioni open-domain spesso faticano a catturare i pattern di anomalia specifici del prodotto. Gli approcci attuali sfruttano il confronto con un riferimento durante l'inferenza (ad esempio, l'apprendimento one-shot) per migliorare l'accuratezza fornendo un contesto visivo specifico del prodotto. Tuttavia, questa inferenza esplicita condizionata dal riferimento introduce un overhead computazionale dovuto alla necessità di recuperare ed elaborare immagini di riferimento per ogni query. La sfida centrale affrontata da questo lavoro è se i benefici del confronto con il riferimento possano essere internalizzati nei parametri del modello durante l'addestramento, permettendo a un modello "query-only" di operare efficacemente all'inferenza senza accesso a immagini di riferimento.

Metodologia: Framework ADOPD
Gli autori propongono ADOPD (Reference-Privileged On-Policy Distillation), un framework progettato per distillare i benefici del confronto con il riferimento nel modello studente "query-only". L'approccio opera sotto un regime di "informazione privilegiata" in cui un modello insegnante congelato ha accesso sia all'immagine query che all'evidenza di riferimento durante l'addestramento, mentre lo studente vede solo la query.

La metodologia consiste in due meccanismi primari:

1. Distillazione On-Policy con Riferimento Privilegiato (OPD):
   A differenza del normale Supervised Fine-Tuning (SFT) che utilizza target fissi dell'insegnante (off-policy), ADOPD valuta l'insegnante sui prefissi generati dallo studente stesso (on-policy). Ciò mitiga il bias di esposizione.

   • Lo studente campiona dei rollout da un prompt "query-only".
   • Un insegnante congelato valuta i token generati dallo studente sotto un riferimento corrispondente (semanticamente coerente con l'anomalia della query) e un riferimento non corrispondente (che rompe deliberatamente la relazione valida tra query e riferimento).
   • La direzione di apprendimento a livello di token è definita dal rapporto di log-probabilità tra l'insegnante con riferimento corrispondente e lo studente. Questo specifica cosa lo studente debba imparare (rafforzando i token preferiti dall'insegnante in condizioni di riferimento valido).

2. Ponderazione Contrastiva del Riferimento:
   Per determinare quanto intensamente apprendere, ADOPD introduce un meccanismo per calibrare l'entità dell'aggiornamento in base alla specificità del riferimento.

   • Il divario di verosimiglianza (likelihood gap) dell'insegnante tra le viste corrispondenti e non corrispondenti definisce un punteggio di supporto del riferimento contrastivo. Questo punteggio stima se la preferenza dell'insegnante sia genuinamente fondata sul confronto con il riferimento o derivi da prior linguistici o indizi della query.
   • Questo punteggio viene aggregato sulla sequenza e normalizzato rispetto alla media del gruppo e alla deviazione standard per produrre un peso del riferimento relativo al gruppo.
   • L'obiettivo finale di addestramento combina il vantaggio a livello di token (direzione) con il peso a livello di sequenza (magnitudo), creando un vantaggio calibrato per gli aggiornamenti della policy-gradient.

Contributi Chiave

• Framework ADOPD: Un nuovo framework di distillazione on-policy con riferimento privilegiato che internalizza i benefici del confronto con il riferimento nei parametri del modello, consentendo un'inferenza zero-shot ad alte prestazioni.
• Intervento Asimmetrico del Riferimento: L'introduzione di un meccanismo di controllo con riferimento corrispondente/non corrispondente. La vista corrispondente definisce la direzione OPD a livello di token, mentre la vista non corrispondente controlla la forza dell'aggiornamento a livello di sequenza, garantendo che il modello apprenda strategie di ispezione delle anomalie fini piuttosto che una supervisione visiva generica.
• Guadagni di Performance: Il metodo dimostra che separare "cosa imparare" da "quanto intensamente imparare" permette al modello di mantenere i benefici del confronto con il riferimento senza richiedere immagini di riferimento all'inferenza.

Risultati Sperimentali
Gli esperimenti sono stati condotti sul benchmark MMAD, che aggrega MVTec-AD, VisA, M^2Tec-LOCO e GoodsAD.

• Performance Zero-Shot: Utilizzando solo 6.000 record di addestramento costruiti, ADOPD ha raggiunto un'accuratezza media del 77,31% sul benchmark MMAD sotto inferenza zero-shot.
• Miglioramento del Backbone: Questo rappresenta un incremento di 6,14 punti percentuali rispetto al backbone Qwen3-VL-4B.
• Confronto con i Baseline:
  • ADOPD ha superato l'impostazione one-shot condizionata dal riferimento dello stesso backbone di 2,64 punti.
  • Ha superato il più forte modello specifico per IAD elencato (Reason-IAD, 8B) di 0,60 punti, nonostante utilizzi un backbone più piccolo da 4B.
  • Ha migliorato l'SFT-based distillation di 1,61 punti.
• Analisi della Granularità: Gli esperimenti hanno mostrato che l'uso di ritagli regionali (matched/mismatched) per la supervisione privilegiata produceva risultati migliori rispetto ai riferimenti a immagine intera, indicando che il modello apprende pattern di anomalia locali piuttosto che caratteristiche globali del prodotto.
• Analisi Qualitativa: Le mappe di attribuzione hanno indicato che ADOPD produce risposte più forti in prossimità dei difetti annotati (ad esempio, graffi sottili, macchie isolate) rispetto ai baseline, dimostrando una migliore sensibilità alle evidenze visive rilevanti per il difetto.

Significatività e Rivendicazioni
Il documento afferma che ADOPD riesce a internalizzare i benefici del confronto con il riferimento, permettendo agli MLLM di eseguire un'ispezione delle anomalie fine senza l'overhead computazionale del recupero di immagini di riferimento all'inferenza. Gli autori sottolineano che il metodo apprende una specifica "strategia di ispezione delle anomalie modellata dal confronto con il riferimento" piuttosto che aggiungere semplicemente una supervisione visiva generica. Il lavoro evidenzia che la supervisione contrastiva del riferimento è cruciale per mantenere questi benefici, come dimostrato dal calo di performance quando si utilizzano l'OPD non calibrata o l'SFT. Gli autori notano che l'attuale approccio si basa su coppie di immagini e annotazioni dei difetti, suggerendo che il lavoro futuro potrebbe esplorare riferimenti privilegiati più deboli o costruiti automaticamente.