InvAD: Inversion-based Reconstruction-Free Anomaly Detection with Diffusion Models

1. Problema e Motivação

A detecção de anomalias (AD) em imagens, crucial para aplicações industriais e médicas, enfrenta um dilema fundamental entre fidelidade e eficiência quando utiliza modelos de difusão.

• Limitações dos Métodos Atuais: As abordagens baseadas em difusão existentes seguem o paradigma de "detecção via desruído no espaço RGB" (detection via denoising in RGB space). Neste fluxo, uma imagem é perturbada com ruído e, em seguida, o modelo tenta reconstruí-la (desruído-la) usando apenas dados normais. A anomalia é detectada pela diferença (MSE) entre a entrada original e a reconstrução.
• Desafios Principais:
  1. Sensibilidade à Força do Ruído: O desempenho depende criticamente da escolha da intensidade do ruído. Ruído forte corrompe regiões normais (falsos positivos), enquanto ruído fraco falha em reconstruir anomalias.
  2. Custo Computacional: A reconstrução de alta qualidade exige múltiplos passos de desruído (iterações), tornando a inferência lenta (geralmente < 2 FPS), o que é inadequado para aplicações em tempo real.
  3. Complexidade de Ajuste: Muitos métodos exigem ajuste fino de hiperparâmetros (como timesteps de perturbação) para cada cenário.

O artigo propõe que essas limitações são inerentes ao paradigma de reconstrução e que uma nova abordagem é necessária para superar o trade-off entre precisão e velocidade.

2. Metodologia: InvAD

O InvAD (Inversion-based Anomaly Detection) introduz um novo paradigma: "detecção via adição de ruído no espaço latente" (detection via noising in latent space). Em vez de reconstruir a imagem, o método infere diretamente o estado latente final correspondente à imagem de entrada.

Princípios Fundamentais:

1. Inversão sem Reconstrução:

   • O modelo utiliza a Inversão DDIM (Denoising Diffusion Implicit Models) para traçar a trajetória da Equação Diferencial Ordinária de Fluxo de Probabilidade (PF-ODE) de forma determinística.
   • Em vez de ir de $x_0 \to x_t \to \hat{x}_0$ (reconstrução), o método vai de $x_0 \to x_T$ (inversão direta para o estado de ruído final).
   • Imagens normais, sendo conhecidas pelo modelo treinado, são mapeadas para regiões de alta densidade na distribuição de ruído prior. Imagens anômalas são mapeadas para regiões de baixa densidade.

2. Eficiência via Passos de Inversão Reduzidos:

   • Para acelerar a inferência, o método não realiza todos os $T$ passos de difusão. Ele utiliza um subconjunto de passos ($S$, onde $S \ll T$, por exemplo, $S=3$) para adicionar ruído à imagem limpa.
   • A precisão da reconstrução pixel a pixel não é necessária; o objetivo é apenas medir o desvio da distribuição prior. Mesmo com poucos passos, as anomalias são mapeadas para regiões de baixa densidade com alta confiabilidade.

3. Modelagem no Espaço de Características (Feature Space):

   • O processo ocorre no espaço de características extraídas por uma rede pré-treinada (ex: EfficientNet-B4), e não no espaço de pixels. Isso captura semântica de alto nível e ignora variações de baixo nível (iluminação, ruído), melhorando a robustez.

4. Cálculo do Escore de Anomalia:

   • O escore é baseado na típicalidade do vetor latente final $z_T$ sob a distribuição Gaussiana padrão.
   • Para evitar o problema de "reverso de pontuação" (reverse-scoring) e capturar anomalias esparsas, o método calcula a norma Euclidiana de cada pixel no espaço de características e utiliza a diferença entre os valores máximo e mínimo dessa norma, combinada com a verossimilhança negativa (NLL).

3. Contribuições Chave

1. Novo Paradigma: Identificação das limitações fundamentais do paradigma de reconstrução e proposta de uma abordagem baseada em inversão que elimina a necessidade de reconstrução explícita.
2. InvAD (Framework): Desenvolvimento de um framework de detecção de anomalias que infere variáveis latentes finais diretamente, permitindo uma inferência extremamente rápida (sem necessidade de muitos passos de desruído) e livre de ajuste fino de timesteps.
3. Desempenho SOTA e Eficiência: Demonstração de que é possível atingir o estado da arte (SOTA) em precisão de detecção enquanto se reduz drasticamente o tempo de inferência (aproximadamente 2x mais rápido que o método mais rápido anterior, OmiAD, e muito mais rápido que métodos de reconstrução).

4. Resultados Experimentais

Os experimentos foram conduzidos em quatro benchmarks amplamente utilizados: MVTecAD, VisA, MPDD (indústria) e BMAD (médico).

• Precisão (Image-level e Pixel-level):

  • O InvAD alcançou o melhor desempenho (SOTA) em métricas de AU-ROC e AP na maioria dos conjuntos de dados, superando métodos baseados em Transformers, reconstrução e outros modelos de difusão (como DiAD, OmiAD, MDM).
  • No MVTecAD, alcançou 99.0% de AU-ROC (Image-level) e 97.5% (Pixel-level).

• Eficiência (FPS):

  • O método atingiu 88.1 FPS no MVTecAD, superando significativamente os concorrentes.
  • Comparado ao OmiAD (que usa 1 passo de função), o InvAD foi mais rápido (88.1 vs 39.4 FPS) devido à sua arquitetura leve no espaço de características e à ausência de decodificação VAE pesada.
  • Comparado a métodos de reconstrução (como DiAD), houve um ganho de velocidade de quase 2x a 100x, dependendo do método de comparação.

• Generalização e Plug-and-Play:

  • O método funciona bem em dados médicos (BMAD), superando métodos tradicionais como PatchCore e RD4AD.
  • Pode ser incorporado como um módulo "plug-and-play" em outros modelos de difusão existentes, melhorando tanto a precisão quanto a velocidade desses modelos.

• Análise de Componentes:

  • A ablação mostrou que a combinação de modelagem no espaço de características e inversão multi-etapa é crucial.
  • O esquema de pontuação híbrido (NLL + Diferença de Norma) é essencial para a robustez, permitindo o uso de poucos passos de difusão sem perda de acurácia.

5. Significado e Conclusão

O InvAD representa uma mudança de paradigma significativa na detecção de anomalias baseada em difusão. Ao abandonar a reconstrução explícita e focar na inversão no espaço latente, o trabalho resolve o conflito histórico entre a necessidade de alta fidelidade de reconstrução e a eficiência computacional.

• Impacto Prático: Torna viável o uso de modelos de difusão em cenários de tempo real e em hardware com recursos limitados, sem sacrificar a precisão.
• Simplicidade: Elimina a necessidade de ajuste fino de hiperparâmetros de ruído, tornando o método mais robusto e fácil de implantar.
• Futuro: O trabalho abre caminho para investigações sobre compressão de processos de inversão (distilação) para atingir 1 NFE (avaliação de função) e mecanismos de inversão específicos para tarefas.

Em resumo, o InvAD demonstra que a detecção de anomalias pode ser realizada de forma mais eficiente e precisa ao inverter a lógica tradicional: em vez de "limpar" a imagem para encontrar defeitos, "suja" a imagem de forma controlada para medir o quão fora da distribuição normal ela se encontra.