TailedCore: Few-Shot Sampling for Unsupervised Long-Tail Noisy Anomaly Detection

Resumo Técnico: TailedCore

Enunciação do Problema
O artigo aborda um cenário prático, porém desafiador, na detecção de anomalias não supervisionada: o treinamento de um único modelo em um conjunto de dados multi-classe que sofre de duas complicações simultâneas. Primeiro, o conjunto de dados exibe uma distribuição de cauda longa, onde as classes "cabeça" (muitas amostras) são ricas em dados, mas as classes "cauda" (poucas amostras) possuem muito poucas amostras (por exemplo, 1, 4 ou 20). Segundo, os dados de treinamento são ruidosos, o que significa que o conjunto de treinamento "normal" está contaminado com amostras defeituosas (anomalias).

Os autores identificam um crítico "trade-off entre cauda e ruído" nos métodos existentes. Modelos robustos ao ruído (por exemplo, SoftPatch) tendem a filtrar amostras raras, fazendo com que percam informações das classes de cauda. Inversamente, modelos eficazes na captura de classes de cauda (por exemplo, PatchCore via amostragem gananciosa) frequentemente retêm ruído, levando a um desempenho pobre nas classes de cabeça com dados de treinamento contaminados. A literatura existente falha em lidar simultaneamente com o desequilíbrio de classes e a contaminação por ruído ao nível de pixel sem rótulos de classe explícitos.

Metodologia
A solução proposta, TailedCore, é um modelo de detecção de anomalias baseado em memória projetado para desacoplar o tratamento das classes de cauda do ruído. A inovação central reside em um processo de construção de memória em duas etapas:

1. Discriminação de Ruído: O modelo primeiro constrói um banco de memória base ($M_{clean}$) filtrando patches defeituosos do conjunto de treinamento usando pontuação de outliers (baseada no Fator de Outlier Local), de forma semelhante ao SoftPatch. Isso garante que a memória base esteja livre de ruído, mas pode carecer de representação das classes de cauda.
2. TailSampler (Amostragem Few-Shot): Para recuperar as informações faltantes das classes de cauda, os autores introduzem o TailSampler, um novo amostrador few-shot.
   • Previsão de Tamanho de Classe: O TailSampler estima o "tamanho da classe" (cardinalidade) de cada amostra de treinamento sem rótulos de verdade fundamental. Ele opera sobre a hipótese de que, no espaço de incorporação, a distribuição das similaridades inter-classe e intra-classe exibe simetria reflexiva.
   • Vizinhanças Adaptativas: Para cada incorporação de amostra, um ângulo adaptativo é calculado para definir uma vizinhança. O tamanho da classe é estimado tomando-se a moda dos tamanhos das vizinhanças dos vizinhos (uma abordagem de "vizinhança de vizinhanças"), em vez de uma contagem simples. Isso fornece uma estimativa robusta de se uma amostra pertence a uma classe pequena (cauda) ou grande (cabeça).
   • Detecção de Cotovelo: O sistema determina o limite máximo de tamanho ($K_{max}$) para uma "classe de cauda" aplicando o método do cotovelo à distribuição dos tamanhos de classe estimados.
   • Amostragem Exclusiva: Amostras com tamanhos de classe estimados $\le K_{max}$ são identificadas como instâncias de classe de cauda. Suas características de patch são amostradas exclusivamente para formar um banco de memória de cauda ($M_{tail}$).
3. Aumento de Memória: O banco de memória final para o TailedCore é a união da memória base livre de ruído e a memória específica de cauda: $M_{TailedCore} = M_{clean} \cup M_{tail}$. Isso permite que o modelo seja robusto ao ruído, ao mesmo tempo que retém as características críticas das classes few-shot.

Principais Contribuições

• Formulação do Problema: O artigo define e estabelece benchmarks para o cenário específico de detecção de anomalias não supervisionada com cauda longa e ruído, um cenário comum em aplicações industriais onde as linhas de produção possuem taxas variáveis e dados de treinamento defeituosos.
• TailSampler: Um novo preditor de tamanho de classe e amostrador few-shot que depende da simetria reflexiva das similaridades de incorporação para agregar exclusivamente instâncias de classes few-shot, sem exigir rótulos de classe.
• Modelo TailedCore: Um detector baseado em memória que navega com sucesso no trade-off entre cauda e ruído, tratando independentemente o aumento de classes de cauda e a discriminação de ruído.
• Benchmarking Abrangente: Os autores fornecem experimentos extensivos em conjuntos de dados MVTecAD e VisA modificados com distribuições de cauda de Pareto e em forma de degrau, demonstrando que o TailedCore supera os métodos mais avançados (incluindo PatchCore, SoftPatch, HVQ e abordagens baseadas em modelos fundamentais como WinCLIP e AnomalyCLIP) tanto na classificação ao nível de imagem quanto na segmentação ao nível de pixel.

Resultados
Os resultados experimentais indicam que o TailedCore supera consistentemente as linhas de base existentes em várias distribuições de cauda (Pareto, degrau-K=4, degrau-K=1) e taxas de ruído.

• Desempenho: O TailedCore alcança pontuações AUROC superiores ao nível de imagem e ao nível de pixel, particularmente na categoria "all", que equilibra o desempenho de cabeça e cauda. Por exemplo, no MVTecAD com degrau-K=1, o TailedCore alcança uma AUROC ao nível de imagem de 94,44%, superando significativamente o PatchCore (80,01%) e o SoftPatch (75,40%).
• Estudos de Ablação: O estudo confirma que o preditor de tamanho de classe (TailSampler) é crítico; a remoção do aumento few-shot causa uma queda drástica no desempenho das classes de cauda. O método também mostra que o mecanismo de "votação majoritária" na estimativa do tamanho da classe é mais robusto do que a simples média ou a seleção top-1.
• Robustez: O modelo mantém alto desempenho mesmo à medida que a taxa de ruído no conjunto de treinamento aumenta, enquanto outros métodos degradam-se significativamente.

Significado e Alegações
O artigo alega que o TailedCore representa um avanço significativo no tratamento de cenários reais de detecção de anomalias onde os dados são simultaneamente desequilibrados e contaminados. Ao resolver o trade-off inerente entre robustez ao ruído e sensibilidade às classes de cauda, o trabalho fornece uma base robusta para aplicações industriais onde as empresas devem gerenciar diversas linhas de produtos com taxas de produção variáveis e coleta de dados imperfeita. Os autores enfatizam que sua abordagem não requer rótulos supervisionados ou engenharia de prompts complexa, tornando-a uma solução prática para configurações não supervisionadas. O código e os protocolos de geração de dados estão disponíveis para facilitar pesquisas adicionais neste domínio.