AnomalyMatch: Discovering Rare Objects of Interest with Semi-supervised and Active Learning

Resumo Técnico: AnomalyMatch

Definição do Problema
A identificação de anomalias — outliers raros e incomuns — em conjuntos de dados de imagens de grande escala é um desafio crítico na astronomia e na visão computacional. Enquanto observatórios de próxima geração, como o Euclid e o Observatório Vera C. Rubin, liberarão volumes sem precedentes de dados (bilhões de galáxias), a escassez de exemplos rotulados para objetos raros (frequentemente <0,1% de um conjunto de dados) torna os métodos tradicionais de aprendizado de máquina supervisionado inviáveis. As abordagens existentes enfrentam obstáculos significativos: métodos não supervisionados muitas vezes lutam com a complexidade de dados de imagem de alta dimensão, enquanto métodos supervisionados exigem grandes conjuntos de dados rotulados que não existem para muitas morfologias raras. Além disso, iniciativas de ciência cidadã, embora valiosas, enfrentam desafios ao definir critérios de anomalia consistentes e não conseguem escalar para inspecionar manualmente os vastos volumes de dados das pesquisas modernas. O problema central é desenvolver um framework escalável e eficiente para detectar anomalias raras com o mínimo de dados rotulados iniciais, aproveitando simultaneamente a abundância de dados não rotulados e incorporando o feedback humano especializado para refinar a detecção.

Metodologia: AnomalyMatch
Os autores apresentam o AnomalyMatch, um framework de detecção de anomalias semi-supervisionado projetado para tratar a detecção de anomalias como um problema de classificação binária fortemente desbalanceado ("normal" vs. "anomalia"). A metodologia integra três componentes principais:

1. Aprendizado Semi-Supervisionado (FixMatch): A estratégia central de treinamento adapta o algoritmo FixMatch (Sohn et al. 2020). Ele utiliza um pequeno conjunto de dados rotulados ($D_L$) e um grande pool de dados não rotulados ($D_U$). O modelo, baseado em um backbone EfficientNet (especificamente o EfficientNetLite0), é treinado usando uma função de perda combinada:

   • Perda Supervisionada: Cross-entropy padrão no conjunto rotulado.
   • Perda Não Supervisionada: Regularização de consistência aplicada aos dados não rotulados. Imagens com aumentos fracos são usadas para gerar pseudo-rótulos de alta confiança (se a confiança do modelo exceder um limiar $\tau=0,95$). Esses pseudo-rótulos são então usados para penalizar as previsões do modelo em versões das mesmas imagens com aumentos fortes.
   • Tratamento de Desbalanceamento: O framework emprega sobreamostragem via um amostrador aleatório ponderado para lidar com o severo desbalanceamento de classes, garantindo que amostras de anomalias raras sejam adequadamente representadas durante o treinamento.

2. Loop de Aprendizado Ativo: Para mitigar a escassez de anomalias rotuladas, o AnomalyMatch incorpora um processo iterativo de human-in-the-loop. Após o treinamento inicial, o modelo pontua o pool não rotulado. Uma interface de usuário (GUI) permite que especialistas de domínio possam:

   • Inspecionar visualmente candidatos de alta pontuação.
   • Verificar anomalias reais e corrigir falsos positivos (por exemplo, distinguindo anomalias reais de artefatos de imagem, como CCDs ruins ou regiões desenfocadas).
   • Expandir iterativamente o conjunto de treinamento rotulado com essas amostras verificadas.
   • Retreinar o modelo no conjunto expandido.

3. Implementação Escalável: O sistema é construído para alto desempenho, capaz de processar centenas de milhões de imagens em uma única GPU. Ele suporta diversos formatos de entrada (PNG, JPEG, TIFF, FITS) e integra-se com padrões de armazenamento de dados astronômicos (HDF5, Zarr) e a plataforma ESA Datalabs. A GUI, construída com ipywidgets, facilita a exploração interativa dentro de notebooks Jupyter.

Principais Contribuições

• Pipeline Inovador: Um pipeline de detecção de anomalias semi-supervisionado que combina FixMatch (otimizado para desbalanceamento severo de classes), EfficientNet e aprendizado ativo, reduzindo significativamente o requisito de dados rotulados.
• GUI Interativa: Uma interface amigável que permite aos especialistas guiar iterativamente a seleção de anomalias, corrigir erros do modelo e refinar o desempenho sem interação direta com o backend.
• Integração: Integração perfeita de ferramentas astronômicas estabelecidas (normalização Astropy, suporte a FITS) e implantação dentro do ecossistema ESA Datalabs.
• Benchmarking Abrangente: Avaliação extensiva em diversos conjuntos de dados (miniImageNet, GalaxyMNIST e Galaxy Zoo 2), demonstrando desempenho com quantidades extremamente limitadas de rótulos iniciais (5–10 anomalias).
• Escalabilidade: Uma implementação capaz de analisar 100 milhões de imagens em poucos dias, adequada para os próximos levantamentos de grande escala.

Resultados Experimentais
O framework foi avaliado em três conjuntos de dados sob severo desbalanceamento de classe:

• miniImageNet: Tratando classes específicas de objetos (ex: Hourglass, Guitar) como anomalias (1% dos dados). Começando com apenas 5 anomalias rotuladas, o AnomalyMatch alcançou um AUROC médio de 0,96 e AUPRC de 0,82. Após três ciclos de aprendizado ativo, atingiu 76% de precisão no top 1% das imagens classificadas.
• GalaxyMNIST: Um conjunto de dados de morfologias de galáxias onde uma classe foi tratada como a anomalia (25% dos dados). Começando com 10 anomalias rotuladas, o sistema alcançou um AUROC médio de 0,89 e AUPRC de 0,77. A precisão no top 1% chegou a 94%.
• Galaxy Zoo - The Galaxy Challenge: Um subconjunto de ~65.000 galáxias com classificações "ímpares" (odd). Comparado ao software estabelecido Astronomaly, o AnomalyMatch obteve um desempenho comparável com um AUROC médio de 0,83. Os autores observam que o desempenho é sensível à definição de "anomalia" (cortes de fração de votantes) neste conjunto de dados de rótulos suaves (soft-label).

Estudos de Ablação

• Rótulos Iniciais: O aumento do número inicial de amostras rotuladas (de 100 para 1000) gerou retornos decrescentes, com as métricas de desempenho permanecendo robustas mesmo com o mínimo de rótulos iniciais.
• Iterações de Treinamento: O número ideal de iterações de treinamento por ciclo de aprendizado ativo foi encontrado em torno de 100. Ciclos de treinamento mais longos (250–500 iterações) levaram ao overfitting nos dados rotulados iniciais, reduzindo a eficiência geral de detecção.

Significância e Alegações
O artigo afirma que o AnomalyMatch oferece utilidade excepcional e escalabilidade para a descoberta de anomalias em domínios caracterizados pela severa escassez de rótulos, como a astronomia. Ao combinar aprendizado semi-supervisionado com aprendizado ativo, o framework permite que especialistas de domínio definam e detectem anomalias cientificamente interessantes, em vez de apenas outliers estatísticos gerais. Os autores enfatizam que o método aproveita efetivamente os dados não rotulados para reduzir a carga de revisão manual, tornando-o uma ferramenta prática para a era dos levantamentos celestes ricos em dados. Os resultados sublinham que abordagens especializadas, combinando o conhecimento humano com aprendizado de máquina eficiente, são fundamentais para avançar a detecção de anomalias em campos onde os dados rotulados são inerentemente raros. O artigo conclui que, embora o método seja altamente eficaz, trabalhos futuros devem explorar IA explicável, integração de dados multimodais e o impacto de erros de rotulagem para aumentar ainda mais a robustez.