Deep Spatially-Regularized and Superpixel-Based Diffusion Learning for Unsupervised Hyperspectral Image Clustering

Título: Aprendizado de Difusão Baseado em Superpixels e Regularizado Espacialmente Profundo para Agrupamento Não Supervisionado de Imagens Hiperespectrais

1. O Problema

A classificação e o agrupamento (clustering) de Imagens Hiperespectrais (HSI) são tarefas fundamentais no sensoriamento remoto. Embora métodos de aprendizado profundo supervisionados tenham alcançado alta precisão, eles dependem de um grande volume de dados rotulados, que muitas vezes não estão disponíveis na prática.
Métodos não supervisionados existentes, como o S2DL (Spatially-Regularized Superpixel-based Diffusion Learning), utilizam a geometria intrínseca dos dados para agrupamento, mas operam diretamente no espaço espectral original de alta dimensão. Isso apresenta desafios:

• Ruído e Redundância: Os dados HSI brutos contêm muito ruído e redundância espectral, o que distorce as distâncias usadas na construção de grafos de difusão.
• Ineficiência Computacional: O processamento direto de centenas de bandas espectrais torna os cálculos de vizinhança e difusão computacionalmente caros.
• Limitações de Arquitetura: Modelos 3D-CNN capturam bem o contexto espacial, mas falham em capturar dependências espectrais de longo alcance, enquanto modelos baseados em Transformers são promissores, mas muitas vezes exigem supervisão.

2. Metodologia Proposta (DS2DL)

O artigo propõe o algoritmo DS2DL (Deep Spatially-Regularized Superpixel-based Diffusion Learning), uma extensão do S2DL que integra aprendizado de representação profunda não supervisionada. A metodologia divide-se em duas etapas principais:

Etapa 1: Aprendizado de Representação Latente (UMAE)

O algoritmo utiliza um Autoencoder Mascarado Não Supervisionado (UMAE) com base em Vision Transformer (ViT) para aprender uma representação latente comprimida e denoised (sem ruído) da imagem HSI original.

• Arquitetura: Utiliza um encoder ViT e um decoder.
• Processamento de Dados:
  • A imagem é dividida em patches espaciais ($p \times p$).
  • Grupos espectrais espaciais são formados, combinando bandas adjacentes e vizinhança espacial.
  • Codificação Posicional Aprendível (LPE): Adiciona contexto estrutural às bandas espectrais.
• Mecanismo de Mascaramento (Masking): Durante o pré-treinamento, uma fração ($R_m\%$) dos tokens posicionais é mascarada (removida). O modelo é forçado a reconstruir essas partes ausentes apenas com base nas informações espaciais e espectrais restantes.
  • Isso força o modelo a aprender representações latentes ricas e significativas, capturando tanto o contexto local quanto as dependências espectrais de longo alcance.
  • O treinamento é eficiente, utilizando apenas um subconjunto pequeno de pixels amostrados via Farthest Point Sampling (FPS).
• Saída: Uma representação latente comprimida ($L \in \mathbb{R}^{H \times W \times D}$), onde $D$ é a dimensão latente (fixada em 48), que preserva a geometria dos dados sem o ruído espectral original.

Etapa 2: Agrupamento por Difusão Regularizada Espacialmente

O algoritmo S2DL é executado, mas utilizando a representação latente $L$ em vez dos dados brutos $X$.

1. Superpixels: O algoritmo de Superpixels por Taxa de Entropia (ERS) segmenta a imagem em regiões homogêneas.
2. Construção do Grafo: Um grafo de vizinhos mais próximos (kNN) regularizado espacialmente é construído no espaço latente $L$.
   • As distâncias euclidianas e de difusão são calculadas entre os pixels comprimidos, resultando em uma métrica de similaridade mais fiel à geometria intrínseca do manifold dos dados.
3. Processo de Difusão:
   • Calcula-se a distância de difusão ($D_t$) e a pontuação de modo ($\Delta_t$) para identificar os "modos" de cluster (pixels de alta densidade e máxima distância de difusão).
   • Os pixels são rotulados hierarquicamente: primeiro os modos, depois seus vizinhos (Local Backbone), e finalmente os pixels restantes via votação majoritária dentro de cada superpixel.

3. Principais Contribuições

• Integração de Deep Learning Não Supervisionado: Adaptação da arquitetura MAEST (Masked Autoencoding Spatial-spectral Transformer) para um cenário não supervisionado (UMAE), eliminando a necessidade de rótulos para a extração de características.
• Representação Latente Denoised: A abordagem de mascaramento permite que o modelo aprenda a ignorar ruído e redundância espectral, criando um espaço de características onde as distâncias de difusão refletem melhor a estrutura real dos dados.
• Eficiência Computacional: Ao realizar os cálculos de vizinhança e difusão no espaço latente comprimido (dimensão reduzida) em vez do espaço espectral original (centenas de bandas), o tempo de execução é drasticamente reduzido.
• Melhoria na Precisão: O método supera o estado da arte não supervisionado (S2DL) em métricas de precisão geral, precisão média e qualidade de agrupamento.

4. Resultados Experimentais

Os autores avaliaram o DS2DL nos conjuntos de dados Botswana e Kennedy Space Center (KSC), comparando-o com o S2DL original.

• Precisão (KSC):
  • OA (Precisão Global): Aumentou de 56,69% (S2DL) para 60,08% (DS2DL).
  • AA (Precisão Média): Houve um salto significativo de 52,22% para 62,47% (melhoria de ~10%), indicando melhor desempenho em classes sub-representadas ou difíceis.
  • Kappa: Melhorou de 0,541 para 0,562.
• Qualidade de Agrupamento:
  • As métricas de pureza (1x, 2x, 3x) e NMI (Informação Mútua Normalizada) aumentaram consistentemente, sugerindo clusters mais coerentes e alinhados com a verdade fundamental (Ground Truth).
• Eficiência (Tempo de Execução):
  • O tempo de execução foi reduzido drasticamente: de 2805 segundos para **934 segundos** no KSC e de 2782 para **947 segundos** no Botswana. Isso representa uma redução de aproximadamente 66% no tempo de processamento.

5. Significado e Conclusão

O trabalho demonstra que a combinação de aprendizado de representação profunda não supervisionada (via autoencoders mascarados) com geometria de difusão é uma estratégia poderosa para o agrupamento de imagens hiperespectrais.

• Impacto Prático: O DS2DL oferece uma solução viável para cenários onde dados rotulados são escassos, fornecendo não apenas maior precisão, mas também uma eficiência computacional que torna o processamento de grandes volumes de dados HSI mais acessível.
• Futuro: Os autores sugerem que etapas de fine-tuning com aprendizado contrastivo e a exploração de cenários semi-supervisionados são direções promissoras para futuras pesquisas.

Em resumo, o DS2DL resolve o dilema entre a necessidade de alta precisão e a falta de dados rotulados, utilizando a geometria dos dados latentes para criar clusters mais robustos e rápidos.