Resumo Técnico: Agrupamento de Subespaço em Dados Incompletos com Aprendizado Contrastivo Autossupervisionado

Definição do Problema

O agrupamento de subespaço (subspace clustering) visa particionar pontos de dados de alta dimensão que residem na união de subespaços de baixa dimensão. Embora seja eficaz em domínios como análise de expressão gênica, imagens hiperespectrais e sistemas de recomendação, os métodos existentes assumem predominantemente dados totalmente observados. Em cenários do mundo real, os dados são frequentemente incompletos devido a oclusões, falhas de sensores ou restrições de recursos. Abordagens tradicionais, que dependem de afinidades de pares ou decomposições de matrizes, têm dificuldade com entradas ausentes, frequentemente produzindo resultados subótimos quando a imputação ingênua é utilizada ou falhando em escalar com grandes conjuntos de dados. Além disso, muitos métodos de agrupamento de subespaço baseados em aprendizado profundo também assumem entradas completas, sofrendo de sobreajuste (overfitting) em entradas observadas ou exigindo estratégias de imputação enviesadas.

Metodologia: Agrupamento de Subespaço Contrastivo (CSC)

Os autores propõem o Agrupamento de Subespaço Contrastivo (CSC), um framework autossupervisionado projetado para aprender embeddings robustos a partir de dados incompletos sem a necessidade de rótulos ou reconstrução explícita de dados.

Estrutura Principal

O pipeline opera em duas etapas principais: treinamento e inferência.

1. Aumento de Dados via Mascaramento Aleatório:
   Para cada amostra parcialmente observada $y_i = M_i \odot x_i$ (onde $M_i$ é uma máscara binária), o método gera duas visões aumentadas disjuntas, $y_i^a$ e $y_i^b$, aplicando duas máscaras aleatórias disjuntas ($M_i^a$ e $M_i^b$) à amostra incompleta original. Essas visões servem como pares positivos para o aprendizado contrastivo.

2. Aprendizado Contrastivo (estilo SimCLR):
   Uma rede neural profunda compartilhada (backbone) $f_\theta$ processa ambas as visões aumentadas para produzir representações latentes $h_i^a$ e $h_i^b$. Estas são projetadas através de uma cabeça $g_\phi$ em um espaço latente. O modelo é treinado usando uma perda de Entropia Cruzada com Temperatura Normalizada (NT-Xent). Este objetivo aproxima os embeddings das duas visões da mesma amostra e afasta os embeddings de amostras diferentes. Isso incentiva a rede a aprender características invariantes que capturam a estrutura do subespaço subjacente, apesar das entradas ausentes.

3. Inferência e Agrupamento:
   Após o treinamento, a cabeça de projeção é descartada. O backbone treinado $f_\theta$ projeta as amostras incompletas originais em um espaço latente. Esses embeddings são então alimentados em um algoritmo de Agrupamento de Subespaço Esparso (SSC) padrão para recuperar as atribuições finais de agrupamento. Notavelmente, o método não reconstrói os dados ausentes; ele agrupa diretamente as representações aprendidas.

Principas Contribuições

• Framework Inovador para Dados Incompletos: O CSC é o primeiro método a aplicar um framework de aprendizado contrastivo autossupervisionado especificamente para agrupamento de subespaço com dados ausentes. Ele trata o mascaramento aleatório como uma estratégia de aumento de dados em vez de um problema a ser resolvido via imputação.
• Robustez à Ausência de Dados: Ao aprender a invariância entre visões mascaradas, o método captura estruturas de subespaço mesmo quando valores de características individuais estão ausentes, evitando os artefatos introduzidos por métodos de imputação de duas etapas.
• Escalabilidade: Ao contrário dos métodos baseados em otimização que escalam quadraticamente com o número de amostras (devido à construção da matriz de afinidade), o CSC utiliza uma passagem direta (forward pass) para inferência, oferecendo um agrupamento quase instantâneo e demandas computacionais significativamente reduzidas.
• Modularidade: A abordagem desacopla o aprendizado de representação do algoritmo de agrupamento, permitindo que os embeddings aprendidos sejam usados com qualquer técnica de agrupamento padrão (ex: k-means, agrupamento espectral ou SSC).

Resultados Experimentais

Os autores avaliaram o CSC em seis conjuntos de dados de referência, incluindo conjuntos de dados padrão de visão computacional (MNIST, COIL20) e conjuntos de dados de imagens hiperespectrais (HSI) (IndianPines, Pavia University, Salinas).

• Desempenho vs. Baselines: O CSC superou consistentemente tanto os métodos clássicos (ex: EWZF-SSC, GSSC, MSC) quanto os baselines de aprendizado profundo (ex: DSC, MAE, DMFMC).
  • No MNIST, o CSC superou todos os benchmarks em mais de 15% em acurácia média.
  • Nos conjuntos de dados HSI (Pavia e IndianPines), foram observadas melhorias de mais de 5% e 6%, respectivamente.
  • Em conjuntos de dados com altas taxas de ausência (baixas taxas de amostragem $\rho$), o CSC manteve um desempenho estável, enquanto os métodos clássicos e os Autoencoders Mascarados (MAE) sofreram degradação significativa, particularmente sob condições de alto ruído.
• Estudos de Ablação:
  • Profundidade do Modelo: O aumento da profundidade da rede melhorou a acurácia até certo ponto (estabilizando-se em torno da profundidade 5), indicando o benefício da expressividade do modelo.
  • Conexões Residuais: A escolha da estratégia de conexão residual (Full, Block ou None) teve um impacto menor no desempenho, com o "No Residual" performando ligeiramente melhor em grandes conjuntos de dados.
  • Robustez ao Ruído: O CSC demonstrou robustez superior em comparação ao MAE tanto nos regimes de baixo quanto de alto ruído, mantendo erros de agrupamento baixos mesmo quando as taxas de amostragem eram moderadas a baixas ($\rho \approx 0.5$).

Significância e Alegações

O artigo afirma que o CSC oferece uma solução escalável, robusta e livre de rótulos para o agrupamento de subespaço na presença de dados ausentes. Sua significância reside em:

1. Superação do Gargalo de Imputação: Ao evitar a reconstrução explícita, o método evita a distorção da geometria do subespaço que frequentemente é causada por etapas de imputação em cenários de alta taxa de ausência.
2. Eficiência: A capacidade de realizar a inferência via uma simples passagem direta torna o método significativamente mais eficiente do que os métodos tradicionais de agrupamento de subespaço baseados em otimização.
3. Generalização: O framework é aplicável a diversas modalidades de dados, incluindo imagens padrão e dados hiperespectrais de alta dimensão, sem exigir mudanças arquiteturais específicas do domínio além da seleção do backbone.

Os autores concluem que, embora o agrupamento de subespaço com dados ausentes continue sendo um problema desafiador, particularmente em regimes de alta dimensão, a abordagem contrastiva proposta fornece uma base sólida para trabalhos futuros em ambientes de streaming e multi-visão.