🤖 machine learning

FMMVCC: Fuzzy Mamba-based Multi-View Contrastive Clustering for Univariate Time Series

Este artigo apresenta o FMMVCC, um framework de agrupamento profundo baseado em Mamba que combina a modelagem de sequências de espaço de estados com o aprendizado autossupervisionado de múltiplas visões para capturar eficientemente dependências temporais de longo alcance em séries temporais univariadas, alcançando o estado da arte em 15 conjuntos de dados de referência sem a necessidade de rótulos manuais.

Autores originais: Donato Cerciello, Leonardo Schiavo, Angel Panizo-LLedot, Javier Huertas Tato, David Camacho

Publicado 2026-07-09✓ Author reviewed ⓘ

📖 5 min de leitura🧠 Leitura aprofundada

CC0 1.0

Autores originais: Donato Cerciello, Leonardo Schiavo, Angel Panizo-LLedot, Javier Huertas Tato, David Camacho

Artigo original dedicado ao domínio público sob CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é um bibliotecário tentando organizar uma sala enorme e caótica repleta de milhares de diferentes gravações de áudio. Algumas são canções, outras são cantos de pássaros e algumas são apenas estática. O problema? Você não tem etiquetas. Você não sabe o que são as gravações e não pode pedir a um humano para ouvi-las todas e escrever descrições. Este é o mundo do Agrupamento de Séries Temporais Não Supervisionado: tentar agrupar dados com base em seus padrões sem que um professor lhe diga as respostas.

O artigo apresenta uma nova ferramenta chamada FMMVCC para resolver este problema. Veja como ela funciona, explicada através de analogias simples:

1. O Problema com as Ferramentas Antigas

Os métodos tradicionais para classificar essas "gravações" são como tentar comparar duas músicas ouvindo apenas os primeiros cinco segundos. Eles costumam perder a visão geral ou se confundir com padrões longos e complexos. Ferramentas mais novas e poderosas (como os Transformers) são como supercomputadores que conseguem ouvir a música inteira, mas são tão pesados e lentos que têm dificuldade quando a sala fica grande demais (muitos dados).

2. A Arma Secreta: "Mamba"

Os autores escolheram um novo tipo de motor chamado Mamba. Pense no Mamba como um bibliotecário altamente eficiente e seletivo.

O Jeito Antigo: Um bibliotecário tradicional lê cada palavra de cada livro para encontrar um padrão, o que leva uma eternidade.
O Jeio Mamba: O Mamba é inteligente. Ele sabe exatamente quais palavras importam e quais são apenas ruído. Ele consegue escanear uma biblioteca enorme em tempo linear (ou seja, se a biblioteca dobrar de tamanho, o trabalho apenas dobra, não explode). Isso permite que ele lide com sequências de dados muito longas sem ficar cansado ou lento.

3. O Método de Treinamento: "O Jogo do Vendar os Olhos"

Como o computador aprende a agrupar essas gravações sem rótulos? O artigo utiliza uma técnica chamada Aprendizado Contrastivo de Múltiplas Visões (Multi-View Contrastive Learning). Imagine um jogo de "Telefone Sem Fio" ou um exercício de treinamento de detetive:

A Configuração: Você pega uma gravação (uma série temporal).
O Mascaramento: Você cria várias "visões" dela. Em algumas visões, você cobre (mascara) partes aleatórias da gravação com estática. Em outras, você a acelera, a retarda ou adiciona um pouco de ruído de fundo.
O Objetivo: Você mostra essas diferentes versões levemente danificadas para a IA. O trabalho da IA é perceber: "Ei, embora esta versão tenha estática e aquela outra esteja acelerada, elas são na verdade a mesma música!"
O Resultado: Ao forçar a IA a ver a "alma" dos dados através de todas essas lentes diferentes e bagunçadas, ela aprende uma compreensão muito forte e robusta do que os dados realmente são, ignorando o ruído e as partes ausentes.

4. O Chapéu Seletor Difuso

Uma vez que a IA entende os dados, ela precisa organizá-los em pilhas (clusters).

Métodos Antigos: São como um juiz rigoroso que diz: "Esta gravação pertence apenas ao Grupo A". Mas e se uma gravação soar um pouco como o Grupo A e um pouco como o Grupo B?
FMMVCC (A Abordagem Difusa): Utiliza o "Agrupamento Difuso" (Fuzzy Clustering). Pense nisso como um chapéu seletor que diz: "Esta gravação é 70% do Grupo A e 30% do Grupo B". Isso é crucial porque os dados do mundo real são frequentemente bagunçados e ambíguos. Permite que a IA lide com a incerteza de forma elegante, em vez de forçar uma resposta rígida e errada.

5. Os Resultados: O Círculo dos Vencedores

Os autores testaram este novo sistema em 15 "salas" (datasets) diferentes contendo vários tipos de dados, desde batimentos cardíacos até preços de ações.

O Placar: De 60 formas diferentes de medir o sucesso, o FMMVCC ficou em primeiro lugar 29 vezes e teve a melhor classificação média em todos os testes.
Por que venceu: Foi melhor em encontrar a verdadeira estrutura dos grupos (não apenas adivinhando com base em semelhanças superficiais) e foi muito mais estável do que outros métodos.
Eficiência: Eles também provaram que seu bibliotecário "Mamba" é muito mais rápido e usa menos memória do que os supercomputadores "Transformer", especialmente quando os dados ficam muito longos.

Resumo

Em suma, o FMMVCC é um sistema inteligente e eficiente que aprende a classificar fluxos de dados complexos e bagunçados ao:

Usar um motor rápido e seletivo (Mamba) para ler padrões longos.
Treinar a si mesmo olhando para os mesmos dados através de muitas lentes "quebradas" (Mascaramento de Múltiplas Visões) para aprender o que realmente importa.
Usar um método de classificação flexível (Agrupamento Difuso) que admite quando os dados são ambíguos, em vez de forçar uma escolha rígida.

O artigo afirma que isso o torna o atual campeão na organização de dados de séries temporais não rotulados, superando tanto os métodos antigos quanto os modelos de aprendizado profundo mais novos e pesados.

Resumo Técnico: FMMVCC – Agrupamento Contrastivo de Múltiplas Visões Baseado em Mamba Difuso para Séries Temporais Univariadas

Definição do Problema
A proliferação de dispositivos IoT e redes de sensores gerou vastos volumes de dados de séries temporais univariadas em domos como saúde, sistemas industriais e cidades inteligentes. No entanto, obter dados rotulados nesses ambientes é frequentemente caro ou inviável, necessitando de abordagens de aprendizado não supervisionado. Embora o agrupamento de séries temporais seja crucial para organizar dados em grupos significativos, os métodos de agrupamento profundo existentes enfrentam limitações significativas. Métodos tradicionais (ex: K-means com DTW) lutam com dinâmicas temporais complexas e de alta dimensão. Abordagens de aprendizado profundo, particularmente aquelas baseadas em Transformers, frequentemente sofrem com a complexidade computacional quadrática em relação ao comprimento da sequência, tornando-as ineficientes para dados de grande escala ou de sequências longas. Além disso, muitos métodos atuais falham em lidar de forma robusta com dados ausentes ou em capturar dependências de longo alcance de maneira eficiente sem incorrer em altos custos computacionais.

Metodologia
O artigo propõe o FMMVCC (Fuzzy Mamba-based Multi-View Contrastive Clustering), um framework de agrupamento profundo projetado para enfrentar esses desafios através de três componentes principais:

Aprendizado de Representação Baseado em Mamba:
O framework utiliza codificadores Mamba, que empregam um modelo de espaço de estados (SSM) seletivo. Diferente de redes recorrentes ou Transformers, o Mamba processa sequências com complexidade de tempo linear ( $O(T)$ ) enquanto mantém a capacidade de modelar dependências temporais de longo alcance. Esta arquitetura permite o processamento eficiente de séries temporais longas sem os gargalos computacionais associados aos mecanismos de atenção.
Aprendizado de Representação Mascarada de Múltiplas Visões:
Para aumentar a robustez contra ruído e dados de sensores ausentes, o método gera múltiplas visões de cada série temporal através de aumentações temporais estocásticas (jittering, escalonamento, permutação) e mascaramento temporal. A estratégia de mascaramento simula padrões de ausência realistas combinando quedas estruturadas (segmentos contíguos) e não estruturadas (pontos dispersos). Estas visões são processadas independentemente por codificadores dedicados.
Objetivos de Contraste e Reconstrução:
A fase de pré-treinamento emprega um objetivo de múltiplas tarefas para aprender representações discriminativas:
- Reconstrução Intra-visão: Decodificadores reconstroem a entrada original a partir da representação latente de cada visão.
- Reconstrução Cross-visão: Representações latentes de uma visão são usadas para reconstruir as representações latentes de outras visões para impor consistência.
- Perda Contrastiva: Um objetivo contrastivo de nível de instância maximiza a similaridade entre representações de diferentes visões da mesma amostra, enquanto contrasta com outras amostras no lote. Uma estratégia baseada em mixup é usada para gerar amostras negativas mais difíceis.
Finetuning Orientado ao Agrupamento Difuso:
Após o pré-treinamento, o modelo passa por uma fase de ajuste fino (finetuning) para estruturar o espaço latente. Um mecanismo de agrupamento temporal agrega representações de sequência em vetores de comprimento fixo. Um objetivo de agrupamento difuso é então aplicado usando um softmax baseado em similaridade de cosseno sobre protótipos de clusters aprendíveis. Este objetivo compreende três termos:
- Entropia: Incentiva atribuições de cluster confiantes.
- Equilíbrio: Mitiga o colapso de clusters, garantindo a utilização uniforme dos clusters.
- Separação: Promove a diversidade entre os protótipos de clusters para melhorar a distância inter-cluster.

Principais Contribuições
Os autores identificam três contribuições primárias:

Aprendizado de Representação Baseado em Mamba: A introdução de um framework de agrupamento profundo que aproveita codificadores Mamba para modelar dependências de longo alcance com complexidade computacional linear, oferecendo uma alternativa eficiente aos modelos baseados em Transformer e RNN para dados sequenciais de grande escala.
Aprendizado de Representação Mascarada de Múltiplas Visões: Uma estratégia que gera visões diversas via aumentações estocásticas e mascaramento temporal aleatório. Isso permite que o modelo aprenda representações robustas invariantes a perturbações temporais e dados ausentes, abordando a incerteza frequentemente ignorada por métodos de aumento determinísticos.
Aprendizado de Representação Orientado ao Cluster: A integração de um objetivo de agrupamento difuso no processo de aprendizado de representação. Esta abordagem produz atribuições de cluster suaves (soft assignments), permitindo que o modelo lide com padrões temporais ambíguos e melhore a separabilidade dos clusters no espaço latente.

Resultos Experimentais
O framework foi avaliado em 15 conjuntos de dados de séries temporais univariadas do UCR Time Series Archive. O desempenho foi comparado contra cinco baselines: TimeSeriesKMeans-DTW, HDBSCAN, FCACC, PG-Mamba e EMTC.

Desempenho: O FMMVCC alcançou o melhor desempenho geral em 29 de 60 avaliações totais de métricas (através das métricas F1, NMI, ARI e RI) e obteve a maior classificação média (1.85) em todos os cenários testados.
Robustez: O modelo demonstrou estabilidade superior comparado a outros baselines de aprendizado profundo como o FCACC, que apresentou maior variabilidade de desempenho.
Estudos de Ablação:
- Número de Visões: Uma análise do número de visões ( $N$ ) revelou que $N=4$ oferece o melhor equilíbrio entre riqueza de representação e eficiência computacional, com o desempenho degradando em $N=8$ devido ao ruído redundante.
- Componentes de Perda: A análise de sensibilidade confirmou que o peso de separação ( $\lambda_s$ ) aumenta efetivamente a distância inter-cluster, enquanto o peso de equilíbrio ( $\lambda_b$ ) melhora a compactação intra-cluster.
- Direcionalidade do Encoder: Uma comparação entre codificadores Mamba unidirecionais e bidirecionais mostrou que a configuração unidirecional (causal) é superior, com a variante bidirecional causando quedas significativas em ARI (-12,04%) e NMI (-11,57%), provavelmente devido a inconsistências temporais introduzidas através das visões mascaradas.
- Escalabilidade: A análise de FLOPs confirmou que o codificador Mamba escala linearmente com o comprimento da sequência ( $O(T)$ ), enquanto um codificador Transformer comparável exibiu crescimento quadrático ( $O(T^2)$ ), validando a eficiência da abordagem proposta para sequências longas.

Significância e Alegações
O artigo afirma que o FMMVCC representa um avanço significativo no agrupamento de séries temporais não supervisionado ao combinar efetivamente a eficiência de tempo linear dos Modelos de Espaço de Estados com a robustez do aprendizado contrastivo de múltiplas visões. Os autores afirmam que sua abordagem captura com sucesso dependências temporais de longo alcance enquanto lida com o ruído e os dados ausentes comuns em ambientes de IoT do mundo real. Ao integrar um objetivo de agrupamento difuso, o framework fornece um mecanismo para lidar com padrões temporais ambíguos que métodos de agrupamento rígido (hard clustering) podem ter dificuldade em tratar.

Os autores concluem que, embora o framework seja atualmente limitado a sequências univariadas e careça de interpretabilidade direta das representações latentes, ele estabelece uma base sólida para o agrupamento de séries temporais eficiente, escalável e robusto. O trabalho futuro é identificado como a extensão do framework para séries temporais multivariadas para capturar correlações entre variáveis e o aumento da explicabilidade das características aprendidas.