Resumo Técnico: FISHER – Um Modelo de Fundação para Representação Abrangente de Sinais Industriais Multimodais

1. Definição do Problema: O Desafio M5

O artigo identifica que a análise de sinais industriais é atualmente dificultada por uma severa heterogeneidade de dados, caracterizada como o problema M5. As soluções existentes dependem de modelos especializados treinados em conjuntos de dados de pequena escala, que carecem de robustez e escalabilidade entre diferentes máquinas, modalidades e tarefas. O problema M5 é definido por cinco desafios específicos:

1. Multimodal: Os sinais variam entre som, vibração, tensão e corrente.
2. Multi-taxa de amostragem: As taxas de amostragem dos sensores variam amplamente (de 3 kHz a 100 kHz) para equilibrar custo e requisitos de Nyquist.
3. Multi-escala: As características do sinal diferem com base nos mecanismos operacionais (deslizamento, rotação, estático) e condições de trabalho.
4. Multi-tarefa: As tarefas de jusante incluem detecção de anomalias, diagnóstico de falhas e estimativa de vida útil restante (RUL).
5. Mínima falha: Os dados de falha são escassos e as distribuições de classes são frequentemente desbalanceadas.

Os autores argumentam que o principal gargalo não é a quantidade de dados, mas a qualidade dos dados. Sinais industriais são frequentemente estacionários e formam clusters disjuntos no espaço de dados, tornando-os insuficientes para treinar modelos de fundação de uso geral apenas via pré-treinamento em larga escala.

2. Metodologia: A Arquitetura FISHER

Para abordar o problema M5, os autores propõem o FISHER (Foundation model for multi-modal Industrial Signal compreHEnsive Representation). A metodologia é construída sobre um roteiro prioritário focado em três pilares: design de modelo especial para taxas de amostragem, pré-treinamento em larga escala com dados de alta qualidade e representação de alta qualidade para detecção de falhas.

A. Modelagem de Sub-bandas (Abordando a Multi-taxa de amostragem)

A inovação central do FISHER é uma nova abordagem de modelagem de sub-bandas que trata os incrementos de taxa de amostragem como informações de sub-bandas concatenadas, eliminando a necessidade de reamostragem.

• Conversão STFT: Os sinais são convertidos em espectrogramas de Transformada de Fourier de Curto Prazo (STFT) com resolução de tempo-frequência fixa ($\Delta f = 1/t_{win}$), garantindo uma resolução de frequência constante, independentemente da taxa de amostragem de entrada.
• Divisão de Bandas: O espectrograma é dividido em sub-bandas de largura de banda fixa ($w$). Essas sub-bandas são tratadas como blocos de construção independentes.
• Concatenação: O modelo processa cada sub-banda individualmente usando um codificador Vision Transformer (ViT). A representação final do sinal é formada pela concatenação dos embeddings [CLS] de todas as sub-bandas.
• Benefício: Isso permite que o modelo utilize toda a largura de banda do sinal. Taxas de amostragem mais altas simplesmente adicionam mais sub-bandas de alta frequência informativas, em vez de distorcer o sinal através da reamostragem.

B. Estratégia de Pré-treinamento SSL

O FISHER emprega um framework de autodestilação professor-aluno:

• Arquitetura: Um codificador aluno ($E_{stu}$) e um codificador professor ($E_{tea}$), onde o professor é uma Média Móvel Exponencial (EMA) do aluno. Ambos utilizam uma estrutura ViT.
• Esquema de Mascaramento: O aluno processa sub-bandas mascaradas (usando inverse block masking e mask cloning para gerar múltiplas visões), enquanto o professor processa a sub-banda completa.
• Função de Perda: O aluno é treinado para alinhar suas representações com o professor em dois níveis:
  1. Nível de sub-banda: Alinhando os tokens [CLS].
  2. Nível de patch: Alinhando os embeddings de patch via um decodificador aluno ($D_{stu}$).
• Fonte de Dados: Contrariando a intuição de que são necessários dados específicos de domínio, o FISHER é pré-treinado em dados de áudio e música (Audioset, Freesound, MTG-Jamendo, Music4all, totalizando 17 mil horas). Os autores argumentam que esses conjuntos de dados oferecem maior variabilidade temporal e um viés indutivo semelhante, o que é mais benéfico para o pré-treinamento do que sinais industriais estacionários.

3. O Benchmark RMIS

Para avaliar de forma abrangente os modelos de fundação, os autores introduzem o benchmark RMIS (Representation of M5 Industrial Signals).

• Composição: Compreende 19 sub-datasets através de quatro modalidades (Som, Vibração, Tensão, Corrente).
• Tarefas: Abrange Detecção de Anomalias (6 datasets, ex: desafios DCASE) e Diagnóstico de Falhas (13 datasets, ex: falhas de rolamento, engrenagem e motor).
• Protocolo de Avaliação: Todos os modelos são avaliados usando inferência k-Nearest Neighbor (KNN) sem ajuste fino (fine-tuning) para testar a generalização zero-shot. Para datasets sem divisões oficiais, uma divisão de treino-teste "selada" é utilizada para evitar o vazamento de informação de segmentos de sinais altamente estacionários.

4. Resultados Experimentais

O FISHER foi avaliado contra 24 codificadores de última geração (SOTA), incluindo modelos de fala, áudio, música, Grandes Modelos de Linguagem de Áudio (LALM) e codificadores de séries temporais.

• Desempenho: O FISHER alcançou uma pontuação geral de 62,23% no RMIS, superando o melhor baseline (ECHO) em pelo-menos 1,56% e superando todos os outros baselines por uma margem significativa.
• Eficiência: O FISHER alcança esses resultados com tamanhos de modelo significativamente menores (até 16x menores que os codificadores comuns de 90 milhões de parâmetros). A variante "pequena" (22 milhões de parâmetros) supera modelos com até 2 bilhões de parâmetros.
• Versatilidade: O modelo demonstrou forte desempenho tanto em tarefas de detecção de anomalias quanto de diagnóstico de falhas, destacando-se particularmente em cenários de diagnóstico de falhas de alta taxa de amostragem, onde os baselines tipicamente perdem informação durante a reamostragem.
• Escalabilidade: O ganho de desempenho mostra-se escalável com o tamanho do modelo e o número de sub-bandas utilizadas.

5. Principais Descobertas e Significância

O artigo extrai duas conclusões críticas baseadas em seus experimentos:

1. Adaptação Fluida às Taxas de Amostragem: A capacidade de lidar nativamente com variáveis taxas de amostragem (via modelagem de sub-bandas) sem reamostragem é o principal motor da generalização. Componentes de alta frequência são cruciais para a análise de sinais industriais, e a reamostragem frequentemente dilui essa informação.
2. Curadoria de Dados para Pré-treinamento: Dados de áudio e música fornecem uma variabilidade temporal superior para o pré-treinamento de modelos de fundação em comparação com sinais industriais estacionários. Um modelo de fundação de sinais industriais não necessita necessariamente de treinamento em sinais industriais para atingir o estado da arte; inclusive, adicionar sinais industriais à mistura de pré-treinamento de áudio/música pode, por vezes, degradar o desempenho devido a problemas de qualidade de dados.

Significância:
Os autores afirmam que o FISHER representa um avanço na análise de sinais industriais ao demonstrar que um modelo de fundação pode generalizar entre modalidades, máquinas e tarefas sem ajuste fino. Ao resolver o problema das múltiplas taxas de amostragem e aproveitar dados externos de alta qualidade para o pré-treinamento, o FISHER oferece uma solução escalável, eficiente e versátil que reduz o ônus de desenvolvimento de modelos especializados para cada cenário industrial único. O trabalho foi disponibilizado em código aberto para beneficiar a comunidade.