Resumo Técnico: Coeficiente de Dice de Sinal (SDSC) para Aprendizado de Representação de Séries Temporais

1. Definição do Problema

O aprendizado autossupervisionado (SSL) para dados de séries temporais tem dependido amplamente de objetivos baseados em reconstrução utilizando perdas baseadas em distância, mais comumente o Erro Quadrático Médio (MSE). Embora eficazes na minimização de diferenças de amplitude ponto a ponto, os autores argumentam que essas métricas exibem limitações críticas para o aprendizado de representações semânticas:

• Sensibilidade de Amplitude vs. Invariância de Polaridade: Métricas baseadas em distância são altamente sensíveis à escala de amplitude, mas amplamente invariantes à polaridade da forma de onda. Consequentemente, sinais que possuem inversão de fase, escala de amplitude ou deslocamento para bases próximas a zero podem gerar pontuações de erro baixas, apesar de representarem estruturas semanticamente distintas ou invertidas.
• Falta de Fidelidade Estrutural: Um baixo erro de reconstrução não correlaciona necessariamente com alta fidelidade semântica. Por exemplo, um sinal constante de zero e uma forma de onda escalonada podem produzir pontuações de MSE idênticas, apesar de possuírem diferenças estruturais marcantes.
• Natureza Não Limitada: Perdas baseadas em distância são não limitadas e carecem de normalização, complicando a interpretação e a seleção de modelos entre diferentes domínios.

O artigo postula que a dependência exclusiva de métricas centradas na amplitude pode levar a reconstruções semanticamente incorretas, particularmente em domínios como EEG ou ECG, onde a forma da onda local e a polaridade carregam significância diagnóstica.

2. Metodologia

2.1. Coeficiente de Similaridade de Dice de Sinal (SDSC)

Os autores introduzem o Coeficiente de Similaridade de Dice de Sinal (SDSC), uma métrica consciente da estrutura projetada para quantificar o acordo estrutural local entre sinais temporais.

• Base Conceitual: O SDSC estende o Coeficiente de Similaridade de Dice (DSC), tradicionalmente usado para sobreposição de conjuntos em segmentação semântica, para dados de séries temporais contínuos e assinados.
• Definição: Em vez de medir a pertinência ao conjunto, o SDSC computa o alinhamento estrutural baseado em interseções de amplitude assinadas em cada passo de tempo. Ele interpreta a área sob a curva como uma aproximação para a forma da onda.
  • Seja $E(t)$ o ground truth e $R(t)$ a reconstrução.
  • O termo de interseção $S(t)$ é definido como $E(t) \cdot R(t)$.
  • O termo semelhante à união $M(t)$ é definido como $|E(t)| + |R(t)| - \frac{||E(t)| - |R(t)||}{2}$.
  • O SDSC contínuo é formulado como:
    $$SDSC(E(t), R(t)) = \frac{2 \int H(S(t)) \cdot M(t) \, dt}{\int (|E(t)| + |R(t)|) \, dt}$$
    onde $H(\cdot)$ é a função degrau de Heaviside.
• Propriedades: O SDSC é limitado no intervalo $[0, 1]$, exibe sensibilidade reduzida a variações de amplitude e reflete explicitamente o acordo na estrutura da forma de onda local (sobreposição de sinal e magnitude). Ele é livre de alinhamento (alignment-free) e não considera deslocamentos temporais globais ou deformações (warping).

2.2. Aproximação Diferenciável e Treinamento

Como a função de Heaviside é não diferenciável, os autores empregam uma aproximação suave baseada em sigmoide $\hat{H}(x) = \frac{1}{1 + e^{-\alpha x}}$ para permitir a otimização baseada em gradiente. O objetivo de treinamento é minimizar $1 - SDSC$.

2.3. Função de Perda Híbrida

Reconhecendo que o SDSC captura a estrutura mas ignora a amplitude, enquanto o MSE captura a amplitude mas perde a estrutura, os autores propõem uma Perda Híbrida:
$$L_{hybrid} = \lambda_{sdsc} \cdot L_{sdsc} + \lambda_{mse} \cdot L_{MSE}$$
Os pesos $\lambda_{sdsc}$ e $\lambda_{mse}$ são determinados usando uma estratégia de ajuste baseada em incerteza (Kendall et al., 2018), onde os coeficientes são parâmetros aprendidos que representam a incerteza homocedástica de cada termo de perda.

2.4. Estrutura Experimental

As métções propostas são integradas ao SimMTM, um framework autossupervisionado que combina aprendizado contrastivo (InfoNCE) e reconstrução. Para isolar o efeito do objetivo de reconstrução, o componente contrastivo permanece fixo, e apenas a perda de reconstrução é variada (MSE, SDSC ou Híbrida).

3. Principais Contribuições

1. Métrica SDSC: A introdução de uma métrica limitada e normalizada que mede explicitamente o acordo estrutural local em sinais de séries temporais assinados, abordando a insensibilidade de polaridade e escala do MSE.
2. Formulação Diferenciável: Uma aproximação prática e diferenciável do SDSC usando uma função sigmoide, permitindo que ele sirva como um objetivo direto de treinamento.
3. Objetivo Híbrido: Uma nova função de perda que equilibra consistência estrutural (SDSC) e fidelidade de amplitude (MSE) via pesos de incerteza aprendíveis.
4. Análise Empírica: Uma avaliação abrangente demonstrando que o pré-treinamento baseado em SDSC produz desempenho em tarefas de downstream comparável a, e em certos regimes mais consistente que, os objetivos baseados em MSE.

4. Resultados Experimentais

4.1. Análise de Pré-treinamento

• Correlação de Métricas: Uma correlação negativa fraca ($-0,324$) foi observada entre MSE e SDSC durante o pré-treinamento, indicando que minimizar o erro de amplitude não garante o alinhamento estrutural.
• Consistência Estrutural: Sob condições de MSE fixo, modelos pré-treinados com SDSC alcançaram pontuações de SDSC significativamente maiores e mais consistentes em comparação com modelos baseados em MSE.

4.2. Previsão de Séries Temporais (Downstream Forecasting)

• Desempenho: Modelos baseados em SDSC alcançaram desempenho de previsão comparável aos modelos baseados em MSE em datasets como Electricity, apesar de exibirem maior erro de reconstrução (MSE) durante o pré-treinamento.
• Implicação: Isso sugere que, além de um certo limiar, a redução adicional no erro de amplitude produz retornos decrescentes, e preservar a estrutura da forma de onda local é suficiente para um aprendizado de representação eficaz para previsão.

4.3. Classificação de Séries Temporais (Downstream Classification)

• No Domínio (In-Domain): Em cenários de codificador congelado, o pré-treinamento baseado em SDSC superou consistentemente o pré-treinamento baseado em MSE em configurações no domínio, destacando sua capacidade de preservar informações semânticas relevantes para a discriminação.
• Cruzamento de Domínios (Cross-Domain): O desempenho variou conforme as características do dataset; características dependentes de amplitude favoreceram o MSE, enquanto características dependentes de estrutura favoreceram o SDSC.
• Ajuste Fino (Fine-Tuning): Embora o ajuste fino tenha estreitado as lacunas de desempenho, os modelos baseados em SDSC demonstraram consistentemente maior precisão, sugerindo representações semanticamente mais coerentes.

4.4. Eficiência Computacional

Ao contrário dos objetivos baseados em alinhamento (ex: SoftDTW, DILATE) que sofrem de complexidade computacional quadrática, o SDSC é computacionalmente linear e livre de alinhamento, oferecendo uma alternativa escalável.

5. Significância e Alegações

O artigo afirma que o SDSC serve como uma alternativa complementar aos objetivos puramente baseados em distância para o aprendizado autossupervisionado de séries temporais.

• Reavaliando o MSE: Os resultados desafiam a dependência padrão do MSE, sugerindo que um baixo erro de reconstrução pode mascarar sinais semanticamente inconsistentes. O SDSC expõe essas limitações ao penalizar explicitamente o desalinhamento estrutural.
• Aprendizado Consciente da Estrutura: Os achados indicam que incentivar explicitamente a consistência estrutural na reconstrução complementa os objetivos baseados em distância.
• Praticidade: O SDSC oferece uma métrica leve, limitada e interpretável que facilita a avaliação padronizada através de domínios de sinais sem o custo computacional do dynamic time warping.

Os autores concluem que, embora o SDSC não supere universalmente o MSE em todas as tarefas de downstream, ele fornece um mecanismo robusto para preservar a estrutura da forma de onda local, o que é crítico para o aprendizado de representação semântica, particularmente em cenários onde a escala de amplitude ou mudanças de polaridade são irrelevantes para a semântica da tarefa.