Resumo Técnico: Dywave: Tokenização Dinâmica Alinhada a Eventos para Sinais de Sensoriamento IoT Heterogêneos

1. Declaração do Problema

Sistemas de Internet das Coisas (IoT) geram fluxos contínuos de sinais de sensoriamento heterogêneos (por exemplo, IMU, ECG, acústicos) para suportar aplicações como reconhecimento de atividade humana (HAR) e monitoramento ambiental. Diferentemente da linguagem natural (palavras) ou da visão (patches espaciais), esses sinais carecem de unidades semânticas discretas e intuitivas. Eles são inerentemente não estacionários, multiescala e temporalmente heterogêneos, com informações codificadas nas transições entre eventos físicos, e não em intervalos uniformes.

As abordagens atuais de última geração dependem de janelamento uniforme (agrupamento de tamanho fixo) para tokenizar esses sinais. Este método apresenta três limitações críticas:

1. Desalinhamento Semântico: Limites fixos raramente se alinham com transições intrínsecas de eventos físicos, levando à fragmentação de eventos e ao obscurecimento de semânticas subjacentes.
2. Ineficiência: O agrupamento uniforme aloca recursos computacionais iguais para intervalos redundantes e quiescentes e para rajadas salientes e dinâmicas, inflando os comprimentos de tokens de entrada e os custos computacionais sem adicionar informações.
3. Sensibilidade a Hiperparâmetros: Tamanhos de patch e passos ótimos são específicos da aplicação e exigem ajuste extensivo e demorado por domínio, sem uma configuração universalmente eficaz.

Isso cria uma "lacuna de tokenização" onde sinais brutos de sensoriamento não podem ser processados efetivamente por modelos de sequência em grande escala sem perder coerência física ou incorrer em latência excessiva.

2. Metodologia: Dywave

Os autores propõem o Dywave, um framework de tokenização dinâmica que constrói representações de entrada compactas alinhadas com estruturas temporais intrínsecas e eventos físicos subjacentes. O Dywave opera como um front-end modular compatível com codificadores de backbone principais (por exemplo, Transformers, Mamba2) sem alterações arquitetônicas. O pipeline consiste em quatro etapas:

2.1. Extração de Embeddings Hierárquicos

O Dywave aproveita a Transformada Wavelet Discreta de Máxima Sobreposição (MODWT) para decompor sinais brutos em representações tempo-frequência multirresolução. Diferentemente da DWT padrão, a MODWT é não subamostrada, preservando o comprimento original da sequência.

• Fluxo de Detalhes: Captura transientes de alta frequência usando camadas convolucionais leves.
• Fluxo de Contexto: Codifica tendências de variação lenta e longo alcance usando um transformer hourglass leve com subamostragem adaptativa.
• Fusão: Esses fluxos são concatenados para formar um embedding hierárquico unificado ($E_F$) que captura tanto transientes de alta granularidade quanto contexto global.

2.2. Formação de Âncoras Temporais

Em vez de segmentação fixa, o Dywave identifica adaptativamente âncoras temporais em transições semânticas.

• Estimativa de Salência: O modelo estima a salência do evento ($P_t$) medindo a mudança representacional entre passos de tempo adjacentes usando similaridade de cosseno entre vetores de chave e consulta projetados dos embeddings hierárquicos. Alta salência indica mudanças representacionais abruptas (eventos).
• Seleção de Âncoras: Para evitar ruído e alocação excessiva, o Dywave aplica Supressão de Máximo Não Máximo (NMS) temporal seguida de seleção Top-K para extrair um conjunto compacto de âncoras ($A$). O número de âncoras é limitado por uma taxa de compressão $\tau$.

2.3. Fusão Dinâmica de Informação Temporal

Uma vez identificadas as âncoras, o Dywave agrega passos de tempo vizinhos em tokens alinhados às âncoras.

• Formação de Clusters: Cada passo de tempo é atribuído à sua âncora mais próxima com base na proximidade temporal.
• Agrupamento Ponderado por Salência: Embeddings dentro de cada cluster são agregados usando pontuações de salência como pesos. Isso prioriza transições informativas enquanto comprime intervalos estáveis e redundantes.
• Saída: O resultado é uma sequência compacta de tokens ($E$) cujo comprimento se adapta à complexidade semântica, e não à duração do sinal bruto.

2.4. Objetivo de Treinamento

Para garantir que os tokens comprimidos retenham informações multiescala, o Dywave emprega uma perda de reconstrução auxiliar. Um decodificador leve reconstrói os coeficientes wavelet originais a partir dos embeddings fundidos. A perda total é uma combinação da perda da tarefa downstream e da perda de reconstrução ($L = L_{task} + \lambda_{rec} \cdot L_{rec}$). Isso regulariza a compressão para preservar tanto transientes de alta frequência quanto tendências de baixa frequência.

3. Principais Contribuições

1. Identificação da Lacuna de Tokenização: O artigo destaca a falta de unidades semânticas intuitivas para humanos em sinais de sensoriamento físicos e o desalinhamento do agrupamento uniforme com a dinâmica de eventos físicos.
2. Framework Dywave: Um módulo de tokenização dinâmica e inovador que converte sinais brutos em tokens compactos e alinhados a eventos usando decomposição hierárquica baseada em wavelets e seleção de âncoras impulsionada por salência.
3. Validação Empírica: Avaliação extensa em cinco conjuntos de dados do mundo real (abrangendo HAR, avaliação de estresse e detecção de objetos) demonstra desempenho e eficiência superiores.

4. Resultados Experimentais

O Dywave foi avaliado em cinco conjuntos de dados (Ego4D, MOD, PAMAP2, RWHAR, WESAD) usando backbones Transformer e Mamba2.

• Precisão: O Dywave supera métodos de última geração (PatchTST, MedFormer, DropPatch, etc.) em até 12% de precisão em tarefas de HAR, particularmente ao usar backbones Mamba2.
• Eficiência: Reduz os comprimentos de tokens de entrada em até 75% em modelos de sequência principais, diminuindo significativamente a sobrecarga computacional.
• Distribuição de Tokens: Diferentemente de métodos de patch fixo, onde a contagem de tokens correlaciona-se linearmente com o comprimento do sinal, a contagem de tokens do Dywave é governada pela estrutura semântica. Por exemplo, no Ego4D (sequências de 30s), o Dywave usa significativamente menos tokens que o PatchTST enquanto alcança maior precisão.
• Robustez:
  • Deslocamento de Domínio: O Dywave mantém maior precisão sob generalização entre domínios (por exemplo, sísmico para áudio) e ajuste fino apenas na cabeça, onde métodos de patch fixo sofrem degradação severa.
  • Ruído: O Dywave exibe maior robustez à injeção de ruído gaussiano, com desempenho degradando de forma mais gradual que as linhas de base.
  • Comprimento de Sequência: Generaliza bem em comprimentos de sequência variados (5s a 30s) sem reajuste de hiperparâmetros, enquanto métodos de patch fixo exigem extensas buscas em grade.
• Decomposição de Micro-Atividades: Análise qualitativa no Ego4D mostra que o Dywave pode decompor automaticamente atividades grosseiras (por exemplo, "limpeza") em micro-atividades de alta granularidade (por exemplo, "alcançar", "limpar"), alinhando limites com mudanças de movimento perceptíveis.

5. Significado e Alegações

Os autores afirmam que o Dywave aborda um gargalo fundamental no sensoriamento centrado no ser humano: a incapacidade dos esquemas de tokenização atuais de respeitar a estrutura física dos dados de sensoriamento. Ao mudar de janelas uniformes estáticas para tokenização dinâmica e alinhada a eventos, o framework permite:

• Representações Fundamentadas Fisicamente: Tokens correspondem a eventos físicos distintos, e não a fatias de tempo arbitrárias.
• Eficiência Adaptativa: Recursos computacionais são alocados com base na densidade de informações, reduzindo latência e uso de memória em dispositivos de borda.
• Melhor Generalização: O método aprende representações transferíveis que são menos dependentes de ajuste de hiperparâmetros específicos de domínio.

O artigo conclui que representações de entrada adaptativas e informadas pela física são essenciais para aprendizado escalável e semanticamente significativo em sistemas de IoT. Posiciona o Dywave não apenas como um impulsionador de desempenho, mas como uma abordagem principial para fechar a lacuna entre fluxos contínuos de sensores e entradas discretas de aprendizado profundo. Os autores observam que, embora o Dywave introduza sobrecarga de pré-processamento, isso é amortizado por reduções substanciais no cálculo do backbone, tornando-o particularmente adequado para cenários de sensoriamento de longa duração com recursos limitados.