Matching of signal, noise and hardware timescales for filtering and forecasting of correlated noise signals

Resumo Técnico: Correspondência de Escalas de Tempo de Sinal, Ruído e Hardware para Filtragem e Previsão de Sinais de Ruído Correlacionados

Definição do Problema
A computação de reservatório (RC) física oferece processamento de dados dependentes do tempo com eficiência energética ao aproveitar a dinâmica não linear de sistemas físicos. No entanto, surge um desafio fundamental porque os reservatórios físicos possuem escalas de tempo de resposta intrínsecas fixas, enquanto sinais do mundo real frequentemente compreendem uma mistura de componentes determinísticos e componentes estocásticos (ruídos) abrangendo múltiplas escalas de tempo. Embora alguns métodos de aprendizado de máquina abordem a filtragem de ruído ou a previsão, há uma falta de compreensão sobre como um reservatório físico lida especificamente com sinais de entrada onde o tempo de correlação do ruído ($\tau$) varia em relação à memória do reservatório e ao horizonte de previsão. Especificamente, permanece incerto se tais sistemas filtram o ruído correlacionado ou se exploram sua estrutura temporal para previsão, e como esse comportamento depende da correspondência de escalas de tempo.

Metodologia
Os autores investigaram essas dinâmicas utilizando um reservatório físico baseado em memristor de óxido de nióbio ($NbO_x$) nanoporoso. A plataforma experimental consistiu em duas camadas paralelas de $NbO_x entre eletrodos de platina, fornecendo quatro saídas de corrente para uma única entrada de tensão. O sistema foi testado usando três tarefas distintas:

1. Reconstrução: Filtragem de ruído colorido de um sinal determinístico para recuperar a forma de onda original.
2. Previsão (Mista): Previsão de valores futuros de um sinal contendo componentes determinísticos e ruído colorido.
3. Previsão (Ruído Puro): Previsão de valores futuros do componente de ruído colorido isoladamente.

Os sinais de entrada foram sintéticos, combinando uma função determinística quase periódica (dois harmônicos) com ruído colorido gerado via um processo de Ornstein-Uhlenbeck. Os parâmetros do ruído foram independentemente ajustáveis: intensidade do ruído ($D$) e tempo de correlação do ruído ($\tau$), variando de $1\tau_0$ a $1000\tau_0$ (onde $\tau_0 = 6,3 \times 10^{-7}$ s). Adicionalmente, o sistema foi testado em dados do mundo real: a volatilidade média do tempo de quatro criptomoedas (Bitcoin, Ethereum, Solana, Dogecoin), onde o tempo de correlação foi manipulado variando o tamanho da janela de média.

O desempenho foi quantificado por Erro Quadrático Médio Normalizado (NRMSE) e Eror Absoluto Médio (AME). Os autores também caracterizaram as propriedades intrínsecas do reservatório, especificamente a Capacidade de Memória (MC) e a Não Linearidade (NL), através de diferentes tamanhos de janela de dados.

Contribuições Principais e Resultados
O estudo estabelece que o desempenho de um sistema de RC físico ao lidar com sinais ruidosos é governado pela relação entre três escalas de tempo: o tempo de correlação do ruído ($\tau$), o horizonte de memória do reservatório (MH) e o tamanho da janela de previsão/projeção ($\tau_w$).

1. Dois Regimes Distintos de Previsão:

   • Média Baseada no Reservatório: Quando o tempo de correlação do ruído é significativamente mais curto que tanto o MH quanto o tamanho da janela de previsão (ex: $\tau < MH$), o componente de ruído deixa uma impressão de memória no reservatório, mas é suavizado dentro da janela de previsão sob as limitações do MH do reservatório. Consequentemente, a saída do reservatório assemelha-se ao sinal determinístico subjacente em vez do sinal de entrada ruidoso, filtrando efetivamente o ruído. Neste regime, o sistema apresenta melhor desempenho na reconstrução do sinal determinístico do que na previsão do próprio sinal ruidoso.
   • Previsão Baseada em Algoritmo: Quando o tempo de correlação do ruído é mais longo que o MH e a janela de previsão (ex: $\tau > MH$), o ruído exibe estrutura temporal suficiente para que o sistema aprenda e preveja. Aqui, o reservatório trata o ruído como parte da dinâmica do sinal, permitindo a previsão do sinal combinado ou do próprio componente de ruído.

2. Descompasso de Escala de Tempo e Desempenho:

   • O sistema exibiu o maior erro (pior desempenho) quando o tempo de correlação do ruído era comparável às escalas de tempo do sinal determinístico (cerca de $10\tau_0$ nos testes sintéticos), onde a filtragem e a previsão tornam-se mais difíceis devido à interferência.
   • O desempenho melhorou para ruídos muito rápidos (filtrados) e ruídos muito lentos (previsíveis).
   • Nos testes de volatilidade de criptomoedas, os resultados espelharam os achados sintéticos: o erro de previsão diminuiu conforme o tempo de correlação aumentava, confirmando que componentes estocásticos de variação mais lenta são mais passíveis de previsão algorítmica.

3. Novas Métricas:

   • Horizonte de Memória (MH): Definido como o intervalo de atraso temporal onde o coeficiente de correlação $r^2 \geq 0,2$, quantificando a memória de curto prazo efetiva do hardware.
   • Índice de Regime de Previsão (FRI): Uma métrica empírica definida como $FRI = \log_{10}[\tau / \sqrt{\tau_m \tau_w}]$. Um FRI < 0 indica o regime de média, enquanto um FRI > 0 indica o regime de previsão baseada em algoritmo. Este índice previu com sucesso a transição entre os comportamentos de filtragem e previsão observados nos dados experimentais.

4. Caracterização do Hardware:

   • A Capacidade de Memória do reservatório atingiu o pico em um tamanho de janela de $15,87\tau_0$ (MC $\approx$ 4,11) e diminuiu para janelas maiores conforme a não linearidade aumentava.
   • O estudo demonstrou que o tamanho de janela ideal para uma tarefa específica depende do compromisso entre a capacidade de memória linear e a não linearidade necessária para processar estruturas de sinais complexas.

Significância e Alegações
O artigo alega que o ruído colorido não deve ser visto meramente como um incômodo a ser removido, mas como um componente estruturado do problema de aprendizado cuja previsibilidade depende da correspondência de escala de tempo. A principal contribuição é a demonstração de que o "papel computacional" do ruído (filtragem vs. previsão) é determinado pela posição relativa do tempo de correlação do ruído contra o horizonte de memória do hardware e a janela de previsão.

Os autores argumentam que este achado estabelece novos princípios de design para arquiteturas de RC físico e codificação de dados. Especificamente, eles sugerem que os sinais de entrada devem ser codificados não apenas para se ajustarem às faixas de tensão e tempo do hardware, mas para alinhar a estrutura de autocorrelação e o espectro de ruído do sinal com a dinâmica de memória do reservatório. Isso é particularmente relevante para reservatórios físicos de alta velocidade processando sinais lentos do mundo real, onde a compressão temporal não uniforme pode ser necessária para mapear estruturas temporais informativas para dentro da janela de memória efetiva do reservatório. O trabalho fornece um quadro quantitativo (via FRI e MH) para guiar o desenvolvimento de reservatórios físicos capazes de filtrar, analisar e prever simultaneamente componentes de sinais estocásticos através de distintas escalas temporais.