Generating Financial Time Series by Matching Random Convolutional Features

Resumo Técnico: Geração de Séries Temporais Financeiras por Correspondência de Características Convolucionais Aleatórias

Definição do Problema
A geração de séries temporais financeiras realistas enfrenta o desafio fundamental da escassez de dados. Em muitas aplicações financeiras, como estimativa de risco ou otimização de políticas, os dados de treinamento são frequentemente limitados a um único caminho histórico (por exemplo, oito anos de dados de negociação diária rendendo ~2.000 pontos). Sob tais restrições, métodos de treinamento adversário (como GANs) frequentemente falham devido ao overfitting, onde o discriminador memoriza as amostras limitadas de treinamento em vez de aprender a distribuição subjacente. Embora abordagens não adversárias recentes treinem geradores para minimizar a discrepância entre as representações de características de dados reais e gerados, os métodos existentes dependem de assinaturas de caminhos (path signatures). Embora fundamentadas na teoria de caminhos rugosos (rough path theory), as assinaturas truncadas frequentemente falham em capturar propriedades relevantes de séries temporais em profundidades tratáveis, particularmente em tarefas de classificação com amostras pequenas, onde características convolucionais aleatórias (ex: Rocket, Hydra) superaram empiricamente as assinaturas. Além disso, os mapas de características convolucionais aleatórias existentes são não diferenciáveis, impedindo seu uso direto para supervisionar o treinamento de modelos generativos via gradiente descendente.

Metodologia
Os autores propõem um framework para a geração condicional de séries temporais, onde um gerador produz caminhos futuros condicionados às observações mais recentes de $q$. A metodologia central envolve treinar o gerador para igualar as estatísticas esperadas de características convolucionais aleatórias entre caminhos reais e gerados.

1. Função Objetivo: Em vez de um mapa de características fixo, o gerador é treinado para minimizar o erro quadrático médio entre os vetores de características esperados de caminhos reais e gerados, calculados sobre uma distribuição de mapas de características aleatórias:
   $$\min_\theta \mathbb{E}_{\psi \sim \Pi} \left[ \left\| \mathbb{E}_t [f_\psi(x^-_t \oplus x^+_t)] - \mathbb{E}_{t, \hat{x}^+_t \sim p_\theta} [f_\psi(x^-_t \oplus \hat{x}^+_t)] \right\|^2_2 \right]$$
   Aqui, $x^-$ é o histórico de condicionamento, $x^+$ é o futuro realizado e $\hat{x}^+$ é o futuro gerado. O mapa de características $f_\psi$ é reamostrado durante o treinamento para evitar que o gerador explore uma única representação fixa.

2. SOCK (SOft Competing Kernels): Para viabilizar esta abordagem, os autores introduzem o SOCK, um mapa de características convolucionais aleatórias totalmente diferenciável. O SOCK adapta a arquitetura "Hydra", mas a modifica para modelagem generativa:

   • Pré-processamento: O caminho de entrada é aumentado (ex: com caminhos integrados ou diferenciados), normalizado e projetado aleatoriamente.
   • Convoluções Aleatórias Agrupadas: O caminho é convolvido com kernels aleatórios através de canais agrupados. Diferente dos kernels por canal do Hydra, o SOCK utiliza uma largura de grupo $W=2$ para capturar dependências entre canais.
   • Pooling Diferenciável: O Hydra padrão utiliza operações não diferenciáveis (argmax/argmin) para contar as "vitórias" dos kernels. O SOCK substitui essas operações por competições suaves (soft competitions) usando uma função softmax sobre as respostas dos kernels em cada passo de tempo. As características finais são derivadas das estatísticas temporais dessas probabilidades de vitória (ex: desvio padrão das probabilidades de vitória, termo chamado de "soft-deviation"), garantindo que todo o pipeline seja diferenciável em relação ao caminho de entrada.

Principais Contribuições

1. Correspondência de Características Convolucionais Aleatórias para Geração Condicional: O artigo demonstra que igualar características convolucionais aleatórias é uma estratégia viável e eficaz para treinar geradores condicionais em regimes de baixos dados, oferecendo uma alternativa à correspondência baseada em assinaturas.
2. Características Aleatórias Diferenciáveis (SOCK): A introdução do SOCK, que preenche a lacuna entre a alta expressividade das características convolucionais aleatórias e os requisitos de treinamento generativo baseado em gradiente.
3. Validação Empírica: Os autores fornecem uma avaliação extensa em cinco conjuntos de dados sintéticos (abrangendo processos autorregressivos, assimétricos, de cauda pesada e de memória longa) e sete conjuntos de dados financeiros reais (cobrindo ações, índices, FX e cripto).

Resultos
Os autores avaliaram seu método em cinco conjuntos de dados sintéticos (abrangendo processos autorregressivos, assimétricos, de cauda pesada e de memória longa) e sete conjuntos de dados financeiros reais (cobrindo ações, índices, FX e cripto).

• Fidelidade Generativa: Geradores treinados com características SOCK alcançaram o melhor ranking médio (1.49) em todos os pares conjunto de dados-métrica, superando assinaturas aleatórias (rSig, rank 2.80), assinaturas truncadas (Sig) e Diffusion-TS (DTS).
• Métricas Específicas: O SOCK destacou-se ao reproduzir distribuições marginais (CVM), estruturas de autocorrelação (incluindo padrões oscilatórios e anti-persistentes) e cenários de risco de cauda (caudas de PnL). Notavelmente, no conjunto de dados TGH (caudas pesadas) e FGN (memória longa), o SOCK superou significativamente os baselines.
• Tarefas Discriminativas: Em testes de hipótese de duas amostras e classificação de séries temporais (repositório UCR), o SOCK igualou ou superou os atuais mapas de características de estado da arte (incluindo Hydra e MultiRocket), validando sua expressividade como extrator de características.

Significância e Alegações
O artigo afirma que o SOCK fornece uma alternativa robusta e diferenciável às assinaturas de caminho para treinar modelos generativos em ambientes financeiros de escassez de dados. Ao alavancar o sucesso empírico das características convolucionais aleatórias em classificação e adaptá-las para geração via competições suaves, o método evita os problemas de overfitting do treinamento adversário e as limitações de representação das assinaturas truncadas. Os autores enfatizam que esta abordagem é particularmente adequada para aplicações financeiras práticas onde apenas um único caminho histórico está disponível para treinamento, e caminhos futuros devem ser gerados condicionalmente a observações recentes. Eles observam que, embora a arquitetura do gerador utilizada tenha sido deliberadamente simples, as melhorias decorrem principalmente da estratégia de correspondência de características. O trabalho sugere que a correspondência de características convolucionais aleatórias é uma direção promissora tanto para modelagem generativa quanto para análise discriminativa de séries temporais.