Quantformer: from attention to profit with a quantitative transformer trading strategy

Resumo Técnico: Quantformer

1. O Problema

O mercado financeiro é um sistema complexo e dinâmico, onde prever tendências de ações é desafiador devido à alta volatilidade e interconexão de fatores. A literatura tradicional de quantitative trading (como modelos de fatores de Fama-French) muitas vezes depende de análise fundamental estática ou de métodos de aprendizado de máquina que não capturam adequadamente dependências de longo prazo.

Existem duas dificuldades principais na aplicação de modelos de Deep Learning (especificamente Transformers) ao domínio financeiro:

1. Natureza dos Dados: Modelos de Processamento de Linguagem Natural (NLP), como o Transformer original, são projetados para dados categóricos (texto) usando word embeddings. Dados financeiros, no entanto, são predominantemente numéricos (preços, taxas de giro, indicadores), que não podem ser transformados diretamente via embeddings de palavras.
2. Estrutura da Tarefa: A maioria das tarefas NLP é do tipo sequence-to-sequence (ex: tradução), onde o modelo gera uma sequência de saída token a token. Na previsão de ações, o objetivo é geralmente prever um valor futuro (retorno) ou uma distribuição de probabilidade para um período específico, não gerar uma sequência de texto. Além disso, a posição temporal nos dados de séries temporais é inerente e não requer codificação posicional complexa como em textos.

2. Metodologia

Os autores propõem o Quantformer, uma arquitetura neural modificada baseada no Transformer, adaptada especificamente para dados quantitativos financeiros.

• Arquitetura do Modelo:

  • Entrada Numérica Direta: Substitui a camada de word embedding por uma camada linear padrão. Isso permite a ingestão direta de dados numéricos (taxa de retorno acumulada e taxa de giro acumulada) sem a necessidade de mapeamento para vetores de palavras.
  • Eliminação de Codificação Posicional: Diferente do Transformer clássico, o modelo remove o módulo de codificação posicional, assumindo que a ordem temporal é inerente aos dados de séries temporais.
  • Simplificação do Decoder: O mecanismo de previsão autoregressiva e as operações de masking (máscara) do decoder são removidos. O modelo é simplificado para atuar como um classificador que prevê a distribuição de probabilidade do retorno futuro em vez de gerar sequências.
  • Mecanismo de Atenção: Utiliza camadas de self-attention multi-cabeça para capturar dependências de longo prazo e relações complexas entre os pontos de dados temporais.

• Processamento de Dados e Estratégia:

  • Dados: Utiliza dados de mais de 4.600 ações do mercado chinês (Shanghai e Shenzhen) de 2010 a 2023 (mais de 5 milhões de dados rotativos).
  • Features de Entrada: Para cada ação, utiliza uma janela de 20 timestamps contendo a taxa de retorno acumulada e a taxa de giro acumulada.
  • Normalização: Aplicação de normalização Z-score (média zero, variância unitária) para cada passo de tempo.
  • Rótulos (Labels): Os retornos futuros são transformados em vetores one-hot baseados em quantis empíricos (ex: top 20%, meio 20%, fundo 20%). Isso transforma o problema de regressão em um problema de classificação.
  • Estratégia de Trading: O modelo gera probabilidades para diferentes quantis de retorno. Uma estratégia de alocação de carteira é construída selecionando ações com base nessas previsões, com rebalanceamento periódico (diário, semanal ou mensal).

3. Contribuições Chave

1. Adaptação do Transformer para Finanças: Desenvolvimento de uma arquitetura que elimina a necessidade de embeddings de palavras e codificação posicional, tornando o modelo nativo para dados numéricos de séries temporais.
2. Transferência de Aprendizado de NLP: Aplicação bem-sucedida da lógica de atenção do NLP para capturar sentimentos de mercado e dinâmicas de longo prazo em dados puramente quantitativos.
3. Superioridade Empírica: Demonstração de que fatores baseados em Quantformer superam significativamente 100 fatores tradicionais de preço-volume (como médias móveis, RSI, etc.) em testes de backtesting.
4. Robustez: O modelo foi testado em diferentes frequências (diária, semanal, mensal) e escalas de seleção de ativos, mostrando consistência.

4. Resultados

Os experimentos foram conduzidos no período de teste de janeiro de 2020 a maio de 2023, comparando o Quantformer contra o índice CSI 300 e 100 fatores tradicionais.

• Desempenho Geral (Frequência Mensal - Configuração Otimizada):

  • Retorno Anual (AR): 17,35% (vs. 1,77% do CSI 300).
  • Retorno Excessivo Anual (AER): 19,43%.
  • Índice de Sharpe: 0,915 (o mais alto entre todos os fatores testados; o próximo melhor foi 0,243).
  • Alpha: 0,162, indicando habilidade de seleção de ações superior ao risco assumido.
  • Taxa de Acerto (Win Rate): 57,8%.
  • Risco (VaR 99%): 2,81%, indicando menor risco de perda extrema comparado a outros fatores.

• Comparação com Fatores Tradicionais:

  • Os 100 fatores tradicionais de preço-volume tiveram, em média, um retorno anual negativo (-3,78%) e um Índice de Sharpe negativo (-0,36).
  • O Quantformer superou consistentemente a maioria das métricas de risco-retorno, incluindo volatilidade e drawdown máximo.

• Análise de Escala:

  • Testes com diferentes percentis de seleção (1%, 5%, 10%, 20%) mostraram que o modelo é robusto. A estratégia focada no topo 1% (QF 1%) alcançou um retorno anual impressionante de 24,71% com um Alpha de 0,249, embora com maior volatilidade.

5. Significado e Conclusão

O artigo demonstra que a arquitetura Transformer, quando adequadamente modificada para lidar com dados numéricos e tarefas de previsão de retorno (em vez de geração de texto), pode ser uma ferramenta poderosa para o quantitative trading.

• Inovação: O trabalho preenche a lacuna entre modelos de NLP avançados e finanças quantitativas, provando que a atenção de longo prazo é crucial para capturar padrões de mercado que modelos tradicionais (como SVMs, LSTMs ou modelos de fatores lineares) perdem.
• Aplicabilidade: A estratégia não apenas gera retornos superiores, mas também oferece uma melhor relação risco-retorno, sugerindo que a integração de informações de sentimento de mercado (implícitas nos dados de volume e preço) via mecanismos de atenção é altamente eficaz.
• Reprodutibilidade: O código e os detalhes de implementação estão disponíveis publicamente no GitHub, facilitando a adoção e o estudo futuro por parte da comunidade financeira e acadêmica.

Em suma, o Quantformer representa um avanço significativo na aplicação de Deep Learning para finanças, oferecendo uma nova classe de fatores de investimento que superam as abordagens convencionais em ambientes de mercado complexos e voláteis.