💻 computer science

An Inter-variable Relationship-Aware Mixture-of-Experts Model for Stock Closing-Price Prediction

O artigo propõe o IR-MoE, um Transformer de Mistura de Especialistas com Consciência de Relacionamento Intervariável que modela explicitamente dependências dinâmicas entre variáveis de negociação e utiliza roteamento esparso com uma estratégia de treinamento embaralhado por ação para alcançar precisão de previsão superior e generalização zero-shot através de diversos mercados acionários globais.

Autores originais: Zhenjiang Chen, Bin Liu, Pei-Gen Ye, Yang Lv, Jun Zheng

Publicado 2026-09-23

📖 7 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Zhenjiang Chen, Bin Liu, Pei-Gen Ye, Yang Lv, Jun Zheng

Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Prever o preço futuro de uma ação é um dos desafios mais persistentes nas finanças. O mercado é um lugar caótico, influenciado por tudo, desde notícias globais e políticas governamentais até o humor coletivo de milhões de investidores. Por causa disso, os preços das ações não se movem em linhas simples e retas; eles são ruidosos, erráticos e estão em constante mudança. Durante décadas, especialistas tentaram encontrar padrões nesse caos, frequentemente observando um conjunto padrão de cinco números diários: o preço quando o mercado abre, o ponto mais alto que atingiu, o ponto mais baixo, o preço quando fecha e o volume total de ações negociadas. A dificuldade não reside apenas em rastrear esses números ao longo do tempo, mas em entender como eles conversam entre si. Uma alta de preço acompanhada de um alto volume de negociação conta uma história diferente de uma alta com pouco volume, mas muitos modelos computacionais tratam esses cinco números como fluxos de dados separados e não relacionados.

A questão central que os pesquisadores enfrentam é se um único programa de computador pode aprender as regras complexas e mutáveis do mercado de ações de forma suficientemente boa para aplicá-las a novas ações não vistas sem a necessidade de ser retreinado do zero. Os métodos tradicionais frequentemente têm dificuldades aqui, ou falham em capturar as relações sutis entre preço e volume, ou tornam-se tão especializados em uma empresa específica que não conseguem se adaptar a outra. Essa limitação torna difícil construir uma ferramenta universal para análise de investimentos que funcione em diferentes países e condições de mercado.

Em um estudo recente, uma equipe de pesquisadores do Instituto de Tecnologia de Pequim propôs uma nova abordagem para resolver este problema. Eles desenvolveram um sistema chamado IR-MoE, que significa Inter-variable Relationship-Aware Mixture-of-Experts (Mistura de Especialistas Consciente da Relação entre Variáveis). O nome descreve exatamente o que o sistema faz: ele é projetado para estar ciente de como as diferentes variáveis de negociação se relacionam entre si e utiliza uma "mistura de especialistas" para fazer previsões. Em vez de forçar o computador a aprender uma regra única e rígida para todas as ações, este sistema permite que diferentes partes do modelo se especializem em diferentes condições de mercado. Ele é construido sobre a ideia de que, embora cada ação seja única, a maneira como o preço e o volume interagem frequentemente segue padrões reconhecíveis que podem ser aprendidos e transferidos.

Os pesquisadores começaram reunindo uma enorme quantidade de dados históricos de quatro mercados financeiros distintos: o mercado de A-shares da China, os Estados Unidos, Hong Kong e Japão. Eles selecionaram centenas de ações representativas dessas regiões, cobrindo uma ampla gama de setores e comportamentos de mercado. Em vez de treinar um modelo separado para cada uma dessas centenas de ações, eles alimentaram todos os dados em um único sistema unificado. Essa estratégia de "treinamento de união" permitiu que o modelo aprendesse dinâmicas de mercado compartilhadas, como o fato de que um surto no volume de negociação frequentemente sinaliza uma mudança na direção do preço, independentemente de a ação ser baseada em Xangai ou Nova York.

O coração do sistema deles é uma arquitetura de duas partes. A primeira parte foca em compreender as relações entre os cinco números diários. Os pesquisadores trataram cada número — abertura, máxima, mínima, fechamento e volume — como uma peça distinta de informação, ou token, e usaram um mecanismo inspirado em modelos de linguagem modernos para permitir que eles interajam. Isso permitiu que o sistema aprendesse explicitamente, por exemplo, que o preço de fechamento é fortemente influenciado pelo volume de negociação daquele dia. Ao visualizar essas interações, os pesquisadores descobriram que o modelo prestava atenção consistentemente ao volume ao tentar entender os movimentos de preço. Essa atenção não era aleatória; era mais forte durante períodos de alta volatilidade, sugerindo que o modelo aprendeu que o volume se torna uma pista mais crítica quando o mercado está turbulento.

A segunda parte do sistema é a "mistura de especialistas". Imagine uma equipe de especialistas, cada um um especialista em um tipo específico de comportamento de mercado, como uma tendência de alta constante, uma queda súbita ou um movimento lateral calmo. Quando o sistema recebe dados para uma nova ação, ele não pede que todos os especialistas opinem. Em vez disso, um mecanismo de roteamento observa as condições atuais do mercado e seleciona apenas alguns dos especialistas mais relevantes para fazer a previsão. Isso permite que o sistema se adapte instantaneamente a diferentes situações. Se o mercado estiver se comportando de forma errática, ele pode convocar especialistas treinados em padrões de alta volatilidade; se o mercado estiver calmo, pode depender daqueles treinados em tendências constantes. Essa flexibilidade é o que permite ao modelo lidar com a natureza diversa e mutável dos mercados de ações globais.

Os resultados do estudo foram testados em todos os quatro mercados, incluindo um teste rigoroso onde o modelo foi solicitado a prever preços para ações que nunca havia visto antes, sem treinamento adicional. Nesses testes de "zero-shot" (aprendizado de disparo zero), o novo sistema superou vários métodos existentes, incluindo modelos complexos que dividem os dados em partes menores e outros sistemas de inteligência artificial avançados projetados para previsão de séries temporais. No mercado de A-shares da China, o modelo alcançou uma taxa de erro de previsão de cerca de 1,10 por cento, enquanto no mercado dos EUA, atingiu uma taxa de erro de aproximadamente 1,32 por cento. Esses números foram consistentemente melhores do que as alternativas de melhor desempenho no estudo.

Talvez o mais significativo seja que o modelo provou que poderia transferir seu conhecimento através das fronteiras. Quando o sistema treinado com dados de ações chinesas foi aplicado diretamente a ações não vistas nos Estados Unidos, Hong Kong e Japão, ele manteve uma alta precisão. Isso sugere que as relações fundamentais entre preço e volume são universais o suficiente para serem aprendidas uma vez e aplicadas em qualquer lugar. Os pesquisadores também descobriram que o sistema funcionava melhor quando treinado em um número diversificado, porém gerenciável, de ações. Adicionar mais dados ajudava no início, mas além de um certo ponto, os benefícios diminuíam, indicando que a chave era cobrir uma ampla variedade de comportamentos de mercado, em vez de simplesmente alimentar o sistema com mais números.

Para garantir que o sistema estava funcionando corretamente, os pesquisadores também examinaram como os "especialistas" estavam sendo utilizados. Eles descobriram que, sem um mecanismo de equilíbrio específico, o sistema tendia a depender excessivamente de alguns poucos especialistas, deixando outros ociosos. Ao adicionar uma regra que forçava o sistema a distribuir o trabalho de forma mais equilibrada, eles garantiram que todas as partes especializadas do modelo estivessem ativas e aprendendo. Essa atenção aos detalhes no processo de treinamento foi crucial para a estabilidade e o desempenho do sistema.

O estudo conclui que, ao modelar explicitamente como as variáveis de negociação interagem e ao utilizar uma equipe flexível de preditores especializados, é possível construir uma ferramenta mais robusta e adaptável para a previsão de ações. Os pesquisadores sugerem que sua abordagem oferece um caminho promissor para a análise financeira, um que se afasta de modelos rígidos e de propósito único em direção a sistemas que podem compreender a linguagem complexa e mutável do mercado. Embora o estudo não pretenda ter resolvido o mistério do mercado de ações, ele demonstra que uma compreensão mais profunda das relações entre os dados diários de negociação pode levar a previsões mais precisas e generalizáveis. O trabalho abre as portas para pesquisas futuras que possam incorporar ainda mais tipos de dados, como relatórios de notícias ou detalhes de negociação intradiária, para refinar ainda mais nossa capacidade de navegar no mundo financeiro.

Resumo Técnico: Um Modelo de Mixture-of-Experts com Consciência de Relacionamento Intervariável para Predição de Preços de Fechamento de Ações

Definição do Problema
A previsão precisa do preço de fechamento de ações é dificultada pela natureza ruidosa, não estacionária e heterogênea dos mercados financeiros. As abordagens existentes sofrem de duas limitações primárias:

Fusão Implícita de Variáveis: A maioria dos métodos (incluindo modelos híbridos baseados em decomposição e aprendizado profundo) trata as variáveis Open, High, Low, Close e Volume (OHLCV) como características implícitas dentro de estados ocultos ou componentes decompostos. Eles falham em modelar explicitamente as dependências dinâmicas e adaptáveis à amostra entre essas variáveis, apesar das evidências de que sua configuração conjunta (ex: amplitude de preço vs. intensidade de volume) contém informações críticas do estado do mercado.
Generalização Limitada: Muitos modelos são treinados em ações específicas ou conjuntos de ativos fixos, exigindo retreinamento ou ajuste fino (fine-tuning) para novos ativos. Esse paradigma "específico para uma ação" aumenta os custos de implementação e falha em capturar a dinâmica de mercado compartilhada entre ações e regimes heterogêneos. Além disso, os modelos de fundação de séries temporais padrão costumam usar uma tokenização de propósito geral que pode não capturar explicitamente relações financeiras como confirmação ou divergência entre preço e volume.

Metodologia: IR-MoE
Os autores propõem o IR-MoE (Inter-variable Relationship-Aware Mixture-of-Experts), um framework baseado em Transformer projetado para modelar explicitamente as dependências de OHLCV e permitir a generalização zero-shot entre ações e mercados. A arquitetura consiste em três componentes principais:

Pré-processamento de Dados e Embedding Invertido:
- Normalização: A normalização Z-score por instância é aplicada a cada variável dentro da janela de observação (look-back window) para lidar com diferenças de escala (ex: preço vs. volume) e melhorar a estabilidade.
- Embedding Invertido: Diferente dos Transformers de séries temporais padrão que tratam passos temporais como tokens, o IR-MoE trata cada sequência completa da variável OHLCV como um token independente. Esta estratégia "invertida" permite que o modelo aprenda relações entre variáveis, em vez de apenas padrões temporais.
Módulo de Consciência de Relacionamento Intervariável (IR):
- Este módulo emprega um codificador Transformer com atenção multi-cabeça (multi-head self-attention - MHSA) operando ao longo da dimensão da variável.
- Ao tratar as variáveis OHLCV como tokens, o mecanismo de atenção aprende mapas de dependência dinâmica (ex: como o Volume influencia a representação do Close) para cada amostra específica.
- O módulo utiliza uma arquitetura de Pré-Layer Normalization com ativação GELU para refinar essas representações conscientes de relacionamento.
Módulo de Previsão de Sparse Mixture-of-Experts (MoE):
- Para lidar com a heterogeneidade do mercado (ex: regimes de tendência vs. reversão à média), o modelo emprega uma camada de MoE esparsa.
- Mecanismo de Gating: Uma rede de gating Top-K ruidosa direciona a representação consciente de relacionamento para um subconjé de redes de especialistas especializados (projeções lineares). Isso permite que diferentes especialistas aproximem diferentes mapeamentos locais de OHLCV para o preço.
- Balanceamento de Carga: Uma perda auxiliar baseada no coeficiente de variação ao quadrado ( $CV^2$ ) é introduzida para evitar o colapso de especialistas e garantir a utilização equilibrada do conjunto de especialistas.
- Saída: A agregação ponderada das saídas dos especialistas é submetida à normalização inversa para produzir a previsão final do preço de fechamento.
Estratégia de Treinamento:
- Construção de Conjunto de Dados de União: O modelo é treinado em grandes conjuntos de dados de "união" que compreendem múltiplas ações de quatro mercados (A-share da China, EUA, Hong Kong, Japão) para aprender dinâmicas de mercado compartilhadas.
- Treinamento Sequencial Embaralhado por Ação: Para reduzir a interferência de gradiente entre ações com diferentes perfis de volatilidade e liquidez, a estratégia de treinamento garante que cada mini-lote contenha amostras de apenas uma ação, enquanto embaralha a ordem das ações ao longo das épocas (epochs).

Principais Contribuições

Modelagem Explícita de Dependência OHLCV: O artigo introduz um framework que trata as variáveis OHLCV como tokens distintos, permitindo que o Transformer aprenda dependências intervariáveis estruturadas e específicas de cada amostra (ex: interações preço-volume) em vez de depender de fusão implícita de características.
Roteamento de Especialista Esparso para Heterogeneidade: Ao integrar um mecanismo de MoE esparso, o modelo se adapta a diversos regimes de mercado e características de ações sem exigir retreinamento específico para cada ação, facilitando a generalização zero-shot.
Paradigma de Treinamento de União: O estudo demonstra a eficácia do treinamento em conjuntos de dados de união de múltiplas ações com uma estratégia de embaralhamento por ação, mostrando que esta abordagem melhora a transferibilidade e a robustez entre ações em comparação com o treinamento de ação única ou o embaralhamento global padrão.

Resultos Experimentais
O modelo foi avaliado em quatro mercados (China A-share, EUA, Hong Kong, Japão) utilizando dados de 2016 a 2025.

Acurácia de Previsão: O IR-MoE superou consistentemente os baselines, incluindo modelos híbridos baseados em decomposição (ETICA-LSTM, MWDINet), modelos otimizados por meta-heurísticas (LSTM-ARO, GJO-GRU-LSTM) e modelos de fundação de séries temporais (TimesFM, MOMENT). Ele alcançou o menor MAPE e o maior $R^2$ em todos os mercados.
Generalização Zero-Shot: Em experimentos de retenção (hold-out), o IR-MoE aplicado a ações não vistas (sem retreinamento) superou tanto os baselines específicos de ação retreinados quanto os modelos de fundação zero-shot. Crucialmente, o modelo treinado com dados A-share demonstrou forte transferibilidade entre mercados, prevendo com sucesso ações não vistas nos mercados dos EUA, Hong Kong e Japão sem utilizar dados desses mercados específicos para treinamento ou ajuste fino.
Interpretabilidade: A análise de atenção revelou que o módulo IR atribui consistentemente pesos de atenção elevados das variáveis de preço (Close) ao Volume, particularmente durante períodos de volatilidade. Esse padrão foi observado tanto nos mercados A-share quanto nos EUA, embora a intensidade varie conforme a microestrutura do mercado.
Estudos de Ablação:
- Escala do Conjunto de Treinamento: O desempenho melhorou conforme o número de ações de treinamento aumentava de 5 para 20, ponto após o qual os ganhos marginais diminuíram, sugerindo um ponto de saturação para o aprendizado de regimes compartilhados.
- Contagem de Especialistas: Um número moderado de especialistas (30) proporcionou o melhor equilíbrio entre flexibilidade e estabilidade de roteamento; especialistas em excesso levaram à degradação do desempenho.
- Estratégia de Treinamento: A estratégia proposta de embaralhamento por ação reduziu significamente o MAPE em comparação com o embaralhamento global, confirmando o benefício de reduzir a heterogeneidade de distribuição dentro do lote (batch).

Significância e Alegações
O artigo afirma que o IR-MoE oferece uma solução escalável e interpretável para a previsão multivariada de preços de ações. Sua significância reside na mudança do paradigma de fusão implícita de características para a modelagem explícita de relacionamento intervariável e de ajuste específico para ação para a generalização zero-shot entre ações.

Os autores asseguram que, ao modelar explicitamente a estrutura financeira dos dados OHLCV e utilizar o roteamento adaptativo de especialistas, o framework consegue capturar regularidades estatísticas condicionais fracas que são frequentemente perdidas por modelos de aprendizado profundo ou de fundação padrão. O estudo posiciona o IR-MoE não como um preditor determinístico de movimentos de mercado (reconhecendo a Hipótese do Mercado Eficiente), mas como uma ferramenta para identificar e aproveitar dependências estruturais e padrões específicos de regime para melhorar a precisão da previsão e a transferibilidade. O trabalho sugere que a futura previsão financeira deve priorizar o aprendizado de dinâmicas de mercado compartilhadas entre diversos ativos, mantendo a flexibilidade para se adaptar às condições locais do mercado.

Mais como este