Resumo Técnico: RG-ResMoE (Regime-Gated Residual Mixture-of-Experts) para Previsão de Volatilidade Cross-Sectional

Declaração do Problema

A volatilidade financeira é inerentemente dependente de regimes, com as relações entre observações históricas e volatilidade futura mudando através de estados de mercado (ex: calmaria, crise, recuperação). Embora as redes neurais profundas tenham melhorado a previsão de volatilidade ao aprender relações não lineares a partir de painéis de ações cross-sectional, incorporar informações de regime permanece um desafio. Abordagens existentes tipicamente introduzem variáveis de regime anexando-as diretamente aos inputs do modelo ou alternando entre diferentes preditores com base nos estados de mercado. No entanto, esses métodos frequentemente confundem a presença da informação de regime com o caminho de integração, tornando incerto se os ganhos de desempenho decorrem da informação em si ou de como ela entra no modelo. Além disso, adicionar variáveis de regime diretamente aos inputs pode desestabilizar o treinamento e degradar o desempenho preditivo em arquiteturas neurais compactas.

Metodologia

Os autores propõem o RG-ResMoE (Regime-Gated Residual Mixture-of-Experts), uma nova arquitetura projetada para isolar o efeito do caminho de integração. O estudo emprega um rigoroso framework de comparação com correspondência de informação, onde variáveis de regime, capacidade do modelo, hiperparâmetros e protocolos de avaliação são mantidos constantes, variando apenas o ponto de integração.

Dados e Tarefa

• Datasets: Um painel primário de 1.027 ações dos EUA (2018–2025) e um painel de replicação de 1.552 ações japonesas.
• Tarefa: Prever a volatilidade realizada de cinco dias à frente (anualizada) para painéis de ações cross-sectional.
• Inputs:
  • Características das Ações ($x$): 16 características incluindo volatilidade realizada, retornos, RSI e log retornos.
  • Variáveis de Regime ($z$): Dois indicadores — volatilidade de mercado (volatilidade móvel de 20 dias dos retornos de mercado ponderados igualmente) e volatilidade idiossincrática (volatilidade móvel de 20 dias dos retornos residuais).

Design da Arquitetura

A inovação central reside na separação da previsão base das correções dependentes de regime:

1. Rede Base Congelada: Um MLP padrão de duas camadas ocultas prevê o nível de volatilidade base ($\hat{y}_{base}$) usando apenas as características das ações ($x$). Esta rede é treinada primeiro e, em seguida, congelada.
2. Especialistas Residuais (Residual Experts): Um conjunto de $K=4$ redes especialistas (também MLPs) que prevem correções residuais ($r_k(x)$) em vez de previsões completas. Estes especialistas são inicializados com camadas de saída zero para garantir que o modelo comece como a previsão base.
3. Roteamento por Gatilho de Regime (Regime-Gated Routing): Uma rede de roteamento ($g$) recebe tanto as características das ações ($x$) quanto as variáveis de regime ($z$) como entrada. Ela produz uma distribuição de probabilidade suave ($\pi$) sobre os especialistas.
4. Previsão Final: A previsão final é a soma da previsão base e da soma ponderada dos resíduos dos especialistas:
   $$\hat{y} = \hat{y}_{base} + \sum_{k=1}^{K} \pi_k r_k(x)$$
   Crucialmente, as variáveis de regime $z$ influenciam a previsão apenas através dos pesos de roteamento $\pi$, não alterando diretamente o input para as redes de previsão.

Treinamento e Regularização

O treinamento procede em duas etapas:

1. Treinar a rede base.
2. Congelar a base e treinar conjuntamente os especialistas e o gatilho.
   A função de perda inclui:

• Erro Quadrático Médio (MSE) na previsão final.
• Uma penalidade de contração (shrinkage penalty) sobre a magnitude da correção residual agregada para manter as previsões próximas à base.
• Uma penalidade de balanceamento de carga para evitar o colapso do roteamento (concentração em um único especialista).

Principais Contribuições

1. Descoberta do Caminho de Integração: O artigo demonstra que a localização da informação de regime é decisiva. Anexar variáveis de regime diretamente aos inputs degrada a precisão e a estabilidade, enquanto usá-las exclusivamente para o roteamento de resíduos melhora ambos.
2. Arquitetura de MoE Residual: Os autores mostram que, em modelos de previsão financeira compactos, o valor de Mixture-of-Experts (MoE) reside menos em aumentar a capacidade total do modelo e mais em controlar como a informação não estacionária modula uma previsão base estável via aprendizado residual.
3. Roteamento Suave vs. Ruro (Soft vs. Hard Routing): O roteamento suave contínuo (distribuições de probabilidade aprendidas) supera consistentemente o roteamento duro (atribuições discretas baseadas em gatilhos top-1 aprendidos ou partições de mercado manuais).
4. Estabilidade de Treinamento: A arquitetura RG-ResMoE melhora significadamente a estabilidade do treinamento em comparação com o MoE padrão e MLPs de input direto, eliminando execuções de treinamento "colapsadas" onde os modelos falham em convergir.

Resultados

Avaliado em um framework de caminhada à frente (walk-forward) rotativa (30 janelas de teste não sobrepostas) através de 1.027 ações dos EUA:

• Precisão de Previsão: O RG-ResMoE alcançou o maior Coeficiente de Informação (IC: 0,5469), o menor RMSE (0,2304) e o maior $R^2$ fora da amostra (0,292) entre todos os modelos neurais. Superou significativamente um MLP de grande capacidade (MLP-L) e o MoE padrão.
• Estabilidade: O RG-ResMoE teve 0 sementes colapsadas de 30, enquanto o MoE Padrão colapsou em 24/30 execuções, e o MLP-L(+z) colapsou em 30/30 execuções.
• Calibração de Risco: O RG-ResMoE forneceu melhor calibração de Value-at-Risk (VaR), particularmente durante períodos de alta volatilidade, mostrando menores taxas de rejeição em testes de cobertura de Kupiec em comparação com os baselines.
• Desempenho em Estresse de Mercado: A vantagem do RG-ResMoE foi mais pronunciada durante períodos de volatilidade elevada (ex: a crise do COVID em 2020, onde o ganho de IC foi 6,7× a média da amostra completa).
• Replicação Cross-Market: Os resultados foram replicados com sucesso no painel TSE Prime do Japão, confirmando que os benefícios do roteamento residual não são específicos de um mercado.

Significância e Alegações

O artigo argumenta que, para previsores de volatilidade neurais compactos, o principal valor dos modelos MoE conscientes de regime não é expandir a capacidade do modelo, mas sim controlar como a informação de regime não estacionária influencia a previsão.

Os autores alegam um princípio de design simples: a informação de regime é mais eficaz quando guia o roteamento residual em vez de ser tratada como um input preditivo comum. Esta abordagem permite que o modelo se adapte aos estados de mercado ao modular correções a uma previsão base estável, melhorando assim a precisão preditiva e a robustez do treinamento. O estudo sugere que este princípio se estende além da arquitetura específica RG-ResMoE para guiar a incorporação de informações de estado de mercado em futuros modelos de previsão neural.

As limitações observadas pelos autores incluem o foco em mercados de ações e um backbone MLP compacto; a generalizabilidade para outras tarefas financeiras, modelos de sequência maiores ou definições alternativas de estado permanece uma área aberta para trabalhos futuros.