Resumo Técnico: Cabeças, Não Colunas Vertebrais

Declaração do Problema

Em pipelines de aprendizado profundo para previsão de retornos financeiros de cauda pesada (especificamente horizontes de curto prazo), existe uma suposição predominante de que a complexidade arquitetural (a "coluna vertebral" ou backbone) é o principal motor de desempenho. No entanto, a gestão de risco, alocação de capital e testes de estresse regulatórios exigem previsões distribucionais (ex: Valor em Risco, Expected Shortfall) em vez de estimativas pontuais.

As arquiteturas dominantes de previsão profunda (TimesNet, DLinear, N-BEATS, iTransformer) geralmente são entregues com cabeças pontuais treinadas com perda Huber ou MSE, que incentivam a mediana condicional ou a média, mas não são regras de pontuação estritamente próprias para distribuições de cauda pesada, falhando em capturar o risco de cauda. O remédio padrão é substituir a cabeça pontual por uma cabeça de densidade (ex: Mistura de Gaussianas - GMM) treinada via Log-Verossimilhança Negativa (NLL).

Este artigo investiga uma questão fundamental: em retornos financeiros de cauda pesada, o que mais importa para a precisão preditiva: a arquitetura da coluna vertebral ou a cabeça de saída?

Metodologia

Dados e Protocolo

• Dataset: Retornos logarítmicos mensais do S&P 500 (1871–2023, 1.832 observações) do conjunto de dados Shiller. A curtose empírica é $\approx 6$, significativamente superior ao valor gaussiano de 3.
• Validação: Cinco dobras (folds) de caminhada progressiva (walk-forward) ancoradas com uma fração de treinamento de 0,50, janela de teste de 0,07 e passo de 0,10. Os experimentos são repetidos em três sementes aleatórias.
• Horizontes: $h \in \{1, 3, 6, 12\}$ meses.

Design Experimental

Os autores constroem um experimento fatorial limpo de $4 \times 3$ (12 variantes) para isolar os efeitos da coluna vertebral e da cabeça:

1. Colunas Vertebrais (4):
   • TimesNet: Descoberta de periodicidade baseada em FFT + convolução 2D.
   • DLinear: Decomposição de tendência/sazonalidade + projeção linear.
   • N-BEATS: Pilha residual de blocos de expansão de base genérica.
   • iTransformer: Embedding por passo de tempo + atenção própria através da dimensão temporal.
   • Nota: O PatchTST foi excluído devido à incompatibilidade com cabeças de densidade (problema de $\sigma$-patching).
2. Cabeças de Saída (3): Todas compartilham o mesmo estado oculto da coluna vertebral ($d_{hidden}=64$).
   • Cabeça Pontual: Projeção linear para $\hat{y} \in \mathbb{R}^H$, treinada com perda Huber. (Avaliada via aproximação Gaussiana post-hoc para CRPS).
   • Cabeça Gaussiana Única: Projeção linear para $(\mu, \sigma) \in \mathbb{R}^{2H}$, treinada com NLL Gaussiana.
   • Cabeça de Mistura Gaussiana (GMM): Projeção linear para $(\mu, \sigma, \pi) \in \mathbb{R}^{3HK}$ com $K=4$ componentes, treinada com NLL de GMM.

Métricas

• Primária: Continuous Ranked Probability Score (CRPS) e CRPS-Skill-Score (relativo a um baseline de ponto do TimesNet).
• Secundária: Pinball loss (perda de quantil) em $\tau \in \{0,05, 0,95\}$, cobertura de intervalo preditivo e Erro Quadrático Médio (MSE).
• Testes Estatísticos: Conjunto de Confiança de Modelo (MCS) de Hansen–Lunde–Nason sobre erros quadráticos; testes $t$ pareados de Diebold–Mariano sobre diferenciais de CRPS por dobra.

Principais Resultados

1. A Cabeça Domina a Coluna Vertebral (Horizontes Curtos)

Nos retornos mensais do S&P 500 em horizontes curtos ($h < 6$), a cabeça de saída é o fator dominante:

• Gradiente Estrito: Mover de Ponto $\to$ Gaussiana $\to$ GMM produz uma melhoria estrita no CRPS.
  • Ponto $\to$ Gaussiana: $\sim +1,3\%$ de melhoria.
  • Gaussiana $\to$ GMM: $\sim +2,4\%$ de melhoria.
  • Total Ponto $\to$ GMM: $\sim +3,7\%$ de melhoria.
• Impacto da Coluna Vertebral: Trocar as colunas vertebrais mantendo a cabeça constante altera o CRPS em menos de 1,5% na linha da cabeça pontual. Mesmo nas cabeças de densidade, a dispersão das colunas vertebrais (máximo de 5,1% impulsionado pelo N-BEATS) é geralmente menor que o gradiente da cabeça.
• Resultados do MCS: O Conjunto de Confiança de Modelo sobre erros quadráticos não exclui nenhuma das 12 variantes ao nível de 5%. Nem a coluna vertebral nem a cabeça distinguem modelos em precisão de previsão pontual (MSE). A cabeça apenas separa os modelos em métricas distribucionais (CRPS, Pinball, cobertura).

2. A "Divisão h" (Dependência do Horizonte)

A dominância da cabeça depende do horizonte:

• Horizontes Curtos ($h \le 3$): A cabeça domina. Cabeças GMM em colunas profundas superam os baselines clássicos.
• Horizontes Longos ($h \ge 6$): A coluna vertebral retoma a liderança. Modelos recursivos clássicos (GARCH, ARIMA) com cabeças GMM colapsam (ex: GARCHgmm cai para $-50\%$ de skill de CRPS em $h=6$) porque suas previsões de volatilidade regridem à média incondicional. Colunas profundas com treinamento direto de múltiplos passos mantêm o desempenho, superando modelos clássicos em cerca de 55 pontos percentuais em $h=6$.

3. Generalização entre Ativos

O gradiente da cabeça não é universal; ele depende do processo gerador de dados:

• Processos do tipo Retorno: (S&P 500 mensal/diário, VIX diário). A cabeça GMM é consistentemente a melhor.
  • Caso VIX: Uma cabeça Gaussiana única falha catastroficamente ($-24,4\%$) no VIX devido aos picos extremos de cauda direita. A GMM ($K=4$) captura com sucesso esses regimes multimodais.
• Processos não do tipo Retorno: (Rendimentos de Tesouro, EUR/USD). Estes são modelos de reversão à média em torno de alvos estruturais. Aqui, a cabeça GMM adiciona ruído de parâmetros sem benefício estrutural, muitas vezes performando pior que a cabeça pontual.

4. Valor para Gestão de Risco

• Calibração: Cabeças GMM fornecem melhor calibração (cobertura de 90% $\approx 0,88\text{--}0,93$) comparadas às cabeças pontuais (que sobrecobertam em 0,96 devido à inflação de variância post-hoc).
• Risco de Cauda: O valor incremental da mistura sobre uma única Gaussiana é maior em regimes de alta volatilidade (ex: $+13,9\%$ de melhoria durante a estagflação dos anos 1970).
• Métricas Regulatórias: O N-BEATS com uma cabeça GMM passa no teste de cobertura incondicional de Kupiec nos níveis de VaR de 5%, 2,5% e 1%, e alcança o menor Expected Shortfall (ES) entre os modelos testados.
• Limitação: No limiar extremo de 1%-VaR, a GMM limitada ($K=4$) subestima o risco de cauda em comparação com a cabeça pontual (devido às caudas dos componentes Gaussianos), sugerindo a necessidade de híbridos GMM+EVT para quantis extremos.

5. Backtest de Estratégia de Trading

Uma estratégia de reversão à média ingênua usando estas previsões de densidade perde dinheiro em todas as variantes (retornos anualizados de $-41\%$ a $-50\%$). Isso confirma que previsões distribucionais melhoradas são necessárias para a gestão de risco, mas não se traduzem automaticamente em alpha de trading sem dimensionamento de posição sofisticado e modelagem de custos de transação.

Significância e Alegações

O artigo conclui que, para retornos financeiros de cauda pesada em horizontes curtos, o esforço de engenharia deve ser gasto na cabeça de saída, não na coluna vertebral.

1. Neutralidade Arquitetural: Para previsão pontual, colunas profundas são estatisticamente indistinguíveis nestes dados. O "sinal" que distingue as colunas está abaixo do nível de ruído das métricas de precisão pontual.
2. Primazia da Função de Perda: O ganho vem do uso de uma regra de pontuação estritamente própria (NLL de GMM) que penaliza a má calibração da cauda, o que as perdas Huber/MSE ignoram. A cabeça GMM captura a curtose excessiva e o risco de cauda que as Gaussianas unimodais não conseguem capturar.
3. Validade Contextual: A alegação de "dominância da cabeça" aplica-se especificamente a processos do tipo retorno e de cauda pesada. Ela não se aplica a séries não estacionárias e de reversão à média, como rendimentos ou FX, onde a cabeça pontual permanece competitiva.
4. Implicação Prática: Para gestão de risco (VaR, ES, encargos de capital), trocar uma cabeça pontual padrão por uma cabeça GMM é uma intervenção de alto valor e baixo custo (uma "mudança de duas linhas") que gera valor real durante períodos de crise, enquanto trocar colunas vertebrais gera retornos negligenciáveis.

O artigo afirma explicitamente que não propõe uma nova coluna vertebral, uma nova estratégia de trading ou uma solução universal para todos os tipos de séries temporais. Ele estabelece uma condição de contorno: em retornos de cauda pesada, a cabeça domina; em outros processos, não.