💰 quantitative finance

Heads, Not Backbones: Output Heads Dominate Architectures on Fat-Tailed Returns

Este artículo demuestra que para el pronóstico de rendimientos financieros de cola pesada en horizontes cortos, la elección del cabezal de salida (específicamente un modelo de mezcla gaussiana) supera significamente el impacto de la arquitectura del backbone al capturar el riesgo de cola y mejorar la precisión de la distribución, aunque el backbone se vuelve más crítico en horizontes de tiempo más largos.

Autores originales: Sichao He, Yansong Zhang

Publicado 2026-06-30

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Sichao He, Yansong Zhang

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás tratando de predecir el clima para los próximos días. Tienes dos herramientas principales para ayudarte:

El Motor (La Columna Vertebral): El complejo sistema informático que procesa todos los datos (imágenes satelitales, presión barométrica, velocidad del viento).
El Reporte (La Cabeza de Salida): Cómo se te presenta la predicción final. ¿Es solo un número de temperatura? ¿Es una campana de Gauss que dice "probablemente serán 70 °F"? ¿O es un mapa detallado que muestra un 90% de probabilidad de lluvia, un 5% de probabilidad de un tornado y un 5% de probabilidad de una ola de calor?

Este artículo, titulado "Heads, Not Backbones" (Cabezas, no Columnas Vertebrales), plantea una pregunta simple sobre la predicción de los mercados financieros (específicamente el índice bursátil S&P 500): ¿Importa más la complejidad del Motor o importa más la forma en que presentamos el Reporte?

Los autores probaron cuatro "Motores" diferentes y de alta tecnología (modelos de IA modernos) y los combinaron con tres tipos diferentes de "Reportes" (Cabezas de salida). Esto es lo que encontraron, utilizando analogías simples.

1. El problema de las "Colas Pesadas"

Los mercados financieros son como una montaña rusa que la mayor parte del tiempo se mueve suavemente, pero ocasionalmente tiene caídas o picos terroríficos y extremos. En estadística, esto se llama una distribución de "cola pesada" (fat-tailed).

Los modelos estándar asumen que el mercado se comporta como un lago tranquilo (una campana de Gauss normal). Son excelentes para predecir días promedio, pero terribles para predecir colapsos o auges repentinos.
El Objetivo: Los autores querían ver si podían construir un mejor "Reporte" que reconozca estos riesgos extremos.

2. El Experimento: Intercambiando el Reporte

Los investigadores mantuvieron los "Motores" (las columnas vertebrales de IA) constantes y cambiaron los "Reportes" (las cabezas):

La Cabeza de Punto Único (El Número Único): Esto es como una aplicación del clima que solo dice: "Mañana hará 72 °F". No te informa sobre el riesgo de una tormenta.
La Cabeza Gaussiana (La Campana de Gauss): Esta dice: "Mañana probablemente serán 72 °F, con un margen de error de 5 grados". Asume que los altibajos son simétricos y suaves.
La Cabeza de Mezcla (El Mapa Multimodal): Esta es la sofisticada. Dice: "Mañana probablemente serán 72 °F, PERO hay una pequeña posibilidad de una caída repentina a 60 °F y una pequeña posibilidad de un pico a 85 °F". Utiliza una mezcla de diferentes escenarios para capturar las "colas pesadas" (los riesgos extremos).

3. El Gran Descubrimiento: El Reporte Gana

Los resultados fueron sorprendentes y claros: El "Reporte" (la Cabeza) importaba mucho más que el "Motor" (la Columna Vertebral).

Cambiar el Motor: Si tomabas el mejor motor de IA y lo intercambiabas por uno ligeramente diferente, la precisión de la predicción apenas cambiaba (menos del 1.5% de diferencia). Era como cambiar el motor de un Toyota por uno de Honda; el coche sigue conduciendo casi igual.
Cambiar el Reporte: Si mantenías el mismo motor de IA pero cambiabas del reporte de "Número Único" al reporte de "Mapa Multimodal", la precisión mejoraba significamente (aproximadamente entre un 3.7% y un 6.4%).
La Analogía: No importa si tienes un motor de Ferrari (la mejor IA) si estás conduciendo con una venda en los ojos (el reporte equivocado). Si tienes un motor estándar pero un GPS perfecto (el reporte correcto), llegarás a tu destino con mucha más precisión.

4. Por qué la "Cabeza de Mezcla" (Multimodal) es Especial

La "Cabeza de Mezcla" (Mezcla Gaussiana) fue la clara ganadora, especialmente durante los periodos de crisis (como la estanflación de la década de 1970 o el colapso financiero de 2008).

El Número Único ignora el riesgo de un colapso.
La Campana de Gauss asume que un colapso es simplemente una "gran fluctuación" en una curva suave.
La Cabeza de Mezcla construye específicamente un "carril" separado para el escenario del colapso. Captura las "colas pesadas" que otros modelos pasan por alto.

El artículo señala que este valor adicional es más visible cuando las cosas son caóticas. Cuando el mercado está tranquilo, el mapa sofisticado no es mucho mejor que una simple suposición. Pero cuando el mercado está en pánico, el mapa sofisticado es el único que ve venir el peligro.

5. Advertencias Importantes (Lo que el artículo NO dice)

Los autores son muy honestos sobre los límites de sus hallazgos:

No es un esquema para "hacerse rico rápidamente": Probaron una estrategia de trading simple utilizando estas predicciones y perdió dinero. Tener una mejor predicción del riesgo no significa automáticamente que puedas obtener más ganancias. Todavía necesitas una estrategia inteligente para usar esa información.
Depende del plazo: El "Reporte" (la Cabeza) es el rey para las predicciones de corto plazo (próximos días o meses). Sin embargo, para las predicciones de largo plazo (6 meses o un año), el "Motor" (la Columna Vertebral) empieza a importar más de nuevo.
Depende del activo: Esto funciona muy bien para los rendimientos de las acciones (que son salvajes y de cola pesada). No funciona tan bien para cosas como los rendimientos de los bonos del Tesoro o los tipos de cambio de divisas, que se comportan más como un río constante que como una montaña rusa. Para esos casos, un reporte de "Número Único" suele ser tan bueno como cualquier otro.

La Conclusión

Si intentas predecir los giros salvajes e impredecibles del mercado de valores a corto plazo, no te obsesiones con qué modelo de IA compleja utilizas. En su lugar, enfócate en cómo interpretas los datos.

Utilizar un modelo que pueda describir múltiples futuros posibles (incluyendo los aterradores) es mucho más importante que utilizar la arquitectura de computadora más sofisticada. La "Cabeza" (la salida) domina a la "Columna Vertebral" (la arquitectura).

Resumen Técnico: Cabezales, No Columna Vertebral

Planteamiento del Problema

En los procesos de aprendizaje profundo para la previsión de rendimientos financieros de cola pesada (específicamente en horizontes de corto plazo), existe la suposición predominante de que la complejidad arquitectónica (la "columna vertebral" o backbone) es el principal motor del rendimiento. Sin embargo, la gestión de riesgos, la asignación de capital y las pruebas de estrés regulatorias requieren pronósticos distribucionales (por ejemplo, Valor en Riesgo, Expected Shortfall) en lugar de estimaciones puntuales.

Las arquitecturas de previsión profunda dominantes (TimesNet, DLinear, N-BEATS, iTransformer) suelen entregarse con cabezales puntuales entrenados con pérdida de Huber o MSE, las cuales incentivan la mediana o la media condicional, pero no son reglas de puntuación estrictamente adecuadas para distribuciones de cola pesada, fallando al capturar el riesgo de cola. El remedio estándar es reemplazar el cabezal puntual por un cabezal de densidad (por ejemplo, un Modelo de Mezcla Gaussiana o GMM) entrenado mediante la Negativa de la Log-Verosimilitud (NLL).

Este artículo investiga una pregunta fundamental: en rendimientos financieros de cola pesada, ¿qué importa más para la precisión predictiva: la arquitectura de la columna vertebral o el cabezal de salida?

Metodología

Datos y Protocolo

Conjunto de datos: Rendimientos logarítmicos mensuales del S&P 500 (1871–2023, 1,832 observaciones) del conjunto de datos Shiller. La curtosis empírica es $\approx 6$ , significativamente superior al valor gaussiano de 3.
Validación: Cinco pliegues (folds) de caminata hacia adelante anclados con una fracción de entrenamiento de 0.50, ventana de prueba de 0.07 y paso de 0.10. Los experimentos se repiten en tres semillas aleatorias.
Horizontes: $h \in \{1, 3, 6, 12\}$ meses.

Diseño Experimental

Los autores construyen un experimento factorial limpio de $4 \times 3$ (12 variantes) para aislar los efectos de la columna vertebral y el cabezal:

Columnas Vertebrales (4):
- TimesNet: Descubrimiento de periodicidad basado en FFT + convolución 2D.
- DLinear: Descomposición de tendencia/estacionalidad + proyección lineal.
- N-BEATS: Pila de residuos de bloques de expansión de base genérica.
- iTransformer: Incrustación por paso de tiempo + atención propia a través de la dimensión temporal.
- Nota: Se excluyó PatchTST debido a la incompatibilidad con los cabezales de densidad (problema de la varianza de parches- $\sigma$ ).
Cabezales de Salida (3): Todos comparten el mismo estado oculto de la columna vertebral ( $d_{hidden}=64$ $d_{hi dd e n} = 64$ ).
- Cabezal Puntual: Proyección lineal a $\hat{y} \in \mathbb{R}^H$ , entrenado con pérdida de Huber. (Evaluado mediante aproximación gaussiana post-hoc para CRPS).
- Cabezal de Gauss Única: Proyección lineal a $(\mu, \sigma) \in \mathbb{R}^{2H}$ , entrenado con NLL Gaussiana.
- Cabezal de Mezcla Gaussiana (GMM): Proyección lineal a $(\mu, \sigma, \pi) \in \mathbb{R}^{3HK}$ con $K=4$ componentes, entrenado con NLL de GMM.

Métricas

Primaria: Puntuación de Probabilidad Clasificada Continua (CRPS) y Puntuación de Habilidad de CRPS (relativa a un baseline puntual de TimesNet).
Secundaria: Pérdida de pinball (pérdida de cuantiles) en $\tau \in \{0.05, 0.95\}$ , cobertura de intervalo predictivo y Error Cuadrático Medio (MSE).
Pruebas Estadísticas: Conjunto de Modelos de Confianza (MCS) de Hansen–Lunde–Nason sobre errores al cuadrado; pruebas $t$ pareadas de Diebold–Mariano sobre diferenciales de CRPS por pliegue.

Resultados Clave

1. El Cabezal Domina a la Columna Vertebral (Horizontes Cortos)

En los rendimientos mensuales del S&P 500 en horizontes cortos ( $h < 6$ ), el cabezal de salida es el factor dominante:

Gradiente Estricto: Pasar de Puntual $\to$ $\to$ Gaussiano $\to$ $\to$ GMM produce una mejora estricta en el CRPS.
- Puntual $\to$ Gaussiano: $\sim +1.3\%$ de mejora.
- Gaussiano $\to$ GMM: $\sim +2.4\%$ de mejora.
- Total Puntual $\to$ GMM: $\sim +3.7\%$ de mejora.
Impacto de la Columna Vertebral: Cambiar de columna vertebral manteniendo el cabezal constante cambia el CRPS en menos de un 1.5% en la fila del cabezal puntual. Incluso en los cabezales de densidad, la dispersión de las columnas vertebrales (máximo 5.1% impulsado por N-BEATS) es generalmente menor que el gradiente del cabezal.
Resultados MCS: El Conjunto de Modelos de Confianza sobre errores al cuadrado no excluye ninguna de las 12 variantes al nivel del 5%. Ni la columna vertebral ni el cabezal distinguen los modelos en cuanto a la precisión de la predicción puntual (MSE). El cabezal solo separa los modelos en métricas distribucionales (CRPS, Pinball, cobertura).

2. La "División por Horizonte" (Dependencia del Horizonte)

La dominancia del cabezal depende del horizonte:

Horizontes Cortos ( $h \le 3$ ): El cabezal domina. Los cabezales GMM en columnas vertebrales profundas superan a los modelos clásicos.
Horizontes Largos ( $h \ge 6$ ): La columna vertebral retoma el liderazgo. Los modelos recursivos clásicos (GARCH, ARIMA) con cabezales GMM colapsan (por ejemplo, GARCHgmm cae a $-50\%$ de habilidad de CRPS en $h=6$ ) porque sus pronósticos de volatilidad revierten a la media incondicional. Las columnas vertebrales profundas con entrenamiento directo multietapa mantienen el rendimiento, superando a los modelos clásicos por $\sim 55$ puntos porcentuales en $h=6$ .

3. Generalización entre Activos

El gradiente del cabezal no es universal; depende del proceso generador de datos:

Procesos tipo Rendimiento: (S&P 500 mensual/diario, VIX diario). El cabezal GMM es consistentemente el mejor.
- Caso VIX: Un cabezal de Gauss única falla catastróficamente ( $-24.4\%$ ) en el VIX debido a los picos extremos en la cola derecha. El GMM ( $K=4$ ) captura con éxito estos regímenes multimodales.
Procesos no tipo Rendimiento: (Rendimientos del Tesoro, EUR/USD). Estos revierten a la media alrededor de objetivos estructurales. Aquí, el cabezal GMM añade ruido de parámetros sin beneficio estructural, rindiendo a menudo peor que el cabezal puntual.

4. Valor para la Gestión de Riesgos

Calibración: Los cabezales GMM proporcionan una calibración superior (cobertura del 90% $\approx 0.88\text{--}0.93$ ) en comparación con los cabezales puntuales (que sobrecubren al 0.96 debido a la inflación de varianza post-hoc).
Riesgo de Cola: El valor incremental de la mezcla sobre una Gauss única es mayor en regímenes de alta volatilidad (por ejemplo, $+13.9\%$ de mejora durante la estanflación de la década de 1970).
Métricas Regulatorias: N-BEATS con un cabezal GMM pasa la prueba de cobertura incondicional de Kupiec en los niveles de VaR del 5%, 2.5% y 1%, y logra el Expected Shortfall (ES) más bajo entre los modelos probados.
Limitación: En el umbral extremo de VaR del 1%, el GMM acotado de $K=4$ infravalora el riesgo de cola en comparación con el cabezal puntual (debido a las colas de los componentes gaussianos), lo que sugiere la necesidad de híbridos GMM+EVT para cuantiles extremos.

5. Backtest de Estrategia de Trading

Una estrategia de reversión a la media ingenua utilizando estos pronósticos de densidad pierde dinero en todas las variantes (rendimientos anualizados de $-41\%$ a $-50\%$ ). Esto confirma que los pronósticos distribucionales mejorados son necesarios para la gestión de riesgos, pero no se traducen automáticamente en alfa de trading sin un modelado sofisticado del tamaño de la posición y los costes de transacción.

Significancia y Reivindicaciones

El artículo concluye que para rendimientos financieros de cola pesada en horizontes cortos, el esfuerzo de ingeniería debe centrarse en el cabezal de salida, no en la columna vertebral.

Neutralidad Arquitectónica: Para la predicción puntual, las columnas vertebrales profundas son estadísticamente indistinguibles en estos datos. La "señal" que distingue a las columnas vertebrales está por debajo del nivel de ruido de las métricas de precisión puntual.
Primacía de la Función de Pérdida: La ganancia proviene del uso de una regla de puntuación estrictamente adecuada (NLL de GMM) que penaliza la descalibración de la cola, algo que las pérdidas de Huber/MSE ignoran. El cabezal GMM captura la curtosis excesiva y el riesgo de cola que las Gauss unimodales no pueden capturar.
Validez Contextual: La reivindicación de "dominancia del cabezal" es específica para procesos tipo rendimiento y de cola pesada. No se aplica a series no estacionarias y con reversión a la media como los rendimientos de bonos o divisarias (FX), donde el cabezal puntual sigue siendo competitivo.
Implicación Práctica: Para la gestión de riesgos (VaR, ES, cargos de capital), cambiar de un cabezal puntual estándar a un cabezal GMM es una intervención de alto valor y bajo coste (un "cambio de dos líneas") que genera un valor real durante periodos de crisis, mientras que intercambiar columnas vertebrales ofrece rendimientos insignificantes.

El artículo establece explícitamente que no propone una nueva columna vertebral, una nueva estrategia de trading o una solución universal para todos los tipos de series temporales. Establece una condición de contorno: en rendimientos de cola pesada, el cabezal domina; en otros procesos, no lo hace.