Resumen Técnico: FinATOM

Declaración del Problema

Los sistemas de predicción y toma de decisiones financieras dependen típicamente de cabezales de regresión, ranking o política específicos para la tarea, acoplados a modelos de lenguaje. Este enfoque fragmenta el contrato de salida, requiriendo parametrizaciones, pérdidas y decodificadores separados para cada tarea, lo que separa al modelo de lenguaje del objeto numérico final que se evalúa. Además, la generación estándar de tokens numéricos enfrenta desafíos como la tokenización irregular, la pérdida del orden numérico y el riesgo de generar salidas malformadas que violan las restricciones (por ejemplo, pesos de solo posición larga o límites de presupuesto). El artículo investiga si un modelo de lenguaje causal puede representar directamente pronósticos y decisiones mediante la generación de tokens restringidos, eliminando la necesidad de cabezales numéricos específicos para la tarea y manteniendo la auditabilidad, la capacidad de análisis mecánico y la compatibilidad tanto con el ajuste fino supervisado (SFT) como con la optimización de política a nivel de token.

Metodología

FinATOM introduce una interfaz unificada sin cabezales utilizando un núcleo Llama 3.2 1B adaptado mediante LoRA. El sistema soporta dos tareas complementarias —pronóstico de retornos de acciones y asignación dinámica de ETF— utilizando una proyección de vocabulario compartida pero con gramáticas y objetivos de entrenamiento distintos.

1. Interfaz Nativa de Tokens Compartidos

En lugar de añadir cabezales de regresión o de política, el modelo genera tokens restringidos directamente. Los valores numéricos válidos son elementos de vocabulario aprendidos puntuados por la lectura del modelo de lenguaje vinculado.

• Pronóstico: El modelo emite de forma autorregresiva tokens para retornos consecutivos de D1, D2 y D3.
• Asignación: El modelo genera pesos normalizados, de solo posición larga, para cinco ETFs.

2. Pipeline de Asignación de Cartera

La tarea de asignación se separa en imitación causal y mejora basada en resultados:

• SFT Causal (Ajuste Fino Supervisado): El modelo aprende a imitar un "ancla de media-varianza causal". Este objetivo del profesor se calcula exclusivamente a partir de la información visible en la fecha de decisión (retornos de 20 días, riesgo, correlaciones y el estado previo de la cartera). La solución continua se contrae (85% ancla, 15% peso igual) y se cuantiza determinísticamente sobre una cuadrícula de 50 unidades. El objetivo de SFT combina la entropía cruzada de tokens con un objetivo gaussiano ordinal en los cinco espacios de valor.
• Optimización de Política (GRPO Aumentada con DAPO): Una etapa posterior optimiza el ratio de Sharpe realizado de 21 días. El modelo muestrea secuencias de asignación legales, y la recompensa se define como el Sharpe realizado menos una penalización por desviación del ancla causal. Los retornos futuros entran solo en este signo de recompensa, no en el prompt o en los objetivos de SFT. La actualización utiliza la Optimización de Política Relativa de Grupo (GRPO) con recorte asimétrico estilo DAPO y gradientes a nivel de token, sin una penalización KL de modelo de referencia.

3. Pipeline de Pronóstico

• Construcción de Objetivos: Objetivos de retornos estandarizados por volatilidad recortados a un rango de [-8, 8], mapeados a 41 contenedores (bins) de cuantiles.
• Entrenamiento: El SFT utiliza entropía cruzada ordinal en los espacios de los contenedores y una pérdida de ranking de la misma fecha.
• Decodificación: El modelo genera tokens D1, D2 y D3 de forma autorregresiva. Los puntajes continuos se derivan de las expectativas condicionales de las distribuciones de contenedores ordenadas, reescalados por la volatilidad histórica, y compuestos para el ranking.
• Etapa de Política: Una etapa de política de un solo epoch muestrea trayectorias y actualiza las tres posiciones de los contenedores utilizando una recompensa financiera de múltiples componentes (paso, trayectoria, dirección, rank y los 20 componentes principales).

Contribuciones Clave

1. Interfaz Unificada Sin Cabezales: Introducción de una interfaz de token restringido compartida para el pronóstico de retornos de tres pasos autorregresivo y la asignación normalizada de cinco ETFs, eliminando la necesidad de cabezales numéricos adicionales específicos para la tarea.
2. Pipeline de Asignación Causal: Desarrollo de un pipeline que combina un profesor de media-varianza totalmente especificado (SFT causal) con GRPO aumentada con DAPO, alineando la política directamente con el Sharpe de la cartera realizado mientras se penaliza la desviación del ancla causal.
3. Evidencia Empírica: Provisión de evidencia de asignación cronológica a través de tres periodos de prueba (2023–2025), una ablación de modalidad de entrada controlada y una comparación exploratoria en el conjunto de datos FinTexTS, distinguiendo las mejoras dentro del protocolo de las comparaciones contextuales con bases de referencia publicadas.

Resultados

Asignación de Cartera (2023–2025)

• Mejora del Sharpe: La etapa de política mejoró el Sharpe bruto agrupado de 1.428 (SFT) a 1.529. Bajo un modelo de costo de transacción de 5 puntos básicos, el Sharpe neto aumentó de 1.394 a 1.494.
• Dependencia del Régimen: La política igualó el desempeño del SFT en 2023, pero mostró ganancias significativas en 2024 y 2025. En 2024, el Sharpe de la política (1.564) superó al del profesor causal (1.407), indicando que la política aprende más allá de la simple imitación.
• Rotación (Turnover): La rotación promedio de una vía aumentó solo ligeramente de 1.481% a 1.537%, lo que sugiere que las ganancias provienen de una mejor relación retorno-riesgo en lugar de un aumento en la intensidad de negociación.
• Modalidad de Entrada: La combinación de noticias y series temporales produjo el Sharpe medio más alto (1.540). Si bien los datos de series temporales proporcionaron una señal estable por sí sola, los datos de noticias contribuyeron más significativamente en el régimen de 2025.

Pronóstico de Acciones (FinTexTS)

• Desempeño: En el conjunto de datos FinTexTS, la estrategia SFT logró un retorno acumulado del 73.52% y un Sharpe de 2.68. La etapa de política de un solo epoch mejoró modestamente estos valores a 73.72% y 2.69, respectivamente.
• Comparación: Aunque la política de FinATOM superó al sistema publicado de FinTexTS en retorno acumulado (73.72% vs. 53.98%), la diferencia de Sharpe fue mínima (2.69 vs. 2.67). Los autores señalan que esta comparación es contextual debido a los diferentes protocolos y la falta de métricas de volatilidad/drawdown emparejadas.

Significancia y Reclamaciones

El artículo afirma que FinATOM demuestra la viabilidad de utilizar la generación directa de tokens de modelos de lenguaje para la predicción numérica financiera y la toma de decisiones.

• Viabilidad sobre Superioridad: Los autores declaran explícitamente que los resultados establecen la viabilidad en lugar de una superioridad universal. La optimización de la política proporciona un refinamiento incremental en lugar de un cambio radical en la señal, particularmente en la tarea de pronóstico donde la mayor parte del poder predictivo se captura durante el SFT.
• Integridad Causal: El diseño asegura que los retornos futuros estén ausentes de los prompts y de los objetivos de SFT, entrando únicamente en la recompensa de la política, manteniendo así la integridad causal.
• Limitaciones: El estudio reconoce limitaciones, incluyendo un universo de activos restringido (5 ETFs), una única semilla de entrenamiento por configuración y la posible influencia del corte de preentrenamiento de Llama 3.2 (diciembre de 2023) en los resultados de 2023. Los autores advierten que los hallazgos deben interpretarse como evidencia de viabilidad, lo que justifica pruebas más amplias en diversos activos, regímenes y semillas aleatorias para confirmar su robustez.