Resumen Técnico: OpenFinGym

Declaración del Problema

La evaluación de agentes de Modelos de Lenguaje de Gran Escala (LLM) en finanzas cuantitativas permanece fragmentada. Los benchmarks existentes suelen aislar tareas individuales (por ejemplo, pronóstico o trading) o dependen de conjuntos de datos estáticos que no logran capturar la naturaleza interdependiente y de múltiples etapas de los flujos de trabajo financieros reales. Además, las plataformas actuales a menudo pasan por alto la relevancia financiera, carecen de controles rigurosos para la fuga de datos (sesgo de anticipación o look-ahead bias) y no admiten una interfaz unificada para diversas familias de tareas como el pronóstico, la generación de mercados, el trading y la detección de fraude. Esta fragmentación conduce a una sobreestimación de la competencia del agente y a una falla en revelar las debilidades en la generalización y la interacción con el mercado real.

Metodología

OpenFinGym aborda estas brechas a través de un entorno de gimnasio (gym environment) unificado diseñado para una evaluación rigurosa, escalable y resistente a la fuga de datos. El sistema se construye sobre tres componentes principales:

1. Especificaciones y Taxonomía de Tareas

Las tareas se formalizan como problemas de aprendizaje automático representados por una terna $(D, T, E)$:

• $D$ (Dataset/Conjunto de Datos): Incluye divisiones de entrenamiento y de prueba.
• $T$ (Descripción de la Tarea): Define las fuentes de datos, las interfaces de entrada-salida, los objetivos y los formatos de salida.
• $E$ (Protocolo de Evaluación): Especifica las métricas y las reglas de agregación.

El entorno cubre cuatro familias de tareas distintas:

• Pronóstico (Forecasting): Predicción de cantidades financieras futuras (retornos, precios, volatilidad) utilizando métricas estadísticas y específicas de finanzas (por ejemplo, $R^2$, ratio de Sharpe, $\Delta$-riesgo).
• Trading: Toma de decisiones secuenciales sobre datos históricos (offline) o en vivo (tiempo real), evaluado mediante PnL, drawdown y rotación (turnover).
• Generación de Mercados (Market Generation): Creación de series temporales o escenarios financieros realistas, evaluados mediante diagnósticos distributivos, temporales y financieros (por ejemplo, autocorrelación, riesgo de cola).
• Detección de Fraude: Clasificación o detección de anomalías en datos transaccionales y con estructura de grafo.

2. Pipeline de Construcción Automatizada de Tareas

OpenFinGym introduce un pipeline para convertir publicaciones de finanzas cuantitativas en paquetes de tareas ejecutables. Este proceso involucra:

• Recolección de Artículos (Paper Harvesting): Filtrado de artículos académicos basados en protocolos experimentales y disponibilidad de datos.
• Construcción de Datasets y Recompensas: Uso de un bucle de generador-revisor (LLM + pruebas unitarias) para materializar conjuntos de datos y métricas de evaluación, asegurando que coincidan con las especificaciones de la fuente.
• Ensamblaje de Tareas: Agrupación de datasets, recompensas y especificaciones en paquetes autónomos. Un principio de diseño clave es la separación de la información visible para el agente de la verdad fundamental (ground truth) accesible solo para el verificador para prevenir la fuga de datos.

3. Tiempo de Ejecución Contenedorizado y Verificación

• Control de Fuga (Leakage Control): Los agentes se ejecutan dentro de contenedores donde las etiquetas de prueba retenidas están explícitamente excluidas. Un servicio de verificación en el lado del host calcula las recompensas utilizando la verdad fundamental, asegurando que los agentes no puedan acceder a los datos de evaluación durante la ejecución.
• Infraestructura en Tiempo Real: Para el trading y el pronóstico de largo horizonte, el sistema emplea un servicio de transmisión de datos de baja latencia (usando WebSockets) y un motor de paper trading. Soporta la resolución diferida, donde los resultados de los pronósticos de largo horizonte se resuelven de forma asíncrona a través de un libro contable persistente de SQLite una vez que los datos de mercado están disponibles.
• Integración de Entrenamiento: El entorno admite el Ajuste Fino Supervisado (SFT) y el Aprendizaje por Refuerzo (RL) post-entrenamiento, permitiendo que los agentes aprendan de trayectorias exitosas.

Contribuciones Clave

1. Suite de Tareas Unificada: Una colección curada de 78 tareas de finanzas cuantitativas verificadas que abarcan pronóstico, generación de mercados, trading y detección de fraude, cubriendo múltiples clases de activos (acciones, cripto, FX, materias primas, etc.).
2. Pipeline de Construcción Automatizada: Un sistema que transforma la literatura académica en tareas de benchmark ejecutables y verificables, reduciendo el esfuerzo de ingeniería manual y asegurando la reproducibilidad.
3. Entorno de Ejecución Resistente a la Fuga: Un entorno de ejecución contenedorizado con un verificador en el lado del host que separa estrictamente los datos de entrenamiento de la verdad fundamental de prueba, evitando la contaminación temporal y el sesgo de anticipación.
4. Soporte de Post-Entrenamiento: Un marco integrado para SFT y RL, que permite la mejora de las capacidades de los agentes en flujos de trabajo financieros específicos.

Resultados

Los autores evaluaron cuatro LLMs de frontera (GPT-4o, GPT-5.1-codex-mini, Haiku 4.5, Sonnet 4.6) y analizaron el impacto de SFT y RL en modelos base Qwen3.

• Desempeño de los Agentes: Ningún modelo único dominó en todas las familias de tareas.
  • Pronóstico: GPT-5.1-codex-mini logró la mejor recompensa (0.036).
  • Generación de Mercados: Sonnet 4.6 tuvo el mejor desempeño (recompensa más baja de 7.114).
  • Trading: GPT-4o logró la mayor recompensa (19.912).
  • Detección de Fraude: Sonnet 4.6 superó a los demás con una recompensa de 1.630.
  • Todos los modelos alcanzaron tasas de éxito del 100% en pronóstico, trading y detección de fraude, lo que indica una interacción de interfaz confiable.
• Eficacia del Post-Entrenamiento:
  • Los modelos base Qwen3 (1.7B, 4B, 8B) fallaron en producir entregas ejecutables (0% de éxito) en tareas de pronóstico retenidas.
  • SFT mejoró las tasas de éxito a aproximadamente 50–80%.
  • RL (GRPO) aumentó aún más las tasas de éxito al 100% en todos los modelos y tareas, mientras reducía las recompensas medias (mejorando el desempeño) en un orden de magnitud en tareas específicas como Tesorería y Cripto.

Significancia y Reivindicaciones

El artículo posiciona a OpenFinGym como una infraestructura crítica para el avance de los agentes financieros autónomos. Su significancia radica en:

• Evaluación Holística: Ir más allá de tareas aisladas para evaluar agentes a través de flujos de trabajo financieros interconectados, proporcionando una medida más realista de la generalización.
• Verificación Rigurosa: Establecer un estándar para la evaluación resistente a la fuga en dominios de alto riesgo, asegurando que los resultados del benchmark reflejen una capacidad genuina en lugar de contaminación de datos.
• Escalabilidad: Demostrar que los pipelines automatizados pueden generar benchmarks complejos fundamentados en la literatura, facilitando la rápida expansión del panorama de evaluación.
• Utilidad de Entrenamiento: Probar que el entorno sirve no solo como un benchmark, sino como un campo de entrenamiento efectivo, donde SFT y RL pueden transformar modelos base de no funcionales a agentes altamente competentes en finanzas cuantitativas.

Los autores señalan que, si bien los resultados actuales de SFT y RL son prometedores, representan una demostración inicial. El trabajo futuro apunta a escalar la recolección de trayectorias, incorporar modelos de base más fuertes y expandir las familias de tareas para incluir la gestión de riesgos y entornos de ejecución más amplios.