Resumen Técnico: CRAFTER – Agente de Corrección de Residuos con Exploración Temporal y Razonamiento Basado en Características

Planteamiento del Problema

El pronóstico a gran escala es servido cada vez más por modelos fundacionales preentrenados desplegados en un estado "congelado" (zero-shot) para manejar miles de series temporales sin necesidad de un ajuste fino (fine-tuning) por serie. Aunque eficiente, estos núcleos (backbones) congelados fallan de formas estructuradas y recurrentes —como la omisión de promociones, retrasos en cambios de régimen o la subestimación de picos de eventos—. Estos errores son críticos para el negocio y requieren interpretabilidad para poder actuar sobre ellos.

El desafío central es el descubrimiento de características correctivas: identificar características interpretables del residuo (la señal de error) de un pronosticador congelado específico para impulsar un corrector post-hoc ligero. A diferencia de la ingeniería de características automatizada tradicional, que modela el proceso generador de datos para entrenar un nuevo predictor, esta tarea modela el proceso de fallo del modelo. El objetivo no es encontrar regularidades generales, sino descubrir las características que explican los puntos ciegos específicos de un modelo desplegado. Este descubrimiento es difícil porque:

1. Necesidad Semántica: Las características correctivas más valiosas suelen requerir una denominación específica del dominio (por ejemplo, "penetración de renovables") en lugar de una simple enumeración estadística de canales brutos.
2. Dependencia del Régimen: El valor de una característica depende altamente de la combinación específica entre el núcleo (backbone) y el conjunto de datos; una característica que ayuda a un modelo puede ser inerte o perjudicial para otro.

Metodología: CRAFTER

Los autores proponen CRAFTER (Corrective Residual Agent with Feature-based Temporal Exploration and Reasoning), un marco que mantiene el núcleo congelado y mina su residuo utilizando dos generadores distintos, unificados por una puerta de aceptación ciega a la fuente.

1. Descripción General de la Arquitectura

CRAFTER opera en $R$ rondas. En cada ronda, ajusta un corrector ligero, diagnostica los errores restantes en un bloque de validación reservado, mina nuevas características candidatas y las filtra a través de una puerta. El resultado final es un corrector seleccionado por validación (identidad, aditivo o multiplicativo) o el pronóstico original si no se encuentra una mejora.

2. Generadores Duales

CRAFTER emplea dos generadores heterogéneos para proponer especificaciones de características:

• Exploración (Búsqueda Composicional): Una búsqueda de árbol de Monte Carlo (MCTS) que compone canales de entrada brutos utilizando un vocabulario fijo de transformaciones (por ejemplo, log, safe_div) y operadores (por ejemplo, +, *). Trata los canales como "familias de mecanismos" (por ejemplo, volatilidad, tendencia) para guiar la búsqueda de manera eficiente.
• Razonamiento (Proponente LLM): Un Modelo de Lenguaje Grande (LLM) que propone características basadas en la evidencia propia de la ejecución (características aceptadas/rechazadas, familias de mecanismos descubiertas). Genera tres tipos de candidatos:
  • LLM-combo: Combinaciones nombradas de canales existentes.
  • LLM-flag: Banderas binarias basadas en umbrales.
  • LLM-code: Código ejecutable corto para lógica compleja.
  • Proponente Base: Puede inventar nuevas columnas base nombradas que se unen al grupo de canales para rondas de búsqueda subsecuentes.

3. Puerta de Aceptación Ciega a la Fuente

Una única puerta fundamentada en la validación evalúa todos los candidatos independientemente de su origen (búsqueda vs. LLM). Un candidato se acepta solo si:

• Explica una parte del residuo de validación que el corrector actual no puede explicar (la correlación de Spearman $\rho$ supera un umbral $\tau$).
• No es colineal con las características ya aceptadas.
• Cumple con las restricciones de presupuesto por familia y por ronda.

Este diseño asegura que el pipeline sea agnóstico a la fuente de la característica, permitiendo una comparación justa entre generadores y sistemas externos.

4. Corrector Seleccionado por Validación

Las características supervivientes alimentan un pequeño conjunto de correctores: un mapa de identidad (NONE), un Árbol de Decisión Potencializado por Gradiente (GBDT) aditivo y un GBDT multiplicativo. El sistema selecciona la configuración con el mejor wMAPE de validación. La opción "NONE" actúa como salvaguarda, asegurando que la corrección nunca degrade el rendimiento en el conjunto de validación.

면 5. Acoplamiento (CRAFTER†)

El marco soporta un modo acoplado (CRAFTER†) donde el LLM y la búsqueda se retroalimentan. Las columnas base generadas por el LLM y aceptadas se vuelven buscables en la siguiente ronda, y las propuestas siguientes del LLM se condicionan al historial de aceptación/rechazo de la búsqueda.

Contribuciones Clave

1. Marco Ciego a la Fuente (C1): El artículo formula el descubrimiento de características para pronosticadores congelados como una corrección de residuos. Al utilizar una única puerta de validación para fuentes heterogéneas, CRAFTER sirve tanto como capa de corrección desplegable como instrumento de evaluación. Permite que cualquier sistema externo de ingeniería de características se ejecute a través del mismo pipeline, atribuyendo los cambios en el pronóstico únicamente a la fuente de la característica.
2. Caracterización de la Utilidad (C2): Los autores mapean las condiciones bajo las cuales las características correctivas ayudan. Encuentran que las ganancias son proporcionales al "margen de residuo" (estructura explotable en el error). Las correcciones son más efectivas en núcleos débiles con covariables informativas (donde las características nombradas por LLM son críticas) y se vuelven neutras cuando un núcleo fuerte ya ha saturado la serie.

Resultados Experimentales

Los autores evaluaron CRAFTER en seis conjuntos de datos públicos (EPF, ROSSMANN, ROHLIK, BIZITOBS, FAVORITA, M5) y seis familias de núcleos congelados (Timer, Chronos, Moirai, Toto, Chronos-2, Moirai-2.0).

• Desempeño: CRAFTER superó consistentemente a tres líneas base dedicadas de ingeniería de características (TSFRESH, CAAFE, LLM-FE) en todos los presupuestos de características. Aproximadamente duplicó la mejora proporcionada por los métodos de solo corrector y redujo el error de los núcleos más débiles hasta en un 27%.
• Robustez:
  • Presupuesto de Características: CRAFTER superó a las líneas base incluso con presupuestos bajos de características ($K=5$), demostrando que las ganancias provienen de la calidad de la característica, no de la cantidad.
  • Ajuste Fino (Fine-Tuning): CRAFTER proporcionó una mejora adicional incluso cuando se aplicó sobre núcleos ajustados, demostrando que no es un reemplazo de la adaptación, sino una capa complementaria.
  • Backend de LLM: Los resultados se mantuvieron a través de diferentes backends de LLM (GPT-5.2 y DeepSeek-3.4-pro), aunque los conjuntos de características específicos variaron.
• Procedencia de la Característica: El análisis mostró que las características semánticas generadas por LLM (combinaciones y banderas) comprendieron la mayoría de las características seleccionadas, mientras que la búsqueda atómica sirvió como un control para el espacio enumerable.
• Transferencia Temporal: Las características descubiertas en una división temporal se transfirieron efectivamente a divisiones subsecuentes, indicando el descubrimiento de una estructura de residuo persistente en lugar de ruido específico de una ventana.

Significado y Reivindicaciones

El artículo afirma que CRAFTER establece un nuevo paradigma para el despliegue de pronosticadores fundacionales. En lugar de reentrenar o realizar un ajuste fino de costosos modelos fundacionales, los profesionales pueden desplegar una capa de corrección ligera e interpretable que mina los modos de fallo específicos del modelo congelado.

Los autores enfatizan que el valor de las características correctivas no es universal sino dependiente del contexto. El método no pretende arreglar todos los errores de pronóstico; más bien, proporciona una forma sistemática de identificar cuándo un modelo congelado tiene "margen" para mejorar. La importancia radica en:

1. Eficiencia de Costos: Corregir un modelo desplegado es más barato que reentrenarlo.
2. Interpretabilidad: Las características descubiertas (por ejemplo, "penetración_de_renovables") nombran explícitamente los mecanismos que el núcleo omitió, ayudando a la toma de decisiones de negocio.
3. Evaluación Justa: El pipeline ciego a la fuente permite una atribución rigurosa de las ganancias de rendimiento a estrategias específicas de ingeniería de características, separando el valor del generador del valor del corrector.

El artículo concluye que, si bien los presupuestos de características amplifican las ganancias en regímenes no saturados, no pueden fabricar estructura donde el residuo ya es ruido. La estrategia óptima es desplegar el descubrimiento de características correctivas cuando los residuos de validación siguen siendo estructurados, particularmente en regímenes de núcleos débiles o de covariables semánticas.