Resumo Técnico: CRAFTER – Agente Corretivo de Resíduo com Exploração e Raciocínio Temporal Baseado em Características

Declaração do Problema

A previsão em larga escala é cada vez mais servida por modelos de fundação pré-treinados implantados em um estado "congelado" (zero-shot) para lidar com milhares de séries temporais sem o ajuste fino (fine-tuning) por série. Embora eficiente, esses backbones congelados falham de maneiras estruturadas e recorrentes — como omitir promoções, atrasar mudanças de regime ou subestimar picos de eventos. Esses erros são críticos para os negócios e exigem interpretabilidade para serem acionados.

O desafio central é a descoberta de características corretivas: identificar características interpretáveis do resíduo (o sinal de erro) de um determinado forecaster congelado para impulsionar um corretor pós-hoc leve. Diferente da engenharia de características tradicional automatizada, que modela o processo gerador de dados para treinar um novo preditor, esta tarefa modela o processo de falha do modelo. O objetivo não é encontrar regularidades gerais, mas sim descobrir características que expliquem os pontos cegos específicos de um modelo implantado. Essa descoberta é difícil porque:

1. Necessidade Semântica: As características corretivas mais valiosas geralmente exigem nomenclatura específica do domínio (ex: "penetração de renováveis") em vez de uma simples enumeração estatística de canais brutos.
2. Dependência de Regime: O valor de uma característica é altamente dependente do emparelhamento específico entre backbone e conjunto de dados; uma característica que ajuda um modelo pode ser inerte ou prejudicial para outro.

Metodologia: CRAFTER

Os autores propõem o CRAFTER (Corrective Residual Agent with Feature-based Temporal Exploration and Reasoning), um framework que mantém o backbone congelado e minera seu resíduo usando dois geradores distintos, unificados por um portão de aceitação cego à fonte.

1. Visão Geral da Arquitetura

O CRAFTER opera em $R$ rodadas. Em cada rodada, ele ajusta um corretor leve, diagnostica os erros restantes em um bloco de validação mantido fora (held-out), minera novas características candidatas e as filtra através de um portão. A saída final é um corretor selecionado por validação (identidade, aditivo ou multiplicativo) ou a previsão original, caso nenhuma melhoria seja encontrada.

2. Geradores Duplos

O CRAFTER emprega dois geradores heterogêneos para propor especificações de características:

• Exploração (Busca Composicional): Uma Busca em Árvore Monte Carlo (MCTS) que compõe canais de entrada brutos usando um vocabulário fixo de transformações (ex: log, safe_div) e operadores (ex: +, *). Ela trata os canais como "famílias de mecanismos" (ex: volatilidade, tendência) para guiar a busca de forma eficiente.
• Raciocínio (Propositor LLM): Um Modelo de Linguagem de Grande Escala (LLM) que propõe características baseando-se nas evidências da própria execução (características aceitas/rejeitadas, famílias de mecanismos descobertas). Ele gera três tipos de candidatos:
  • LLM-combo: Combinações nomeadas de canais existentes.
  • LLM-flag: Flags binárias baseadas em limiares (thresholds).
  • LLM-code: Código executável curto para lógica complexa.
  • Base Proposer: Pode inventar novas colunas base nomeadas que se juntam ao pool de canais para rodadas de busca subsequentes.

3. Portão de Aceitação Cego à Fonte

Um portão único baseado em validação avalia todos os candidatos, independentemente de sua origem (busca vs. LLM). Um candidato é aceito apenas se:

• Ele explica uma parte do resíduo de validação que o corretor atual não consegue explicar (a correlação de Spearman $\rho$ excede um limiar $\tau$).
• Ele não é colinear com as características já aceitas.
• Ele adere às restrições de orçamento por família e por rodada.

Este design garante que o pipeline seja agnóstico à fonte da característica, permitindo uma comparação justa entre geradores e sistemas externos.

4. Corretor Selecionado por Validação

As características sobreviventes alimentam um pequeno conjunto de corretores: um mapa de identidade (NONE), um Gradient Boosted Decision Tree (GBDT) aditivo e um GBDT multiplicativo. O sistema seleciona a configuração com o melhor wMAPE de validação. A opção "NONE" atua como uma salvaguarda, garantindo que a correção nunca degrade o desempenho no conjunto de validação.

5. Acoplamento (CRAFTER†)

O framework suporta um modo acoplado (CRAFTER†) onde o LLM e a busca retroalimentam um ao outro. Colunas base geradas pelo LLM e aceitas tornam-se pesquisáveis na próxima rodada, e as próximas propostas do LLM são condicionadas ao histórico de aceitação/rejeição da busca.

Principais Contribuições

1. Framework Cego à Fonte (C1): O artigo formula a descoberta de características para forecasters congelados como correção de resíduo. Ao usar um único portão de validação para fontes heterogêneas, o CRAFTER serve tanto como uma camada de correção implantável quanto como um instrumento de avaliação. Ele permite que qualquer sistema externo de engenharia de características rode através do mesmo pipeline, atribuindo as mudanças na previsão exclusivamente à fonte da característica.
2. Caracterização de Utilidade (C2): Os autores mapeiam as condições sob as quais as características corretivas ajudam. Eles descobrem que os ganhos são proporcionais ao "headroom de resíduo" (estrutura explorável no erro). As correções são mais eficazes em backbones fracos com covariáveis informativas (onde características nomeadas por LLM são críticas) e tornam-se neutras quando um backbone forte já saturou a série.

Resultados Experimentais

Os autores avaliaram o CRAFTER em seis conjuntos de dados públicos (EPF, ROSSMANN, ROHLIK, BIZITOBS, FAVORITA, M5) e seis famílias de backbones congelados (Timer, Chronos, Moirai, Toto, Chronos-2, Moirai-2.0).

• Desempenho: O CRAFTER superou consistentemente três baselines dedicados de engenharia de características (TSFREX, CAAFE, LLM-FE) em todos os orçamentos de características. Ele aproximadamente dobrou o ganho (lift) fornecido por métodos de apenas corretor e reduziu o erro dos backbones mais fracos em até 27%.
• Robustez:
  • Orçamento de Características: O CRAFTER superou os baselines mesmo com baixos orçamentos de características ($K=5$), provando que os ganhos vêm da qualidade da característica, não da quantidade.
  • Fine-Tuning: O CRAFTER forneceu ganho adicional mesmo quando aplicado sobre backbones com fine-tuning, demonstrando que não é um substituto para a adaptação, mas uma camada complementar.
  • Backend de LLM: Os resultados mantiveram-se consistentes entre diferentes backends de LLM (GPT-5.2 e DeepSeek-3.4-pro), embora os conjuntos de características específicos tenham variado.
• Proveniência de Características: A análise mostrou que características semânticas geradas por LLM (combinações e flags) compuseram a maioria das características selecionadas, enquanto a busca atômica serviu como um controle para o espaço enumerável.
• Transferência Temporal: Características descobertas em uma divisão temporal transferiram-se efetivamente para divisões subsequentes, indicando a descoberta de uma estrutura de resíduo persistente em vez de ruído específico de uma janela.

Significância e Alegações

O artigo afirma que o CRAFTER estabelece um novo paradigma para o deployment de forecasters de fundação. Em vez de retreinar ou realizar fine-tuning de modelos de fundação caros, os praticantes podem implantar uma camada de correção leve e interpretável que minera os modos de falha específicos do modelo congelado.

Os autores enfatizam que o valor das características corretivas não é universal, mas dependente de contexto. O método não pretende corrigir todos os erros de previsão; em vez disso, fornece uma maneira sistemática de identificar quando um modelo congelado possui "headroom" para melhoria. A significância reside em:

1. Eficiência de Custo: Corrigir um modelo implantado é mais barato do que retreiná-lo.
2. Interpretabilidade: As características descobertas (ex: "penetração_de_renováveis") nomeiam explicitamente os mecanismos que o backbone omitiu, auxiliando na tomada de decisão de negócios.
3. Avaliação Justa: O pipeline cego à fonte permite a atribuição rigorosa dos ganhos de desempenho à estratégia de engenharia de características, separando o valor do gerador do valor do corretor.

O artigo conclui que, embora os orçamentos de características ampliem os ganhos em regimes não saturados, eles não podem fabricar estrutura onde o resíduo já é ruído. A estratégia ideal é implantar a descoberta de características corretivas quando os resíduos de validação permanecerem estruturados, particularmente em regimes de backbones fracos ou de covariáveis semânticas.