Is Capability a Liability? More Capable Language Models Make Worse Forecasts When It Matters Most

Resumo Técnico: Capacidade como Passivo em Previsão Distribucional

Declaração do Problema
Embora modelos de linguagem (LLMs) maiores geralmente demonstrem desempenho aprimorado em diversas tarefas, este artigo identifica uma classe específica de "escalonamento inverso" onde o aumento da capacidade leva a um desempenho pior. Especificamente, os autores documentam que LLMs mais capazes produzem previsões distribucionais inferiores em séries temporais caracterizadas por crescimento superlinear seguido por um risco de cauda de mudança de regime (por exemplo, uma queda súbita ou intervenção). Essa estrutura é comum em finanças, epidemiologia e economia. O modo de falha central é que modelos capazes detectam sinais de crescimento com precisão, mas comprometem-se excessivamente em extrapolá-los, deslocando suas previsões de cauda superior para cima. Quando o regime muda e o crescimento reverte, essas caudas superiores elevadas resultam em erros massivos, enquanto modelos menos capazes permanecem mais ancorados.

Crucialmente, esse escalonamento inverso é invisível sob métricas binárias ou de limiar único padrão (por exemplo, pontuação Brier em um corte saliente), que frequentemente mostram escalonamento positivo. A falha só é detectável por meio de regras de pontuação contínuas e inclusivas de cauda (por exemplo, CRPS), criando um cenário onde as mesmas saídas do modelo são classificadas como "melhores" por benchmarks convencionais, mas "piores" por métricas de precisão distribucional.

Metodologia
O estudo emprega uma abordagem multifacetada para isolar e verificar esse fenômeno:

1. ForecastBench-Sim (FBSim): Um benchmark livre de contaminação construído a partir de expansões geradas proceduralmente do jogo de estratégia FreeCiv. Gera pares de perguntas binárias e contínuas em seis modelos (tesouraria, território, população, etc.). Os autores distinguem entre modelos "disruptáveis" (onde o declínio é um resultado modal) e modelos "não disruptáveis".
2. Isolamento de Mecanismo Sintético: Para desvendar os drivers do escalonamento inverso, os autores utilizam um modelo epidemiológico SIR (Susceptível-Infectado-Recuperado) controlado. Comparam séries com crescimento superlinear seguido de mudança de regime contra séries de crescimento linear com estruturas de queda idênticas.
3. Ablação Dentro da Família: Um experimento controlado $2 \times 2$ na família Llama-3.1 ({70B, 405B} $\times$ {base, instruct}) isola os efeitos independentes e compostos da escala do modelo e do pós-treinamento (RLHF/ajuste por instrução).
4. Replicação no Mundo Real: O padrão é testado em quatro domínios do mundo real:
   • Incidência de COVID-19 (60 países).
   • Preços de habitação nos EUA (bolha de 2003–2006).
   • Episódios de hiperinflação (12 episódios em 10 países).
   • Dados pré-vacina de sarampo nos EUA (1928–1962, 35 estações, não selecionados por gravidade).
5. Sondas de Intervenção: Os autores testam se o conhecimento de domínio (por exemplo, nomear explicitamente o domínio ou fornecer pistas de incerteza) resgata a calibração.
6. Métricas: O desempenho é avaliado usando a Pontuação de Probabilidade Ranqueada Contínua (CRPS) para precisão distribucional e a pontuação Brier para precisão binária/de limiar. A decomposição da perda Pinball é usada para analisar erros por quantil.

Principais Resultados

• Escalonamento Inverso em Horizontes Longos: No FBSim, a correlação entre capacidade do modelo (Índice de Capacidades de Época, ECI) e precisão da previsão (CRPS) inverte de positiva em horizontes curtos ($\rho \approx +0,67$) para negativa em horizontes longos ($\rho \approx -0,42$). Essa inversão é robusta entre provedores e linhagens de modelos.
• Identificação do Mecanismo: O escalonamento inverso é impulsionado especificamente pela combinação de crescimento superlinear e mudança de regime.
  • Em dados SIR sintéticos (crescimento superlinear + queda), modelos capazes mostram forte escalonamento inverso ($\rho = -0,62$).
  • Em dados de crescimento linear com a mesma estrutura de queda, modelos capazes mostram escalonamento positivo ($\rho = +0,61$).
  • A falha concentra-se na cauda superior (p90). Modelos mais capazes deslocam seu p90 para cima para rastrear a trajetória de crescimento extrapolada, enquanto a cauda inferior (p10) permanece ancorada. Quando a queda ocorre, o p90 elevado incorre em penalidades Pinball massivas, dominando o CRPS.
• Escala e Pós-Treinamento: O estudo $2 \times 2$ da Llama-3.1 confirma que tanto o aumento da escala (de 70B para 405B) quanto o pós-treinamento (de base para instruct) amplificam independentemente o erro em regimes de queda. O efeito compõe-se, com o modelo 405B instruct mostrando o pior desempenho. O dano se propaga da cauda superior em escalas menores para a tendência central em escalas maiores.
• Validação no Mundo Real: O escalonamento inverso replica-se em COVID-19, bolhas imobiliárias, hiperinflação e sarampo pré-vacina. Notavelmente, o conjunto de dados de sarampo (não selecionado por gravidade) mostra a mesma transição de escalonamento positivo para inverso conforme o horizonte aumenta, confirmando que o efeito não é um artefato da seleção prévia de eventos extremos.
• Falha do Conhecimento de Domínio: Intervenções de prompt têm efeitos inconsistentes. Nomear o domínio resgata a calibração para COVID-19 e atenua parcialmente para habitação e sarampo, mas tem nenhum efeito na hiperinflação. Crucialmente, os modelos identificam corretamente crises de hiperinflação em 46/48 sondas diretas, mas falham em traduzir esse conhecimento em caudas calibradas durante a previsão.
• Dependência de Métrica: O artigo demonstra que o sinal da relação capacidade-precisão reverte dependendo da regra de pontuação. No FBSim, modelos capazes melhoram nas pontuações Brier binárias ($\rho = +0,45$), mas degradam no CRPS ($\rho = -0,42$). Derivar pontuações Brier das mesmas previsões contínuas reproduz o escalonamento positivo, provando que a falha está no integral da cauda superior, não no resultado binário.

Significância e Alegações
O artigo alega que os benchmarks atuais de previsão com LLMs, que dependem exclusivamente de métricas binárias ou de limiar único, são fundamentalmente falhos para tarefas envolvendo risco de cauda. Esses benchmarks certificam capacidade onde a pontuação inclusiva de cauda revela degradação catastrófica.

Os autores argumentam que os modelos mais capazes são os mais propensos a "comprometer-se prematuramente" com trajetórias de crescimento, levando a má calibração quando os regimes mudam. Isso não é um erro de distração, mas uma forma de "comprometimento excessivo impulsionado por competência". Como objetivos de treinamento padrão e métricas de avaliação recompensam a precisão de limiar, esse comprometimento excessivo é improvável de ser corrigido apenas pela escala e pode se compor com o escalonamento adicional.

O artigo recomenda que as avaliações de previsão com LLMs devem incluir medidas contínuas e ilimitadas de precisão (como CRPS ou pontuação logarítmica) ao lado de métricas de limiar para detectar falhas na cauda superior. As descobertas sugerem que implantar modelos de fronteira atuais para tarefas sensíveis à cauda (por exemplo, timing de intervenção em epidemias, gestão de risco financeiro, política monetária) sem calibração distribucional adequada pode levar a superestimações sistemáticas e danos reais evitáveis.