Is Capability a Liability? More Capable Language Models Make Worse Forecasts When It Matters Most

技术摘要：分布预测中能力即负债

问题陈述
尽管大型语言模型（LLM）通常展现出跨多样化任务的性能提升，但本文识别出一类特定的“逆缩放”现象，即能力的增强反而导致性能下降。具体而言，作者记录到，更强大的 LLM 在针对具有超线性增长特征随后伴随体制变更尾部风险（例如突然崩盘或干预）的时间序列进行分布预测时，表现更差。这种结构在金融、流行病学和经济学中十分常见。核心失效模式在于：能力强的模型能精准捕捉增长信号，却过度-commit 于外推这些信号，将其上尾预测向上偏移。当体制变更发生且增长回落时，这些抬高的上尾会导致巨大误差，而能力较弱的模型则保持更稳定的锚定。

至关重要的是，这种逆缩放在标准的二值或单阈值指标（例如在显著截断点处的 Brier 分数）下是隐形的，这些指标通常显示出正缩放。该失效仅能通过连续且包含尾部的评分规则（例如 CRPS）检测到，从而造成一种情境：同一模型的输出在传统基准下被评为“更好”，但在分布准确性指标下却被评为“更差”。

方法论
本研究采用多管齐下的方法来隔离并验证这一现象：

1. ForecastBench-Sim (FBSim)：一个基于策略游戏《FreeCiv》的程序化生成推演构建的无污染基准。它在六个模板（国库、领土、人口等）上生成成对的二值和连续问题。作者区分了“可破坏”模板（其中衰退是模态结果）和“不可破坏”模板。
2. 合成机制隔离：为了解耦逆缩放的驱动因素，作者使用受控的 SIR（易感 - 感染 - 康复）流行病学模型。他们对比了具有超线性增长随后伴随体制变更的序列，与具有相同崩盘结构的线性增长序列。
3. 家族内消融实验：在 Llama-3.1 家族（{70B, 405B} × {base, instruct}）上进行受控的 $2 \times 2$ 实验，以隔离模型规模和后训练（RLHF/指令微调）的独立及复合效应。
4. 现实世界复现：在四个现实领域测试该模式：
   • COVID-19 发病率（60 个国家）。
   • 美国房价（2003–2006 年泡沫）。
   • 恶性通货膨胀事件（10 个国家的 12 个事件）。
   • 疫苗前美国麻疹数据（1928–1962 年，35 个季节，未根据严重程度筛选）。
5. 干预探针：作者测试领域知识（例如明确命名领域或提供不确定性提示）是否能挽救校准度。
6. 指标：使用连续排序概率分数（CRPS）评估分布准确性，使用 Brier 分数评估二值/阈值准确性。使用分位数损失分解来分析各分位数的误差。

关键结果

• 长视界上的逆缩放：在 FBSim 上，模型能力（Epoch Capabilities Index, ECI）与预测准确性（CRPS）之间的相关性在短视界下为正（$\rho \approx +0.67$），而在长视界下翻转为负（$\rho \approx -0.42$）。这种反转在不同提供商和模型谱系中均具有鲁棒性。
• 机制识别：逆缩放具体由超线性增长与体制变更的组合驱动。
  • 在合成 SIR 数据（超线性增长 + 崩盘）上，能力强的模型显示出强烈的逆缩放（$\rho = -0.62$）。
  • 在具有相同崩盘结构的线性增长数据上，能力强的模型显示出正缩放（$\rho = +0.61$）。
  • 失效集中在上尾（p90）。更强大的模型将其 p90 向上偏移以追踪外推的增长轨迹，而下尾（p10）保持锚定。当崩盘发生时，抬高的 p90 招致巨大的分位数损失惩罚，主导了 CRPS。
• 规模与后训练：Llama-3.1 的 $2 \times 2$ 研究证实，增加规模（从 70B 到 405B）和后训练（从 base 到 instruct）均独立地放大了崩盘体制下的误差。该效应具有复合性，405B instruct 模型表现最差。损害从较小规模时的上尾传播到较大规模时的中心趋势。
• 现实世界验证：逆缩放在 COVID-19、房地产泡沫、恶性通货膨胀和疫苗前麻疹数据上得到复现。值得注意的是，麻疹数据集（未根据严重程度筛选）显示出随着视界增加从正缩放到逆缩放的相同交叉点，证实该效应并非预筛选极端事件的产物。
• 领域知识的失效：提示干预的效果不一致。命名领域挽救了 COVID-19 的校准度，并部分缓解了房地产和麻疹的校准度，但对恶性通货膨胀毫无作用。至关重要的是，模型在 48 次直接探针中正确识别了 46 次恶性通货膨胀危机，却未能将这些知识转化为预测期间的校准尾部。
• 指标依赖性：本文证明，能力与准确性关系的符号取决于评分规则。在 FBSim 上，能力强的模型在二值 Brier 分数上有所提升（$\rho = +0.45$），但在 CRPS 上却下降（$\rho = -0.42$）。从同一连续预测中推导 Brier 分数复现了正缩放，证明失效在于上尾积分，而非二值结果。

意义与主张
本文主张，当前完全依赖二值或单阈值指标的 LLM 预测基准，对于涉及尾部风险的任务存在根本性缺陷。这些基准在包含尾部的评分揭示出灾难性退化时，却认证了能力。

作者认为，最强大的模型最有可能“过早-commit"于增长轨迹，导致体制变更时校准失效。这不是一种分心错误，而是一种“能力驱动的过度承诺”。由于标准训练目标和评估指标奖励阈值准确性，这种过度承诺不太可能仅靠规模扩大来纠正，并可能随着进一步缩放而复合。

本文建议，LLM 预测评估必须包含连续的、无界的准确性度量（如 CRPS 或对数分数），以与阈值指标结合，从而检测上尾失效。研究结果表明，在没有适当分布校准的情况下，部署当前的前沿模型用于对尾部敏感的任务（例如流行病干预时机、金融风险管理、货币政策），可能导致系统性的过度预测，并造成可预防的现实世界危害。