⚡ 电气工程

Evaluating the Generalizability of Foundation Models for Extreme Environmental Events: Case Study of California Wildfire PM2.5

本研究将六种时间序列基础模型与传统的深度学习基准模型进行了对比，用于预测加利福尼亚州极端野火引发的 PM2.5 浓度，结果显示，经过充分训练的循环模型在准确性和极端事件检测方面始终优于零样本（zero-shot）和微调后的基础模型，从而挑战了大型预训练模型在环境预测领域普遍占据主导地位的假设。

原作者： Yongcan Huang, Li Jiang, Ze Yu Liu

发布于 2026-09-24

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Yongcan Huang, Li Jiang, Ze Yu Liu

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

空气污染是现代世界对公众健康最持久的威胁之一，但很少有事件能像野火烟雾那样突然且危险。当火灾发生时，它释放的不只是持续不断的烟雾流；它还会送出巨大的、不可预测的微小颗粒峰值，这些颗粒可以传播数百英里并沉入肺部深处。这些被称为 PM2.5 的颗粒如此之小，以至于可以进入血液；在严重的火灾事件期间，它们的浓度可能会上升到比安全水平高出数百倍的程度。预测这些峰值关乎生死，这使得社区能够在空气变得有毒之前发布疏散令、关闭学校并做好医院的准备工作。几十年来，科学家们一直试图使用复杂的基于物理的模型来预测这些事件，这些模型模拟烟雾如何在大气中移动，但这些系统往往太慢，或者需要过多的数据，以至于在实时紧急情况下难以发挥作用。近年来，一种新的方法出现了：利用人工智能从过去的数据中学习模式。其中最有前景的是“基础模型”（foundation models），这些是训练在海量通用时间序列数据（从股市到天气模式）上的大型计算机程序，旨在预测几乎任何数字序列的未来，而无需针对每个新任务进行特定训练。

一个研究小组致力于测试这些强大的、通用的人工智能模型是否能够处理野火烟雾这种极端且混乱的现实。他们将重点放在加利福尼亚州，该州在过去十年中经历了日益严重的火灾季节。该团队收集了一个庞大的数据集，包含加州 79 个监测站的每小时空气质量读数，时间跨度从 2013 年到 2025 年。这一集合包含了 1,375 起不同的野火事件，捕捉了从轻微的背景污染到颗粒物水平飙升至接近 1,250 微克/立方米的极端事件的所有情况。研究人员想要观察这些从未见过这种特定类型数据的全新基础模型，是否能比那些专门针对野火数据进行训练的旧型专用计算机程序，更好地预测未来六、十二或二十四小时的空气质量。为了确保测试的公平性，他们设计了一种严谨的评估方法：要求计算机模型在仅使用其他火灾数据进行学习的情况下，去预测一场它们从未见过的火灾的空气质量。这种方法防止了模型仅仅通过记忆特定火灾的细节来完成任务，而是迫使它们真正理解烟雾行为的潜在模式。

这项研究的结果揭示了关于这些大型人工智能系统能力的令人惊讶的事实。尽管它们以解决复杂问题和从海量数据中学习的能力而闻名，但在预测野火最危险时刻方面，通用型基础模型并未胜过旧有的专用模型。最准确的预测来自于一种被称为双向长短期记忆网络（BiLSTM）的紧凑型、经过充分训练的计算机程序。这种模型是专为该任务构建的，并在历史野火数据上进行了训练，它在预测中始终保持着最小的误差。它特别擅长识别空气质量何时会跨越“危险”阈值，这是关乎公共安全的一项关键能力。相比之下，在未经任何特定火灾数据训练的情况下进行测试的通用基础模型，其表现仅略好于一个假设空气质量与上一小时保持不变的简单猜测。虽然这些大型模型可以较好地预测平均空气质量，但在面对极端的峰值时却表现得非常吃力。其中一个基础模型甚至产生了几个巨大的误差，导致其整体性能失衡，使其完全错过了最严重的峰值，或者在错误的时间预测了这些峰值。

研究人员还测试了是否可以通过给予这些大型模型少量特定的火灾数据训练（一种被称为“微调”的技术）来提高其性能。这个过程允许模型调整其内部设置，以更好地适应野火烟雾的独特行为。虽然这种微调确实有所帮助，但并未缩小差距。即使经过调整，基础模型的表现仍然无法达到那种从头开始针对火灾数据进行训练的专用模型的准确度。这项研究表明，基础模型的庞大规模和通用性质不足以克服预测极端环境事件所带来的独特挑战。这些在海量普通数据上训练的模型，往往会抹平野火烟雾所具有的那种剧烈、锯齿状的峰值，实际上是将危险给“平均化”了。而专用模型由于在多年间学习了火灾烟雾的特定节奏和强度，因此保留了预判那些突发的、威胁生命的激增的能力。

这一发现为依赖空气质量预测的科学家和公共卫生官员提供了一条清晰的路径。它表明，对于最关键、高风险的预测——例如警告社区即将面临危险的空气——经过特定历史数据训练的专用小型模型仍然是最可靠的工具。虽然这些大型通用人工智能模型在通用预测方面展现出了潜力，并且可以通过一定的特定训练得到改进，但它们还不能取代那些已经学习了野火烟雾特定语言的专用系统。这项研究强调，面对罕见和极端事件时，领域特定知识的深度往往比通用知识的广度更为重要。对于生活在火灾频发地区的社区而言，这意味着最有效的早期预警系统，很可能仍然是那些由研究过当地环境中烟雾特定行为的专家所构建的系统，而非仅仅依赖于大规模预训练算法的广泛、通用的智能。

技术摘要：评估基础模型在极端环境事件中的泛化能力

问题陈述

准确预测由野火烟雾引起的 PM2.5 浓度极端峰值仍然是公共卫生领域的一项关键挑战，特别是对于发布及时的疏散指令和医院增援准备而言。虽然时间序列基础模型（TSFMs）通过零样本推理（zero-shot inference）和参数高效的适配（parameter-efficient adaptation）在通用基准测试中表现出了强大的性能，但其在极端、分布外（OOD）条件下的有效性——即野火烟雾所具有的重尾、非平稳动态特性——仍未经测试。

现有文献存在两个主要局限性：

评估协议： 大多数研究依赖于按时间顺序的训练-测试拆分或单站点设置。这些方法会导致同一火灾事件的信息在训练和测试之间发生泄漏，从而无法评估模型在面对一个完全未见的事件时的泛化能力。
领域适用性： 目前尚不清楚在大规模通用语料库上的大规模预训练是否能有效地迁移到特定、偶发且极端的野火 PM2.5 场景，或者轻量级微调（如 LoRA）能否弥合基础模型与领域特定监督学习之间的差距。

研究方法

数据集与预处理

本研究使用了一个包含 12 年（2013–2025 年）小时级数据集，涵盖了加利福尼亚州 79 个经 EPA 认证的监测站点的 1,375 起野火事件。该数据集包含 173 万条与事件对齐的记录，PM2.5 浓度范围从 0 到 1,249 µg/m³。值得注意的是，数据呈现严重的偏态分布：93.8% 的读数处于“良好至中度”范围，而仅有 0.28% 达到“危险”水平（>225.5 µg/m³）。

预处理包括：

事件对齐： 将每起野火事件与其最近的监测站（100 公里以内）进行配对。
缺失值处理： 避免使用插值法以防止产生人工动态；将数据分割为连续的数据块。
归一化： 对训练好的基线模型进行逐站点 z-score 归一化；对基础模型使用原始单位（并针对 Time-MoE 进行特殊处理）。
窗口化： 使用 48 小时的输入上下文来预测 6、12 和 24 小时的预测时界（horizons）。

评估协议：留一事件法 (LOIO)

为了防止时间泄漏，并模拟预测新火灾事件（即没有既往特定事件历史）的实际操作场景，作者采用了留一事件法 (Leave-One-Incident-Out, LOIO) 交叉验证协议。

分组： 与单个野火事件相关的所有时间窗口都被分配到同一个折叠（fold）中。
分层： 折叠根据事件的峰值浓度进行分层，以确保训练集和测试集中事件严重程度分布的平衡。
验证： 在每个折叠中，模型在所有其他事件上进行训练，并仅在被留出的事件上进行测试。

评估模型

研究对比了三个类别中的十种配置：

训练好的深度学习基线： LSTM、BiLSTM 和 Transformer（完全基于野火数据从头开始训练）。
零样本基础模型： TimesFM、Chronos-2、Moirai-2 和 Time-MoE（冻结预训练权重，不进行梯度更新）。
LoRA 微调的基础模型： 使用低秩自适应（Lo-Rank Adaptation, LoRA）仅在训练折叠上进行适配的 Chronos-2 和 Time-MoE。

指标

性能评估使用以下指标：

回归指标： 平均绝对误差 (MAE)、均方根误差 (RMSE) 和决定系数 ( $R^2$ )。
超标检测： 在 EPA AQI 阈值（35.5, 55.5, 125.5, 和 225.5 µg/m³）下的 F1 分数，以评估预测危险事件的能力。

关键结果

1. 训练好的循环神经网络基线的优越性

与“更大的预训练模型必然占主导地位”的假设相反，经过充分训练的 BiLSTM 在所有指标上均取得了最佳性能：

最低 MAE： 5.16 µg/m³（相比之下，零样本基础模型的 MAE 为 5.56–5.92 µg/m³）。
最高超标 F1： 在危险阈值（>225.5 µg/m³）下，BiLSTM 达到了 0.63 的 F1 分数，显著优于表现最好的零样本基础模型（0.54）以及 LoRA 微调变体。
稳定性： BiLSTM 在所有预测时界（6、12、24 小时）内均保持了一致的性能。

2. 零样本基础模型的局限性

提升有限： 零样本 TSFMs 在总体的 MAE 上较持久性基线（persistence baseline）有轻微改进，但未能接近训练好的循环模型。
尾部不稳定： 零样本 Chronos-2 表现出严重的不稳定性。虽然其 MAE 具有竞争力（5.61 µg/m³），但其 RMSE 异常高（23.45 µg/m³），且 $R^2$ 为负值（-0.075）。这表明存在偶发的、大幅度的误差，这类误差会被平方误差指标严重惩罚，但在绝对误差指标中却难以察觉。
时界退化： 随着预测时界从 6 小时增加到 24 小时，训练好的基线与基础模型之间的性能差距不断扩大。

3. LoRA 微调的影响

部分修复： LoRA 微调显著提升了 Chronos-2 和 Time-MoE 的性能。对于 Chronos-2，它修复了尾部不稳定性（RMSE 从 23.45 降至 15.67 µg/m³； $R^2$ 从 -0.08 提升至 0.60）。
持续存在的差距： 尽管有所改进，但在任何指标上，LoRA 微调后的变体都未能超越经过充分训练的 BiLSTM 或 LSTM。作者认为，轻量级适配虽然重新校准了量级尺度，但未能灌输起预测极端事件所需的精细时间动态特性。

核心贡献

基准与协议： 发布了一个包含 12 年、79 个站点的加州野火 PM2.5 基准，并引入了 LOIO 评估协议，该协议防止了事件层面的信息泄漏，并直接模拟了预测全新、未见火灾事件的场景。
首个针对极端野火 PM2.5 的 TSFM 基准： 首次系统地评估了时间序列基础模型（四种零样本，两种 LoRA 微调）针对极端、偶发性野火烟雾（而非常规城市污染）的表现。
反直觉的经验发现： 证明了紧凑且经过充分训练的 BiLSTM 在聚合误差和极端事件超标检测方面，始终优于所有 TSFM 配置（包括零样本和微调版本）。
部署指导： 提供了明确的实践建议：虽然零样本模型可以作为基准，但当目标是预测危险水平的空气质量时，领域特定的监督训练仍然是必要的；而 LoRA 微调仅在缺乏站点特定历史数据时，作为一种可行的快速部署路径。

意义与主张

本文挑战了“架构规模和大规模预训练会自动取代领域特定训练数据”的普遍假设，尤其是在目标涉及稀有极端事件时。作者主张：

泛化限制： 在通用语料库上的大规模预训练对野火烟雾这种重尾、非平稳动态特性的迁移效果非常微弱。
评估的必要性： 标准的时间顺序拆分不足以应对极端事件预测；必须使用事件层面的留出法（incident-level holdout）来揭示模型失效（例如 Chronos-2 的尾部不稳定性），否则这些失效会被掩盖。
操作现实： 对于积累了火灾历史记录的站点，一个小型且经过充分训练的循环模型仍然是进行超标关键预测的最有效且最高效的选择。基础模型即使经过微调，目前也无法在极端状态下达到这一性能水平。

研究结论指出，虽然基础模型在数据匮乏场景下的快速部署方面具有潜力，但当目标是可靠预测危险级别的空气质量事件时，它们目前还无法取代领域特定的监督训练。