📊 statistics

Towards a Physics Foundation Model

本文介绍了通用物理变换器（GPhyT），这是一个在 1.8 TB 多样化模拟数据上训练的基础模型，它通过直接从上下文中推断控制动力学而非依赖预定义的方程，实现了卓越的多领域性能和零样本泛化能力。

原作者： Florian Wiesner, Zoë J. Gray, Matthias Wessling, Stephen Baek

发布于 2026-06-02

📖 1 分钟阅读☕ 轻松阅读

原作者： Florian Wiesner, Zoë J. Gray, Matthias Wessling, Stephen Baek

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图教会一台计算机如何预测世界的运动方式。目前，如果你想模拟水流绕过船只的过程，你需要构建一个特定的“船只模拟器”。如果你想模拟热量如何在墙壁中传递，你必须构建一个完全不同的“墙壁模拟器”。如果你想模拟爆炸产生的冲击波，你还需要第三个完全不同的程序。

目前的物理模拟软件就像是一个工具箱，其中的每一种工具都只能胜任一项特定的工作。如果你需要拧螺丝，你不能使用锤子。

核心理念：“全能物理大厨”
这篇论文介绍了一种新型的人工智能，称为 GPhyT（通用物理变换器）。作者想要创造一种“物理基础模型”。请不要将其视为一个包含各种专用工具的工具箱，而要将其视为一位全能大厨。

在语言领域，我们拥有“基础模型”（比如你现在正在交谈的这个 AI），它们只需阅读一些示例，就能写诗、调试代码或总结新闻文章。它们不需要为每个新话题重新进行训练；它们只需要学习你所询问内容的上下文。

作者提出了一个问题：我们能否为物理学创造一位“全能大厨”？ 我们能否通过在海量的各种物理模拟数据上进行训练，从而训练出这样一个单一的 AI，让它只需观察当前发生的少量快照，就能预测任何系统的行为？

他们是如何做到的
为了训练这位“全能大厨”，他们不仅仅给了它一个食谱。他们向它喂入了一本包含 1.8 TB 数据的庞大“食谱大全”。这不仅仅是一种类型的汤，它混合了：

平滑流动的流水（如河流）。
剧烈碰撞的空气（冲击波）。
上升与下降的热量（如沸腾的水锅）。
流体与固体的混合（如水流过岩石）。
甚至流体与另一种流体的混合（如油和水）。

他们并没有告诉 AI 每个场景的具体数学方程（例如“使用这个公式处理水”或“使用那个公式处理空气”），而是让 AI 通过观察一段短序列的图像（快照），自行推导出规则。

秘诀：“时间导数”技巧
大多数 AI 模型试图直接猜测下一张图片。作者发现了一种更好的方法。他们教导他们的模型扮演速度计的角色，而不是水晶球。

速度计（神经微分器）： AI 观察当前状态和最近的过去，它并不直接猜测未来，而是计算当前变化的速率（变化率）。
计算器（数值积分器）： 一旦 AI 知晓了变化速率，一个标准的、可靠的数学工具（内置于系统中）就会利用这个速度来计算下一步。

这就像是教一名驾驶员去感受汽车的加速度，而不是仅仅猜测汽车 10 秒后会在哪里。这使得模型在长时间运行中更加稳定且准确。

他们的发现
该论文声称取得了三大突破：

一统天下的模型： GPhyT 模型接受了与其他顶尖物理 AI 模型的对比测试。它不仅表现出色，而且彻底碾压了它们。在许多测试中，它的准确度比排名第二的模型高出 7 倍。它可以在同一个大脑中处理水流、热量和爆炸。
“零样本”魔力： 这是最令人兴奋的部分。团队在模型训练期间从未见过的物理情境下对其进行了测试。
- 例子： 他们展示了一个冲击波撞击一个从未见过的形状的墙壁。
- 结果： 模型并没有进行随机猜测；它从上下文中推断出了物理原理，并生成了一个真实的模拟过程。它学习的是物理原则，而不仅仅是训练数据的特定模式。
保持稳定性： 预测长期的物理过程是非常困难的，因为微小的误差会迅速累积（就像滚下山坡的雪球）。虽然该模型目前尚不完美，但它比其他容易陷入混乱崩溃的模型能更长时间地保持稳定且符合物理逻辑。

总结
论文结论指出，我们已经成功迈出了向“一次训练，随处部署”模型迈出的第一步。正如语言模型可以在无需重新训练的情况下撰写任何主题的内容一样，这种新模型可以模拟多种不同的物理系统，而无需为每种系统编写新程序。

它目前还“不是”什么
作者非常谨慎地说明了它目前还不是什么：

它还不能取代工程师目前使用的超高精度数学求解器。它目前的精度还不足以用来设计桥梁或喷气发动机。
它目前仅适用于 2D（平面）模拟，而非 3D（如完整的游戏世界）。
它目前局限于流体和热量；它尚未学习固体力学（如钢材弯曲）或化学。

简而言之，他们构建了一个“物理通才”，它能从上下文中学习，证明了单一的 AI 可以理解宇宙运动的基本规则，从而为实现高保真模拟触手可及的未来打开了大门——不再仅仅是专家和专业软件的专利。

技术摘要：迈向物理基础模型

1. 问题陈述

目前的物理感知机器学习（PAML）方法，包括物理信息神经网络（PINNs）、神经算子（NOs）以及物理感知循环卷积，在本质上局限于解决单一且范围狭窄的物理系统。虽然这些模型在特定任务中表现出色，但它们缺乏在无需大量重新训练或微调的情况下，向新的控制方程、边界条件或多物理场现象进行泛化的能力。这种专业化限制了它们实现自然语言处理领域中大语言模型（LLMs）所确立的“一次训练，随处部署”范式的能力。

实现真正的物理基础模型（PFM）的主要障碍在于物理现象的极度多样性，以及模拟数据的高成本和稀缺性。一个通用的模型必须能够协调截然不同的尺度（例如，微流体中的微米级与气象中的千米级），并从上下文而非依赖显式系统描述（如特定的方程或材料属性）中推断底层动力学，因为随着问题多样性的增加，显式描述变得不切实际。

2. 方法论：通用物理 Transformer (GPhyT)

为了解决这些局限性，作者提出了 通用物理 Transformer (GPhyT)，这是一种旨在模仿 LLM 的上下文学习能力的混合架构。

2.1. 架构

GPhyT 将深度学习组件集成到经典的数值方法框架内：

神经微分器（Neural Differentiator）： 其核心是一个基于 Transformer 的神经微分器，通过预测物理状态 $X$ $X$ （由压力、温度和速度等场组成）的部分时间导数 ( $\frac{\partial X}{\partial t}$ $\frac{\partial X}{\partial t}$ ) 来学习系统的时域动力学。
- 输入处理： 模型接收一系列先前的状态（时间快照）作为“提示词（prompt）”。这些快照被切分为非重叠的时空补丁（tubelets/管状块）。
- 显式导数： 为了辅助解析尖锐梯度，模型将通过中心差分法计算的一阶空间（$dx, dy $）和时间（$ dt$）导数与原始输入场进行拼接。
- 注意力机制： 该架构在所有时间和空间维度上采用统一的时空注意力机制，以捕捉复杂的、不可分离的现象（如湍流和冲击波），从而避免了可能限制表达能力的分解方法。
数值积分器（Numerical Integrator）： 模型并非直接预测下一个状态，而是预测时间导数。标准的数值积分器（本研究中使用前向欧拉法，尽管适用于其他如龙格-库塔法等方法）随后利用学习到的导数外推系统的未来状态（ $X_{t+1}$ ）。

2.2. 训练数据与策略

该模型在包含超过 240 万个快照、总量达 1.8 TB 的多样化模拟数据集上进行训练，涵盖七个不同的数据集：

数据集： 剪切流、瑞利-贝纳德对流、欧拉方程（可压缩流）、绕刚性障碍物流动、热流（与固体的热交换）、带障碍物的瑞利-贝纳德对流，以及多孔介质中的两相流。
用于上下文学习的数据增强：
- 可变时间增量： 通过对模拟进行不同时间步长（ $\Delta t$ ）的子采样，迫使模型从上下文中推断时间尺度，而不是记忆固定的频率。
- 逐数据集归一化： 每个数据集独立进行归一化以处理截然不同的物理尺度，从而迫使模型仅从输入上下文中推断绝对量级。

3. 核心贡献

论文提出了三个关键突破，证明了基础模型的能力在物理领域是可实现的：

卓越的多物理场性能： 在多个物理领域中，GPhyT 在归一化均方误差（NMSE）方面优于最先进的多物理场架构（MPP, DPOT, Poseidon）达 7 倍以上。
零样本泛化（Zero-Shot Generalization）： 该模型展示了对完全未见的物理系统（例如，新的边界条件、超音速流和湍流辐射层）进行零样本泛化的能力，其仅通过输入提示词即可推断动力学，无需微调。
稳定的长程预测： 通过自回归展开，GPhyT 比基准模型实现了更稳定的长期预测，在较长的时间跨度内保持了物理合理性。

4. 结果

多物理场学习： 在已知物理系统的测试集上，除了 Euler 数据集（在该数据集中仍保持竞争力）外，GPhyT 在所有数据集上都取得了最低的中位数 NMSE。值得注意的是，它优于专门的多物理场模型，甚至优于标准的 UNet 基准模型。
长程预测： 在高达 24 步的自回归展开中，GPhxT 保持了比大多数基准模型更低误差累积。虽然目前没有任何模型能在精度上匹配数值求解器，但 GPhyT 在其他模型无法重现高频细节的情况下，仍能保持全局动力学和物理合理性（如冲击波结构）。
上下文学习（零样本）：
- 新颖边界条件： GPhyT 成功推断了训练期间未见过的边界条件（例如，开放边界）。
- 新颖物理现象： 模型被用于测试完全未见的现象，包括绕障碍物的超音速流和湍流辐射层。虽然在已知系统上的误差较高，但 GPhyT 是唯一能产生物理合理预测的模型，其 NMSE 低于 1（即预测图像均值的基准值），而其他模型则会出现发散或失效。

5. 意义与主张

作者声称，这项工作代表了迈向通用物理基础模型的关键一步。通过证明单个模型可以仅从数据中学习可泛化的物理原理——即从上下文中推断控制动力学而非依赖显式方程说明——GPhyT 为“一次训练，随处部署”的范式开辟了道路。

论文强调，虽然由于在长期稳定性和精度方面仍存在差距，GPhyT 目前尚不能取代工程应用中的高保真数值求解器，但它确立了基础模型范式在物理学中的可行性。这种能力可以使高保真模拟实现民主化，允许研究人员和工程师在无需开发专门求解器或投入大量计算资源的情况下，模拟多样化的物理系统。

作者承认了当前的局限性，包括对 2D 系统的限制、对提高长期稳定性的需求，以及目前侧重于流体力学和热传递，并指出未来的工作必须解决 3D 扩展、可变分辨率以及更广泛物理领域的问题。