🤖 machine learning

A Physics-Aware Framework for Short-Term GPU Power Forecasting of AI Data Centers

本文提出了一种名为 PI-DLinear 的新型物理信息时间序列模型，该模型将多节点热阻容网络与 GPU 利用数据相结合，在确保负载瞬态期间物理一致性的同时，实现了人工智能数据中心短期功率预测的业界领先精度。

原作者： Mohammad AlShaikh Saleh, Sanjay Chawla, Sertac Bayhan, Haitham Abu-Rub, Ali Ghrayeb

发布于 2026-05-07

📖 1 分钟阅读☕ 轻松阅读

原作者： Mohammad AlShaikh Saleh, Sanjay Chawla, Sertac Bayhan, Haitham Abu-Rub, Ali Ghrayeb

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是用简单语言和日常类比对该论文的解读。

全景图：预测 AI 的“电力饥渴”

想象一个巨大的数据中心就像一间巨型厨房，里面有成千上万名厨师（AI 计算机）正在烹饪不同的菜肴。有时他们在做简单的沙拉（小任务），有时则在烤整只火鸡（训练巨型 AI 模型）。

问题在于，这些厨师的进食节奏并不稳定。他们可能会突然决定同时烤五只火鸡，导致厨房的电力消耗剧烈飙升。如果电网（主要电力供应）不知道这种情况即将发生，就可能不堪重负，导致停电或不稳定。

本文的作者构建了一个新的“水晶球”（预测模型），以预测这些 AI 厨房在接下来 5 到 80 分钟内究竟需要多少电力。他们的秘诀是什么？他们并没有仅仅让计算机根据过去的模式去猜测，而是教会了它物理定律。

旧“水晶球”的问题

大多数现代预测工具就像只死记硬背闪卡的学生。如果数据看起来像闪卡上的内容，他们就能得 A 分。但如果发生了一些奇怪的事情——比如一名厨师因为烤箱太热而突然关掉烤箱（“节流”事件）——这名学生就会感到困惑并做出糟糕的预测。

本文认为，标准的 AI 模型在以下情况中往往会失效：

电力节流：计算机为了防过热而自行降速。
突发飙升：工作负载瞬间发生变化。
恢复：系统在飙升后试图恢复稳定。

解决方案：“物理感知”的 DLinear

作者创建了一个名为 PI-DLinear 的模型。你可以把它想象成一个不仅死记硬背闪卡，还理解“厨房运作原理”的学生。

1. 热 RC 网络（“火锅”类比）

他们创新的核心是一组描述热量如何传递的数学方程（常微分方程）。

类比：想象 GPU（AI 的大脑）和内存（其短期记忆）是炉子上并排摆放的两锅水。
物理原理：当你调高火力（功率）时，水会变热。但水不会瞬间变热，这需要时间。此外，这两锅水并排摆放，热量会从较热的那锅流向较冷的那锅。
创新点：作者推导出了新的数学方程，基于牛顿冷却定律，精确描述这些“锅”如何加热和冷却。他们强制 AI 模型遵守这些规则。如果模型预测功率会上升，但温度已经高到无法承受该功率，模型就会“知道”这是不可能的，并自我修正。

2. “节流”规则

该模型还学习了一条特定规则：“如果厨师以 90% 的容量工作且锅里的水正在沸腾，功率必须下降。”
标准模型可能会继续预测高功率，因为厨师在一分钟前还在努力工作。而新模型知道，在现实世界中，安全机制会启动，因此它能准确预测功率的下降。

效果如何？

团队使用来自 MIT Supercloud（一个大型 AI 研究设施）的真实数据测试了他们的模型。他们将这款“物理感知”模型与 16 种其他顶级模型（包括被称为 Transformer 的复杂模型）进行了对比。

准确性：新模型始终更准确。它犯的错误更少，特别是在预测功率的“飙升”和“下降”时。
稳定性：当 AI 工作负载突然变化时，新模型恢复准确性的速度比其他模型快得多。
效率：尽管更智能，但该模型实际上非常轻量级。它就像一辆紧凑、高能效的汽车，比巨大的豪华 SUV 更省油。它不需要超级计算机来运行；它可以安装在数据中心的标准监控设备上。

关键要点

不要只猜测，要理解：通过让 AI 学习热学和电学的基本物理原理，当情况变得混乱时，它会变得更加可靠。
安全第一：该模型非常擅长预测计算机何时会“踩刹车”（节流）以避免过热。
面向现实世界：它在超级计算机的真实数据上运行良好，能够处理从语言模型到图像识别任务的各种工作。

简而言之，这篇论文表明，如果你想预测一个混乱的 AI 数据中心的电力需求，你不应该只看数字；你需要理解数字背后的热量和物理原理。

技术摘要：面向 AI 数据中心的物理感知型 GPU 短期功率预测框架

1. 问题陈述

由于计算任务（特别是大型语言模型 LLM、视觉网络和图神经网络 GNN）的异构性和快速波动，AI 数据中心在电力管理方面面临着前所未有的挑战。现代 AI 工作负载表现出高功率密度（每台 GPU 300–1,200 瓦）以及瞬态功率波动，机架级别的波动率甚至可超过 132 千瓦/秒。这些快速变化威胁着电网的稳定性，因此需要准确的短期功率预测（提前 5–80 分钟），以指导自动发电控制（AGC）和需求响应等控制策略。

尽管深度学习模型（尤其是 Transformer）推动了时间序列预测的发展，但它们往往产生物理上不一致的预测。由于仅依赖统计模式而非底层物理机制，它们在分布外场景（如功率节流事件、突发的负载波动以及节流后的稳定性）中表现不佳。此外，现有文献缺乏显式关联 GPU 功耗与 GPU/内存温度及利用率的时变常微分方程（ODEs），而这正是构建真正物理感知框架的先决条件。

2. 方法论：PI-DLinear

作者提出了PI-DLinear，这是 DLinear 时间序列模型的物理感知变体。该框架将数据驱动的预测骨干网络与基于多节点集总热阻容（RC）网络导出的物理正则化项相结合。

2.1 基础架构（DLinear）

基础架构为 DLinear，它利用移动平均核将时间序列数据分解为趋势项和季节/残差项。这些分量由独立的线性层处理并求和，以生成最终预测。选择该架构是因为其能够处理清晰的趋势且具有计算高效性。

2.2 物理感知约束

为了确保物理一致性，作者基于符合牛顿冷却定律的耦合双节点 RC 热网络推导了新的 ODEs。该模型将 GPU 温度（ $T_g$ ）和内存温度（ $T_m$ ）视为耦合的热状态。

热 RC 模型：系统采用能量平衡方程进行建模，其中功耗（ $P$ ）驱动温度变化，散热遵循牛顿冷却定律。控制方程如下：
$C_g \frac{dT_g}{dt} = \alpha P - \frac{T_g - T_a}{R_{ga}} - \frac{T_g - T_m}{R_{gm}}$
$C_m \frac{dT_m}{dt} = (1-\alpha) P - \frac{T_m - T_a}{R_{ma}} + \frac{T_g - T_m}{R_{gm}}$
其中， $C$ 代表热容， $R$ 代表热阻， $T_a$ 为环境温度， $\alpha$ 为 GPU 与内存之间的潜在功率分配参数。
功率变化率约束：通过求解 ODEs，推导出对功率变化率（$dP/dt$）的约束，将预测的功率轨迹与观测到的温度导数联系起来。
节流约束：引入特定的损失分量（ $L_{throttle}$ ）以处理功率节流。基于 MIT Supercloud 数据集的观测，节流与持续的高利用率（>90%）强相关，而不仅仅是极端温度。该损失函数在利用率和温度超过特定阈值时，对预测的功率增加施加惩罚，从而强制模型符合“在高应力下功率必须下降或稳定”的物理现实。

2.3 损失函数

总损失函数是三个分量的加权和：
$L = \lambda_u L_{Data} + \lambda_r L_{r} + \lambda_\theta L_{throttle}$

$L_{Data}$ ：预测功率与实际功率之间的标准均方误差（MSE）。
$L_{r}$ ：强制执行 RC 热网络 ODEs 的残差损失。
$L_{throttle}$ ：防止在高利用率/节流状态下功率增加的约束损失。
权重参数（ $\lambda$ ）通过对数空间中的自适应梯度上升法进行优化，以平衡数据保真度与物理约束。

3. 实验设置

数据集：模型在MIT Supercloud 数据集上进行训练和评估。该数据集为公开可用的高分辨率轨迹（1 分钟粒度），时间跨度为 2021 年 2 月至 10 月。它包含 448 块 NVIDIA Volta V100 GPU 的日志，这些日志以 100 毫秒为粒度记录并聚合为 1 分钟间隔。
工作负载：数据集涵盖多种 AI 工作负载，包括视觉网络（如 U-Net、ResNet）、LLM（如 BERT）和 GNN。
基线模型：将所提出的模型与 16 种最先进（SOTA）模型进行了比较，包括基于 Transformer 的架构（iTransformer、PatchTST、FEDformer）和非 Transformer 线性模型（DLinear、NLinear、Linear）。
指标：使用 MAE、MSE、RMSE 和 MAPE 评估性能，涵盖不同的回溯窗口（240–600 分钟）和预测范围（5–80 分钟）。

4. 关键结果

预测精度：PI-DLinear 始终优于所有 SOTA 基线模型。在所有回溯和预测窗口下，其 MSE 提升了0.782%–39.08%，MAE 提升了0.993%–51.82%，RMSE 提升了0.370%–22.28%。值得注意的是，在测试的每个序列长度下，它都取得了最低的 MSE 和 RMSE。
节流与瞬态恢复：物理感知约束显著提高了关键事件期间的性能。
- 节流检测：PI-DLinear 将节流事件检测率平均提高了6.88%，在 360 分钟回溯窗口和 10 分钟预测范围下，峰值提升达到 19.75%。
- 瞬态稳定性：在突发负载波动下，PI-DLinear 比 DLinear 更稳健地恢复了预测精度（例如，DLinear 的 RMSE 为 2.8610，而 PI-DLinear 为 2.3061）。
- 节流后：节流平息后，PI-DLinear 保持了稳定的预测且误差更低（MAE：0.1112 对比 0.1795）。
效率：PI-DLinear 保持了基础 DLinear 模型的轻量级特征（96k 参数，0.376 MB 内存）。虽然由于物理计算导致训练时间增加了约 1.9 倍，但推理依然高效。这与 FiLM（1290 万参数）或 TiDE 等更庞大的模型形成鲜明对比，后者尽管计算成本更高，却未带来精度提升。
稳定性：与某些在不同序列长度下表现出不稳定性的 Transformer 模型（例如 Crossformer 在 360 分钟时）不同，PI-DLinear 随着历史窗口的增加表现出显著的稳定性，使其适合在数据中心控制单元中进行灵活部署。

5. 意义与主张

该论文声称提出了首个用于 AI 数据中心功率预测的物理感知型 DLinear 模型，成功集成了多节点集总热 RC 网络。其主要意义在于：

新颖推导：这是首次推导特定的时变 ODEs，将 GPU/内存功耗与温度及利用率耦合，作为物理感知约束，解决了现有文献中缺乏此类耦合方程的空白。
物理一致性：通过将学习与真实的物理机制（牛顿冷却定律和能量守恒）相结合，该模型确保预测遵循物理定律，特别是在功率节流等非平稳事件期间，纯数据驱动模型往往会失效。
实际部署：该框架在精度和计算效率之间提供了更优的权衡。它在无需复杂 Transformer 架构带来的沉重计算负担的情况下实现了 SOTA 性能，使其适用于数据中心监控和控制系统的实时部署。
电网韧性：准确的 AI 负载短期预测被视为电网运营商管理平衡动作、储备需求和频率调节的关键赋能因素，从而增强电网抵御现代 AI 工作负载波动性的韧性。