💻 computer science

Enhanced EA-Transformer for Power Load Data Completion

本文提出了一种增强型 EA-Transformer 模型，该模型通过集成双基准预填充策略、动态衰减进化算法以及多维加权损失函数，旨在实现针对各种缺失机制和缺失率下的电力负荷时间序列数据的高精度补全。

原作者： Chao Li, Yiyang meng, Ji Li, Yuzheng Liu, Changlong Lv

发布于 2026-08-26

📖 1 分钟阅读☕ 轻松阅读

原作者： Chao Li, Yiyang meng, Ji Li, Yuzheng Liu, Changlong Lv

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在现代世界中，电力是社会的无形生命线，通过庞大的电网流向家庭、工厂和城市。为了确保这一系统的安全高效运行，电网运营商依赖于追踪每一时刻用电量的持续数据流。这些被称为负荷数据的信息，是预测未来需求、平衡供应并防止停电的基础。然而，正如人类的心率监测器可能会出现故障或传感器可能失效一样，电力使用情况的数字记录也经常中断。设备故障、通信中断和信号干扰会在时间轴上留下缺口，导致运营商面对的是不完整的现实图景。当人们试图用简单的猜测来填补这些缺失的部分时，由此产生的误差会波及整个系统，导致预测失准和能源管理效率低下。几十年来，科学家们一直尝试利用统计规则或基础计算机模型来修复这些破碎的记录，但当数据以复杂模式缺失，或者在热浪或风暴期间负荷发生突变时，这些方法往往难以应对。

天津理工大学的一个研究团队开发了一种新方法，能够以更高的精度修复这些缺口。他们创建了一个结合了两种强大理念的系统：一种旨在理解长序列事件的人工智能，以及一种模仿自然进化来微调自身答案的计算机化过程。研究人员将他们的创造物称为“增强型 EA-Transformer”。该系统并非简单地猜测缺失的数值应该是多少，而是首先观察电力使用的整个历史，以理解日常节奏和全局趋势。随后，它利用第二层智能优化过程来调整其初始猜测，确保最终结果完全符合建筑或工厂实际可用电量的物理限制。该方法针对三种不同类型的真实世界数据进行了测试：工业负荷（来自工厂）、居民负荷（来自家庭）和商业负荷（来自办公楼）。结果表明，这个新系统始终优于旧方法，即使在大量数据缺失的情况下也能产生更准确的补全结果。

这种新方法的核心在于它如何处理缺失信息。传统方法通常将数据缺口视为一个孤立的问题，试图仅根据缺失点前后的数值来填充。然而，Enhanced EA-Transformer 则着眼于大局。它意识到电力使用遵循可预测的模式，例如白天用电量较高而夜间较低，或者在早晚高峰时段出现特定的峰值。为了捕捉这些模式，系统使用了一个专门的内部映射机制来理解事件的时序，从而能够识别在时间上相距较远的数据点之间的联系。当系统遇到缺失值时，它首先基于这些日常和全局模式生成一个粗略的估计。这个初始猜测并不完美，但它提供了一个尊重电力自然流动规律的坚实起点。

一旦完成初始估计，系统就会启动第二阶段，其工作方式类似于一个不断的试错过程。这就是进化算法发挥作用的地方。想象一下，存在着一群潜在的解决方案，每一个都代表着填充缺失缺口的略有不同的方式。系统会将这些可能性中的每一个都与一套严格的规则进行对比测试。它会检查填充后的数据与已知趋势的匹配程度、数据与新数值之间过渡的平滑度，以及结果是否保持在现实的用电限度内。表现较好的方案会被保留，而较弱的方案则会被舍弃。随后，系统会基于成功的方案创造新的变体，通过进行微小的调整来观察是否能做得更好。这个循环会重复多次，系统逐渐精炼其答案，直到找到最准确且在物理上合理的数值来填补缺口。

这种方法的特别有效之处在于两个部分是如何协同工作的。人工智能组件提供了对数据结构的深度理解，而进化组件则充当精确的调节器，纠正第一部分可能产生的任何微小误差。研究人员还设计了让系统对关键时刻（如电力需求最高的峰值时段）给予额外关注，通过加大这些时段的重要性权重，确保电网中最危险且成本最高的环节能以最高的准确度被重建。此外，系统内置了安全检查机制，防止生成不可能的数值，例如负电量或超过电网最大容量的数值。

为了验证该方法是否奏效，研究人员在代表三种不同类型用电用户的独特数据集上对其进行了测试。他们模拟了各种数据缺失的情景，包括缺失值完全随机的情况、由于特定模式导致的缺失情况，以及由于复杂且不可预测的原因导致的缺失情况。他们还测试了不同水平的数据丢失，范围从总数据的 10% 到 30%。在每一次测试中，Enhanced EA-Transformer 的表现都优于传统的统计方法和其他先进的计算机模型。它实现了更高的准确度得分和更低的误差率，这意味着重建的数据非常接近真实的数值。该系统在处理数据以大块形式缺失或遵循非随机模式的困难案例时表现尤为出色，而这在以前是其他方法的弱点。

该研究还将新模型的性能与几种现有技术进行了比较，包括基于长短期记忆网络（LSTM）和标准 Transformer 架构的模型。在这些对比中，新系统在所有三种类型的负荷数据上均表现出卓越的性能。例如，在工业数据集中，新模型相比于次优方法显著降低了误差率，展示了其处理工厂电力使用高波动性和强规律性的能力。同样，在居民和商业数据集中，即使随着缺失数据量的增加，系统仍能保持高准确度。研究人员发现，深度学习模型与进化微调过程的结合是成功的关键，因为它允许系统在学习复杂模式的同时，兼顾物理真实性的优化。

这项工作最重要的方面之一在于，它不仅仅是在填充数字；它确保了填入的数字在现实世界中是有意义的。通过将物理约束直接纳入计算，该系统保证了补全的数据绝不会暗示一个不可能的场景，例如一个家庭使用的电量超过了其主断路器的承载能力。这种对物理合规性的关注对于电网运营商至关重要，因为他们需要确保用于决策的数据不仅在统计上可靠，而且在物理上也有效。研究人员还设计了系统的灵活性，使其能够适应不同类型的缺失数据模式，而无需针对每种新情况重新编程。

这项研究的影响力超出了仅仅填补缺失数字的范畴。通过提供一种更可靠的重建不完整数据的方法，该系统有助于电网运营商更好地做出关于管理电力供应与需求的决策。这可以带来更高效的能源利用、降低成本以及更稳定的电网。即使在传感器失效或通信链路中断时，能够准确恢复数据的能力意味着电网运营商可以继续依赖其数据驱动型工具。研究人员认为，这种方法可以应用于其他对时间序列数据至关重要的领域，如天气预报或金融市场分析，即在任何数据流完整性至关重要的领域。

最后，Chao Li 及其在天津理工大学的同事们的工作为智能电网中一个持久存在的问题提供了稳健的解决方案。通过将深度学习的模式识别优势与进化算法的优化能力交织在一起，他们创造了一个既智能又精准的工具。该系统并不依赖于魔法或猜测；相反，它使用一个严谨的、循序渐进的过程来重建电力拼图中的缺失部分。随着电力系统变得日益复杂且高度依赖数据，拥有一种能够可靠修复破碎记录的方法，不仅是一项技术改进，更是迈向更具韧性和高效的能源未来的必要步骤。他们的实验结果表明，这种方法代表了该领域的重大进展，为确保我们的用电故事即使在部分记录丢失时也能保持完整，提供了一种切实可行且有效的方式。

技术摘要：增强型 EA-Transformer 用于电力负荷数据补全

1. 问题陈述

电力负荷时间序列数据的完整性对于智能电网运行（包括负荷预测、调度和能量优化）至关重要。然而，由于传感器故障、通信中断和信号干扰，数据采集经常受到影响，导致出现缺失值。这些缺口破坏了时间序列的连续性，并显著降低了数据驱动预测模型的性能。

现有解决方案面临以下局限性：

传统统计方法： 虽然在低缺失率和随机数据方面有效，但在处理突发负荷变化时表现不佳，缺乏鲁棒的空间相关性建模，且在处理非随机缺失数据时性能较差。
深度学习方法： 尽管 LSTM、TCN 和标准 Transformer 等模型改进了特征挖掘能力，但它们往往无法充分适应负荷时间序列的特定周期特性（例如跨周期缺失数据）。此外，智能优化算法与深度学习的集成通常流于表面，缺乏平衡准确性与效率的协作机制。
鲁棒性与约束问题： Ashkan 等人 [24] 的研究发现，现有的基于 Transformer 的补全模型在极端天气条件（如寒潮和台风）下误差会显著增加。此外，标准 Transformer 架构在输出层往往缺乏物理约束，直接应用于电力负荷数据填补时，容易产生非法值（例如负负荷或超过容量的值）。

2. 方法论

本文提出了一种基于增强型 Transformer 与进化算法 (EA) 深度集成的的高精度补全方法。该框架通过一个旨在优化架构、参数调优和自适应修正的多阶段过程运行。

A. 双基准预填充策略

在模型训练之前，该方法放弃了单模态填充，转而采用双基准方法。它通过以下两者的加权融合来构建初始值：

小时周期均值 ( $\mu_h$ )： 捕捉主要的日内波动模式。
全局统计均值 ( $\mu_g$ )： 为整个序列提供基准。
该策略确保了初始输入既尊重局部周期性，又符合全局趋势。

B. 增强型 Transformer 架构

对标准 Transformer 进行了修改，以更好地适应电力负荷特性：

周期自适应位置编码： 通过引入 24 小时周期因子 重构了标准的正弦-余弦编码。这使编码周期与日负荷波动循环同步，提高了模型识别跨缺失周期特征的能力。
时间注意力增强层： 该层被添加到编码器输出中，利用可学习参数自动聚焦于有效时间特征并抑制噪声，特别增强了缺失区域与有效数据区域交界处的特征辨识度。
物理合规约束： 在输出层中加入了 Hardtanh 函数，将预测值限制在历史最小和最大负荷范围 ( $x_{min}, x_{max}$ ) 内，确保所有填补值在物理上都是有效的。

C. 与进化算法 (EA) 的深度融合

EA 作为一种微调机制，用于修正增强型 Transformer 的初始输出：

精确种群初始化： EA 不采用随机生成，而是使用经由增强型 Transformer 生成的合规输出并叠加微小高斯噪声来初始化种群。这确保了候选解既接近真实趋势，又保持了多样性。
动态衰减变异： 采用动态策略，随着迭代推进逐渐降低变异概率和幅度。这在早期阶段平衡了种群多样性，并在后期阶段实现了向全局最优解的快速收敛。
闭环集成： 系统遵循“数据交互 – 目标对齐 – 结果反馈”的逻辑。EA 的适应度函数复用了 Transformer 损失函数的权重，确保优化方向与模型的训练目标保持一致。

D. 多维加权损失函数

为了优先考虑关键运行阶段，设计了一个复合损失函数：
$L = \beta L_{peak} + \gamma L_{global} + \delta L_{smooth}$

峰值损失 ( $L_{peak}$ ): 高权重分配 ( $\beta=0.4$ )，用于优化高峰时段（7:00–9:00 和 18:00–20:00）的准确性。
全局损失 ( $L_{global}$ ): 确保整体拟合精度。
平滑损失 ( $L_{smooth}$ ): 强制曲线连续性，避免出现突跳。

3. 核心贡献

架构增强： 提出了专门针对电力负荷数据的周期性和噪声特性而设计的周期自适应位置编码和时间注意力增强层。
深度集成机制： 提出了一种新型“闭环”框架，其中 EA 和 Transformer 不仅仅是先后应用的关系，而是通过共享初始化模板、对齐适应度/损失目标以及结果反馈实现了深度耦合。
物理与运行约束： 明确引入了物理合规性 (Hardtanh) 和峰值时段优先级在损失函数中的应用，解决了标准深度学习模型在关键基础设施领域缺乏约束的问题。
动态优化： 在 EA 中实现了动态衰减变异机制，以防止陷入局部最优并确保高效收敛。

4. 实验结果

该方法在三个不同的数据集上进行了评估：工业 (ICLD)、住宅 (UCI) 和 商业 (BDG2)。实验涵盖了三种缺失机制 (MCAR, MAR, MNAR) 和三种缺失率 (10%, 20%, 30%)。

性能指标： 研究使用 $R^2$ 、MAPE 和 RMSE 作为核心指标。

优越性： 在所有场景下，增强型 EA-Transformer 的表现始终优于传统模型 (LSTM, BiLSTM, GRU-D, TCN) 和标准 Transformer。
定量收益：
- 在工业数据集 30% MCAR 条件下，所提模型的 $R^2$ 达到 0.961，而标准 Transformer 为 0.944，LSTM 为 0.904。
- 在 非随机 (MNAR) 条件下（最具挑战性的场景），该模型保持了 0.900 的 $R^2$ （工业，30% 缺失），显著高于标准 Transformer 的 0.886。
- MAPE 降低： 在各种数据集和缺失率下，该模型相比标准 Transformer 降低了约 1.5% 至 3.0% 的 MAPE。
视觉验证： 实际值与填补值的对比图表表明，所提方法有效地重建了峰值和谷值特征，且未引入伪影或违反物理边界。

5. 意义与主张

作者声称这项工作为电力负荷数据补全提供了一种高效的解决方案，具有广泛的应用前景。通过解决当前注意力序列模型在周期性和优化算法浅层集成方面的特定局限性，所提方法提供了：

高精度： 在多种缺失机制下，核心指标 ( $R^2$ , MAPE, RMSE) 均有显著提升。
鲁棒性： 在非随机缺失场景以及不同负荷类型（工业、住宅、商业）中表现出增强的性能。
工程可用性： 物理合规性的保证确保了结果可以直接用于电网调度和决策，无需进行事后修正。

论文总结认为，将增强型深度学习架构与进化优化进行深度集成，是实现新型电力系统高质量数据预处理的一条可行路径。