基于Transformer的深度学习方法在多时间尺度的全球电力生成预测中的应用

《Energy Conversion and Management》：Transformer-based deep learning for multi-horizon global power generation forecasting

本研究评估了基于Transformer的深度学习架构在47个国家、8种能源类型中多时间尺度电力生成预测的效能，发现其1日预测误差（sMAPE 59.04%）较LSTM降低32.13%，但30日预测误差升至98.18%；国家间预测性能差异显著（8.77-14.59% sMAPE），间歇性能源（如风电、光伏）预测误差比可调度能源高32.6%；注意力机制显示可调度能源更依赖近期数据（60.45%权重），而间歇性能源需更广时间窗口；特征重要性分析表明滞后生成值是主要预测因子（67.81%）。结论指出Transformer在运营预测中有效，但高可再生能源系统需灵活性资源补充。

　　

Sidique Gawusu | Xiaobing Zhang

南京工业大学能源与动力工程学院，中国南京

摘要

全球能源向可再生能源的转型带来了重大的预测挑战，因为发电量会受到天气的影响而波动。本研究利用2019年至2023年的全球发电数据，评估了基于Transformer的深度学习架构在47个国家和8种能源类型下的多时段发电量预测能力。在1天的预测范围内，Transformer模型的对称平均绝对百分比误差（sMAPE）为59.04%，相比长短期记忆网络（Long Short-Term Memory）降低了32.13%的误差，并且比简单的基线方法提高了64.79%的预测精度，所有比较结果的统计显著性均通过（p < 0.001）。然而，在30天的预测范围内，性能下降到98.18%的sMAPE，尽管Transformer仍然保持了对基线方法的优势。国家层面的分析显示预测性能存在中等程度的差异（sMAPE范围为8.77–14.59%），并且预测精度与系统特性之间的相关性较弱。能源类型的分析表明，间歇性可再生能源的预测误差比可调度能源高52.6%（分别为24.90%和16.31%，p = 0.013），这反映了天气因素导致的不可预测性。注意力机制分析显示，可调度能源将60.45%的注意力权重分配给最近的数据（t-1至t-7），而间歇性可再生能源仅为47.44%，这表明间歇性能源需要更广泛的时间背景信息。特征重要性评估指出，滞后发电值是主要的预测因子（重要性为67.81%），其中7天和1天的滞后分别贡献了17.95%和21.93%。这些发现证明了Transformer架构在运营预测中的可行性，同时也突显了高比例可再生能源系统需要补充灵活性资源来应对预测不确定性的持续挑战。

引言

全球电力行业面临着双重挑战：在快速减少碳排放的同时保持电网的可靠性。Davis等人[1]提出了实现净零排放能源系统的技术要求，指出电力生产占全球能源相关二氧化碳排放量的大约40%。要实现全球气候目标，需要对电力行业进行根本性的重组。国际能源署[2]预测，在净零排放情景下，到2050年，可变可再生能源，特别是风能和太阳能光伏技术，必须供应全球40-60%的电力。这一转变标志着从以化石燃料为主导的能源结构向主要由天气驱动的资源供电的电网的转变。

间歇性可再生能源的整合从根本上改变了电力系统的运作方式，带来了超越传统预测范式的预测挑战。Antonanzas等人[3]回顾了光伏发电预测方法，强调了由气象条件、昼夜周期和季节变化引起的复杂时空变化。为了解决单一模型的局限性，研究人员转向了结合不同数学方法优势的混合架构。例如，Wang等人[4]证明了混合LASSO-LSTM方法可以解决短期太阳强度预测问题。Makarov等人[5]量化了供应侧不确定性如何影响具有较高风能渗透率的系统的机组调度和经济决策。在多个时间范围内进行准确的发电量预测已成为提高电网灵活性的关键因素。Weron[6]提供了一个全面的电价预测框架，而Hong和Fan[7]建立了用于运营规划的概率负荷预测方法。

深度学习的最新进展在提高能源预测精度方面显示出巨大潜力[8]。Hochreiter和Schmidhuber[9]引入了长短期记忆网络（Long Short-Term Memory），解决了循环架构中的梯度消失问题，而Gensler等人[10]通过结合自动编码器（autoencoder）和LSTM框架证明了其在太阳能发电预测中的有效性。最近，Vaswani等人[11]开发了基于注意力的Transformer架构，通过选择性加权相关时间特征在序列建模中表现出色。Zhou等人[12]引入了Informer模型，利用高效的注意力机制进行长序列时间序列预测，而Lim等人[13]开发了专门用于可解释多时段预测的Temporal Fusion Transformer。Wu等人[14]将Graph WaveNet应用于电力系统的深度时空建模。

Zhu等人[15]开发的CarbonMonitor-Power数据集提供了2016年至2022年间37个国家或12个地区的日发电量数据。这一资源使得以前由于数据限制而无法进行的系统跨国分析成为可能，从而能够系统地研究深度学习架构是否能够捕捉到国家特定动态和跨辖区的发电量预测模式。

尽管取得了这些进展，文献中仍存在一些关键空白。首先，现有研究主要集中在单一国家的应用上，限制了对模型在多样化电力系统环境中通用性的理解[16]。Lago等人[17]回顾了先进的日前电价预测算法，指出跨辖区的可转移性仍然知之甚少。其次，大多数研究只考察了单一能源类型，而没有开发出同时预测多种发电技术的综合框架。第三，虽然Transformer架构在负荷预测和价格预测方面表现出潜力，但缺乏对多国发电量预测的系统性评估。第四，能源应用中的模型可解释性仍然不发达。Rudin[18]认为高风险决策需要可解释的模型，而不是黑箱方法，而Barredo Arrieta等人[19]提供了适用于能源系统的可解释人工智能方法的分类。补充章节S5提供了涵盖传统方法、深度学习应用和多国预测研究的全面文献综述。

本研究通过开发和评估基于Transformer的深度学习模型，在47个国家和8种能源类型下进行多时段发电量预测，以解决这些空白。核心假设是Transformer架构在多样化的国家环境中显著优于现有的基线方法，其性能在可调度能源和间歇性能源之间因发电可预测性的根本差异而有所不同。

本研究追求三个目标：首先，评估Transformer架构在多样化环境中的预测精度是否优于基线方法；其次，研究注意力机制如何捕捉与不同发电技术相关的时间模式；第三，评估具有不同发电组合和可再生能源渗透率的国家之间的性能差异。

本研究对电力系统工程和应用机器学习领域做出了几项重要贡献。首先，它提供了首个针对多国发电量预测的Transformer架构的系统性基准测试，使用了涵盖47个国家和8种能源类型的统一数据集。其次，量化了间歇性能源和可调度能源之间的“可预测性差距”，为确定随着可再生能源渗透率增加所需的额外储备边际提供了严格的统计基础。第三，注意力机制权重分析量化了不同发电技术中的时间依赖性，确定了哪些历史时段对未来发电量的影响最大。最后，本研究将这些技术性能指标转化为运营决策支持工具；通过将预测误差分布映射到具体的规划时段，我们的发现为电网运营商提供了优化运营储备规模和提高在高不确定性下的机组调度成本效率的框架。

本文的其余部分安排如下：第2节描述了数据集、Transformer架构、基线模型和评估框架。第3节展示了跨预测时段、国家和能源类型的模型性能比较结果，并附有注意力机制分析。第4节讨论了主要发现、实际意义和局限性。第5节总结了政策含义和未来的研究方向。

数据和方法

数据和方法论

本节描述了数据集、模型架构和评估框架。详细的特征工程程序和基线模型规格在补充章节S6中提供。

结果

本节展示了三个分析维度上的实证发现。首先，将Transformer的性能与1至30天预测时段的基线方法进行了基准测试。其次，在国家和能源类型层面检查了性能差异，以评估其在多样化电力系统环境中的通用性。第三，分析了注意力机制权重和特征重要性得分，以解释模型学习到的时间依赖性。

讨论

本研究证明，与现有的基线方法相比，Transformer架构显著提高了发电量预测的准确性，同时揭示了各国、能源类型和时间时段之间预测难度的关键系统模式。这些发现不仅推进了深度学习在能源系统应用中的方法论理解，还提供了关于全球能源转型期间运营预测挑战的实际知识。

结论

本研究证明，基于Transformer的深度学习架构在47个国家和8种能源类型下，对于1至30天的预测时段，提供了卓越的多时段发电量预测能力。与现有方法的系统性基准测试显示了显著的准确性提升，而国家和能源类型的分析揭示了预测难度中的持续模式，这对能源转型规划具有直接意义。

资金来源

本研究未获得公共、商业或非营利部门的任何特定资助。

伦理批准

研究中提到的作者已同意署名、阅读并批准了本研究，并同意提交和后续发表。

代码可用性

所有分析代码均以Python格式提供，可根据合理请求提供。

CRediT作者贡献声明

Sidique Gawusu：写作——审稿与编辑、撰写初稿、可视化、验证、软件开发、资源管理、方法论设计、数据整理、概念构建。Xiaobing Zhang：写作——审稿与编辑、撰写初稿、验证、监督、资源管理、项目协调、方法论设计、数据整理、概念构建。

利益冲突声明

作者声明他们没有已知的财务利益或个人关系可能影响本文的研究结果。