一种用于建筑物分布式负荷预测的个性化联邦元学习方法

《Energy and Buildings》:A personalized federated meta-learning approach for distributed load forecasting of buildings

【字体: 时间:2026年01月26日 来源:Energy and Buildings 7.1

编辑推荐:

  个性化联邦元学习建筑负荷预测模型提出,通过元学习聚合全局共享知识并冻结参数,结合多通道残差补偿模块实现个性化建模,在BDGP2数据集上验证其提升预测精度和不确定性估计的有效性。

  
常琦|康杰|唐凌峰
陕西科技大学电气与控制工程学院,中国陕西省西安市710021

摘要

建筑负荷预测对其运营优化至关重要。联邦学习能够在保护数据隐私的同时实现分布式建筑负荷预测。然而,通过直接聚合本地模型得到的全局模型无法有效捕捉个性化的能源消耗模式。此外,对全局模型进行微调可能会覆盖全局共享的知识。为了解决这个问题,本文提出了一种个性化的联邦学习方法用于分布式建筑负荷预测。该框架包括两个部分:第一部分是基于联邦学习的全局模型,该模型结合了学习的辅助变量来提取跨建筑优化的全局模型参数,从而获得全局共享的知识;第二部分是多通道残差补偿模型,该模型在本地进行训练以捕捉全局预测与实际负荷之间的差异,从而获取全局模型未表示的个性化知识。最终预测是通过将全局模型和个性化模型的输出相加得到的,有效平衡了全局泛化能力和局部个性化。所提出的方法在真实世界数据集“Building Data Genome Project 2”上进行了验证,并使用共形预测来量化模型不确定性。实验结果表明,所提出的模型不仅提高了预测准确性,还通过基于共形预测的区间提供了可靠的不确定性估计。

引言

建筑能源消耗对于优化全球能源使用和减少碳排放至关重要。2022年,建筑消耗了全球34%的能源,并排放了37%的能源相关二氧化碳[1]。优化建筑能源系统的运行是减少能源消耗的有效方法。短期负荷预测(STLF)是决策和建筑能源优化的基础[2]、[3]。然而,在分布式建筑负荷预测的背景下,存在两个关键挑战:数据可用性有限[4]以及数据分布非独立同分布(non-IID)[5]、[6]。新建建筑通常运行时间较短,导致用于模型训练的历史数据不足。相比之下,旧建筑往往面临数据存储容量有限和测量基础设施过时的问题,导致数据记录不完整或分辨率较低。此外,由于建筑类型、功能、占用模式和气候区的差异,不同建筑的能源消耗数据具有高度异质性。这些因素严重限制了数据驱动的建筑负荷预测的适用性[7]、[8]。
为了解决第一个问题,现有研究表明数据共享可以提高性能[9]。然而,如通用数据保护条例(GDPR)等法规对收集、存储和共享负荷数据提出了更严格的隐私要求。因此,用户数据隐私和安全问题越来越受到关注。
在这种情况下,联邦学习在保护用户隐私和安全方面发挥着关键作用[10]、[11]、[12]。它允许在不对用户本地数据进行处理的情况下,通过建筑与中央服务器之间交换模型参数来训练全局模型。由于建筑负荷数据的异质性和非独立同分布特性,全局模型往往无法满足每个建筑的个性化需求。
为了解决第二个问题,已经探索了两个方面:第一种方法是使用基于相似性的方法根据历史消耗模式对建筑进行分组;第二种方法是参数级适应,即首先以联邦学习的方式训练全局模型,然后使用本地数据对其参数进行微调以获得个性化模型[13]。然而,作为一种预分类技术,聚类使得模型难以有效学习所有建筑能源消耗模式的共同特征。此外,微调可能会覆盖甚至遗忘通过联邦学习获得的全局知识,削弱了其优势。
因此,关键挑战是在保留共享的能源消耗模式的同时捕捉个体差异并保护用户数据隐私。为了解决这个问题,一些研究探索了不同的策略。现有的个性化联邦学习方法通常旨在在实现客户端级个性化的同时保留全局共享的知识。例如,[14]提出了联邦注意力消息传递(FedAMP),其中个性化是基于客户端相似性实现的;[15]提出了带有Moreau包的个性化联邦学习(pFedMe),允许每个客户端在朝向全局模型的正则化约束下学习个性化模型;[16]提出了联邦表示学习(FedRep),该方法通过将神经网络划分为共享层和客户端特定层来实现个性化。此外,一些研究还探索了联邦域分离方法来分离共享知识和个性化知识,用于分布式负荷预测[17]。
在这种情况下,学习作为一种“学习如何学习”的方法,为优化全局模型参数提供了新的途径[18]、[19]。学习的一个关键优势是它能够提取跨任务的共同特征,从而使初始化模型对新任务或未见任务具有强大的泛化能力。尽管学习在负荷预测中显示出强大的泛化潜力,并已被集成到联邦学习框架中,但在数据高度异质性的情况下如何有效利用它进行个性化预测仍然是一个未解决的问题。与现有的针对每个客户端在本地微调模型参数的个性化联邦学习方法不同[20]、[21],本研究在个性化过程中冻结了全局模型参数。相反,它采用多通道残差补偿模块来提取建筑特定特征,而不会覆盖全局共享知识。
总之,本文将Reptile算法的参数更新策略与联邦学习相结合,构建了一个从多个建筑中提取全局共享知识的全局模型。同时,为了反映建筑之间的能源消耗差异并避免覆盖全局共享知识,为每个建筑开发了一个补偿模块来提取个性化知识。与现有的个性化联邦学习方法相比,所提出的方法以结构解耦的方式引入了个性化,允许在不微调全局模型参数的情况下捕捉建筑特定模式。
本文的主要贡献包括:
(1) 提出了一种基于联邦学习的全局模型,以获取全局共享知识。训练后全局模型参数保持不变,以确保学习到的全局共享知识既不会被覆盖也不会被遗忘。
(2) 开发了一个多通道残差补偿模块来获取个性化知识。最终预测是通过整合全局模型和补偿模块的输出得到的。
(3) 在真实世界的Building Data Genome Project 2(BDGP2)数据集上验证了所提出方法的有效性。通过比较实验,从预测准确性和使用共形预测指标进行不确定性评估两个方面验证了该方法的有效性。
本文的其余部分组织如下:第2节详细介绍了负荷预测的相关文献;第3节详细介绍了所提出的个性化联邦元学习方法;第4节分析了实验设置和结果;第5节给出了结论。

章节片段

相关工作

本节从三个角度回顾了最近的进展:不共享数据的建筑负荷预测、保护隐私的数据共享基础建筑负荷预测方法以及学习的概念和应用。

方法论

本节介绍了所提出的个性化联邦学习框架,包括基于Transformer的特征提取模型、联邦学习算法和补偿模型。

数据集

本研究使用了公开可用的BDGP2数据集[54],该数据集包含了2016年和2017年北美和欧洲19个城市中1,636个非住宅建筑的实时每小时能源消耗数据(包括电力、冷冻水、热水和蒸汽)。该数据集还提供了详细的建筑和天气信息,涵盖了多种建筑类型、气候条件和能源使用模式,适用于涉及高度异质性的研究

讨论

  • (1)
    计算可扩展性分析。在所提出的框架中,每个建筑在本地并行执行模型更新,只有更新的辅助变量和本地参数被上传到服务器进行聚合。这意味着客户端端的计算随本地数据集大小扩展,但不会干扰其他客户端。在服务器端,工作负载主要随建筑数量线性增长,因为聚合步骤结合了上传的参数。

结论

为了解决建筑级个性化负荷预测中建筑负荷数据高度异质性带来的挑战,本文提出了一种个性化联邦学习框架。在基准BDGP2数据集上进行了全面实验,以评估异构数据场景下一小时的建筑能源预测。实验结果表明,将学习纳入联邦学习过程使全局模型能够提取

CRediT作者贡献声明

常琦:撰写 – 原始草案、可视化、软件、方法论。康杰:监督。唐凌峰:撰写 – 审稿与编辑、验证、方法论。

利益冲突声明

作者声明他们没有已知的可能会影响本文所述工作的竞争性财务利益或个人关系。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号