建筑能源消耗对于优化全球能源使用和减少碳排放至关重要。2022年,建筑消耗了全球34%的能源,并排放了37%的能源相关二氧化碳[1]。优化建筑能源系统的运行是减少能源消耗的有效方法。短期负荷预测(STLF)是决策和建筑能源优化的基础[2]、[3]。然而,在分布式建筑负荷预测的背景下,存在两个关键挑战:数据可用性有限[4]以及数据分布非独立同分布(non-IID)[5]、[6]。新建建筑通常运行时间较短,导致用于模型训练的历史数据不足。相比之下,旧建筑往往面临数据存储容量有限和测量基础设施过时的问题,导致数据记录不完整或分辨率较低。此外,由于建筑类型、功能、占用模式和气候区的差异,不同建筑的能源消耗数据具有高度异质性。这些因素严重限制了数据驱动的建筑负荷预测的适用性[7]、[8]。
为了解决第一个问题,现有研究表明数据共享可以提高性能[9]。然而,如通用数据保护条例(GDPR)等法规对收集、存储和共享负荷数据提出了更严格的隐私要求。因此,用户数据隐私和安全问题越来越受到关注。
在这种情况下,联邦学习在保护用户隐私和安全方面发挥着关键作用[10]、[11]、[12]。它允许在不对用户本地数据进行处理的情况下,通过建筑与中央服务器之间交换模型参数来训练全局模型。由于建筑负荷数据的异质性和非独立同分布特性,全局模型往往无法满足每个建筑的个性化需求。
为了解决第二个问题,已经探索了两个方面:第一种方法是使用基于相似性的方法根据历史消耗模式对建筑进行分组;第二种方法是参数级适应,即首先以联邦学习的方式训练全局模型,然后使用本地数据对其参数进行微调以获得个性化模型[13]。然而,作为一种预分类技术,聚类使得模型难以有效学习所有建筑能源消耗模式的共同特征。此外,微调可能会覆盖甚至遗忘通过联邦学习获得的全局知识,削弱了其优势。
因此,关键挑战是在保留共享的能源消耗模式的同时捕捉个体差异并保护用户数据隐私。为了解决这个问题,一些研究探索了不同的策略。现有的个性化联邦学习方法通常旨在在实现客户端级个性化的同时保留全局共享的知识。例如,[14]提出了联邦注意力消息传递(FedAMP),其中个性化是基于客户端相似性实现的;[15]提出了带有Moreau包的个性化联邦学习(pFedMe),允许每个客户端在朝向全局模型的正则化约束下学习个性化模型;[16]提出了联邦表示学习(FedRep),该方法通过将神经网络划分为共享层和客户端特定层来实现个性化。此外,一些研究还探索了联邦域分离方法来分离共享知识和个性化知识,用于分布式负荷预测[17]。
在这种情况下,元学习作为一种“学习如何学习”的方法,为优化全局模型参数提供了新的途径[18]、[19]。元学习的一个关键优势是它能够提取跨任务的共同特征,从而使初始化模型对新任务或未见任务具有强大的泛化能力。尽管元学习在负荷预测中显示出强大的泛化潜力,并已被集成到联邦学习框架中,但在数据高度异质性的情况下如何有效利用它进行个性化预测仍然是一个未解决的问题。与现有的针对每个客户端在本地微调元模型参数的个性化联邦元学习方法不同[20]、[21],本研究在个性化过程中冻结了全局模型参数。相反,它采用多通道残差补偿模块来提取建筑特定特征,而不会覆盖全局共享知识。
总之,本文将Reptile算法的参数更新策略与联邦学习相结合,构建了一个从多个建筑中提取全局共享知识的全局模型。同时,为了反映建筑之间的能源消耗差异并避免覆盖全局共享知识,为每个建筑开发了一个补偿模块来提取个性化知识。与现有的个性化联邦学习方法相比,所提出的方法以结构解耦的方式引入了个性化,允许在不微调全局模型参数的情况下捕捉建筑特定模式。
本文的主要贡献包括:
(1) 提出了一种基于联邦元学习的全局模型,以获取全局共享知识。训练后全局模型参数保持不变,以确保学习到的全局共享知识既不会被覆盖也不会被遗忘。
(2) 开发了一个多通道残差补偿模块来获取个性化知识。最终预测是通过整合全局模型和补偿模块的输出得到的。
(3) 在真实世界的Building Data Genome Project 2(BDGP2)数据集上验证了所提出方法的有效性。通过比较实验,从预测准确性和使用共形预测指标进行不确定性评估两个方面验证了该方法的有效性。
本文的其余部分组织如下:第2节详细介绍了负荷预测的相关文献;第3节详细介绍了所提出的个性化联邦元学习方法;第4节分析了实验设置和结果;第5节给出了结论。