PCFNet：用于多变量时间序列预测的周期-通道融合网络——迈向多周期依赖性建模

《Information Fusion》：PCFNet: Period–channel fusion network for multivariate time series forecasting — towards multi-period dependency modeling

多变量时间序列预测中周期性模式与跨通道依赖的联合建模方法，提出PCFNet框架，通过双流EMA分解与分离式周期卷积（SPC）和周期掩码融合（PMF）实现多周期特征提取，并设计周期-通道注意力机制捕捉跨周期和跨通道交互，实验表明其在多个基准数据集上优于现有方法。

　　

Jinze Du | Songmao Jiang

兰州理工大学计算与人工智能学院，中国兰州，730050

摘要

多变量时间序列预测在金融、交通、能源管理和医疗保健等领域发挥着至关重要的作用，在这些领域中，周期性模式（即不同的周期模式，如日周期、周周期和季节周期）是最重要且普遍存在的特征之一。尽管许多现有方法试图捕捉周期性，但大多数方法只能隐式地学习周期性特征。明确建模多个周期模式的方法通常将每个周期视为独立的，从而忽略了跨周期依赖性和周期-通道之间的相互依赖性。这一限制限制了对复杂时间动态的建模，并降低了预测准确性。为了解决这些挑战，我们在一个新的周期-通道融合建模框架中提出了周期-通道融合网络（PCFNet）。具体来说，PCFNet采用基于指数移动平均（EMA）分解的双流架构，并引入了两种互补的独立于通道的周期建模方案：可分离周期卷积（SPC）用于捕捉结构周期性，以及周期掩码融合（PMF）用于增强鲁棒性，从而提供了对周期特征的独特建模。在此基础上，我们设计了一种周期-通道注意力机制，将K个周期和C个通道组织到一个统一的K×C令牌空间中，使注意力机制能够同时捕捉跨周期依赖性、跨通道交互及其联合相关性。这使得从独立于周期的建模转变为依赖于周期的建模，从而更有效地捕捉跨周期和跨通道的依赖性。在八个基准数据集上的实验结果表明，PCFNet在25个MSE和33个MAE指标中始终优于现有方法，在40个预测任务中均获得第一名。实现代码可在以下链接获取：

https://github.com/Jsmcnhyk/PCFNet

引言

在多变量时间序列预测中，数据通常同时表现出时间动态和空间相关性，这使得建模任务极具挑战性[1]，[2]。与传统的单变量时间序列不同，多变量时间序列由多个实体或通道组成，这些实体或通道随时间演变，并在通道和属性之间复杂地相互关联[3]。例如，在城市交通系统中，每个交叉口的交通流量表现出周期性波动，如早晚高峰期，同时也受到上游和下游交叉口的影响[4]。在电力负荷预测中，某一地区的电力消耗不仅反映了当地的经济活动，还与邻近地区有显著耦合[5]。这些例子表明，多变量时间序列不是独立的；它们同时包含时间模式和复杂的跨通道依赖性，这些必须在预测建模中全面考虑。

为了更好地捕捉多变量时间序列中的复杂依赖性，最近的研究逐渐转向了时空建模范式[3]，[6]，[7]，[8]。其核心思想是，一个通道在给定时间的状态不仅取决于它自己的历史，还取决于同一时间步或不同时间步的其他通道。现有方法大致可以分为两类。第一类是独立于通道的建模，它将每个通道视为一个单独的时间序列，分别对它们进行建模，然后在特征或输出层面融合结果[9]，[10]。第二类是依赖于通道的建模，它使用图结构或注意力机制明确捕捉通道之间的交互[11]，[12]。如图1(a)-(b)所示，图1(a)展示了独立于通道的方法的单独建模方式，而图1(b)描述了依赖于通道的建模方式，直接表征了通道之间的交互。这两种方法共同涵盖了三种类型的依赖性：单个通道内的时间依赖性、同一时间步内通道之间的空间依赖性，以及通道和时间步之间的时空依赖性[8]。尽管依赖于通道的建模可以有效地捕捉变量之间的交互并隐式地学习某些周期特征，但现有方法在充分建模周期结构方面仍然存在不足，从而限制了信息融合和多变量时间序列预测性能的有效性。

周期性是时间序列数据中的一个基本模式，在气象、交通、电力和金融等领域广泛观察到[13]，[14]。现有方法通常使用快速傅里叶变换（FFT）或自相关分析提取主导的周期模式，并据此设计建模模块[15]，[16]。然而，这些方法往往孤立地处理不同的周期模式，无法捕捉跨周期的交互。实际上，一个序列通常同时包含多个周期模式，这些模式是层次化的、互补的，并与通道依赖性交织在一起[17]。例如，在电力负荷预测中，短周期模式反映了居民的日常活动，而长周期模式捕捉了季节性和工作日的模式[5]。忽略短周期和长周期模式之间的耦合可能会导致预测偏差。此外，不同的通道在某些周期模式下可能是同步的，但在其他模式下则可能存在显著差异。例如，在电力消耗预测中，居民负荷和商业负荷之间的相关性在不同周期模式下表现出不同的模式：周末居民负荷占主导地位，而工作日商业负荷可以忽略不计。这种特定于周期的通道动态无法通过独立建模周期的方法来捕捉，因为这些方法在聚合周期特征时没有考虑通道关系在不同时间尺度上的变化。现有方法通常忽略了这种跨周期和周期-通道的依赖性，限制了多周期、多通道场景下的预测性能。

为了解决这些限制[3]，我们提出了周期-通道融合框架，该框架同时捕捉跨周期依赖性和周期-通道交互。其核心思想是通过引入周期和通道维度之间的明确交互机制来实现多层次的信息融合，克服了现有方法独立建模周期和通道的局限性。具体来说，我们引入了两种互补的建模方法：周期独立的（PI）和周期依赖的（PD）。与传统的时空建模方法（图1(a)-(b)相比，我们的方法将建模维度从“通道”扩展到“周期”。如图1(c)所示，周期独立建模强调在同一周期内的跨通道信息融合。图1(d)展示了周期依赖建模，突出了跨周期交互，包括同一通道在不同周期内的互补性以及不同通道之间的交互。因此，周期-通道融合建模同时捕捉了三种核心依赖性：同一周期内的跨通道依赖性、同一通道内的跨周期依赖性，以及跨周期和通道的联合依赖性。

基于这一框架，我们提出了PCFNet作为周期-通道融合建模的具体实现。PCFNet使用双流架构分解时间序列，通过周期运算符提取潜在的周期模式，并在周期和通道维度上引入明确的交互机制，以全面捕捉多变量时间序列中的复杂动态。该框架在可解释性和建模能力之间取得了平衡，捕捉了细粒度的周期特征，同时整合了跨周期和跨通道的关联。

需要澄清的是，我们提出的周期-通道融合建模中的“周期”一词指的是不同的周期模式（例如，日周期、周周期和季节周期），而不是时间序列中单个周期的连续重复。在每个周期模式下提取的特征本质上是时域特征。通过联合整合来自多个周期模式的特征，我们构建了一个新的周期维度。换句话说，周期维度可以被视为时域的扩展，在这个维度内，我们明确建立了不同周期模式特征之间的通道依赖性。在我们的实现中，构建的周期维度与通道维度结合在一起，作为令牌索引，而时域对应于每个令牌的内部表示。值得注意的是，在非平稳环境中，全局的严格周期性可能不成立。我们的稳定性加权FFT机制（第3.3.2节）旨在仅选择那些在样本中能量一致表达的周期模式，有效地过滤掉瞬态或噪声驱动的频率成分。因此，我们建模的“周期”是反复出现的时间模式的稳健、数据驱动的估计，而不是固定的预定值。

本文的具体贡献如下：

方法论框架：我们提出了周期-通道融合框架，通过周期独立的（PI）和周期依赖的（PD）建模策略明确捕捉跨周期依赖性，从而扩展了时空建模。

架构设计：我们开发的PCFNet具有以下特点：（i）结合Hybrid TrendNet的双流分解和稳定性加权的周期选择；（ii）互补的周期编码器（SPC用于结构，PMF用于增强鲁棒性）；以及（iii）统一的周期-通道注意力机制，用于多尺度融合。

实证验证：PCFNet在八个基准数据集上取得了最先进的性能，在40个任务中的25个MSE和33个MAE指标中均排名第一，特别是在长期预测能力方面表现尤为突出。

部分片段

多变量时间序列预测

多变量时间序列预测在各个领域发挥着至关重要的作用[13]，[14]。早期研究主要依赖于统计方法，如ARIMA[18]、VAR[14]和Prophet[19]。尽管这些方法在初期应用中取得了一定的成功，但它们固有的线性假设限制了它们捕捉非线性动态和长期依赖性的能力，也限制了它们在大规模场景中的可扩展性。随着深度学习的发展，循环神经网络（RNN）[6]的出现

方法论

在多变量时间序列预测任务中，目标是预测未来的序列

$Y=[x_{L+1},x_{L+2},\; \dots ,x_{L+T}]\in R^{B\times C\times T}$ $X=[x_1,x_2,\; \dots ,x_L\in R^{B\times C\times L}$

如图2所示，我们模型的整体架构由四个主要部分组成：分解模块、混合趋势网络和季节性组件建模

实验

本节对八个广泛使用的真实世界基准数据集进行了广泛的实验评估。所提出的模型与最近的先进预测方法在一致的实验配置下进行了比较，以确保公平性。此外，还进行了消融分析，以验证框架内各个模块的有效性。

结论

本文通过提出周期-通道融合建模框架及其具体实现PCFNet，解决了多变量时间序列预测中跨周期依赖性建模不足的问题。与传统的时空建模范式不同，我们引入了“周期”作为一个独立的建模维度，并区分了周期独立的（PI）和周期依赖的（PD）策略，以实现周期相关性、通道相关性的统一建模

CRediT作者贡献声明

Jinze Du：监督、资源获取、资金筹集。

Songmao Jiang：撰写——审稿与编辑、撰写——原始草稿、可视化、验证、软件、项目管理、方法论、调查、形式分析、数据整理、概念化。

利益冲突声明

作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文报告的工作。

关于手稿准备过程中生成式AI和AI辅助技术的声明在准备本工作时，作者使用了ChatGPT来改进语言。使用该工具后，作者根据需要审查和编辑了内容，并对已发布内容负全责