ARFNet：一种适用于时间序列预测的、具有尺度感知能力的自适应感受野网络

《Neurocomputing》：ARFNet: Scale-aware adaptive receptive field network for time series forecasting

时间序列预测中的固定感受野难以适应多周期和动态趋势，本文提出ARFNet，通过自适应感受野金字塔动态调整感受野，结合跨尺度特征合成器建模多尺度依赖，有效提升复杂场景下的预测性能。

　　

秦崇云|吴振鹏|史一婷|高建良

中南大学计算机科学与工程学院，中国长沙，410083

摘要

时间序列预测在各种场景的决策中起着至关重要的作用，包括天气、交通和金融领域。现实世界中的时间序列通常表现出复杂的模式，其中多个周期和动态趋势相互重叠。然而，基于固定感受野的传统模型难以灵活适应不同应用场景中周期性和趋势特征的尺度变化，从而限制了它们的泛化能力。在本文中，我们提出了一种具有尺度感知能力的自适应感受野网络（ARFNet）。具体来说，我们提出了一个自适应感受野金字塔模块，该模块根据数据的内在特征动态调整感受野的大小，为后续分析提供高质量的周期性和趋势特征输入。此外，我们还设计了一个具有尺度感知能力的特征合成器模块，以捕捉不同尺度特征之间的依赖性，从而增强模型对多尺度时间信息的理解和利用能力。在真实世界数据集上的广泛实验结果表明，ARFNet在时间序列预测方面优于现有的最先进方法。

引言

时间序列预测是通过挖掘历史数据中随时间演变的模式来推断未来价值变化的任务[30]。其核心价值在于将基于历史数据的定量分析转化为对未来场景的定量预测，从而为规划、优化和风险响应等决策活动提供科学依据。在天气监测[1]、交通流量监测[6]、金融[38]和疾病预防与控制[26]等各种应用中，时间序列分析和预测都发挥着重要作用。

利用深度学习模型强大的非线性建模能力，已经提出了许多方法来捕捉现实世界时间序列中的复杂时间变化[42]。在各种深度架构中，感受野是一个核心概念，表示输入序列中每个特征单元的可观察历史范围。感受野的设计直接影响模型捕捉时间依赖模式的能力：过小的感受野可能会忽略长期依赖性；而过大的感受野则可能引入无关噪声或稀释局部细节。

然而，当前主流的感受野机制仍存在显著局限性，并面临以下关键挑战：(1) 固定感受野的固有局限性。在卷积神经网络等传统架构中，感受野的大小通常由预定义的卷积核尺寸或池化窗口大小确定[22]、[27]。然而，现实世界的时间序列通常由多种周期性和动态趋势组成[32]。这种多模式时间结构对固定感受野构成了重大挑战。模型难以根据局部序列特征自适应地调整其观测范围，从而限制了它们在复杂场景中的泛化能力。值得注意的是，即使是像TimesNet[33]这样的最新方法，它将一维序列转换为二维张量以模拟周期内和周期间的变化，也受到固定二维卷积核设计的限制，这限制了它们实现尺度自适应感知的能力。(2) 基于注意力的全局感受野的次优性。自注意力机制理论上可以通过全局感受野使任何时间步骤直接与整个历史序列关联起来，从而能够建模任何长期依赖性[14]、[21]。然而，平等对待所有历史位置忽略了时间序列中的局部自相关性，相邻时间点通常表现出更强的相互依赖性。因此，全局感受野可能无法充分捕捉和利用这种强烈的局部相关性，导致对细微局部模式的建模不够精确。

如图1所示，我们使用来自交通数据集和电气变压器温度（ETT）数据集的真实世界时间序列数据比较了固定感受野和自适应感受野。由于来自不同应用场景的时间序列在周期性、趋势变化率和信息密度方面存在显著差异，具有统一预设尺度的固定感受野难以适应不同的数据集，导致关键信息丢失。相比之下，自适应感受野有效地解决了这些问题。通过动态调整每个尺度，模型确保从多样化的数据集中提取最具区分性的特征，从而为下游预测任务提供更高质量的输入特征。

为了克服固定感受野在时间建模中的局限性，我们提出了一种新的具有尺度感知能力的自适应感受野网络（ARFNet），用于时间序列预测。与传统仅使用预定义尺度或静态融合的多尺度方法不同，ARFNet引入了一种完全动态的机制来生成和融合感受野。ARFNet根据输入序列的时间变化特征动态调整感受野的大小、权重和跨尺度依赖性。这显著增强了其对复杂多周期模式和动态趋势的建模能力，以及其泛化性能。

与传统静态多尺度建模不同，ARFNet包含了一个自适应感受野金字塔模块。该模块采用数据驱动的自适应机制，通过频域分析和动态权重分配自动识别时间序列中的主导尺度，从而动态构建最优的层次化感受野。其架构采用双路径并行设计：顶层路径配置具有较大感受野的路径以捕捉宏观级别的周期模式，而底层路径配置具有较小感受野的路径以提取细粒度趋势波动。这种架构使模型能够协作感知和融合多尺度时间特征，而不仅仅是简单地堆叠多个固定尺度。

此外，我们设计了一个具有尺度感知能力的特征合成器模块，其核心功能是自适应地建模不同尺度之间的依赖性并整合多尺度特征。通过注意力机制和跨尺度交互，该模块动态评估各种尺度特征的贡献，并通过加权整合突出关键信息，从而有效增强模型分析时间模式的能力。本工作的主要贡献总结如下：•

我们提出了一种新的具有尺度感知能力的自适应感受野网络（ARFNet），它根据数据的特点动态调整感受野的大小。

•

我们设计了一个自适应感受野金字塔模块，用于动态提取多尺度时间特征，并使用具有尺度感知能力的特征合成器来建模跨尺度依赖性，从而增强模型表达复杂时间序列模式的能力。

•

我们在公共数据集上进行了广泛实验，并与最先进的方法进行了比较，以证明所提出方法在时间序列预测中的有效性。

章节片段

时间序列预测

时间序列预测方法大致可以分为两类：传统统计方法和深度学习方法[37]。传统统计方法（如向量自回归（VAR）及其变体[3]）通常基于线性假设来建模变量之间的依赖性。虽然这些方法结构清晰且高度可解释，但在处理现实世界中常见的复杂时间序列时，它们的性能往往受到限制，因为这些时间序列表现出

方法论

在本节中，我们提出了用于时间序列预测的ARFNet。该方法的示意图如图2所示。我们提出的ARFNet方法包括三个主要模块：自适应感受野金字塔（ARFPyramid）、具有尺度感知能力的特征合成器（SAFS）以及预测和输出模块。接下来，我们将在3.1节详细说明问题定义，并在3.2节中详细介绍这些模块：3.2自适应感受野金字塔、3.2.1周期尺度生成器、3.2.2趋势尺度生成器、3.3

实验

在本节中，我们将介绍数据集、基线、评估指标和实验实现细节。我们通过各种实验来评估ARFNet的性能，以回答以下问题：(1) ARFNet与现有的多尺度方法和传统时间序列预测模型相比表现如何？(2) 周期和趋势尺度特征的影响是什么？(3) 模型的参数如何影响预测性能？(4)

结论

在本文中，我们提出了一种具有尺度感知能力的自适应感受野网络（ARFNet），为时间序列预测提供了有效的解决方案。ARFNet的核心创新在于它引入了自适应感受野调整机制。该机制根据输入序列的特点动态调整感受野的大小，从而精确捕捉时间序列中不同尺度的时间模式。模型的核心架构包括两个

CRediT作者贡献声明

秦崇云：撰写 – 审稿与编辑、撰写 – 原始草案、可视化、软件、方法论。吴振鹏：撰写 – 审稿与编辑、撰写 – 原始草案。史一婷：撰写 – 审稿与编辑、撰写 – 原始草案。高建良：撰写 – 审稿与编辑、撰写 – 原始草案。

利益冲突声明

作者声明以下可能被视为潜在利益冲突的财务利益/个人关系：

高建良报告称获得了中国国家自然科学基金的支持。如果有其他作者，他们声明没有已知的可能会影响本文所述工作的财务利益或个人关系。

致谢

本工作得到了中国国家自然科学基金（编号62272487）的支持。

秦崇云目前是中国湖南省长沙市中南大学计算机科学与工程学院的博士候选人。他于2023年获得中国安徽省合肥市合肥工业大学的学士学位。他的研究兴趣包括时间序列分析和预测。