WEITS：一种基于小波增强残差方法的可解释时间序列预测框架

《Neurocomputing》：WEITS: A wavelet-enhanced residual framework for interpretable time series forecasting

时间序列预测领域，提出融合小波分解的深度学习框架WEITS，通过多级小波分解和前向-反向残差结构实现高效可解释预测。实验验证在多个数据集上优于现有模型，兼具高精度与计算效率。

　　

郭子友|孙艳|吴铁如

吉林大学人工智能学院，中国长春

摘要

近年来，时间序列（TS）预测成为一个异常热门的研究领域，在科学和商业领域都有广泛的应用。已经引入了多种时间序列分析方法，包括统计方法和深度神经网络。尽管神经网络在表示能力上优于统计方法，但它们在可解释性方面存在不足，且优化过程可能过于复杂。在本文中，我们提出了WEITS，这是一种具有高度可解释性和计算效率的频率感知深度学习框架。通过多级小波分解，WEITS将频率分析巧妙地融入到深度学习框架中。结合前向-后向残差架构，该框架兼具强大的表示能力和统计可解释性。在真实世界数据集上的广泛实验表明，我们的模型具有竞争力，并且具有较高的计算效率。此外，WEITS提供了一个通用框架，可以轻松与最先进的时间序列预测方法集成。

引言

时间序列预测是一个重要的问题，许多实际应用都需要它，例如股票预测[28]、库存控制[3]和疾病建模[1]。基于历史数据提供准确的预测对科学和金融领域都有重要意义。传统的统计工具通常与集成技术结合使用，在许多预测场景中仍然是主流，因为它们具有可解释性和简单性。自2017年以来，随着Transformer[62]在计算机视觉和自然语言处理[66]领域的广泛应用，时间序列的神经预测方法也取得了显著进展，尤其是在长预测期方面。

然而，尽管深度学习技术在长序列预测领域取得了巨大成功，但在许多场景中仍难以完全超越传统的时间序列预测方法。此外，缺乏可解释性仍然是深度学习技术在某些领域（如医疗保健和商业场景）面临的一个限制，尽管有一些研究致力于提高深度神经网络的可解释性[9]。N-BEATS模型[44]提出了一种基于前后向残差链接和全连接层堆叠的深度神经结构，在多个任务中取得了有竞争力的性能。然而，这种结构设计存在一些缺点：在通用配置下，模型往往无法从每个层堆叠中产生可解释的输出；而可解释的配置则限制了层堆叠的数量，并需要仔细选择函数基。此外，块的结构是相同的，这无法很好地捕捉多速率信号。因此，一个无需手工调整的通用且可解释的深度框架仍然非常受欢迎。

在本文中，我们提出了一个用于时间序列预测的小波增强深度框架（WEITS），该框架适用于具有长期依赖性的时间序列预测。通过整合原始函数空间和小波诱导空间，WEITS结合了两种思想来提高可解释性，同时提供了一个表达能力强的深度网络。我们还提供了一个可并行化的WEITS变体，它在计算上高效且仍然能够提供准确的预测结果。此外，我们的方法超越了特定的模型结构，可以被视为对包含任意组件的通用框架的研究，例如基于Transformer的模型。

贡献总结

作为第一篇结合频率分析（多级离散小波分解，MDWD）和双残差框架与大型深度学习模型的论文，我们的论文有几个关键贡献。

多级小波分解

小波分解是时间序列分析中的常用工具[47]，通常用于深度网络之前的数据预处理[64]。时间序列文献中应用了多种类型的小波，包括Haar小波（‘db1’）[57]、Daubachies小波[14]和sym4小波[56]。多级离散分解（MDWD）可以从高频率到低频率的多个层次提取时间序列的时间和频率特征。

方法论

我们的架构设计基于几个关键原则。首先，我们提供了一个通用框架，将时间序列预测方法作为独立的操作单元纳入其中，同时保持结构简单和易于解释。其次，该框架不应包含任何特定于序列的预处理步骤，而应自动将可解释性融入模型输入。此外，模型应建立在人类可解释的多尺度架构之上。

实验结果

我们使用四个数据集来展示我们模型的性能：SP-500小时数据集以及三个用于单变量预测的流行数据集：ETTh1、ETTh2[72]和类似流感的疾病数据集（ILI）。我们在多种WEITS配置下研究了模型的性能：小波融合的FCN（WEITS-1）、小波融合的Informer（WEITS-2），主要结果见表1。训练和评估的详细信息在第5.1节中讨论。我们通过消融实验总结了这项研究。

讨论

实验结果证实了信号增强和多分辨率采样机制对于可解释的时间序列预测的有效性。WEITS是第一个将小波技术融入残差网络的框架，它能够自动产生可解释的层堆叠输出，而无需手动配置每个层堆叠，并在多个任务中超越了现有最佳基线。这种创新的分解方法为用户提供了可靠的洞察。

作者贡献声明

郭子友：撰写 – 审稿与编辑，撰写 – 原始草稿，可视化，验证，监督，软件开发，资源整理，形式分析，数据整理。孙艳：软件开发，数据整理。吴铁如：项目管理，研究调查。

利益冲突声明

作者声明他们没有已知的财务利益或个人关系可能影响本文的研究工作。

致谢

本工作得到了中国国家重点研发计划（项目编号2022YFB3103702）的支持。

郭子友分别于2019年和2022年在吉林大学获得学士和硕士学位。他目前正在吉林大学人工智能学院攻读博士学位。他的研究兴趣包括深度学习模型和时间序列分析。