基于堆叠去噪和小波轻量级变换器的交通速度预测

《Engineering Applications of Artificial Intelligence》：Traffic speed prediction based on a stacked denoising and wavelet lightweight transformer

交通速度预测模型SDWLT通过堆叠去噪（波带去噪+自编码器）与Sym4波基轻量级Transformer融合，有效提升噪声环境下的预测精度与计算效率。实验验证其在PEMS-BAY和METR-LA数据集上相比基线模型表现更优，兼具高鲁棒性与低延迟特性。

　　
智能交通系统中基于堆叠去噪与波基轻量化Transformer的交通流预测方法研究

（全文约2100个汉字）

一、研究背景与核心挑战
随着全球城市化进程加速，交通流量预测已成为智能交通系统（ITS）发展的关键环节。该研究针对当前主流预测模型存在的两大瓶颈展开：首先，传统深度学习模型在边缘服务器部署时面临计算资源限制，难以实时处理大规模交通数据流；其次，现有模型对数据噪声的鲁棒性不足，特别是高频噪声和局部波动会显著影响注意力机制的计算结果。文献调研显示，虽然波let变换等频域分析方法在特征提取方面取得进展，但尚未有研究将去噪预处理与轻量化Transformer架构有机结合。

二、技术路线与创新点
本方法提出SDWLT框架，通过三个层次创新实现性能突破：

1. 堆叠去噪预处理模块
采用双阶段净化机制：初级处理通过Sym4小波基函数进行频域分解，有效消除传感器测量误差等低频干扰；次级处理引入改进型去噪自编码器，通过重构残差学习机制，解决天气变化等突发因素导致的非稳态噪声问题。实验对比表明，软阈值去噪方法在信号恢复质量（SNR提升12.7%）和噪声抑制效果（RMSE降低18.3%）方面优于传统硬阈值方法。

2. 轻量化波基Transformer架构
基于Sym4正交基函数构建新型注意力机制：通过将传统多头注意力替换为对称小波变换的频域注意力网络，在保持时空建模能力的同时，参数量减少42%。特别设计的稀疏前馈网络（SFN）将通道数压缩至原模型的1/3，但通过门控机制实现关键特征的增强提取。实际部署测试显示，模型推理速度较标准Transformer提升3.8倍，内存占用降低至1.2MB/路段。

3. 混合损失函数优化
创新性融合Huber损失与MAPE损失，构建动态权重调整机制：在交通流量较低时段（ Huber损失主导，权重比达68:32），系统自动增强对异常值的敏感性；在高峰时段（MAPE权重提升至57:43），强化对预测精度的量化要求。联合训练实验表明，该损失函数使收敛速度提升2.3倍，验证集误差降低至1.8%。

三、实验设计与验证结果
研究采用两大基准数据集：
- PEMS-BAY：包含5个月（2018-2022）的325个路段实时速度数据，最大观测间隔0.5分钟
- METR-LA：涵盖洛杉矶14条主干道连续7天的数据流，突发事故记录达127次

对比实验包含：
1. 基准模型组：包括传统LSTM（误差2.4%）、GCN（2.1%）、Wavelet-Transformer（1.9%）以及最新模型DST-Trans（1.7%）
2. 改进方向组：堆叠去噪模型（2.1%）、波基Transformer（1.8%）、混合损失模型（1.9%）
3. 综合性能组：SDWLT模型（1.42%）

关键性能指标：
- 预测误差：SDWLT较最优基准模型（DST-Trans）误差降低33.8%
- 计算效率：单次推理耗时从原Transformer的12.7ms降至3.2ms
- 鲁棒性测试：在添加25%-40%高斯噪声和脉冲噪声后，预测稳定性保持率高达91.7%
- 硬件适配性：在NVIDIA Jetson Nano边缘设备上实现每秒120帧的实时预测

四、方法优势与工程价值
本框架在保持预测精度的同时，显著降低计算复杂度：
1. 注意力机制重构使计算量从O(n2)降至O(n log n)
2. 双层去噪模块将输入数据信噪比从-8dB提升至-12dB
3. 量化感知设计支持INT8精度推理，模型体积压缩至4.7MB

实际部署测试表明，在成都天府新区智慧交通平台的应用中：
- 高峰时段预测延迟从原系统的4.2秒降至1.8秒
- 突发事故响应时间缩短至12分钟（原系统35分钟）
- 边缘服务器资源消耗降低62%，达到每秒200帧的实时处理能力

五、局限性与未来方向
当前研究存在以下局限：
1. 长序列依赖处理（>72小时数据）时，注意力衰减问题尚未完全解决
2. 跨区域泛化能力受限于本地化特征学习模块
3. 对极端天气事件的建模精度有待提升

后续研究计划包括：
- 开发动态时窗注意力机制（DTA）
- 构建跨区域迁移学习框架
- 集成多源传感器数据融合模块

该研究为智能交通系统的边缘计算部署提供了新的技术范式，其创新性地将小波变换的时频分析优势与Transformer的深层特征学习能力相结合，在保证预测精度的同时显著降低计算负载，为构建实时响应的智慧交通基础设施提供了重要技术支撑。