贝叶斯优化和提前停止策略提升了自动驾驶车辆滚动角估计的深度学习模型性能

《Displays》：Bayesian optimization and early stopping improved a deep learning model for autonomous vehicle roll angle estimation

自主轮式车辆在高速非稳态越野工况下的横滚角估计面临动力学模型计算复杂度高、数据驱动方法依赖训练数据量大等问题。本研究提出融合贝叶斯优化与注意力机制的物理信息LSTM（BOE-Attention-PI-LSTM）模型，通过构建包含轴荷转移的动力学模型约束网络，结合贝叶斯优化调参和早停机制防止过拟合。仿真验证表明，该方法在零样本条件下仍保持R2值＞0.65，且稳态工况下R2值＞0.85，优于传统算法。

　　

Xiaoran Lu|Guodong Du|Yuan Zou|Chunming Li|Haitao Liu|Xudong Zhang

北京工业大学机械工程学院，北京 10081，中国

摘要

为了满足高机动性越野条件下自主轮式车辆的运动状态估计需求，同时减轻动态模型计算速度慢和传感器测量引入的波动问题，本研究提出了一种基于贝叶斯优化和注意力机制改进的物理信息长短期记忆（PI-LSTM）算法的车辆滚角识别模型。该模型通过使用四轴轮式运输平台收集的车载数据进行仿真验证。为了提高动态模型在非稳态条件下的泛化能力和计算精度，开发了一种考虑转向引起的轴载荷转移的车辆滚角动力学模型。基于该模型，构建了一个物理信息神经网络用于滚角识别，其中损失函数受到所提动态模型的约束。这种设计增强了网络处理小样本和零样本条件的能力。随后，采用贝叶斯优化来调整网络超参数，并引入了提前停止机制以减轻训练过程中的过拟合现象。仿真结果表明，所提出的贝叶斯优化物理信息神经网络在车辆滚角估计方面的决定系数超过0.85，优于传统算法。在零样本场景下，该模型仍能保持良好的性能，决定系数大于0.65。

引言

多轴运输车辆具有显著的优势，包括高行驶速度、强大的越野能力和较大的载荷承载能力。随着线控硬件（如电动驱动系统和电子辅助转向系统）的集成，这些车辆可以配备自动驾驶功能[1]、[2]、[3]。由于这些优点，多轴自动驾驶运输车辆已广泛应用于物料运输和区域探索等极端应用场景[4]。

随着多轴自动驾驶运输车辆在高速越野场景中的广泛应用，车辆稳定性越来越依赖于准确的驾驶状态反馈。为了减轻噪声和车载传感器测量波动对控制性能的影响，许多研究使用动态模型来推断车辆状态。Jonathon、Blackhman等人开发了一自由度（1-DOF）和两自由度（2-DOF）的车辆动力学模型[5]、[6]，主要从侧向滑移和悬挂质量的垂直振动角度分析车辆运动。然而，1或2-DOF模型难以捕捉多因素车辆动力学系统中的复杂耦合效应，导致计算精度降低。为了提高动态模型对实际驾驶条件的拟合度，一些研究人员将轮胎与地面的相互作用力纳入车辆动力学建模中。Lugner通过引入瞬态轮胎力模型，在快速变化的路况下增强了轮力预测[7]。Vieira通过考虑轮胎惯性效应，在高机动性越野条件下提高了轮胎模型的准确性[8]。尽管轮胎建模的改进效果与模型复杂度不成正比，但广泛采用的“Magic Formula”轮胎模型仍然是主要方法[9]。其他研究通过增加模型自由度来提高状态估计能力。Zhang[10]通过结合每个轴与车辆质心的悬挂刚度和扭矩关系，开发了一个三轴轮式车辆动力学模型，并通过时域和频域仿真验证了其稳态性能。Zeng[11]通过结合6-DOF全车辆表示和Magic Formula轮胎模型，建立了适用于四轴和多轴车辆的动态模型，并通过仿真证明了其稳态准确性。Gupta通过将地面不平特性纳入车辆动力学模型，进一步模拟了重型越野车辆的地形诱导激励[12]。Yu在6-DOF车辆模型的基础上，为所有四个轮胎增加了纵向和垂直自由度，构建了一个14-DOF模型[13]，并以最小全速时间为目标优化了车辆设计参数。虽然增加自由度可以提高动态模型的仿真精度，但在处理非稳态车辆动力学时仍存在显著限制。特别是，这些模型难以解决激进操作过程中由轴载荷转移引起的状态波动问题。此外，随着自由度数量的增加，模型复杂性和计算需求大幅增加，给实际车辆部署、大规模仿真和算法开发带来了挑战。

为了避免复杂车辆动力学模型带来的高计算需求，研究人员探索了基于深度学习的神经网络算法，这些算法能够模拟车辆行为以实现状态识别和预测。Revach将神经网络集成到卡尔曼滤波框架中，突出了基于学习的方法在状态估计方面的巨大潜力[14]。Wang进一步将BP神经网络应用于自适应巡航控制（ACC）系统，实现了车辆速度控制模块内的驾驶条件预测和参数调整[15]。他们的方法提高了ACC操作期间的速度控制平滑性，但并未直接解决车辆状态识别问题，因此对车辆控制系统的固有估计能力提升有限。Lin在Keras框架内开发了一个神经网络模型，用于识别道路和轮胎之间的摩擦系数，并使用Dugoff算法提高了轮胎力分析的准确性[16]。尽管将真实轮胎参数纳入了动态计算，但网络输出仍严重依赖于仿真数据。为了提高网络处理真实车辆状态的能力，Zareian使用传感器数据训练了一个神经网络，并尝试通过卡尔曼滤波来减轻噪声[17]。Pillai将卷积神经网络（CNN）与长短期记忆（LSTM）网络相结合，通过CNN层增强特征提取，并通过LSTM建模时间依赖性。此外，还采用了切比雪夫优化算法来微调网络参数，从而提高了车辆定位精度[18]。一些基于云技术的方法也被用来减轻车辆端的计算负担。Tamilvizhi[19]通过集成云和车载计算资源，在车辆定位方面取得了显著成功。尽管这种方法尚未应用于实时车辆动力学计算，但随着这些技术的进步，它在减轻动态建模的高计算需求方面具有巨大潜力。然而，这些方法无法有效消除传感器失真，可能导致超出物理上可行的车辆状态范围的异常预测。总体而言，基于仿真数据或传感器测量的深度学习神经网络训练方法对训练数据集的准确性要求很高，其性能从根本上受到数据集大小的制约。因此，这些方法在处理小样本或观测稀疏的操作条件时能力有限。

总之，在大多数现有研究中，车辆驾驶状态的获取主要依赖于两种技术方法：动态模型和数据驱动方法。随着动态常微分方程（ODE）模型的自由度增加，相关的计算负担显著增加。为了解决这个问题，研究人员经常引入简化假设以降低车辆状态计算的复杂性[20]，这不可避免地会降低ODE的计算精度。以博世车辆控制单元为例，内部使用了大量简化模型，如简化的Pacejka轮胎模型。数据驱动技术（如用于获取车辆驾驶状态的深度学习神经网络）逐渐受到越来越多的关注，但其识别精度本质上受到训练数据集质量的限制。数据噪声和传感器故障等因素可能对神经网络的前馈逻辑产生不利影响，从而降低估计性能[21]。上述讨论和总结突出了现有车辆状态获取方法在实际应用中的局限性。从理论方法和实际案例研究的角度进行了分析，进一步强调了开发优化算法对于车辆状态获取的重要性。

为了解决车辆动力学模型的高计算需求问题以及基于神经网络的状态识别方法在依赖训练数据集方面的有限泛化能力[22]，本研究提出了一种基于贝叶斯优化和注意力机制改进的物理信息长短期记忆（BOE-Attention-PI-LSTM）算法的车辆滚角识别方法。建立了一个考虑轴载荷转移的车辆动力学模型，并将其分析结果作为边界约束纳入长短期记忆网络。这种设计增强了网络处理小样本和零样本条件的能力。随后采用贝叶斯优化来调整网络超参数，减少了所需的训练迭代次数，同时提高了识别精度。此外，使用决定系数（R²）来评估识别模型的核心性能，并引入了提前停止机制以减轻训练过程中的过拟合现象。主要贡献如下：

(1)

通过考虑轴载荷转移效应，开发了一个多轴自动驾驶轮式车辆动力学模型，提高了车辆动力学模型在非稳态条件下的计算能力。该模型能够高精度计算车辆纵向速度、横向加速度和车身滚角。

(2)

基于多轴动力学模型和LSTM网络，构建了一个物理信息神经网络，以实现自动驾驶轮式车辆的滚动动力学自学习，并将注意力机制和贝叶斯优化集成到所提出的物理信息神经网络中。使用真实车辆数据验证了该网络的识别准确性，决定系数超过0.85。

(3)

所引入的提前停止机制直接监控R²，减轻了网络的过拟合现象，并平衡了训练集和测试集之间的识别准确性。在零样本场景数据集上验证时，网络的确定性系数（R²）最高达到了0.8以上。

本文的结构：第2节构建了考虑轴载荷转移效应的车辆动力学模型。第3节依次将贝叶斯优化和注意力机制纳入PI-LSTM网络，并加入了提前停止机制。第4节包括验证和分析结果。第5节总结了研究内容。

章节摘录

自动驾驶轮式车辆的动力学模型

根据物理信息神经网络的架构，除了车载数据外，还需要基于物理模型的分析数据来减少网络对数据集质量的依赖，并通过基于物理的规则化来限制模型的解空间。因此，在开发高性能的轮式车辆滚角识别模型之前，有必要构建一个电动驱动轮式车辆的动力学模型

物理信息长短期记忆神经网络

深度学习神经网络对训练数据集的依赖性很高，数据集的大小和质量成为网络性能的限制因素。为了解决车辆运行过程中数据波动和数据丢失引起的输出失真问题，基于第II节中介绍的动力学模型构建了一个物理信息神经网络。通过结合来自车辆动力学模型的边界约束，可以减少数据噪声、缺失数据等的影响

实验数据集设置

本研究中用于动态模型和算法验证的所有数据均来自真实车辆，数据集包括从三次独立车辆测试中收集的测量数据，以确保数据集的全面性和代表性。每次测试持续30秒，三次测试共收集了90秒的数据。输入数据中，前轮转向角和驱动扭矩来自

结论

本研究提出了一种高精度的深度学习神经网络模型，以满足高速越野条件下自动驾驶轮式运输车辆滚角识别的需求。通过基于物理分析车辆运动过程中多个子系统上的耦合力，并解决数据噪声、波动和小样本场景对深度学习模型的不利影响，我们提出了一种基于贝叶斯的滚角识别模型

利益冲突声明

作者声明他们没有已知的可能会影响本文所述工作的竞争性财务利益或个人关系。