时空图混合神经网络在航空发动机剩余使用寿命预测中的应用

《Reliability Engineering & System Safety》：Spatial-temporal graph hybrid neural network for remaining useful life prediction of aero-engines

多传感器数据时空特征融合模型通过GCN与图Transformer并行架构提升航空发动机RUL预测精度，构建包含空间结构特征与时间衰减矩阵的时空图，有效整合传感器间空间依赖和时间序列关联，经NASA C-MAPSS/N-CMAPSS验证展现优异预测性能。

　　

任永雷|孟宗|李吉萌

中国秦皇岛燕山大学

摘要

有效地融合多传感器数据以提高航空发动机剩余使用寿命（RUL）预测的准确性是预测与健康管理（PHM）领域中的一个关键挑战。复杂的运行条件和传感器信号的可变性使得预测模型难以提取反映设备退化趋势的关键特征。此外，序列网络结构可能导致信息混乱和退化信息的丢失，从而阻碍预测精度的提高。因此，本文提出了一种基于图卷积网络（GCN）和图变换器（Graph Transformer）的混合网络RUL预测方法。通过构建时空图实现了多传感器信息的有效融合。该方法结合了航空发动机的结构特性来整合数据中的空间依赖性，并通过构建跨时间步长的局部时空图和基于时间距离的衰减矩阵来增强时间相关性。此外，还使用了一维卷积神经网络来提取节点特征。通过结合GCN和图变换器的并行架构，从时空维度内的多个角度提取时空特征。这种方法构建了包含时空相关性的时空表示，从而提高了模型提取时空特征的能力。最后，使用NASA的C-MAPSS和N-CMAPSS数据集验证了该方法的有效性。实验结果表明，该方法具有出色的预测性能。

引言

在工业4.0时代，生产和制造领域的重大变革对PHM提出了更严格的要求[1]。故障诊断提供了对设备状态的精确评估，而RUL预测为全生命周期管理提供了科学依据[[2], [3], [4]]。两者的结合构成了设备健康管理的核心闭环。作为健康管理的一项核心任务，准确评估各种工程项目和设备的RUL至关重要[5,6]。基于模型和数据驱动的方法是RUL预测的两种主要方法。基于模型的方法具有真实性和可解释性[7,8]。由于不需要建立复杂的退化模型，并且监测数据可用，数据驱动的方法逐渐成为当前的研究热点[[9], [10], [11]]。

来自多个传感器的监测数据为预测模型提供了更丰富、更细致的退化信息，这对于实现智能维护至关重要[12,13]。基于深度学习的预测方法在RUL预测领域非常流行，因为它们具有有效的特征提取能力。传统的深度学习方法（如卷积神经网络（CNN）和循环神经网络（RNN）使用多传感器信号作为输入来学习退化特征[14,15]。例如，Kim等人[16]提出了一种基于CNN的共享网络来预测航空发动机的剩余使用寿命。然而，该预测模型的网络层相对较多，导致计算复杂度较高。Chen等人[17]提出了一种基于RNN的剩余使用寿命预测方法。由于模型处理长期依赖性和并行处理问题的能力有限，该预测模型的预测精度不令人满意。这些方法忽略了多传感器在空间维度上的相关性，尽管它们能够捕捉到多传感器收集的数据中的时间维度相关性并实现RUL预测。同时，CNN在表达全局信息方面存在不足，而RNN在处理长时间序列时容易出现梯度爆炸和梯度消失等问题。这些限制影响了RUL预测方法的性能。

图数据驱动的方法提供了一种整合多传感器数据的新途径[18,19]。由于其独特的拓扑结构，图可以有效地从多传感器数据中提取空间依赖性，为整合时空信息提供了新方法。基于图神经网络的RUL预测方法通过将多传感器信号构建为图数据并利用传感器之间的空间依赖性来有效整合退化信息。例如，Li等人[20]提出了一个基于GNN的RUL预测方法的基准框架。Wang等人[21]设计了一种名为LOGO的方法，该方法结合了局部和全局信息来捕捉数据的空间依赖性和时间相关性。Wen等人[22]构建了一个时间异构图神经网络（THGNN）模型，用于从多源数据中提取异构特征和时空特征。Zhang等人[23]使用时空双通道自适应图卷积网络来提取数据的空间依赖性和异质性以进行RUL预测。上述方法的多传感器数据融合是通过构建传感器网络和相关性分析来实现的。尽管考虑了数据中的空间依赖性，但将每个图独立处理的方法未能充分捕捉时间相关性。

Transformer模型通过自注意力机制自适应地捕捉数据中的时间相关性来实现RUL预测。Fan等人[24]引入了两阶段注意力机制，并提出了分阶段注意力分层Transformer（STAR）框架用于RUL预测。Kamei等人[25]分析了使用Transformer架构的集中式与分布式联邦学习对预测模型的影响。图变换器将自注意力机制扩展到图数据中，以捕捉节点之间的依赖性。Gao等人[26]提出了一种非线性缓慢变化的动态辅助时间图变换器网络。该方法结合了时空图结构信息与非线性缓慢变化的动态处理能力，提高了RUL预测的精度。Wang等人[27]提出了DVGTformer模型，该模型使用可学习的图邻接矩阵和多头自注意力来融合多传感器信号以预测剩余服务寿命。上述方法分别处理空间和时间维度，导致时空表示不完整。因此，在整合时空信息方面存在一定的局限性。此外，预测模型将各种网络结构串联连接。首先使用GNN提取空间特征，然后将这些特征输入其他神经网络以提取时间特征。这种方法可能会阻止预测模型全面捕捉时空特征，从而导致特征的遗漏和模糊。创建富含时空信息的图数据并提取整合时空特征的退化信息对预测模型提出了新的挑战。

为了解决这些问题，本研究提出了一种基于GCN和图变换器的剩余使用寿命预测方法。该方法创建了考虑多传感器数据时空特征的时空图，并使用结合GCN和图变换器的并行架构来全面提取退化特征。具体来说，通过构建空间结构图来整合空间依赖性，同时通过整合局部时空图和衰减矩阵来增强时间相关性。此外，时空图由GCN和图变换器并行处理，从多个角度提取特征。这使得能够全面整合退化信息，最终实现RUL预测。以下是本研究的主要贡献：

• (1)
  提出了一种基于GNN的预测模型，以实现多传感器数据的信息融合。该模型利用混合网络结构协同探索不同信号源的时空特征，从而准确预测RUL。
• (2)
  提出了一种时空图构建方法，用于表征多传感器信号之间的时空属性。该方法构建局部时空图，以整合多个时间步长内的多传感器数据的时间相关性，并引入时间距离衰减矩阵来增强时空信息的表示，从而有效地展示多传感器数据中的复杂时空特征。
• (3)
  通过结合图卷积和图变换器对时空图的协同效应，我们不仅可以在同一时间步长内高效聚合节点信息，还可以有效捕捉多个连续时间步长之间节点的动态交互关系。这显著增强了预测模型整合多源信号时空相关性的能力。
• (4)
  通过航空发动机的C-MAPSS和N-CMAPSS两个数据集验证了所提出方法的有效性。实验结果表明，该方法具有出色的预测性能。

本文的其余部分结构如下：第2节介绍了多传感器融合方法和RUL领域的相关研究。第3节详细解释了时空图的构建和提出的并行网络框架。第4节专门用于分析数据集并展示实验结果。最后，结论部分详细介绍了得出的结论，并提出了未来研究的潜在方向。

章节摘录

多传感器数据的时空特征融合

在机械系统中，许多传感器被部署在各种子系统和组件中，以监控系统的运行状态和健康状况。由于子系统之间的耦合关系和组件之间的动态交互，来自不同传感器的监测数据表现出显著的空间依赖性。同时，由于传感器数据本质上是时间序列数据，它们也具有时间相关性。因此，多传感器数据共同构成了一个多变量时间序列

提出的方法

基于GCN和图变换器的RUL预测框架如图1所示。该方法利用GCN和图变换器的独特优势来预测航空发动机的RUL。首先，将每个传感器视为一个节点来构建结构图。然后，连接相邻时间步长的各个空间图以形成局部时空图。进一步使用时间距离衰减矩阵来增强数据点之间的时间相关性

案例研究和分析

为了验证所提出方法的有效性，使用了两个涡扇发动机数据集（C-MAPSS [49]和N-CMAPSS [50]）进行实验验证。使用的机器学习框架是Python 3.8和PyTorch 2.4。所有实验都在配备NVIDIA GeForce RTX 2080 Ti显卡和Intel(R) Xeon(R) Silver 4216 CPU @ 2.10GHz处理器的服务器上进行，使用PyTorch框架。

结论

本文提出了一种结合GCN和图变换器的混合网络架构，用于预测飞机发动机的RUL。首先，根据发动机的结构特性和传感器布局构建包含空间依赖性的空间图。在此基础上，创建局部时空图以整合时间步长内的时间相关效应。还引入了时间距离衰减矩阵来增强数据的时间相关性

CRediT作者贡献声明

任永雷：概念化、方法论、软件、验证、撰写——原始草案。孟宗：撰写——审阅与编辑、监督、项目管理、资金获取。李吉萌：可视化、撰写——审阅与编辑、验证。