动态分支扩展：一种基于超图增强的自适应持续学习框架，用于在时变条件下进行机器健康状况预测

《RELIABILITY ENGINEERING & SYSTEM SAFETY》：Dynamic branch expansion: A hypergraph-augmented adaptive continual learning framework for machine health prognosis under time-varying conditions

　　张玉茹|苏春|唐久强|郭志强
东南大学机械工程学院，南京，211189，中国

**摘要**
具有动态分布的工业数据流为数据驱动的机器健康监测带来了更大的挑战。连续学习（CL）方法能够适应新收集的数据，并保留先前的退化知识的部分记忆，但在复杂操作条件（OCs）下，它仍然面临着长期和多样化退化模式积累不足的困境。本研究提出了一种具有动态分支扩展（DBE）的自适应连续健康预测框架，用于吸收动态数据流，以预测旋转机器在时变OCs下的剩余使用寿命。其中，设计了一种基于OC感知的超图拓扑网络来增强超图表示，随后建立了超图拓扑记忆知识缓冲区以实现最佳重放采样。在此基础上，构建了一个自适应的DBE框架，该框架能够随着新数据的持续流入自动识别分支的添加；并且通过在推理阶段使用分支鉴别器logits巧妙地整合多分支预测，从而提高CL的泛化能力。通过对多阶段连续预测的案例研究，验证了所提出框架的有效性。结果表明，该方法可以随着增量数据逐步提高预测性能，并在新的阶段完全学习退化知识的同时保留旧数据的预测结果。

**引言**
在过去的几十年中，为了应对复杂的操作条件（OCs）和严格的制造要求，旋转机器的智能维护技术（IMT）在现代工业中受到了越来越多的关注[1]、[2]。IMT旨在通过更科学和经济的方法提高设备的可用性并降低维护成本[3]、[4]。在IMT中，健康状态估计是维护工具的一个先验过程，有利于产品的科学和高效管理，例如修复优化、即时决策和备件管理等[5]、[6]、[7]。作为量化健康状态的明确指标，剩余使用寿命（RUL）在健康状态预测中不可或缺，并且已经被广泛而深入地研究过。
通常，可以通过各种类型的传感器实时收集机器的操作数据（例如振动、温度、电流等）。近年来，工业大数据、人工智能和工业物联网等新兴技术的发展推动了数据分析的深度和效率。因此，可以从大量的高维条件数据中挖掘出设备的退化趋势和故障模式[8]、[9]。到目前为止，已经开发了系统性的数据驱动方法用于机器健康监测。由于深度学习在特征映射和非线性行为捕捉方面的强大能力，基于深度学习的方法已被广泛用于智能故障诊断和预测[10]、[11]、[12]、[13]。各种深度模型，如卷积神经网络（CNN）[14]、循环神经网络（RNN）[15]、图神经网络（GNN）[16]和Transformer模型[12]，已被用于RUL预测。这些模型在假设数据分布稳定的相同OC下，在单个任务中实现了出色的预测性能。
在真实的工业场景中，由于多种因素（如变化的OC/环境干扰），实时条件数据的分布会动态演变，这对深度模型的实际应用构成了严峻挑战。为了应对这种动态分布，大量研究集中在基于迁移学习的RUL预测上。通过将不同操作条件/机器下的退化知识迁移，有效地减轻了分布漂移，从而提高了单变量分布下RUL预测的准确性[17]、[18]、[19]、[20]。然而，由于OC的实时波动和服务个体的固有差异，操作数据的连续分布变化仍然使得长生命周期退化的迁移变得困难。此外，时变复杂的OCs导致多种退化模式和多样的退化周期（如图1所示），这可能进一步加剧了数据分布的动态漂移。另一方面，在线操作数据通常是分阶段逐步收集的。当直接使用新获得的数据重新训练/微调之前的模型时，由于数据分布的动态漂移，模型不可避免地会对之前的数据产生灾难性遗忘[21]、[22]。另一种方法是将其它新获得的数据添加到之前的数据集中进行联合训练。这种方法可以消除训练样本的梯度冲突和数据分布漂移，从而显著减轻遗忘并有效积累退化知识。然而，联合训练将显著增加存储和计算成本[23]、[24]。
受到人脑记忆能力的启发，连续学习（CL）方法旨在通过赋予深度神经网络知识存储能力来实现智能的长寿命学习[25]、[26]。通过CL，深度模型可以逐渐适应动态数据分布，并在不易遗忘的情况下积累关于learned退化的知识，从而允许使用增量数据逐步提高RUL预测的性能。到目前为止，已经在连续RUL预测中突然研究了三种主流的CL方法，即正则化、重放和参数隔离。其中，正则化方法对先前任务的重要参数施加约束，以限制它们的更新，从而在学习新任务时保留先前的知识[27]。重放方法通过在学习的每个阶段重放先前样本来创建一个存储缓冲区[28]。与上述两种方法不同，参数隔离方法通过设计多分类器/回归器架构，选择性地冻结先前分支的参数并为新任务训练新分支[29]。上述三种方法在CL中不断得到改进，并试图应对具有动态分布漂移的RUL预测问题。然而，由于当前运行数据学习的限制，正则化方法会导致当前退化知识的不足学习。记忆重放可以缓解当前的学习缺陷，但在选择能够代表整个生命周期数据分布的高质量样本和避免旧样本与新样本之间的冲突方面面临挑战。参数隔离通过添加新阶段特定的参数来提升模型容量，但仍面临模型复杂性和记忆消耗迅速增加的问题。
作为一种非欧几里得数据，图结构能够实现节点之间的信息传播和交互，以学习数据的空间相关性，这已被证明在挖掘监测信号中的隐藏时间信息方面具有巨大潜力[30]、[31]。同时，图CL旨在挖掘数据的空间信息，并利用图形信息帮助模型更好地记住先前的知识[32]、[33]。然而，传统图只能建模节点之间的成对相关性，而没有关注更高阶的关系，如非线性动态、时频相关性和时间序列信号中的复杂时间依赖性。因此，开发了具有多个节点连接的单个超边的超图结构来捕捉时间信号中的更高阶相关信息[34]、[35]。然而，现有的研究没有考虑通过超图结构增强退化趋势的连续表示。此外，现实世界场景中设备在复杂条件下的运行通常会记录OC信息作为条件监控数据，这些数据可以作为特征数据来帮助预测和防止模型遗忘，从而增强对复杂条件下动态分布的适应性[36]。
为此，本文提出了一种自适应CL框架，即动态分支扩展（DBE），用于预测在时变OCs下的旋转机器的RUL。该框架具有多分支结构和多个阶段特定预测器以及单个阶段识别器，并利用样本重放和特征蒸馏来巩固模型的记忆能力。最初，设计了一个嵌入OC的超图拓扑网络，以解耦可学习参数并加强节点的时间表示能力作为计算骨架。在此基础上，利用了一种具有超图拓扑感知的采样器来提高重放样本的质量。最终，开发了一种用于自适应判断分支增加的技术，以实现分支扩展的收敛。本文的主要贡献如下：
(1) 提出了一种新颖的DBE CL框架。该框架基于阶段数据自适应扩展预测器分支，并在测试时自适应整合多个分支，以实现连续预测和通用推理的耦合。
(2) 设计了一种面向条件的超图拓扑网络。将时变OC信息映射到节点重要性权重中，以校准节点并增强超图的节点表示和学习能力。
(3) 开发了一种具有超图感知的重放采样策略。利用拓扑注意力来解决特定于拓扑的梯度问题，基于此共同采用了三个指标，即重要性、多样性和和谐性，以提高重放样本的质量。
本文的其余部分组织如下：第2节简要描述了相关工作；第3节构建了所提出的DBE；第4节通过案例研究探索了所提出方法的性能；第5节总结了本文。

**连续学习（CL）**
CL旨在缓解深度神经网络在新数据训练时遇到的灾难性遗忘问题。目前的CL研究可以分为三类：参数隔离[37]、正则化[26]和重放[38]。此外，图CL也被开发出来以减轻对非欧几里得图形数据的遗忘效应[33]、[39]、[40]。

**问题阐述**
收集在动态OCs下的旋转机器的历史运行至故障数据流Dtr=Dtr0→Dtr1,…,→DtrP。总体目标是构建一个端到端的映射模型fθ:x→y，从样本x到RUL y，使其能够连续吸收序列数据集，从而预测旋转机器的RUL，实现从动态数据到健康状态的直接映射。
在预测过程中，根据数据集的数量定义了p个学习阶段，每个阶段的数据集是一个...

**实验研究**
在时变OC数据集上进行了连续预测实验，以说明所提出的DBE在以下方面的有效性：(1) 效果和优点；(2) 预测可解释性；(3) 整合性和可扩展性；(4) 稳定性；(5) 泛化能力。测试运行的环境配置如下：PyTorch 2.2.1框架，Python 3.9环境，Intel Core i7-12700H CPU，RTX 3060 GPU，以及32 GB RAM。每个实验进行了五次试验，并得出了结果...

**结论**
本研究提出了一种自适应CL框架，用于在时变OCs下旋转机器的健康预测，旨在利用新获得的数据持续预测它们的RUL。构建了一个自适应的动态分支扩展（DBE）结构，围绕连续记忆、学习和泛化能力之间的性能权衡。在DBE中，设计了一个面向OC的超图拓扑网络作为计算模型，并引入了一个具有超图拓扑感知的知识缓冲区。

**作者贡献声明**
张玉茹：撰写 - 原始草案、可视化、验证、方法论、调查、概念化。
苏春：撰写 - 审阅与编辑、监督、调查、资金获取、概念化。
唐久强：验证、软件、调查、概念化。
郭志强：撰写 - 审阅与编辑、监督、资源、调查。

**利益冲突声明**
作者声明他们没有已知的竞争财务利益或个人关系可能影响本文报道的工作。

**致谢**
本研究得到了中国国家自然科学基金（NSFC）[授予编号72471055]、江苏省研究生研究与应用创新计划[授予编号SJCX24_0070]、东南大学博士生创新能力提升计划[授予编号CXJH_SEU 24055]以及中国留学奖学金委员会的资助。