《Pattern Recognition》：Structure Prediction and Opportunity-Cost Scheduler for LLM Inference
编辑推荐：
电力质量扰动（PQD）识别需结合多层数据和非线性核函数的改进极端学习机（ML-kf ELM）与膜搜索算法（MSA）优化超参数，通过八组公开数据验证其在不同信噪比（SNR）和降维方法（t-SNE、SNE、LI、PCA）下的识别精度优于传统机器学习和深度学习方法。
赖文豪|吴娇娇|钱伟进|贺明杰|金中熙|李怀宝|胡志强
安徽科技大学电气与信息工程学院，中国淮南232000
摘要
电能质量扰动（PQD）的识别是确保电力系统稳定运行的关键组成部分。在本文中，我们提出了一种新型的改进模式识别算法——多层双通道异构核融合极限学习机（ML-kf ELM），并使用来自UCI和LIBSVM数据库的八个公共数据集验证了其有效性。膜搜索算法（MSA）被应用于优化ML-kf ELM的超参数，为复杂模式识别模型中的参数调整提供了一种新方法，同时也扩展了优化算法的应用范围。ML-kf ELM进一步被用于PQD识别，并在包括t-SNE、SNE、LI和PCA在内的多种无监督降维技术下对其性能进行了系统评估，同时分析了信噪比（SNR）对识别结果的影响。实验结果表明，与竞争算法相比，ML-kf ELM在不同SNR条件下实现了更高的PQD识别精度，为现代电力系统中的电能质量监测提供了可靠的技术解决方案。
引言
随着可再生能源的大规模集成和电力电子设备的广泛部署，现代电力系统变得越来越复杂，从而增加了PQD的发生频率[1]。这些扰动会干扰精密设备，并威胁电网的安全和稳定性。作为扰动识别的核心技术，模式识别方法已被广泛研究[2]。其中，极限学习机（ELM）因其快速训练和简单架构而受到广泛关注[3]。然而，传统的ELM模型存在一些局限性。因此，开发高性能、鲁棒的PQD识别模型对于电网状态监测、故障预测和智能调度至关重要。
PQD的准确识别受到了广泛关注，其方法主要分为两类[4]：一类使用传统的机器学习和信号处理方法，另一类基于深度学习方法。在基于传统机器学习的PQD识别中，首先使用Stockwell变换[5]、傅里叶变换[6]、卡尔曼滤波器[7]、短时傅里叶变换[8]、希尔伯特-黄变换[11]和变分模分解等信号处理方法提取扰动信号的特征，然后结合分类算法进行识别，常用的算法包括决策树[10]、随机森林[11]、支持向量机[12]、极限学习机[13]等。例如，参考文献[14]设计了一组基于经验小波变换的频域自适应滤波器，用于提取PQD信号的单频成分，并结合SVM识别15种类型的PQD信号。这些方法在实验中取得了比传统方法更好的性能，对于确保电力系统的稳定运行具有重要意义。傅里叶变换是一种重要的信号处理工具，但不适合分析随时间快速变化的信号[15]。小波变换将给定信号分解为一组高频和低频成分，对于瞬态、凹槽和其他非平稳PQ非常有效。然而，它对小波函数极其敏感，参数设置不当会严重影响性能。随着信号规模的增加，计算复杂度也会显著增加。
与传统方法不同，基于深度学习的PQD识别方法消除了手动特征提取的需要。这些模型可以直接从原始输入信号中学习特征并进行分类，绕过了复杂的信号转换过程，同时实现了强大的性能。随着计算能力和人工智能的进步，基于深度学习的PQD识别受到了广泛关注。用于此任务的流行深度学习架构包括卷积神经网络（CNNs）[16]、循环神经网络（RNNs）[17]、长短期记忆网络（LSTMs）[18]、注意力机制[19]、深度信念网络[20]和它们的组合[22]。像1D CNN、RNN和LSTM这样的模型天然适合一维时间序列数据，可以直接使用原始PQD信号作为输入。例如，参考文献[23]使用改进的马尔可夫转移场进行转换，并结合2D CNN进行分类。为了克服1D和2D CNN的局限性，参考文献[24]提出了一种结合两种结构的混合方法，能够在一维和二维域进行分析，并实现了比传统方法更高的分类精度。总体而言，深度学习方法通常比基于传统信号处理的方法实现更高的识别精度。然而，它们需要大量的训练数据来微调复杂的参数，这依赖于高性能计算资源[25,26]。此外，深度学习架构的设计缺乏通用指导原则；参数的选择（如网络层数量、激活函数和优化器）通常依赖于设计者的经验和试错，使得模型性能具有主观性[27]。因此，基于传统机器学习算法的PQD识别仍然是一个重要的研究方向[28]。在这个背景下，我们提出了一种不依赖于传统信号处理也不依赖于深度学习技术的新型PQD识别方法。
极限学习机（ELM）[29]是由南阳理工大学的黄广斌教授提出的一种机器学习算法。与传统的人工神经网络相比，它具有更好的泛化能力和更快的学习速度[30]。自提出以来，由于其性能优势，ELM迅速吸引了学术界的关注，成为机器学习领域的研究热点之一，并被广泛用于解决各种分类和回归任务[31]。为了更好地解决复杂问题，研究人员提出了一系列改进的ELM方法[32]。这些改进方向包括引入核映射机制、正则化机制、采用更多隐藏层等。最近的研究表明，ELM及其变体对超参数设置和模型扩展具有高度敏感性。因此，系统化的超参数优化对于提高它们的稳定性、泛化能力和工程适用性至关重要[[33]，[34]，[35]]。通过引入群体智能、进化算法及其混合启发式策略进行自动化超参数优化，大量研究显著提高了ELM/KELM模型在复杂工程场景中的准确性、稳定性和泛化能力[[36]，[37]，[38]]。在这种背景下，本文引入MSA进行超参数优化具有重要的研究动机和实际意义。我们提出了一种新的多层核ELM算法用于识别复杂的PQD，具体来说是一种多层双通道异构核融合极限学习机，并将我们提出的膜搜索算法[39]应用于该算法的参数搜索。本文的主要创新和贡献包括：
(1)创新性地提出了一种多层双通道异构核融合极限学习机（ML-kf ELM），并通过7个UCI/LIBSVM数据集验证了其优越性。
(2)将我们的MSA优化算法应用于ML-kf ELM参数优化，有效解决了复杂模式识别算法的参数配置问题。
(3)ML-kf ELM被创新性地引入到PQD模式识别领域，并系统地研究了各种降维方法对识别性能的影响。
(4)我们系统地研究了SNR对PQD识别的影响。比较实验表明，tSNE+ML-kf ELM框架在PQD识别中表现出显著的准确性和鲁棒性。
数据收集
电能质量扰动是指电力系统中的电气参数（如电压、电流或频率）偏离其额定值或理想波形的现象[40]。根据IEEE-1159标准，PQD数据集是在MATLAB中生成的。每个样本包含10个基本周期（N=10），以捕捉多个周期内的扰动变化特征。参考幅度（A）被设置为1 p.u.，这有效地反映了信号幅度的偏差
MSA优化ML-kf ELM的实现
我们提出ML-kf ELM算法用于具有时空耦合的扰动识别，并使用我们提出的MSA优化算法来搜索ML-kf ELM的参数。ML-kf ELM的实现机制以及通过MSA优化其参数的过程如图2所示。
图2a显示了我们提出的ML-kf ELM电能质量识别分类算法，图2b显示了我们MSA算法优化ML-kf ELM的实现过程
基于ML-kf ELM和tSNE的PQD识别
在实验中，PQD数据收集的频率为12kHz，时间为0.2秒，这意味着每个样本是1×2400维的数据。对于每种类型的扰动，收集了150个样本。其中，90个样本被随机选用于训练，其余的用于测试。此外，实际电力系统中不可避免地存在各种噪声，尤其是在可再生能源广泛使用和电力电子化的情况下
结论
可再生能源的大规模安装使得电网中的PQD变得更加复杂和多样化，需要更高性能的识别算法。我们提出了一种基于无监督降维的PQD识别方法，该方法不依赖于传统的信号处理。本文介绍了一种名为ML-kf ELM的新型多层极限学习机，并应用我们的MSA进行参数优化。在公共数据集和PQD识别实验中，ML-kf ELM
CRediT作者贡献声明
赖文豪：方法论、概念化。吴娇娇：验证、软件、概念化。钱伟进：写作——原始草稿、调查。贺明杰：可视化、调查。金中熙：软件。李怀宝：验证、软件。胡志强：验证。
利益冲突声明
我们声明与可能不恰当地影响我们工作的其他人或组织没有财务和个人关系，对任何可能影响本文所述观点或手稿评审的产品、服务和/或公司没有任何专业或其他性质的个人利益
致谢
本工作得到了安徽科技大学基本研究基金（2024JBQN0023）的支持。
