基于周期性自回归移动平均图神经网络的光谱滤波方法及其在同配和异配图数据中的应用

《IEEE Access》:Spectral Filtering using Periodic Autoregressive Moving Average Graph Neural Networks for Heterophilic Graphs

【字体: 时间:2026年01月20日 来源:IEEE Access 3.6

编辑推荐:

  本文针对异配性图数据中高频信息捕获难题,提出了一种新型周期性自回归移动平均图神经网络(pARMA-GNN)。该模型通过引入周期性权重参数,在显著降低计算复杂度的同时实现了对任意光谱滤波器(包括高通、低通和带通)的精确逼近。实验表明,pARMA-GNN在10个异配图数据集上比现有模型提升1-10%的准确率,且在同配图数据中保持竞争力。这项工作为图信号处理领域提供了更高效的频谱自适应解决方案。

  
随着非欧几里得数据结构在社交网络、生物信息学和推荐系统等领域的广泛应用,图神经网络(GNN)已成为处理图结构数据的关键技术。然而,传统GNN模型主要依赖于邻居节点信息聚合的空间关系,从图信号处理视角看相当于低通滤波,这在节点相似标签高度连接的同配性图(homophilic graphs)中表现良好,但在连接不同类别节点的异配性图(heterophilic graphs)中则面临挑战。现实世界中许多应用(如分子属性预测、假新闻检测)都涉及异配性图结构,亟需能够捕获高频变化的高通滤波能力。
现有高通GNN通常参数密集,限制了其效率和发展。为此,研究人员在《IEEE Access》发表了题为"Spectral Filtering using Periodic Autoregressive Moving Average Graph Neural Networks for Heterophilic Graphs"的研究,提出了一种基于周期性自回归移动平均(ARMA)图滤波器的创新解决方案。
研究团队开发了pARMA-GNN模型,其核心是通过周期性递归滤波高效逼近有理光谱滤波器。该模型包含周期性ARMA卷积(pARMAConv)层,相比现有先进模型显著降低了计算复杂度和参数数量。理论分析表明,pARMA-GNN能同时捕获高频和低频成分。针对不同图数据类型,团队还开发了自适应pARMAConv(Ada-pARMAConv)层和简化pARMAConv(Simple-pARMAConv)层等变体。
关键技术方法包括:基于归一化图拉普拉斯矩阵的周期性递归滤波机制;针对同配/异配图数据设计的自适应权重参数;以及通过稳定性条件约束的频率响应优化。研究人员在3个同配图和10个异配图数据集上进行了节点分类实验,并分析了计算复杂度和周期参数的影响。
模型设计与理论分析
pARMA-GNN基于ARMA图滤波器族,使用有理函数建模任意频率响应。为避免计算复杂的矩阵求逆,采用周期性递归迭代的一阶方程进行近似。模型包含三个关键参数:卷积层数(M)、时间戳(T)和周期(P)。更新方程包含自回归部分(恒等矩阵和图拉普拉斯项)和移动平均部分,分别控制连接矩阵调整和输入信息保留。
频率响应分析表明,当T→∞时,系统输出由移动平均项决定,形成有理频率响应函数。以P=2的简单情况为例,通过调整权重参数可实现低通、带通和高通滤波行为。稳定性条件确保传播过程中输出不会爆炸。
模型变体与优化
研究发现基础pARMAConv层在学习过程中会出现权重对称现象(wL(t)≈-wI(t)),导致模型倾向于使用归一化邻接矩阵,虽有利于同配图但限制了对异配图的处理能力。为此开发了Ada-pARMAConv层,引入周期性可学习参数α(t)∈[0,1]动态调整自回归项的影响。当同配率较低时,α(t)预期较小,反之则接近1。
针对同配图设计的Simple-pARMAConv层将恒等矩阵和图拉普拉斯项合并为单一归一化邻接矩阵,进一步简化架构并减少参数冗余。虽然归一化邻接矩阵是低通滤波器,但通过顺序堆叠多个低通滤波器可近似高通滤波器。
实验验证与性能评估
合成数据实验显示,pARMA-GNN能有效捕获高频成分,在异配率增加时保持稳定准确率,验证了其高通滤波能力。节点分类实验中,pARMA-GNN在Cora、CiteSeer和PubMed等同配图数据集上表现竞争力,在异配图数据集上显著优于基线模型。
具体而言,pARMA-GNN-s(标量权重)在小型异配图(如Wisconsin、Texas、Cornell)上表现最佳,而pARMA-GNN-m(矩阵权重)在大型异配图(如Actor、Chameleon、Squirrel)上优势明显。这反映了标量权重对复杂频率范围建模能力的局限性。在结构性和特征型异配基准数据集上,pARMA-GNN-m以79.38%的准确率在Roman-empire数据集上领先。
计算效率方面,pARMA-GNN-m在多数数据集上比ARMANet提速56-87%,且内存需求随周期P而非堆叠数K线性增长,体现了周期性参数复用的优势。
消融研究与对比分析
周期参数P的影响研究表明,在同配图(Cora)上,Simple-pARMAConv层表现最优且稳定,而pARMAConv和Ada-pARMAConv层随着P增加性能下降,可能是参数过多导致的过拟合。在异配图(Roman-empire)上,周期性权重显著提升了矩阵权重变体的性能,最佳周期为P=2-4。
与ARMAConv的对比揭示了根本差异:ARMAConv基于并行ARMA1滤波器,使用归一化邻接矩阵,本质上是低通滤波器;而pARMA-GNN使用归一化图拉普拉斯矩阵,通过周期性自回归系数实现更丰富的频率选择性。
结论与展望
pARMA-GNN通过引入周期性ARMA图滤波器,为解决异配图数据学习难题提供了有效方案。其创新性体现在:1) 使用周期性权重大幅降低参数复杂度;2) 理论保证了对任意光谱滤波器的逼近能力;3) 针对不同图特性设计了自适应变体。
实验证明pARMA-GNN在异配图学习中具有显著优势,同时保持了对同配图的竞争力。未来研究方向包括:融入注意力机制和邻居采样策略,探索特定光谱特征的最佳周期参数,以及提升在特征稀疏数据集上的表现。
这项工作推动了谱图神经网络的发展,为处理复杂现实世界图结构数据提供了更高效、更灵活的解决方案,在社交网络分析、分子图学习等领域具有广泛应用前景。
相关新闻
生物通微信公众号
微信
新浪微博

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号