SOM-GAT：通过自组织映射（Self-Organizing Maps）和图注意力网络（Graph Attention Networks）实现拓扑图聚类

《Knowledge-Based Systems》：SOM-GAT: Topological graph clustering via Self-Organizing Maps and Graph Attention Networks

　　

Safaa Safouan|Karim El Moutaouakil

摘要

自组织映射（SOM）通过竞争学习保留了拓扑结构，但缺乏适应性关系推理能力；而图注意力网络（GAT）在学习依赖于特征的邻域方面表现出色，但对噪声图输入仍然敏感。本文通过SOM-GAT这一混合架构，将保持拓扑结构的压缩与基于注意力的表示学习相结合，用于无监督聚类。该模型首先将高维数据投影到固定的SOM网格上，生成包含局部密度和方差统计信息的原型。由网格拓扑构建的稀疏图使得后续的GAT层能够通过可学习的注意力权重来细化这些原型。我们从理论上证明了GAT注意力可以以任意精度逼近连续的正邻域核（包括固定的SOM函数），同时学习出更具表现力的数据适应性关系。聚类是通过在细化后的嵌入上进行自训练目标来实现的。我们对超参数进行了详细的敏感性分析，以评估SOM网格大小、GAT学习率和隐藏维度对聚类算法效果及模型稳定性的影响。在涵盖图像、传感器记录、文本和引用网络的九个基准数据集上的实证评估表明，SOM-GAT在六个数据集上实现了最先进的准确率，并保持了有竞争力的结构指标。该框架使得原型间的相似度提高了76.7%，同时获得了正信息增益（$+0.6828$' role="presentation">$+0.6828$比特），其收敛速度比基线GAT更快，优化轨迹更平滑，并且在20%的标签噪声下仍保持了94.9%的聚类性能。统计显著性测试证实，与传统谱方法和几种深度图聚类方法相比，SOM-GAT在准确性上有显著提升，同时在结构性能上可与领先的基于自动编码器的技术相媲美。通过消除对重建目标的依赖并在整个训练过程中保持稳定的拓扑布局，SOM-GAT为可解释的、抗噪声的图聚类建立了一种原理性的方法。