通过图神经网络将多头注意力机制与无细胞大规模MIMO信号检测器相结合的方法

《Physical Communication》：Cell-free massive MIMO signal detector fused with multi-head attention by graph neural network

CF-mMIMO系统中提出基于图神经网络（GNN）、二维多头注意力机制（2D MHA）和期望传播（EP）的联合检测算法GNN-MHA-EP，有效消除多用户干扰并提升检测性能，同时保持低计算复杂度。

　　

郭世豪|张晓辉|张高远

河南科技大学信息工程学院，洛阳，471000，中国

摘要

无蜂窝大规模多输入多输出（CF-mMIMO）系统利用多个接入点（AP）来接收用户信息，并具有均匀覆盖的优势。在上行传输过程中，每个AP将多个用户的信号聚合到中央处理单元（CPU）。设计高效的检测算法是消除多用户干扰和确保协作增益的关键。本文针对期望传播（EP）中独立高斯近似的局限性，利用2D多头注意力（MHA）模块获取时间和频率相关性，提出了一种基于EP和MHA的图神经网络（GNN）检测器，称为GNN-MHA-EP检测器。仿真结果表明，在不同的低精度量化系统中，或者在信道估计存在误差的情况下，所提出的检测算法明显优于传统的EP算法、信念传播（BP）算法和最小均方误差（MMSE）算法，并且显著提高了GNN-EP检测器的性能，同时保持了与其相同的计算复杂度。

引言

未来的移动通信网络不仅致力于实现更高的数据传输速率，还强调在大多数地理区域提供稳定可靠的通信服务[1]。CF-mMIMO系统结合了分布式天线和大规模MIMO技术的优势。通过多个AP的协作工作，构建了一个由众多AP共同服务的无边界网络，从根本上克服了蜂窝边缘效应和干扰问题，有效增强了网络覆盖和频谱效率，因此被视为未来移动网络的关键支持技术。

具体来说，CF-mMIMO系统采用了一种全新的以用户为中心的网络架构[2]，其中多个AP连接到CPU并协作为所有用户设备（UE）提供服务。由于这种分布式部署方式，用户在任何位置都有很高的概率至少能够接入一个AP，有效克服了传统蜂窝系统中蜂窝边缘区域信号弱和覆盖差的问题，实现了更平衡的服务质量，并显著提高了系统的可靠性[3]。同时，CF-mMIMO系统结合了分布式天线和MIMO技术的优势，不仅增强了宏分集增益，还提高了用户的整体吞吐量[4]。因此，CF-mMIMO被广泛认为是未来6G网络的核心技术之一[5]，并且有潜力支持未来物联网中的大规模机器类型通信[6]、[7]。

然而，由于用户之间的干扰，在强干扰和复杂环境下，接收端准确恢复原始信号变得特别困难。因此，为了充分发挥CF-mMIMO系统的性能优势，开发高效的信号检测技术至关重要。信号检测的目标是通过处理和分析接收到的信号，尽可能准确地重建发送方的信息，从而提高通信系统的可靠性[8]。然而，由于CF-mMIMO系统中AP的大规模分布式部署，其信道特性与传统集中式天线系统有显著不同，表现为信道硬化效应的减弱，即信道的有利传播特性降低，Ram矩阵的统计特性不再稳定[9]。这使得为集中式架构设计的传统线性检测算法难以在CF-mMIMO中实现理想性能。同时，大规模天线系统对非线性检测算法提出了更高的计算资源要求，使其计算复杂度难以承受[10]。因此，如何在保证检测准确性的同时降低计算开销，已成为提高CF-mMIMO系统可靠性和实现可扩展部署的关键技术挑战。

在MIMO系统的传统信号检测算法中，线性检测方法相对简单直观。然而，在处理CF-mMIMO系统的检测问题或复杂信道条件时，存在一定的局限性。同时，非线性检测方法存在计算复杂度高的问题，难以满足未来高速移动通信和大规模MIMO系统的需求[11]。为了克服传统算法的局限性，研究人员近年来开始探索基于深度学习的CF-mMIMO信号检测算法。深度学习作为一种强大的机器学习技术，具有强大的非线性建模和泛化能力，能够更好地适应复杂的信道条件和噪声环境[12]。基于深度学习的CF-mMIMO信号检测算法可以通过训练神经网络模型来学习接收信号和发送信号之间的映射关系，并生成适用于复杂信道环境的信号检测模型[13]，实现更准确和有效的信号检测过程。与传统的线性检测算法相比，基于深度学习的检测算法具有更好的鲁棒性和泛化能力，能够更好地适应信道条件、调制方法和场景中的天线配置的变化[14]。

参考文献[15]介绍了一种新的深度神经网络架构。通过修改初始结构并结合特征值和特征向量等数学工具来改进初始估计，实现了出色的检测性能。参考文献[16]在拟牛顿方法中引入了可训练变量，突破了传统线性检测器的性能限制，在空间相关场景中实现了良好的检测性能。在CF-mMIMO系统中，神经网络已被用于解决功率分配和信道估计问题[17]、[18]、[19]。神经网络架构可以用来获得未知向量的最佳估计。通过将神经网络方法与传统算法进行比较，验证了这种方法具有更优的检测性能和鲁棒性[20]，并且计算复杂度更低。

参考文献[21]和[22]分别应用了切比雪夫加速技术与加速过松弛和理查森迭代相结合，从而提高了MIMO检测算法的收敛速度。尽管上述迭代算法可以达到MMSE算法的检测性能，但由于CF-mMIMO系统的信道硬化特性减弱，这些低复杂度的线性检测算法面临严重的性能下降。为了解决上述挑战，本文提出了一种结合2D MHA的图神经网络信号检测算法，称为GNN-MHA-EP。该算法旨在在性能和复杂度之间实现出色的平衡。

我们的主要动机和贡献如下：

•

本文提出的GNN-MHA-EP信号检测器利用GNN有效提取和传输用户信号之间的高阶特征关系。同时，通过EP算法增强了整合先验信息和似然信息的能力。此外，在GNN中引入了2D MHA模块，并将其放置在多层感知器（MLP）模块之后，以替代MLP的非线性固定映射输出结果。

•

在GNN-MHA-EP检测器中引入了一种基于注意力机制的改进策略，其中注意力通过两个关键组件实现：2D MHA模块和注意力加权损失函数。2D MHA模块由两个子块组成：时间注意力子块用于捕捉符号随时间的依赖性，频率注意力子块用于学习不同频率分量之间的交互结构。两个子块的输出通过线性投影融合，并通过残差连接与原始输入结合，形成增强的表示。

•

构建了一种基于注意力的加权损失函数。注意力损失机制旨在根据每个样本的置信水平重新加权并调整训练损失，更加关注重要节点和特征。这促使检测器在训练过程中更加关注那些置信度高的样本，从而提高整体检测性能。

部分摘录

系统模型

我们考虑了一个CF-mMIMO系统，其中包含$\stackrel{?}{K}$个单天线UE和$\stackrel{?}{L}$个AP，UE和AP都在给定区域内任意部署。每个AP配备有N个天线。所有AP通过前向链路与CPU通信。在CPU的协调下，AP通过联合传输和接收为所有UE提供一致的服务。整个系统模型如图1所示。$\stackrel{?}{k}$$\stackrel{?}{l}$个UE与$\stackrel{?}{l}$个AP之间的信道表示为： 其中，$1\le \stackrel{?}{k}\le \stackrel{?}{K}$$1\le \stackrel{?}{l}\le \stackrel{?}{L}$。在

GNN-MHA-EP检测器

我们提出了一种基于GNN的检测器，结合了EP算法和2D MHA模块，称为GNN-MHA-EP检测器。如图2所示，GNN-MHA-EP检测器由三个主要功能模块组成：初始化模块、GNN模块和输出模块。这三个模块在检测过程中以迭代方式协作。具体来说，初始化模块从接收到的信号和初始信道中提取特征

仿真结果与分析

本文采用了两种仿真场景：1. 假设理想的CSI，如图8、9所示；2. 引入信道估计误差Δ和量化误差，如图10、图11、图12、图13所示。具体来说，接收信号y以不同的比特精度进行量化，并引入信道估计误差项Δ来模拟信道估计不准确的情况。

结论

本文提出了一种模型驱动的检测器，即GNN-MHA-EP。该检测器放弃了独立高斯乘积近似方法，而是引入了图神经网络来建模MRF，将EP算法的迭代过程扩展到神经网络结构中，并将其与GNN模块集成，从而弥补了EP算法在建模复杂相关关系方面的不足。此外，引入了2D MHA模块来捕获

CRediT作者贡献声明

郭世豪：撰写——原始草案。张晓辉：撰写——审阅与编辑。张高远：撰写——审阅与编辑。

利益冲突声明

作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文报告的工作。

郭世豪于2023年在中国河南科技大学获得计算机科学与技术学士学位。目前，他正在河南科技大学攻读计算机技术硕士学位。他的研究兴趣是无蜂窝大规模多输入多输出技术。