用于图神经网络解释的具有抗分布异常能力的评估方法

《IEEE Transactions on Pattern Analysis and Machine Intelligence》：Out-of-Distribution-Resistant Evaluations for Explanations of Graph Neural Networks

可解释性图神经网络（GNNs）的可信度提升面临真实数据分布与解释子图不匹配的OOD挑战，本文提出OAR+框架，结合对抗鲁棒性评估、OOD重加权机制和条件图扩散模型，构建标准化评估体系，并通过实验验证其有效性。

　　

摘要：

图神经网络（GNNs）中的可解释性在提升其可信度、可靠性和透明度方面展现出了巨大潜力。我们的研究深入探讨了GNNs内部的可解释性评估，这是确保可解释性技术在现实世界应用中可靠性的关键因素。现有的评估指标通常涉及将解释性子图作为输入并测量输出差异，但这些指标常常面临“分布外”（OOD）挑战——即当解释性子图与实际数据分布不匹配时，会影响模型解释的可靠性。为了解决这一问题，我们提出了一种新的评估指标，称为“抗OOD攻击的鲁棒性”（OAR）。我们的方法借鉴了对抗性鲁棒性的概念，用于评估解释性子图对攻击的抵御能力。此外，我们在评估框架中引入了一种复杂的OOD重加权机制，以确保评估结果与原始数据分布保持一致。为了适应更广泛的评估任务，我们还设计了一个反事实攻击模块，并利用条件图扩散模型对扰动后的子图进行补充。这种改进后的评估框架被称为OAR+，具有高度的通用性和适用性。同时，我们建立了一个标准化框架，用于评估不同指标的公平性和准确性。我们通过大量实验验证了OAR的有效性。代码可在以下链接获取：https://github.com/MangoKiller/OAR。