图神经网络的多目标解释框架

《IEEE Transactions on Knowledge and Data Engineering》：A Multi-Objective Explanation Framework for Graph Neural Networks

针对图神经网络多目标解释需求，提出分层结构归因框架HM-Explainer，结合帕累托理论平衡冲突目标，并设计自注意力机制处理远程依赖，实验验证其有效性。

　　

摘要：

图神经网络（GNNs）在各种应用领域展现出巨大潜力，但其有限的可解释性阻碍了其广泛采用，从而影响了客户满意度和忠诚度。当需要满足不同用户群体的多样化解释需求时，这一问题变得更加严重。现有的GNN解释模型通常专注于单一目标，忽略了用户需求的多样性和潜在冲突，导致结果不尽理想。此外，在多目标解释过程中，现有模型会优先考虑某些解释目标，破坏图中的内在层次结构和远距离关系，进一步降低了解释效果。为了解决这些问题，本文提出了一种新的多目标解释框架——HM-Explainer，该框架具有层次结构归因功能。该框架基于帕累托理论构建了一个多目标解释生成模块，以平衡不同且可能相互冲突的解释目标。同时，HM-Explainer设计了节点级和簇级归因模块，用于层次化分析输入数据对GNN决策的影响。此外，还集成了一种自注意力机制到节点级归因模块中，以考虑远距离邻居的影响。通过实验验证，HM-Explainer在不同数据集和不同GNN模型上的有效性得到了证实。

引言

图神经网络（GNNs）在推荐系统[1]、[2]和分子研究[3]、[4]等应用领域表现出良好的性能。然而，其复杂的架构使得预测结果难以解释，从而限制了其在关键场景中的实际应用[1]、[5]、[6]。这种可解释性不足降低了用户信任度，并引发了严重的可靠性问题[1]。现有研究提出了一系列模型来解决GNN的可解释性问题[7]。这些解释模型采用了生成方法[8]、[9]、梯度分析[10]和贡献分解[11]等技术。然而，这些模型通常优先考虑特定的解释目标（如最小化互信息或模拟结果分布），在平衡和协调不同应用场景下的多样化且相互冲突的解释需求方面存在局限性[12]，如图1所示。以硝基苯（一个苯环上连接了一个硝基）为例，不同用户对GNN预测其致癌性的解释有不同的需求：化学家关注硝基（NO2）作为官能团如何影响分子的电子结构和反应性；医学研究者则关注特定原子（如氮原子N和氧原子O）在分子代谢过程中与DNA的相互作用，以评估其整体毒性和致癌潜力。这种局限性可能显著降低用户满意度，削弱对模型决策的信任，并降低模型采用率。因此，该领域迫切需要开发能够有效处理多样化且可能相互冲突的解释目标的多目标解释方法。多目标解释需要根据不同用户群体的需求，定制多样化的解释视角和方法来阐明GNN的预测结果[13]。图1。

以硝基苯为例，化学家和医学研究者对GNN预测的致癌性细节要求不同：化学家关注硝基的电子效应对分子反应性和致癌性的影响；医学研究者则研究特定原子（如氮和氧）与DNA的相互作用，以评估分子的毒性和致癌性。