FairFLRep：基于公平性的深度神经网络故障定位与修复方法

《ACM Transactions on Software Engineering and Methodology》：FairFLRep: Fairness aware fault localization and repair of Deep Neural Networks

公平性故障定位与修复方法在DNN中的应用研究。针对高斯分类器中因敏感属性（如种族、性别）导致的偏见问题，提出基于输入输出关系分析的FairFLRep方法，通过调整相关神经元权重实现偏见修正。实验表明该方法在图像分类和表格数据集上显著提升公平性且保持高精度，修复效率优于基准方法，消融实验验证了双阶段公平性考虑的重要性。

　　

摘要

深度神经网络（DNNs）正在被应用于我们日常生活的各个方面，包括那些对个人具有重要影响的高风险决策场景。然而，这些系统会反映并放大训练和测试过程中使用的数据所包含的偏见，可能导致有偏见的决策行为和不准确的结论。例如，在不同种族群体之间可能存在不同的误分类率。然而，有效地识别和纠正DNN中的偏见行为是一个挑战。本文介绍了FairFLRep，这是一种自动化的、具有公平性意识的故障定位与修复技术，能够识别并修正DNN分类器中可能引发偏见的神经元。FairFLRep主要针对与种族或性别等敏感属性相关的神经元权重进行调整，这些权重可能会导致不公平的决策结果。通过分析网络中的输入输出关系，FairFLRep能够修正那些导致预测结果不平等的神经元。我们在四个图像分类数据集上使用了两种DNN分类器进行了测试，并在四个表格数据集上使用了一个DNN模型进行了验证。结果表明，FairFLRep在提高公平性的同时，始终优于现有的方法，并且保持了较高的准确性。一项消融研究进一步证实了在故障定位和修复阶段考虑公平性的重要性。我们的研究结果还表明，FairFLRep在修复网络缺陷方面比基线方法更为高效。