SMiR：在修复深度神经网络中的特定误分类时最小化副作用

《ACM Transactions on Software Engineering and Methodology》：SMiR: Minimizing Side-Effects in Repairing Specific Misclassifications for Deep Neural Networks

安全关键领域深度神经网络具体误分类修复方法，提出SMiR框架通过局部修复特征维度避免全局决策边界扰动，在保持高精度的同时提升特定类别误分类修复率达36.2%，减少新增错误70.9%。

　　

摘要

尽管深度神经网络（DNN）在各个行业中取得了显著的成功，但它们的错误行为引发了广泛关注。在部署了DNN的安全关键领域中，某些特定类型的误分类（即某个特定类别被错误地分类为另一个类别）可能会导致灾难性的后果，因此需要紧急纠正。然而，现有的修复方法往往忽视了一般特征提取模式对区分特定类别的不利影响，从而导致对特定误分类的修复效果有限。此外，大多数方法通过直接调整全局决策边界来纠正错误，这不可避免地会干扰已经训练有素的边界，从而导致准确率大幅下降。

在本文中，我们提出了SMiR，这是一种有效的修复框架，用于在保持较低准确率损失的情况下解决特定误分类问题。我们的方法不是修补原始模型，而是定位并恢复失真的特征维度，以减轻它们对区分特定类别的负面影响。此外，SMiR将修复范围限制在过滤后的可疑数据集上，从而保护其他训练有素的决策边界不受干扰。平均而言，与基线方法相比，我们的方法修复了多出27%$～$36.2%的特定误分类，同时仅引入了7.8%$～$70.9%的新错误。此外，SMiR在安全关键数据集上的性能仍然处于领先水平。