PerCE：基于分层扰动的心电图多变量时间序列反事实解释框架

《IEEE Access》：PerCE: Hierarchical Perturbation-Based Counterfactual Explanations for Multivariate Time Series Classification

本文推荐一项针对多变量时间序列分类中可解释性挑战的创新研究。为解决ECG等医疗时间序列中模型决策透明度不足的问题，研究人员开发了PerCE框架，通过分层扰动策略和基于排列的特征重要性指导，生成具有生理合理性的反事实解释。实验表明，该方法在12导联ECG数据上实现98%的有效性，较基线提升51%，同时减少43%的修改量。这项工作为临床AI系统提供了可靠的决策支持工具，推动了可解释人工智能(XAI)在医疗安全关键领域的应用。

　　

随着人工智能在医疗诊断等高风险领域的广泛应用，模型决策的透明性已成为临床采纳的关键障碍。特别是在心电图(ECG)自动分析领域，深度学习模型虽然表现出卓越的分类性能，但其"黑箱"特性使得医生难以信任模型的诊断建议。传统的解释方法往往无法处理多变量时间序列的复杂时空依赖性，导致生成的反事实解释缺乏生理合理性，这可能带来临床误判的风险。

针对这一挑战，挪威科技大学的研究团队在《IEEE Access》发表了题为"PerCE: Hierarchical Perturbation-Based Counterfactual Explanations for Multivariate Time Series Classification"的研究论文，提出了一种新颖的分层扰动反事实解释框架。该研究聚焦12导联ECG数据分类场景，致力于生成既满足最小修改原则又保持临床合理性的反事实解释。

研究团队采用的核心技术方法包括：基于排列重要性的分层特征归因计算（通道级与片段级重要性）、动态时间规整(DTW)相似性度量、实例锚定策略以及分段-通道分层扰动算法。实验使用CODE-test数据集中的827例标注ECG记录，通过ResNet架构模型进行二元分类（一度房室传导阻滞识别），并采用CEVAL工具包进行多维度评估。

特征重要性计算方面，研究团队开发了双重排列重要性评估方法。通道级重要性通过置换单个导联信号后观察模型性能下降程度来计算（公式1），而片段级重要性则评估特定时间窗口内所有通道同时置换的影响（公式2）。这种分层方法成功识别出导联1、2、7和片段2、6、7为最关键的特征区域，为后续针对性扰动提供了科学依据。

反事实生成算法采用渐进式扰动策略（算法1）。首先从目标类中选取DTW最近的实例作为锚点，然后按重要性降序对通道和片段进行分层插值修改。初级扰动使用α=0.5的参数进行片段级修改，若未达成类别转换则升级至β=0.6的通道级全段修改。这种设计确保了修改的最小化和局部性，有效维持了ECG波形的生理合理性。

评估结果显著优于基线方法（表1）。有效性达到98±5%（基线65±35%），证明绝大多数反事实成功实现类别转换。近似性指标改善尤为突出，DTW距离从200±150降至50±25，意味着生成解释与原始实例的相似度提高75%。稀疏性得分从0.70±0.15提升至0.40±0.12，表明修改范围减少43%，使解释更加简洁易懂。

个案分析进一步验证了方法的适应性。样本2实现了从完全无效(0.0)到完全有效(1.0)的转变，同时保持更高的稀疏性；样本33则展现出优于基线的多样性，说明算法能根据实例特性调整生成策略。这些结果体现了方法在保持核心优势的同时，兼顾不同实例的特殊需求。

研究讨论部分指出，PerCE框架的成功源于三个关键设计：分层扰动策略优先保持局部时序模式、特征归因指导缩小搜索空间、实例锚定确保分布内合理性。这些设计使临床医生能够直观理解模型决策关键特征，识别诊断边界案例，增强对AI系统的信任。

然而，方法仍存在计算复杂度高（DTW二次缩放）、参数敏感性、单目标类局限等不足。未来研究方向包括开发注意力归因方法、多目标优化框架、交互式临床界面以及跨领域验证。特别值得关注的是动态分段长度的实现，当前均匀分段策略可能无法最优捕捉不同生理模式的时间尺度变化。

该研究的理论贡献在于首次将实例锚定与重要性引导扰动相结合，专门针对多变量时间序列的时空特性设计解释框架。实践意义则体现在为临床ECG分析提供了可信赖的决策支持工具，通过显示最小诊断修改帮助医生理解AI推理过程。随着医疗AI监管要求的日益严格，这种具备生理合理性的解释方法将为合规性评估提供技术基础，加速AI辅助诊断系统的临床落地。

研究最终证实，基于分层扰动的反事实解释框架能有效平衡多变量时间序列解释中的多个竞争目标。在保持临床合理性的前提下，显著提升了解释的有效性和简洁性，为高风险领域的可解释AI设立了新标准。这项工作不仅推动了时间序列解释方法的发展，更重要的是建立了医疗AI可信度评估的技术基准，对促进负责任人工智能在医疗领域的应用具有深远影响。