可解释人工智能（XAI）在乳腺癌诊断中的优势与偏见剖析：提升模型透明度与临床决策的新视角

《IEEE Access》：Breast Cancer Diagnosis with Explainable Artificial Intelligence (XAI): Uncovering Strengths and Biases

本研究聚焦于人工智能在乳腺癌诊断中面临的“黑箱”难题，为解决模型缺乏透明度、阻碍临床信任与应用的问题，研究人员系统回顾了44项研究，系统分析了SHAP、LIME、Grad-CAM等可解释AI（XAI）技术在提升乳腺癌诊断模型可解释性方面的应用。研究揭示了不同机器学习/深度学习模型与特定XAI方法的兼容性偏好，并构建了综合评估框架，为XAI技术在临床实践中的标准化评估与整合提供了重要指导。

　　

乳腺癌是全球女性中最常见的恶性肿瘤，每年新增病例超过230万例，早期发现对于提高治愈率至关重要。随着人工智能（AI）技术，特别是深度学习在医学影像分析中的广泛应用，其在提升乳腺癌诊断精度和效率方面展现出巨大潜力。然而，最先进的AI模型往往如同“黑箱”，其内部决策过程缺乏透明度，这使得临床医生难以理解和信任模型的预测结果，从而阻碍了这些技术在临床实践中的广泛部署和应用。为了解决这一关键挑战，可解释人工智能（XAI）技术应运而生，旨在揭开AI模型的神秘面纱，提供清晰、可理解的决策依据。

在此背景下，发表在《IEEE Access》上的这篇系统性文献综述，旨在全面审视XAI技术在乳腺癌检测和诊断领域的应用现状、优势与局限性。研究团队通过严格的PRISMA（Preferred Reporting Items for Systematic Reviews and Meta-analysis）方法论，对2019年至2025年6月期间发表的文献进行了筛选，最终纳入了44项高质量研究进行深入分析。这项研究不仅对现有文献进行了定量元分析，还创新性地构建了模型类型、解释方法和偏见来源之间的映射矩阵，并讨论了将偏见检测、公平性度量与临床工作流整合的评估框架，为XAI技术真正融入乳腺癌诊断流程提供了具体且可操作的见解。

为了系统评估XAI在乳腺癌诊断中的应用，研究人员主要采用了以下几种关键技术方法：首先，他们运用了系统性文献综述（SLR）和元分析方法，制定了明确的纳入与排除标准，并从多个权威数据库中检索相关文献。其次，研究对选定的文献进行了多维度分析，包括出版物来源、引用趋势、地理分布以及所使用的数据集模态（如乳腺X线摄影、超声、组织病理学图像、基因组数据等）。核心分析集中在梳理不同的XAI技术（如SHAP、LIME、Grad-CAM等）如何与各种机器学习（ML）和深度学习（DL）模型（如随机森林、XGBoost、卷积神经网络CNN等）相结合，并评估其解释效果。研究还特别关注了XAI技术的评估框架，涵盖了技术保真度、公平性、可用性及临床工作流整合等多个维度。

III. 元分析

通过对44项选定研究的元分析，揭示了该领域的研究趋势和分布。 temporal analysis显示，相关出版物从2019年的零星几篇显著增长至2021年的高峰，随后在2022年略有回落，2023年又呈现回升态势，表明该领域的学术关注度持续升温。 geographic distribution分析表明，中国以6篇出版物领先，其次是意大利（4篇）和土耳其（3篇），反映了全球范围内的广泛研究努力。 dataset and modalities分析指出，特征数据集（包含从图像、基因、临床记录中提取的各类属性）是使用最频繁的数据类型，其次是乳腺X线摄影和基因数据集，凸显了多模态数据在乳腺癌研究中的重要性。

IV. 可解释人工智能（XAI）技术的分类与基础

本节构建了XAI技术的分类体系，重点介绍了三种最常用的方法：SHAP、LIME和Grad-CAM。SHAP基于博弈论，为任何ML模型提供一致且具有理论保证的特征重要性度量，兼具全局和局部解释能力。LIME是一种模型无关的局部解释方法，通过扰动输入实例并观察预测变化来构建局部可解释模型。Grad-CAM则是一种专用于CNN的可视化解释技术，通过计算梯度权重生成热力图，突出显示对预测贡献最大的图像区域。研究还指出，XAI评估需要综合考虑技术保真度、稳定性、计算效率以及用户可理解性等多个方面。

V. 选定研究中XAI技术的实证评估

本节详细回顾了XAI技术在具体研究中的应用。SHAP被广泛用于解释基于表格数据（如临床特征、基因组学数据）的模型，例如在生存分析中识别年龄、肿瘤特征、受体状态等关键预测因子，或在风险模型中揭示生活方式因素的影响。Grad-CAM及其变体（如AGG-CAM）则主要应用于医学影像分析，通过热力图直观展示CNN模型在识别乳腺病变时的关注区域，有助于验证模型的聚焦点是否与临床相关。LIME同样被用于提供局部解释，例如在超声图像分类中识别关键区域，或在聚类分析中解释结果。此外，研究还涉及了案例推理（CBR）、层间相关性传播（LRP）、反事实解释等补充性XAI方法。

VI. 将可解释AI映射到机器学习和深度学习方法

本部分深入探讨了XAI技术与ML/DL模型的整合，分析了其优势、劣势以及存在的偏好（bias）。分析表明，SHAP因其模型无关性，常与树模型（如XGBoost、随机森林）搭配，提供一致的特征重要性解释，但其计算成本较高。Grad-CAM天然适合CNN架构，能提供直观的热力图，但其解释粒度较粗，且仅适用于卷积网络。LIME也具有模型无关性，但其解释可能因随机扰动而不稳定。研究揭示了一个明显趋势：基于树的模型倾向于与SHAP、LIME等特征重要性方法结合，而CNN模型则更多地依赖Grad-CAM等可视化解释技术。这种“模型-解释方法”的偏好关系需要在临床应用中予以关注。研究进一步指出了XAI临床转化面临的障碍，包括缺乏标准化评估框架、真实世界验证不足、解释的可用性以及工作流整合挑战等，并提出了一个涵盖技术保真度、公平性与偏见检测、可用性与临床信任、工作流与临床整合四个维度的综合评估框架，以促进XAI技术的可靠落地。

VII. 结论

该综述强调，XAI在评估模型性能、优化其在乳腺癌诊断中的准确性和可靠性方面发挥着关键作用。除了技术性能，评估XAI对用户信任和理解的影响也至关重要。通过提供透明的决策解释，XAI有助于弥合先进AI技术与临床实践之间的差距，增强医护人员和患者对AI辅助诊断的信心。将XAI整合到临床工作流中，可以推动个性化医疗的发展，使治疗决策更加贴合患者个体情况。然而，XAI技术的临床转化仍面临标准化的评估指标、伦理考量以及模型偏见等挑战。未来的研究需要致力于开发统一的评估标准，进行大规模的多中心验证，并设计以用户为中心的解释界面，以确保XAI技术能够安全、有效、公平地服务于乳腺癌的诊断和治疗，最终改善患者的预后。