综述：可解释人工智能在疾病预测中的关键作用与突破进展

研究人员针对 AI 模型 “黑箱” 问题，开展 XAI 在疾病预测研究，发现其应用趋势及局限，意义重大。

　　

在医疗领域，人工智能（AI）就像一把神奇的钥匙，正逐渐打开改善医疗服务的大门。它能够快速处理大量复杂的医疗数据，在疾病诊断、治疗方案制定和疾病预测等方面展现出巨大的潜力。然而，AI 模型却存在一个让人头疼的 “黑箱” 问题。这就好比一个神秘的盒子，只知道它能给出结果，却不清楚它是如何得出这些结论的。由于模型的复杂性，很难解释其决策过程，这使得医疗专业人员难以信任 AI 的判断，也引发了诸如责任归属等伦理问题。

为了解决这些问题，来自哈利法大学（Khalifa University of Science & Technology）的研究人员 Razan Alkhanbouli、Hour Matar Abdulla Almadhaani 等人开展了一项关于可解释人工智能（Explainable Artificial Intelligence，XAI）在疾病预测方面的研究。该研究成果发表在《BMC Medical Informatics and Decision Making》杂志上。

研究人员采用系统文献回顾（Systematic Literature Review，SLR）的方法，遵循 PRISMA 协议，对相关文献进行了全面的梳理和分析。他们在多个数据库中进行搜索，筛选出 30 篇符合要求的研究论文，这些论文涵盖了多种疾病、不同的数据模态和 AI 模型。

研究结果如下：

• XAI 方法的应用情况：研究发现，SHAP（Shapley Additive Explanations）和 LIME（Local Interpretable Model - agnostic Explanations）是疾病预测中应用最广泛的 XAI 方法，分别占 38% 和 26%。SHAP 在基因表达研究中应用较多，例如在帕金森病的研究中，它能有效突出重要的生物标志物；LIME 则在神经学和癌症研究中，尤其是涉及成像数据的研究里发挥重要作用。此外，其他方法如 Grad - CAM、Fuzzy 逻辑和 Partial Dependence Plots（PDP）等也有应用，但占比较小12。

• 疾病预测的研究范畴：研究涉及的疾病种类丰富，主要分为心血管疾病、癌症和肿瘤、神经系统疾病、传染病、代谢和内分泌疾病、呼吸系统疾病以及其他疾病和病症七大类。心血管疾病包含缺血性中风、冠状动脉疾病等；癌症涵盖白血病、乳腺癌等多种类型；神经系统疾病包括帕金森病和阿尔茨海默病等；传染病则有 COVID - 19、肺炎等。这充分展示了 XAI 在医疗领域广泛的应用潜力3。

• 现有研究的局限之处：现有研究存在一些明显的局限性。一方面，数据集的多样性严重不足，大多数模型依赖单一模态的数据，这极大地降低了研究结论的普遍适用性；另一方面，临床医生在理解 XAI 模型的输出结果时面临困难，这表明需要开发更易于理解的工具，并加强对 XAI 技术的培训45。

在讨论部分，研究人员指出，从 2019 年到 2023 年，关于 XAI 的研究文献数量呈显著上升趋势，这反映出医疗领域对透明 AI 系统的迫切需求。SHAP 和 LIME 虽然应用广泛，但仍有探索其他方法的空间，以实现更好的可解释性。目前，XAI 在医疗领域的应用面临诸多挑战，如缺乏统一的方法标准、临床医生对技术的理解和应用能力有待提高等。因此，需要建立标准化的方法和指南，开展教育项目提升临床医生的相关技能，同时制定政策框架和监管指南，确保 XAI 技术的安全、伦理应用。

这项研究具有重要意义。它系统地分析了 XAI 在疾病预测中的应用现状，明确了常用的 XAI 方法及其在不同疾病预测中的作用，同时指出了当前研究存在的问题和未来的发展方向。这为后续的研究提供了坚实的基础，有助于推动 XAI 技术在医疗领域的进一步发展和应用，从而提高疾病预测的准确性和可靠性，最终提升医疗服务的质量和效率。