基于真实世界数据的LLM驱动临床决策支持系统：精准肿瘤学负责任AI框架构建

《npj Precision Oncology》：Collaborative framework on responsible AI in LLM-driven CDSS for precision oncology leveraging real-world patient data

本研究针对精准肿瘤学中LLM（大语言模型）临床应用缺乏实践指南的问题，提出了一个融合五大维度（医疗标准遵循、技术风险平衡、法规合规、伦理考量、科学临床效益）和十大原则的负责任AI框架。通过子宫癌肉瘤案例验证，该框架为利用真实世界患者数据开发安全可靠的LLM-CDSS（临床决策支持系统）提供了实践路径，对推动精准肿瘤学AI应用标准化具有重要意义。

　　

在精准肿瘤学快速发展的今天， clinicians 每天需要处理海量的患者数据，包括电子健康记录、病理报告和基因组信息等。然而，这些数据中高达80%是非结构化的，使得从数据中提取有价值的临床见解变得异常耗时耗力。更棘手的是，对于罕见癌症患者，由于缺乏足够的病例和标准化治疗方案，医生往往需要手动查阅大量文献来寻找治疗线索，这个过程可能延误最佳治疗时机。

近年来，大语言模型（LLM）的出现为这一困境带来了曙光。这些模型能够理解和生成人类语言，在模拟诊断场景中展现出令人印象深刻的能力。但现实情况是，目前只有约5%的研究使用真实世界患者数据来训练和评估LLM，大多数研究仍依赖于合成数据集。这种“数据鸿沟”严重阻碍了LLM在临床实践中的实际应用，也使得LLM在真实医疗环境中的潜力难以得到充分验证。

面对这一挑战，由Sonja Mathes博士领导的多学科研究团队，在Cancer Core Europe（欧洲癌症核心）联盟的支持下，开展了一项开创性研究。他们认识到，要将LLM安全有效地整合到精准肿瘤学的临床决策支持系统（CDSS）中，需要一个全面的指导框架。这项研究最终形成了一份实践导向的指南，发表在《npj Precision Oncology》上，为负责任地在精准肿瘤学中应用LLM提供了清晰路线图。

研究人员通过系统文献回顾和多轮专家共识讨论，构建了一个包含五个核心维度的框架：医疗标准遵循、技术效益与风险平衡、法规框架合规、伦理考量尊重以及科学临床效益提供。基于这五个维度，团队进一步提炼出十大实践原则，为临床医生和研究人员提供了具体可行的操作指南。

为了验证框架的实用性，研究团队设计了一个思想实验，以子宫癌肉瘤（UCS）这一罕见妇科肿瘤为例。UCS仅占子宫恶性肿瘤的不到5%，但具有高度侵袭性，标准治疗方案有限，且经常被排除在临床试验之外。通过这个案例，研究人员展示了LLM如何帮助临床医生快速分析患者数据、检索相关文献证据，并生成个性化治疗建议，同时确保整个过程符合伦理和法律要求。

研究方法上，团队首先通过探索性文献回顾确定框架维度，随后组织临床肿瘤学、人工智能、数字健康、政策与伦理学等领域的十位专家进行小组讨论，精炼出五个核心维度。基于实践经验和文献见解，团队进一步制定了十大实践原则，并通过专家调查验证了各维度与原则之间的关联强度。整个开发过程历时近一年，包含多轮共识会议和外部验证环节。

五大负责任AI维度分析

研究提出的五个维度涵盖了LLM在精准肿瘤学中应用的关键方面。维度一强调必须遵循医疗标准，指出LLM系统需要通过严格的评估和医疗设备认证，确保符合医疗标准并保障患者安全。维度二关注技术效益与风险的平衡，特别指出需要权衡LLM快速分析非结构化数据的能力与其可能产生“幻觉”（即事实错误陈述）的风险。维度三要求符合法规框架，如欧盟的AI法案和医疗器械法规（MDR），这些法规根据应用场景的风险等级对AI产品实施分级管控。维度四强调伦理考量，认为需要将传统生物医学伦理原则与新兴的AI特定伦理框架相结合。维度五着眼于提供科学和临床效益，指出AI可以通过整合来自生物医学研究和健康信息的见解来推动精准医学发展。

十大实践原则详解

基于五个维度，研究团队制定了十大具体原则：数据溯源与质量、偏见与公平、可解释性、可审计性、患者同意-去标识化与隐私、基础设施鲁棒性与网络安全、持续评估与监控、验证-治理与法规合规、人机协作以及教育与意识。每个原则都配有详细的操作建议，如数据溯源原则要求明确记录数据来源、数据组成、训练数据、数据质量指标以及偏见和变异性等信息。

子宫癌肉瘤用例验证

通过子宫癌肉瘤（UCS）的思想实验，研究团队展示了如何将十大原则应用于临床实践。从患者入院、数据收集、知情同意获取，到LLM辅助的文献回顾、治疗建议生成，再到共享决策制定（SDM）和治疗计划执行，整个工作流程体现了框架的实际应用价值。特别是在罕见肿瘤治疗中，LLM能够帮助医生快速获取最新证据，为缺乏标准治疗指南的患者提供个性化方案。

研究结论部分强调，生成式AI在肿瘤学中具有改善患者、科学和医疗结果的潜力，但需要负责任地整合真实世界患者数据才能充分发挥这一潜力。随着AI技术变得越来越易于使用，其在精准肿瘤学中的负责任应用需要对所有利益相关者进行全面教育。研究人员提出的五个维度和十大原则为LLM在精准肿瘤学中的临床应用提供了系统指导，特别是在利用真实世界数据时确保符合伦理和法律要求。

该研究的重要意义在于，它首次为LLM在精准肿瘤学中的应用提供了一个全面、多维度、实践导向的框架。这不仅有助于临床医生和研究人员更安全、有效地利用AI技术，也为政策制定者和医疗机构提供了监管和评估依据。随着AI在医疗领域的应用日益广泛，这一框架有望成为连接AI理论潜力与其实际医疗应用的重要桥梁，最终使罕见肿瘤患者等医疗需求未得到充分满足的群体受益。