确保人工智能安全地纳入临床环境的新指南

　　

根据UTHealth休斯顿大学麦克威廉姆斯生物医学信息学院教授Dean Sittig博士和贝勒医学院教授Hardeep Singh博士共同撰写的一篇文章，随着人工智能（AI）在医疗保健领域变得越来越普遍，组织和临床医生必须采取措施确保其在现实世界的临床环境中安全实施和使用。

该指南今天（2024年11月27日）发表在《美国医学会杂志》上。

“我们经常听说人工智能需要安全建造，但却不知道如何在医疗保健环境中安全地使用它。这是一种有可能彻底改变医疗保健的工具，但如果没有适当的保障措施，人工智能可能会产生错误或误导性的输出，如果不加以控制，可能会伤害患者。”Dean Sittig博士说。

Sittig和Singh借鉴了专家意见、文献综述以及卫生IT使用和安全评估方面的经验，为卫生保健组织和临床医生开发了一种实用的方法来监测和管理人工智能系统。

Singh说：“医疗保健服务组织需要在当地实施健全的治理系统和测试流程，以确保人工智能的安全以及人工智能的安全使用，从而最终将人工智能用于改善医疗保健的安全性和患者的治疗结果。”“所有医疗服务机构都应该研究这些建议，并开始积极为人工智能做准备。”

对卫生保健组织的一些建议行动如下：

• 审查发表在高质量同行评议期刊上的指导意见，并进行严格的实际测试，以确认人工智能的安全性和有效性。

• 建立由多学科专家组成的专门委员会，监督人工智能系统的部署，并确保遵守安全协议。委员会成员应定期开会，审查新的人工智能应用程序的请求，在实施之前考虑其安全性和有效性，并制定流程来监控其性能。

• 对临床医生进行关于人工智能使用和风险的正式培训，但当人工智能成为患者护理决策的一部分时，也要对患者透明。这种透明度是建立对人工智能在卫生保健中的作用的信任和信心的关键。

• 维护人工智能系统的详细清单，并定期评估它们，以识别和减轻任何风险。

• 制定程序，在人工智能系统出现故障时关闭它们，确保平稳过渡回手动流程。

Sittig说：“在临床环境中实施人工智能应该是医疗保健提供者、人工智能开发者和电子健康记录供应商共同的责任，以保护患者。”“通过共同努力，我们可以建立信任，促进人工智能在医疗保健领域的安全应用。”

为本文提供意见的还有McWilliams生物医学信息学院临床与健康信息系的副教授兼副院长Robert Murphy医学博士和助理教授Debora Simmons医学博士、注册护士；和Trisha Flanagan，注册会计师，MSN。