医疗组织中安全、负责任的人工智能治理：框架的综述性研究

《npj Digital Medicine》：Governance for safe and responsible AI in healthcare organisations: a scoping review of frameworks

　　

摘要

本综述综合了当前关于医疗机构中人工智能（AI）治理方面的研究证据，概述了AI治理框架的关键组成部分。遵循PRISMA-ScR指南，我们在MEDLINE、Embase和Scopus数据库中（检索时间分别为2024年4月和2025年3月）搜索了与急性护理相关的AI治理框架。共识别出77个框架，并对其四个组成部分进行了分析：（1）指导原则（伦理或治理相关）；（2）评估方法；（3）AI生命周期阶段；（4）监督机制。大多数框架不适用于实际的医疗环境，且缺乏某些关键原则或组成部分，例如监督机制。仅有10个框架（占13.0%）同时涵盖了所有四个组成部分，其中设有专门针对AI的治理委员会等监督机制的框架最为少见（数量为15个，占比19.5%）。目前亟需将AI治理框架从理论层面落实到医疗机构中，并评估其在实际应用中的效果。