美国CHAI联盟联合200家机构发布全球最系统医疗AI治理框架,作者提炼核心要点,分析其对中国医院的借鉴价值。 ## 1. CHAI医疗AI治理框架核心结构 CHAI框架以ISO/IEC 42001国际标准为基础,拆解为政策、组织架构、资源、流程四个核心域,流程域包含AI全生命周期管理等五个子域。 每个模块都明确可操作要求:政策需明确定义AI范围、审批流程和更新监督机制,必须建立带明确RACI矩阵的AI治理委员会,强调AI治理本质是组织问题而非单纯技术问题。 ## 2. 基于风险分级的务实治理逻辑 框架要求所有AI方案依次通过三道风险关卡:先分为低/中/高三级,高风险方案需再完成详细风险评估、系统级影响评估,将治理资源精准集中在高风险方案上。 针对绕开正式审批的「影子AI」,框架提出务实处理思路:与其禁止,不如开放快速低风险审批通道,让合规使用比私自使用更高效。 ## 3. 对中国医院的三点借鉴价值 第一,中国医院普遍不缺AI应用,但缺乏完善的AI治理,框架明确了AI全生命周期各环节的决策关卡,是中国医院迟早需要落地的标准化流程。 第二,第三方AI供应商管理已成为中国监管焦点,框架给出了详细的供应商要求清单,包括披露模型局限、明确合同数据条款等,可直接为中国医院签订合作合同提供参考。 第三,框架要求临床场景使用AI需告知患者并提供退出选项,这目前在中国基本空白,但属于医疗伦理基本底线,中国监管大概率会跟进相关要求。 这份框架是目前全球唯一由临床机构主导、多方利益相关方共识形成的医疗AI治理操作手册,实操性强,适配不同规模医疗机构,内容基于真实AI应用失败经验,核心作用是帮助正确的AI更快落地、错误的AI更早叫停。
一份美国200家医院共识的AI治理框架,中国医院可否借鉴?
2026-06-01 06:28

一份美国200家医院共识的AI治理框架,中国医院可否借鉴?

本文来自微信公众号: 张琨随笔 ,作者:张琨,原文标题:《张琨|一份美国200家医院共识的AI治理框架,中国医院可否借鉴?》


上周刚发布的一份重要报告,国内同行都没注意!


由梅奥诊所(Mayo Clinic)、克利夫兰诊所(Cleveland Clinic)、麻省总医院(Mass General Brigham)、MD安德森癌症中心、斯坦福医疗、UCLA Health等机构牵头的CHAI(Coalition for Health AI)联盟,联合200家医疗机构和技术公司,发布了一套医疗AI治理框架(AI Governance Playbooks)


——这是目前全球最系统的一份医疗AI治理操作手册。


我花了两天时间通读了这份228页的完整报告,提炼出最值得中国医院管理者关注的几个要点,分享给医疗信息化同道。



01


AI治理框架结构


CHAI框架把医疗AI治理拆成了四个域(Domain)+五个子域(Subdomain)。


四个核心域分别是:AI Policy(政策)→Organizational Structures(组织架构)→Organizational Resources(资源)→Organizational Processes(流程)。


流程域下面又分五个子域:AI全生命周期管理、风险与影响评估、负责任的数据管理、第三方管理、以及教育与培训。


这套框架的底子是ISO/IEC 42001(人工智能管理体系国际标准),CHAI把ISO通用标准翻译成了医疗场景下的可操作动作。


举几个例子:


AI Policy不是非常虚的说”我们要负责任地使用AI",而是要求明确:什么是AI(GenAI算不算?EHR内置的AI功能算不算?)、审批流程是什么、谁来监督政策的更新。Domain 2要求必须建立AI治理委员会(AIGC)——可以是独立委员会,可以挂在数据治理委员会下面,但不能没有。而且这个委员会不是"挂名"的,要有明确的RACI矩阵(谁负责、谁审批、谁被咨询、谁被通知)。


说白了,AI治理不是技术问题,是组织问题。


02


风险分级管理


这228页里让我觉得最具借鉴意义的,是一套"风险分级(Risk-based Approach)"的逻辑。


CHAI要求每家医院对所有AI方案做三道风险关卡:


  1. 第一关叫Risk Categorization(风险分类),把AI方案分成Low/Medium/High三级,所有方案都要过这一关;


  2. 高风险方案要过第二关Risk Assessment(风险评估),详细评估伤害概率和程度;


  3. 第三关是AI System Impact Assessment(影响评估),不光看技术风险,还要评估对临床工作流、患者体验、公平性、财务激励和组织文化的系统级影响。


这里面的逻辑值得借鉴:不是管得越多越好,而是管得越精准越好。低风险AI可以用简化流程,把治理资源集中在高风险方案上。


我还注意到一个贯穿全篇的关键词:Shadow AI(影子AI)。指的是员工绕过正式审批流程,自己拿来用的AI工具。在美国医院里,已经有临床医生在用ChatGPT写病历、用AI辅助诊断但没有上报。


CHAI的建议很务实:与其堵,不如疏——建立快速低风险审批通道,让合规使用比偷偷用更高效。


03


中国医疗借鉴价值


回到中国语境,这份框架有三个维度的价值。


第一,中国医院不缺AI应用,缺的是AI治理


很多医院院长跟我说"我们引进了七八个AI系统",但当我问"有没有人定期评估这些AI在你们医院患者群体上的表现",能答上来的几乎没有。


CHAI框架的第4.1子域专门定义了AI全生命周期管理——从Intended Use定义、部署前测试、Pilot验证、持续监控,到退役处置——每一步都有Decision Gate(决策关卡)。这套流程不是"要不要做"的问题,而是"什么时候开始做"的问题。


第二,第三方AI供应商管理正在成为监管焦点


CHAI在第4.4子域对第三方AI供应商提出了极其详细的要求:必须披露已知模型局限和风险、必须在合同中明确数据使用权和模型训练限制、必须包含审计权和数据归还条款。


这部分内容对中国医院特别实用——当你跟AI厂商签合同时,什么条款必须加进去,CHAI给了现成的法律建议清单。


第三,AI透明度与患者知情权


CHAI在第4.5子域要求:所有使用AI参与临床决策的医院,必须在患者首次就诊时告知其健康数据可能被AI系统使用的方式,并提供退出选项(在适当情况下)。


这在中国几乎还是空白。但这不是"美国标准太超前",而是"医疗伦理的基本底线"。我相信,中国监管部门迟早会跟进。


我向国内同行推荐这份报告,因为它是:


  • 目前全球唯一由临床机构主导、多重利益相关方共识驱动的医疗AI治理操作手册,而非政府或行业协会的单方面文件。


  • 实操性极强,每个控制项都配有Implementation Guidance(实施指南),包括分步任务、工具模板和不同规模机构的差异化实施路径。一个小型社区医院和梅奥诊所可以用同一套框架,只是落地深度不同。


  • 基于真实失败教训。报告多处引用AI在医疗场景中的失败案例和差点出错(near-miss)的真实教训,把治理从"锦上添花"论证为"风险底线"。


AI治理不是让AI慢下来,而是让对的AI更快地上,让错的AI更早地停。

AI创投日报频道: 前沿科技
本内容来源于网络 原文链接,观点仅代表作者本人,不代表虎嗅立场。
如涉及版权问题请联系 hezuo@huxiu.com,我们将及时核实并处理。
正在改变与想要改变世界的人,都在 虎嗅APP
赞赏
关闭赞赏 开启赞赏

支持一下   修改

确定