蔡：不久将寻找医疗AI模型的“营养标签”

健康AI联盟上周五公布了其认证独立人工智能保障实验室的新计划。

草案框架的提出是该组织——包括诸如卫生系统主要参与者这样的机构——的一部分。梅奥诊所, 宾夕法尼亚医学中心与斯坦福大学以及亚马逊、谷歌、微软和其他大型科技巨头一起，制定了一个时间表，旨在通过使用所谓的CHAI模型卡对AI和机器学习模型进行评分来标准化测试实验室的输出，该组织将这些模型卡比作食品产品的成分和营养标签。

CHA领导们表示，在吸收成员、合作伙伴和公众的意见后，预计可以在2025年4月底前完成认证准则和模型卡片的设计。

为什么这很重要
由美国国家标准认证委员会和几家新兴的质量保证实验室使用ISO 17025（这是全球测试和校准实验室的主要标准）创建的草案CHAI认证项目框架要求，除了其他事项外，必须披露质量保证实验室与模型开发者之间的利益冲突，并保护数据和知识产权。（该标准还用于ONC的电子健康记录认证计划。）

测试和认证程序还纳入了从FDA关于使用高质量真实世界数据的指南中得出的数据质量和完整性要求，CHAI官员指出，并且还包括来自联盟各个工作组的测试和评估指标——所有这些都符合美国国家医学院的人工智能行为准则。

草案模型卡——由来自地区卫生系统、电子健康记录供应商、医疗器械制造商等专家组成的工作组设计——提供了一个标准化的模板，旨在展示算法的一定透明度，提供一定的基础信息以帮助最终用户评估人工智能工具的性能和安全性。

该信息包括AI开发者的身份、模型的预期用途、目标患者群体等。其他性能指标包括安全性和合规性认证以及维护要求。卡片还包含关于已知风险和超出范围的使用情况、偏见及其他伦理考量的信息。

CHAI表示将继续与医疗保健利益相关者（包括患者倡导者、小型和农村卫生系统以及科技初创公司）合作，以获得关于模型卡片开发的更多指导。该小组还通过其网站征求反馈意见。实验室保障以及模型卡片表单.

“医疗保健领域人工智能的迅速发展创造了一个感觉上缺乏监管且碎片化的格局，”CHAI应用模型卡片工作组成员、Aidoc转型官德米特里·贾尼科波洛斯在一份声明中说。

通过建立符合联邦法规的共同框架，我们超越了理论讨论，并为构建可扩展、可靠且道德的人工智能解决方案奠定了基础，这些解决方案可以被整个医疗生态系统采用。

更大的趋势
自2021年成立以来，CHAI一直在工作。和其他拥有相似目标的人一起成为值得信赖的AI资源的首选——无论这指的是患者安全、隐私和安全、公平性和公正性、模型透明度，还是实用性和有效性。

随着技术的进步和普及，这一联盟也在发展壮大——汇集了来自医院和医疗系统、大型科技公司、初创企业、政府机构和患者倡导者的各种利益相关者。隐私和安全、公平性、透明度、实用性和人工智能算法的安全性。

在一场中上个月在波士顿的面试在HIMSS医疗保健人工智能论坛上，CHAI首席执行官Brian Anderson博士指出，他当时作为副业共同创立的该组织仍担任MITRE首席数字健康医师现在已有来自医疗和科技生态系统的4000多名成员，而今年早些时候这一数字还只是1300。

关于AI模型的责任和透明度已经存在CHAI使命的核心自2021年成立以来。为此，它开展了一系列倡议，如其可信人工智能实施指南和保障方案2023年及其负责任的发展和部署框架草案2024年6月。

新的模型卡片的设计符合ONC今年早些时候发布的HTI-1要求旨在作为组织在采购过程中审查AI模型时的一个易于阅读的起点，以及希望符合卫生信息技术认证计划的要求的电子健康记录供应商。

安德森指出，米基·特里帕蒂（Micky Tripathi）是科技政策助理部长兼卫生信息技术国家协调员。美国卫生与公众服务部代理首席人工智能官此前曾表示，行业和私营部门应该定义AI模型卡片的内容。

“我们已经接受了这项任务，”安德森说，他表示CHAI正在积极寻求终端用户的观点，并在考虑人工智能在医疗保健中的众多应用时，寻找更广泛的利益相关者和使用案例。

他说，目标是建立一个“易于理解的”但仍然“具有技术针对性和详细信息”的模型卡片，业界可以围绕这一标准进行 alignment。注：这里的alignment直译为“对齐”，在技术社区中通常指的是达成一致或共识，根据上下文可翻译为“统一”或者保留原词“对齐”。为了避免歧义，这里选择更贴切的表达“统一”。如果需要保持原文风格，可以使用“对齐”。

安德森指出，经济的其他几乎每一个部门都使用类似的独立评估机构，医疗保健也应该如此。

他说：“我们希望建立一个值得信赖的实验室网络，这些实验室有能力且具备资质——能够为客户提供服务，医疗系统可以信任，并且技术供应商也能信任。”

有记录在案
“对于CHAI而言，这是我们在帮助实现可信的独立人工智能解决方案保障之路上具有决定性的一年，特别是在进行本地监控和验证方面，”安德森在一份声明中表示。“我们对我们的CHAI工作组取得的进步感到非常兴奋，这些工作组代表了整个医疗生态系统中多样化的观点和专业知识。”

这些认证和基本透明度的框架是负责任的健康人工智能的基础组成部分。它们将有助于简化AI创新的道路，建立患者和临床医生的信任，并使卫生系统和解决方案创新者在新兴的州和联邦法规面前处于有利位置。