作者:Elise Reuter
人工智能是2024年医疗器械行业的焦点话题。
公司包括通用电气医疗集团,美敦力和德克斯康吹捧新的人工智能功能,以及其他类似的功能史赛克和探索诊断通过并购增加人工智能资产。与此同时,有关法规和生成式人工智能,经过训练以创建新数据(包括图像和文本)的模型,主导的医疗技术会议。一个
美国食品和药物管理局最近澄清了它希望在未来提交的文件中看到哪些信息,即支持人工智能的设备的数量机构授权已黯然失色1,000。FDA 仍未授权任何持续适应或使用生成人工智能的工具。
虽然指导文件应该为医疗设备开发商提供一些清晰的信息,但监管机构将如何处理生成人工智能的问题仍然存在。特朗普政府还给人工智能的监管方式带来了不确定性。
尽管人工智能在医疗技术行业引起了广泛关注,但该技术仍然面临采用障碍,包括缺乏保险报销。
MedTech Dive 采访了专家,了解他们所关注的 2025 年人工智能趋势。以下是他们的预测:
律师表示,FDA 最近关于人工智能设备的指南应该为开发人员提供更清晰的指导。
12月,该机构关于预先确定的变更控制计划的最终指南(PCCP),一个新框架,允许在设备上市后对设备进行预先指定的修改。
Amanda Johnston 是一家专注于 FDA 的律师事务所 Gardner 的合伙人,她预计更多的公司会提交 PCCP,并让 FDA 强调这种新方法。
“我认为其中一些是 FDA 的要求,”约翰斯顿说。“我确实认为他们会尝试将开发人员推入该框架。”
Johnston 补充道,PCCP 需要开发人员预先进行更多工作,但通过仔细规划,他们可以节省上市后提交的时间和金钱。
一月份,FDA 发布指南草案概述该机构希望在人工智能设备提交的材料中看到哪些信息以及何时可能需要上市后监控。该草案还鼓励开发商考虑 PCCP。
总部位于华盛顿特区的 Epstein Becker Green 律师事务所的律师梅根·罗伯逊 (Megan Robertson) 表示,最新的指南草案是开发人员应该“放在口袋里”并在汇总提交内容时像清单一样使用的指南。
罗伯逊预计,随着公司越来越熟悉 FDA 的方法,将会看到更多支持人工智能的设备提交申请。她补充说,该机构突破性设备计划中的许多产品都涉及软件或人工智能组件。
目前尚不清楚唐纳德·特朗普总统的新政府将如何对待人工智能。特朗普上任第一天废除了一项针对人工智能的全面行政命令由前总统乔·拜登签署,呼吁卫生与公众服务部成立人工智能特别工作组。本月早些时候,美国卫生与公众服务部 (HHS)发布战略计划根据行政命令监督医疗保健领域的人工智能。
特朗普提名为 FDA 专员的马丁·马卡里 (Martin Makary) 并未就这个话题发表太多言论。马卡里分享了一篇 JAMA 文章Scott Gottlieb 去年撰写的文章呼吁国会更新 FDA 关于医疗人工智能的法规。
“你无法真正将第一届(特朗普)政府与本届政府进行比较,从而必然做出任何具体的预测,”罗伯逊说。“但我们确实认为,本届政府可能会采取行动,取消 FDA 在拜登政府期间采取的一些更具限制性或争议性的行业行动,例如临床决策支持最终指南。”
FDA 的2022 年最终指导澄清了某些软件功能何时应作为设备进行监管。爱泼斯坦·贝克尔·格林提出请愿书代表临床决策支持联盟在 2023 年要求 FDA 废除该指南,称这不必要地增加了开发商的监管负担。
约翰斯顿预计人工智能和机器学习将继续成为特朗普政府领导下该机构的重点。这位律师还指出,各州和国家隐私法的日益拼凑可能会影响人工智能的采用,这是一个值得关注的话题。
人工智能特点可以整合到医疗设备中,例如成像机,或作为独立软件平台出售。鉴于保险不涵盖这些功能,设备公司面临的挑战是如何定价这些功能。
BTIG 分析师 Ryan Zimmerman 表示,目前,医疗保险和医疗补助服务中心不为 FDA 授权的人工智能技术提供具体报销。齐默尔曼补充说,公司必须使用医疗保险的新技术附加支付途径或其他解决方法才能获得保险。
去年,两党参议员团体给 CMS 写了一封信呼吁建立支付途径基于算法的医疗保健服务。众议院工作组报告2024年晚些时候发现当服务满足覆盖标准时,“CMS 允许人工智能技术在有限的医疗保险覆盖范围内”。
齐默尔曼说,公司正在向医院推销人工智能功能,以加快流程并减轻人员压力。然而,非营利组织健康人工智能联盟 (CHAI) 首席执行官布莱恩·安德森 (Brian Anderson) 表示,这些客户正在更仔细地审视人工智能工具,看看它们是否值得付出代价。
在去年围绕人工智能“兴奋不已”之后,现在我们看到了一个清醒的观点:如果我们要花费大量资金来购买这些东西,那么我们需要确保我们看到投资的经济回报,”安德森说。“我听说卫生系统对供应商提出了更高的要求。”
目前大多数人工智能工具均受 FDA 监管在放射科,尽管更多地用于病理学、眼科和心脏病学。越来越多的公司也使用大型语言模型来执行管理任务,例如生成临床记录。包括 GE Healthcare 在内的公司开发其他类型的基础模型,它们是可用于多种目的,例如处理 MRI 图像、从医生笔记中提取信息或分析电子健康记录数据。
Radiology Partners 临床人工智能副首席医疗官 Nina Kottler 表示,放射学中使用的人工智能解决方案在过去十年中已经“彻底改变”。
最初,人工智能工具专注于检测或分类特定条件,例如分析图像的软件检测潜在的中风病例。科特勒说,现在,更多的人工智能解决方案专注于工作流程。
“数量和容量之间的差距多年来一直在扩大,”科特勒说,并补充说,这种不匹配是如此之大,以至于它取代了您会考虑的任何其他用例。
科特勒正在关注两种类型的基础模型。一是可以将单词总结成报告的语言模型。这些功能已经开始销售,例如Rad AI 制作的工具根据结果和临床指征生成放射学报告印象。这些基于文本的模型目前不作为医疗设备进行监管。
“存在一个问题,未来是否会如此,但目前,它被排除在外,”科特勒说。
科特勒还在观察可以分析图像然后起草报告草稿的视觉语言模型。这些将属于设备法规的范围。科特勒补充说,公司去年开始构建和测试这些类型的模型,但尚未获得 FDA 的授权。
Epstein Becker Green 的 Robertson 表示,想要提交使用生成人工智能的医疗设备的开发人员可能比去年有更多的资源来制定监管策略。然而,在新政府的领导下,FDA 将如何看待生成人工智能模型的风险还有待观察。
“归根结底,该软件虽然可能不会直接进行诊断,但它是医生用来做出诊断的重要组成部分。”
弗朗西斯科·罗德里格斯·坎波斯
ECRI 首席项目官
患者安全组织 ECRI 的首席项目官员 Francisco Rodríguez Campos 表示,虽然某些人工智能工具可能仅用于管理目的,但医院仍应像对待其他人工智能设备一样对它们进行严格审查。
“我看到了很多问题,”罗德里格斯·坎波斯说,并补充说,一家使用笔记生成工具的医院发现,更新到最新版本后,该工具无法正常工作。
“归根结底,该软件虽然可能不会直接进行诊断,但它是医生用来做出诊断的重要组成部分,”罗德里格斯·坎波斯说。“他们在提供健康方面发挥着影响力。”
随着人工智能设备变得越来越重要,有关治理的问题也越来越突出,例如谁负责维护模型并确保它们按预期工作。专家表示,医院在购买前需要更多信息,并在购买后支持性能监控。
ECRI 设备安全副总裁 Scott Lucas 提出了对多种因素的担忧:人工智能工具的炒作、前景和快速发展,以及存在“太多可预防事件”的环境。在医疗保健方面。
卢卡斯说,医院是否拥有人工智能解决方案,或者是否可以监控和管理它们,可能“范围很大,具体取决于设施的资源”。 一个
最近的健康事务研究研究发现,只有 61% 使用预测模型的医院根据自己的数据进行了测试,评估模型是否存在偏差的医院则更少。文章发现,属于更大系统的一部分且运营利润率最高的医院最有可能在本地评估模型。
Radiology Partners Kottler 表示,根据本地数据评估 AI 模型非常重要,因为开发人员与 FDA 共享的性能数据并不总是能很好地概括不同的实践。
“这并不一定表明它能够很好地处理我的数据,”科特勒说。
Radiology Partners 在决定推出人工智能模型之前会经历五个步骤来评估它们。科特勒说,该实践已将此过程用于分析图像的计算机视觉模型,以及填充笔记的大型语言模型。
– 您可以拥有一个非常准确的模型,但如果它只是发现与放射科医生发现的相同的东西,那么它实际上并没有多大帮助。您只是在为您已经付费的东西付费。”
尼娜·科特勒
Radiology Partners 临床人工智能副首席医疗官
首先,Radiology Partners 根据自己的数据考察模型的表现,最好是有大量病例和自然疾病患病率。它还研究模型是否能够发现放射科医生可能会错过的病例。
“你可以有一个非常准确的模型,但如果它只是发现与放射科医生发现的相同的东西,它实际上没有那么有用,”科特勒说。“您只是在为您已经付费的东西付费。”
科特勒还寻找“令人惊叹”的病例,这对放射科医生来说会令人印象深刻,并寻找陷阱或误报,以便放射科医生知道模型可能会犯什么类型的错误。然后,他们总结他们的发现并做出决定。
CHAI 等组织还提倡使用旨在提供更多前期信息的工具。例如,CHAI 建议使用模型卡,安德森将其描述为“营养标签”,提供诸如如何训练人工智能模型以及使用哪些数据集等详细信息。FDA 在 1 月份的指南草案中将模型卡视为透明度工具。
CHAI 还一直在建立一个保证实验室或第三方实验室网络,可以客观地评估代表在卫生系统就诊的患者的人群的模型,以实现“更明智的采购流程”,安德森说。
医院开始使用人工智能工具后,他们还需要随着时间的推移对其进行监控,以确保性能不会下降。这位首席执行官补充道,这需要尽早与供应商合作。
“这些卫生系统没有意识到——这将是多么具有挑战性,将是多么昂贵,以及与供应商建立牢固的合作伙伴关系是多么重要,”安德森说。“监控这些模型不是您自己可以完成的事情,您需要这种合作伙伴关系。”