作者:Jeremy Olson
明尼阿波利斯卫生系统与加利福尼亚公司合同,以确保准确性,克服第一代AI工具的偏见。
明尼苏达州明星论坛报
2025年4月10日上午11:30
Allina Health放射科医生Mathew So博士同意对AI工具的评估,即基于成像扫描结果,他的患者患有前列腺癌的可能性很高。Allina是AI进行医疗保健决策的早期采用者,利用它来验证医生对成像扫描和癌症诊断的解释。(Richard Tsong-Taatarii/明尼苏达州Tribune)
Allina Health正在使用人工智能来改善癌症病例的决策,对医生的肺部扫描阅读并指导他们采取前列腺癌的模糊治疗决策。
总部位于明尼阿波利斯的医疗保健系统在过去一年中通过与Ferrum Health的合同报告了成功,该合同帮助其选择并验证了一种AI工具,该工具发现了在医生检查其肺部扫描时遗漏的五名患者中发现异常生长或结节的AI工具。
Allina Health Cancer Institute主席Badrinath Konety博士说,我们的放射科医生正在阅读它们。好消息是,他们大约99.7%的时间是正确的。但是,当您谈论筛查100,000名患者时,绝对数量的0.3至0.4%变得很多。
AI在医疗保健中爆炸了。食品药品监督管理局几乎批准了1,000个启用AI的设备,其中分析了医疗记录和数据中的模式,以帮助医生做出分类和治疗决策,并通过预测哪些患者可以回家来减轻医院的拥挤。医生还使用大型语言模型(例如Google的双子座)来审查复杂病例并确认诊断。
哈佛大学临床医生兼领先的AI研究人员亚当·罗德曼(Adam Rodman)博士在周三向明尼苏达州的一份演讲中说:``我们将很快进入一个世界,AI模型将比我们进行更好的鉴别诊断。”联盟为了患者安全。
检查成像扫描的工具显示了一些最有希望的结果。几家Allina医院是使用AI工具提供结肠镜检查的实时验证并比较患者消化道的息肉与证明是癌性的图像。
Konety说,AI同样可以帮助医生评估MRI扫描对前列腺癌,并确定哪些癌症是侵略性和需求治疗,哪些癌症的生长缓慢,可以单独进行。•这样的工具可以更好地阅读MRI并有助于标准化阅读,因为其中很多是放射科医生和基于经验的主观的。
放射科医生Mathew因此对患者的MRI扫描进行了AI生成的评估。AI技术产生的报告将评估患者的前列腺癌可能性,如前列腺中的红色区域所示。(Richard Tsong-Taatarii)
AI在医疗保健方面的增长带来了痛苦。这些工具仅与它们所基于的数据一样好。Ferrum首席执行官Pelu Tran说,主要基于白人患者的数据可能不会为非白人患者提供有效的建议。
大多数AI模型都接受了马萨诸塞州,纽约和加利福尼亚州的人口的培训。不幸的是,这并不能反映中西部或南部人口的现实。这些AI模型最终几乎是从定义上来说是对他们接受过培训的人群的偏见。
科罗拉多州等州试图解决问题,要求开发人员采取措施避免算法歧视在其支持AI的医疗工具中。(明尼苏达州议员拥有拟议的禁令在某些保险范围决策中使用AI工具或AI聊天机器人追求逾期医疗债务,但没有临床用途。)
Allina雇用渡轮作为一个解决方案。加利福尼亚公司选择AI工具,然后随着时间的推移对其进行研究,以确保它们为Allina的患者提供相关指导。
Tran说,大多数预测性AI工具在现实生活中的患者人群中也不像临床研究一样有效。特兰说,有些人的表现要差得多,需要谨慎使用,他的叔叔死于未发现的肺癌后,他的叔叔死于肺癌。
明尼苏达大学的安德鲁·奥尔森(Andrew Olson)博士同样,与哈佛大学的罗德曼(Rodman)和斯坦福大学(Stanford)和弗吉尼亚大学(Virginia Universities)的哈佛大学的罗德曼(Rodman)及其同事合作,将AI医疗保健工具付诸实践。
他们的一个第一研究发现大型语言模型在采取有关患者的书面事实并提出正确诊断方面的书面事实。奥尔森说,该模拟的建立方式可能有利于AI工具,但最终显示了该工具如何通过提出有关患者诊断的替代方案来支持现实生活中医疗方案的医生。
我们为什么弄错了?因此,我们通常不会想到这一点。并不是说我不知道。奥尔森说,这并没有出现。这些工具是我们摆脱大脑的重要补充。
罗切斯特梅奥诊所的外部。(Ayrton Breckenridge/明尼苏达州Tribune)
Mayo Clinic希望通过创建世界上最大的分销来提高AI工具的可靠性医疗数据网络。它在未来两年的平台将将Mayo的De识别患者数据与全球其他参与医院的数百万记录联系起来。
``当我们使用更好的数据对其进行培训时,这些模型将会变得更好。”位于罗切斯特Mayo癌症中心的平台和数字创新集团的共同负责人Tufia Haddad博士说。
哈达德说,倦怠是医生中的一个不断增长的问题,他们每隔一个小时就与患者一起度过了两个小时的记录和管理。AI工具可以通过综合医疗记录并指导医生获取有关患者的最相关信息来帮助。
她预测,我们将与这些AI模型相比,这将使该比例更加倾斜。”
没有人建议用AI工具代替医生。罗德曼说,大型语言模型有故障,包括偶尔幻觉的信息,但在患者也咨询AI的时代,医生也应该很舒服地使用它们。一些FDA批准的AI工具专门用于患者,例如检测到睡眠呼吸暂停迹象的Apple Watch功能。
罗德曼说,我有一个病人在chatgpt上检查我。”
明尼苏达州医学协会组成一个工作队今年,通过解决AI工具的潜在偏见并澄清使用它们的责任风险来准备医生。
Konety说,Allina的放射科医生对AI对肺部屏幕的评估持怀疑态度,但对该工具及其支持他们决策的方式感到舒适。
他说,它实际上覆盖了您的背面,'您不仅仅是试图第二次猜测。