医疗领域的AI

医疗机构如何确保人工智能的伦理使用？

事实核查由德里克·怀勒

你有没有考虑过我们使用的那些人们已经不再关注的人工智能（AI）方式？（说到你了，Siri！）一旦某件事情变得司空见惯，它往往会从我们的意识中淡出。这种情况在医疗领域使用人工智能时尤为常见。

AI工具生成内容、整理信息和执行任务。当患者的血氧水平过低时提醒医生的机器？ 

AI. 自动化心电图读取？也是 AI.跟踪这些数据点， среди 许多其他情况一样，已经变得司空见惯了 医疗界。

“人们刚熟悉一种新的人工智能技术不久，它似乎就变得普通了。” 乔纳森·汉德勒医学博士（Jonathan Handler, MD），高级创新研究员表示，“如果很多人常常忘记那是AI。”OSF卫生健康care（注意："HealthCare"在医疗保健行业中通常直接音译或意译为“卫生健康”，但根据上下文可能有特定含义，此处保持部分原词以示准确）. 

然而，人工智能被应用于各种医疗场景，从诊所里的个性化治疗到实验室中的模式发现。

OSF团队也在探索和实施由人工智能驱动的最新技术。例如，一个AI试点项目会监听医生与患者之间的对话，然后自动生成临床记录的第一稿。OSF的医生使用 另一个用于帮助识别糖尿病视网膜病变（由糖尿病引起的视网膜损伤）的AI平台。另一个试点项目使用AI来 更好地检测癌前息肉 在结肠镜检查中。

沙欣·沙h医生芝加哥大学医学中心首席医疗信息官，记录了几项 人工智能进入当前医疗实践的方式： 

大幅度减少临床医生的文书工作负担

在医学图像中搜索异常以改进诊断

预测再住院风险和疾病进展的患者预后

分析大规模数据集以寻找医学模式

确定患者人群

定制治疗方案

加速临床试验受试者招募

最终，夏赫说：“这个 该方法旨在减少对医疗提供者的行政负担，使他们能够专注于 “更多关于患者护理的内容。”它还 实现“更加主动的临床干预。”

医生和医院是 已经看到了人工智能在诊断如癌症等方面的好处。Maryellen Giger博士，一位教授 芝加哥大学放射学系开发了一种技术，该技术于2010年代初期在美国各地的医院和影像中心用于检测乳腺MRI中的癌变病灶。

在英国，牛津药物 设计，一家专注于新药发现的初创公司，利用人工智能在该领域开展工作。 从分子水平研究和制造新药物。 

艾伦·D·罗思博士（Alan D. Roth, PhD），公司的首席执行官，是一名有机化学家。他说该公司使用 一个名为Synth AI的计算人工智能程序，将当前的化学知识转化为能对抗疾病的新型分子。目前，该团队专注于癌症和耐药性致死感染的研究。

我们的计算人工智能结果 罗斯说：“在实际的当前化学中可以合成，并且能够以经济高效的方式制造，这样如果它们成为药物，制药公司就能负担得起批量生产。”

牛津药物设计公司已经 与剑桥大学、利物浦大学以及美国的国立卫生研究院和国家癌症研究所合作。 

最终，我敢打赌——或者至少是希望——人工智能将帮助提高所有人的护理质量、可及性、公平性和体验。

他们最近还与英国癌症研究苏格兰研究所建立了合作，致力于开发癌症治疗的药物——因此该公司在使用人工智能方面的做法非常明确。但对于那些没有如此清晰界限的医疗团队和机构来说，决定使用人工智能则伴随着大量的讨论。

监督AI使用

“这必须从战略优先事项和临床需求开始，”沙阿说。“在哪些具体领域，AI可以帮助满足需求、建立能力，并显著改善患者结果或运营效率？”

芝加哥大学医学中心有一个专门的生物伦理委员会，有自己的流程来回答这些问题。首先，团队分析在医疗系统层面使用AI的需求，确定需求是什么以及如何优先考虑这些需求。接下来，临床和运营领导评估AI可能对工作流程和患者结果产生的影响。如果到目前为止一切看起来都很好，AI系统将在受控环境中进行试点测试，以观察其效果、潜在的影响以及它如何融入现有技术。然后就是持续监测该系统的性能，确保其保持有效性和相关性。运行AI项目的成本也会影响决策。

“从最早的設計和評估階段就應該邀請關鍵利益相關者參與，包括臨床醫生、患者、運營領導和IT團隊，”沙阿說。“進行詳細的成本效益分析，評估人工智能採用的金融影響和資源需求是必要的，這也是獲得資金支持所需的一部分過程。”

处理方同意许多人正在建立系统以制定政策、培训员工和鼓励 适当的AI使用。为此， OSF去年成立了生成式AI委员会以促进安全、公平、 有效利用人工智能。

“医疗保健在很大程度上是一项高强度、高风险的关键服务。由于医疗团队常常感到时间压力很大，因此，如果人工智能部署能够帮助他们节省时间以更好地完成最关键的任务，那么这种技术可能会更快地被接受和采用，”Handler说。

医疗机构也应该考虑透明度。 与患者和临床医生打交道。AI系统的一个失误就会导致后果 信任的恶化在某个事物中 整个医疗设施。

“不久的将来，我们现在需要花费大量时间完成的事情将会因为计算能力的不断进步而大大缩短。”

这意味着要调动多学科团队，包括临床医生， 数据科学家、伦理学家及其他相关人员 沙赫说：“从设计和治理阶段到实施阶段，评估和监控人工智能应用程序的关键利益相关者。”

越来越多的主要医疗保健机构似乎正在建立像OSF和芝加哥大学医学中心那样的正式监督委员会。但Handler和Shah一致认为，这还不是行业标准——尽管如果AI的风险增加，情况可能会发生变化。 是否需要相互制衡。

随着我们前进，我们会看到什么呢？ 这成为标准了吗？”处理者问道。“很难说，但我怀疑， 像许多其他医疗技术一样，具有更高风险的使用 将拥有更大的监督权。

当然，这并不是最容易的事情 为了建立一个监管委员会。沙赫表示，分委会对于监控AI模型的发展、验证和安全性；合规性；风险缓解；财务要求；以及资源配置至关重要。该委员会还需要跨部门协作。

“包括临床、运营、法律、合规、隐私和IT等部门及利益相关者在内的跨学科协作对于保持一致的全方位监管方法至关重要，”Shah说。

除此之外，还需要制定保护措施。沙赫表示，芝加哥大学医学中心已经采取了许多措施，包括强有力的措施来保护数据隐私和患者信息安全、缓解AI偏见以确保医疗公平性、对任何AI系统进行严格的预测试以及总体上遵守监管规定。

该团队还致力于确保AI系统能够清楚易懂地向患者和临床医生解释——汉德勒表示，这可能会帮助促进AI在医疗保健领域的成功。

“为了确保安全，人们往往希望了解人工智能的工作原理，并且希望能够获得它所提供指导的可理解解释，”他说。“当人工智能使用非常复杂的处理过程和许多数据元素来生成其输出时，这可能会变得具有挑战性。”

在早期的日子里

处理者表示已经着手解决那个挑战。但接下来我们该怎么做？什么 未来在医疗领域的AI会是什么样子？如果你问罗斯，这只是个开始。

“不久的将来，我们现在需要花费大量时间的事情将会因为计算能力的不断进步而减少，”罗特说。“患者和医生将继续受益。”

为了确保安全，人们常常希望了解人工智能的工作原理，并且希望能够获得其提供的任何指导的可理解解释。

在他的工作中，罗斯认为人工智能的效率将显著缩短开发时间表，在新药部署前可能减少多年的测试时间。

沙赫预计一些效率和改进将以快速诊断准确性的形式出现，特别是 在肿瘤学和基因组学领域。他也 认为我们将看到更好的预测分析在疾病发生和进展方面，引领着 早期的诊断和治疗， 或更好的个性化预防措施 护理协议。

对于患者而言，Shah预计他们最终在与医疗系统的互动中会感到更有能力且更高效，并具备更多的自我效能和知识来自行管理。由于人工智能具有简化各种行政和运营任务的能力，患者最终可能会支付更低的医疗费用并获得更强的医生访问权限。

但无论它如何发展，人工智能无疑将继续引起动荡。“我仍然赌人工智能将会 沙赫说：“它在未来几年将比以往任何时候都更加普遍和破坏性。” 

不过最终而言，我猜测——或者至少希望——人工智能将有助于提高所有人的护理质量、可及性、公平性和体验。HANDLER说。 

而且就像已经发生在人工智能工具实施上的情况一样，他预测我们中很多人可能会忘记人工智能将在我们的日常生活中引发的所有剧变。

原发表于2024年秋季/2025年冬季期打印问题.

詹妮弗·比利奥克

珍妮弗是一位获奖作家和畅销书作者。她目前正在梦想着与她的比特犬一起环游世界的旅行。