人工智能可能会监听你的下一次医生预约

米歇尔·克劳奇

与 共同出版 夏洛特·莱杰一个 

当儿科医生乔斯林·威尔逊 (Jocelyn Wilson) 在 Atrium Health Levine Children’s 夏洛特儿科诊所看望患者时，她每次就诊都会以一个简单的请求开始：获得录制对话的许可。

原因不是监视，而是效率。

和越来越多的医生一样，威尔逊使用人工智能工具来监听她与患者的对话。然后，它将它们转换成临床就诊摘要，她可以在短短几分钟内查看、编辑并上传到患者的医疗记录中。

目标？让医生花更少的时间做文书工作，花更多的时间照顾病人。

“当我在考场时，我从来都不太喜欢使用电脑……我只是觉得自己不在场，”威尔逊说。– 现在，我不必写下任何东西。我可以进行直接的眼神交流。 –

她说这个人工智能工具被称为DAX 副驾驶，每天为她节省一个多小时将预约详细信息输入患者病历的时间。

虽然医疗保健系统正在以各种方式使用人工智能在幕后重塑护理，但这些“虚拟抄写员”工具对患者来说是最明显的一些——它们将人工智能直接带入检查室。

据 Atrium 发言人称，超过 1,500 名 Atrium Health 医生获得了使用 DAX Copilot 的许可。北卡罗来纳州至少还有另外三个系统——Novant Health、UNC Health 和 Duke Health——正在使用类似的技术。 

这些平台类似于从金融到营销等许多其他行业用来简化记笔记和总结信息等任务的人工智能工具。 

AI 工具并不完美

然而，人工智能助手并不完美，医疗保健提供者正在努力应对其他行业遇到的一些相同挑战。

研究表明，语音识别程序并不总是能理解少数族裔、以英语为第二语言的人和有语言障碍的人。这些工具还可能误解信息，甚至编造反应（一种称为幻觉的现象），强调医生审查摘要的必要性。

“必须有人参与其中，以确保我们正确评估这些工具并确保它们适用于所有不同类型的患者和医生，”Allison Koenecke 说道。康奈尔大学信息科学助理教授，他的研究发现了人工智能生成的医疗记录的问题。

医疗保健系统还需要解决患者对隐私的担忧，并确保患者了解软件的工作原理，以便他们能够就是否参与做出明智的决定。

患者可以期待什么

Atrium 是美国第一个测试 DAX Copilot（Dragon Ambient eXperience Copilot 的缩写）的医疗系统，该平台由 Microsoft 子公司开发细微差别。该软件会在医生的智能手机上安装一个安全的应用程序来进行记录。

威尔逊试用了一个早期版本，她形容该版本“有些笨重”。但她说，最新版本非常准确，过去几个月她一直在使用它。

它的工作原理是这样的：在威尔逊走进房间之前，她记录了有关患者和就诊原因的简短说明。

进去后，她自我介绍并解释了整个过程，她说：“我今天带着手机，因为它可以帮助我在一天结束时写笔记。”如果您同意，它就会坐在这里听我们的对话。”

她说，到目前为止，还没有病人拒绝接受治疗。

然后威尔逊将手机放在柜台上，直到她离开并停止录音才再次触摸它。几分钟之内，该软件就会将访问摘要发送到她的计算机上，供她查看和编辑。

治疗医生倦怠的方法？

威尔逊说，在一个完美的世界里，医生在两次预约之间有时间更新他们的笔记，同时细节还记忆犹新。

“但现实是，有时你在病房待的时间比预期的要长，而且还有两三个病人等待就诊，”威尔逊说。– 当你收治了五六个病人并且还没有开始任何（你的笔记）时，内部压力就会开始增加。你担心自己会忘记一些事情，并担心需要多长时间才能赶上。”

Wilson 表示，DAX Copilot 极大地减轻了未完成笔记的压力。现在，她不再盯着空白屏幕，而是有一份摘要草稿在等着她。 

“编辑注释比开始注释容易得多，”威尔逊说。

她说，自从开始使用这项技术以来，她有更多的时间午休、锻炼或在晚上做饭，而不是“写笔记直到睡觉的时间”。说。

她说，当诊所繁忙时，DAX Copilot 还可以让她在一天内接待更多患者。

职业倦怠已成为全国医生的一场危机大约一半的报告2023 年就会出现这种症状，而罪魁祸首就是日益增加的记录负担。一个2020 年梅奥诊所研究研究发现，医生会在办公室外花一到两个小时写下患者就诊所需的笔记，从而减少了个人和家庭时间。

发表在的一项研究JAMA 网络开放发现使用 DAX Copilot 的 Atrium Health 医生中有 47% 表示在家做记录所花费的时间显着减少。

杜克大学医学院 (Duke Medicine) 首席健康信息官 Eric Poon 也是 DAX Copilot 技术在其初级保健实践中的早期测试者。

他说，在经历了多年约会迟到的情况后，该工具显着提高了他的效率。

这个由三部分组成的北卡罗来纳州健康新闻/夏洛特·莱杰系列探讨了人工智能如何塑造该州的医疗保健。

今天：医生们开始求助于“虚拟抄写员”来记笔记，这引发了隐私问题。
周二：北卡罗来纳州的医疗保健提供者如何利用人工智能。
周三：州监管机构如何处理人工智能在医疗保健领域的应用。

– 自从我大约一年前开始使用这项技术以来，我实际上可以在与患者交谈时从键盘上退一步，而不必做电报笔记，而且我意识到我能够以一种更轻松的方式与患者进行更密切的交谈。自然的方式，”他说。– 然后你猜怎么着？我发现我现在在临床生涯中第一次按时完成临床工作。

Poon 表示，到目前为止，大约 50 名杜克大学医生已经接受了 DAX Copilot 培训。

隐私和准确性问题

据一项调查显示，全国约 70% 的患者对医生在预约中使用人工智能感到满意2024 年调查。然而，调查发现，患者确实有一些保留意见，超过一半的患者表示医疗保健人工智能“有点可怕”，70% 的患者表达了对数据隐私的担忧。

当任何电话或电脑都可能被黑客入侵时，一些患者担心录音最终会去向何处。Atrium 表示，医生手机上的 DAX Copilot 应用程序只能通过生物识别或密码身份验证来访问，并且在医生批准相关的人工智能生成的临床记录后，记录就会消失。

科内克说，就准确性而言，对于像威尔逊这样的医生来说，仔细审查人工智能生成的内容以确保其正确非常重要。

她对微软的一款语音转文本工具的研究显示，黑人说话者的错误率是白人说话者的两倍。在调查非微软模型时，她发现了该技术遗漏事实或捏造内容的情况。例如，在一个案例中，它发明了一种不存在的药物，称为“超活性抗生素”。

科内克说，与许多人工智能技术一样，这些虚拟抄写员的成功可能很大程度上取决于它们的实施方式。它们是否会被用来减轻医生的负担，并有足够的时间进行筛查和审查？或者医院会部署它们来推动医生看更多的病人并增加收入吗？

她说，如果没有足够的监督，人工智能助手可能会“导致真正巨大的下游伤害，特别是对于某些无法被这些工具很好地捕捉到言论的群体而言”，Koenecke 说。“我们如何确保这些已经超负荷工作的员工不会只是浏览一下然后点击“确定”？”

北卡罗来纳州健康新闻记者艾米丽·韦斯帕对此报道做出了贡献。 

本文是以下合作伙伴关系的一部分夏洛特·莱杰和北卡罗来纳州健康新闻制作原始医疗保健报告重点关注夏洛特地区。一个  您可以通过免税捐款来支持这项努力。一个