Sina Bari 博士，执业外科医生，数据公司人工智能医疗保健领导者优点，亲眼目睹了 ChatGPT 如何通过错误的医疗建议将患者引入歧途。

“我最近接待了一名患者，当我推荐一种药物时，他们从 ChatGPT 打印出一段对话，上面写着这种药物有 45% 的几率导致肺栓塞，”Bari 博士告诉 TechCrunch。 

当巴里博士进一步调查时，他发现该统计数据来自一篇关于该药物对结核病患者的小群体影响的论文，这不适用于他的患者。 

然而，当 OpenAI 宣布其专门的聊天GPT 健康上周，巴里博士对聊天机器人感到兴奋多于担忧。

ChatGPT Health 将于未来几周推出，允许用户在更私密的环境中与聊天机器人谈论他们的健康状况，他们的消息不会被用作底层人工智能模型的训练数据。

“我认为这很棒，”巴里博士说。“这种情况已经发生了，因此将其正式化以保护患者信息并采取一些保护措施[……]将使患者使用起来更加强大。”

用户可以通过上传医疗记录并与 Apple Health 和 MyFitnessPal 等应用程序同步，从 ChatGPT Health 获得更个性化的指导。对于注重安全的人来说，这会立即引发危险信号。 

“突然之间，医疗数据从符合 HIPAA 的组织转移到不符合 HIPAA 的供应商，”数据丢失防护公司 MIND 的联合创始人 Itai Schwartz 告诉 TechCrunch。“所以我很好奇监管机构会如何处理这个问题。”

但在一些行业专业人士看来，秘密已经泄露。现在，人们不再用谷歌搜索感冒症状，而是与人工智能聊天机器人交谈——2.3亿人已经每周与 ChatGPT 谈论他们的健康状况。 

“这是 ChatGPT 最大的用例之一，”投资健康技术的 Gradient 合伙人 Andrew Brackin 告诉 TechCrunch。– 因此，他们希望为这些医疗保健问题构建更加私密、安全、优化的 ChatGPT 版本，这是很有意义的。 –

人工智能聊天机器人一直存在一个问题幻觉，这是医疗保健领域特别敏感的问题。根据 Vectara 的说法事实一致性评价模型与许多 Google 和 Anthropic 模型相比，OpenAI 的 GPT-5 更容易产生幻觉。但人工智能公司看到了纠正医疗保健领域效率低下的潜力（人择本周还宣布了一款保健品）。对于斯坦福大学医学教授兼斯坦福大学医疗保健中心首席数据科学家 Nigam Shah 博士来说，美国患者无法获得医疗服务比 ChatGPT 提供糟糕建议的威胁更为紧迫。

“现在，你去任何一个卫生系统，都想见初级保健医生，等待时间将是三到六个月，”沙阿博士说。

– 如果您的选择是等待六个月找真正的医生，或者与非医生但可以为您做一些事情的人交谈，您会选择哪一个？

沙阿博士认为，将人工智能引入医疗保健系统的更清晰途径是在提供者一方，而不是患者一方。 

医学期刊有经常 报道行政任务可能会占用初级保健医生大约一半的时间，这会减少他们在一天内接诊的患者数量。如果这种工作可以自动化，医生将能够看到更多的患者，也许会减少人们使用 ChatGPT Health 等工具的需要，而无需真正医生的额外输入。

沙阿博士领导的斯坦福大学团队正在开发聊天电子病历是一款内置于电子健康记录 (EHR) 系统中的软件，允许临床医生以更简化、更高效的方式与患者的医疗记录进行交互。

“让电子病历变得更加用户友好，意味着医生可以花更少的时间在电子病历的每一个角落和缝隙中寻找他们需要的信息，”ChatEHR 的早期测试者 Sneha Jain 博士在斯坦福大学医学杂志上说道。文章。“ChatEHR 可以帮助他们预先获取这些信息，以便他们可以将时间花在重要的事情上，即与患者交谈并弄清楚发生了什么。” 

Anthropic 还致力于开发可用于临床医生和保险公司的人工智能产品，而不仅仅是面向公众的 Claude 聊天机器人。本周，Anthropic 宣布克劳德医疗保健通过解释如何使用它来减少花在繁琐的管理任务上的时间，例如向保险公司提交事先授权请求。

“你们中的一些人每周都会看到成百上千个这样的事先授权案例，”Anthropic 首席产品官 Mike Krieger 在摩根大通最近的一次演讲中说道医疗保健会议。– 想象一下，每人减少 20 到 30 分钟 – 这将节省大量时间。 –

随着人工智能和医学变得更加交织在一起，两个世界之间存在着不可避免的紧张关系——医生的主要动机是帮助患者，而科技公司最终要对股东负责，即使他们的意图是崇高的。

“我认为紧张是一个重要因素，”巴里博士说。“患者依靠我们的愤世嫉俗和保守来保护他们。”