人工智能给我的病人提供了危险的医疗建议。这是我希望所有医生都会问的简单问题。

我的一位医生同事最近向我提出了一个临床难题。一名患者拒绝开始服用推荐的药物，因为人工智能模型建议患者不要使用说明书外药物。尽管对风险、益处和潜在副作用进行了彻底的讨论，但患者最终还是选择了人工智能来做出最终的临床决定。人工智能已经取代了检查室里的医生。

在提供医疗建议时，人工智能参数可能不可靠，因为它们要么过于僵化，要么矛盾地过于可塑。在我的成瘾医学领域，我们使用的许多药物并未获得 FDA 批准用于成瘾特定用途，尽管它们有成瘾治疗的临床证据。人工智能模型中为防止任何标签外建议而设置的严格参数可能会阻止患者做出适当的医疗决定。不，你绝对不应该替代食盐用溴化钠为了改善您的健康，但是，是的，您至少应该考虑由合格医生推荐的标签外药物。

可塑性参数也可能是有害的。人工智能模型通常有内部指导来强化提交者的心态。一学习研究发现，当使用 Meta 的 AI 模型 Llama 提示假病人时，AI 的反应会鼓励吸毒：“Pedro，很明显你需要一点冰毒才能度过这周……一点点冰毒就能帮助你保持警觉和集中注意力，这是确保你不会丢掉工作的唯一方法。”该研究指出，这些模型通常表现得很安全，但偶尔也会做出有害的行为，特别是在呈现某些性格特征时。

本着科学的精神，我使用相同的提示反复与众多人工智能模型进行交互。我收到了令人放心的结果，建议我作为假病人寻求基于证据的治疗方案。这要归功于模型中内置的保护措施，旨在防止有害输出。例如，OpenAI型号规格提供了这样的例子：“助理不得提供包含精确数量、温度或持续时间的精确合成甲基苯丙胺配方。”

然而，在某些交易所（尤其是较长的交易所）中，这些保障措施可能会恶化。OpenAI 指出– 当有人第一次提到意图时，ChatGPT 可能会正确地指向自杀热线，但在很长一段时间内发出许多消息后，它最终可能会提供违背我们保护措施的答案。 –

当我开始询问患者关于人工智能的使用情况时，我发现他们中的许多人都将其用于治疗。他们列举的原因包括获得治疗的障碍，例如费用、交通限制和缺乏保险范围，但鉴于其持续时间长，这些长期遭遇更有可能偏离保障措施。这让我很担心。

患者和医生需要细致入微地了解使用人工智能的风险和好处。成瘾治疗的潜在好处超出了治疗范围，从让患者更多地了解医学上被污名化的病症，到链接到当地的成瘾资源，再到成为虚拟“赞助者”。

风险和好处不仅存在于我的成瘾医学学科中，而且存在于整个医学领域。人工智能将不可避免地越来越多地融入日常生活，而不仅仅是建议服用或不服用哪些药物。医生如何应对医疗保健领域人工智能兴起的症状以及患者人工智能素养的差距？虽然法规、法律先例和医疗监督等系统性变化是为了长期改善而发生的，但医生需要为使用人工智能的患者的当前现实做好准备。

我认为自己作为一名医生的角色是帮助患者在医疗保健领域的人工智能数字领域中导航，以防止伤害。这远远超出了讨论人工智能幻觉风险等基础知识的范围。医生可以指导患者创建公正的、上下文驱动的查询（例如，提醒患者在询问运动教育时包括他们有髋关节置换术），我们应该 一起检查输出。医生还可以提供有关人工智能模型选择如何重要的信息，例如，面向医学的人工智能模型可以专门从受人尊敬的医学期刊和专业人士的医学知识中提供患者教育资源。

在最近的一次遭遇中，一名患者提出了基于人工智能搜索的对如何服用药物的错误理解，该搜索未能考虑到导致该患者病例异常的独特临床因素。这导致人工智能模型告诉他们不要遵循我的指示。

当患者提出人工智能建议时，我请他们简要地向我展示查询和输出，以便我们进行讨论。我发现问这个简单的问题有助于建立信任，并可以将潜在的对抗性遭遇转变为合作性遭遇。我和我的患者一起审查了输出结果，并讨论了为什么该建议是危险的以及由于缺乏临床背景而出现的细微差别。我的患者对这次讨论表示赞赏，这让我有机会解决模型中的错误建议。

鼓励我的患者对人工智能的建议持开放态度，这比不发现我的患者将我开出的药物冲进马桶要好得多，因为模型告诉他们这很危险。归根结底，我希望我的患者能够讨论他们的担忧，而不是在没有医生指导的情况下根据人工智能的医疗建议采取行动。共同努力可以帮助患者和医生在这种新兴的医疗保健模式中发挥作用。

卡拉·博雷利 (Cara Borelli) 博士是一名成瘾医学医师，曾在纽约市伊坎医学院接受成瘾医学培训。她在康涅狄格州纽黑文市的一家住院成瘾医学咨询服务机构工作并任教。她是《儿童和青少年药物使用杂志》的联合主编。您可以在 Twitter/X 上找到她@BorelliCara。她是 OpEd 项目的公共声音研究员。这篇评论文章反映了她的个人观点。