数百次投诉后，药房撤回 AI 电话助手：处方沟通不是普通客服
作者：沈南乔｜OC 社会影响编辑
作者：沈南乔｜OC 社会影响编辑
美国连锁药房 Kinney Drugs 在收到数百次客户投诉后，缩减 5 月上线的 AI 电话助手 Burt。据 WCAX 报道，用户反映通话混乱、剂量信息错误和处方通知遗漏，公司将来电恢复为传统按键电话系统。
一句话结论：Burt 的失败不是声音不够自然，而是药房把具有医疗后果的处方沟通当成普通呼叫中心自动化；隐私合规可以限制数据怎么用，却不能证明剂量、库存和取药状态说得正确。
Burt 以药房创始人命名，负责与患者沟通处方和续配。Kinney 总裁 John Marraffa 承认，公司可能把隐私与安全控制做对了，却没有把体验做对，并表示愿意承担责任。未来呼入电话回到按键菜单，Burt 只保留部分外发提醒，并要求患者主动选择加入。
药房电话里的一句话会改变真实行为。用户可能根据剂量决定怎么服药，根据“已准备好”安排出行，根据续配状态判断是否需要联系医生。系统若在普通客服场景答非所问，用户会烦；在处方场景答错，可能导致漏服、重复服药或延迟治疗。
公司强调 Burt 符合 HIPAA，且不是开源系统。HIPAA 主要约束受保护健康信息的使用与披露，不认证回答准确率，也不因为模型封闭就更安全。公司还称系统不“生成或操纵数据”，更合理的理解可能是它只读取受控药房记录，而不是自由生成医疗建议；具体架构仍需透明说明。
恢复按键电话也不是技术倒退。确定性菜单在查询处方状态、营业时间和转接门店时，行为更容易测试和复现。AI 可以保留在语音转写、排队摘要和外发提醒等辅助环节，但剂量冲突、不确定身份和医疗问题必须快速转给药师。
上线前测试还需要覆盖老人、口音、听力障碍、药名相似和背景噪声。平均识别率无法代表最脆弱用户，免责声明也不能补救一个不断阻止用户接触真人的入口。
关键事实
- Burt 于 5 月上线，用于处方和续配相关沟通
- 用户投诉包括通话混乱、错误剂量和漏发通知
- Kinney 将呼入电话恢复为传统按键系统
- Burt 将保留部分需用户选择加入的外发提醒功能
OC 判断
医疗自动化首先要确定哪些话绝不能猜。药房可以自动播报从受控系统读取的状态，却不应让语言模型补全剂量、库存和临床建议。能随时找到真人不是备用功能，而是产品主路径的一部分。
为什么重要
- 对患者：处方状态与剂量有疑问时，应直接向药师确认而不是依赖机器人复述。
- 对医疗机构：HIPAA 合规与回答准确、安全转接是三套不同验收标准。
- 对 AI 厂商：高风险语音产品应公布转人工率、纠错率和最差人群表现。
评论
围绕这篇文章补充信息、提出问题或分享观察。