心理健康分诊交给算法后，患者成了自己的协调员
美国多家心理健康服务机构正在用算法收集症状、评估需求并分配治疗路径。Capital & Main 采访的工会工作者称，自动化并没有消除协调工作，反而让部分患者在错误转介、预约延迟和重复解释病史之间自行追赶系统。相关机构和供应商则强调，最终决定仍由持证临床人员作出。
作者：沈南乔｜OC 社会影响编辑
美国多家心理健康服务机构正在用算法收集症状、评估需求并分配治疗路径。Capital & Main 采访的工会工作者称，自动化并没有消除协调工作，反而让部分患者在错误转介、预约延迟和重复解释病史之间自行追赶系统。相关机构和供应商则强调，最终决定仍由持证临床人员作出。
一句话结论：心理健康分诊最危险的失败，不是算法给错一个分数，而是错误被拆散在问卷、队列、预约和人工回拨之间，直到没有任何一个人对患者是否真正进入治疗负责。
报道中，Kaiser Permanente 的工作人员称，一个地区的心理健康访问团队从 9 人缩减到 3 人；有人估计每天约二十多通来电中，接近三分之一来自对流程感到挫败的患者。工会人员还指称，个别患者经历数周延迟，系统没有充分传递自伤或自杀史。Kaiser 否认 AI 取代临床判断，并表示其工具用于支持而非替代专业人员。
另一组争议涉及 Rogers Behavioral Health 使用的 Limbic 分诊工具。工作人员称，一些患者被导向不合适的照护级别，随后还要由人工重新评估。Limbic 与医疗机构均强调，软件提供建议，持证临床人员才做最终决定。双方说法并不矛盾到可以简单二选一：形式上的最终签字在人，但如果人员缩减、界面默认值和时间压力让建议很少被推翻，自动化依然可能实际塑造结论。
心理健康与普通客服不同。处在抑郁、惊恐或危机中的人，很难反复打电话、纠正病历或证明自己需要更快服务。一个健康系统若把“纠错能力”当成进入合适治疗的条件，会优先服务最能坚持和表达的人，而让风险最高的人更容易从队列中消失。
加州正在讨论的 AB 2575 与 AB 1979，分别触及人工推翻、透明度、责任以及不得仅凭 AI 决定部分医疗事项等问题。法案仍处在立法过程，不能写成已经生效的统一禁令。但它们提出了正确问题：谁有权否决算法，否决是否会被绩效考核惩罚，患者能否知道决定受到自动系统影响，以及发生延迟时由谁负责主动联系。
有效监管还要看结果，而不只是模型准确率。医疗机构应该披露转介后真正约到诊的时间、被人工改判的比例、高风险信号漏接情况和不同人群的差异。否则一个在测试集上表现不错的分类器，仍可能被嵌进一个无人兜底的流程。
关键事实
- 工会工作人员指称自动化分诊伴随人员缩减、转介错误和等待延长；医疗机构否认 AI 取代临床判断。
- Limbic 等供应商称其工具只提供建议，最终决定由持证临床人员完成。
- 加州相关法案仍在审议，重点包括人工否决、透明度和不得仅由 AI 作出部分医疗决定。
OC 判断
“有人类在环”不能只看流程图最后有没有签字。真正的人类兜底需要足够人手、明确责任、可见的高风险告警，以及患者无法继续追问时仍会主动工作的系统。医疗 AI 的验收指标应从分类准确率扩展到患者是否及时获得正确照护。
为什么重要
- 对患者：最脆弱的人往往也是最难为自己纠错的人。
- 对医护人员：保留否决权还不够，必须有时间和制度空间去使用它。
- 对监管者：应审查整条照护路径，而不是把风险缩小成一次模型输出。
评论
围绕这篇文章补充信息、提出问题或分享观察。