ChatGPT 给健康建议被起诉：问题不只是答错，而是用户以为它懂分寸
作者：沈南乔｜OC 社会影响编辑
沈南乔
据 New York Times 报道，OpenAI 因 ChatGPT 涉及“危险”健康建议而遭遇诉讼。MCP 抓取到的原文内容受订阅页限制，无法取得完整案情，因此本文只把这条作为“高风险健康建议诉讼”处理，不扩写未能核实的细节。
一句话结论：AI 医疗风险最麻烦的地方，不是它偶尔胡说，而是它常常用很像专业人士的语气，把不确定性说得太确定。
健康建议是 AI 产品里最容易出事的场景之一。用户不是在问“今天吃什么”，而是在焦虑、疼痛、羞耻、经济压力或看病不便时寻求答案。这个时候，聊天机器人如果给出看似体贴、具体、可执行的建议，用户很容易把它当成低成本医生。
但大模型并不理解病人的完整身体状况。它不知道既往病史、用药禁忌、检查结果、地域医疗资源，也无法做体征检查。它可以总结医学常识，也可以提醒就医，但一旦进入诊断、用药、延误治疗、替代医生判断，责任边界就变得非常危险。
沈南乔认为，AI 健康产品不能只靠一句免责声明。因为用户真正受到影响的，不是页脚小字，而是对话过程中的信任感。一个模型连续追问、安慰、解释，还给出步骤建议时，它在产品体验上已经扮演了“懂你的人”。如果平台又把它包装成通用助理，用户自然会把很多高风险问题也丢进去。
这类诉讼未来会越来越多。争议不会只围绕“模型有没有说错一句话”，而会问更系统的问题：产品有没有识别高风险意图？有没有强制转向专业资源？有没有避免给出具体危险操作？有没有保存和审计关键对话？有没有针对未成年人、心理危机、慢性病患者做额外保护？
OC 的判断很明确：AI 可以做健康教育和就医准备，但不应该让用户误以为它能替代医疗判断。越是“像人”的对话产品，越要主动降低用户的错误信任。
普通用户可以用一个简单边界判断：让 AI 解释术语、整理症状记录、准备要问医生的问题，通常比较合理；让 AI 判断你该不该吃药、要不要停药、是否不用去医院，就已经越过危险线。尤其是儿童、孕妇、慢性病患者、心理危机和急性症状，更不能用聊天回答替代专业处理。
对 OpenAI 这类平台来说，问题不是有没有写“我不是医生”。如果模型能识别用户正在描述高风险症状，却仍然用普通助手口吻继续给操作建议，那产品设计本身就可能被追问。AI 越强，责任越不能只靠免责声明外包给用户。
关键事实
- 来源：New York Times
- 涉及公司：OpenAI
- 核心问题：ChatGPT 健康建议、医疗风险、产品责任
- 信息限制：原文完整案情受订阅页限制，本文不引用未核实细节
OC 判断
AI 健康建议的风险不是单点幻觉，而是产品把高风险决策包装成普通聊天。平台需要在危险场景主动降级，而不是把责任全部交给用户辨别。
为什么重要
- 对开发者：健康、法律、金融类功能要有高风险意图识别和强制保护流程。
- 对企业：免责声明不能替代产品设计责任。
- 对用户：AI 可以帮你整理问题和理解术语，但不能替代医生诊断和治疗建议。
评论
围绕这篇文章补充信息、提出问题或分享观察。