AI 给了答案，人反而错得更多：真正危险的不是幻觉，而是不再说“我不知道”
沈南乔｜OC 社会影响编辑
沈南乔｜OC 社会影响编辑
据 The Next Web 报道，一项覆盖 3132 名参与者的研究发现，在一组 AI 经常答错的视觉问题上，允许人们求助 AI 后，准确率从 27% 降到 9%，回答“我不知道”的比例从 44% 降到 3%，信心却从 30% 升到 76%。
一句话结论： 这项研究并不能证明“用 AI 一定更笨”，但它揭示了一个更实际的风险：当 AI 用确定的语气给出错误答案，人最先丢掉的往往不是知识，而是承认自己不知道的能力。
这组数字很容易被写成“AI 让人变笨”，但实验真正测到的东西更细，也更值得警惕。
研究者没有拿一般常识题测试参与者，而是故意挑选了模型不擅长的问题，例如让人回忆电影画面中某支球队球衣的颜色。使用的 Step 3.5 Flash 在这类问题上通常会答错。这样设计，是为了观察一个人面对听起来很像答案、实际上并不可靠的 AI 建议时，会不会保留自己的判断。
结果是，很多人不仅接受了错误建议，甚至把原本正确的答案改错了。AI 没有给他们增加有效信息，却显著减少了他们的犹豫。
这和日常使用 AI 的感觉非常接近。我们通常不会看到模型头顶写着“此题我不擅长”，只会看到一段语法完整、理由顺畅、几秒钟生成的回答。语言的流畅度很容易被误认成证据的完整度，而聊天界面又天然鼓励系统继续说下去。它很少停在一句干脆的“我不知道”。
研究还给部分参与者设置了金钱奖励，希望认真作答的动机能抵消这种影响。情况确实有所改善：承认不知道的比例从 3% 回到 8%，准确率从 9% 回到 16%。但两项指标仍明显低于没有 AI 的基线。这说明问题不只是“用户太懒”，而是 AI 建议本身改变了判断环境。
不过，这里也要给研究边界划清楚。实验刻意选择模型容易失败的问题，并不能外推成“凡是使用 AI 都会把准确率降到三分之一”。如果任务是格式转换、代码补全，或者模型能够检索并展示可靠来源，AI 完全可能提高表现。研究回答的不是 AI 平均有多可靠，而是：当 AI 错了，人类能不能识别它错了。
对普通用户来说，更有用的做法不是每次都怀疑一切，而是把“生成答案”和“接受答案”分成两个步骤。涉及数字、人物、法律、医学、发布日期和原始引文时，要求模型给出处，然后真的打开出处看一眼；如果问题本来就难以验证，让 AI 同时列出不确定点和可能的反例；在问 AI 之前，先写下自己的初步判断，也能减少被第一个流畅答案带走。
对产品设计者来说，危险则在另一个层面。现在很多 AI 产品奖励的是回答速度、完整感和用户停留，而不是恰当地拒答。一个总能给答案的助手看起来更聪明，也更容易通过演示。但如果系统不知道自己什么时候应该停下来，人类就会替它承担这种“确定感”的成本。
关键事实
- 原始论文为 《AI Advice Suppresses Judgment Suspension》，包含五项实验，共 3132 名参与者，其中四项预注册、一项为复现实验。
- 在核心实验条件下，准确率由 27% 降至 9%，信心由 30% 升至 76%，“我不知道”由 44% 降至 3%。
- 研究刻意使用模型容易答错的问题，因此结果适合说明错误建议如何影响判断，不适合直接代表所有 AI 使用场景。
OC 判断
AI 产品下一阶段真正需要竞争的，不只是“回答率”，而是校准能力：知道什么能答、什么要查、什么应该坦白不知道。对用户而言，最重要的 AI 素养也不是记住更多提示词，而是保留最后一次否决权。
为什么重要
- 对开发者： 应把引用核验、不确定性提示和拒答机制当成功能，而不是模型表现不佳时的补丁。
- 对企业： AI 输出进入审批、研究和决策流程后，必须有独立验证环节，不能让生成者同时充当唯一审核者。
- 对用户： AI 最危险的时刻，未必是胡说得很离谱，而是它说得足够顺，让你忘了自己原本并不确定。
评论
围绕这篇文章补充信息、提出问题或分享观察。