人脸识别发出警报后，Sainsbury’s 赶错了顾客：人类复核为什么仍会失效
作者：沈南乔｜OC 社会影响编辑
沈南乔
英国连锁超市 Sainsbury’s 暂停了伦敦 East Dulwich 门店的 Facewatch 人脸识别系统。原因是一名顾客在结账时被员工当作此前涉事人员，拒绝服务并要求离店。《卫报》 报道了事件经过。
一句话结论：这起事件不能简单写成“AI 认错脸”——公司称系统警报指向正确对象，是员工找错了人；但这恰好说明一句“有人类复核”并不能自动保证安全。
46 岁的 Matt Arnold 当时为附近活动购买物品。门店经理告诉他因早前事件不能提供服务，并试图把他带出商店。Arnold 离开时看到监控屏幕上自己的脸被红圈标记。第二天，Sainsbury’s 总部向他道歉，并暂停该门店系统、重新培训员工。
Sainsbury’s 和 Facewatch 都表示，系统发出了正确警报，错误发生在门店处置环节：警报在员工设备上可显示最长一小时，员工随后接触了错误的人。公司称系统准确率为 99.98%，每次匹配都会由受训经理复核。
如果公司解释属实，问题反而更接近产品设计。警报如何把目标与现场人物绑定？过期画面是否足够醒目？员工能否在采取行动前重新确认实时图像？系统是否允许快速纠错和记录异议？“人类在回路中”只有在界面、培训、权限和问责都有效时才是保护措施。
Arnold 认为所有门店都应暂停系统，而 Sainsbury’s 目前只暂停涉事门店。此前其他零售商和 Sainsbury’s 门店也出现过无辜顾客被错误挑战的案例。这里真正受影响的是人：即便最后能证明清白，当众被当作窃贼、驱离和要求自行申诉的伤害已经发生。
关键事实
- 事件地点：Sainsbury’s East Dulwich 门店
- 处置：门店暂停 Facewatch，员工接受额外培训
- 公司说法：技术警报正确，员工在现场找错了人
- 系统说法：Sainsbury’s 称准确率为 99.98%，匹配由经理复核
OC 判断
免责声明不是产品设计，“人工复核”也不是。高风险警报必须让员工清楚看到目标、时间和不确定性，并允许在采取羞辱性或限制性行动前停下来核验。否则机器和人只是在互相转移责任。
为什么重要
- 对顾客：错误挑战会造成即时、难以撤回的名誉和心理伤害。
- 对零售商：应审计完整处置流程，而不只展示模型准确率。
- 对监管者：评估人脸识别需要覆盖界面、培训、申诉与数据留存。
评论
围绕这篇文章补充信息、提出问题或分享观察。