曾经是禁忌的人工智能警察随身摄像机在加拿大城市的“观察名单”上进行了测试

配备人工智能的警察随身摄像头经过训练，可以检测加拿大埃德蒙顿市“高风险”观察名单上约 7,000 人的面孔，这是一项现场测试，旨在检验因过于侵入性而回避的面部识别技术是否可以在整个北美的警务中占有一席之地。

但在领先的随身相机制造商 Axon Enterprise, Inc. 表示警方使用面部识别技术引起严重的道德问题六年后，上周启动的试点项目正在向埃德蒙顿以外的地区发出警报，埃德蒙顿是非洲大陆最北端、人口超过 100 万的城市。

Axon 人工智能道德委员会的一位前主席（该委员会导致该公司在 2019 年暂时放弃了面部识别）告诉美联社，他担心这家总部位于亚利桑那州的公司在没有对社会风险和隐私影响进行足够的公开辩论、测试和专家审查的情况下就向前推进。

前董事会主席、现纽约大学法学教授巴里·弗里德曼 (Barry Friedman) 表示，“重要的是不要使用这些技术，因为它们具有非常现实的成本和风险，除非有明确的好处迹象。”

Axon 创始人兼首席执行官里克·史密斯 (Rick Smith) 认为，埃德蒙顿试点不是产品发布，而是“早期现场研究”，将评估该技术的性能并揭示负责任地使用该技术所需的保障措施。

“通过在美国以外的现实条件下进行测试，我们可以收集独立的见解，加强监督框架，并将这些知识应用于未来的评估，包括在美国境内，”史密斯在博客文章中写道。

该试点项目旨在让埃德蒙顿巡逻人员的随身摄像头能够检测到任何被当局归类为“暴力或攻击性”等“旗帜或警告”的人，从而帮助提高埃德蒙顿巡逻人员的安全性。武装且危险；武器；逃避风险；埃德蒙顿警察局代理局长库尔特·马丁 (Kurt Martin) 说。马丁在 12 月 2 日的新闻发布会上表示，到目前为止，该观察名单上有 6,341 人。他说，一份单独的观察名单增加了 724 名至少持有一项严重刑事逮捕令的人。

“我们确实希望确保它是有针对性的，以便这些人都是有严重犯罪行为的人，”Axon 负责任人工智能总监 Ann-Li Cooke 说。

如果试点范围扩大，可能会对世界各地的警务工作产生重大影响。Axon 是一家以开发泰瑟枪而闻名的上市公司，是美国主要的随身摄像机供应商，并越来越多地向加拿大和其他地方的警察机构推销它们。去年，Axon 击败了最接近的竞争对手、总部位于芝加哥的摩托罗拉解决方案公司，向加拿大皇家骑警出售随身摄像机。

摩托罗拉在一份声明中表示，它也有能力将面部识别技术集成到警察随身摄像机中，但基于其道德原则，它“有意放弃部署此功能进行主动识别”。它并不排除在未来使用它。

阿尔伯塔省政府于 2023 年强制要求该省所有警察机构（包括其首府埃德蒙顿）安装随身摄像头，并将其描述为一项透明措施，用于记录警察互动、收集更好的证据并缩短解决调查和投诉的时间。

虽然美国的许多社区也欢迎随身摄像头作为问责工具，但实时面部识别的前景识别公共场所的人员在整个政治领域都不受欢迎。公民自由倡导者的强烈反对以及有关种族不公正的更广泛讨论促使 Axon 和大型科技公司暂停向警方销售面部识别软件。

最令人担忧的问题之一研究表明该技术存在缺陷，显示结果因种族、性别和年龄而存在偏差。它在实时视频中的面部匹配也不像在身份证或警察照片中的面部匹配那样准确。

美国多个州和数十个城市试图减少警察使用面部识别，尽管唐纳德·特朗普总统的政府现在正试图阻止或阻止各州监管人工智能。

欧盟在 27 个国家范围内禁止使用实时公共面部扫描警察技术，除非用于绑架或恐怖主义等严重犯罪。

但在不再属于欧盟的英国，当局十年前开始在伦敦街道上测试该技术，并在过去两年中利用该技术逮捕了 1,300 人。政府正在考虑扩大其在全国的使用范围。

有关埃德蒙顿飞行员的许多细节尚未公开披露。Axon 并未开发自己的用于识别人脸的人工智能模型，但拒绝透露它使用的是哪家第三方供应商。

埃德蒙顿警方表示，试点工作将持续到 12 月底，并且仅在白天进行。

“显然这里天黑得很早，”马丁说。“照明条件、冬季寒冷的气温，所有这些因素都会影响我们成功进行概念验证的因素。”

马丁表示，大约 50 名正在试用该技术的警官不会知道面部识别软件是否匹配。稍后将在空间站对输出进行分析。不过，马丁说，未来它可以帮助警方检测附近是否有潜在危险的人，以便他们可以寻求帮助。

只有当警察开始调查或接到电话时，才应该发生这种情况，而不仅仅是在人群中漫步时。马丁说，接到电话的警官可以将摄像头从被动记录模式切换为具有更高分辨率成像的主动记录模式。

“我们确实希望尊重个人的权利及其隐私利益，”马丁说。

艾伯塔省信息和隐私专员黛安·麦克劳德 (Diane McLeod) 办公室表示，她于 12 月 2 日收到了埃德蒙顿警方的隐私影响评估，同一天 Axon 和警方官员宣布了该计划。该办公室周五表示，目前正在审查评估结果，这是对收集“高敏感度”个人数据的项目的要求。

阿尔伯塔大学犯罪学教授特米托普·奥里奥拉 (Temitope Oriola) 表示，鉴于该技术在机场安检和其他环境中已经无处不在，该市正在试验实时面部识别，他对此并不感到惊讶。

“埃德蒙顿是该工具的实验室，”奥里奥拉说。“这很可能是一种改进，但我们并不确定。”

奥里奥拉表示，警察部门与原住民和黑人居民的关系有时“冷淡”，特别是在去年南苏丹社区一名成员被警察枪杀之后，面部识别技术是否能让警务更安全或改善与公众的互动还有待观察。

Axon 过去曾因其技术部署而面临反弹，例如 2022 年，弗里德曼和 Axon 人工智能道德委员会的其他七名成员因对配备泰瑟枪的无人机的担忧而辞职，以抗议。

自从 Axon 选择放弃面部识别以来，首席执行官史密斯表示，该公司一直在“持续进行基于实验室的受控研究”，这项技术已经“变得更加准确”，现在已准备好在现实世界中进行试验。

但 Axon 在给美联社的一份声明中承认，所有面部识别系统都会受到“距离、光线和角度等因素的影响，这些因素可能会严重影响肤色较深的人的准确性。”

Axon 表示，每场比赛都需要人工审核，其测试的一部分也是“了解人工审核员必须接受哪些培训和监督才能减轻已知风险。”

弗里德曼表示，Axon 应该披露这些评估。他希望看到更多证据，证明面部识别技术已经得到改善，因为他的董事会得出结论，面部识别技术不够可靠，无法在道德上证明其在警察摄像头中的使用是合理的。

弗里德曼表示，他还担心警察机构未经当地立法者审议和严格的科学测试就批准该技术的使用。

“这不仅仅是警察机构做出的决定，当然也不是供应商做出的，”他说。– 飞行员是个好主意。但应该有透明度和问责制。...这些都不在这里。他们只是继续前进。他们找到了一家愿意继续前进的机构，并且他们只是继续前进。”

�-

伦敦的美联社撰稿人凯尔文·陈 (Kelvin Chan) 对本报告做出了贡献。