执法部门已迅速将人工智能应用于各个领域起草警方报告到面部识别。

结果可想而知是惨淡的。在一个特别引人注目且无意中喜剧性的例子中，犹他州希伯市的警察局被迫解释为什么警察报告软件声称一名警官不知何故变成了一只青蛙。

作为位于盐湖城的狐狸13报告，这个有缺陷的工具似乎吸收了一些不相关的背景信息来设计其梦幻般的童话结局。

“随身摄像头软件和人工智能报告编写软件捕捉到了后台播放的电影，这部电影恰好是《公主与青蛙》”，警官里克·基尔告诉广播公司，指的是迪士尼 2009 年的音乐喜剧。“就在那时，我们了解到纠正这些人工智能生成的报告的重要性。”

该部门已经开始测试一款名为 Draft One 的人工智能软件，该软件可以根据随身摄像机的镜头自动生成警方报告。目标是减少文书工作量，但考虑到大量错误正在被漏掉，结果显然有所不同。

即使是一个简单的模拟交通站点也旨在展示该工具能够变成一场灾难。据报道，最终的报告需要进行大量更正狐狸13。

尽管存在这些缺点，基尔告诉媒体，该工具正在为他节省时间——现在每周可以节省六到八个小时。

“我不是最精通技术的人，所以它非常用户友好，”他补充道。

一号草案是首先宣布由警用科技公司 Axon 开发，该公司去年推出了流行的电击武器泰瑟枪。该软件利用 OpenAI 的 GPT 大语言模型从随身摄像头音频生成完整的警方报告。

专家们很快警告说，幻觉可能会从这些重要文件的缝隙中消失。

“我担心自动化和技术的便利性会导致警察在写作时不太小心，”美国大学法学教授安德鲁·弗格森告诉美联社去年。

其他人警告说，该软件可能会进一步加剧先前存在的种族和性别偏见，考虑到执法部门，这是一种令人不安的可能性使它们永久化的历史性作用早在人工智能出现之前。生成式人工智能工具也已被证明会延续偏见反对女性和非白人。

“事实上，向该部门提供泰瑟枪的同一家公司正在使用这项技术，这一事实已经足够令人震惊了。”俄克拉荷马城解放思想基金会的联合创始人 Aurelius Francisco 告诉记者。美联社。

批评者还认为，该工具可以用来引入推诿性质，并在错误被漏掉时减轻官员的责任。根据一个最近的调查由电子前沿基金会制定的第一草案——似乎是故意设计的，旨在避免可能向公众提供任何责任的审计。”

根据该组织获得的记录，“通常无法辨别警察报告的哪些部分是由人工智能生成的，哪些部分是由警官撰写的。”

“Axon 及其客户声称这项技术将彻底改变警务工作，但它将如何改变刑事司法系统以及这项技术对谁最有利，还有待观察”基金会写道。

希伯市警察局尚未决定是否继续使用第一草案。该部门还在测试今年早些时候发布的一款名为 Code Four 的人工智能竞争软件。

但考虑到第一草案无法区分现实和迪士尼梦想的虚构世界，我们希望部门对这个决定进行长期和认真的思考。

有关人工智能警务的更多信息： 人工智能正在破坏警察无线电聊天，并将其作为可笑的错误信息发布到网上