美国公民自由联盟谴责警方使用人工智能起草报告

评论执法部门使用人工智能来识别嫌疑人的问题已经够多了，但公民自由组织还有一个新问题需要担心：用于起草警方报告的技术。

美国公民自由联盟发布了一份报告本周详细说明了其对执法技术提供商 Axon 的担忧草案一，一个基于 ChatGPT 的系统，可以将随身摄像头的录音转换成警方报告的草稿，警察只需要编辑和充实这些草稿，表面上可以节省他们花在案头工作上的时间。 

鉴于警方报告对调查和起诉的重要性以及已经注意到不可靠性在其他形式的执法人工智能中，美国公民自由联盟几乎不相信第一草案会避免导致潜在的侵犯公民权利和公民自由问题。 

“警方报告在我们的司法系统中发挥着至关重要的作用，”美国公民自由联盟演讲、隐私和技术高级政策分析师兼报告作者杰伊·斯坦利（Jay Stanley）写道。“担忧包括人工智能的不可靠性和偏见、官员诉诸这项技术时的证据和记忆问题，以及透明度问题。 

“最终，我们认为警察部门不应该使用这项技术，”斯坦利总结道。 

值得指出的是，在批判性思考创新方面，Axon 并没有最好的声誉：该公司道德委员会的大多数成员辞职了2022 年，Axon 宣布计划为遥控无人机配备泰瑟枪。由于公众的强烈反对，Axon 后来暂停了该项目。 

草案一然而，自发布以来，它已经落入美国执法机构手中。推出四月。目前尚不清楚有多少机构正在使用草案一，Axon 也没有回答有关本文的问题。

我们甚至不能相信人工智能能够写出准确的新闻

这只秃鹰可以亲自证明正在撰写警方报告的痛苦。 

在我担任美国陆军宪兵期间，我花了很多时间轮班编写无聊、公式化且必然是细致的事件报告，这无疑是我工作中最糟糕的部分。我绝对可以同情平民世界的警察，他们处理的犯罪行为比我在韩国的小基地处理的犯罪行为要严重得多，也更频繁。 

也就是说，我也有机会研究现代人工智能并报告其许多缺点，而美国公民自由联盟似乎肯定在斯坦利的报告中找到了一些东西。毕竟，如果我们甚至不能相信人工智能能够写出像这样法律上低风险的东西消息或一个错误报告，我们怎么能相信它能完成体面的警察工作呢？

法学硕士虽然在模仿人类书写方面取得了惊人的进步，但很容易出现不可预测的错误，这些错误可能会因转录错误而加剧，包括因随身摄像机视频中的乱码或其他不清楚的音频而导致的错误

这是美国公民自由联盟最关心的问题之一，特别是考虑到报告草稿是根据随身摄像机的录音编写的，而这些录音往往质量低下，很难听清楚。 

斯坦利指出：“法学硕士虽然在模仿人类书写方面取得了惊人的进步，但很容易出现不可预测的错误，这些错误可能会因转录错误而加剧，包括因随身摄像机视频中的乱码或其他不清楚的音频而导致的错误。” 

斯坦利补充说，在理想的情况下，警方会仔细审查人工智能生成的草稿，但情况很可能并非如此。报告指出，第一稿包含一项功能，可以故意在人工智能生成的草稿中插入愚蠢的句子作为测试，以确保官员彻底审查和修改草稿。然而，Axon 的首席执行官在一份报告中提到视频关于草案一，大多数机构选择不启用此功能。

美国公民自由联盟还指出了使用大型语言模型处理执法记录仪镜头的隐私问题：这是敏感的警方数据，那么到底由谁来处理它呢？ 

根据 Axon 的网站，所有草稿一数据，包括摄像机记录和草稿报告，都“在 Axon 网络内安全存储和管理”，但没有迹象表明该网络需要什么。尽管微软坚持认为警方不得使用 Azure AI 进行人脸识别，这显然不适用于让人工智能撰写警察报告，就像 Axon 那样表明的在 4 月份的一份新闻稿中，Draft One“构建在 Microsoft 的 Azure OpenAI 服务平台之上”。

不完全是鼓舞人心的信心微软的和Azure 的安全记录迟到了。

“当用户（例如 Axon）上传文档或输入提示时，这两者都会传输给 LLM 的运营商（例如 OpenAI），并且该运营商对该信息的处理不受任何法律隐私保护，”美国公民自由联盟报告指出。 

• 我们再次为警务领域提供更多人工智能犯罪预测
• 大都会警察使用的面部识别系统显示出低阈值的种族偏见
• 埃里森宣布甲骨文全力投入人工智能大规模监控，并表示这将使每个人都保持一致
• Clearview 创始人表示，美国警方已进行近 100 万次 AI 搜索

“轴突声称这里“没有客户 [即警察] 数据会发送给 OpenAI”，但通常为了让像 ChatGPT 这样的法学硕士分析一段文本，例如随身摄像头视频的文字记录，您通常会将该文本发送给运行该文本的公司。LLM，就像 OpenAI 一样，所以我不确定在草案一的情况下会如何运作，”斯坦利告诉登记册在电子邮件声明中。我们已询问 Axon 数据在何处处理和存储，但我们再次没有收到回复。如果 OpenAI 无法获得访问权限，那么微软至少可能会获得访问权限。

ACLU 还担心使用人工智能撰写警察报告缺乏透明度，特别是如果用作第一草案基础的 ChatGPT 修改版本有系统提示指示其以某种方式行事，这可能与大多数法学硕士一样。 

美国公民自由联盟的报告指出，“这是人工智能工具中应该公开的一个例子。”“如果不是，警察人工智能系统很可能包含一条指令，例如‘确保叙述的方式不会将警察描绘成违反宪法的人。’” 

我们已要求 Axon 查看 Draft One 的系统提示。 

人工智能报告可能导致警察更多不诚实行为

美国公民自由联盟在报告中表示：“人类记忆的这种弹性是我们认为警察在获准观看任何视频或其他证据之前就事件发生情况发表声明至关重要的原因。”一号草案通过生成一份主要基于随身摄像机捕获的音频的报告草案来绕过这个问题，理想情况下，官员不应完全依赖该报告来提供自己的证词。

例如，如果一名官员在审查人工智能生成的报告时注意到他们所做的非法行为没有被他们的相机捕捉到，他们就不需要在报告中证明这一事实。相反，如果一名警官缺乏拘留或逮捕嫌疑人的合理理由，但他们的摄像头在背景中拾取了证明其行为合理的音频，那么事后可能的原因可能会再次掩盖警方的不当行为。 

“随身摄像机的视频和警官的记忆是两个独立的证据，”斯坦利写道。“但如果警方的报告只是随身摄像头视频的人工智能重述，那么你就不再拥有两个独立的证据——你只有一个，再加上它的衍生摘要。”

除了可能协助警方掩盖不当行为或为非法行为寻找事后理由外，美国公民自由联盟还指出了美利坚大学法学教授安德鲁·格思里·弗格森指出的另一个问题：这使得他们对自己的行为不那么负责。 

在一个纸弗格森今年早些时候撰写的这篇文章涵盖了美国公民自由联盟提出的许多相同问题，并被引用为其报告的灵感来源，他指出，让警察撰写报告可以作为对他们使用权力的纪律检查。

警方必须在报告中证明使用自由裁量权的合理性，弗格森和美国公民自由联盟指出，这是提醒他们权力的法律限制的一种方式。 

美国公民自由联盟写道：“转向人工智能起草的警察报告将消除报告在警察部门和警察头脑中发挥的重要内部作用。”“这是对这项技术持怀疑态度的另一个原因。” 

归根结底，一些警察现在正在使用这项技术，尽管斯坦利认为它的使用可能仅限于美国各地的少数机构。Axon 也不是唯一一家提供类似产品的公司警察报告.ai和特鲁莱奥两者都提供类似的服务。 

美国公民自由联盟告诉我们，它不知道有任何涉及使用人工智能警察报告来起诉被告的案件，因此我们还没有看到这些报告经得起法庭的法律审查。®