温迪·韦内加斯警官用西班牙语轻声对站在东帕洛阿尔托一条狭窄住宅路边的 14 岁男孩说话。女孩哭得脸肿了，小声地解释着发生的事情。
维内加斯后来解释说，女孩说她父亲那天早上发现她和男友在做事，她父亲要么打了男孩，要么推了男孩。现在，警察已经到达对三人进行询问。到目前为止，这都是标准程序。
但是当需要将这一事件转化为报告时，Venegas 将得到一位新助手的帮助：一种名为 Draft One 的尖端人工智能工具。
东帕洛阿尔托是一个工薪阶层小城市，与硅谷邻居相比，这里给人一种远离尘嚣的感觉，它是加州少数几个部门之一，包括坎贝尔、圣马特奥、毕夏普和弗雷斯诺，已经开始使用或测试由执法记录仪和泰瑟枪行业领导者 Axon 开发的人工智能软件。Axon 表示，该计划可以帮助官员在更短的时间内生成更客观的报告。但随着越来越多的机构采用此类工具，一些专家怀疑它们是否让人工智能在刑事司法系统中发挥了太大的作用。
美国大学华盛顿法学院刑法教授安德鲁·弗格森（Andrew Ferguson）撰写了第一篇关于人工智能辅助警察报告的法律评论文章，他说，我们忘记了该文件在改变人们生活的决策中发挥着真正的核心作用。他预计明年出版。从记录复杂凶杀案的细节到记录自行车被盗的基本情况，警方报告一直是警方工作的核心。
弗格森说，它们实际上是刑事司法系统的基石，因为它们是对所发生事件、时间以及有时原因的官方纪念。
检察官做出指控决定，法官做出保释决定，人们至少部分根据最初的纸上的内容做出有关自己辩护的决定。
弗格森说，如果其中一部分是由人工智能塑造的，那么就会引发一些关于我们是否可以依赖它的真正担忧。人工智能带来的错误或偏见的可能性仍在研究中。但是，他补充说，执法领导人提高效率的愿望是可以理解的。Axon 将其 Draft One 工具作为一种力量倍增器进行营销，这对许多努力招募和留住警察的警察部门来说很有吸引力，许多执法部门表示，乔治·弗洛伊德被谋杀和随后的抗议活动加剧了这场危机。
Axon 创始人里克·史密斯 (Rick Smith) 在 8 月份与股东举行的财报电话会议上表示，钟摆正在摆动，但其中许多人仍比目标人数低 15% 至 20%。这就是我们听到这种神奇反馈的地方，他们说，伙计，第一草案，如果它让我的军官一天中 20%、25% 的时间不用写报告，那几乎就像我的武力一夜之间增加了 20%.
东帕洛阿尔托负责人 Jeff Liu 表示，他的机构也不能幸免于这些人员配置问题。该部门的预算包括 36 名宣誓就职的官员，其中包括局长，但目前还缺 8 个职位。他并不认为第一草案是一个统包解决方案，但希望它可以帮助警察在街上花更多时间。
如果这个人工智能能够加快报告速度，但又不影响准确性，我认为这是一场胜利，”他说。东帕洛阿尔托斯合同显示，草稿一的费用该市每台随身摄像机每月约 70 美元，每年约 40,000 美元。
刘说，虽然他现在写的报告不多，但他确实使用 ChatGPT 起草社交媒体帖子甚至慰问信，然后用自己的声音进行定制。他说，与流行的人工智能聊天机器人合作让他对第一稿更加开放。Draft One 使用与 ChatGPT 相同的底层 AI，但部门数据存储在 Microsoft 开发的安全政府云服务上。
Axon 并不是唯一一家提供此服务的公司。Truleo 是一家使用人工智能分析大量随身摄像机镜头以确保警官行为专业的公司，该公司提供了类似的报告撰写程序，但它的营销或采用程度不如 Axons Draft One 那样广泛。
在附近的圣克拉拉县，坎贝尔警察局长伊恩·怀特 (Ian White) 表示，在他的部门测试第一草案的第一个月，警官们表示，这总共为他们节省了大约 50 个小时。科罗拉多州柯林斯堡警察局发现，使用 Draft One 编写的报告平均需要 8 分钟即可完成，而那些不使用该软件的报告则需要 23 分钟。
但是本周在《实验犯罪学杂志》上发表的第一个关于 Draft One 软件的独立研究并没有证实 White 和其他人报告的时间节省。南卡罗来纳大学的研究人员去年与新罕布什尔州警察局进行了一项随机对照试验，结果发现使用“草案一”的警官写报告的速度并不比对照组的警官快。
领导这项研究的助理教授伊恩·亚当斯 (Ian Adams) 表示，他还无法得出为什么没有节省时间的结论，他和他的同事仍在研究这一问题，但他说结果让他感到惊讶。他还警告不要过分重视他的发现。亚当斯说，这是在一个机构内，在某个时间点产生一种结果。
他的团队仍在研究是否还有其他好处，例如准确性或完整性。他说，如果像第一稿这样的技术可以生成写得更好的报告，也许他们[经常]会更少地被退回进行编辑或修改，所以你可能会看到系统性的节省。
东帕洛阿尔托的维内加斯警官表示，该计划帮助她克服了写作障碍，尤其是在经过一整天的巡逻之后。她只需按下计算机上的“草稿一”按钮，基于随身摄像机镜头的音频记录的叙述就会在几秒钟内出现。
当你不知道你要写什么词时，然后你只是看着，然后你会想，哦，这正是我的想法！那是最好的，她说。第一稿也改变了她在该领域的工作方式。由于该报告是基于音频记录，维内加斯表示她将有目的地谈论事件中发生的事情。
我会说，你看到了吗？镜子坏了，维内加斯说。你看到了吗？地板上有东西。那把刀，那把该死的刀，在地板上。
Axon 产品设计师诺亚·斯皮策-威廉姆斯 (Noah Spitzer-Williams) 表示，这是该软件最令人惊讶和迷人的副作用之一：它会激励警官总体上更加言语，甚至对着摄像头麦克风说话以提供诸如假释状态之类的背景信息。主题或是否在到达现场之前报告了武器，因此音频记录包含草稿一放入报告中的关键细节。
然后，在互动过程中，警官会提出更多问题，斯皮策-威廉姆斯说。他们回应诸如“好吧，吉米”之类的说法。你同意我搜查你的背包。
斯皮策-威廉姆斯表示，这也有助于社区关系，因为官员们正在解释他们在做什么以及为什么这样做。
但美国公民自由联盟的研究表明，警察的实时叙述也被用来操纵证据。一个常见的例子是，当警察大声喊叫“停止抵抗”以证明使用武力的合理性时，即使该人正在服从。Axons Spitzer-Williams 表示，他不相信一号草案会让这一真正的担忧变得更糟。
Spitzer-Williams 还指出了 Axon 的一项研究，该研究发现，与官员撰写的报告相比，该软件编写的报告往往使用较少偏见的语言。
回到东帕洛阿尔托警察局的会议室，Venegas 宣读了人工智能生成的报告。2024 年 9 月 23 日，大约 10 点 49 分，我，维内加斯警官，接到了涉及未成年人和家庭骚乱的服务电话。
她说，该计划产生了一个很好的草稿，但它有一些局限性。目前，Draft One 只能理解英语，因此它会出现一些错误，例如谁在说话以及谁与谁有关。
Venegas 说，有时它会犯这样的小错误，但很容易纠正。
刑事司法部门的一些人表示，这些看似很小的错误指向了更大的作者身份问题，这可能在裁决过程中变得至关重要。电子前沿基金会的政策分析师马修·瓜里格利亚博士表示，他担心这些报告将破坏盘问官员的能力。因为如果一名警官在证人席上撒谎，他们总是可以说，嗯，人工智能写的。
如果其中一部分是由人工智能塑造的，那么就会引发一些关于我们是否可以依赖它的真正担忧
坎贝尔警察局的怀特自 5 月份以来一直在使用该软件，他表示，他的部门政策确保警官负责撰写第一草案生成的报告。他说，即使一名官员搞砸了，报告中出现了错误，通过审查他所谓的黄金证据标准：随身摄像头视频，应该可以轻松解决问题。
怀特说，任何人类活动都存在错误。他认为人工智能会让事情变得更加准确，而不是更加准确。
圣马特奥县助理地区检察官丽贝卡·鲍姆 (Rebecca Baum) 一直在与东帕洛阿尔托和圣马特奥警察局讨论向人工智能辅助报告的转变，她表示她的办公室对这项新计划持谨慎乐观的态度。她主要担心的是随身摄像头，尤其是随身摄像头音频，无法捕捉事件期间发生的一切。
鲍姆说，目击者的举止，如果有人受到毒品或酒精的影响，如果有人受伤，这不是来自随身摄像机的录音。
鲍姆说，官员们需要继续参与撰写这些报告的过程，这样他们就不会遗漏任何东西，特别是表明一个人可能是无辜的信息，而检察官有责任移交这些信息。
就其本身而言，Axon 还在应用程序中内置了许多保障措施，以确保官员详细阅读报告、校对报告并确保其准确性。
在计算机屏幕上，Venegas 警官演示了报告的每个段落如何包含需要解决的评论，然后才能将报告从第一草案移至部门系统。
在屏幕的最底部，维内加斯指向一个她必须点击的框，Axon 的斯皮策-威廉姆斯表示，考虑到每份报告的潜在影响，最后一步可以说是最重要的一步。
我承认本报告是使用 Axon 的草案一生成的，Venegas 大声朗读。我进一步承认，我已详细查看该报告，进行了必要的编辑，并相信它准确地反映了我对所报告事件的回忆。如果需要的话，我愿意证明这份报告的准确性。
这篇报道是 KQED、美国卫报和加州新闻编辑室合作的成果