布宜诺斯艾利斯法院正在使用 ChatGPT 起草裁决

今年五月，布宜诺斯艾利斯市检察院开始使用生成式人工智能来预测一些与薪资要求相关的公共就业案件的裁决。

此后，布宜诺斯艾利斯市有争议的行政和税务事务办公室的司法工作人员将案件文件上传到 ChatGPT，后者分析模式，从模板目录中提供初步分类，并起草决定。到目前为止，ChatGPT 已被用于 20 起法律判决。

根据该办公室最近进行的研究，生成式人工智能的使用已将起草句子所需的时间从一小时缩短至约 10 分钟。

——作为专业人士，我们不再是主角。我们已经成为编辑，”负责有争议的行政和税务事务的副总检察长胡安·科瓦兰 (Juan Corvalán) 告诉我们世界其他地区。

生成式人工智能工具的引入提高了办公室的效率，但也引起了司法部门和独立法律专家对可能出现的问题的担忧。 偏见、个人数据的处理以及幻觉。类似的担忧还有回响超越阿根廷边境。

“任何不一致的使用，例如共享敏感信息，都可能会产生相当大的法律成本。”卢卡斯·巴雷罗 (Lucas Barreiro) 是一位专门从事个人数据保护的律师，也是普里瓦亚一个致力于在数字时代捍卫人权的民间协会告诉世界其他地区。

美国法官对在法庭上使用生成人工智能表示怀疑，曼哈顿联邦法官埃德加多·拉莫斯说今年早些时候，“ChatGPT 已被证明是一种不可靠的资源。”哥伦比亚和荷兰之后，法官使用ChatGPT遭到了当地专家的批评。但并非所有人都担心：一位英国上诉法院法官使用 ChatGPT写判决的一部分说它“非常有用”。

对于 Corvalán 来说，向生成式人工智能的转变是布宜诺斯艾利斯市总检察长办公室多年来变革的顶峰。 2017 年，Corvalán 召集了一组开发人员来训练一个名为 PROMETEA 的人工智能系统，该系统旨在实现司法任务自动化并加快案件审理速度。该团队使用了超过 300,000 份与住房保护、公共就业奖金、执行未付罚款以及拒绝向有犯罪记录的个人发放出租车执照相关的裁决和案件档案。 

它所使用的案例变化不大，而且解决方案也趋于标准化。法律工作人员仍需要审查该计划的裁决。不久之后，办公室的生产力就提高了近300%，法律专业人员每月能够处理约 490 起案件，高于每月 130 起。

– 它从来没有打算取代人类。总有监督。相反，这是重新思考我们工作的一种方式，”科瓦兰说。

据一项研究称，PROMETEA 可以在 20 秒内以 90% 的准确率预测结果报告由该市检察官办公室负责。负责有争议的行政和税务事务的副总检察长办公室秘书 Melisa Rabán 表示，实施 PROMETEA 改变了游戏规则。

“出现了更复杂的案例，我们可以正确地处理它们，而不是执行自动化的工作，”拉班告诉世界其他地区。

但该程序的效率是有代价的：PROMETEA 部署的每个新犯罪类别都需要额外的培训和算法开发。今年早些时候，Corvalán 开始逐步淘汰 PROMETEA，转而使用 ChatGPT。其起草的20件裁定书均经过律师审查并经副检察官批准。司法部门目前正在将该计划扩展到其他单位，包括管理公民投诉的采购办公室。

“这个项目是关于使生成式人工智能民主化，”副总检察长办公室职员兼该项目的首席开发人员索菲亚·塔马罗 (Sofia Tammaro) 告诉我们世界其他地区。对于在尖端技术进步方面落后于发达国家的阿根廷来说，这是一个不小的成就。

专家担心，许多用户没有必要的培训和数字素养来实施快速变化的技术，这可能会导致对代表性不足的社区产生偏见等问题。

“虽然有些问题可以得到缓解，但其他问题将会出现，因为开发人员的核心是渗透到模型设计中的主观评估，”巴雷罗说。

科瓦兰的团队正在努力遏制与人工智能模型相关的一些风险，包括患病率数据盗窃和黑客攻击。“我们仍在对案件中发现的敏感数据进行匿名化处理，”塔马罗说。

幻觉也可能带来重大的法律风险。根据 2024 年斯坦福大学的报告，在 gen-AI 法律工具中，人工智能系统生成虚假或不相关信息的情况发生率约为 17%学习。对于 Corvalán 来说，只有使用 PROMETEA 等误差幅度较小的程序来处理敏感案件（包括与性别和家庭暴力有关的案件），才能缓解这些问题。

– PROMETEA 已融入我们的流程中。它的足迹永远不会消失。”布宜诺斯艾利斯检察官服务部 IT 和现代化总监 Roberto Betancur 说道。世界其他地区。“它为我们提供了理解法律决策如何做出的指南。”

目前，PROMETEA 用于与公共就业相关的裁决以及管理涉及儿童性虐待材料的研究。随着时间的推移，它的使用可能会减少。

– PROMETEA 就像 Netflix 崛起的世界中的百视达 (Blockbuster)。这些转变正在全球范围内发生，”Corvalán 说。