澳大利亚一名高级律师因在谋杀案中提交意见书而向法官道歉包括假报价以及产生的不存在的案件判决人工智能。

维多利亚州最高法院的错误是人工智能在世界各地司法系统中造成的一系列灾难中的又一个。

据美联社周五看到的法庭文件显示，拥有国王律师这一享有盛誉的法律头衔的辩护律师里什·纳斯瓦尼(Rishi Nathwani)对在一名被指控谋杀的青少年案件中提交的不正确信息承担“全部责任”。

周三，纳斯瓦尼代表辩护团队对法官詹姆斯·埃利奥特表示：“我们对所发生的事情深感抱歉和尴尬。”

这些错误导致埃利奥特原本希望在周三结案的案件延迟了 24 小时解决。埃利奥特周四裁定，纳斯瓦尼的当事人因精神障碍而无谋杀罪。由于他是未成年人，因此无法透露他的身份。

埃利奥特周四对律师表示：“冒着轻描淡写的风险，这些事件的展开方式并不令人满意。”

埃利奥特补充说：“法院依赖律师提交的意见的准确性的能力对于适当的司法管理至关重要。”

这些虚假材料包括伪造的州议会演讲引文以及据称来自最高法院的不存在的案件引文。

澳大利亚广播公司此前称，人工智能生成的错误是由埃利奥特的同事发现的，他们找不到引用的案例，并要求辩护律师提供副本 报道。

法庭文件称，律师们承认这些引文“不存在”，并且提交的材料包含“虚构的引文”。

律师们解释说，他们检查了最初的引文是否准确，并错误地认为其他引文也是正确的。

这些意见书也被发送给检察官丹尼尔·波尔塞杜(Daniel Porceddu)，但他没有检查其准确性。

法官指出，最高法院去年发布了律师如何使用人工智能的指南。

埃利奥特说：“除非使用的产品经过独立和彻底的验证，否则使用人工智能是不可接受的。”

法庭文件没有透露律师使用的生成人工智能系统。

在 2023 年美国发生的一起类似案件中，一名联邦法官对两名律师和一家律师事务所处以 5,000 美元的罚款。 ChatGPT 被指责因他们在航空伤害索赔中提交了虚构的法律研究。

法官凯文·卡斯特尔 (P. Kevin Castel) 表示，他们的行为是恶意的。但他赞扬了他们的道歉和采取的补救措施，解释了为什么没有必要采取更严厉的制裁来确保他们或其他人不会再次让人工智能工具促使他们在论点中制造虚假的法律历史。

同年晚些时候，法律文件中引用了更多由人工智能发明的虚构法庭裁决 由迈克尔·科恩的律师提交，美国总统唐纳德·特朗普的前私人律师。科恩承担了责任，称他没有意识到他用于法律研究的谷歌工具也能够产生所谓的人工智能幻觉。

英国高等法院法官维多利亚·夏普 (Victoria Sharp) 六月警告说，提供虚假材料，假装真实，可能会被视为藐视法庭，或者在“最恶劣的案件”中，妨碍司法公正，最高可判处终身监禁。

人工智能的使用已经以其他方式进入美国法庭。2025 年 4 月，一位名叫杰罗姆·德瓦尔德 (Jerome Dewald) 的男子出现在纽约法院并提交了一份 视频特色是 AI生成的头像代表他发表论点。

一个月后，一名男子在亚利桑那州的路怒事件中丧生。在凶手的量刑听证会上发言”在他的家人使用人工智能制作了一段他阅读受害者影响声明的视频之后。