一名男子因在法律辩护中提交人工智能幻觉而被勒令支付 5,000 加元（3,562 美元），法官警告称，此举“应受到高度谴责”，并有可能破坏法律体系的完整性。魁北克高等法院法官 Luc Morin 对 Jean Laprade 处以罚款10 月 1 日发布决定
法官说，这部法律传奇“包含了几个值得成功电影剧本的元素”，包括“一架被劫持的飞机穿过几个自满的机场”、国际刑警组织的红色警报以及拉普拉德“不当使用人工智能”。争议的焦点是拉普拉德在西非国家拉普拉德促成的三架直升机和一架飞机的交易。几内亚。
合同中的一个错误错误地授予了商人一架比约定的价值高得多的飞机。拉普拉德被指控将其“转移”到魁北克
并阻止了两家航空公司追回飞机的努力。巴黎国际仲裁庭 2021 年做出的一项裁决，要求他为这架飞机支付 270 万加元，这架飞机自 2019 年以来一直根据扣押令停放在舍布鲁克机场。在辩护中，拉普拉德向法院提交了几条由人工智能捏造的信息，包括“八个不存在的引文、未做出的决定、没有目的的参考和不一致的结论”。
莫林在判决中指出，法院此前曾在 2023 年就人工智能的使用向法律界发出警告，并发布通知称人工智能生成的信息必须受到“严格的人类控制”。
莫林写道，拉普拉德试图“通过编造虚构的判例法摘录来误导对方和法庭”，这是“严重违规”。
“应该记住，提交程序仍然是一项庄严的行为，绝不能掉以轻心。”
拉普拉德道歉并承认他提交的材料“可能并不完美”，但表示人工智能的使用是他辩护的关键。
莫林指出，74 岁的拉普拉德“显然过着非常有趣的生活”，在没有法律顾问的情况下为自己辩护面临着挑战。
“虽然法院对拉普拉德先生的意图是利用人工智能尽最大能力为自己辩护这一事实很敏感，但他的行为仍然应受到高度谴责，”法官写道。“他必须独自承担所有因人工智能“幻觉”引用而引起的责难，而他正是依靠人工智能来产生自己的论点。”
莫林还承认人工智能的力量和诱惑，他说人工智能很快就会改变法院。
“尽管人工智能令人陶醉的承诺伴随着与其不当使用相关的恐惧，但人工智能将在未来几年严重考验法院的警惕性。”