充满错误的法律摘要显示了在工作中依赖人工智能工具的局限性

纽约（美联社）——世界各地的法官正在处理一个日益严重的问题：在人工智能根据律师和法庭文件，提交时存在错误，例如引用不存在的案例。

对于正在学习使用的人来说，这一趋势是一个警示故事人工智能工具在工作中。许多雇主希望雇用能够使用该技术来帮助完成诸如进行研究和起草报告等任务的员工。随着教师、会计师和营销专业人士开始与人工智能聊天机器人和助手互动以产生想法并提高生产力，他们也在发现这些程序可能会犯错误。

法国数据科学家兼律师达米安·夏洛坦 (Damien Charlotin) 在过去六个月中对至少 490 份法庭文件进行了分类，其中包含“幻觉”，即包含虚假或误导性信息的人工智能响应。随着越来越多的步伐正在加快人们使用人工智能，他说。

“即使是经验丰富的玩家也可能会遇到问题，”夏洛廷说。– 人工智能可以带来福音。这很棒，但也存在这些陷阱。”

巴黎高等商学院（HEC Paris）是一所位于法国首都郊外的商学院，其高级研究员夏洛廷（Charlotin）创建了一个数据库来跟踪法官裁定生成式人工智能产生幻觉内容（例如捏造判例法和虚假引述）的案件。他说，大多数裁决来自美国案件，其中原告在没有律师的情况下代表自己。虽然大多数法官对这些错误发出了警告，但也有一些法官处以罚款。

但即使是知名公司也提交了有问题的法律文件。科罗拉多州的一名联邦法官裁定，MyPillow Inc. 的一名律师提交了一份包含近 30 条有缺陷引文的简报，作为调查的一部分。诽谤案反对该公司及其创始人迈克尔林德尔。

法律行业并不是唯一与人工智能缺陷作斗争的行业。出现在顶部的 AI 概述网络搜索结果页面经常包含错误。

人工智能工具也引发了隐私问题。所有行业的员工都需要谨慎对待他们上传或输入提示的详细信息，以确保他们保护雇主和客户的机密信息。

法律和工作场所专家分享了他们对人工智能错误的经验，并描述了需要避免的危险。

将人工智能视为助手

不要相信人工智能会为您做出重大决策。一些人工智能用户将该工具视为实习生，您向其分配任务并希望检查其完成的工作。

“将人工智能视为增强您的工作流程，”专注于劳动力发展的非营利组织“Jobs for the Future”的首席执行官玛丽亚·弗林 (Maria Flynn) 说道。她说，它可以充当起草电子邮件或研究旅行行程等任务的助手，但不要将其视为可以完成所有工作的替代品。

在准备会议时，弗林尝试了一种内部人工智能工具，要求它根据她与团队分享的一篇文章提出讨论问题。

“它提出的一些问题并不适合我们组织的实际情况，因此我能够向它提供一些反馈……结果提出了五个非常深思熟虑的问题，”她说。

检查准确性

弗林还发现该人工智能工具的输出存在问题，该工具仍处于试验阶段。她曾经要求其汇编有关她的组织在各个州所做的工作的信息。但人工智能工具将已完成的工作和资助提案视为同一件事。

“在这种情况下，我们的人工智能工具无法识别已提议的内容和已完成的内容之间的差异，”弗林说。

幸运的是，她拥有识别错误的机构知识。“如果您是组织的新人，请询问同事结果对他们来说是否准确，”弗林建议。

虽然人工智能可以帮助集思广益，但依靠它提供事实信息是有风险的。花点时间检查人工智能生成的内容的准确性，即使你很想跳过这一步。

“人们做出这样的假设是因为它听起来很合理，而且很方便，”亚特兰大律师兼 Baker Donelson 律师事务所股东贾斯汀·丹尼尔斯 (Justin Daniels) 说。——必须回去检查所有的引文，或者当我查看人工智能总结的合同时，我必须回去阅读合同上的内容，这有点不方便和耗时，但这就是你必须要做的。尽管你认为人工智能可以替代它，但它不能。”

小心记笔记者

在会议期间使用人工智能进行录音和做笔记可能很诱人。一些工具会根据所说内容生成有用的摘要并概述操作步骤。

但许多司法管辖区要求在录制对话之前征得参与者的同意。Fisher Phillips 律师事务所驻芝加哥合伙人丹妮尔·凯斯 (Danielle Kays) 表示，在使用人工智能做笔记之前，请暂停并考虑是否应该对对话保密。

她建议，在调查、绩效评估或法律策略讨论等高风险情况下部署记录员之前，请先咨询法律或人力资源部门的同事。

“人们声称，人工智能的使用应该得到不同程度的同意，而这正在通过法院进行处理，”凯斯说。“我认为公司在提起诉讼时应该继续关注这个问题。”

保护机密信息

如果您使用免费的人工智能工具起草备忘录或营销活动，请不要告诉它识别信息或公司机密。一旦您上传该信息，使用同一工具的其他人可能会找到它。

弗林说，这是因为当其他人向人工智能工具提出问题时，它会搜索可用信息，包括你透露的详细信息，同时构建答案。“它无法辨别某件事是公共的还是私人的，”她补充道。

寻求教育

如果您的雇主不提供 AI 培训，请尝试尝试使用 ChatGPT 或 Microsoft Copilot 等免费工具。一些大学和科技公司提供课程，可以帮助您加深对人工智能工作原理及其用途的理解。

弗林说，教人们如何构建最佳人工智能提示的课程或提供练习机会的实践课程很有价值。

尽管这些工具存在潜在问题，但在它们无处不在的时候了解它们的工作原理可能会有所帮助。

“学习使用人工智能的最大潜在陷阱是根本不学习使用它，”弗林说。“我们都需要精通人工智能，并且采取早期步骤来建立您对该工具的熟悉程度、素养和舒适度至关重要。”

___

分享您有关工作场所健康的故事和问题：[电子邮件受保护]。关注美联社 Be Well 报道，重点关注健康、健身、饮食和心理健康，网址：https://apnews.com/hub/be-well