德勤 (Deloitte) 承认使用了生成式人工智能来帮助制作一份价值 44 万美元的报告，该报告包含多个错误，之后该报告将向联邦政府提供部分退款。
就业和劳资关系部 (DEWR) 确认德勤将偿还合同规定的最后一笔款项，该合同将在交易完成后公布。与此同时，一名工党参议员指责这家咨询公司存在“人类智力问题”。
该部门委托德勤审查目标合规框架及其 IT 系统，用于在以下情况下自动对福利系统进行处罚：相互义务2024 年 12 月，求职者没有遇到。
随后的报告发现了普遍存在的问题，包括框架规则与其背后的立法之间缺乏“可追溯性”，以及“制度缺陷”。它表示，IT 系统是“由参与者不合规的惩罚性假设驱动的”。
它于 7 月 4 日首次发布。周五，该文件被重新上传至 DEWR 网站。澳大利亚金融评论八月报告发现多个错误，包括不存在的参考文献和引文。
悉尼大学学者 Christopher Rudge 博士首先强调了这些错误，他表示该报告包含“幻觉”，人工智能模型可能会填补空白、误解数据或试图猜测答案。
“他们不是用一个幻觉的假参考来代替一个新的“真实”参考，而是替换了假的幻觉参考，在新版本中，大约有五个、六个或七个或八个代替了它们，”他说。
“因此，这表明报告正文中提出的最初主张并非基于任何特定的证据来源。”
更新后的审查指出“对参考文献和脚注进行了少量更正”，但该部门表示审查的建议没有变化。
“德勤进行了独立保证审查，并确认了一些脚注和参考资料不正确，”该部门的一位发言人表示。
– 独立审查的实质内容保留，建议没有变化。 –
在报告的更新版本中，德勤在其附录中添加了对生成式人工智能的使用的引用。它指出，报告的一部分——包括使用基于生成人工智能 (AI) 大语言模型 (Azure OpenAI GPT – 4o) 的工具链，该工具链由 DEWR 许可并托管在 DEWR 的 Azure 租户上。
德勤在其原始报告中并未指出人工智能是错误背后的原因。它还支持审查的原始结果。
“所做的更新不会以任何方式影响或影响报告中的实质性内容、调查结果和建议，”修订版中指出。
德勤发言人表示，“此事已直接与客户解决”。
时事通讯促销后
拉奇表示，尽管他提出了批评，但他对于是否应该将整个报告“视为非法”犹豫不决，因为结论与其他广泛存在的证据一致。
工党参议员黛博拉·奥尼尔正在参议院对咨询公司的诚信度进行调查，她表示，看起来“人工智能正在承担繁重的工作”。
– 德勤存在人类智力问题。如果这不是那么可悲的话，那就太可笑了。部分退款看起来像是对不合格工作的部分道歉，”她说。
– 任何想要与这些公司签约的人都应该准确询问谁在做他们所支付的工作，并拥有专业知识并且没有验证人工智能的使用。
“也许采购商最好订阅 ChatGPT，而不是大型咨询公司。”
这AFR 发现了一些不正确的参考文献原来的报告中，包括悉尼大学和瑞典隆德大学教授们根本不存在的报告。
该报还报道了对法院判决的捏造提及机器人债务案件，迪安娜·阿马托诉联邦案。德勤在其最终报告中写道，此次更新“修正了包含错误的阿马托诉讼摘要”。
快速指南联系我们了解这个故事
展示
最好的公共利益新闻依赖于知情人士的第一手资料。
如果您对此主题有什么要分享的，您可以使用以下方法与我们秘密联系。
Guardian 应用程序中的安全消息传递
卫报应用程序有一个工具可以发送有关故事的提示。消息经过端到端加密并隐藏在每个 Guardian 移动应用程序执行的日常活动中。这会阻止观察者知道您正在与我们交流，更不用说正在说什么了。
如果您还没有 Guardian 应用程序，请下载它 (iOS系统/安卓）并转到菜单。选择“安全消息传送”。
SecureDrop、即时消息、电子邮件、电话和邮寄
如果您可以安全地使用 Tor 网络而不被观察或监控，您可以通过我们的服务向 Guardian 发送消息和文件SecureDrop 平台。
最后，我们的指南theguardian.com/tips列出了几种安全联系我们的方法，并讨论了每种方法的优缺点。
插图：Guardian Design / Rich Cousins