被 AI 法律建议带偏后被判付费，问题不只是模型会幻觉
一名前 ALDI 员工在澳大利亚公平工作委员会挑战解雇失败后，被裁定向雇主支付 1230 澳元法律费用。委员会认为，他在多次被告知案件缺乏成功前景后，仍把 AI 当作“准法律顾问”，不合理行为令对方产生额外成本。他甚至把对 AI 的操作指令留在了提交文件中。
作者：沈南乔｜OC 社会影响编辑
一名前 ALDI 员工在澳大利亚公平工作委员会挑战解雇失败后，被裁定向雇主支付 1230 澳元法律费用。委员会认为，他在多次被告知案件缺乏成功前景后，仍把 AI 当作“准法律顾问”，不合理行为令对方产生额外成本。他甚至把对 AI 的操作指令留在了提交文件中。
一句话结论：风险不只在 AI 编造案例，而在用户把一套需要证据、程序和反方检验的法律工作，压缩成向聊天机器人寻求肯定；同一工具也能帮助自诉人胜诉，差别来自验证流程而不是多问几个模型。
当事人称，他用付费版 ChatGPT 理解仲裁庭和 ALDI 引用的判例，语言与法律知识障碍影响了提示方式。他事后仍计划同时询问 Claude、ChatGPT 等两三个 Agent，以获得“不同观点”。这听起来像交叉验证，却可能只是把同一个错误前提交给多个会迎合用户的系统。模型数量增加，不会自动补上遗漏的管辖规则、证据要求和程序期限。
同一报道提供了重要对照。Macquarie University 计算机科学讲师 Gregory Baker 使用一组 AI Agent，成功挑战了与临时雇佣有关的决定。他没有把 ChatGPT 当作神谕，而是把案件当成软件项目：建立存放材料与提交文件的仓库，设计“构建流程”，检查每条引用是否存在、论证是否一致，并用 AI 模拟盘问准备听证。
这两个案例说明，AI 能降低阅读门槛，却可能扩大方法差距。熟悉检索、版本控制和验证的人，会把模型产出当作待测试的草稿；缺少专业背景的人更容易把流畅、肯定的文字当成法律意见。价格也会加剧差异：能负担多个高级模型和专业数据库的人，拥有更多检查手段，而最需要低成本法律帮助的人往往使用限制更多的版本。
澳大利亚公平工作委员会的新指引将于 2026 年 10 月 20 日生效，要求当事人披露生成式 AI 使用情况，核实事实、法律依据和链接，并确认不会让 AI 生成或改变证人证据。官方同时强调，生成式 AI 不是法律建议的替代品。这不是全面禁止，而是把责任落到可检查的步骤上。
法院和仲裁机构还需要提供更有用的支持。如果唯一回应是惩罚错误，自诉人可能因害怕费用而放弃有根据的请求。更好的做法是提供问题模板、权威数据库入口、引用检查清单和早期程序说明，让 AI 帮助理解材料，而不是替用户决定案件必然会赢。
关键事实
- 前 ALDI 员工被裁定承担 1230 澳元费用，委员会批评其在警告后仍依赖 AI 推进无实质前景的案件。
- 另一名自诉人通过资料仓库、引用检查和模拟听证等流程，成功使用 AI 辅助案件。
- 公平工作委员会的新指引从 2026 年 10 月 20 日起要求披露和验证 AI 使用。
OC 判断
“不要用 AI 做法律工作”既不现实，也会把低成本工具从最需要的人手中拿走。真正需要禁止的是不经验证地提交事实、判例和证据。法律 AI 的产品评价也应从“回答像不像律师”转向“是否促使用户检查管辖权、原文、时限和反方论证”。
为什么重要
- 对自诉人：多模型共识不能替代原始判例、程序规则和专业意见。
- 对法院：需要同时管理虚假材料和司法可及性，避免只剩惩罚工具。
- 对 AI 产品：应在高风险场景中提供来源核查和不确定性提示，而非继续迎合。
评论
围绕这篇文章补充信息、提出问题或分享观察。