xAI 起诉美国首个“生成裸体工具禁令”：该处罚使用者还是模型公司
作者：沈南乔｜OC 社会影响编辑
作者：沈南乔｜OC 社会影响编辑
据 Associated Press 报道，xAI 已起诉明尼苏达州，要求阻止该州针对“生成裸体”技术的新法律生效。法律禁止网站和应用提供可把真实人物图像修改为裸露内容的技术，并允许针对违法行为追究责任。
一句话结论：明州想把责任前移到工具提供者，xAI 则主张法律把通用图像编辑也纳入禁区；法院真正要决定的是平台应为可预见的滥用承担多少预防义务。
xAI 在 38 页诉状中表示，它不反对禁止传播未经同意制作的真实人物裸体图像，但认为法律范围过宽，会覆盖本人同意的作品、讽刺和其他受宪法保护的表达，并且没有给认真部署防护措施的平台提供安全港。
州政府的逻辑是，事后只处罚匿名使用者往往太晚。非自愿私密图像可以在几分钟内批量生成、传播，对受害者造成学校、工作和关系伤害。若产品明确提供“脱衣”能力，却把全部责任推给用户，受害者很难获得有效救济。
法律文本与诉讼还涉及定义问题。什么算“nudification technology”，通用图像模型在某些提示下能生成裸露内容是否就被禁止；“intimate part”的范围如何界定；平台阻止滥用后仍有用户绕过，是否每次都承担最高可达 50 万美元的责任，这些都会影响法律能否通过严格审查。
这里真正受影响的是人。讨论言论自由时，不能把非自愿图像的伤害降格成内容审核争执；保护受害者时，也不能用模糊定义让任何照片编辑工具都面临无限责任。可执行的规则需要同时看设计目的、已知滥用、响应速度和用户同意。
关键事实
- 来源：Associated Press、明尼苏达州正式法律文本
- 涉及公司：xAI、X
- 核心议题：非自愿私密图像、通用图像模型、平台责任、第一修正案
- 关键数字：诉状称单次违法最高可能面临 50 万美元处罚
OC 判断
xAI 的“过宽”质疑有法律讨论空间，但平台也不能只靠服务条款免责。更稳妥的规则应针对以生成非自愿裸露内容为主要用途的功能，并为通用模型设置明确的尽责标准：默认阻止、保存滥用证据、快速下架和为受害者提供申诉渠道。
为什么重要
- 对模型公司：内容防护可能从自愿政策变成可诉的产品义务。
- 对开发者：图像编辑功能需要记录同意、来源和滥用响应机制。
- 对用户：法律结果将影响受害者救济，也影响合法创作工具的边界。
评论
围绕这篇文章补充信息、提出问题或分享观察。