在人们对性化 AI 深度假货的广泛关注之后，埃隆·马斯克 (Elon Musk) 的人工智能工具 Grok 将不再能够编辑真人照片，以在非法司法管辖区展示他们暴露服装的情况。

X 上的一则公告写道：“我们已采取技术措施，防止 Grok 帐户允许编辑穿着暴露的真人图像。”

作为对禁令的反应，在首相凯尔·斯塔默爵士呼吁 X 控制其人工智能工具后，英国政府声称“证明自己是正确的”。

英国监管机构 Ofcom 的一位发言人表示，这是一个“值得欢迎的进展”，但补充道对该平台是否违反英国法律的调查“仍在继续”。

他们说：“我们正在夜以继日地工作，以取得进展，并找出问题所在以及正在采取的解决措施的答案。”

技术部长利兹·肯德尔（Liz Kendall）也对此举表示欢迎，但表示她“预计 Ofcom 正在进行的调查将全面而有力地证实事实”。

X 的 在加州最高检察官表示该州正在采取行动几小时后宣布了这一变化调查性化 AI 深度假货的传播，包括儿童，由人工智能模型生成。

“现在，我们对所有用户通过 Grok 帐户生成穿着比基尼、内衣和类似服装的真人图像的能力进行了地理封锁，在那些违法的司法管辖区，我们也禁止在 Grok in X 中生成穿着比基尼、内衣和类似服装的真人图像。”X在声明中表示。。它还重申，只有付费用户才能在其平台上使用 Grok 编辑图像。

声明称，这将增加一层额外的保护，有助于确保那些试图滥用 Grok 违反法律或 X 政策的人被追究责任。

马斯克周三在网上写道，启用 NSFW（工作不安全）设置后，Grok 应该允许“想象中的成年人（而不是真实的成年人）的上半身裸体”，与 R 级电影中看到的一致。

这位科技亿万富翁表示：“这是美国事实上的标准。根据不同国家的法律，其他地区的标准也会有所不同。”

马斯克早些时候曾为 X 辩护，并发布了批评者“只是想压制言论自由”以及两张由人工智能生成的英国首相凯尔·斯塔默爵士穿着比基尼的图像。

目前尚不清楚他的平台将如何对 Grok 编辑真人图像以创建性感图像的能力实施基于位置的阻止，以及用户是否能够绕过它们。

寻求规避类似功能或内容地理限制的人们通常会寻求虚拟专用网络 (VPN) 等工具，这些工具可以隐藏他们的在线位置，使他们能够像在其他国家/地区一样使用互联网。

VPN 应用程序下载

去年在英国飙升此前，色情网站被要求开始检查访问者的年龄，以遵守《在线安全法》。“太晚了”

杜伦大学法学教授克莱尔·麦克格林表示，“对于成千上万的受害者且她们的照片仍在网上的女性来说，一切都太晚了”。

结束暴力侵害妇女联盟 (EVAW) 主任安德里亚·西蒙 (Andrea Simon) 表示，虽然 X 将如何实施变革还有待观察，但它展示了“虐待受害者、活动家和政府的力量展示如何迫使科技平台采取行动”。

“但它不能就此停止——考虑到人工智能造成的危害不断变化的性质，必须要求技术平台采取积极主动的预防行动，”她说。

Ofcom 周一表示，将调查 X 是否在色情图片方面未遵守英国法律。

如果 X 不遵守规定，Ofcom 可能会寻求法院命令，迫使互联网服务提供商完全阻止访问该英国网站。

本周早些时候，Keir 爵士警告 X 在人工智能图像引发的强烈反对中可能会失去“自我调节的权利”，但本周晚些时候表示，他对 X 正在采取行动解决该问题的报道表示欢迎。

总理表示，如果X不采取行动，他将“采取必要措施”并加强立法。

政策研究员 Riana Pfefferkorn 表示，她很惊讶 X 花了这么长时间才部署新的 Grok 防护措施，而且应该在滥用行为一开始就删除编辑功能。

Pfefferkorn 表示，X 将如何执行新政策仍存在疑问，例如人工智能模型如何知道图像是否为真人，以及当用户违反规则时将采取什么行动。

她说，马斯克也没有严肃地介绍公司，并补充说，如果他停止“重新发布凯尔·斯塔默穿着比基尼的人工智能图像之类的事情”，这将会有所帮助。

凯蒂·拜尔斯的补充报道