当阿什利·圣克莱尔 (Ashley St. Clair) 要求 X 平台内置的生成人工智能回复机器人 Grok 停止创作她的性暗示照片时，Grok 表示会停止。

但事实并非如此。从那时起，圣克莱尔（St. Clair）被认为是一位备受瞩目的保守派内容创作者，与 X 的所有者埃隆·马斯克（Elon Musk）育有一个孩子。她说，她看到 Grok 生成了许多她的其他图像，其中一些是基于她未成年时的照片。

Grok – 表示不会再制作任何关于我的图像，随后 Grok 应用户要求制作了无数的更加露骨的图像，最终，其中一些是未成年人，”St. Clair 说。– 我 14 岁时的照片，脱光衣服，穿上比基尼。 –

去年 12 月，Grok 中推出的图像编辑功能引发了密切关注，因为人们用它来生成一波描绘以下内容的图像：妇女和儿童他们脱掉衣服，只剩下非常暴露的泳衣或内衣。圣克莱尔是众多照片被 Grok 修改过的女性之一，其中一些照片被制作成色情视频。

周六，马斯克在回应另一位用户的帖子时写道，“任何使用 Grok 制作非法内容的人都将遭受与上传非法内容相同的后果”捍卫格罗克来自对争议的批评。X 的安全帐户还发布了它将删除帖子，并“永久暂停账户，并在必要时与地方政府和执法部门合作”来解决这个问题。

该工具允许用户通过 AI 提示来提示 Grok 调整任何用户上传到平台的任何图像。在非性方面周日发布的示例，一位用户提示 Grok 在一张超现实主义哭泣面孔的图像上插入一个纳粹记号。但滚动浏览 Grok 的回复表明，绝大多数情况下，Grok 从图像中移除或改变衣服的能力已成为该工具的突出模因。

xAI 是 Grok 的创建者，现在拥有 X，该公司没有回应针对 St. Clair 声明的置评请求。马斯克没有回应置评请求。

圣克莱尔在周一接受采访时表示，她因在网上发表激烈评论而闻名，在一位朋友引起她注意后，她于周日开始发布有关该问题的帖子。

圣克莱尔说，在她看到的第一个帖子中，一位用户要求格罗克给她穿上比基尼。她说，当她要求 Grok 删除该帖子并告诉它她不同意这张图片时，它回答说这篇文章“很幽默”。她说，从那时起，这些帖子只会变得更糟。越来越多的人开始促使 Grok 制作她的​​性感深度假货，其中一些深度假货被制作成视频。美国全国广播公司新闻 (NBC News) 审阅了部分图片。

尽管一些向 Grok 提出请求的帐户已被暂停，并且图像已被删除，但许多图像周一晚上仍在网上。

Ofcom 负责监管英国的通信行业，星期一说它“意识到人们对 Grok on X 上的一个功能产生了严重担忧，该功能会产生人物脱衣图像和儿童色情图像”，并且它“与 X 和 xAI 进行了紧急联系，以了解他们采取了哪些措施来履行保护英国用户的法律义务。”

近年来，使用生成式人工智能创建逼真图像的情况呈爆炸式增长，同时，人们对使用此类程序创建真人露骨图像和视频（通常称为“深度假货”）的强烈抗议也日益强烈。许多平台都制定了规则，禁止在未经他人同意的情况下创建或发布虚假的、色情的图片。马斯克有热衷于使用人工智能来创建色情内容，将性感的“辣味”模式融入到文字聊天以及与 Grok 同伴的对话中。

xAI 的政策指出禁止用户创建使儿童色情的内容但没有禁止生成成人色情图像的规则。但尚不清楚 xAI 的政策是否在新图像编辑功能的护栏中得到了实施。

上周，该更新推出后，用户很快开始要求机器人生成淫秽图像，例如描绘圣克莱尔的图像。根据 NBC 新闻对 Grok 输出的评论，虽然 Grok 发布的许多不当图片已被删除，但 Grok 仍在继续制作未经同意的各方（包括儿童）的色情图片。xAI 和马斯克没有回应置评请求。

圣克莱尔说，一名用户要求格罗克根据一张包括她儿子背包的照片制作一段露骨的色情视频。– 我孩子的背包在背景中。他每天上学时背的背包。我必须醒来，看着他把它背在背上，走进学校，”她说。

圣克莱尔告诉 NBC 新闻，她已经“记不清”在过去几天里她看到了多少张人工智能生成的自己的图像。她补充说，她相信马斯克“可能已经看到了”，但她“零欲望”亲自与他联系。“我认为，用无数其他妇女和儿童无法获得的资源来处理这件事对我来说是不合适的，所以我一直在使用其他人都可以获得的主要资源，”她说。

随着围绕该功能的争议不断，马斯克对 Grok 编辑的其他图像表示赞赏，例如其中一张穿着比基尼的烤面包机，并在上周分享了许多帖子，庆祝 Grok 的最新更新及其图像生成功能。

随着人工智能修改的图像继续在网上传播，政府和倡导团体已经开始引起人们对这个问题的关注。

政治报报道法国当局将调查 X 在该平台上使用 Grok 制作未经同意的深度伪造品的行为，这是继去年 11 月聊天机器人发布反犹太主义帖子后对该平台进行的调查的基础上。在过去的几年里，X 似乎放弃了许多用于监管不良内容的内容审核做法。

今年 6 月，Thorn 是一家与科技公司合作提供检测和解决儿童性虐待内容技术的加州非营利组织，该组织告诉 NBC 新闻，在 X 平台停止为 Thorn 的工作支付发票后，该组织终止了与 X 的合同。X 表示，它正在利用自己的技术来检测和解决儿童性虐待材料，但在合同终止后，NBC 新闻观察看似自动化的 X 账户激增，每小时充斥着数百个非法材料销售广告帖子。

国家失踪与受虐儿童中心受虐儿童部门执行主任法伦·麦克纳尔蒂 (Fallon McNulty) 告诉 NBC 新闻，过去几天，NCMEC 一直收到公众关于 X 上流传的由 Grok 创建的帖子的报告。

她表示，在向 NCMEC 的 Cyber​​Tipline 报告方面，xAI 通常“与其他一些人工智能公司持平”。根据 NCMEC 的报告，从 2023 年到 2024 年，X 的报告增加了 150%。

– 令人担忧的是这项技术的易用性和易用性。当它来自一个大平台时，它几乎可以使某些东西正常化，并且它肯定会吸引更广泛的受众，这同样非常令人担忧，”麦克纳尔蒂说。“但是，如果没有适当的保护措施，犯罪者可以如此轻松地访问此类技术并创建对儿童和幸存者有害的图像，这令人震惊。”

圣克莱尔表示，这个问题让她更加担心人工智能是一个男性主导的行业，为其他男性主导的行业服务。– 当你建立一个 LLM [大型语言模型]，尤其是与政府签订合同的 LLM，并且你将女性排除在对话之外时，你正在创建一个模型和一个本质上对男性有偏见的怪物。当然，”她说，指的是 xAI 一直难以解决这个问题的潜在原因。

她认为解决这个问题的唯一方法是人工智能社区的其他成员公开反对。——压力需要来自人工智能行业本身，因为他们只有发声才会自我监管。只有当资本的其他看门人对此发表意见时，他们才会采取行动。”