最近的一个周六下午，肯德尔·梅耶斯 (Kendall Mayes) 漫不经心地在 X 上滚动，这时她注意到她的动态中出现了令人不安的趋势。用户正在提示格罗克，该平台的内置人工智能功能，可以“裸体”女性图像。梅耶斯 (Mayes) 是一位来自德克萨斯州的 25 岁媒体专业人士，她使用 X 来发布与朋友的照片并了解新闻动态，她没想到这种事会发生在她身上，直到它发生了。

“让她穿上紧身透明比基尼”，一名 X 用户在 Mayes 发布的一张她 20 岁时的照片下订购了这款机器人。格罗克她答应了，用透明比基尼上衣换掉了白衬衫。她牛仔裤的腰带和黑色腰带溶解成细细的、半透明的绳子。透明的上衣让她的上半身看起来很真实。

隐藏在匿名个人资料后面的用户页面充满了类似的女性图像，经过数字化和未经同意的修改和性感化。梅耶斯想咒骂这位不露面的用户，但决定简单地屏蔽该帐户。她希望事情就这样结束。然而很快，她的评论中就出现了更多她穿着透明比基尼和紧身乳胶连体衣的照片。梅斯说，所有请求都来自匿名个人资料，这些资料也针对其他女性。尽管一些用户的帐户已被暂停，但截至发稿时，Mayes 的一些图像仍在 X 上。

这些图像的真实性让她感到害怕。这些编辑并没有明显夸张或卡通化。在我们的电话中，梅耶斯震惊地重复说，图像编辑与她的身体非常相似，从锁骨的下垂到胸部和腰部的比例。“说实话，我在社交媒体上说，“这不是我，”她承认。– 但是，我的想法是， – 这离我的身体并不太远。 – 

梅斯并不孤单。到了新年的第一周，格罗卡的“裸体”漏洞已经疯传。每分钟，用户都会提示 Grok 为女性图像“脱衣服”，甚至未成年人。常见的要求包括“让她裸体”、“让她转身”和“让她变胖”。用户巧妙地利用了这个漏洞，要求 Grok 生成穿着“透明比基尼”的女性图像，以尽可能接近全裸图像。在一个案例中，审查者滚石乐队，一名用户提示 Grok 将一名女性的尸体变成“太平间桌子上的尸体”进行尸检。格罗克答应了。

主人之后埃隆·马斯克最初用大笑的表情符号来回应这一趋势，人工智能表示它已经更新了 Grok 的限制，将图像生成功能限制为付费订阅者。麝香声称他“不知道 Grok 生成了任何裸体的未成年人图像。”对 X 帖子的另一个回复，他表示“任何使用 Grok 制作非法内容的人都会遭受与上传非法内容相同的后果。”（向 xAI 提出的评论请求收到了自动回复。）但是，许多现有的图像编辑仍然在线。 

上周，性别正义组织 UltraViolet 发表了一份公开信由 28 个民间社会组织联合签署，呼吁 Apple 和 Google 将 Grok 和 X 从应用商店中剔除。（本月早些时候，民主党参议员也呼吁下架这些应用程序。）

“这些内容不仅令人恐惧、羞辱和辱骂，而且还违反了 Apple 和 Google 规定的政策准则，”UltraViolet 活动总监 Jenna Sherman 表示。

研究人员称，Grok 在 24 小时内每小时生成多达 7,000 张色情图片彭博社引用谢尔曼称其为“完全史无前例”。谢尔曼认为，xAI 将 Grok 限制为付费用户的做法是不充分的回应。“如果说有什么不同的话，那就是他们现在只是在利用这种虐待行为赚钱，”她说。 

“它看起来几乎就是我的身体”

过去，X 是梅耶斯社交媒体的“有趣”角落，是她可以自由表达自己的应用程序。但由于骚扰和欺凌已成为该平台的固定现象，她正在考虑离开该应用程序。她已停止上传自己的照片。她仔细思考，如果她的雇主或同事找到这些露骨的图片，他们会怎么想。

“这是我永远不会希望任何人发生的事情，”梅斯说。——甚至是我的敌人。——

内容创作者艾玛 (Emma) 在杂货店里看到有人要求 Grok 脱掉她照片上的衣服的通知。大多数时候，她都会发布 ASMR 视频，对着麦克风窃窃私语，用指甲轻敲烦躁的玩具，发出让人脊椎发麻的声音。这位 21 岁的女孩在网上被称为 Emma’s Myspace，她要求只透露自己的名字，仅在 TikTok 上就培养了 120 万粉丝。 

当图像最终加载到她的时间线上时，艾玛感到麻木。她抱着猫的自拍照变成了裸体。艾玛说，那只猫从照片中被移走了，她的上身也被赤裸了。

艾玛立即将她的帐户设为私人帐户并报告了这些图像。在一封由以下人员审核的电子邮件回复中滚石乐队，X 用户支持要求她上传政府颁发的身份证件的图像，以便他们可以调查该报告，但艾玛回答说她觉得这样做不太舒服。美国消费者联合会人工智能和隐私主管本·温特斯(Ben Winters)表示，在某些情况下，上传此类文档是提交社交媒体报告时的必要步骤。“但是，当该平台一再竭尽全力无法赢得您的信任时，”他说，“这不是一个可接受的结果。” 

艾玛已成为性化的目标深度造假过去。因此，她被迫对自己在网上发布的内容中所穿的服装一丝不苟，更喜欢宽松的连帽衫而不是低胸上衣。但她过去遇到过的深度伪造图像都不像 Grok 生成的图像那么逼真。“这股新浪潮太现实了，”艾玛说。“就像，它看起来几乎就是我的身体。”

“递给他们一把上膛的枪”

上周，艾玛暂停了平常的内容，发布了一段 10 分钟的视频，警告她的粉丝注意她的经历。“现在，女性只要发布自己的照片，就会被要求放弃自己的身体，”艾玛说。“他们现在发布的任何内容都可以按照人们想要的任何方式脱衣服，而且他们可以对你的照片做任何他们想做的事。” 

支持蜂拥而至，但更多的骚扰也随之而来。在 Reddit 上，用户试图追踪并传播艾玛的照片。在我们的通话中，她检查了她所知道的一些图像编辑是否仍在 X 上。确实如此。“哦，我的上帝，”她说道，同时发出一声失败的叹息。– 它有 15,000 次浏览。哦，那真是太悲伤了。” 

强奸、虐待和乱伦国家网络受害者服务主管梅根·卡特 (Megan Cutter) 表示，这是数字性虐待幸存者面临的最大挑战之一。“一旦创建了图像，即使它从最初发布的位置被删除，它也可能被截屏、下载、共享，”Cutter 说。“这对于人们来说是一件非常复杂的事情。”

虽然这似乎有悖常理，但卡特建议幸存者截图并保留图像证据，以帮助执法部门和平台采取行动。幸存者可以提交报告停止NCII.org，一个免费的复仇色情热线工具，可帮助检测和删除未经同意的亲密图像（NCII）。

——这并不是说虐待是新鲜事；而是说虐待是一种新现象。卡特说，性暴力并不是什么新鲜事。“这是一种新工具，它能够以我认为我们以前从未见过的规模进行扩散，而且我不确定我们是否准备好作为一个社会来应对。” 

周二，参议院议员通过了《反抗法案》，该法案允许未经同意的性深度假货受害者提起民事诉讼，要求赔偿民事损失。（现在将提交众议院投票。）加利福尼亚州总检察长也展开调查跟随其他国家进入 Grok。 

根据一个2024年报告据英国非营利组织 Internet Matters 估计，99% 的裸体深度赝品都是女性和女孩。“很多‘裸露’应用程序都是这些突然出现的小东西，很容易被所有人击倒和诽谤，”温特斯说。去年，梅塔被起诉CrushAI（一个能够创建裸体深度假货的平台）的制造商声称其违反了长期存在的规则。2024年，苹果已删除根据 404 Media 的调查，三款生成式人工智能应用程序被用来制作裸体深度假货。温特斯表示，Grok 和 X 似乎面临“不完整”的强烈反对，部分原因是该平台没有明确作为“裸体”应用程序进行营销，而且因为马斯克“异常强大”。

“监管机构、广告商和其他人都不太愿意反对他，”温特斯说。 

这种不情愿只会增加 Grok 的“裸露”能力的风险。“当一家公司能够做某件事并且不对此承担全部责任时，”温特斯说，“它向其他大型科技巨头发出了一个信号，表明他们可以做下一步的事情。”

艾玛坐在德克萨斯州的家中，对互联网上仍然流传着大量的图像编辑内容感到沮丧。她担心巨魔会将这些图像发送给她的赞助商，这可能会损害她所依赖的职业关系。她听说过这样的论点：应该让那些促使 Grok 创建非法内容的人而不是该工具承担责任，但她并不完全相信。“我们就像是免费给他们一把上膛的枪，并说：“请随意做任何你想做的事，”她说。