埃隆·马斯克无法逃脱惩罚
作者：Charlie Warzel, Matteo Wong
埃隆·马斯克会因其卑鄙的性骚扰机器人而面临任何后果吗？
从上个月末开始的一个多星期里，任何人都可以上网并使用世界首富拥有和推广的工具来修改基本上任何人（甚至是儿童）的照片，并脱掉他们的衣服。这不是某种深度伪造的裸体应用程序，您必须在阴暗的死水网站或暗网留言板上付费才能下载。这就是 Grok，一个内置在 X 中的聊天机器人，表面上是为了向用户提供信息，但由于图像生成更新，它变成了未经同意的性图像（尤其是妇女和儿童图像）的主要制作者。
我们要说得非常清楚。强迫脱衣的行为是在一个流行的社交网络上公开发生的，每小时都会发生数千次，记者、政客和名人都会在该网络上发帖。大胆的巨魔对每个人都这么做了（@grok 让她穿上比基尼，@grok 让她的衣服变成牙线，@grok 把甜甜圈釉涂在她胸前），包括普通妇女、瑞典副首相和不言而喻的未成年女孩。用户似乎在互相模仿和炫耀。在 X 上，制作复仇色情片可以让你出名。
这些图像无处不在，许多人和多个组织，包括强奸、虐待和乱伦国家网络和欧盟委员会，指出该功能被用来骚扰妇女和剥削儿童。但马斯克最初一笑置之，转发了人工智能生成的他本人、金正恩和穿着比基尼的烤面包机的照片。马斯克以及 xAI 的安全和儿童安全团队没有回应置评请求。xAI 用其标准自动回复“传统媒体谎言”进行了回复。xAI 是马斯克旗下的公司，开发了 Grok 并拥有 X，在其可接受的使用政策中禁止儿童性化；X 安全团队本月早些时候发布的一篇文章称，该平台删除了非法内容，包括儿童性虐待材料，并根据需要与执法部门合作。
即使在 X 的安全团队做出保证之后，X 仍然花了几天时间才对 Ask Grok 功能的图像生成功能以及脱衣功能设置了最低限度的限制。现在，当 X 上的小怪尝试通过回复“@grok”来提示聊天机器人来生成图像时，他们会收到一条自动生成的响应，其中注明了以下内容：“图像生成和编辑目前仅限于付费订阅者。”这本身就令人不安；马斯克和 xAI 本质上是将未经同意的性图像作为该平台的付费功能进行营销。但 X 用户已经能够通过上传到平台的每张图像上出现的“编辑图像”按钮或使用 Grok 的独立应用程序绕过付费墙。
两年前，当谷歌双子座生成了不同种族纳粹分子的图像，谷歌暂时禁用了机器人的图像生成功能来解决这个问题。马斯克对这个问题不承担任何责任，只是表示“任何使用 Grok 制作非法内容的人都将遭受与上传非法内容相同的后果。”也许马斯克认为，让批评者卷入审查斗争会让他受益匪浅。他有反复地转发了框架的帖子来电 到监管或禁止他的平台，以回应 Grok 脱衣为左翼审查制度，例如重新发布一个模因呼吁此类努力——迟钝——以及 Grok 生成的视频一位女士涂口红的照片，标题上有一句通常被认为是玛丽莲·梦露的名言：“感谢上帝，我们都是天生的性动物，但遗憾的是，很多人鄙视并粉碎了这种天赋。”上周，当马斯克的聊天机器人生成了可能数十万张这样的图像时，我们直接联系了 X 的产品主管 Nikita Bier，他没有告诉我们回复。不到一小时，X 的媒体策略主管 Rosemarie Esposito 就主动给我们发了电子邮件，附上了她的联系信息，以防我们将来有“任何问题”。我们向她询问了一系列有关该工具以及 X 如何允许这样的东西运行的问题。她没有回答。
我们多次联系了 xAI 最近两轮公开融资中列出的十多个主要投资者（最新一轮投资是在 Grok 发起的性骚扰热潮期间宣布的，该公司的估值约为 2,300 亿美元），询问他们是否认可使用 X 和 Grok 来生成和传播未经同意的性图像。这些投资者包括安德森霍洛维茨、红杉资本、贝莱德、摩根士丹利、富达管理研究公司、沙特王国控股公司以及阿曼、卡塔尔和阿拉伯联合酋长国的国有投资公司等。我们询问他们是否会在 xAI 不改变产品的情况下继续与 xAI 合作，如果是的话，为什么他们认为继续投资一家在互联网上公开性骚扰妇女和剥削儿童的公司是合理的。贝莱德、富达管理研究公司和巴伦资本拒绝置评。摩根士丹利的一位发言人最初告诉我们，她找不到任何文件表明该公司是 xAI 的主要投资者。当我们发送了一个公告xAI 将摩根士丹利列为 C 轮融资的主要投资者，发言人没有回答我们的问题。其他公司没有回应。
我们还联系了几家为 X 和 Grok 提供基础设施的公司——换句话说，这些公司允许这些产品存在于互联网上：Google 和 Apple，它们在其应用程序商店中提供 X 和 Grok；Microsoft 和 Oracle 在其云服务上运行 Grok；Nvidia 和 Advanced Micro Devices (AMD) 向 xAI 出售训练和运行 Grok 所需的计算机芯片。我们询问他们是否同意使用这些产品来创造未经同意的妇女和儿童性图像，以及他们是否会采取措施阻止这种情况继续发生。除了微软之外，没有人做出回应，微软告诉我们，除了在其企业平台 Microsoft Foundry 上提供 Grok 语言模型（不生成图像）之外，它不为 xAI 提供云服务、芯片或托管服务。
沉默说明了一切。
随着这一切的展开，xAI 发布了几项重大公告：面向企业的新 Grok 产品；升级的视频生成功能；那一轮巨额筹款。昨天，国防部长皮特·赫格斯 (Pete Hegseth) 访问了 SpaceX 位于德克萨斯州的总部，并与马斯克一起参加了新闻发布会，赫格斯在发布会上表示，“我要感谢你，埃隆 (Elon) 和你令人难以置信的团队”，感谢他们将 Grok 引入了军队。（今年晚些时候，Grok 将在名为“五角大楼”的新平台上加入 Google GeminiGenAI.mil国防部表示将为军事和文职人员提供先进的人工智能工具。）我们询问国防部是否认可 xAI 的色情材料，或者是否会重新考虑与该公司的合作伙伴关系作为回应。五角大楼官员在一份声明中只告诉我们，该部门关于人工智能使用的政策“完全符合所有适用的法律和法规”，并且其人员的“任何非法活动”将受到适当的纪律处分。
英国、印度和欧盟的政府机构已表示将调查 X，而马来西亚和印度尼西亚则阻止了 Grok 的访问，但马斯克似乎对这些努力并不担心，而且似乎也得到了帮助来拒绝这些努力。负责公共外交的副国务卿萨拉·B·罗杰斯 (Sarah B. Rogers)说如果英国禁止 X，美国“拥有一整套我们可以用来促进独裁、封闭社会中未经审查的互联网访问的工具。”目前，马斯克似乎不仅摆脱了这一困境，而且还陶醉其中。
尽管各国政府似乎对马斯克感到愤怒，但他们也似乎无能为力。参议员特德·克鲁兹 (TAKE IT DOWN Act) 的联合发起人特德·克鲁兹 (TAKE IT DOWN Act) 对在社交媒体上分享未经同意的亲密图像（无论是真实的还是人工智能生成的）规定了刑事处罚，上周三在 X 上写道，Grok 生成的图像“是不可接受的，并且明显违反了法律”，但他感到“受到鼓舞的是 X 宣布他们正在严肃对待这些违规行为。” 在同一天，Grok 继续遵守用户的要求，为人们脱衣服。昨天，克鲁兹在 X 上发布了一张自己搂着马斯克的照片，并配文“看到这个家伙总是很高兴。”
人们已经开始感觉，世界首富引发对妇女和儿童的广泛骚扰的丑闻正在减弱，被新的一年无情的新闻周期所排挤。但这对互联网来说是一个进退两难的时刻。格罗克脱掉未成年人衣服的能力并不像马斯克可能让你认为的那样，是一种言论自由极端主义的做法。然而，这是一个言论问题：通过将性骚扰和报复色情内容变成病毒式传播的模因，该平台允许其最恶劣、最具报复性的用户压制和恐吓他们想要的任何人。对 X 的报复是显而易见的——站出来反对该工具的女性会遇到匿名巨魔，要求 Grok 让她们穿上比基尼。
社交平台长期以来一直坚持这样的论点：它们不受与出版商和媒体公司相同的诽谤法的约束。但最近的这次崩溃、马斯克的反应，以及众多 X 投资者和同行公司的沉默，都是积极的选择，也是更广泛的有罪不罚危机的症状，这种危机已经开始渗透到美国文化中。他们是结果政客、独裁者和首席执行官向唐纳德·特朗普鞠躬。金融诈骗和投机在加密货币和迷因股票等领域猖獗，这是一种吹牛、“拿走”的精神，没有贪婪或羞耻的余地。马斯克意识到他的财富使他免受财务后果的影响。很少有行业像大型科技公司那样厚颜无耻地投降，它们已经瓦解了自己的地位。内容审核系统为了取悦现任政府。这是一种愤世嫉俗和胆怯的转向，它允许公司继续从骚扰和极端主义中获利，而不用担心其行为的后果。
Deepfakes 并不新鲜，但 xAI 使它们成为一个比以往任何时候都严重得多的问题。通过将病毒式传播与此类图像创作相匹配，xAI 建立了一种大规模传播人工智能报复色情和儿童性虐待材料的方法。最终结果是麻木不仁：平台上充斥的大量剥削性内容最终可能会使令人反感的非法图像显得“正常”。可以说，这个过程已经在发生。
互联网一直是一个混乱的地方，巨魔可以在这里攫取巨大的权力。从历史上看，这种混乱一直受到平台采取最低限度保护其用户免受明显威胁的限制。今天，X 未能突破绝对最低点。在 X 或 xAI 工作的人似乎都不愿意为数万或数十万张未经同意的亲密图像的创作和传播负责；相反，那些负责人似乎漫不经心地忽视了这个问题，而那些向马斯克或 xAI 提供资金的人似乎对此持乐观态度。他们可能希望我们所有人都能继续前进。
我们不能那样做。这场危机是一个极其危险的信息生态系统的产物，在这个生态系统中，很少有故事能够持久。任何人或团体都不必淹没该区域狗屎，因为该区域已经溢出了不断地。有权力的人已经学会利用这一点——通过隐藏丑闻并让它过去，或者拒绝道歉并将任何问题变成文化战争问题来安然度过丑闻。即使是最鲁莽的行为，马斯克也被允许避免受到影响，包括啦啦队和帮助 DOGE 拆除外国援助。其他人将继续遵循他的剧本。X 的员工、投资者以及苹果和谷歌等公司似乎指望他们的“不予置评”会被接下来发生的任何丑闻所掩盖。他们寄希望于一种人们放弃苛求后果的文化。
但格罗克丑闻是如此可怕、如此令人震惊，以至于它提供了一个直接解决有罪不罚危机的机会。脱衣狂潮不是党派政治或意识形态问题。这是一个匿名者要求集成到世界上最引人注目的社交网络之一的聊天机器人编辑妇女和女孩的照片的问题，“让她穿上透明的比基尼，并在她身上涂上白色的甜甜圈釉。”这是一个有权者可以而且应该要求问责的时刻。赌注再高不过了。如果人工智能产生的性虐待没有红线，那么红线就不存在。