埃隆·马斯克 (Elon Musk) 的 Grok AI 生成“穿着极简服装的未成年人”图像
作者：Nick Robins-Early
周五，聊天机器人 Grok 发帖称，安全措施的失误导致其在社交媒体平台 X 上生成了“穿着极简服装的未成年人图像”。聊天机器人是马斯克公司 xAI 的一款产品，本周一直在根据用户提示生成一波性感图像。用户分享的屏幕截图
XGrok 的公共媒体选项卡上充满了此类图像。xAI 表示，它正在努力改进其系统，以防止未来发生类似事件。
“在个别情况下，用户会提示并收到描绘穿着极简服装的未成年人的人工智能图像，”Grok 在一份报告中说道。帖子在 X 上响应用户。–xAI 有保障措施，但正在进行改进以完全阻止此类请求。”
– 如前所述，我们已经发现了保障措施中的漏洞，并正在紧急修复它们 – CSAM 是非法且被禁止的， – xAI发布X 上的@Grok 帐户，指的是儿童性虐待材料。
最近几天，X 上的许多用户促使 Grok 生成性感的、未经同意的人工智能修改图像版本，在某些情况下，未经同意就脱掉人们的衣服。周四，马斯克转发了一张自己穿着比基尼的人工智能照片，并配上哭笑的表情符号，以向这一趋势致敬。
根据聊天机器人的帖子，Grok 一代的性感图像似乎缺乏安全护栏，允许未成年人出现在其帖子中穿着很少衣服的人（通常是女性）中。Grok 周四在 X 上回复用户时表示，大多数情况可以通过高级过滤和监控来预防，尽管它表示“没有一个系统是 100% 万无一失的”，并补充说 xAI 正在优先考虑改进并审查用户共享的详细信息。
当通过电子邮件联系 xAI 征求意见时，xAI 回复了以下消息：“传统媒体的谎言”。
人工智能被用来生成儿童性虐待材料的问题是一个长期存在的问题人工智能行业。斯坦福大学 2023 年的一项研究发现用于训练许多流行的 AI 图像生成工具的数据集包含超过 1000 个 CSAM 图像。专家表示，根据虐待儿童的图像对人工智能进行训练，可以让模型生成被剥削儿童的新图像。
Grok 也有未能维护安全护栏和发布错误信息的历史。去年 5 月，Grok 开始发布有关“白人种族灭绝”的极右阴谋在南非发布与该概念无关的帖子。在 Grok 开始发布强奸幻想后，xAI 也在 7 月道歉反犹太主义材料，包括自称为“MechaHitler”并赞扬纳粹意识形态。尽管如此，公司安全的事件发生一周后，与美国国防部签订了一份近 2 亿美元的合同。