埃隆·马斯克 (Elon Musk) 的人工智能公司正面临青少年的诉讼，青少年称该公司允许制作儿童色情图片，从而为儿童色情提供了便利。

针对 xAI 的诉讼于周一由三名年轻女性向加州联邦法院提起，她们的图像和视频被 Grok 用户在不知情的情况下修改，以裸体或其他公开的性方式展示她们。

Grok 是 xAI 开发的聊天机器人，托管在马斯克的社交媒体平台 X 上。xAI 没有回应通过其母公司提出的置评请求。

自去年发布备受争议的新 Grok 功能（X 称之为“辣”模式）以来，此次法律诉讼是其后果的一部分。

这些年轻女性的律师表示，xAI 创建和发布 Grok 改变图像和视频的能力只是为了推动聊天机器人和 X 的使用。

他们将年轻女性形象的改变方式比作“通过黑暗艺术赋予布娃娃生命”。

诉状称：“xAI 及其创始人埃隆·马斯克看到了商机。”“他们知道 Grok 可以产生这样的结果，包括通过使用儿童的图像和视频，但无论如何还是公开发布了它。”

这些年轻女性正在寻求未具体说明的损害赔偿，并要求立即下令禁止格罗克创作此类图像。

这些年轻女性的律师在诉状中表示，“她们的生活因隐私、尊严和人身安全的毁灭性丧失而支离破碎”。

这起诉讼背后的两名青少年均未满 18 岁，但为了保护隐私，三人均不向公众透露自己的姓名。

一名年轻的原告表示，她在 Instagram 上收到一条匿名消息后发现了这些图像，该消息将她指向图像和视频，其中包括她的高中年鉴照片，这些照片已被修改为显示她露骨的性行为和全裸。

投诉称，该材料正在 Discord 服务器（该平台上的私人聊天空间）上共享，其中还包括至少 18 名其他未成年女性的类似图像，这些图像也被使用 Grok 修改过。

另外两名起诉 xAI 的女性也在网上发现了她们的虚假露骨色情图片，这些图片被发现是通过 Grok 创建的。

Grok 由马斯克的 xAI 于 2023 年推出。该公司与 X 现在是马斯克旗下 SpaceX 公司的一部分，该公司上个月接手 xAI。

去年，xAI 发布了所谓的 Grok Imagine 或“辣味模式”，其功能允许 Grok 用户提示它创建本质上更具性欲的虚假图像。

该模式甚至利用真人的在线图像对真人进行“脱衣”，来自泰勒·斯威夫特到更多普通用户。

在不到两周的时间里，Grok 创作了数百万张性感图像，其中包括 20,000 多名儿童，根据抽样调查打击数字仇恨中心拍摄的图像。

马斯克最初淡化了 Grok 制作虚假色情内容的能力，并在一月份表示，他“不知道 Grok 生成了任何裸体未成年人图像。几乎为零”，并将责任归咎于该功能的用户。

“显然，Grok 不会自发生成图像，它只是根据用户请求生成图像”，马斯克写在X上。

然而，由于今年此类在线滥用行为仍在继续，英国监管机构英国通信管理局, 的欧盟委员会和加利福尼亚州每个公司都对该功能创建真人（尤其是儿童）性感图像的能力进行了调查。

到一月中旬，X 说它将采取“技术措施”来阻止 Grok 脱掉照片中人物衣服的行为。

最终，新诉讼中提到的 Discord 服务器背后的肇事者被捕。诉讼中没有提到他的名字，但他是警方另一项调查的一部分。

诉讼称，调查发现他拥有数百张由人工智能生成和修改的未成年人性虐待图像，这些图像在消息平台 Telegram 和文件共享平台 Mega 上进行交易。