三名田纳西州青少年起诉埃隆·马斯克 (Elon Musk) 的 xAI 为他们制作露骨的色情图片 |财富
作者:Travis Loller
田纳西州的三名青少年本周起诉埃隆·马斯克的 xAI,声称该公司的图像生成工具 用于变形真实照片将它们转化为明确的性图像。
这些高中生希望以化名进行诉讼,他们在加州 xAI(马斯克的人工智能公司)总部所在地提起诉讼。他们正在寻求集体诉讼地位,以代表诉讼中所说的数千名像他们一样的受害者,他们要么是未成年人,要么在制作露骨色情图片时是未成年人。
根据诉讼称,Jane Doe 1 去年 12 月收到匿名提醒,称有人在社交媒体网站上传播她的露骨色情图片。
“其中至少有五个文件,一个视频和四张图片,在她熟悉的环境中描绘了她的真实面孔和身体,但变成了露骨的性姿势,”诉讼称。据称,分发这些图像的人认识 Doe,并使用 xAI 的图像生成工具将她的真实照片变成了性虐待照片。其中一张照片取自一张返校节照片。另一篇摘自高中年鉴。
分发这些图像的人还制作了至少 18 名其他女孩的露骨图像,其中两人是诉讼的共同原告。12月底,当地警方逮捕了肇事者并没收了他的手机。他们发现他已将这些图像上传到几个平台,并在那里用这些图像交换其他未成年人的露骨色情图像。
其他人工智能公司已禁止其图像生成器制作任何露骨的色情内容,甚至是成人的内容。诉讼称,马斯克将此视为一个商机,并提升了 xAI 的 Grok 聊天机器人创建“辣味”内容的能力。然而,诉讼称,目前还没有办法在完全阻止儿童图像生成的同时,阻止成人露骨图像的生成。它还声称 xAI 知道 Grok 能够 制作露骨的色情图片孩子们,但还是发布了。
该诉讼称,分发原告图像的人使用了授权 xAI 技术的应用程序,或者“以其他方式购买了对 Grok 的访问权限,并被用作中间人”。
XAI 没有回复美联社寻求置评的电子邮件。但 1 月 14 日的一篇帖子讲述了 争议” 在社交媒体平台 X 上表示:“我们仍然致力于使 X 成为每个人的安全平台,并继续对任何形式的儿童性剥削、未经同意的裸体和不受欢迎的性内容采取零容忍态度。
– 我们采取行动删除高优先级的违规内容,包括儿童性虐待材料 (CSAM) 和未经同意的裸露内容,并对违反我们 X 规则的帐户采取适当的行动。我们还会根据需要向执法机构报告寻求儿童性剥削材料的账户。
与此同时,参与诉讼的学生表示,他们担心自己制作的图像将永远存在于互联网上。他们害怕被跟踪,因为他们的真实姓名和学校名称都附在文件中。他们担心他们的朋友和同学看到了这些看似真实的照片和视频,他们担心将来谁会看到他们。
Jane Doe 1 说她患有焦虑、抑郁和压力。“她饮食和睡眠都有困难,并且经常做噩梦,”诉讼称。诉讼称,Jane Doe 2 – 已经开始自我隔离,避免出现在校园里,甚至害怕参加自己的毕业典礼。 – Jane Doe 3 一直处于恐惧和焦虑之中,担心有人会看到人工智能生成的图像并认出她的脸。