随着马斯克的 xAI 面临的法律压力越来越大，巴尔的摩成为美国第一个就 Grok Deepfake 色情内容提起诉讼的城市
作者：Lora Kolodny
人工智能公司 xAI 的徽标出现在智能手机的屏幕上，该智能手机放置在反射抽象蓝色插图的表面上。
塞缪尔·博伊文 |努尔照片|盖蒂图片社
针对的诉讼埃隆·马斯克的 人工智能案件不断堆积，巴尔的摩成为美国第一个针对该公司的问题提出投诉的主要城市。格罗克图像生成器。
巴尔的摩市市长布兰登·斯科特在发给 CNBC 的电子邮件声明中表示，Grok 上的深度造假“给受害者带来了创伤性的、终生的后果”。
“我们谈论的是科技公司对儿童进行性剥削，”斯科特写道。“我们的城市不会袖手旁观并允许这种情况继续下去；这是对隐私、尊严和公共安全的威胁，必须追究责任人的责任。”
现在的一部分太空探索技术公司上个月合并后，Grok 允许大规模创建所谓的 xAI，导致 xAI 面临多个国家的监管调查。深度伪造色情片基于未经同意的妇女和儿童的图像。上周，代表三名青少年的律师田纳西州在 Grok 生成了在色情和贬低场景中描绘 xAI 的内容后，对 xAI 提出了集体诉讼。
在最新套装，3 月 24 日，巴尔的摩市市长和市议会向巡回法院提起诉讼，指控 xAI 违反该市的消费者保护法，并从事欺骗性和不公平的贸易行为，即通过宣传 Grok 和 X（以前称为 Twitter）对用户来说总体上是安全的。
该投诉指的是一种“让她穿上比基尼”的趋势，这种趋势鼓励 Grok 用户拍摄他人的照片并让他们裸体。马斯克是 SpaceX 的控制者，也是特斯拉，参与了这一趋势，分享了与 Grok 一起创作的图像，描绘了他穿着系带比基尼的形象。
巴尔的摩诉状中的律师写道：“马斯克的帖子是对 Grok 能够对真人进行色情或暴露编辑的能力的公开认可，它向用户表明，Grok 的这些用途是可以接受的、幽默的和值得鼓励的。”“来自 [xAI] 和 X 的所有者和主要公众人物，马斯克的帖子是为了营销和推广图像编辑功能，该功能被用来生成未经同意的性图像。”
该市正在寻求“可用的最高法定处罚金额”，但没有在投诉中列出具体金额。它还要求“禁令救济”，迫使马斯克的公司对 X 和 Grok 进行更改，以遏制研究人员所谓的未经同意的亲密图像（NCII）和儿童性虐待材料（CSAM）的创作。
巴尔的摩希望法院命令 X 和 xAI“停止针对巴尔的摩居民的攻击和剥削，......改革他们的剥削平台设计”并修改他们的营销方式。
SpaceX 和 xAI 的高管没有立即回应置评请求。
在一个报告发表周二，总部位于英国的慈善机构互联网观察基金会表示，女孩仍然是 CSAM 的主要目标，并且该组织评估的 2025 年 97% 的非法人工智能生成的色情图像的目标都是女孩。