埃隆·马斯克 (Elon Musk) 的 xAI 及其聊天机器人 Grok 已被荷兰法院禁止创建未经同意的人工智能生成的成人和儿童图像，这增加了该公司日益增长的法律压力。

阿姆斯特丹地方法院发布了周四的法律命令根据法庭声明的谷歌翻译，禁止 xAI 生成和传播性图像，“在未经明确许可的情况下，人们会部分或全部脱光衣服”。

该裁决是欧洲针对 Grok 的首例案件，其范围扩大到儿童性虐待材料，并阻止 X 平台（以前称为 Twitter）在该地区提供 Grok 功能。根据禁令，xAI 如果不遵守裁决，每天将面临 100,000 欧元（115,000 美元）的罚款，最高罚款为 1000 万欧元。

此案由荷兰非营利组织 Offlimits 提起，该组织致力于打击网络性虐待，特别是针对儿童和青少年的性虐待。xAI 还被责令在 14 天内支付 Offlimits 220 万欧元的法律费用。

Offlimits 董事总经理罗伯特·霍文 (Robbert Hoving) 在一份声明中表示：“法官昨天划清了界限：技术并不是侵犯网络人权的许可证。”“昨天在欧洲举行了禁止 Nudify 工具的投票，这也是一件很棒的事情。这是双重庆祝，因为这很重要。你应该在每个欧洲国家享有相同的在线权利。”

CNBC 联系 xAI 请其对裁决发表评论，但尚未收到回复。

估计三百万张色情图片根据反数字仇恨中心 (CCDH) 的数据，这些内容是由 Grok 在 2026 年 12 月 29 日至 1 月 9 日期间生成的。研究发现，其中超过 23,000 张图像似乎描绘了儿童。

xAI 开始屏蔽 Grok一月份禁止在 X 上创建真人的性感图像，该限制适用于所有用户，包括付费订阅者。然而，Offlimits 发现这些限制很容易被绕过，法官裁定其措施不足以适当保护用户。

针对 xAI 提起了多起诉讼，其中巴尔的摩成为美国第一个主要城市周二，该公司起诉该公司违反该市的消费者保护法，并欺骗性地宣传 Grok 和 X 对用户来说是安全的。

投诉中提到了一种“让她穿上比基尼”的趋势，其中 Grok 被用来裸露他人的图像。xAI 的首席执行官马斯克也参与其中，分享了一张自己穿着由 Grok 制作的系带比基尼的照片。

此外，田纳西州的三名青少年上周起诉了 xAI，因为 Grok 制作了展示他们露骨性姿势和场景的内容。

与此同时，欧盟委员会于 1 月份对 xAI 展开调查，原因是其在未经同意的情况下传播儿童和其他个人的露骨色情材料，并正在接受调查。数字服务法(DSA) 监管。

英国在线安全监管机构 Ofcom 和信息专员办公室已对 X 和未经同意的性图像传播展开了各自的调查。

虽然欧洲、东南亚国家尚未实施更广泛的裁决马来西亚和印度尼西亚封锁了 Grok今年 1 月，在“X Corp 多次未能解决与人工智能工具相关的风险”之后，出现了未经同意的性内容。