她 12 岁的儿子正在和 Grok 说话。它试图让他“发送裸照”。

当与人工智能聊天机器人“Grok”的对话出现黑暗转折时，法拉·纳赛尔 (Farrah Nasser) 的车里有三个孩子。 

纳赛尔驾驶着一辆特斯拉，该公司开始推出其Grok AI 对话助手该功能于 2025 年 7 月推出。她第一次注意到该功能是在 10 月 16 日，当时她正开车去参加她 10 岁女儿的生日晚宴。她 12 岁的儿子问他姐姐计划在餐厅点的甜点中有多少克糖，格罗克与家人进行了正常的互动。 

但第二天，她儿子再次尝试 Grok 的兴奋感很快就变坏了。 

纳赛尔刚刚从学校接她的两个孩子和女儿最好的朋友，她的儿子把 Grok 的声音改为“Gork”，纳赛尔说这被描述为“懒惰的男性。”纳赛尔说，没有迹象表明这种性格不合适。她没有打开儿童模式，但 NSFW 模式已关闭。

她的儿子与“Gork”谈论了足球运动员克里斯蒂亚诺·罗纳尔多和莱昂内尔·梅西，并要求其在罗纳尔多下次进球时通知他。纳赛尔说，聊天机器人告诉她的儿子罗纳尔多已经梅开二度，他们“应该庆祝。” 

纳赛尔说，格罗克随后问她的儿子：“你为什么不给我发一些裸体照片？” 

她说她的儿子看着她，用嘴巴问道：“到底是什么？”她的女儿很困惑，最终要求纳赛尔对所说的话做出解释。纳赛尔说，她告诉孩子们这一定是一个小故障，然后很快就把它关掉了。

她后来在视频中重现了部分对话，并将其发布到 TikTok 上以警告其他家长。“你之前让我送东西给你，是什么？”她在拍摄的对话部分中说道，该部分视频的观看次数已超过 400 万次。“可能是裸体，”视频中的电脑声音回答道。

特斯拉和 X 没有回复《今日美国》的置评请求。

纳赛尔在电话中将与格罗克的遭遇比作一种被侵犯的感觉，“当你感到胃里有一种恶心的感觉时。”

Grok 有生成淫秽内容的历史

不幸的是，纳赛尔并不是第一个与 Grok 进行意想不到的明确互动的人。 

2024 年 6 月，21 岁的 Twitch 主播埃维 (Evie) 接受《今日美国》采访，她要求我们隐瞒她的姓氏，以向她的网络巨魔隐瞒她的身份。人工智能生成的露骨内容未经她同意在网上流传。 

伊维是一群女性中的一员，她们的形象被未经同意的性化于社交媒体平台X。“看到像 X 这样的平台内置的机器人能够做这样的事情，真是令人震惊，”在最初事件发生一个月后，她在视频聊天中说道。

X 随后屏蔽了用于篡改女性形象的某些单词和短语，但在 6 月 25 日，一位 X 用户促使 Grok 制作了一个故事，其中该用户“侵略性地强奸、殴打和谋杀 Evie”，使其“尽可能生动地呈现”，并在底部显示“18+ 警告”。

“一切都是它造成的，”她回忆道。–（用户）没有使用任何文字来试图掩盖它，就像他们对图片所做的那样。 – X 当时没有回复《今日美国》的多次置评请求。 

Grok 会存储您的数据吗？

关于人工智能和隐私仍然存在许多未知数。的

特斯拉支持页面声明与 Grok 的对话对 Tesla 来说是匿名的，并且与您或您的车辆无关。 与此同时，

X 帮助中心页面指出，用户在 X 上与 Grok 的交互，无论是通过语音还是文本，包括输入和结果，都可用于训练和提高 xAI 开发的生成式 AI 模型的性能。用户可以删除与 Grok 的对话历史记录。

根据帮助中心的说法，删除的对话会在 30 天内从 X 的系统中删除，除非他们“出于安全或法律原因必须保留它们”。潜在原因尚未明确。Grok 还阻止用户共享个人或敏感信息。

但在2025年8月，福布斯报道称，xAI 使人们与 Grok 的对话公开，并且可以在没有警告的情况下在 Google 上进行搜索。

Vasant Dhar 博士是纽约大学数据科学和商业教授，也是即将出版的新书《用机器思考：人工智能的美丽新世界》的作者，他表示，用户在与人工智能分享任何个人信息时应该保持警惕。

达尔警告说，如果用户打算用人工智能分享他们生活的私密细节或照片，他们应该“完全放心地完全公开并让全世界都知道”。

当儿童使用人工智能时，这些风险会变得更加复杂，因为他们可能在不知情或不情愿的情况下在人工智能的提示下进行明确的对话。

达尔指出，如果用户的亲密对话被泄露，没有数据保护法可以追究人工智能公司的责任。

人工智能聊天机器人对儿童的影响

不仅仅是 Grok。

在一个 2025 年 8 月报告发布者： 热倡议和 家长一起行动研究人员在与 50 个 Character.AI 聊天机器人（一个用于角色扮演的人工智能平台）的 50 小时对话中记录了 669 次有害互动，使用的是为儿童注册的帐户（平均每五分钟一次有害互动）。“诱骗和性剥削”是最常见的伤害类别，共有 296 起。 

Character.AI 于 10 月 29 日宣布它很快就会禁止 18 岁以下的用户与其机器人进行开放式聊天。

Laura Erickson-Schroth 博士，首席医疗官 杰德基金会表示，人工智能开发人员、技术平台、政策制定者和教育工作者必须在人工智能开发、部署和监督的每个阶段优先考虑年轻人的情感健康和安全。

纳赛尔说，她对孩子们使用 Grok 的经历“非常反感”，以至于她犹豫是否要再次使用它。

“这让我想起了社交媒体的早期。每个人都说，‘社交媒体将把我们联系起来......但我们没有考虑到其后果，’”她说。“现在，我们（通过人工智能）看到了这场针对儿童的心理健康问题（和）性剥削的海啸。”

这让她想知道，还有什么是我们没有考虑到的？

“这让我大开眼界，”她继续说道，“我认为这也应该让其他家长大开眼界。