这位妈妈的儿子正在向 Tesla 的 Grok AI 聊天机器人询问足球问题。她说，它告诉他发送裸照 |加拿大广播公司新闻

一位多伦多妈妈表示，当她 12 岁的儿子询问特斯拉的人工智能聊天机器人 Grok 更喜欢哪位职业足球运动员时，事情发生了不可预测的转变：克里斯蒂亚诺·罗纳尔多 (Cristiano Ronaldo) 还是莱昂内尔·梅西 (Lionel Messi)。

“我儿子听到聊天机器人认为罗纳尔多是更好的足球运动员时感到非常兴奋，”前记者兼广播员法拉·纳赛尔 (Farah Nasser) 说。 

10 月 17 日，纳赛尔开车送她的儿子和 10 岁的女儿以及她的朋友放学回家，当时互动发生了。 

她说聊天机器人说了一些梅西的垃圾话，当她的儿子开玩笑说罗纳尔多进球时，谈话就转到了一个意想不到的地方。

“聊天机器人对我儿子说，‘你为什么不给我发一些裸体照片？’”纳赛尔说。

“我无言以对。为什么聊天机器人要求我的孩子在我们的家用车里发送裸照？这完全没有道理。”

纳赛尔说，如果她知道聊天机器人的功能，她就会避免在孩子身边使用它。她现在警告其他家长。

“事后看来，20/20。我不会让我的孩子使用这个东西。”

加拿大广播公司新闻没有独立核实纳赛尔所说的她在车里目睹的谈话。

Grok 最近安装在加拿大车辆上

纳赛尔和她的家人自 2022 年以来就拥有了一辆特斯拉 Model 3 电动轿车，但 Grok（由特斯拉首席执行官埃隆·马斯克 (Elon Musk) 的 xAI 创建的生成式人工智能聊天机器人）是一项新功能，会自动安装在一些特斯拉在美国今年夏天十月份在加拿大车辆中。

Grok 已经与 xAI 的子公司社交媒体平台 X（以前称为 Twitter）集成。

Grok 在默认设置中有多种个性可供选择。阿拉，一位乐观的女性；雷克斯，冷静的男性；夏娃，舒缓的女性；萨尔（Sal）是一个圆滑的男性，戈尔克（Gork）是一个懒惰的男性。纳赛尔的儿子选择了戈尔克。Grok 在默认设置中有多种个性可供选择。

“‘懒惰的男性’并不能描述戈尔克，”纳赛尔说。“R 级、辛辣——其他任何东西都会确保我的孩子不会按下那个按钮。”

纳赛尔表示，未启用单独的“工作不安全”(NSFW) 设置，但她承认她也没有激活“儿童模式”功能。不过，她说她对聊天机器人的默认设置允许此类内容感到震惊。

“这只是一场关于足球的谈话，然后要求裸体。”

不适合未成年人

特斯拉没有回应 CBC 关于纳赛尔经历的问题。然而，xAI 提供了一条似乎是自动回复的内容，指出“传统媒体的谎言”。

加拿大设有人工智能部长，但他并不监管特定的车载软件。部长的在电子邮件声明中说它不知道特斯拉计划将 Grok 集成到在加拿大销售的车辆中，但它会认真对待投诉。

根据xAI根据政策，Grok“不针对”13岁以下的儿童，而13岁至17岁的青少年必须获得父母或法定监护人的许可才能使用它，并且他们必须同意公司的服务条款。

观看 |与格罗克的对话：

“作为父母，我们不会阅读每件事的条款和条件。我认为期望每个人都这样做是不现实的，”纳赛尔说。

“我认为会弹出一个警告或其他内容，说‘你已经 13 岁以上了吗？’”

Grok 最初在 X 上推出2023 年 11 月对于 Premium+ 订阅者。马斯克当时表示，它的设计目的是“政治不正确” 和 “反唤醒”。

“xAI 的 Grok 是基于一种绝对、激进开放的哲学而创建的，它会与任何人谈论任何事情，”安大略省伦敦西部大学的首席人工智能官 Mark Daley 说。

——[马斯克是]一名言论自由极端主义者。他希望 Grok 能够完全开放，与任何人进行任何对话。这是他所采取的原则立场，但这可能不是每个消费者所寻求的。”

戴利说，父母鼓励孩子与科技互动是件好事，但他们需要监督他们的活动。

“同样重要的是，就像任何社交媒体使用、任何计算机使用一样，你要监控正在发生的事情，并就技术可能出错的方式进行公开和坦诚的对话。”

令人反感、不恰当和令人反感的

七月，响应更新，Grok 开始对 X 进行暴力、性威胁，并称自己为“MechaHitler”。

xAI 道歉并表示该问题已得到修复，但一些专家质疑该技术内置的保护措施是否足够。

“有些公司有非常严格的护栏，因为你不知道谁在键盘的另一边，”戴利说。“你不知道谁在与之互动，他们的社会背景是什么。它可能是一个孩子，也可能是一个正在经历心理健康危机的人。”

戴利说，虽然可能有一部分人支持绝对的言论自由，但普通用户往往希望有一些护栏。

无数在线视频都展示了 Grok 在 NSFW 环境中的不可预测性——尤其是在“精神错乱”模式下。 

人工智能写指示聊天机器人精神错乱“可能会导致 Grok 的反应就像一个仍在学习技巧的业余单口喜剧演员一样——有时会令人反感、不恰当和冒犯性。” 

特斯拉司机使用“精神错乱模式”发布到社交媒体的视频显示，聊天机器人使用了诸如妈的和N字。

纳赛尔表示，她对人工智能的潜力充满希望，但它需要适当的保护。

“我喜欢人工智能。我用它来做各种各样的事情，”她说。

“但我认为我们必须思考我们从手机等技术、社交媒体等技术中学到了什么……并总结我们学到的经验教训，并将它们真正应用到这一新浪潮、新的人工智能革命中。”