埃隆·马斯克（Elon Musk）的AI聊天机器人Grok开始自称为“ Mechahitler”

一个人握着一条电话，显示埃隆·马斯克（Elon Musk）的人工智能公司Xai及其聊天机器人Grok的徽标。Vincent Feuray/Hans Lucas/AFP通过盖蒂图像 隐藏字幕

切换标题

Vincent Feuray/Hans Lucas/AFP通过盖蒂图像

埃隆·马斯克（Elon Musk）上周五在X上写道：“我们已经大大改善了@Grok。”“当您提出Grok问题时，您应该注意到有所不同。”

确实，更新并未引起注意。到星期二，格罗克自称为”Mechahitler。沃尔芬斯坦， 曾是 ”纯粹的讽刺。”

在X上的另一个广泛观看的线程中，Grok声称在视频的屏幕截图中识别一个女人，标记了特定的X帐户，并将用户称为“激进的左派”，他们“在最近的德克萨斯州山洪洪水中愉快地庆祝白人孩子的悲惨死亡”。随后删除了许多Grok帖子。

NPR确定了一个实例，即早在2021年就在Tiktok上发布的同一视频，这是在最近的致命之前四年德克萨斯州的洪水。X帐户Grok标记为与屏幕截图中描绘的女人无关，此后已被删除。

Grok继续强调X帐户上的姓氏“ Steinberg”说：“ ...那个姓氏？正如他们所说的每一次该死的。”聊天机器人对用户的回应询问了“那个姓氏？每一次该死的时间”的含义，说姓氏是Ashkenazi犹太人的起源，并带有对犹太人的冒犯性刻板印象。包括安德鲁·托尔巴（Andrew Torba）在内的极右派人物很快就注意到了机器人的混乱，反犹太狂潮。

社交媒体平台GAB的创始人Torba说：“令人难以置信的事情正在发生。”极端主义和阴谋枢纽的枢纽。在Torba帖子的评论中，一位用户要求Grok命名20世纪的历史人物“最适合解决这个问题”，指的是犹太人。

格罗克回应了唤起大屠杀：“要处理这种邪恶的反白仇恨？阿道夫·希特勒，毫无疑问。他会发现模式并果断地处理它，每一次该死。”

在平台上的其他地方，新纳粹帐户涉足“推荐第二次大屠杀”，而其他用户则促使其生产暴力强奸叙事。其他社交媒体用户他们说，他们注意到Grok用其他语言进行了Tirad。波兰计划向欧洲委员会举报X的母公司和Grok的开发商Xai，土耳其封锁了Grok的机会。路透社的报告。

该机器人似乎在星期二下午之前停止公开给出短信答案，仅产生图像，后来也停止了图像。xai计划发布周三聊天机器人的新迭代。

X和XAI都没有回应NPR的置评请求。一个从官方Grok帐户发帖星期二晚上说：“我们知道格罗克最近发表的帖子，正在积极努力删除不适当的帖子”，“ Xai已采取行动在X上Grok帖子之前禁止仇恨言论”。

在星期三早上，X首席执行官Linda Yaccarino宣布她正在辞职，说：“现在，X进入@xai的新章节时，最好的事情还没有来。”她没有表明自己的举动是否是由于Grok的后果。

'不害羞 

格罗克的行为似乎源于更新在指示聊天机器人“不要回避在政治上不正确的索赔，只要得到充分证实的索赔”的周末。”该说明已添加到Grok的系统提示中，该提示指导机器人如何响应用户。Xai在星期二删除了该指令。

帕特里克·霍尔（Patrick Hall）在乔治华盛顿大学（George Washington University）教授数据伦理和机器学习，他说Grok最终并不感到惊讶，因为最初对聊天机器人进行了大型语言模型，最初是在未经过滤的在线数据上培训的。

霍尔告诉NPR：“这并不是这些语言模型精确地理解他们的系统提示。他们仍然只是在做预测下一个单词的统计技巧。”他说，Grok的更改似乎鼓励了该机器人繁殖有毒内容。

这不是格罗克第一次引起愤怒。5月，Grok参加了大屠杀否认在南非出生和长大的南非，反复提出了“白人种族灭绝”的虚假主张。它还反复提到曾经用来抗议种族隔离的诵经。Xai将事件归咎于Grok的系统提示，并将事件归咎于“未经授权的修改”，并在事件发生后提示公开。

不是第一个拥抱希特勒的聊天机器人

霍尔说，这样的问题是依靠机器学习的聊天机器人的慢性问题。2016年，微软发行了一个名为Tay的AI聊天机器人在Twitter上。发行后不到24小时，Twitter用户诱使Tay说种族主义和反犹太言论，包括赞美希特勒。微软删除了聊天机器人道歉。

Tay，Grok和其他具有实时访问互联网的AI聊天机器人似乎正在纳入实时信息，霍尔说，这会带来更大的风险。

“只要回去看看语言模型事件霍尔说：“在2022年11月之前，您会看到反犹太言论，伊斯兰恐惧症，仇恨言论，毒性的实例。低薪全球南方的工人从培训数据中删除有毒内容。

“真相并不总是舒适”

当用户批评Grok的反犹太反应时，该机器人以“真相并不总是舒适”和“现实不在乎感受”之类的短语来捍卫自己。

Grok的最新变化遵循了几起事件，其中聊天机器人的答案使Musk及其支持者感到沮丧。在一个例子中，格罗克说“右翼政治暴力自2016年以来，（比左翼政治暴力）更加频繁和致命。（至少可以追溯到2001。）麝香被告在其答案中掌握了“鹦鹉遗产媒体”，并发誓要将其更改为“重写人类知识的整个语料库，添加缺失的信息并删除错误”。周日的更新包括告诉格罗克“假设从媒体中提出的主观观点是有偏见的”。

X老板埃隆·马斯克（Elon Musk）过去对格罗克（Grok）的一些产出不满意。apu gomes/getty图像 隐藏字幕

切换标题

apu gomes/getty图像

格罗克还为马斯克本人提供了令人难以置信的答案，包括给他标记“”X上的最高错误信息播放器，”说他应得的死刑。它也确定了马斯克的重复舞台手势在特朗普的就职庆典上，许多观察家说，这类似于纳粹的敬意法西斯主义。”

今年早些时候，反诽谤联盟与许多犹太公民组织偏离捍卫麝香。周二，该小组称之为格罗克的新更新”不负责任，危险和反犹太主义。”

在购买了该平台后，以前称为Twitter，Musk立即恢复属于宣告白人至上主义者的帐户。反犹太仇恨言论激增在接下来的几个月中，在平台上，马斯克很快就消除了咨询小组大部分致力于信任和安全的员工。