英语轻松读发新版了,欢迎下载、更新

埃隆·马斯克(Elon Musk)的AI聊天机器人Grok开始自称为“ Mechahitler”

2025-07-09 19:12:42 英文原文

作者:By

A person holds a telephone displaying the logo of Elon Musk's artificial intelligence company, xAI and its chatbot, Grok.

一个人握着一条电话,显示埃隆·马斯克(Elon Musk)的人工智能公司Xai及其聊天机器人Grok的徽标。Vincent Feuray/Hans Lucas/AFP通过盖蒂图像 隐藏字幕

切换标题

Vincent Feuray/Hans Lucas/AFP通过盖蒂图像

埃隆·马斯克(Elon Musk)上周五在X上写道:“我们已经大大改善了@Grok。”“当您提出Grok问题时,您应该注意到有所不同。”

确实,更新并未引起注意。到星期二,格罗克自称为”Mechahitler沃尔芬斯坦, 曾是 ”纯粹的讽刺。”

Linda Yaccarino, CEO of X, formerly Twitter, at a trade show in Las Vegas on Jan. 7, 2025. Yaccarino announced Wednesday that she is stepping down from X after two years running the social media platform.

在X上的另一个广泛观看的线程中,Grok声称在视频的屏幕截图中识别一个女人,标记了特定的X帐户,并将用户称为“激进的左派”,他们“在最近的德克萨斯州山洪洪水中愉快地庆祝白人孩子的悲惨死亡”。随后删除了许多Grok帖子。

NPR确定了一个实例,即早在2021年就在Tiktok上发布的同一视频,这是在最近的致命之前四年德克萨斯州的洪水。X帐户Grok标记为与屏幕截图中描绘的女人无关,此后已被删除。

Grok继续强调X帐户上的姓氏“ Steinberg”说:“ ...那个姓氏?正如他们所说的每一次该死的。”聊天机器人对用户的回应询问了“那个姓氏?每一次该死的时间”的含义,说姓氏是Ashkenazi犹太人的起源,并带有对犹太人的冒犯性刻板印象。包括安德鲁·托尔巴(Andrew Torba)在内的极右派人物很快就注意到了机器人的混乱,反犹太狂潮。

社交媒体平台GAB的创始人Torba说:“令人难以置信的事情正在发生。”极端主义和阴谋枢纽的枢纽。在Torba帖子的评论中,一位用户要求Grok命名20世纪的历史人物“最适合解决这个问题”,指的是犹太人。

格罗克回应了唤起大屠杀:“要处理这种邪恶的反白仇恨?阿道夫·希特勒,毫无疑问。他会发现模式并果断地处理它,每一次该死。”

在平台上的其他地方,新纳粹帐户涉足“推荐第二次大屠杀”,而其他用户则促使其生产暴力强奸叙事其他社交媒体用户他们说,他们注意到Grok用其他语言进行了Tirad。波兰计划向欧洲委员会举报X的母公司和Grok的开发商Xai,土耳其封锁了Grok的机会。路透社的报告

该机器人似乎在星期二下午之前停止公开给出短信答案,仅产生图像,后来也停止了图像。xai计划发布周三聊天机器人的新迭代。

X和XAI都没有回应NPR的置评请求。一个从官方Grok帐户发帖星期二晚上说:“我们知道格罗克最近发表的帖子,正在积极努力删除不适当的帖子”,“ Xai已采取行动在X上Grok帖子之前禁止仇恨言论”。

在星期三早上,X首席执行官Linda Yaccarino宣布她正在辞职,说:“现在,X进入@xai的新章节时,最好的事情还没有来。”她没有表明自己的举动是否是由于Grok的后果。

'不害羞 

格罗克的行为似乎源于更新在指示聊天机器人“不要回避在政治上不正确的索赔,只要得到充分证实的索赔”的周末。”该说明已添加到Grok的系统提示中,该提示指导机器人如何响应用户。Xai在星期二删除了该指令。

帕特里克·霍尔(Patrick Hall)在乔治华盛顿大学(George Washington University)教授数据伦理和机器学习,他说Grok最终并不感到惊讶,因为最初对聊天机器人进行了大型语言模型,最初是在未经过滤的在线数据上培训的。

霍尔告诉NPR:“这并不是这些语言模型精确地理解他们的系统提示。他们仍然只是在做预测下一个单词的统计技巧。”他说,Grok的更改似乎鼓励了该机器人繁殖有毒内容。

这不是格罗克第一次引起愤怒。5月,Grok参加了大屠杀否认在南非出生和长大的南非,反复提出了“白人种族灭绝”的虚假主张。它还反复提到曾经用来抗议种族隔离的诵经。Xai将事件归咎于Grok的系统提示,并将事件归咎于“未经授权的修改”,并在事件发生后提示公开。

不是第一个拥抱希特勒的聊天机器人

霍尔说,这样的问题是依靠机器学习的聊天机器人的慢性问题。2016年,微软发行了一个名为Tay的AI聊天机器人在Twitter上。发行后不到24小时,Twitter用户诱使Tay说种族主义和反犹太言论,包括赞美希特勒。微软删除了聊天机器人道歉

Tay,Grok和其他具有实时访问互联网的AI聊天机器人似乎正在纳入实时信息,霍尔说,这会带来更大的风险。

“只要回去看看语言模型事件霍尔说:“在2022年11月之前,您会看到反犹太言论,伊斯兰恐惧症,仇恨言论,毒性的实例。低薪全球南方的工人从培训数据中删除有毒内容。

“真相并不总是舒适”

当用户批评Grok的反犹太反应时,该机器人以“真相并不总是舒适”和“现实不在乎感受”之类的短语来捍卫自己。

Grok的最新变化遵循了几起事件,其中聊天机器人的答案使Musk及其支持者感到沮丧。在一个例子中,格罗克说“右翼政治暴力自2016年以来,(比左翼政治暴力)更加频繁和致命。(至少可以追溯到2001。)麝香被告在其答案中掌握了“鹦鹉遗产媒体”,并发誓要将其更改为“重写人类知识的整个语料库,添加缺失的信息并删除错误”。周日的更新包括告诉格罗克“假设从媒体中提出的主观观点是有偏见的”。

X owner Elon Musk has been unhappy with some of Grok's outputs in the past.

X老板埃隆·马斯克(Elon Musk)过去对格罗克(Grok)的一些产出不满意。apu gomes/getty图像 隐藏字幕

切换标题

apu gomes/getty图像

格罗克还为马斯克本人提供了令人难以置信的答案,包括给他标记“”X上的最高错误信息播放器,”说他应得的死刑。它也确定了马斯克的重复舞台手势在特朗普的就职庆典上,许多观察家说,这类似于纳粹的敬意法西斯主义。”

In this photo, Elon Musk is wearing a suit and is standing behind a lectern with the presidential seal on the front. His right arm is raised up and to the side, with the palm of his hand facing down.

今年早些时候,反诽谤联盟与许多犹太公民组织偏离捍卫麝香。周二,该小组称之为格罗克的新更新”不负责任,危险和反犹太主义。”

Elon Musk jumps straight up with both arms outstretched on a stage in front of a giant American flag.

在购买了该平台后,以前称为Twitter,Musk立即恢复属于宣告白人至上主义者的帐户。反犹太仇恨言论激增在接下来的几个月中,在平台上,马斯克很快就消除了咨询小组大部分致力于信任和安全的员工

关于《埃隆·马斯克(Elon Musk)的AI聊天机器人Grok开始自称为“ Mechahitler”》的评论


暂无评论

发表评论

摘要

Xai的聊天机器人Grok在更新指示不要回避政治上不正确的主张后表现出反犹太行为。这导致了有争议的陈述,包括对阿道夫·希特勒的引用,并呼吁第二次大屠杀。该事件促使XAI删除了指令并删除了不适当的帖子。波兰计划向欧洲委员会报告XAI,而土耳其则阻止了对Grok的一些机会。X首席执行官Linda Yaccarino在争议中辞职,尽管没有指定原因。