极端分子正在利用人工智能在网上为新一代复活阿道夫·希特勒,将这位策划大屠杀的纳粹德国领导人重新塑造为一个被误解的人物,他的反犹太主义和反移民信息在当今的政治中重新引起共鸣。
这些利用廉价且流行的人工智能克隆声音工具的帖子在X和TikTok的评论中获得了好评,比如“我想你A叔叔”、“他是英雄,也许他不是坏人”等。在 Telegram 和暗网上,极端分子吹嘘说,人工智能操纵的演讲提供了一种引人入胜且毫不费力的方式来重新包装希特勒的想法,以激化年轻人。
这类内容正在以闪电般的速度向广大受众传播红药丸,被认定为法西斯的网站美国未来主义者9月17日在其公共Telegram频道上发布了一个短语,描述了戏剧性地重塑某人的世界观。在宣传方面,它是无与伦比的。
非盈利性战略对话研究所和 SITE 情报集团与《华盛顿邮报》独家分享的新纳粹活动的视频、聊天论坛消息和屏幕录像中记录的宣传内容,正在帮助推动网上对希特勒的兴趣重新燃起。专家说,美国右翼。在周五发布的一份报告中,ISD 研究人员发现,自 8 月 13 日以来,颂扬、原谅或将希特勒演讲翻译成英文的内容在 X、TikTok 和 Instagram 上的浏览量已达到约 2500 万次。
随着前总统唐纳德·特朗普和他的共和党竞选搭档、俄亥俄州参议员 JD 万斯提出了在网络新纳粹社区中流行的阴谋论,这些视频越来越受到关注,其中包括毫无根据的声称俄亥俄州的海地移民正在吃宠物。
专家表示,最新一代的人工智能工具可以在几秒钟内变出栩栩如生的图片、声音和视频,让边缘群体为令人憎恶的意识形态注入新鲜活力,为社交媒体公司提供激进化的机会和温和的挑战。
大西洋理事会数字取证研究实验室常驻高级研究员艾默生 T. 布鲁金 (Emerson T. Brooking) 表示,它实现了一种新的情感参与方式,可能对新一代更具吸引力。
去年,一名用户在视频共享网站 Odysee 上举办了一场直播,教人们使用 ElevenLabs 的人工智能语音克隆工具和视频软件来制作希特勒视频。在大约五分钟内,他创建了一个希特勒的人工智能语音克隆,似乎在用英语发表演讲,谴责犹太人从资本主义制度中获利。
该用户使用 OMGITSFLOOD 账号,被 SITE Intelligence Group 认定为著名的新纳粹内容创作者,该组织在线跟踪白人至上主义者和圣战分子活动,他在直播中表示,希特勒是最好的国王之一曾经在世的领导人。该用户补充说,他希望激励像希特勒这样的未来领导人,他们可能会投票给特朗普,但只是没有被击败。
ElevenLabs 人工智能安全副总裁 Artemis Seaford 表示,该公司禁止使用其工具创建暴力、仇恨或骚扰内容。在《华盛顿邮报》向 ElevenLabs 举报该直播视频后,Seaford 表示该公司禁止该用户使用其平台。(今年早些时候,一名民主党特工使用 ElevenLabs 人工智能语音工具来欺骗总统乔·拜登的声音。)Odysee 和 OMGITSFLOOD 未回复置评请求。
制作视频只需要从 YouTube 上获取的希特勒演讲的几秒钟样本。如果没有人工智能,欺骗就需要先进的编程能力。一些错误信息和仇恨言论专家表示,人工智能的易用性正在加速反犹太主义内容的在线传播。
左倾非营利监管机构“美国媒体事务”的错误信息研究员艾比·理查兹说,现在传播这些东西变得容易多了。您发布的内容越多,获得更多关注的机会就越大。
SITE Intelligence Group 执行董事丽塔·卡茨 (Rita Katz) 表示,新纳粹分子一直在寻找方法将他们的叙述纳入主流话语。她补充说,人工智能可以通过创建吸引人们注意力的消息来提供帮助。
卡茨说,这些伪装的希特勒人工智能视频……用一点好奇心吸引用户,然后让他们聆听种族灭绝怪物的声音。在 TikTok、X 和 Instagram 上,人工智能生成的希特勒演讲通常不带有纳粹宣传的特征。9 月份发布在 TikTok 上的一段视频描绘了一个看起来像希特勒的男人的剪影,并写着:听着。
在缓慢的器乐节奏中,人工智能生成的希特勒声音以他标志性的节奏讲英语,背诵他 1942 年纪念啤酒馆政变的演讲节选,这是一场 1923 年失败的纳粹政变,使希特勒一举成名。据 Media Matters for America 称,该视频已不再在线,观看次数超过 100 万次,点赞次数超过 12 万次。
ISD 技术与社会主任伊莎贝尔·弗朗西斯-赖特 (Isabelle Frances-Wright) 表示,即使没有明确的支持希特勒的评论,人工智能希特勒的演讲也可以作为激进化的有效工具。她说,阅读希特勒演讲的德文译本与听他用非常情绪化的英语说这句话有很大区别。
弗朗西斯-赖特将它们与去年在 TikTok 上疯传的视频进行了比较,在视频中,内容创作者阅读了奥萨马·本·拉登给美国的信宣言的摘录,并得到了美国年轻人的回复,比如,天哪,我们是坏人吗?
理查兹说,在 TikTok 上,用户可以使用应用程序的 Duet 功能轻松分享和构建视频,这使得人们可以将原始视频与自己对此做出反应的视频一起发布。卡茨补充道,由于这些视频不包含明显的恐怖分子或极端主义标志,因此科技公司极难对其进行监管。
Meta 发言人特雷西·克莱顿 (Tracy Clayton) 表示,该公司在收到《华盛顿邮报》的警告后删除了 Instagram 视频,因为它们违反了公司的内容政策。TikTok 发言人尼克·史密斯 (Nick Smith) 表示,该公司删除了《华盛顿邮报》向该公司标记的所有视频,因为它们违反了 TikTok 的社区准则。YouTube 发言人杰克·马龙 (Jack Malon) 表示,该网站的社区准则禁止发布颂扬纳粹主义等仇恨意识形态的内容,并且我们删除了《华盛顿邮报》向我们标记的内容。
ISD 报告指出,其数据集中的亲希特勒内容在 X 上获得了最大的受众,也最有可能通过网站算法进行推荐。X 没有回复评论请求。
根据非营利性南方贫困法律中心的年度报告,自 2017 年以来,美国活跃的新纳粹团体数量有所下降,部分原因是当年夏洛茨维尔致命的团结右翼集会后执法部门的镇压。
该中心的高级研究分析师汉娜·盖斯表示,但这并不意味着纳粹主义正在衰落。右翼极端分子正在转向在线论坛而不是官方团体来组织和生成内容,利用主流社交媒体平台来接触更广泛的受众并招募新的追随者。盖斯说,虽然不可能量化极右翼网络宣传对现实世界的影响,但当保守派专家塔克·卡尔森、亿万富翁埃隆·马斯克和特朗普顾问斯蒂芬·米勒等知名人士拥护元素时,你可以看到其影响力的证据。反犹太主义大替代阴谋论,或者当新西兰布法罗、埃尔帕索和基督城的大规模枪击事件发生时,都引用它作为灵感。这些备受瞩目的新闻事件反过来又重新激发了网上对极右意识形态的兴趣。ISD 的报告发现,本月 X 上颂扬或捍卫希特勒的帖子激增,此前卡尔森发布了对大屠杀修正主义者达里尔·库珀 (Darryl Cooper) 的采访,马斯克转发了该采访并称其值得一看。(马斯克后来删除了他的帖子。)
卡尔森、马斯克和米勒没有回复置评请求。
今年早些时候,支持特朗普的阴谋论者多米尼克·麦吉 (Dominick McGee) 在 X 上发布了希特勒 1939 年德国国会演讲的英语 AI 音频再现,根据 Xs 的指标,该演讲获得了 13,000 次转发、56,000 次点赞和超过 1000 万次观看。(专家指出,与其他网站相比,X 上的观看次数可能会增加。)
麦基写道,这种人工智能翻译让观众了解希特勒的思想。去年,马斯克因发布儿童性虐待视频而被停职后,他的 X 账户备受争议地恢复了。虽然麦吉斯的帖子并不认可希特勒的观点,但许多回复表示赞同,而其他人则要求将演讲翻译成法语、阿拉伯语和孟加拉语。
ISD 高级研究员贾里德·霍尔特 (Jared Holt) 最近与人合写了一份关于 TikTok 上白人民族主义兴起的单独报告,他表示,极端分子往往是最先利用新兴技术的群体之一,这往往使他们能够操纵障碍,阻止此类行为的发生。已建立平台上的材料。霍尔特说,你不能假设每个观看或分享人工智能希特勒视频或模因的人都同意它,有些人可能只是觉得它有趣或前卫。
但他说,在更广泛的政治体系中,如果人们一遍又一遍地遇到这些内容,它可能会产生脱敏或正常化的效果。