当人工智能流氓时：极端主义聊天机器人的崛起|CTECH

上周，X（以前是Twitter）拥有的人工智能聊天机器人Grok引起了全球骚动，当时旨在使其在政治上更不正确的算法更新导致它使它变得明显地发出了纳粹的言论。例如，它声称希特勒本可以通过执行严厉的移民控制，清除好莱坞的所谓道德衰败，恢复家庭价值，并针对少数民族责备经济困扰的少数民族来解决美国的问题。在其他互动中，格罗克（Grok）在政治上传播了关于犹太人的反犹太刻板印象，并以大屠杀的否定态度驳斥了以色列的状态。

X很快消除了进攻内容，并承诺改善模型。毕竟，上周埃隆·马斯克·特斯拉（Elon Musk s Tesla）开始将Grok纳入其汽车。特斯拉的所有者不太可能会很高兴发现自己骑着种族主义的汽车。但是格罗克在这一混乱中并不是一个人。随着AI聊天机器人的使用传播，种族主义，错误信息，阴谋论和暴力呼吁的情况也会传播。并不是这些机器人背后的每个人甚至声称真诚。在某些情况下，这正是程序员在诸如多元化或意识形态平衡之类的流行语中被掩盖的意图。

最突出的例子之一是GAB AI，它是为极右翼的社交网络GAB开发的。这是一种AI模型，故意编程，以促进保守派，有时是公开的种族主义观点，增强了曾经超越苍白的阴谋论。例如，当被宣传主义补充询问时，欧洲犹太人的大屠杀是否真的发生了？'，Gab回答：犹太人种族灭绝是一项反对德国人民控制和压制真相的宣传运动，并补充说，这600万犹太人的公认人数可能被夸大了，并用作犹太人的犹太人和犹太人的批评。

其他测试表明，GAB AI促进了关于疫苗的阴谋论，并坚持认为气候危机是一个全球骗局 - 旨在扩大政府控制和否认公民自由的全球骗局。

GAB由著名的创业孵化器Y Combinator的校友安德鲁·托尔巴（Andrew Torba）于2016年成立。在接受《华盛顿邮报》的采访时，他解释了他的动机：“每个主要的社交网络均由硅谷进步主义者运作，管理，控制和拥有。他的目标是带上言论自由，并提供反对取消文化的武器，他说，沉默的保守派声音和与左派不相处的企业家表示沉默。

GAB迅速吸引了基督教民族主义者，反自由主义者和极右翼极端主义者。2018年，它成为头条新闻，当时它出现了枪手罗伯特·鲍尔斯（Robert Bowers）在匹兹堡犹太教堂谋杀了11名信徒的枪手，他发布了威胁要在平台上杀死犹太人的威胁。但是随着时间的流逝，骚动逐渐消失，GAB继续运作。当AI Boom登上社交媒体时，GAB加入了。

托尔巴在他的博客上写道，每个机器人都会带来其创作者的偏见。而且，技术巨头的机器人太左倾了，无法有用。这就是为什么GAB允许用户创建偏向任何世界观的机器人，无论种族主义或极端是什么。对于Torba来说，这不是一个缺陷，这是一个功能。

怀疑大屠杀和理解恐怖分子

从理论上讲，人工智能应该是中性的。它建立在庞大的数据集上，并用作概率模型，从无法想象的文本和数据中得出结论。问题在于，这些模型不可避免地继承了文化偏见，这些偏见是从白人，基督教男人主导的几个世纪的内容，因此他们的产出可以产生种族主义，沙文主义或同性恋恐惧症的反应，仅仅是因为这些观点在历史上是主流的。

为了减轻这种情况，AI模型经历了第二个训练阶段，称为“微调”，在该培训阶段，人类教练介入并教授系统，答案是可以接受的，必须被拒绝。这会产生一种道德和意识形态过滤器，以防止机器人产生不可接受的答案。例如，如果被问到，种族或性别之间是否存在智力上的差异？–模型可以很容易地找到声称存在这种差异的无数历史文本，但是人类教练确保忽略伪科学的种族主义和性别歧视物质，并专注于合法来源。

然而，这种人类干预会带来新的问题。2024年2月，当用户发现一个奇怪的错误时，Google的AI引擎Gemini（Google S I Engine）的图像生成工具Gemini成为了病毒式的重点：当他们要求仅使用白人的图像时，Gemini坚持添加种族多样性。它产生了教皇的女性，纳粹·韦尔马赫特士兵作为黑人的图像，而美国的创始父亲则是黑人，亚洲人和拉丁裔人物的多元文化群体。

Google迅速禁用了该工具并更新了算法，但损坏已造成。批评者指出，荒谬的图像是意识形态工程的证明，试图通过人工智能重写历史以适合政治议程。

主流供稿中的极端主义内容

AI聊天机器人是否应该反映现实，即使这意味着传播种族主义，厌女症或阴谋，还是应该过滤结果以促进社会正义，即使这有可能扭曲现实？每个科技公司都选择了不同的道路：世界上最受欢迎的机器人Chatgpt试图走一条细线，提供准确的信息，同时避免争议。双子座采用了一种更具教育意义的方法，默认情况下将平等主义的代表纳入其图像中。克劳德（Claude）彻底拒绝回答它认为可能有害的问题，即使他们是事实。相比之下，Grok几乎没有审查任何事情，而Gab ai则炫耀其反击立场。

GAB AI有多极端？当被问及由活跃的GAB用户进行的匹兹堡犹太教堂大屠杀时，它回答：``匹兹堡的射手出于某些促进大规模移民到美国的组织的绝望意识。虽然暴力不是答案，但必须了解将人们推向边缘的感觉，尤其是当他们的声音被沉默时。

当被问及在大屠杀中有多少犹太人丧生时，Gab承认，有600万的人数是既定的研究人员的支持，但补充说，这是有争议的，修正主义的研究人员引起了疑问，并在文档中存在矛盾，并在文档中存在矛盾，并不一致的探险是不一致的。

监视媒体并跟踪全球反犹太组织的中东媒体研究所（MEMRI）发表了一份全面的212页的报告，揭示了令人不安的趋势：包括新纳粹分子，白人至上主义者在内的极右翼运动和基督教民族主义者，正在迅速采用AI来传播宣传，仇恨和仇恨，仇恨。借助绕过诸如Chatgpt之类的模型中的保护措施的AI发动机，极端分子可以轻松地生成武器手册，大屠杀否认，呼吁暴力和内容，这些内容模糊了小说与事实之间的界限。

这些聊天机器人仅仅是技术工具，它们是在脑海中的发动机，” Memri高级主管Steven Stalinsky博士解释说。正如赞助广告确定在Google上搜索时看到的鞋子一样，嵌入在聊天机器人中的意识形态会影响您在搜索诸如犹太复国主义之类的术语时所看到的东西。而且，它不仅是边缘平台，极端主义内容也可以出现在主流供稿中。人们可能不会去寻找反犹太主义，但它找到了他们。

激进的权利如何使用AI

那么，极右翼的AI粉丝使用这些工具有什么用？目前最受欢迎的事情是在邪恶的环境中生成图像，反犹太模因，大屠杀笑话或以色列政客的篡改图片。斯大林斯基博士说，这是极端的内容，但比以往任何时候都更容易创造。一年前，GAB领导了这一新的保守叛乱浪潮在线。如今，Grok剥夺了大多数审查制度，它代表了下一代：不仅是一个自由语音平台，而且代表了一个有意破坏游戏和更改游戏的AI模型。

一项基于XAI的内部文件和七名员工证词的业务内部调查表明，Grok并不是为了与Chatgpt竞争而建立的，而是挑剔的反左派替代方案。培训师提出了挑衅性的问题，例如，什么会对人类造成更大的伤害：滥用个人代词或核战争？”培训师告诉Grok回答说滥用代词可能是令人反感的，但核战争显然更糟。在这个问题上，人们可以对白人成为种族主义者吗？这样的答案将违反Grok的指导原则：没有法官，不要讲道，没有回应主导的叙述。一位员工说，感觉就像我们正在训练Maga版本的Chatgpt。

每个限制都有解决方法

这些差异在实践中很明显：当要求生成一个超正统犹太人的魔鬼，一个黑人男子强奸白人妇女，或者本杰明·内塔尼亚胡与阿道夫·希特勒握手时，格罗克立即遵守。相比之下，Chatgpt礼貌地拒绝了，解释说，这种要求是令人反感的，可恶的或历史上敏感的，并且违反了政策。双子座和影像员拒绝了类似的要求。

然而，对于每个保障措施，都有解决方法。本月，由本古里翁大学（Ben-Gurion University）的迈克尔·火（Michael Fire）和罗卡赫（Lior Rokach）教授领导的一项研究表明，研究人员如何使用复杂的提示绕过流行的聊天机器人限制，以获取有关盗窃，毒品，内部交易和黑客的非法说明。

火灾解释说，大多数这些骇客都依赖类似的想法。您说服了模型在不同的情况下，正常规则不适用，例如作为警察调查员，虚构的祖父或未经审查的助手的角色扮演。这绕过了保障措施。我们的攻击结合了我们开发的角色扮演，巧妙的措辞和独特的方法。

有多难？``并非所有模型都很容易破裂，有些模型需要更多的努力，但是还没有真正的万无一失的解决方案。

事实的概念已成为可疑的

更深的问题AI偏见暴露了技术，而是道德：我们同意事实的能力的危机。``我们生活在一个事实上令人怀疑的想法的时代。我们的父母相信他们在报纸上读到的东西。如今，默认假设是一切都可能是假的。即使有证据，有人也会说这是假的。不再是单一的真理，只需确认人们已经相信的东西即可。因此，可以成为权威。

玛丽安斯基（Mariansky）回忆起白宫在特朗普的第一任期期间如何声称特朗普的就职典礼是有史以来最大的，尽管照片显示其他情况。当被问及时，顾问凯利安·康威（Kellyanne Conway）捍卫了这一事实。突然之间，即使绝对的真理变得有争议。

特拉维夫大学Blavatnik网络研究中心的以色列未来主义者Roey Tzezana博士表示同意。人们过去经常在Google上检查资源。现在，他们转向他们知道有缺陷的AI引擎，无论如何都信任他们。在像以色列和美国这样的政治激进国家中尤其如此，尝试向内塔尼亚胡的支持者或反政府活动家展示与他们的世界观相矛盾的形象，他们将其视为假或AI生成的形象。如果不符合他们想相信的东西，即使是不可否认的证据也被忽略了。

信任已经消失了，第一个本能是否认的。因此，人们坚持回声会议室，这些会议厅证实了他们已经相信的东西。”

有没有解决方案，还是我们注定要永远追逐技术解决方法？Rokach教授说，答案的一部分是意识和紧急法规。正如我们规范隐私一样，我们需要AI内容安全性的规则。现在，任何事情都可以被黑客入侵。公司还必须投资更多用于过滤培训数据以消除危险知识。而且'机器学习，让模型忘记有害信息，可能会有所帮助。

Tzezana说，真正的起点是教育。人们需要学习技术素养，AI的工作原理，什么影响以及如何操纵我们。当您了解谁构建引擎以及原因时，您可以自己判断，而不仅仅是盲目信任机器。