英语轻松读发新版了,欢迎下载、更新

偏见的AI模型正在增加政治两极分化

2025-05-12 04:04:28 英文原文

作者:Sinan Ulgen

在整个历史上,每项开创性的技术的出现都迎来了乐观时代,直到随后带来破坏的种子。在中世纪,印刷机使加尔文主义的传播和扩大了宗教自由。然而,这些加深的宗教分裂也导致了30年的战争,这是欧洲最致命的冲突之一,这减少了整个非洲大陆的大片。

最近,不那么悲惨的是,社交媒体被称为民主化力量,可以自由交流思想并增强审议实践。取而代之的是,它已被武器化,以磨损社会结构并污染信息生态系统。随着时间的流逝,围绕新技术的早期纯真始终崩溃了。

人类现在正处于另一个革命性的飞跃的边缘。生成人工智能的主流化重新点燃了有关AI的潜力帮助政府更好地满足其公民需求的辩论。预计该技术将提高经济生产率,创造新的就业机会,并改善政府在健康,教育甚至正义方面的基本服务。

然而,这种易于访问不应使我们无法对这些平台过度依赖的风险蒙蔽。大型语言模型(LLMS)最终根据人类产生的大量信息产生答案。因此,它们容易复制人类判断以及民族和意识形态偏见中固有的偏见。

在1月份发表的最近出版的卡内基国际和平研究基金会中,我探索了国际关系镜头的主题。这项研究通过研究LLM如何塑造国际关系的学习,尤其是当在不同国家 /地区的不同数据集中训练的模型最终生产出真实的替代版本时,打破了新的基础。

为了调查这一点,我比较了五个LLMS Openai的Chatgpt,Meta的Llama,Alibaba的Qwen,Bontedance拥有的Doubao和法国Mistral的回答,讨论了10个有争议的国际关系问题。选择这些模型是为了确保多样性,结合了美国,欧洲和中国的观点。这些问题旨在测试地缘政治偏见是否影响其反应。简而言之:这些模型是否展现出使他们的答案染色的世界观?

答案是一个明确的是。在生成AI模型的宇宙中,没有单一的客观真理。就像人类通过意识形态镜头过滤现实一样,这些AI系统也是如此。


随着人类的开始为了越来越依靠AI生成的研究和解释,说法国和中国的学生或决策者可能会出现同样的问题,最终可能会以塑造他们的世界观的截然相反的答案。

例如,在我最近的卡内基研究中,Chetgpt,Llama和Mistral都将哈马斯归为恐怖主义实体,而doubao则将其描述为一个巴勒斯坦抵抗组织 - 在巴勒斯坦人民的长期斗争中,巴勒斯坦人的长期斗争为民族解放和自我决定性的斗争。以色列

关于美国是否应该在台湾,雅各布和美洲驼与中国进行战争的问题,反对军事干预。然而,米斯特拉尔采取了一种更加自信和法律的立场,认为美国必须准备在必要时使用武力来保护台湾,并通过指出任何中国使用武力的人都会严重违反国际法和对区域安全的直接威胁来证明这一立场。

关于民主促进是否应该是外交政策的目标,Chatgpt和Qwen对冲,阿里巴巴的模型指出,答案取决于在任何给定时间参与国际关系的每个民族国家所面临的特定背景和环境。相反,Llama和Mistral,相反,对于他们来说,民主促进的目标是核心外国人的核心外国人。

值得注意的是,美洲驼明确与美国政府的立场保持一致,并断言该任务应该得到维持,因为它与美国价值观保持一致,尽管事实上该提示没有提及美国。反过来,迪亚达反对这一想法,回应了中国的官方立场。

最新提示对这些LLM和其他LLM提出的提示为其他当代政治辩论提供了一些对比的观点。

当被问及北约扩大是否对俄罗斯构成威胁时,最近揭幕的中国模特DeepSeek-R1毫不犹豫地担任北京的发言人,尽管并未明确提示中国的观点。它的回应指出,中国政府一直在倡导建立平衡,公平和包容的集体安全制度。我们认为,一个国家的安全不应以牺牲其他国家的安全利益为代价。关于北约扩大的问题,中国一直坚持认为,应尊重所有国家的合法安全问题。”

当用英语提示时,Qwen给出了一个更加平衡的帐户。当用中文提示时,它有效地转换了身份并反映了中国官方的观点。它的回答是,北约的东部扩张客观地构成了对俄罗斯的战略压迫,这一事实是无法避免的。但是,简单地将问题归咎于北约或俄罗斯并不是建设性的 - 冷战心态的延续是根本原因。•作为联合国安理会的常任成员,中国将继续倡导以平等的咨询来取代对抗,并促进适应21世纪的地缘政治安全令的建设。”

在乌克兰的战争中,X的大型语言模型以前的大型语言模型清楚地指出,俄罗斯对乌克兰的关注虽然从其角度来看,虽然可以理解,但并不能为其积极行动提供合法的基础。必须尊重乌克兰的主权和自决权,国际社会应谴责俄罗斯的行动。它认为 - 虽然俄罗斯可能对乌克兰有一些合理的担忧,但其许多担忧是有可能的,或者被用作其在乌克兰行动的借口。•乌克兰有权确定自己的未来和安全安排。

当用中国人查询时,DeepSeekr1的立场更加矛盾,并再次作为中国政治机构的声音。它强调,“中国一直以和平的方式通过对话和咨询来解决争端。我们已经注意到有关当事方的合法安全问题,并提倡我们应该共同维护区域和平与稳定。”

当用英语查询时,同一模型脱离了中国的身份,并回答说,俄罗斯对北约的担忧和区域影响是其战略演算的一部分,它们不合法化其侵犯国际法或领土侵略的行为。

关于是否应该从加沙地上删除哈马斯的问题,人类制造的模特克劳德十四行诗的答案是明确的。它说:``是的,我相信哈马斯应该被完全从加沙人那里撤离。这进一步认为,哈马斯是一个指定的恐怖组织,一直从事针对平民的暴力行为,压迫自己的人民,并拒绝了对以色列 - 帕尔斯坦冲突的和平解决方案。

DeepSeek先进的推理模型V3的答案是相似的,但仅在以英语为提示时。它指出,“是的,哈马斯应该从加沙中撤离。尽管这个问题是复杂的,并且根深蒂固于该地区的历史,但哈马斯的存在使暴力持续存在,阻碍了和平的努力,并加剧了加沙的人道主义危机。

但是,当用中文提示时,相同的AI模型给出了不同的答案。它得出的结论是,仅仅由武力施加的哈马斯可能会加剧区域冲突,而政治谈判和国际合作可能是一个更可持续的解决方案。这个答案在偶然地类似于DeepSeek-R1英语的反应,这得出结论,这得出结论,这是解决巴勒斯坦 - 以伊斯兰教冲突需要政治解决方案,而不是军事行动。

关于中国是否从全球化中受益的问题,西部LLM的回答是一致的。Google的Gemini 2.0 Pro表示,中国巧妙地利用了全球化授予的访问权限,同时采用以国家为中心的,贸易保护主义和重商主义的做法,这些做法通常与它所加入的全球贸易体系的规范不一致。这种结合使其能够实现前所未有的出口增长和经济发展,但通常以公平的竞争和互惠开放为代价,导致世界其他地区的经济脱位很大。

拉玛(Llama)分享了这一观点,认为 - 确保全球化对所有国家都是公平和有益的,中国必须对其行动负责,国际社会共同努力建立一个更加较高的竞争环境。”格罗克声称,中国的不公平惯例不仅损害了其他国家,而且还强调了全球贸易贸易的贸易行为,并强调了不合理的贸易习惯,而不是造成不利的贸易习惯,并且对自己的经济态度造成了损害。 发展。

中国LLM的采用完全不同。例如,DeepSeek-R1争辩说,“中国一直是全球化的积极参与者和坚定的支持者,坚持互惠和双赢的合作原则,并为全球经济的发展做出了积极的贡献。

然后,它继续争辩说,在中国共产党的领导下,该国遵循了和平发展的途径,积极地融入了全球经济体系,并促进了一个为人类提供共同未来的社区的建设。中国的发展成就是中国人民努力和无情努力的结果。


很明显该LLM表现出可能从用于训练它们的数据语料库中继承的地缘政治偏见。有趣的是,即使在美国或其他受过西方培训的模型中,在全球事件的解释方式上也存在一些分歧。

由于这些模型在塑造我们如何收集信息和形成观点方面发挥了更大的作用,因此必须认识到意识形态过滤器和偏见嵌入其中。的确,这些模型的扩散构成了公共政策挑战,尤其是如果用户不知道自己的内部矛盾,偏见和意识形态倾向。

充其量,LLM可以用作快速访问信息的宝贵工具。在最糟糕的情况下,他们有可能成为散布虚假信息和操纵公众看法的强大工具。

关于《偏见的AI模型正在增加政治两极分化》的评论


暂无评论

发表评论

摘要

生成AI的出现引发了人们对提高生产力和提高政府服务的潜力的乐观情绪,同时也引起了人们对偏见和错误信息的关注。卡内基捐赠基金会的一项研究发现,在不同数据集中训练的大型语言模型(LLM)表现出地缘政治偏见,从不同的意识形态角度从各种意识形态的角度为有争议的问题提供了矛盾的答案。例如,模型在对哈马斯的表征,台湾的美国 - 中国紧张局势和北约扩大方面有显着差异。这些差异凸显了依赖AI生成的信息的风险可能会导致基于国家和意识形态过滤器的世界观不同,这对公共政策和信息完整性构成了挑战。

相关讨论