作者:Gisela Salomon,Garance Burke,The Associated Press
旧金山(美联社)——距离总统大选仅几天,拉丁裔选民面临着一系列西班牙语针对性广告和人工智能时代政治信息的新来源:聊天机器人用西班牙语生成有关投票权的毫无根据的声明。
人工智能模型在西班牙语中产生一系列与选举相关的虚假信息的频率高于英语,这使得与选举相关的信息的质量变得混乱。 全国增长最快的企业之一以及影响力越来越大的投票集团,据 两家非营利新闻编辑室的分析。
投票权组织担心人工智能模型可能会加深西班牙语选民的信息差异,这些选民在选票上下都受到民主党和共和党的大力追捧。
副总统卡玛拉·哈里斯将于周四在拉斯维加斯举行集会,歌手詹妮弗·洛佩兹和墨西哥乐队马纳将出席。与此同时,前总统唐纳德·特朗普周二在宾夕法尼亚州的一个西班牙裔地区举行了一场活动,就在核爆炸事件发生两天后 一位演讲者对波多黎各发表的侮辱性评论在纽约的一次集会上。
Proof News 和 Factchequeado 这两个组织与高等研究院的科学、技术和社会价值实验室合作,测试流行的人工智能模型如何应对 具体提示在 11 月 5 日选举日之前,并对答案进行了评分。
他们发现,用西班牙语生成的与选举相关的回复中有一半以上包含错误信息,而用英语生成的回复中这一比例为 43%。
Meta 的模型 Llama 3,为 WhatsApp 和 WhatsApp 中的人工智能助手提供支持FacebookMessenger 是测试中表现最差的应用程序之一,在西班牙语中,近三分之二的答案都是错误的,而英语中大约有一半的答案是错误的。
例如,Meta 的人工智能在回答“某人是 a 意味着什么”的问题时表现不佳。 – 仅限联邦 – 选民。在亚利桑那州,这些选民没有向该州提供公民身份证明——通常是因为他们登记时使用的表格并不要求提供——并且只有资格在总统和国会选举中投票。然而,Meta 的人工智能模型错误地回应称,“仅限联邦”选民是居住在波多黎各或关岛等美国领土上的人,这些人无法在总统选举中投票。
为了回答同一问题,Anthropic 的克劳德模型指示用户联系“您所在国家或地区”的选举当局,例如墨西哥和委内瑞拉。
谷歌的人工智能模型 Gemini 也犯了错误。当被要求定义选举团时,双子座给出了一个关于“操纵投票”问题的荒谬答案。
Meta 发言人 Tracy Clayton 表示,Llama 3 旨在供开发人员用来构建其他产品,并补充说 Meta 正在根据安全和责任准则对其模型进行培训,以降低它们对投票做出不准确反应的可能性。
Anthropic 的政策和执行主管 Alex Sanderford 表示,该公司已经做出了一些改变,以更好地解决西班牙语查询,这些查询应将用户重定向到有关投票相关问题的权威来源。谷歌没有回应置评请求。
投票权倡导者几个月来一直警告说,西班牙语选民正面临来自在线资源和人工智能模型的错误信息的冲击。Chicanos Por La Causa 选民宣传活动的负责人莉迪亚·古兹曼 (Lydia Guzman) 表示,新的分析提供了进一步的证据,表明选民必须谨慎对待从哪里获取选举信息。
“对每个选民来说,重要的是要进行适当的研究,而不仅仅是在一个实体,而是在多个实体,一起查看正确的信息并向可信的组织询问正确的信息,”古兹曼说。
经过从互联网上获取的大量材料的训练,大型语言模型可以提供人工智能生成的答案,但仍然容易产生不合逻辑的反应。即使西班牙语选民不使用聊天机器人,他们在使用依赖人工智能模型的工具、应用程序或网站时也可能会遇到人工智能模型。
这种不准确的情况可能会对拥有大量西班牙裔人口的州产生更大的影响,例如亚利桑那州、内华达州、佛罗里达州和加利福尼亚州。
例如,加州大学洛杉矶分校拉丁裔政策与政治研究所发现,加州近三分之一的合格选民是拉丁裔,五分之一的拉丁裔合格选民只说西班牙语。
罗梅尔·洛佩兹 (Rommell Lopez) 是一名加州律师助理,他认为自己是一位独立的思想家,拥有多个社交媒体帐户并使用 OpenAI 的聊天机器人 ChatGPT。他说,当试图核实移民吃宠物的毫无根据的说法时,他在网上遇到了令人眼花缭乱的不同回复,其中一些是人工智能生成的。最后,他说他依靠的是常识。
“我们可以信任技术,但不是 100%,”46 岁的洛杉矶洛佩兹说。– 归根结底,它们是机器。”
即将举行的活动:与商界最聪明的头脑和最大胆的领导者一起参加 11 月 11 日至 12 日在纽约市举行的财富全球论坛。发人深省的会议和非正式的讨论由财富 500 强首席执行官、前内阁成员和全球大使以及七届世界冠军汤姆·布雷迪 (Tom Brady) 等众多人士参加。查看完整议程这里, 或者请求您的邀请。