2024-09-18 10:07:47 英文原文
九月1 月 18 日 (UPI)——专家警告称，人工智能创建的虚假图像、视频和音频用于传播有关 2024 年选举的虚假信息，可能会巧妙地影响选民并加剧国家的政治分歧。
埃隆大学 Imaging 的一项调查数字未来中心发现，69% 的参与者不相信大多数选民能够检测到虚假照片、音频或视频。该调查考察了人们对人工智能的态度及其在 2024 年美国政治中发挥的作用。
佛罗里达大学媒体与技术信任联盟董事总经理珍妮特·科茨 (Janet Coats) 告诉 UPI，社交媒体仍然是传播虚假信息的主要渠道。人工智能正日益成为增强这些误导性和虚假信息的更常见工具。
“我们过去称之为宣传。只要人们以某种有组织的方式进行交流，它就一直存在，”科茨说。“在这个选举周期中，我们开始看到人工智能的崛起，它成为一种非常简单、相当复杂、用户友好的工具，用于制造虚假信息，然后使用社交媒体平台将其推送给消费者。你几乎接触到每个人。”
“事情进展得如此之快，它可能会给你留下深刻的印象，也许你会把它记在心里，而没有真正深入研究它，但它确实存在。影响你对所看到的其他事物的看法。”
随着大选临近，知名人物以传播虚假信息的方式分享人工智能创建的内容。前总统、共和党候选人唐纳德·特朗普 (Donald Trump) 在 8 月份分享了泰勒·斯威夫特 (Taylor Swift) 人工智能生成的背书。斯威夫特后来正式支持特朗普的对手、副总统卡马拉·哈里斯。
几周后，X 所有者埃隆·马斯克分享了一张哈里斯穿着典型共产主义服装的照片，错误地声称哈里斯“发誓要成为一名共产主义独裁者”。第一天。”
“你能相信她穿那套衣服吗！？”马斯克在 X 上发帖。
范德比尔特大学 (Vanderbilt) 心理学副教授丽莎·法齐奥 (Lisa Fazio) 研究人们如何从周围的世界学习真实和虚假信息，以及这些信息如何塑造他们的观点或更容易接受虚假信息。她告诉合众国际社，特朗普和马斯克的这些帖子是向他们的追随者表明他们应该相信什么的方式。
“特朗普分享人工智能生成的泰勒·斯威夫特图像的原因之一是它不需要让选民相信她确实支持了，”法齐奥说。“这只是另一个迹象，‘特朗普很受欢迎，你站在获胜的一方。’”
人工智能生成的虚假信息不太可能导致选民改变投票，法齐奥和科茨说，但它可能会加剧两极分化，在政治意识形态之间造成更大的分歧。
X 和 Meta 等社交媒体公司广泛采用了新政策，对涉及虚假信息的帖子和帐户进行标记和降级，因为这些帖子和帐户在引发虚假信息方面发挥了作用1 月 6 日美国国会大厦骚乱。
自那以后的几年里，这些公司——尤其是 X——已经缩减了旨在打击虚假信息和错误信息的团队和机制。马斯克在 2022 年接手该公司后，迅速解雇了信托政策主管，这是他的第一步举措。他继续裁员 X 的信任和安全角色。
埃隆大学调查中约 73% 的受访者认为，人工智能很可能或在一定程度上可能会被用来通过操纵社交媒体来影响选举结果。媒体。大约 70% 的人表示选举将受到人工智能的使用的影响，大约 62% 的人担心这可能会说服一些选民不投票。
有关人们如何、在哪里以及何时投票的虚假信息科茨说，他们的资格对选举的威胁比人工智能生成的帖子（如特朗普或马斯克的帖子）更大。
新罕布什尔州的选民收到了人工生成的声音的机器人电话，据称是总统乔·拜登在领导。直到今年早些时候的州初选。这些呼吁敦促选民为大选“保存你的选票”。
“这可能会对摇摆州产生影响，让人们认为我投票没有意义，或者我已被取消投票或发送的资格查出有关投票的虚假信息，”科茨说。“在势均力敌的州，低迷的投票率是导致局势恶化的一种方式。”
人工智能创建的图像有一些明显的迹象。该技术的明显局限性之一是它无法创造出真实的手。他们经常有错误的手指数量或摆出不自然的姿势。
然而，技术将继续变得更加复杂，其产生的内容将更加令人信服。
人工智能-生成的声音更难以检测。
“有些人的声音很容易复制，”科茨说。“拜登的特点之一是他有非常独特的演讲节奏。”
佛罗里达大学和其他大学正在研究利用人工智能本身来发现人工智能生成的虚假信息的独特方法。
>
华盛顿大学艾伦人工智能研究所于 2019 年推出了名为 Grover 的人工智能软件。该软件用于检测虚假新闻报道，准确率高达 92%。还有像 Check by Meedan 这样的工具，这是一种事实核查软件，用于检测非洲和南美洲的错误信息。
“他们正在自行启动机器，”科茨说。
<长期以来，人们一直担心技术（目前是人工智能）如何影响社会。法齐奥表示，随着时间的推移，社会往往会适应识别数字编辑照片和深度伪造品等事物。这让她有些乐观，认为人工智能生成的虚假信息也是如此。“注意消息来源和来自谁。想想他们是否有动机推动与他们一致的事情的观点，”她说。“我对此类错误信息的担忧之一不仅在于它的存在可能会改变人们的想法。还在于它可能会让人们怀疑真实的事物。”
法齐奥提到了一张照片哈里斯竞选集会让社交媒体上的一些用户怀疑人群是否真实，或者这些图像是否是人工智能生成的。
自 2022 年 ChatGPT 推出以来，国会提出了多项法案，试图规范人工智能的使用。这些法案都没有获得足够的关注，表明有意义的执行正在进行中。
科茨说，追求监管将是一条通往艰巨任务的漫长道路。
“我们”我们总是在打最后一场战争，我们必须考虑一种监管方法，”科茨说。“问题的一部分是这是全球性的。这不是你可以在一个地方进行监管而不会在其他地方出现复杂情况的事情。”
这也会引发一些有趣的问题。
“机器有言论自由权吗？知识产权吗？”科茨问道。“当他们对此进行监管时，言论自由的界限和第一修正案的界限在哪里？这一切是如何相交的？这只是一个大而复杂的线球，我们试图在球不断移动时弄清楚它。“