2024-09-06 17:09:53 英文原文
社交媒体公司有责任监控和删除与政治内容相关的深度造假图像。
8 月，曾经被称为 Twitter 的社交媒体公司 X 公开发布了其人工智能聊天机器人的最新版本 Grok 2。在有限的护栏下，Grok 一直负责传播有关选举的错误信息，并允许用户制作栩栩如生的人工智能生成的图像，这些图像也被称为道德上有问题的民选官员的深度伪造图像。
这家社交媒体巨头已开始纠正一些问题。在密歇根州、明尼苏达州、新墨西哥州、宾夕法尼亚州和华盛顿州的选举官员写信给 X 负责人埃隆·马斯克 (Elon Musk) 声称聊天机器人生成了有关州投票截止日期的虚假信息后，X 现在将用户引导至 Vote.gov 询问与选举相关的问题。
但是当涉及到深度伪造品时，情况就不同了。用户仍然能够制作政客从事可疑活动（在某些情况下甚至是非法活动）的深度伪造图像。
就在本周，半岛电视台能够制作栩栩如生的图像，显示德克萨斯州共和党参议员特德·克鲁兹（Ted Cruz）吸食可卡因，副总统卡玛拉·哈里斯在杂货店挥舞着刀，前总统唐纳德·特朗普在白宫草坪上与白人民族主义者握手。
在几周前，电影制片人 The Dor Brothers 使用 Grok 制作了短片 -生成的深度伪造图像显示哈里斯、特朗普和前总统巴拉克·奥巴马等官员抢劫了一家杂货店，该图像在社交媒体上流传。Dor 兄弟没有回应置评请求。
此举引发了人们对 Xs 技术背后道德规范的质疑，尤其是 OpenAI 等其他一些公司在白宫的压力下正在采取保障措施。阻止制作某些类型内容的地方。OpenAI 的图像生成器 Dall-E 3 将拒绝使用特定公众人物的名字来制作图像。它还开发了一款可以检测深度伪造图像的产品。
人工智能生成图像（尤其是民选官员图像）方面的常识性保障措施，在埃隆之前甚至会成为 Twitter 信任和安全团队的问题，GPTZero 是一家生产检测人工智能生成内容的软件的公司，其联合创始人 Edward Tian 告诉半岛电视台。
Groks 的新技术加剧了人工智能领域本已紧迫的问题——虚假图像的使用。
虽然他们没有使用 Grok AI，因为它尚未上市，但就在这个选举周期，佛罗里达州州长罗恩·德桑蒂斯 (Ron DeSantis) 现已暂停的竞选活动使用了一系列显示安东尼·福奇 (Anthony Fauci) 的虚假图像，美国为应对新冠肺炎 (COVID-19) 大流行而成立的特别工作组的一名关键成员，特朗普对此表示欢迎，但法新社对此予以揭穿。这些与他们在会议中的真实图像交织在一起。
这个噱头的目的是通过美化特朗普与福奇（一名无权制定政策的专家顾问）的关系来削弱特朗普。特朗普的选民基础将流感大流行的蔓延归咎于福奇，而不是让特朗普承担责任。
虽然特朗普在这一特定案例中成为德桑蒂斯竞选团队的目标，他和他的代理人往往是肇事者。
共和党全国委员会在一则广告中使用了人工智能生成的图像，显示了如果当时的民主党推定候选人拜登赢得选举。尽管在拜登的第一个任期内，市场表现相当不错，但特朗普还是发布了这一断言。
过去几周，特朗普发布了虚假图片，其中包括一张暗示哈里斯在民主党全国委员会与一群共产党人交谈的图片。大会。
周一，马斯克延续了特朗普对哈里斯政策的不准确表述。马斯克发布了一张人工智能生成的哈里斯戴着带有共产主义徽章的帽子的图像，暗示哈里斯的政策与共产主义一致，这是近年来共和党人用来描述民主党政策立场的越来越常见和不准确的偏向。
这篇误导性的帖子发布之际，马斯克被指控协助错误信息在全球传播。X 在欧盟和巴西等司法管辖区面临法律障碍，周末禁止访问该网站。
几周前，特朗普在其社交媒体平台 Truth Social 上转发了一张虚假图片，该图片不准确地声称歌手泰勒·斯威夫特 (Taylor Swift) 为他背书，她的忠实歌迷（俗称 Swifties）也为他提供支持。
政坛两边都有与斯威夫特歌迷相关的声音运动，但这些运动都与斯威夫特 (Swifts) 粉丝没有正式联系。流行歌星。
特朗普分享的一张为特朗普展示 Swifties 的图片被标记为讽刺，来自 X 上的 Amuse 帐户。该帖子由约翰·米尔顿自由基金会 (JMFF) 赞助，该基金会是一个组织声称它通过奖学金赋予独立记者权力。
作为[一个]初创非营利组织，我们很幸运地免费赞助了@amuse（JMFF 的好朋友）上的 100 多个帖子。这在几周内为我们带来了超过 2000 万次免费展示，有助于我们的曝光度和名字 ID。其中一篇帖子被明确标记为“讽刺”，为特朗普取笑斯威夫特。这显然是一个笑话，并且被明确标记为这样。随后，特朗普竞选团队也同样圆滑地回应了“我接受”。JMFF 发言人在一份声明中告诉半岛电视台，我们的参与到此结束，除了代表我们微微一笑之外。
该组织的成员以传播错误信息和未经证实的极右翼阴谋论者而闻名。，包括拉拉·洛根 (Lara Logan)，她在一次充满阴谋的长篇大论中指责世界领导人喝儿童血后被右翼新闻频道 Newsmax 禁止。
这位前总统告诉福克斯商业频道，他不是担心因为这些图像是其他人制作的而被泰勒起诉。
特朗普竞选团队没有回应置评请求。
这是监督组织“公众公民”担心的一部分，即各利益相关者会转嫁责任以逃避责任。
6月份，公众公民呼吁联邦选举委员会 (FEC) 呼吁遏制与选举相关的深度造假图像的使用。去年 7 月，该监管机构向该机构请愿，要求解决政治广告中日益严重的深度造假问题。
联邦选举委员会，特别是一些共和党委员，有着明显的全面反监管倾向。。他们表示，他们认为 FEC 没有能力制定这些规则。他们将其扔回国会，以制定更多立法来赋予他们权力。“我们完全不同意这一点，”公共公民联合主席丽莎·吉尔伯特告诉半岛电视台。
我们的请愿书要求他们做的只是在书本上应用一条长期存在的规则，即你不能提出欺诈行为。失实陈述。如果你是候选人或政党，你基本上不能发布直接谎言你的对手所说或所做的事情的广告。因此，我们似乎非常清楚，将其应用于产生这种错误信息的新技术是一个明显的步骤，并澄清他们应该很容易能够做到这一点，吉尔伯特补充道。
8 月，Axios报道称，联邦选举委员会可能不会在本周期内就选举中的人工智能制定新规则。
联邦选举委员会正在解决我们一生中最重要的选举相关问题之一。吉尔伯特说，联邦选举委员会现在应该解决这个问题，并推进一项规则。
该机构原定于周四就是否拒绝公众公民提案进行投票。在公开会议前一天，彭博社报道称，FEC 将在 9 月 19 日的选举中就是否考虑拟议的人工智能法规进行投票。
电视、有线和广播监管机构、联邦通信委员会 (FCC)、正在考虑一项计划，要求使用人工智能的政治广告进行披露，但前提是它们在电视和广播平台上使用。
该规则不适用于社交媒体公司。它还将责任归咎于候选人，而不是允许消费者创建深度伪造照片的产品制造商。它也不追究可能制作内容但未参与活动的个人不良行为者的责任。
FEC 专员肖恩·库克西 (Sean Cooksey) 反驳了 FCC，并表示后者没有管辖权做出此类内容正如 FCC 所说的那样做出了裁决。
FCC 发言人在一份声明中告诉半岛电视台，FCC 计划继续推进其深思熟虑的人工智能披露方法，并提高政治广告的透明度。
FEC 拒绝置评请求。
目前，联邦层面没有任何法律禁止或要求披露在政治广告中使用人工智能，而且社交媒体公司本身有责任监控和删除各自平台上的深度假货。
虽然有几项法案要求社交媒体平台采取保障措施，但尚不清楚它们是否会通过，更不用说通过了。在 2024 年选举之前及时颁布为法律。像两党保护选举免受欺骗性人工智能法案这样的法案面临着强烈反对，其中包括参议院少数党领袖米奇·麦康奈尔。该法案更广泛地称为“无假货法案”，旨在保护所有个人，无论是名人还是其他人，不得在计算机生成的视频、照片或录音中未经授权使用其肖像。
各方都有兴趣尝试Telluride Legal Strategies 的创始人兼负责人罗布·罗森伯格 (Rob Rosenberg) 告诉半岛电视台，为了避免误导消费者相信一些不实的信息。
民主党参议员克里斯·库恩斯 (Chris Coons) 起草的《无假货法案》得到了两党的强烈共识。（特拉华州）和艾米·克洛布查尔（明尼苏达州）以及共和党参议员玛莎·布莱克本（田纳西州）和汤姆·蒂利斯（北卡罗来纳州）。
第一次，感觉我们有很好的机会罗森伯格补充道，这是一项保护此类权利的联邦法案。
但是，目前尚不清楚该法案是否会在选举日之前成为法律。州一级的行动更有动力。
吉尔伯特说，与联邦一级不同，民选官员对通过这些法案做出了巨大的反应。
德克萨斯州于 2019 年通过了一项法律，禁止使用深度伪造视频来伤害候选人或影响候选人。选举，但仅适用于选举前 30 天，并且没有规定使用 Deepfake 照片或音频。不遵守规定可能会被处以 4,000 美元的罚款和最高一年的监禁。
那里的国家领导人正在积极评估有关监管该行业的政策。就在上周，还举行了一场听证会，讨论如何在该州监管人工智能。奥斯汀是该州首府和科技产业中心，马斯克计划将 X 总部从加利福尼亚州旧金山迁至该州。
另一方面，明尼苏达州于 2023 年颁布了禁令，禁止使用所有选举前 90 天的 Deepfake 媒体。不遵守规定可能会被处以最高 10,000 美元的罚款、五年监禁或两者并罚。
截至 7 月底，今年已提出或通过了 151 项州级法案来解决人工智能生成的内容问题，包括深度伪造品和聊天机器人。
总体而言，法律的拼凑不会对社交媒体平台和制造允许不良行为者创建深度伪造品的工具的公司施加压力。
我当然Public Citizen 的吉尔伯特表示，他们认为这些公司负有责任，他指的是允许深度造假帖子的社交媒体平台。如果他们不将其删除，他们应该承担责任。
这是一个跨越政治派别的问题。GPTZeros Tian 补充道，没有人能免受阴谋论的影响。
马斯克本人也传播过错误信息，他表现出不愿意监管内容，至少是针对他在政治上同意的用户。正如半岛电视台之前报道的那样，马斯克在审查 White Dudes 4 Harris 等自由派团体的同时，也鼓励了保守派的声音。
半岛电视台的评论请求收到了一条来自 X 的自动消息：现在很忙，请稍后再回来查看。
深度造假的兴起不仅引起了那些需要揭穿假图像的人的担忧，也引起了那些利用其流行来对可验证图像产生怀疑的人的担忧。8 月 7 日在密歇根州底特律举行哈里斯大型集会后，特朗普错误地声称该活动的照片是人工智能生成的。
人工智能已经被用来对抗真实图像。田补充说，人们正在质疑可验证的图像。归根结底，这里的伤亡就是事实。