杰克·塔珀使用深度伪造技术模仿自己发出警报，警告可能的人工智能选举干预 | 视频
作者：Sharon Knolle
杰克·塔珀于周五警告观众注意由人工智能生成的说服性视频的危险……他使用了一段以自己为假象的深度伪造视频。
“欢迎回到《The Lead》。我是Jake Tapper。”这段视频后来被确认为深度伪造，一开始播放道。“我们现在正处于一个前所未有的时代，在这个时代里，技术已经远远超过了公众识别深度伪造的能力——甚至更超前于立法者的反应能力。其中很多人坦白地说，他们连自己的电子邮件都管理不好。比如你现在正在观看的内容。实际上我不是Jake。我是由喜剧演员Danny Polishchuk用AI生成的深度伪造的Jake——如果有的话，这就是一个‘深Jake’——他仅仅使用了两周的人工智能技术。”
“深伪杰克”继续说道：“我看起来如此逼真的事实表明，如果这项技术在美国被用于不良目的，可能会造成实际的危害和严重的损害。”
观看上面视频中的“深度伪造杰克”。
塔珀提到许多最近的深度伪造视频，包括一个打给新罕布什尔州选民的自动语音通话——据称来自乔·拜登——敦促他们不参加2月的选举。伪造拜登通话的那个人史蒂夫·克雷默被起诉了。刑事指控包括13项选举压制罪名，这是重罪。他还面临13项假冒候选人的指控，这属于轻罪。
cnn主播随后邀请了来自明尼苏达州的民主党参议员艾米·克洛布查尔，讨论她与政治对手乔什·霍利和苏珊·柯林斯共同发起的一项旨在禁止深度伪造（deepfakes）的法案。
“我认为，一些展示人们在虚假环境中、但并非讽刺的内容的广告和视频，实际上应该被禁止，”克洛布查尔说。“这样一来会更简单，因为这样你就无法阻止这种行为。”她补充说，包括OpenAI在内的“多个平台”已经支持这项法案。
克洛布查尔继续说道：“政治深度伪造内容正在声称涉及宪法第一修正案保护的政治言论，但这些广告是欺诈性的。它们展示人们做他们没有做的事情。如果我们不制定一些规定，很快，它们将主宰互联网。”
她预测在总统选举前的一个月里，这种情况会更加频繁。参议员说：“你们已经开始看到完全虚假的视频和广告出现。现在，我们将依赖平台是否会对这些内容打标签或删除，也将依赖电视台。”此外，参议员补充道，目前已经有18个州出台了针对误导性政治广告的法律。
暂无评论