如何在选举日之前检测人工智能生成的深度伪造品？
作者：By Jeremy Redmon
今年新罕布什尔州总统初选前两天，花岗岩州选民收到了自动呼叫乔·拜登总统建议他们在 11 月大选之前不要投票。只不过那人不是拜登。
据美国联邦通信委员会称，这些电话是通过语音克隆人工智能创建的，该委员会指责政治顾问史蒂文·克莱默策划了这些电话。上个月，该委员会被罚款克莱默 600 万美元。他也曾被被起诉在新罕布什尔州，州指控压制选民重罪和冒充候选人的轻罪。
克莱默已不认罪，他告诉美联社，他试图敲响人工智能潜在危险的警钟，而不是影响初选结果。
尽管存在深度造假，拜登还是作为补选候选人轻松赢得了新罕布什尔州。尽管如此，专家警告称，在 11 月 5 日大选之前，佐治亚州和其他地方可能会出现更多人工智能生成的错误信息。本月，一个名为 RepresentUs 的非营利反腐败组织发布了一段由罗萨里奥·道森 (Rosario Dawson) 和其他演员主演的视频，敦促观众不要落入此类骗局。
RTDNA/Google 新闻计划选举事实核查培训项目的首席培训师 Mike Reilley 表示，“人工智能使我们能够通过简短的文本提示来创建图像、视频和音频。”——这是一件伟大的事情，但在坏人手中，它可能会产生毁灭性的结果。
“深度伪造的视频、图像和音频，”雷利补充道，“可以通过社交渠道迅速传播，让候选人看起来像是在说和做他们实际上没有做过的事情。”
卡特中心民主项目的数据科学家安东尼·德马蒂 (Anthony DeMattee) 表示，复杂的深度造假还会消除选民的确认偏见或他们将事物解释为对其现有信念的确认的倾向。
“他们会向你传达一条特定的信息，强化你之前的信念，在这种情况下，本能不一定会告诉你去核实事实，”德马蒂说。
埃默里大学人工智能学习中心主任乔·萨瑟兰表示，特别令人担忧的是在选举日推出的人工智能生成的深度伪造品。
“到了选举日，没有太多时间来斥责谎言，”曾在奥巴马政府白宫调度和推进办公室任职的萨瑟兰说。
《亚特兰大宪法报》询问萨瑟兰、德马蒂和雷利，选民如何检测人工智能生成的错误信息。以下是他们的一些建议：
- 使用免费的在线深度伪造检测工具，例如TrueMedia.org
- 搜索可疑消息中的拼写错误、语法错误和未归属的断言
- 检查人物图像是否存在不成比例、扭曲或缺失的特征
- 研究视频中的像素化、对口型和笨拙的动作
- 与可靠消息来源核实，包括地方和州选举官员
关于《如何在选举日之前检测人工智能生成的深度伪造品？》的评论
暂无评论