试想一下：2024 年选举日后的第二天早上，美国一觉醒来，看到的选票被扔进垃圾箱的病毒视频，以及投票站工作人员在摇摆州装箱的监控录像。几个小时之内，政治家、专家和社交媒体影响者就开始大声疾呼。但奇怪的是，这些事件都没有真正发生过。它们是数字深度赝品，设计得非常真实，即使是经验丰富的分析师也无法区分。
这个场景并不牵强，但我们还远未做好准备。在过去的一年里，艾维与技术专家、现任和前任政府官员以及民间社会团体一起领导了战争游戏，应对人工智能对选举的威胁。无论谁赢得总统竞选，我们最严重的担忧之一是 11 月出现意外的可能性，这不仅是选举日之前最新爆发的争议，而且是选举后人工智能生成的伪造闪电战，旨在让选民相信选举结果被盗了。
危机的基础已经奠定。
首先，不良行为者的范围不断扩大。2016 年大选后，我去了国土安全部，帮助彻底改革美国在俄罗斯干涉后的选举安全。你可能会认为，公开曝光莫斯科的干预行为会阻止未来的攻击者。但此后干扰选举已成为一项职业运动，越来越多的球队加入其中，例如中国和伊朗。
其次，选举后时期现在正处于人们关注的焦点。2020 年的“停止盗窃”运动展示了美国人，尤其是失败的一方，如何容易受到系统被操纵的指控。外国对手和国内极端分子了解到，他们不需要改变计票本身；他们需要改变计票结果。他们只需要在事后情绪最高、对结果的信心最弱的时候播下怀疑的种子。
第三，选举官员承认他们没有做好准备。在我走遍全国的过程中，州和地方领导人一再告诉我，他们最担心的事情之一是出现看似真实的证据，表明选举被盗，而他们却无法轻易反驳。与 2020 年大多数虚假说法被驳回不同，如今的人工智能伪造很容易制造，可能需要数周甚至数月的时间才能被揭穿。到那时，损害就会造成。
阅读更多内容：如何保护自己免受人工智能选举错误信息的影响
更糟糕的是，政府官员和社交媒体公司之间的关系比以往任何时候都更加破裂。有关网络审查制度的法庭案件和争议产生了寒蝉效应，导致双方不愿合作。结果是地方在危机中可依赖的技术资源减少。
需要明确的是，人工智能不一定是这里的敌人。机器学习技术最终将有助于更好地保护我们的选举。初创公司不断涌现，以应对这些风险，从深度造假检测初创公司到增强选举网络网络安全的公司。但今天我们正处于一个危险的套利窗口，在这个窗口中，坏人可能会在好人拥有建立坚实防御的工具之前发起进攻。
那么从现在到选举日之间有什么补救措施吗？
最好的答案是公众意识。选民必须像 20 世纪 90 年代垃圾邮件开始进入我们的电子邮件收件箱时那样，对这些欺骗行为进行模式识别。Deepfakes 将成为我们收件箱中的新尼日利亚王子，告诉我们向他们电汇 10,000 美元。直到现在，它们才会更加个性化、更有说服力、更加普遍，包括在我们自己的民主方面欺骗我们。
从长远来看，我们需要彻底改革我们的选举安全架构。是的，我们在 2016 年俄罗斯袭击之后取得了巨大进步，但美国再次变得脆弱。国会应要求各机构投资于更好地保护投票系统的技术，授权官员识别用于欺诈或压制选民的合成内容（而不成为事实的仲裁者），并为选举工作人员和社交媒体之间的互动建立正确的护栏公司。
与此同时，科技行业参与者应加紧努力，帮助用户默认发现真实或被操纵的媒体，包括通过加密签名和水印。
在最近的一次模拟中，我看到选举后的深度造假是多么容易让糟糕的局势陷入彻底的混乱。扮演外国对手角色的红队能够制作一段逼真的视频，声称显示投票站工作人员在摇摆州销毁选票。随着这段视频的传播，扮演选举官员角色的蓝队争先恐后地核实视频的真实性，而评论员则煽风点火。当我们证明它是假的时，损害已经造成了。选民走上街头。
腐败的候选人或竞选活动可能会因为做同样的事情而造成严重破坏。就在上个月，有报道称，参议院外交关系委员会主席被骗与一名乌克兰高级官员进行 Zoom 通话，结果证明该官员是深度造假者。几乎不需要想象力就能看出政治操作者如何利用这些策略冒充可信人物，以便与他们的对手或支持者分享有关选举结果的虚假信息，传播捏造的反对派研究，或分散危机中其他候选人的注意力。将其视为类固醇的肮脏伎俩。
这就是我们正在奔向的未来，当它到来时仅仅做出快速反应是不够的。我们现在需要在投票和合法性之战开始之前讨论这个问题。否则，美国可能会在 11 月 6 日醒来时看到一个可怕的惊喜：一场民主的数字战争，而真相是第一个受害者。
通过 letter@time.com 联系我们