华盛顿（美联社）针对参议院外交关系委员会民主党主席参议员本·卡丁（Ben Cardin）的先进深度造假行动本月，据参议院安全办公室称，最新迹象表明，不法分子正在利用人工智能来欺骗美国高层政治人物。
专家认为，此类计划将变得更加猖獗。现在，生成人工智能曾经存在的技术障碍已经减少，这种情况很常见。参议院安全部门周一发给参议院办公室的通知称，这一尝试因其技术复杂性和可信度而引人注目。
该计划以乌克兰前外交部长德米特罗·库莱巴为中心。卡丁办公室收到了一封他们认为是库勒巴的人发来的电子邮件，根据通知，卡丁在过去的一次会议中认识了一位官员。
当两人进行视频通话时，联系在外观和内容上是一致的。声音过去的遭遇。直到冒充库勒巴的来电者开始询问“你支持远程导弹进入俄罗斯领土吗？”之类的问题。参议院的通知称，我需要知道你的答案，卡丁和他的工作人员怀疑有些事情不对劲。
发言人继续向参议员询问与即将到来的选举有关的政治性问题，可能会尝试和根据参议院安全总监尼科莱特·卢埃林 (Nicolette Llewellyn) 的通知，诱使他对政治候选人发表评论。参议员和他们的工作人员挂断了电话，并迅速联系了国务院，国务院证实这不是库莱巴。
卡丁周三将这次遭遇描述为一名恶意演员，试图进行欺骗性的攻击。冒充知名人士与我交谈。
在立即明确与我交往的人并非他们所声称的身份后，我结束了通话，我的办公室迅速采取了行动，向相关人员发出警报卡丁说，当局。此事现已交由执法部门处理，全面调查正在进行中。
卡丁办公室没有回应提供更多信息的请求。
生成式人工智能可以使用海量数据计算能力以数字方式改变视频上显示的内容，有时实时改变视频的背景或主题。同样的技术还可以用于以数字方式改变音频或图像。
类似的技术以前曾被用于邪恶的计划。
香港的一名财务工作人员向一家公司支付了 2500 万美元。诈骗者利用人工智能冒充公司首席财务官。一名政治顾问使用人工智能模仿总统乔·拜登的声音，敦促选民不要在新罕布什尔州总统初选中投票，导致该顾问面临二十多项刑事指控和数百万美元的罚款。照顾美国老年人的专家长期以来一直担心人工智能驱动的深度造假将加剧针对老年人的金融诈骗。
参议院的安全官员和人工智能专家都认为，鉴于最近的情况，这可能只是一个开始。技术的飞跃使得像针对卡丁这样的计划不仅更加可信，而且更容易实施。
在过去的几个月里，这项技术能够将实时视频深度伪造与网络安全专家兼 SocialProof Security 首席执行官雷切尔·托巴克 (Rachel Tobac) 表示，现场音频 Deepfake 已经越来越容易集成在一起，她补充说，这项技术的早期迭代已经明显表明它们是假的，从笨拙的嘴唇运动到人们眨眼”
我预计未来会发生更多此类事件，”布法罗大学人工智能专家、教授吕思伟说道。任何有恶意的人现在都有能力进行这种攻击。这些可能来自政治角度，但也可能来自财务角度，例如欺诈或身份盗窃。
给参议院工作人员的备忘录呼应了这种观点，告诉工作人员确保会议请求是真实的，并且警告称未来几周内将进行其他尝试。
R.人工智能和国家安全专家大卫·埃德尔曼（David Edelman）在白宫领导网络安全政策多年，他将该计划描述为一项复杂的情报行动，在如何将人工智能技术的使用与更传统的情报行动认识到卡丁和乌克兰官员之间的联系。
他们认识到这两方之间现有的关系。他说，他们知道如何互动、时机、模式以及沟通方式。情报运作非常复杂。