今年年初，印度社交媒体网站上出现了一段视频，视频中孟买证券交易所首席执行官桑达拉拉曼·拉马穆尔蒂 (Sundararaman Ramamurthy) 为投资者提供了购买哪些股票的建议。

如果观众听从他的建议，他们将获得丰厚的回报。

唯一的问题是，说话的不是拉玛莫西。这是他的深度伪造视频，使用人工智能制作。

“它是在公共领域，很多人都可以看到它，并被骗去买卖股票，就好像我推荐它们一样，”拉马穆尔蒂解释道。

“当我们看到这样的事件时，我们会立即提出投诉。我们会去 Instagram 和其他发布视频的地方删除该视频。我们还会定期写信给市场，警告人们不要相信假视频。”

拉马默西补充道：“我们不知道有多少人看过这段视频，真的很难找到，所以我们无法真正判断它是否产生了很大的影响。

“我们希望它完全不产生任何影响。任何人都不应该因为相信不真实的事情而蒙受损失。”

拉马默西和孟买证券交易所并不孤单。

美国密码安全公司 LastPass 的首席执行官卡里姆·图巴 (Karim Toubba) 表示：“最新数据显示，在过去两年左右的时间里，我们看到使用的深度伪造品数量增加了近 3,000%。”

图巴本人在 2024 年被深度伪造。

“我们在欧洲的一名员工收到了一条音频消息和一条短信，据称是我的某人发来的，紧急请求我提供帮助，”他说。

对于 Toubba 和 LastPass 来说幸运的是，这名员工心存疑虑。

“该消息是通过 WhatsApp 发送的，对我们来说，这不是一个受认可的沟通渠道，”图巴说。“此外，我们有公司认可的移动设备，这是通过他的个人手机传入的。所以这让他觉得这可能有点阴暗、有点可疑。”

该员工向 LastPass 的网络安全团队报告了这一事件，没有造成任何损害。

英国工程公司奥雅纳(Arup)就没那么幸运了。2024 年，它遭受了企业界有史以来最复杂的深度造假攻击之一。

据香港警方称，一名在那里工作的奥雅纳员工收到了一条据称来自该公司驻伦敦首席财务官 (CFO) 的消息，内容涉及“机密交易”。

该员工与首席财务官和其他员工进行了视频通话。根据该电话，该员工按照指示将 2500 万美元（1850 万英镑）的 Arup 资金转入五个不同的银行账户。后来才发现，包括首席财务官在内的参加电话会议的人员都是深度造假者。

“你永远不会想简单地与某人进行视频通话并转账 2500 万美元，”BBC 人工智能解码电视节目的技术研究员兼联合主持人斯蒂芬妮·黑尔 (Stephanie Hare) 说道。

“公司必须采取额外措施来保护这些类型的通信。这就是我们现在所处的美丽新世界。”

人工智能的快速发展意味着这些视频变得越来越逼真。

英国网络安全公司 CloudGuard 的联合创始人兼首席执行官马特·洛弗尔 (Matt Lovell) 表示：“深度伪造变得非常非常容易。”“要生成极其精确规格的视频和音频质量 - 需要几分钟的时间。”

它也变得越来越便宜。

“比如说，对于一个简单的、由个人主导的攻击，使用基本上免费的工具，您需要花费 500 到 1,000 美元，”Lovell 说。“对于更复杂的攻击，您需要花费 5,000 到 10,000 美元。”

虽然深度伪造视频变得越来越复杂，但用于阻止它们的工具也越来越复杂。公司现在可以使用验证软件来评估一个人的面部表情、他们转动头部的方式，甚至是他们脸上的血液流动方式，以确定这是真的他们还是他们的深度伪造版本。

“当一个人说话或演讲时，我们将在你的脸颊或眼睑下方寻找血流的变化。”洛弗尔说。“这确实是我们可以弄清楚它是人工智能生成的还是真实的。”

但各公司一直在不断努力，以领先欺诈者一步。

LastPass 的 Toubba 表示：“这是一场竞赛，谁能够部署一项技术，谁能够尽快阻止该技术。”“幸运的是，似乎有相当多的资金流入其中，这只会加快组织开发技术来检测并最终阻止这些事情的步伐。”

CloudGuard 的首席执行官马特·洛弗尔 (Matt Lovell) 则更为悲观。

“攻击向量的加速速度超过了我们加速防御自动化和保护的速度，”他说。“人们的行动速度是否足以应对威胁发展的速度？绝对不是。”

黑尔表示，深度造假攻击的激增意味着对具备打击欺诈者技能的人才的需求量很大。“我们在全球范围内都缺乏网络安全专业人员，我们需要更多的人参与其中。”

她表示，企业正在意识到这一威胁，尽管进展缓慢。

“过去，人们并不像现在那样优先考虑确保运营安全，”她指出。

“现在我们面临着这些类型的风险，公司的领导者和首席执行官都被深度伪造了，我认为公司高管将比以前花更多的时间与首席信息安全官和团队相处。这是一件好事。”