什么是数字逮捕，这是网络犯罪分子最新使用的深度伪造工具？

一位印度纺织业大亨透露，他被冒充联邦调查员甚至最高法院首席大法官的在线骗子骗走了7000万卢比（约合83.3万美元）。

冒充印度中央调查局（CBI）官员的诈骗者于8月28日致电纺织制造商Vardhman的董事长兼总经理SP Oswal，指控他涉嫌洗钱。

接下来的两天里，Oswal处于数字监控之下，他被命令24小时不间断地保持Skype在手机上开启，在此期间他遭到审问并被威胁逮捕。诈骗者还组织了一场假的虚拟法庭听证会，其中印度首席大法官DY Chandrachud被冒充为法官。

奥斯瓦尔在法院判决后通过Skype支付了款项，却没有意识到自己成为了最近一起使用新手段“数字逮捕”进行的网络诈骗的受害者。

什么是数字逮捕以及阻止它所需的措施有哪些？

什么是数字逮捕？

数字拘捕是一种新型的网络诈骗，骗子使受害者相信自己处于“数字”或“虚拟”的逮捕状态，并迫使受害者通过视频会议软件与骗子保持联系。随后，诈骗者操纵受害者持续进行视频通话，实际上将受害者置于欺诈要求的控制之下。

类似于网络钓鱼，数字逮捕是一种网络攻击类型，涉及诱骗个人透露可能涉及身份盗用、财务损失或恶意目的的数据窃取的敏感信息。随着人工智能生成的音频和视频技术的发展，这些技巧已经变得更加复杂。

网络钓鱼是一种网络攻击，在这种攻击中，攻击者假冒合法组织或个人，以欺骗个人或组织透露敏感信息。

骗子会以极端的损失（无论是财务上的还是其他法律后果）为诱饵，使受害者相信他们“来帮忙”。许多受害者会被骗或被迫放下戒心，并按照骗子的指示行事。

使这些骗局看起来合法的是使用了视频会议软件。大多数骗局是没有面孔的，互动仅通过简单的电话进行。使用视频会议软件时，个人可以高级深度伪造视频技术可以表现为一个完全不同的——而且往往是真实的人——参与视频通话。

此外，通过一段音频片段，可能是来自法官或高级警官的，一个音频AI引擎可以复制一个人的声音，然后骗子就可以使用这个声音。

“我认为这更像是新型的网络钓鱼攻击，因为它具有高度针对性，并且对受害者的具体情况表现出比以往更深入的了解。以往的那种网络钓鱼攻击中，某个地方的王子声称需要向美国汇款，并说只有你才能帮助他。” Northwestern University 的计算机科学教授 VS Subrahmanian 告诉半岛电视台。

因此网络钓鱼诈骗变得复杂得多，实际上这些已经有了专门的术语。Vishing 是视频网络钓鱼，而传统的 phishing 则是指通过短信进行的网络钓鱼。

关于SP奥沙尔的故事我们都知道什么？其他数字逮捕事件发生过吗？

据NDTV新闻频道的采访，奥斯瓦尔接到一个匿名人士的电话，称他在一家银行的一个账户存在财务问题，并声称该账户与Jet Airways前主席Naresh Goyal的一起案件有关，Goyal因涉嫌洗钱530亿卢比（6400万美元）于2023年9月被捕。

诈骗者通过伪造逮捕令和假的最高法院文件（规定了所谓的欠款金额）说服奥斯瓦尔支付83.3万美元到一个特定的银行账户。

奥斯瓦尔在事件发生后向当地警察提交了投诉。在当地网络犯罪官员的帮助下，奥斯瓦尔成功追回了833,000美元中的630,000美元。据当地警方称，这是印度同类案件中追回金额最大的一次。

虽然奥斯瓦尔是最新的数字钓鱼诈骗的受害者，但近年来印度的数字抓捕案件一直在增加。这些数字抓捕案件的数量在2020年左右开始增多，原因是由于新冠肺炎疫情导致的封锁期间许多服务转向线上。

上个月，原子能部拉贾·拉曼纳先进技术中心（RRCAT）的一名员工在一次数字诈骗中损失了710万卢比（约合8.6万美元）。

上个月另一起事件中，国民建筑公司的一名高级官员在被指控贩卖假护照、非法ATM卡和非法毒品后，通过WhatsApp视频通话被骗走了550万卢比（约合6.6万美元）。

为什么高级的深度伪造AI视频诈骗在上升？

尽管深度伪造技术自2015年以来就已经存在，但由于机器学习和各种人工智能工具的发展加速，利用深度伪造进行欺诈行为的频率和复杂性越来越高。

这些新的深度伪造技术允许欺诈者将世界上任何一个人嵌入到视频或照片中，甚至可以使用深度伪造AI多媒体流添加音频，然后在像Zoom、Skype或Teams这样的视频会议中冒充该个人。除非呼叫的主持人拥有反深度伪造软件，否则很难发现这种深度伪造。

据《华尔街日报》（WSJ）2019年3月的一篇文章报道，欺诈者利用深度伪造的声音AI技术，骗走了英国一家能源公司首席执行官价值22万欧元（约合24.3万美元）的资金。

一些深度伪造软件只需要10秒到一分钟的讲话音频，就能复制说话人的各种语音模式、情感和口音。人工智能语音软件甚至会考虑到自然停顿、某些字母的发音变化以及声音的音高，使得生成的声音几乎无法与真实人声区分开来。

根据《纽约时报》文章上个月，有人假冒前乌克兰外长德米特罗·库莱巴，在与参议院外交关系委员会主席本杰明·L·卡丁的视频会议中进行了冒充。

虽然没有发生金钱欺诈，但这引发了担忧，即欺诈行为者可以操纵关键的政治领导人，以影响某些政治选举或高风险外交政策倡议的结果。

虽然世界各地都发生了数字拘捕的事件，但西北大学的Subrahmanian教授表示，由于缺乏对深度伪造技术的认识，这类诈骗在印度尤为普遍。

此外，Subrahmanian表示，印度相当一部分人口仅使用手机。“他们认为手机是值得信赖的，并且能提供可靠的信息。所以当接到这样的电话时，他们并不会一开始就持怀疑态度。”

他补充说，印度的电信行业没有认真对待网络安全。

这该如何阻止？

大多数深度伪造软件是使用一种名为生成对抗网络（GAN）的人工智能模型创建的。这些GAN在网络深度伪造中通常会留下一个独特的“特征”。

深度伪造检测系统可以捕捉到这些伪迹，并且能够被检测出来。嵌入音频中的此类伪迹可以被深度伪造检测系统识别。

随着深度伪造技术变得更为复杂，检测系统也将不得不与这些创新同步发展。

然而，Subrahmanian建议仅仅依赖深度伪造检测软件是不够的。需要建立对这些深度伪造技术的认识，并且可能需要类似欧洲联盟颁布的一般数据保护条例（GDPR）隐私法律的全球倡议。

“一是利用已经存在的协议。例如，国际刑警组织可以对从事跨国诈骗的人发出逮捕令，无论这些诈骗是否基于通过生成式AI进行的金融欺诈或其他原因。”

他表示，负责执行国际法律和合作协定的组织需要更好的培训和更有效的工具。