亚洲的AI驱动网络犯罪集团正在崛起

dpa图片联盟通过Alamy股票照片提供的图片

基于人工智能的网络攻击在亚太地区呈指数级增长，特别是涉及深度伪造技术的攻击。

联合国毒品和犯罪问题办公室（UNODC）追踪了人工智能威胁的广泛性在其关于东南亚网络犯罪的新报告中。网络犯罪团伙一直在使用生成式人工智能（GenAI）来创建多种语言的钓鱼信息，以及操纵受害者的聊天机器人，大规模的社会媒体虚假信息伪造文件以绕过了解你的客户（KYC）检查。他们使用它来驱动能够逃避安全软件的变形恶意软件，并识别理想目标，以及其他不法活动。

然而，最大的威胁是深度伪造（deepfakes）。从2024年2月到6月，联合国毒品和犯罪问题办公室（UNODC）记录了网络犯罪分子在Telegram频道和地下论坛中提到深度伪造的数量增加了600%。这还不包括来自2023年的大量活动，在这一年里，与前一年相比，深度伪造犯罪上升了超过1500%，而面部交换攻击则在下半年比上半年增长了704%。

深度伪造攻击泛滥增多

亚太地区的网络安全领导者，就像全世界的领导者一样，正期待着一波由人工智能驱动的网络问题。在一项面向亚洲的Cloudflare调查于10月9日发布的内容显示，50%的受访者认为人工智能将被用来破解密码和加密技术，47%的人认为它将增强网络钓鱼和社会工程攻击，44%的人认为它还将推动分布式拒绝服务（DDoS）攻击的发展，而40%的人则认为它会被用于创建深度伪造内容和支持隐私侵犯行为。

然而，大多数甚至全部这些担忧现在已经不再是理论上的了，作为一些组织可以证明.

例如，在一月份，英国工程公司Arup位于香港的员工收到了一封自称来自伦敦首席财务官（CFO）的电子邮件。邮件指示该员工进行一项秘密金融交易。后来，该员工参加了一次视频会议，会议中自称是高级管理层成员的人全部都是深度伪造的假人。结果：到了五月份，Arup报告称损失了2亿港元（约合2560万美元）。

主要政治人物的深度伪造内容广泛传播，例如2023年12月出现的新加坡总理和副总理的假视频和音频录制，以及今年7月显示一名东南亚国家元首涉及非法毒品的假视频。在泰国，一名女警官被制作成深度伪造视频，用于诱骗受害者以为自己正在与真正的执法人员交谈的竞选策略中。

根据联合国毒品和犯罪问题办公室的数据，2023年亚洲报告的全部深度伪造犯罪中有一半来自越南（25.3%）和日本（23.4%），但菲律宾案件数量增长最快，在2023年比2022年增加了4500%。

这一切都依托于一个庞大的恶意开发者和买家生态系统，这个生态存在于Telegram以及更为隐蔽的深网角落。联合国毒品和犯罪问题办公室（UNODC）识别出超过10家专门服务于东南亚网络犯罪集团的深度伪造软件供应商。他们的产品配备了最新的深度伪造技术，例如谷歌的MediaPipe面部地标追踪器——它可以实时捕捉详细的面部表情，You Only Look Once v5 (YOLOv5)物体检测模型等先进技术。

亚洲为何受苦

虽然人工智能驱动的网络犯罪威胁到全世界各个组织，但它在亚洲享有一些特别的优势。

“东南亚人口非常稠密，而且很大一部分人不懂英语，或者英语不是他们的母语，”印度的CloudSEK的执行主编Shashank Shekhar指出。对以英语为母语的人来说可能是诈骗迹象的东西可能不会被非英语母语者识别出来。除此之外，他还指出，“有很多失业的人正在寻找工作机会。”

绝望会降低受害者的防备。CloudSEK威胁研究员Anirudh Batra说：“有一些骗局在这个地区特别有效。”“由于这个地区的贫困，简单的骗局尤为普遍。”

面对难以对付的社会经济力量，那些关于网络安全教育和卫生的陈词滥调可能显得不够有力。相反，网络犯罪分子需要在其地下论坛和渠道中被遏制：在这些地方他们交易深度伪造工具和加密货币收益。这之前做过.

“通过合作是有可能的：不同国家携手合作，分享情报，”巴特拉说。尽管他警告说：“除非抓住这些人，否则明天又会出现另一个论坛。这使得阻止他们变得非常困难，因为威胁行为人知道所有的三字母机构都在监视这些论坛——每个人都在搜集信息。所以他们会备份很多东西。在任何时候，如果[他们的资产]被没收了，他们会用镜像网站重新开始。”