有关网络安全技术最新趋势的新闻、新闻分析和评论。
生成式人工智能被用来让网络诈骗变得更加可信。以下是组织如何使用新兴工具和可靠方法来应对这一问题。
评论
随着网络犯罪分子巧妙地使用生成人工智能 (GenAI)、深度造假和许多其他人工智能技术，他们的欺诈内容变得异常真实，给个人和企业带来了直接的安全挑战。语音和视频克隆不仅仅发生在著名政客或名人身上；它欺骗个人和企业，造成数百万美元的重大损失。
基于人工智能的网络攻击正在增加。根据 Deep Instinct 的一项研究，85% 的安全专业人士将这种增长归因于生成式人工智能。
今年早些时候，香港警方透露，一名金融工作人员被骗通过多人深度换脸视频通话向犯罪分子转账2500万美元。虽然这种复杂的深度造假骗局仍然相当罕见，但技术的进步意味着它变得更容易实现，而且巨大的收益使其成为一项潜在的有利可图的尝试。另一种策略是通过电话提出紧急请求来瞄准特定的工人，伪装成他们的老板。Gartner 现在预测，到 2026 年，30% 的企业将认为身份验证和身份验证解决方案“不可靠”，这主要是由于人工智能生成的深度伪造。
一种常见的攻击类型是欺诈性使用生物识别数据，鉴于广泛使用生物识别技术来授予对设备、应用程序和服务的访问权限，这一领域尤其值得关注。例如，路易斯安那州一名被定罪的欺诈者设法使用移动驾驶执照和被盗凭证开设多个银行账户、存入欺诈性支票并购买一辆皮卡车。在另一起案件中，在印度旗舰生物识别 ID 系统 Aadhar 上创建的没有面部识别生物识别的 ID 允许犯罪分子开设虚假银行账户。
另一种生物识别欺诈也在迅速流行。网络犯罪分子并没有像前面的例子那样模仿真人的身份，而是使用生物识别数据将虚假证据注入安全系统。在这些基于注入的攻击中，攻击者会欺骗系统以授予对虚假配置文件的访问权限。据 Gartner 称，到 2023 年，基于注入的攻击将惊人地增长 200%。一种常见的提示注入类型涉及欺骗客户服务聊天机器人泄露敏感信息或允许攻击者完全接管聊天机器人。在这些情况下，不需要令人信服的深度伪造视频。
CISO 可以采取一些实际步骤来最大限度地减少基于人工智能的欺诈。
与许多基于人工智能的威胁一样，深度造假之所以有效，是因为它们与其他久经考验的诈骗技术（例如社会工程和欺诈电话）结合使用。例如，几乎所有基于人工智能的诈骗都涉及来电显示欺骗，即诈骗者的号码伪装成熟悉的来电者。这增加了可信度，这对于这些骗局的成功起到了关键作用。阻止来电显示欺骗可以有效地从骗子的阴影中解脱出来。
最有效的方法之一是改变运营商识别和处理欺骗号码的方式。监管机构正在迎头赶上：在芬兰，Traficom 率先推出了明确的技术指导，以防止来电显示欺骗，这一举措正在受到欧盟和全球其他监管机构的密切关注。
安全专业人员越来越多地加入网络犯罪分子的行列，部署诈骗者使用的人工智能策略，只是为了防御攻击。人工智能和机器学习 (ML) 模型擅长检测海量数据集中的模式或异常。这使得它们非常适合发现网络攻击正在发生的微妙迹象。网络钓鱼尝试、恶意软件感染或异常网络流量都可能表明存在违规行为。
预测分析是人工智能社区在打击网络犯罪方面可以利用的另一项关键人工智能功能。预测人工智能模型可以在潜在漏洞甚至未来攻击向量被利用之前预测它们，从而启用先发制人的安全措施（例如使用博弈论或蜜罐）来转移对有价值目标的注意力。企业需要能够自信地实时检测网络各个方面（从用户和设备到基础设施和应用程序）发生的细微行为变化。
数据质量在模式识别、异常检测和其他用于打击现代网络犯罪的基于机器学习的方法中发挥着至关重要的作用。在人工智能术语中，数据质量是通过准确性、相关性、及时性和全面性来衡量的。虽然许多企业依赖（不安全的）日志文件，但许多企业现在正在拥抱遥测数据，例如来自深度数据包检测（DPI）技术的网络流量情报，因为它提供了构建有效人工智能防御的“基本事实”。在零信任的世界中，遥测数据（例如 DPI 提供的数据）提供了正确的“从不信任，始终验证”的基础，以对抗日益高涨的深度造假浪潮。
给定网络上的数据量和数据模式是该网络特有的唯一标志，就像指纹一样。因此，企业必须深入了解其网络的“正常”状态，以便能够识别异常情况并做出反应。比其他人更了解自己的网络可以为企业带来强大的内部优势。然而，为了利用这种防御优势，他们必须解决人工智能模型的数据质量问题。
总而言之，网络犯罪分子很快就利用人工智能，特别是 GenAI，进行越来越现实的欺诈，其实施规模以前是不可能的。随着深度造假和基于人工智能的网络威胁不断升级，企业必须利用先进的数据分析来加强防御。通过采用零信任模型、提高数据质量并利用人工智能驱动的预测分析，组织可以主动应对这些复杂的攻击，并在日益危险的数字环境中保护其资产和声誉。
你可能也喜欢
DevSecOps/AWS
2024 年 10 月 17 日社会工程：新伎俩、新威胁、新防御
2024 年 10 月 23 日每个企业都应该了解的 10 个新出现的漏洞
2024 年 10 月 30 日通过自动化简化数据安全
2024 年 10 月 31 日