网络安全中的 GenAI：超越 Verizon DBIR 的见解

官方报告中缺乏有关人工智能攻击的丰富数据，但这不应妨碍我们为未来潜在的威胁做好准备并减轻其影响。

Verizon“数据泄露调查报告”(DBIR) 是一份高度可信的年度报告，基于对现实事件的分析，提供了有关数据泄露和网络威胁的宝贵见解。网络安全专业人士依靠这份报告来帮助根据不断变化的威胁形势的趋势制定安全策略。然而，2024 年 DBIR 提出了一些有趣的问题，特别是关于生成式人工智能在网络攻击中的作用。

DBIR 对生成式 AI 的立场

最新 DBIR 的作者表示，研究人员“密切关注在攻击中使用新兴的生成人工智能 (GenAI) 领域的任何迹象以及这些技术的潜在影响，但该事件中没有任何具体结果我们在全球收集的数据。”

虽然根据 Verizon 的具体数据收集方法，我毫不怀疑这种说法是准确的，但它与我们在现场看到的情况形成了鲜明的对比。Verizon 关于 GenAI 的一揽子声明的主要警告是在 2024 年 DBIR 附录中，其中提到了特勤局的一项调查，该调查表明 GenAI 对于不会说英语的攻击者来说是一种“关键支持技术”。

然而，在 SlashNext，我们观察到 GenAI 对网络攻击的真正影响远远超出了这一用例。以下是我们“在野外”看到的六种不同的用例。

生成式人工智能在网络犯罪中的六个用例

1。人工智能增强型网络钓鱼电子邮件

威胁研究人员观察到网络犯罪分子分享了如何使用 GenAI 和翻译工具来提高网络钓鱼电子邮件的效率的指南。在这些论坛中，黑客建议使用 ChatGPT 生成听起来很专业的电子邮件，并为非母语人士提供创建更有说服力的消息的提示。网络钓鱼已经是最多产的攻击类型之一，即使根据 Verizon 的 DBIR，打开网络钓鱼电子邮件后，用户点击其中的恶意链接平均只需要 21 秒，另外也只需 28 秒。用户泄露其数据的秒数。攻击者利用 GenAI 制作网络钓鱼电子邮件只会使这些攻击更加令人信服和有效。

2。人工智能辅助恶意软件生成

攻击者正在探索使用人工智能来开发恶意软件，例如可以在后台运行且未被检测到的键盘记录器。他们请求基于人工智能的大型语言模型 (LLM) WormGPT 帮助他们使用 Python 作为编码语言创建键盘记录器。这展示了网络犯罪分子如何利用人工智能工具来简化和增强他们的恶意活动。通过使用人工智能协助编码，攻击者有可能创建更复杂且更难以检测的恶意软件。

3。人工智能生成的诈骗网站

网络犯罪分子正在使用神经网络创建一系列诈骗网页或“统包门户”，旨在将毫无戒心的受害者重定向到欺诈网站。这些人工智能生成的页面通常模仿合法网站，但包含隐藏的恶意元素。通过利用神经网络，攻击者可以快速生成大量令人信服的虚假页面，每个页面都略有不同，以逃避检测。这种自动化方法使网络犯罪分子能够撒下更广泛的网络，从而可能使更多受害者陷入网络钓鱼计划中。

4。用于绕过帐户验证的 Deepfakes

SlashNext 威胁研究人员观察到，暗网上的供应商提供的服务可创建深度伪造品，以绕过银行和加密货币交易所的账户验证流程。这些用于规避“了解你的客户”(KYC) 准则。这一令人震惊的趋势表明，人工智能生成的深度伪造品如何从社会工程和错误信息活动演变为金融欺诈工具。犯罪分子正在使用先进的人工智能来创建逼真的视频和音频模仿，欺骗依赖生物识别验证的安全系统。

5。人工智能驱动的语音欺骗

网络犯罪分子正在分享有关如何使用人工智能欺骗和克隆声音以用于各种网络犯罪的信息。这种新兴威胁利用先进的机器学习算法以惊人的准确性重建人类声音。攻击者可能会使用这些人工智能生成的语音克隆来冒充高管、家庭成员或社会工程攻击中的权威人物。例如，他们可能会拨打欺诈电话来授权资金转账、绕过基于语音的安全系统或操纵受害者泄露敏感信息。

6。人工智能增强型一次性密码机器人

人工智能正在被集成到一次性密码 (OTP) 机器人中，以创建语音网络钓鱼模板。这些复杂的工具包括自定义语音、欺骗性来电显示和交互式语音响应系统等功能。自定义语音功能允许犯罪分子模仿受信任的实体甚至特定个人，而欺骗性的来电显示则进一步提高了诈骗的可信度。交互式语音应答系统增加了额外的真实感，使假电话与合法电话几乎无法区分。这种人工智能驱动的方法不仅提高了网络钓鱼尝试的成功率，而且还使安全系统和个人检测和防止此类攻击变得更具挑战性。

虽然我同意 DBIR 的观点，即网络安全领域围绕人工智能进行了大量炒作，但重要的是不要忽视生成式人工智能对威胁格局的潜在影响。上述轶事证据表明，网络犯罪分子正在积极探索和实施人工智能驱动的攻击方法。

展望未来

组织必须对网络安全中的人工智能采取积极主动的立场。尽管目前官方数据集中人工智能攻击的数量很低，但我们的轶事证据表明，这种威胁是真实存在的，而且还在不断增长。展望未来，必须执行以下操作：

随时了解人工智能和网络安全的最新发展
投资人工智能驱动的安全解决方案，可以展现出明显的优势
持续评估和改进安全流程以应对不断变化的威胁
对利用人工智能技术的新兴攻击媒介保持警惕

虽然我们尊重 DBIR 的调查结果，但我们认为，官方报告中缺乏有关 AI 攻击的丰富数据不应妨碍我们为未来潜在的威胁做好准备和减轻威胁，特别是因为 GenAI 技术仅广泛可用近两年内。我们提供的轶事证据强调需要持续保持警惕并采取积极措施。

关于作者

你可能也喜欢

摘要

网络安全中的 GenAI：超越 Verizon DBIR 的见解官方报告中缺乏有关人工智能攻击的丰富数据，但这不应妨碍我们为未来潜在的威胁做好准备并减轻其影响。DBIR 对生成式人工智能的立场最新 DBIR 的作者表示，研究人员“密切关注在攻击中使用新兴的生成人工智能 (GenAI) 领域的任何迹象以及这些技术的潜在影响，但我们收集的事件数据中没有任何具体内容全球”。人工智能辅助恶意软件生成攻击者正在探索使用人工智能来开发恶意软件，例如可以在后台运行且未被检测到的键盘记录器。犯罪分子正在使用先进的人工智能来创建逼真的视频和音频模仿，欺骗依赖生物识别验证的安全系统。展望未来组织必须对网络安全中的人工智能采取积极主动的立场。