AI威胁使SECOPS团队烧毁并暴露了 - 帮助净安全性

努力倾斜AI，快速。最近对美国大公司500名高级网络安全专业人员的调查发现，过去一年中有86％的人加剧了他们的AI使用。主要原因？他们试图跟上AI驱动攻击的激增。

但即使是AI工具帮助解决威胁检测和数据分析等任务，安全团队的压力越来越严重。近70％的受访者表示，AI和其他新兴技术实际上是为倦怠。

研究结果来自2025年的SECOPS报告报告，基于金融，技术，制造，医疗保健，政府和关键基础设施的组织的回应。

AI有帮助，但增加了压力

调查描绘了一幅混合图片。一方面，AI使常规安全操作更加容易。组织的四分之三使用Genai在其安全工作流的某些部分中的工具，包括数据分析，客户服务和威胁检测，包括常见用例。

这些工具可以节省时间。平均而言，由于AI驱动的自动化，组织平均每周收回12小时。对于大型企业，每周的储蓄跃升至15小时。

但是这些好处是有代价的。技术变革的速度很难跟上，尤其是对于已经延长的团队而言。结果，旨在减少工作量的相同工具也有助于疲劳。该报告发现，将近十分之一的专业人员指责AI及相关技术，以增加团队的压力和倦怠。

AI军备竞赛：攻击者正在获胜

AI使用的激增不仅限于防御者。攻击者还使用AI来自动化并扩大他们的努力。在过去的一年中，有38％的组织报告说成为AI驱动的网络攻击的受害者。

这些攻击仅仅是理论上的。该报告表明，AI支持的违规导致数据，财务损失和声誉损失。在关键基础设施部门（例如能源，公用事业和运输）中，数字甚至更糟。该小组中的一半组织经历了AI驱动的攻击。

今天的网络安全失衡显然有利于攻击者，”卡尔·弗罗格特（Carl Froggett），深入本能的CIO告诉帮助网络安全。他们的运作危险很小，即使是在执法部门中，他们也利用了不受监管的AI和大型语言模型。

这种自由使攻击者能够快速采用并武器化最新工具，从而获得清晰的优势。同时，防守者试图以更少的资源追赶。许多人已经将大量资金投入到AI和ML系统，培训和集成中，这使得迅速的课程更正困难。

Froggett补充说：“ SECOPS团队的任务是维护日常防御并制定新策略，同时处理人员短缺和资源限制。”在受管制行业的合规要求中，构成了另一个障碍，通常会减慢采用新技术的采用。”

结果是攻击者可以做什么与防守者可以做出的速度之间的差距扩大。

关键部门的意识滞后

公共部门和医疗保健组织报告说，AI驱动的事件较少，但该报告警告说，这些行业的关注程度较低可能反映出缺乏意识，而不是降低风险。

人工智能还在推动特定威胁的上升。几乎一半的组织说他们看到了更多有针对性的网络钓鱼尝试在过去的一年中。攻击者模仿CEO和其他高级领导人欺骗员工，Deepfake模仿也变得越来越普遍。

云存储是另一个日益增长的风险。将近83％的受访者表示，他们担心恶意文件被上传到存储平台。尽管造成了严重的后果，但仍被低估了一些威胁。例如，零日攻击被排名最低，尽管它们经常绕过传统的防御措施并且变得越来越难以检测。

AI理解中的差距

报告中强调的另一个问题是围绕AI的实际含义的困惑。尽管大多数组织都以某种方式采用了AI工具，但许多安全专家都在努力定义诸如深度学习和机器学习之类的关键概念。只有28％的受访者可以准确解释两者之间的关系。在关键基础设施之类的行业中，这种知识差距甚至更大，这也报告了AI驱动攻击的最高速度。

缺乏清晰可能会带来现实的后果。了解不同类型的AI工作对于选择正确的工具和为下一代威胁做准备很重要。

朝着预防迈进

随着攻击的数量和复杂性的增加，今年有超过80％的组织将注意力转移到预防上，高于2024年的73％。

此举部分由领导力驱动。三分之二的受访者说，他们的董事会或C核心正在敦促一种预防先进的方法，这种方法会在他们到达网络之前停止威胁，而不是在造成损害后做出反应。

为了准备AI驱动的威胁，大多数组织都在投资新技术，扩大外部合作伙伴关系或发展内部安全能力。只有2％的人说他们什么都不做。