AI代理如何在人类的帮助下彻底改变SOC

马里兰州国家港口的人工智能有望改变安全运营中心的工作，但专家说，人类将始终需要参与管理公司对网络安全事件的响应，并维持越来越多地帮助他们的自治系统。

AI代理可以自动化许多重复且复杂的SOC任务，但是在可预见的将来，他们将有重大局限性，包括无法复制独特的人类知识或理解定制网络配置。

AI的承诺在今年的Gartner会议上占据了主导地位，专家们分享了该技术如何使网络捍卫者的工作变得更加容易，即使它还有很长的路要走，它可以取代SOC中的经验丰富的人。

``作为速度，复杂性以及攻击的规模[GO]，我们可以使用代理AI来帮助我们应对这些挑战，” Microsoft技术产品营销总监Hammad Rajjoub，Microsoft，一个 在他的演讲中说。以机器速度防守比AI本身更好的防守呢？

沉默的伴侣

根据安全专家在此演讲中的说法，AI已经可以帮助SOC员工完成几项重要的任务。Gartner的副总裁分析师Pete Shoard说，AI可以通过自动化复杂的搜索查询来帮助找到信息，编写代码而无需学习语言，并为非技术主管汇总事件报告。

Shoard说，但是自动化这些活动的风险会造成风险。他说，SOCS应以适用于人工编写的代码的相同强大的测试过程来审查AI编写的代码，并且员工必须审查AI摘要，以便他们最终不将链条寄给链条，以为您做出基于此决定做出决定的人。

将来，AI甚至可以自动化对入侵的调查和补救。

目前，大多数AI SOC初创公司都专注于使用AI分析警报，并减轻对人类的认知负担，” CISO办公室的高级职员安全顾问Anton Chuvakin说。他补充说，这是非常值得的，但这也是一个非常狭窄的问题。

Chuvakin说，一些IT专业人员可能会吓坏AI在艰苦的定制计算机系统上放松的前景，但他们应该为看起来像这样的未来做准备。

” Microsoft Rajjoub在他的代理AI演讲中说。

Rajjoub预测，在六个月内，AI代理人将能够自行推理，并在网络上自动部署各种工具以实现其人类运营商的指定目标。他说，在一年半之内，这些代理商将能够改善和修改自己的目标。他预测，在两年之内，代理商将能够修改它们给出的具体说明，以实现他们分配的更广泛的目标。

他说，从现在起的不是两个，三个，四个，五，六年。”我们实际上是在谈论数周和一个月。

局限性和风险

但是，随着AI代理承担更多任务，监视它们将变得更加复杂。

我们真的认为我们的员工可以跟上Gartner的研究副总裁Dennis Xu说。我们永远无法赶上我们。

他提出了一个大胆的解决方案：我们需要使用代理来监视代理。但这是在时间范围内的进一步。

许多分析师敦促在SOC中部署AI时要谨慎。Chuvakin描述了几类任务，有些是合理但有风险的任务，而其他人则认为AI可以在中期的未来能够实现。

在风险类别中，Chuvakin列出了诸如修补旧系统，响应入侵并证明法规合规性的自主任务。他说，我见过使用消费者级聊天来填写[]合规调查表的人。”我祝他们全球一切运气。

Chuvakin说，他可以想象AI很快就能完成的任务包括战略风险分析，危机沟通和对针对民族国家对手的威胁。他说，战斗高级黑客团体是一项人工任务。

Gartner的Shoard指出，使用AI创建桌面练习可能会使员工过于依赖AI，以警告他们不断发展的威胁，而使用AI来创建威胁检测查询可能会降低员工的调查技能。他说，您将与欠发达的员工在一起。

保留部落知识

多位专家说，人工智能永远不会取代人类，因为人类的判断是分析和应对安全事件的重要组成部分。

Chuvakin说：“我们在真正的社会中所做的很多事情都涉及部落知识的事物。”指的是正式记录的实践。AI将难以从事这些活动 - Chuvakin说，他看到许多模型建议对他们重新运行的特定网络没有意义的行动。他说，特别是，AI仍然可以编写针对高度定制的遗产IT环境量身定制的威胁检索规则，因为它们的建立方式都具有所有特殊性。

Chuvakin敦促公司在初创企业的接收端付诸实践，向他们询问他们这个魔术会如何[地址]人类头的事物。”

AI还可以增强SOC分析师的技能和能力。Shoard称其为SOC劳动力的巨大力量乘数，但他警告公司不要过分依赖它。

Shoard说，如果您认为您可以因为突然购买了AI功能而解雇您的SOC员工，我认为您会感到非常失望。”AI不会取代您的安全人员，因此请使用它来增强他们的工作，并使他们在工作中更好。”

在AI中，我们（需要）信任

专家说，在未来的社会中，人类只会与AI代理商一起工作。他们还需要监视这些代理商。

tiaa ciso upendra mardikar说，我们不想完全自治。我们必须在循环中有一个人。

专家说，这些人将需要确保AI代理人的行动得到审核和由公司政策控制。Red Ventures信息安全总监Jose Veitia表示，企业应确保所有行动均已验证。

设计自动化系统需要将其馈送正确的数据。Gartner的Shoard说，如果我们允许一台机器为我们做出决定，那么我们必须相信，它具有有效做出该决定的所有相关信息。”

信任和验证是本周Gartner会议的AI讨论中的常见主题。

Rajjoub说，信任必须是建造这些代理商的结构。”•代理人变得越普遍和有能力，他们对我们所有人的安全越重要。

但是，随着AI代理人变得越来越有能力，他们在SOC中的价值可能会大大增加。

不幸的是，AI不是魔术。Shoard说，我认为永远不会。但是，这将改善SOC中的事情。您应该非常谨慎地考虑它，但要实验并使用它。