AI黑客的时代到了

今年夏天，俄罗斯的黑客对发送给乌克兰人的网络钓鱼电子邮件的屏障进行了新的转折。

黑客包括一个包含人工智能程序的附件。如果安装，它将自动搜索受害者的计算机以获取敏感文件，以发送回莫斯科。

该活动于7月在7月的技术报告中详细介绍乌克兰政府还有几个网络安全公司，是俄罗斯情报中的第一个已知实例，该实例被捕获使用大语言模型（LLMS）建立恶意代码，这是企业文化无处不在的AI聊天机器人的类型。

那些俄罗斯间谍并不孤单。近几个月来，似乎每一个条纹的网络犯罪分子，间谍，研究人员和企业捍卫者都开始使用AI工具。

LLMS，例如ChatGpt，仍然容易出错。但是，它们已经非常擅长处理语言指令，并将平原语言转换为计算机代码，或识别和汇总文档。

迄今为止，这项技术还没有通过将完整的新手变成专家的革命，也没有允许潜在的网络狂热者关闭电网。但这是使熟练的黑客更好，更快的速度。网络安全公司和研究人员现在也在使用AI，也为进攻性黑客之间的猫和鼠标游戏不断升级，这些黑客发现和利用软件缺陷和试图首先解决这些缺陷的防御者。

这是开始的开始。Google安全工程副总裁希瑟·阿德金斯（Heather Adkins）说，也许朝向开始。

2024年，阿德金斯（Adkins）团队开始使用一个使用Google S LLM，Gemini的项目来寻找重要的软件漏洞或错误，然后才能找到它们。本月初，阿德金斯宣布她的团队到目前为止发现了至少有20个重要的错误在常用的软件中，并向公司发出警报，以便他们可以修复它们。该过程正在进行中。

她说，这些漏洞都没有令人震惊，或者只有一台机器才能发现的东西。但是，通过AI，该过程只是更快。她说：``我没有看到任何人发现一些小说。这只是在做我们已经知道如何做的事情。但这会进步。

网络安全公司CrowdStrike的高级副总裁亚当·迈耶斯（Adam Meyers）表示，他的公司不仅使用AI来帮助人们认为自己被黑客入侵的人，而且还越来越多地证明了其使用中国，俄罗斯，伊朗和犯罪分子的使用证据。

他说，更高级的对手正在利用它来发挥自己的优势。”他告诉NBC新闻，我们每天都会看到越来越多的事情。

这种转变才刚刚开始赶上已经渗透到网络安全和人工智能行业多年的炒作，尤其是自2022年将Chatgpt引入公众以来。这些工具始终证明是有效的，一些网络安全研究人员抱怨要落入黑客的黑客。AI产生的假脆弱性发现。

骗子和社会工程师 - 假装自己是其他人或写令人信服的网络钓鱼电子邮件的人自从至少2024年以来，一直使用LLM似乎更具说服力。

但是，DreadNode的首席执行官威尔·皮尔斯（Will Pearce）说，但是，使用AI直接破解目标才刚刚开始真正起飞。

他说，原因很简单：该技术终于开始赶上了期望。

在这一点上，技术和模型都非常出色。”他说。

皮尔斯告诉NBC News，不到两年前，自动化的AI黑客入侵工具将需要进行重大修补才能正确地完成工作，但现在它们更加熟练。

另一家创业公司在6月成为第一个爬升到Hackerone美国排行榜顶部的AI的AI创建的创业公司在6月创造了历史，这是世界各地黑客的现场记分牌，自2016年以来，该黑客一直对黑客识别最重要的漏洞并赋予他们吹牛权利。上周，Hackerone添加了一个新类别对于自动化AI黑客工具的群体，可以将它们与个人研究人员区分开。Xbow仍然带领这一点。

黑客和网络安全专业人员尚未解决AI是否最终会帮助攻击者或防守者。但是目前，防守似乎正在获胜。

白宫国家安全委员会的高级网络总监亚历克西·布拉泽尔（Alexei Bulazel）上周在拉斯维加斯举行的DEF Con Hacker会议上的一个小组中说，这种趋势将至少只要美国拥有世界上大多数最先进的科技公司。

我非常坚信，对防守者而言，AI比进攻更有优势。”布拉泽尔说。

他指出，在一家美国主要科技公司中发现极其破坏性缺陷的黑客很少见，而且犯罪分子经常通过在没有精英网络安全团队的较小的小公司中找到小型，被忽视的缺陷而闯入计算机。他说，AI在犯罪分子之前发现这些虫子特别有用。

Bulazel说：'Bulazel说：“以低成本，简单的方式识别脆弱性的事物类型确实使访问脆弱性信息的访问人数民主化。”

但是，随着技术的发展，这种趋势可能无法实现。一个原因之一是，到目前为止，没有包含AI的自由使用自动黑客入侵工具或穿透性测试仪。此类工具已经在网上广泛使用，名义上是在犯罪黑客使用的实践中测试缺陷的程序。

Google S Adkins说，如果人们合并了高级LLM并可以自由使用，则可能意味着在较小的公司计划上开放季节。

她说，我认为在某个时候有人会释放[这样的工具]也是合理的。”我认为这有点危险的时候。

CrowdStrike的Meyers说，执行更复杂任务的代理AI工具的兴起，例如编写和发送电子邮件或执行程序可以证明具有重大网络安全风险的代码。

•代理AI确实是可以代表您采取行动的AI，对吗？这将成为下一个内部威胁，因为由于组织部署了这些代理AI，因此他们没有内置的护栏来阻止某人滥用它。”