人工智能代理商在编写代码方面变得越来越好，也可以黑客入侵
作者：Will Knight
人工智能模型不仅是非常擅长软件工程``新研究表明，他们在软件中的发现也越来越大。加州大学伯克利分校的AI研究人员测试了最新的AI模型和代理商在188个大型开源代码库中发现漏洞。
使用新基准称为网络，AI模型确定了17个新错误，其中包括15个以前未知的错误，或零日。加州大学伯克利分校的教授Dawn Song说，其中许多漏洞都至关重要。
许多专家期望AI模型成为强大的网络安全武器。启动Xbow的AI工具当前已经爬上了hackerone的队伍``用于狩猎虫子的排行榜，目前处于最高位置。该公司最近宣布了7500万美元的新资金。
Song说，最新的AI模型的编码技巧以及改进的推理能力开始改变网络安全局势。她说，这是一个关键的时刻。它实际上超出了我们的一般期望。
随着模型的继续改善将自动化发现和利用安全缺陷的过程。这可以帮助公司确保其软件安全，但也可以帮助黑客闯入系统。歌曲说，我们什至没有尝试那么努力。<如果我们提高预算，让特工跑得更长的时间，他们可以做得更好。
加州大学伯克利分校团队测试了OpenAI，Google和Anthropic的传统边境AI模型，以及Meta，DeepSeek和Alibaba的开源产品，并结合了几个用于查找错误的代理商，包括开放式，，，，Cybench， 和谜。
研究人员使用了188个软件项目中已知的软件漏洞的描述。然后，他们将描述提供给了由Frontier AI模型提供动力的网络安全代理，以查看是否可以通过分析新的代码库，运行测试和制定概念概念概念证明利用来确定自己的缺陷。团队还要求代理商自己在代码库中寻找新的漏洞。
通过此过程，AI工具产生了数百个概念证明的利用，其中研究人员确定了15个以前看不见的漏洞和两个先前已被披露和修补的漏洞。这项工作增加了越来越多的证据表明，AI可以自动化零日漏洞的发现，这可能是危险（而且很有价值），因为它们可能会提供一种破解现场系统的方法。
尽管如此，AI似乎注定会成为网络安全行业的重要组成部分。安全专家肖恩·赫兰（Sean Heelan）最近发现在OpenAI推理型O3的帮助下，广泛使用的Linux内核中的零日缺陷。去年11月，Google宣布它已经通过AI通过一个名为Zero的程序发现了以前未知的软件漏洞。
像软件行业的其他部分一样，许多网络安全公司都对AI的潜力着迷。新工作确实表明，AI通常可以发现新的缺陷，但它也突出了该技术的剩余局限性。AI系统无法找到大多数缺陷，并且被特别复杂的缺陷所困扰。
关于《人工智能代理商在编写代码方面变得越来越好，也可以黑客入侵》的评论
暂无评论