谷歌声称人工智能发现 0-Day 安全漏洞是世界第一

2024-11-04 10:37:56 英文原文

作者:Davey Winder

谷歌的 Big Sleep 团队首次利用人工智能发现了一个零日漏洞。

SOPA 图片/LightRocket 来自 Getty Images

人工智能代理在广泛使用的现实软件中发现了一个先前未知的、可利用的零日内存安全漏洞。根据谷歌零号项目和 DeepMind 的说法,这是此类发现的第一个例子,至少是公开的。Big Sleep 是发现该漏洞的大型语言模型辅助漏洞代理的幕后力量。

如果您不知道“零号计划”是什么,也没有对其在安全领域取得的成就感到敬畏,那么您在过去几年中根本就没有关注。这些精英黑客和安全研究人员坚持不懈地努力揭露零日漏洞在 Google 产品及其他产品中。如果您不了解 Google 的人工智能研究实验室 DeepMind,同样会受到缺乏关注的指责。因此,当这两个科技巨头联手创造“Big Sleep”时,势必会引起轰动。

福布斯焦虑如何击败价值 100 亿美元的人工智能 Deepfake 初创公司黑客经过戴维·温德

谷歌使用大型语言模型来捕获现实世界代码中的零日漏洞

在 11 月 1 日的声明中,Google 的零项目博客证实该项目Naptime大语言模型辅助安全漏洞研究框架已经演变成大睡。这项协作工作涉及一些最优秀的道德黑客(作为零号项目的一部分)和最优秀的人工智能研究人员(作为 Google DeepMind 的一部分),开发了一种大型语言模型驱动的代理,可以发现非常真实的安全漏洞在广泛使用的代码中。Big Sleep 团队表示,在这个世界首创的案例中,他们发现了“广泛使用的开源数据库引擎 SQLite 中存在可利用的堆栈缓冲区下溢”。

该零日漏洞于 10 月份向 SQLite 开发团队报告,该团队于当天修复了该漏洞。“我们在正式版本出现之前就发现了这个问题,”Google 的 Big Sleep 团队表示,“因此 SQLite 用户没有受到影响。”

谷歌 Big Sleep 团队表示,人工智能可能是模糊测试的未来

尽管您以前可能没有听说过模糊测试这个术语,但几十年来它一直是安全研究主要内容的一部分。模糊测试涉及使用随机数据来触发代码中的错误。尽管模糊测试的使用被广泛认为是寻找代码漏洞的基本工具,但黑客很容易承认它无法找到所有内容。“我们需要一种方法,可以帮助防御者找到通过模糊测试很难(或不可能)发现的错误,”Big Sleep 团队表示,并补充说,他们希望人工智能能够填补空白并发现 –在软件发布之前就发现软件中的漏洞,几乎没有给攻击者留下攻击的余地。

福布斯新的网络攻击警告 - 确认您不是机器人可能很危险经过戴维·温德

“在一个广泛使用且模糊不清的开源项目中发现漏洞是一个令人兴奋的结果,”Google Big Sleep 团队表示,但承认目前的结果是“高度实验性的”。目前,Big Sleep 代理被认为仅与特定目标模糊器一样有效。然而,不久的将来看起来是光明的。“这项工作将为防御者带来显着的优势,”Google 的 Big Sleep 团队表示,“不仅有可能找到崩溃的测试用例,还有可能提供高质量的根本原因未来的分析、分类和解决问题可能会更便宜、更有效。”

关注我 叽叽喳喳或 领英。一个 签出 我的 网站或我的一些其他作品 这里。一个 

关于《谷歌声称人工智能发现 0-Day 安全漏洞是世界第一》的评论


暂无评论

发表评论

摘要

谷歌的 Big Sleep 团队首次使用人工智能发现了一个零日漏洞,在广泛使用的开源数据库引擎 SQLite 中发现了一个可利用的内存安全漏洞。这一发现于 11 月 1 日公开,凸显了人工智能在安全研究中的潜力,特别是在识别模糊测试等传统方法可能遗漏的漏洞方面。该漏洞已于 10 月份向 SQLite 团队报告并由 SQLite 团队修复。谷歌认为这是通过人工智能驱动的分析增强网络威胁防御能力的重要一步。