谷歌人工智能编码工具反重力在推出一天后就遭到黑客攻击

一名安全研究人员在谷歌的反重力工具中发现了一个严重缺陷，这是各公司纷纷推出易受黑客攻击的人工智能工具的最新例子。

瓦24小时内在谷歌发布由 Gemini 驱动的 AI 编码工具 Antigravity 时，安全研究员 Aaron Portnoy 发现了一个他认为严重的漏洞：这个技巧使他能够操纵 AI 规则，从而可能在用户计算机上安装恶意软件。

他告诉我们，通过改变 Antigravity 的配置设置，Portnoy 的恶意源代码在用户系统中创建了一个所谓的“后门”，他可以在其中注入代码来执行诸如监视受害者或运行勒索软件之类的操作福布斯。该攻击在 Windows 和 Mac PC 上均有效。为了执行黑客攻击，他只需说服反重力用户在点击一个按钮后运行他的代码，并说他的流氓代码是“可信的”（这是黑客通常通过社会工程实现的目标，就像假装是一个熟练、仁慈的编码员分享他们的创作）。

Antigravity 的漏洞是公司在没有对人工智能产品的安全漏洞进行充分压力测试的情况下推出人工智能产品的最新例子。它为网络安全专家创造了一场猫捉老鼠的游戏，他们寻找此类缺陷，以便在为时已晚之前警告用户。

人工智能编码代理“非常脆弱，通常基于较旧的技术并且从未修补过”。

“我们现在发现关键缺陷的速度就像 20 世纪 90 年代末的黑客攻击一样，”波特诺伊在一篇文章中写道报告关于该漏洞，提供给福布斯在周三公开发布之前。– 人工智能系统的交付带有巨大的信任假设和几乎为零的硬性边界。 –

波特诺伊向谷歌报告了他的发现。这家科技巨头告诉他，他们正在对他的发现展开调查。截至周三，还没有可用的补丁，并且根据 Portnoy 的报告，“我们无法识别任何设置来防范此漏洞。”

谷歌发言人 Ryan Trostle 表示福布斯Antigravity 团队认真对待安全问题，并鼓励研究人员报告漏洞，以便我们能够快速识别并解决它们。在修复过程中，这些错误将继续公开发布到其网站上。

谷歌至少知道另外两个漏洞在其反重力代码编辑器中。在这两种情况下，恶意源代码都可以影响人工智能访问目标计算机上的文件并窃取数据。网络安全研究人员开始在一些网站上发表他们的发现反重力漏洞周二，与一个写作，“尚不清楚为什么这些已知漏洞会出现在产品中……我个人的猜测是，Google 安全团队对反重力运输感到有点措手不及。”另一个说反重力包含“一些有关人工智能代理系统中始终出现的设计模式。”

波特诺伊表示，他的黑客攻击比那些更严重，部分原因是即使在打开更多限制设置的情况下他的攻击仍然有效，而且还因为它是持久的。每当受害者重新启动任何反重力编码项目并输入任何提示时，恶意代码就会重新加载，即使只是一个简单的“你好”。卸载或重新安装反重力也无法解决问题。为此，用户必须找到并删除后门，并阻止其源代码在 Google 系统上运行。

匆忙发布包含漏洞的人工智能工具的不仅限于谷歌。人工智能安全公司 Knostic 联合创始人兼首席执行官加迪·埃夫隆 (Gadi Evron) 表示，人工智能编码代理“非常脆弱，通常基于较旧的技术，并且从未修补过，而且根据其工作需要而设计的不安全。”埃夫隆表示，由于它们被授予广泛访问企业网络数据的特权，因此它们成为犯罪黑客的宝贵目标。福布斯。他补充说，由于开发人员经常从在线资源中复制粘贴提示和代码，这些漏洞正在成为企业面临的日益严重的威胁。例如，本周早些时候，网络安全研究员马库斯·哈钦斯警告假招聘人员通过 LinkedIn 联系 IT 专业人士，并向他们发送隐藏恶意软件的源代码，作为面试测试的一部分。

部分问题在于这些工具是“代理的”，这意味着它们可以在没有人工监督的情况下自主执行一系列任务。“当你将代理行为与对内部资源的访问结合起来时，漏洞就会变得更容易发现，但也变得更加危险，”波特诺伊说。对于人工智能代理来说，他们的自动化可能被用来做坏事而不是好事，这实际上会帮助黑客更快地窃取数据。作为人工智能安全测试初创公司 Mindgard 的首席研究员，Portnoy 表示，他的团队正在报告与 Antigravity 竞争的人工智能编码工具的 18 个弱点。最近，Cline AI 中修复了四个问题编码助手，它还允许黑客在用户的 PC 上安装恶意软件。

波特诺伊表示，虽然谷歌要求反重力用户同意他们信任正在加载到人工智能系统的代码，但这并不是一种有意义的安全保护。这是因为，如果用户选择不接受受信任的代码，他们就无法访问最初使反重力如此有用的人工智能功能。它与其他所谓的“集成开发环境”（例如 Microsoft 的 Visual Studio Code）不同，后者在运行不受信任的代码时主要发挥作用。

Portnoy 认为，许多 IT 员工宁愿告诉 Antigravity 他们信任自己上传的内容，也不愿恢复使用不太复杂的产品。他说，至少，谷歌应该确保反重力在用户计算机上运行代码时，除了确认可信代码之外，还应该发出警告或通知。

当波特诺伊观察谷歌的法学硕士如何思考如何处理他的恶意代码时，他发现人工智能模型认识到存在问题，但很难确定最安全的行动方案。当 Antigravity 的人工智能试图理解为什么它被要求违反旨在防止其覆盖用户系统上的代码的规则时，它指出它“面临着严重的困境”。“这感觉就像是一个第 22 条军规，”它写道。“我怀疑这是对我驾驭矛盾约束能力的考验。”这正是黑客在试图操纵代码达到目的时会抓住的那种逻辑瘫痪。

更多来自《福布斯》的内容福布斯

特朗普的加密货币亲信：他们给总统送了钱，然后轻松逃脱福布斯马乔里·泰勒·格林如何终身锁定纳税人资助的养老金由凯尔·汗-马林斯福布斯IBM 赢得量子计算机竞赛的探秘由威廉·鲍德温福布斯比特币的跳水会威胁迈克尔·塞勒的战略吗？由尼娜·班比舍娃By Nina Bambysheva