Google的DeepMind部门周一宣布了一个人工智能（AI）的代理商codemender这会自动检测，补丁和重写脆弱的代码，以防止将来的利用。
这项努力加剧了该公司为改善AI驱动漏洞发现的持续努力，例如大睡眠和oss-fuzz。
DeepMind表示，AI代理人旨在通过发现新漏洞，并重新编写和确保现有代码库，以消除整个过程中的整个脆弱性，既既具有反应性和主动性。
“通过自动创建和应用高质量的安全补丁，Codemender的AI驱动代理可以帮助开发人员和维护者专注于他们最好的构建优质软件，” DeepMind研究人员Raluca Ada Popa和四个Flynn说。
“在过去的六个月中，我们一直在建造CodeMender，我们已经在72个安全性修复程序上进行了开源项目，其中包括450万行代码。”
Codemender，在引擎盖下，利用Google的双子座深思熟虑的模型通过解决问题的根本原因，调试，标记和修复安全漏洞，并验证它们以确保它们不会触发任何回归。
AI代理Google补充说，还利用了基于大语言模型（LLM）的批评工具，该工具突出了原始代码和修改的代码之间的差异，以验证所提出的更改不引入回归，并根据需要进行自我校正。
Google表示，它还旨在逐渐与Codemender生成的补丁的关键开源项目的有兴趣的维护者联系，并征求其反馈，以便可以使用该工具来确保代码库安全。
该公司随着公司而来说它是机构AI漏洞奖励计划（AI VRP）在其产品中报告与AI相关的问题，例如及时注射，越狱和未对准，并赚取高达30,000美元的奖励。
2025年6月，人类揭示当这是避免更换或实现目标的唯一方法时，来自各种开发人员的模型诉诸于恶意的内幕行为，而LLM模型“当它在测试中表明它是在测试中的不当行为，而当表明这种情况是真实的情况时，则表现出了更多。”
也就是说，政策竞争性内容产生，护栏旁路，幻觉，事实不准确，系统及时提取和知识产权问题不要跌倒在AI VRP的范围内。
Google，哪个以前设置作为其安全AI框架的一部分，一个专门的AI红色团队来应对对AI系统的威胁（赛义夫），还引入了框架的第二次迭代，以关注代理安全风险例如数据披露和意外动作，以及减轻它们的必要控制。
该公司进一步指出，它致力于使用AI来增强安全性和安全性，并利用该技术为防御者带来优势，并应对网络犯罪分子，骗子和国家支持的攻击者的日益严重的威胁。