OC

Opus 5 写长期项目严格通过率只有 24%:Agent 最难的是别把代码越改越乱
科技 · 2026-07-28 · 开发者工具 · 阅读 6

Opus 5 写长期项目严格通过率只有 24%:Agent 最难的是别把代码越改越乱

作者:林岚|OC 开发者生态编辑

作者 林岚 林岚

HumanLayer 的测试记录SlopCodeBench 论文 显示,Claude Opus 5 在一组长期迭代编程任务,严格通过率只有 24%。测试同时观察到代码规模、复杂度和重复逻辑随需求轮次增长。

一句话结论:编程 Agent 会完成下一项需求,不代表它能维护一个持续变化的项目;长期质量正在成为比单次通过率更难的考题。

传统代码基准通常给模型一个完整任务,然后检查测试是否通过。SlopCodeBench 故意换了一种方式:先给出初始需求,再分阶段加入新约束。模型必须在自己此前写下的代码上继续工作,既不能破坏旧功能,也要为下一次变化保留结构。

这更像真实维护,而不是算法考试。开发者经常面对“增加一个选项”“支持另一种后端”“现在还要兼容旧格式”这类需求。一次次局部补丁都可能通过当下测试,却让条件分支、重复实现和隐式状态不断堆积。

同一代码库经过多轮修改后复杂度逐步上升

24% 需要带着限定条件阅读。HumanLayer 对 Opus 5 的测试规模有限,所用 Agent、提示词、工具权限和严格评分规则都会影响结果。它不能证明 Opus 5 在日常编程只有四分之一任务可用,也不能直接与厂商公布的单轮 SWE 基准比较。

但它指出了一个经常被掩盖的问题:功能测试只检查“现在能不能跑”,不会自动检查架构是否正在腐烂。Agent 特别擅长在现有结构上增加一层兼容代码,因为这通常是最短的局部路径。多轮以后,每一轮都正确,整体仍可能变得难以理解。

问题不在于再给 Agent 写一页“保持代码整洁”的规则。更有效的做法是把复杂度预算、重复检测、模块边界和回归测试变成机器可检查的约束,并在需求之间安排重构阶段。否则,Agent 提高的是功能交付速度,技术债也会以相同速度增长。

关键事实

  • 来源:HumanLayer 测试记录、SlopCodeBench 论文与数据集
  • 涉及项目:Claude Opus 5、SlopCodeBench
  • 核心技术:长周期代码基准、分阶段需求、静态质量指标
  • 关键数字:小规模测试严格通过率 24%;基准论文包含 20 个问题和 93 个检查点

OC 判断

24% 不是模型能力总分,但这个基准问对了问题。生产代码的价值不是某一轮测试变绿,而是下一位开发者还能安全修改。编程 Agent 的下一阶段竞争,会从“写得快”转向“在第十次改动后仍能解释和收敛复杂度”。

为什么重要

  • 对开发者:验收 Agent 代码时,需要同时看回归测试、复杂度、重复和架构边界。
  • 对企业:用一次性 benchmark 估算长期维护收益,会系统性高估节省的人力。
  • 对用户:代码快速上线并不代表后续更新更稳定,隐藏技术债最终会表现为故障和安全问题。

参考来源

相关阅读

基于标题、摘要和正文内容自动匹配。

更多科技

评论

围绕这篇文章补充信息、提出问题或分享观察。

0
暂无评论。

发表评论

继续看看 OC 用户围绕这个话题说了什么、做了什么。

相关帖子

更多

你们的Codex额度提前耗完了没?戒断反应如何?

<p>我在第三天就消耗了只剩1%,忍了一天,然后今天干脆用这最后的1%,开着5.6 Sol 极高 强推我一个提示词笔记本应用的功能落地。最终用时3小时,居然还是跑完了。但是现在还是出现一些戒断反应,感觉啥也做不了,就无精打采的,困。</p> <p>我做了一个Prompt Notebook,专门用来收藏或者记录自己手搓的生图提示词。带Chrome一键收藏插件。支持AI优化提示词。支持提示词中提取常用字段作为提示词百科词汇。也自带生图功能用来测提示词。但是要搭配Cloudflare R2+Worker的图床。</p> <p>今天主要是做一个AI模特的资产库。将常用的AI模特固定下来,进行身份设定,以及模特的一些角色定妆图。之后生图可以直接调用AI模特自动作为垫图。</p> <p>这是AI模特资产库的界面: <img src="/upload/thread/202608/42b5f73e-938f-45de-b74e-da69da9d72a8.webp" alt="1bb0d28b-c7dd-4327-bafa-26b60323cbed" /> 这是主界面的提示词瀑布流,支持关键词或标签搜索: <img src="/upload/thread/202608/3e15b6e7-345f-48b4-aeff-1bbd89afe9d3.webp" alt="ab998e2f-9ccc-4173-832f-223aa6c6fa81" /> 这是提示词笔记的预览界面,可以复制提示词,分享提示词,点击分享还有分享短链:(https://prompt.jintao.co.uk/share/20260806LfsmY) <img src="/upload/thread/202608/bab31972-0468-4582-b873-6309233254a6.webp" alt="20260806-201213" /> 可惜现在没额度了,我又不想换模型折腾。现在还有些界面细节和小功能需要落地完善,可能还要虫子要抓。弄好了,打算放GitHub开源。</p> <p>有朋友想试试的么?</p>

shynloc 2 4