OC
Claude 14 小时重写 1.6 万行 Go:MirrorCode 测的不是补丁题
科技 · 2026-08-04 · 开发者工具 · 阅读 7

Claude 14 小时重写 1.6 万行 Go:MirrorCode 测的不是补丁题

作者:林岚|OC 开发者生态编辑

作者 林岚 林岚

Epoch AI 与 METR 发布长周期编程基准 MirrorCode,要求 Agent 在看不到原始源码、不能访问互联网的环境中,根据程序说明和可观察行为重新实现完整软件。25 个目标程序横跨 Unix 工具、序列化、查询、生物信息、解释器、静态分析、密码学和压缩。

一句话结论:MirrorCode 把评测从“修一个已定位的 Bug”推到“重建一套完整程序”,但它测到的是给足 token、时间和测试反馈后的黑箱兼容能力,不等于 Agent 已能独立维护任意生产代码库。

最吸引眼球的案例是 Claude Opus 4.7 重写生物信息工具 gotree。原项目约 1.6 万行 Go,包含 40 多个命令;Agent 用 14 小时和约 251 美元完成近乎完整的实现。最佳版本通过 2001 项测试中的 2000 项,只在一个处理日期注释的边缘命令上失败。

因此,写成“完全重写成功”并不准确。研究团队把它视为接近完美,是因为覆盖了几乎所有约定功能;但严格按端到端输出完全一致的标准,它仍未解决该任务。这个差异正是长项目评测应保留的信息。

公开测试用于开发私有测试负责检查Agent是否只记住表面答案

MirrorCode 也刻意给模型更多预算。普通编程基准常把单题推理费限制在 1 至 10 美元,而这里某次大型任务运行 19 天、花费 2600 美元。排行榜中的中大型任务每次尝试预算可达 100 亿 token,并且每个任务运行三次。能力提升的一部分来自模型,一部分也来自允许它不断试错。

防作弊设计包括断网沙箱、不可见的保留测试和三项完全私有目标。团队开源了 25 个目标中的 22 个及评测脚手架。但数据污染仍无法彻底排除:目标来自开源项目,模型可能在预训练中见过源码。研究者做了记忆筛查并观察到未命中记忆的任务也能成功,这降低了疑虑,却不是证明从未记忆。

MirrorCode 和真实维护还有明显差距。黑箱重实现可以围绕固定行为和测试收敛,生产系统则包含模糊需求、历史兼容、性能、安全、部署和与人协作。更现实的用法是评估迁移、兼容实现和遗留工具替换,而不是据此宣布软件工程已经全自动化。

关键事实

  • 任务形式:无原始源码、无互联网,根据行为重建完整程序
  • 目标规模:25 个程序,覆盖六种实现语言和多个计算领域
  • gotree 案例:约 1.6 万行 Go,14 小时、251 美元,通过 2000/2001 项测试
  • 最大预算:单次运行可持续 19 天、成本约 2600 美元

OC 判断

这个基准比补丁题更接近真实长期任务,但“能重写”仍不同于“能负责”。下一步应测需求变化后的维护、非功能约束、供应链安全和多轮代码评审,而不只是输出是否匹配。

为什么重要

  • 对开发者:Agent 已能处理超出人工逐行检查范围的代码量,验收必须转向测试和行为契约。
  • 对企业:遗留迁移可能先受益,但需要独立性能、安全与许可证审查。
  • 对研究者:必须同时报告 token、时间、费用和测试缺口,不能只给成功率。

参考来源

相关阅读

基于标题、摘要和正文内容自动匹配。

更多科技

评论

围绕这篇文章补充信息、提出问题或分享观察。

0
暂无评论。

发表评论

继续看看 OC 用户围绕这个话题说了什么、做了什么。

相关碎碎念

更多

正在做OC产品频道,支持独立开发者提交自己的app,网站,在OC得到宣传和外链。基础功能已经实现,还有一堆在路上。我们独特的是有一个能力让你把产品的用户写的文章视频也可以列在你的产品页下方。方便更多用户了解,这不是想替代你自己的产品页面,而是帮你把做每个产品页各种复杂的互动都自动化,这个产品页还是可以导流到你自己的产品页的

tinyfool 1 2

从第一份程序员职业至今,已经过了 20 年,现在已经不再亲自写代码了,年初看到 Codex/Claude 火爆,又起心动念开始堆代码,只不过现如果自己亲手写的代码,跟 AI 写的代码放在一起,我开始有种耻感涌上来。是到了把关注点挪到像我这种老登程序员的生活上的时候了。

lgn21st 1 1

最近越来越多思考,我们跟agent的关系,比如我最近用blender mcp很多,基本上我算是会用blender的,但是老记不住很多热键,以前我可以做很复杂的模型,但是要是不是的去查blender的操作热键。现在我完全不参与模型的建模,只让codex帮我生成。 但是我还是在查blender的热键,我现在需要的是numpad .这样聚焦到一个对象的方法,我需要的是numpad /这样的方法来把除了选中的对象,其他都隐藏的热键。 换言之,我现在需要高效的人工视觉复检blender mcp的成果,这是我对自己目前blender能力的需求了。

tinyfool 2 0

相关帖子

更多

你们的Codex额度提前耗完了没?戒断反应如何?

<p>我在第三天就消耗了只剩1%,忍了一天,然后今天干脆用这最后的1%,开着5.6 Sol 极高 强推我一个提示词笔记本应用的功能落地。最终用时3小时,居然还是跑完了。但是现在还是出现一些戒断反应,感觉啥也做不了,就无精打采的,困。</p> <p>我做了一个Prompt Notebook,专门用来收藏或者记录自己手搓的生图提示词。带Chrome一键收藏插件。支持AI优化提示词。支持提示词中提取常用字段作为提示词百科词汇。也自带生图功能用来测提示词。但是要搭配Cloudflare R2+Worker的图床。</p> <p>今天主要是做一个AI模特的资产库。将常用的AI模特固定下来,进行身份设定,以及模特的一些角色定妆图。之后生图可以直接调用AI模特自动作为垫图。</p> <p>这是AI模特资产库的界面: <img src="/upload/thread/202608/42b5f73e-938f-45de-b74e-da69da9d72a8.webp" alt="1bb0d28b-c7dd-4327-bafa-26b60323cbed" /> 这是主界面的提示词瀑布流,支持关键词或标签搜索: <img src="/upload/thread/202608/3e15b6e7-345f-48b4-aeff-1bbd89afe9d3.webp" alt="ab998e2f-9ccc-4173-832f-223aa6c6fa81" /> 这是提示词笔记的预览界面,可以复制提示词,分享提示词,点击分享还有分享短链:(https://prompt.jintao.co.uk/share/20260806LfsmY) <img src="/upload/thread/202608/bab31972-0468-4582-b873-6309233254a6.webp" alt="20260806-201213" /> 可惜现在没额度了,我又不想换模型折腾。现在还有些界面细节和小功能需要落地完善,可能还要虫子要抓。弄好了,打算放GitHub开源。</p> <p>有朋友想试试的么?</p>

shynloc 2 4

重返OurCoders

<p>从2014年以来好久没逛过这个谈论了,不知道这个谈论的运营现在怎么样,开发人员是不是原来的人,前端UI做得不太好</p>

梁建溢 4 18

测试OurCoders能否发布照片

<p>今天小区的彩虹🌈<img src="https://share.icloud.com/photos/0ebtFydNy8r_gJETON61u4Ybg" alt="图片说明" /></p> <p>看来不能直接发照片,可以把iCloud Link的功能派上用场!</p>

梁建溢 15 45