OC

Codex 把 GPU 内核跑快 232 倍:排名第 12 说明数字必须放回测试条件
科技 · 2026-08-16 · 开发者工具 · 阅读 1

Codex 把 GPU 内核跑快 232 倍:排名第 12 说明数字必须放回测试条件

作者:林岚|OC 开发者生态编辑

作者:林岚|OC 开发者生态编辑

开发者 Sankalp 在比赛复盘称,他借助 Codex、Claude 和自动化测试循环,在 GPU Mode 与 Core Automation 举办的 QR 分解竞赛,把基准总耗时从约 419000 微秒降至 1805 微秒,约快 232 倍,最终排名第 12,共 183 名参赛者。

一句话结论:232 倍不是 AI 把任意生产 CUDA 程序普遍加速 232 倍,而是在固定 B200、固定输入分布和竞赛校验器下,用 14 天、1500 多次提交把通用库基线改成高度专用内核。

任务要求对一批 FP32 方阵执行紧凑 Householder QR 分解,返回与 torch.geqrf 相同形式的 H 和 tau。校验器会重建 Q,检查 A≈QR、正交性和上三角结果,再按多种尺寸与条件数样本的几何平均耗时排名。内部可以使用 FP16、FP8 或 NVFP4,但返回结果仍要通过接近 FP32 的检查。

性能突破来自把串行工作限制在窄面板,再用 blocked Householder 和 WY 表示把后续更新变成适合 Tensor Core 的矩阵乘法。不同矩阵尺寸、批量和低秩分布又使用不同策略。换句话说,模型没有发明 QR 分解,而是快速组合了成熟算法、低精度余量、融合和硬件特化。

窄面板串行计算与大块矩阵乘法构成主要优化路径

Codex 的作用是执行长反馈循环:修改代码、通过 Modal 和分析器测量、提交排行榜、记录成功失败,再维护多个候选分支。作者仍要学习算法、判断瓶颈、设计提示并阻止局部最优。自动化降低的是实验吞吐成本,不是领域知识归零。

此前 OC 报道过,一批通过标准测试的 AI 生成 GPU 内核在严格验证下有 98.5% 失败。今天的案例不是反例,因为这个比赛有明确校验器且最终结果被持续测试;它同时提醒我们,竞赛正确性仍只覆盖给定合同,不能自动外推到所有输入、硬件和生产容错要求。

关键事实

  • 任务:NVIDIA B200 上的批量紧凑 Householder QR 分解
  • 结果:约 419000 微秒降至 1805 微秒,作者报告约 232 倍加速
  • 投入:14 天、超过 1500 次提交,最终第 12/183
  • 边界:相对特定基线、硬件、输入分布和校验器

OC 判断

这类自动研究最适合目标可执行、反馈便宜、正确性可机器判定的任务。AI 能把一次次试验变成流水线,但人仍要定义合同和判断哪些捷径越界。没有严格测试,232 倍可能只是 232 倍地更快算错。

为什么重要

  • 对开发者:应先投资可重复基准、正确性检查和实验日志,再扩大 Agent 循环。
  • 对团队:专用内核可能带来巨大收益,也会增加硬件绑定和维护成本。
  • 对读者:性能倍数必须连同基线、数据分布、精度与排行榜名次一起阅读。

参考来源

相关阅读

基于标题、摘要和正文内容自动匹配。

更多科技

评论

围绕这篇文章补充信息、提出问题或分享观察。

0
暂无评论。

发表评论

继续看看 OC 用户围绕这个话题说了什么、做了什么。

相关帖子

更多

你们的Codex额度提前耗完了没?戒断反应如何?

<p>我在第三天就消耗了只剩1%,忍了一天,然后今天干脆用这最后的1%,开着5.6 Sol 极高 强推我一个提示词笔记本应用的功能落地。最终用时3小时,居然还是跑完了。但是现在还是出现一些戒断反应,感觉啥也做不了,就无精打采的,困。</p> <p>我做了一个Prompt Notebook,专门用来收藏或者记录自己手搓的生图提示词。带Chrome一键收藏插件。支持AI优化提示词。支持提示词中提取常用字段作为提示词百科词汇。也自带生图功能用来测提示词。但是要搭配Cloudflare R2+Worker的图床。</p> <p>今天主要是做一个AI模特的资产库。将常用的AI模特固定下来,进行身份设定,以及模特的一些角色定妆图。之后生图可以直接调用AI模特自动作为垫图。</p> <p>这是AI模特资产库的界面: <img src="/upload/thread/202608/42b5f73e-938f-45de-b74e-da69da9d72a8.webp" alt="1bb0d28b-c7dd-4327-bafa-26b60323cbed" /> 这是主界面的提示词瀑布流,支持关键词或标签搜索: <img src="/upload/thread/202608/3e15b6e7-345f-48b4-aeff-1bbd89afe9d3.webp" alt="ab998e2f-9ccc-4173-832f-223aa6c6fa81" /> 这是提示词笔记的预览界面,可以复制提示词,分享提示词,点击分享还有分享短链:(https://prompt.jintao.co.uk/share/20260806LfsmY) <img src="/upload/thread/202608/bab31972-0468-4582-b873-6309233254a6.webp" alt="20260806-201213" /> 可惜现在没额度了,我又不想换模型折腾。现在还有些界面细节和小功能需要落地完善,可能还要虫子要抓。弄好了,打算放GitHub开源。</p> <p>有朋友想试试的么?</p>

shynloc 2 4

重返OurCoders

<p>从2014年以来好久没逛过这个谈论了,不知道这个谈论的运营现在怎么样,开发人员是不是原来的人,前端UI做得不太好</p>

梁建溢 4 18

你为什么不移民?

<p>我是一定要移了,在这里连正常呼吸都不行了。以前正常呼吸指的是言论自由,现在是生物学意义的正常呼吸问题了。</p> <p>你为什么不移民?</p>

tinyfool 740 15

测试OurCoders能否发布照片

<p>今天小区的彩虹🌈<img src="https://share.icloud.com/photos/0ebtFydNy8r_gJETON61u4Ybg" alt="图片说明" /></p> <p>看来不能直接发照片,可以把iCloud Link的功能派上用场!</p>

梁建溢 15 45